画像に含まれる目の状態を判定する画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置
【課題】本発明は、精度良く目の状態を判定することが可能な画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置を提供する。
【解決手段】注目画像に含まれる目の状態を判定するにあたり、前記注目画像から目領域を検出し、特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得し、前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出し、前記近似特徴量に基づいて前記目領域の目の状態を判定する。
【解決手段】注目画像に含まれる目の状態を判定するにあたり、前記注目画像から目領域を検出し、特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得し、前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出し、前記近似特徴量に基づいて前記目領域の目の状態を判定する。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像に含まれる目の状態を判定する画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置に関する。
【背景技術】
【０００２】
従来の赤目補正の技術として、ユーザーによって赤目であると指定された領域から赤い色相を有する画素を抽出し、黒い画素に置き換えることにより、赤目を補正する技術が知られている（特許文献１、段落００３４、参照。）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００４−３０４３４３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述した技術においては、フラッシュによって赤く変化した赤目については補正を行うことができるが、フラッシュによって金色等に変化した赤目については補正を行うことができないという問題があった。さらに、一様な色で塗りつぶすことにより、赤目となった瞳孔部分が本来有する色や、色の階調性が失われ、不自然な補正結果となるという問題があった。
本発明は、前記の課題を解決するためになされたものであり、精度良く目の状態を判定することが可能な画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置を提供することを目的とする。
【課題を解決するための手段】
【０００５】
前記課題の少なくとも一部を解決するために本願発明は以下の態様を採る。すなわち、画像処理装置は目領域検出部を備え、該目領域検出部が前記注目画像から目領域を検出する。画像処理装置は取得部を備え、該取得部が特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する。特徴量検出部は、前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する。さらに、目状態判定部は、前記近似特徴量に基づいて前記目領域の目の状態を判定する。前記目モデルによって再現される目画像と前記目領域とが近似するときの前記近似特徴量に基づいて目の状態を判定するため、目の画素の色相のみに基づいて目の状態を判定するよりも高精度に目の状態を判定することができる。
【０００６】
前記目モデルの好適な一例として、前記取得部が、目画像を含む複数のサンプル画像の各画素の色彩値を主成分分析することにより、各主成分の固有ベクトルを線形結合することにより目画像を再現する前記目モデルを取得するようにしてもよい。複数のサンプル画像の各画素の色彩値の主成分分析によれば、目の状態に応じた色彩値分布の変動を統計的に解析することができ、単純に特定部位の色相に基づいて目の状態を判定する場合よりも高精度に目の状態を判定することができる。
【０００７】
本発明によって判定を行う目の状態の一例として、赤目判定をおこなうようにしてもよい。すなわち、少なくとも赤目の目画像を含む複数の前記サンプル画像と、正常な目画像を含む複数の前記サンプル画像とを主成分分析することにより前記目モデルを取得すれば、赤目であるか否かに相関する前記特徴量に基づいて赤目判定を高精度に行うことができる。さらに、前記目領域の目が赤目であると特定された場合には、赤目補正をおこなうようにしてもよい。赤目らしさに相関する前記近似特徴量を補正することにより、該近似特徴量を赤目らしくない値とすることができる。このように補正された前記近似特徴量に基づいて前記目モデルによって目画像を再現すれば、該目画像において赤目を解消することができる。赤目らしさに相関する前記近似特徴量のみを補正すれば、他の目の特徴は維持されるため、自然な赤目補正を実現することができる。
【０００８】
本発明の手法によって判定可能な目の状態は赤目に限られず、他の目の状態も判定することができる。例えば、虹彩の色が異なる目画像を含む複数の前記サンプル画像を主成分分析することにより設定された前記目モデルを取得し、前記近似特徴量に基づいて虹彩の色を判定するようにしてもよい。虹彩の色は、人物固有のものであり、人種等の判別や個人認証等に応用することができる。また、虹彩の色に相関する前記近似特徴量を補正することにより、虹彩の色を補正することも可能である。
【０００９】
なお、本発明は、種々の態様で実現することが可能であり、例えば、画像処理方法および装置、特徴部位の位置検出方法および装置、表情判定方法および装置、これらの方法または装置の機能を実現するための画像処理プログラム、その画像処理プログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号、等の形態で実現することができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。
【図２】実施例におけるＡＡＭ設定処理の流れを示すフローチャートである。
【図３】サンプル画像ＳＩの一例を示す説明図である。
【図４】サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。
【図５】サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。
【図６】平均形状ｓ0の一例を示す説明図である。
【図７】形状ベクトルｓiおよび形状パラメーターｐiと顔の形状ｓとの関係を例示した説明図である。
【図８】サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。
【図９】平均顔画像Ａ0（ｘ）の一例を示す説明図である。
【図１０】目テクスチャーモデルのためのサンプル画像ＳＩの一例を示す説明図である。
【図１１】テクスチャーパラメーターと目画像との関係を示すグラフである。
【図１２】実施例における顔特徴検出処理の流れを示すフローチャートである。
【図１３】注目画像ＯＩにおける顔領域ＦＡの検出結果の一例を示す説明図である。
【図１４】実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。
【図１５】グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。
【図１６】平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。
【図１７】実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。
【図１８】ＣＰ設定位置補正処理の結果の一例を示す説明図である。
【図１９】目特徴検出処理（テクスチャー検出処理）の流れを示すフローチャートである。
【図２０】平均形状画像から目テクスチャー画像を抽出する様子を示す説明図である。
【図２１】赤目判定・補正処理の流れを示すフローチャートである。
【図２２】赤目が補正される様子を示す図である。
【発明を実施するための形態】
【００１１】
以下、本発明に係る画像処理装置の一態様であるプリンターについて、図面を参照しつつ、実施例に基づいて説明する。
【００１２】
Ａ．実施例：
Ａ１．画像処理装置の構成：
図１は、本発明の本実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。本実施例のプリンター１００は、メモリーカードＭＣ等から取得した画像データに基づき画像を印刷する、いわゆるダイレクトプリントに対応したインクジェット式カラープリンターである。プリンター１００は、プリンター１００の各部を制御するＣＰＵ１１０と、ＲＯＭやＲＡＭによって構成された内部メモリー１２０と、ボタンやタッチパネルにより構成された操作部１４０と、液晶ディスプレイにより構成された表示部１５０と、印刷機構１６０と、カードインターフェース（カードＩ／Ｆ）１７０と、を備えている。プリンター１００は、さらに、他の機器（例えばデジタルスチルカメラやパーソナルコンピューター）とのデータ通信をおこなうためのインターフェースを備えていてもよい。プリンター１００の各構成要素は、バスを介して双方向通信可能に接続されている。
【００１３】
印刷機構１６０は、印刷データに基づき印刷をおこなう。カードインターフェース１７０は、カードスロット１７２に挿入されたメモリーカードＭＣとの間でデータのやり取りをおこなうためのインターフェースである。なお、本実施例では、メモリーカードＭＣに画像データを含む画像ファイルが格納されている。
【００１４】
内部メモリー１２０には、画像処理部２００と、表示処理部３１０と、印刷処理部３２０と、が格納されている。画像処理部２００は、コンピュータープログラムであり、所定のオペレーティングシステムの下で、ＣＰＵ１１０により実行されることで顔特徴検出処理や目特徴検出処理や赤目判定・補正処理をおこなう。顔特徴検出処理は、顔画像における所定の特徴部位（例えば目尻や鼻頭やフェイスライン）の位置を検出する処理である。顔特徴検出処理については、後に詳述する。表示処理部３１０、および、印刷処理部３２０についてもＣＰＵ１１０により実行されることでぞれぞれの機能を実現する。
【００１５】
画像処理部２００は、プログラムモジュールとして、設定部２１０と、特徴位置検出部２２０と、顔領域検出部２３０と、テクスチャー検出部２４０と、赤目判定部２５０と、赤目補正部２６０と、を含んでいる。特徴位置検出部２２０とテクスチャー検出部２４０は、それぞれ生成部２２２，２４２と、算出部２２４，２４４と、補正部２２６，２４６と、を含んでいる。これら各部の機能については、後述の顔特徴検出処理および赤目判定・補正処理の説明において詳述する。
【００１６】
表示処理部３１０は、表示部１５０を制御して、表示部１５０上に処理メニューやメッセージ、画像等を表示させるディスプレイドライバーである。印刷処理部３２０は、画像データから印刷データを生成し、印刷機構１６０を制御して、印刷データに基づく画像の印刷を実行するためのコンピュータープログラムである。ＣＰＵ１１０は、内部メモリー１２０から、これらのプログラム（画像処理部２００、表示処理部３１０、印刷処理部３２０）を読み出して実行することにより、これら各部の機能を実現する。
【００１７】
内部メモリー１２０には、ＡＡＭ情報ＡＭＩが格納されている。ＡＡＭ情報ＡＭＩは、後述のＡＡＭ設定処理によって予め設定される情報であり、後述の顔特徴検出処理や目特徴検出処理において取得され、使用される。ＡＡＭ情報ＡＭＩの内容については、後述のＡＡＭ設定処理の説明において詳述する。
【００１８】
Ａ２．ＡＡＭ設定処理：
図２は、本実施例におけるＡＡＭ設定処理の流れを示すフローチャートである。ＡＡＭ設定処理は、ＡＡＭ（アクティブアピアランスモデル（Ａｃｔｉｖｅ Ａｐｐｅａｒａｎｃｅ Ｍｏｄｅｌ））と呼ばれる画像のモデル化に用いられる顔形状モデルおよび顔テクスチャーモデルおよび目テクスチャーモデルを設定する処理である。本実施例において、ＡＡＭ設定処理は、オペレーターがコンピューターを使用することによりおこなわれる。コンピューターは、ＣＰＵとＲＡＭとＲＯＭとＨＤＤとディスプレイと入力装置等を有しており、これらがバスによって接続されている。ＣＰＵはＨＤＤに記録されたプログラムを読み出し、該プログラムにしたがった演算処理を実行することにより、コンピューターが後述する各処理を実行させる。なお、目テクスチャーモデルは、特許請求の範囲の「目モデル」に相当する。
【００１９】
はじめに、オペレーターは、人物の顔を含んだ複数の画像をサンプル画像ＳＩとして用意する（ステップＳ１１０）。図３は、サンプル画像ＳＩの一例を示す説明図である。図３に示すように、サンプル画像ＳＩは、個性・人種・性別・表情・向き（正面向き、上向き、下向き、右向き、左向き等）といった種々の属性に関して互いに相違する顔画像が含まれるように用意される。これらのサンプル画像ＳＩによれば、ＡＡＭによってあらゆる顔画像を精度良くモデル化することが可能となり、あらゆる顔画像を対象とした精度の良い顔特徴検出処理（後述）の実行が可能となる。なお、サンプル画像ＳＩは、学習用画像とも呼ばれる。また、本明細書において、左右方向とは、被写体の人物を基準とした左右方向を示すものとする。
【００２０】
以下、サンプル群Ｇ１に属するサンプル画像ＳＩに対しておこなう処理を例に説明する。サンプル群Ｇ１に属するそれぞれのサンプル画像ＳＩに含まれる顔画像に、特徴点ＣＰを設定する（ステップＳ１２０）。図４は、サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。特徴点ＣＰは、顔画像における所定の特徴部位の位置を示す点である。本実施例では、所定の特徴部位として、人物の顔における眉毛上の所定位置（例えば端点や４分割点等、以下同じ）、目の輪郭上の所定位置、鼻筋および小鼻の輪郭上の所定位置、上下唇の輪郭上の所定位置、顔の輪郭（フェイスライン）上の所定位置といった６８箇所の部位が設定されている。すなわち、本実施例では、人物の顔に共通して含まれる顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置を、特徴部位として設定する。図４に示すように、特徴点ＣＰは、各サンプル画像ＳＩにおいてオペレーターにより指定された６８個の特徴部位を表す位置に設定（配置）される。このように設定された各特徴点ＣＰは各特徴部位に対応しているため、顔画像における特徴点ＣＰの配置は顔の形状を特定していると表現することができる。
【００２１】
サンプル画像ＳＩにおける特徴点ＣＰの位置は、座標により特定される。図５は、サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。図５において、ＳＩ（ｇ）（ｇ＝１，２，３・・・）は各サンプル画像ＳＩを示しており、ＣＰ（ｋ）（ｋ＝０，１，・・・，６７）は各特徴点ＣＰを示している。また、ＣＰ（ｋ）−Ｘは、特徴点ＣＰ（ｋ）のＸ座標を示しており、ＣＰ（ｋ）−Ｙは、特徴点ＣＰ（ｋ）のＹ座標を示している。特徴点ＣＰの座標としては、顔の大きさと顔の傾き（画像面内の傾き）と顔のＸ方向およびＹ方向の位置とのそれぞれについて正規化されたサンプル画像ＳＩにおける所定の基準点（例えば画像の左下の点）を原点とした座標が用いられる。また、本実施例では、１つのサンプル画像ＳＩに複数の人物の顔画像が含まれる場合が許容されており（例えばサンプル画像ＳＩ（２）には２人の顔画像が含まれている）、１つのサンプル画像ＳＩにおける各人物は人物ＩＤによって特定される。各サンプル画像ＳＩと、各特徴点ＣＰの座標と、人物ＩＤとは、コンピューターに入力される。
【００２２】
つづいて、オペレーターは、ＡＡＭの顔形状モデルの設定をおこなう（ステップＳ１３０）。具体的には、各サンプル画像ＳＩにおける６８個の特徴点ＣＰの座標（Ｘ座標およびＹ座標）により構成される座標ベクトル（図５参照）に対する主成分分析をコンピューターがおこない、さらにコンピューターが特徴点ＣＰの位置により特定される顔の形状ｓを下記の式（１）によりモデル化する。なお、顔形状モデルは、特徴点ＣＰの配置モデルとも呼ぶ。
【００２３】
【数１】
【００２４】
前記式（１）において、ｓ0は平均形状である。図６は、平均形状ｓ0の一例を示す説明図である。図６（ａ）および（ｂ）に示すように、平均形状ｓ0は、サンプル画像ＳＩの各特徴点ＣＰについての平均位置（平均座標）により特定される平均的な顔の形状を表すモデルである。なお、本実施例では、平均形状ｓ0において、外周に位置する特徴点ＣＰ（フェイスラインおよび眉毛、眉間に対応する特徴点ＣＰ、図４参照）を結ぶ直線により囲まれた領域（図６（ｂ）においてハッチングを付して示す）を「平均形状領域ＢＳＡ」と呼ぶ。コンピューターは、平均形状ｓ0に対して、図６（ａ）に示すように、特徴点ＣＰを頂点とする複数の三角形領域ＴＡを、平均形状領域ＢＳＡをメッシュ状に分割するように設定する。
【００２５】
顔形状モデルを表す前記式（１）において、ｓiは形状ベクトルであり、ｐiは形状ベクトルｓiの重みを表す形状パラメーターである。形状ベクトルｓiは、顔の形状ｓの特性を表すベクトルであり、主成分分析により得られる第ｉ主成分に対応する固有ベクトルである。前記式（１）に示すように、本実施例における顔形状モデルでは、特徴点ＣＰの配置を表す顔形状ｓが、平均形状ｓ0とｎ個の形状ベクトルｓiの線形結合との和としてモデル化される。前記式（１ａ）が示すように、顔形状モデルにおいて形状パラメーターｐiを適切に設定することにより、あらゆる画像における顔の形状ｓを再現することが可能である。また、前記式（１ｂ）が示すように、顔形状モデルにおいて形状パラメーターｐiを適切に設定することにより、あらゆる形状ｓから平均形状ｓ0へと逆変換することができる。
【００２６】
図７は、形状ベクトルｓiおよび形状パラメーターｐiと、顔の形状ｓとの関係を例示した説明図である。図７（ａ）に示すように、コンピューターは、顔の形状ｓを特定するために、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率の高い順に選択された個数ｎ（本実施例では１０個とする。）の固有ベクトルを、形状ベクトルｓiとして採用する。形状ベクトルｓiのそれぞれは、図７（ａ）の矢印に示すように、各特徴点ＣＰの移動方向・移動量と対応している。本実施例では、最も寄与率の大きい第１主成分に対応する第１形状ベクトルｓ1は顔の左右振りにほぼ相関するベクトルとなっており、形状パラメーターｐ1を大小することにより、図７（ｂ）に示すように、顔の形状ｓの横方向の顔向きが変化する。２番目に寄与率の大きい第２主成分に対応する第２形状ベクトルｓ2は顔の上下振りにほぼ相関するベクトルとなっており、形状パラメーターｐ2を大小することにより、図７（ｃ）に示すように、顔の形状ｓの縦方向の顔向きが変化する。また、３番目に寄与率の大きい第３主成分に対応する第３形状ベクトルｓ3は顔の形状の縦横比にほぼ相関するベクトルとなっており、４番目に寄与率の大きい第４主成分に対応する第４形状ベクトルｓ4は口の開きの程度にほぼ相関するベクトルとなっている。このように、形状パラメーターの値は、顔の表情や、顔向きなど顔画像の特徴を表す。
【００２７】
なお、形状モデル設定ステップ（ステップＳ１３０）においてコンピューターが設定した平均形状ｓ0および形状ベクトルｓiは、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。つづいて、コンピューターはＡＡＭの顔テクスチャーモデルの設定をおこなう（ステップＳ１４０）。具体的には、まず、各サンプル画像ＳＩに対して、サンプル画像ＳＩにおける特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しくなるように、画像変換（以下、「ワープＷ」とも呼ぶ）をおこなう。
【００２８】
図８は、サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。コンピューターは、各サンプル画像ＳＩにおいて、平均形状ｓ0と同様に、外周に位置する特徴点ＣＰにより囲まれた領域をメッシュ状に分割する複数の三角形領域ＴＡを設定する。ワープＷは、複数の三角形領域ＴＡのそれぞれについてのアフィン変換の集合である。すなわち、ワープＷにおいては、サンプル画像ＳＩにおけるある三角形領域ＴＡの画像は、平均形状ｓ0における対応する三角形領域ＴＡの画像へとアフィン変換される。コンピューターは、ワープＷにより、特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しいサンプル画像ＳＩ（以下「サンプル画像ＳＩｗ」と表す）を生成する。
【００２９】
なお、各サンプル画像ＳＩｗは、平均形状領域ＢＳＡ（図８においてハッチングを付して示す）を内包する矩形枠を外周とし、平均形状領域ＢＳＡ以外の領域（以下「マスク領域ＭＡ」とも呼ぶ）がマスクされた画像として生成される。平均形状領域ＢＳＡとマスク領域ＭＡとを併せた画像領域を基準領域ＢＡと呼ぶ。また、コンピューターは、各サンプル画像ＳＩｗを、例えば５６画素×５６画素のサイズの画像として正規化する。
【００３０】
次に、コンピューターは、各サンプル画像ＳＩｗの画素群ｘのそれぞれにおける色彩値（ＲＧＢ）により構成される色彩値ベクトルに対する主成分分析を行い、顔のテクスチャー（「見え」とも呼ぶ）Ａ（ｘ）を下記の式（２）によりモデル化する。なお、画素群ｘは、平均形状領域ＢＳＡに位置する画素の集合である。
【数２】
【００３１】
前記式（２）において、Ａ0（ｘ）は平均顔画像である。図９は、平均顔画像Ａ0（ｘ）の一例を示す説明図である。平均顔画像Ａ0（ｘ）は、ワープＷの後のサンプル画像ＳＩｗ（図８参照）の平均の顔が表された画像である。すなわち、平均顔画像Ａ0（ｘ）は、サンプル画像ＳＩｗの平均形状領域ＢＳＡ内の画素群ｘの画素値（色彩値）の平均をとることにより算出される画像である。従って、平均顔画像Ａ0（ｘ）は、平均的な顔の形状における平均的な顔のテクスチャー（見え）を表すモデルである。なお、平均顔画像Ａ0（ｘ）は、サンプル画像ＳＩｗと同様に、平均形状領域ＢＳＡとマスク領域ＭＡとで構成され、例えば５６画素×５６画素のサイズの画像として算出される。
【００３２】
顔テクスチャーモデルを表す前記式（２）において、ａk（ｘ）はテクスチャーベクトルであり、λkはテクスチャーベクトルａk（ｘ）の重みを表すテクスチャーパラメーターである。テクスチャーベクトルａk（ｘ）は、顔のテクスチャーＡ（ｘ）の特性を表すベクトルであり、具体的には、主成分分析により得られる第ｋ主成分に対応する固有ベクトルである。すなわち、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率に基づき設定された個数ｍ（本実施例では４個とする。）の固有ベクトルが、テクスチャーベクトルａk（ｘ）として採用される。本実施例では、最も寄与率の大きい第１主成分に対応する第１テクスチャーベクトルＡ1（ｘ）は、顔色の変化（性別の差とも捉えられる）にほぼ相関するベクトルとなっている。
【００３３】
前記式（２）に示すように、本実施例における顔テクスチャーモデルでは、顔の見えを表す顔のテクスチャーＡ（ｘ）が、平均顔画像Ａ0（ｘ）とｍ個のテクスチャーベクトルａk（ｘ）の線形結合との和としてモデル化される。前記式（２ａ）に示すように、顔テクスチャーモデルにおいてテクスチャーパラメーターλkを適切に設定することにより、あらゆる画像における顔のテクスチャーＡ（ｘ）を再現することが可能である。逆に、前記式（２ｂ）に示すように、顔テクスチャーモデルにおいてテクスチャーパラメーターλkを適切に設定することにより、あらゆる画像における顔のテクスチャーＡ（ｘ）から平均顔画像Ａ0（ｘ）へと逆変換することができる。
【００３４】
なお、テクスチャーモデル設定ステップ（図２のステップＳ１４０）において設定された平均顔画像Ａ0（ｘ）およびテクスチャーベクトルａk（ｘ）は、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。コンピューターはＡＡＭ情報ＡＭＩをいずれかの記録媒体に記録しておき、プリンター１００の製造時において該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録した内部メモリー１２０をプリンター１００に組み込むか、プリンター１００に組み込むまれた内部メモリー１２０に対して該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録させる。
【００３５】
ここまでの処理により、顔の形状をモデル化する顔形状モデルと、顔のテクスチャーをモデル化する顔テクスチャーモデルが設定される。設定された顔形状モデルと顔テクスチャーモデルとを組み合わせることにより、すなわち合成されたテクスチャーＡ（ｘ）に対して平均形状ｓ0から形状ｓへの変換（図８に示したワープＷの逆変換）をおこなうことにより、あらゆる顔画像の形状およびテクスチャーを再現することが可能である。顔形状モデルと、顔テクスチャーモデルが設定されると、同様の手法によって目モデルとしての目テクスチャーモデルを設定する。
【００３６】
目テクスチャーモデルの設定もＡＡＭ設定処理（図２）に従って行われる。ただし、目はほぼ平面であると考えることができるため、目についての形状モデルの設定（ステップＳ１３０）は実行しない。目テクスチャーモデルを設定するにあたり、オペレーターは、人物の目画像を含んだ複数の画像をサンプル画像ＳＩとして用意する（ステップＳ１１０）。図１０は、サンプル画像ＳＩの一例を示す説明図である。図４に示すように、サンプル画像ＳＩは、目における瞳の位置（中央、左方向、右方向、上方向、下方向）・瞳の色・赤目（フラッシュの光が網膜にて反射したときの目のことであり、必ずしも色相が赤色であるものに限られない。）といった種々の属性に関して互いに相違する目画像が含まれるように用意される。これらの属性は、各サンプル画像ＳＩに対応づけられている。目テクスチャーモデルのロバスト性を向上させるために、眼鏡を着用した場合のサンプル画像ＳＩも含ませるようにしても良い。これらのサンプル画像ＳＩによれば、ＡＡＭによってあらゆる目画像を精度良くモデル化することが可能となり、あらゆる目画像を対象とした精度の良い目特徴検出処理（後述）の実行が可能となる。なお、右目と左目は互いに左右対称にモデル化することができるため、本実施例では右目の目画像のみをモデル化する。
【００３７】
瞳の位置や赤目の場合を含めた瞳の色をモデル化することができればよいため、サンプル画像ＳＩにおいて目の形状（目輪郭）のばらつきは小さい方が望ましい。なお、目の形状や大きさについては目輪郭について特徴点ＣＰを設定する顔形状モデルによって検出が可能である。目画像についてのサンプル画像ＳＩは、顔画像についてのサンプル画像ＳＩｗから目に対応する画像領域のみを抽出することにより用意されてもよい。サンプル画像ＳＩｗは、各サンプル画像ＳＩを、特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しくなるように変形したものであるため、目画像の位置と形状と大きさが一定となる。従って、サンプル画像ＳＩｗから一定の位置と形状と大きさの画像領域を抽出することにより、形状と大きさが平均化された目画像についてのサンプル画像ＳＩを得ることができる。本実施例では、右目をモデル化するものとし、左目のサンプル画像ＳＩについては、予め左右反転させておく。
【００３８】
目画像についてのサンプル画像ＳＩが用意できると、上述した顔テクスチャーモデルと同様のＡＡＭ設定処理をおこなうことにより目テクスチャーモデルを設定する。顔テクスチャーモデルと同様に、前記の（２）式によって目画像のテクスチャーが再現できる。なお、目テクスチャーモデルにおいては、前記の（２）式のＡ（ｘ）は任意の目画像を示し、Ａ0（ｘ）は平均目画像を示し、ａk（ｘ）とλkは顔テクスチャーモデルと同様にテクスチャーベクトルとテクスチャーパラメーターを示す。本実施例では、最も寄与率の大きい第１主成分に対応する第１テクスチャーベクトルａ1は瞳の水平方向の位置にほぼ相関するベクトルとなっており、テクスチャーパラメーターλ1を大小することにより、目における瞳の水平方向の位置が変化する。２番目に寄与率の大きい第２主成分に対応する第２テクスチャーベクトルλ2は赤目であるか否かにほぼ相関するベクトルとなっており、テクスチャーパラメーターλ2を大小することにより、赤目らしさが変化する。
【００３９】
図１１（ａ）はテクスチャーパラメーターλ1の値と瞳の（水平）位置との相関を示し、図１１（ｂ）はテクスチャーパラメーターλ1，λ2の値と赤目であるか否かの相関を示している。図１１（ａ）において、横軸はテクスチャーパラメーターλ1の値（−１〜１）を示し、縦軸は目における瞳の水平方向の位置を示している。同図に示すように、テクスチャーパラメーターλ1の値が大きければ大きいほど、瞳の位置は内寄り（鼻寄り：右目については左寄り）となり、テクスチャーパラメーターλ1の値が０のとき瞳の位置は内寄りでも外寄りでもない中央（視線が正面方向となるときの瞳の位置）となる。テクスチャーパラメーターλ1の値が小さければ小さいほど、瞳の位置は外寄り（輪郭寄り：右目については右寄り）となる。
【００４０】
図１１（ｂ）において、横軸と縦軸は、テクスチャーパラメーターλ1，λ2の値（−１〜１）を示している。図１１（ｂ）においてテクスチャーパラメーターλ1，λ2をプロットしており、赤目であるものは○で示し、赤目でないものは●で示している。図１１（ｂ）に示すように、テクスチャーパラメーターλ2の値が大きくなるほど、赤目であるものが多く分布している。従って、赤目であるか否かはテクスチャーパラメーターλ2に対して正の相関を有することとなる。一方、テクスチャーパラメーターλ1に関しては、赤目であるものと、赤目でないものがほぼ均等に分布しており、相関を有していない。テクスチャーパラメーターλ2の値が大きければ大きいほど赤目らしく、テクスチャーパラメーターλ2の値が小さければ小さいほど赤目らしくなくなる（正常となる）。なお、赤目らしさとは、主として、瞳の中央の瞳孔部分の赤目色の強さ（主として赤みや金色みの強さ）を表すものであり、−１からテクスチャーパラメーターλ2を大きくすると、瞳孔部分の色が瞳本来の色→茶（λ2≒０）→赤→金色に変動する。また、テクスチャーパラメーターλ2には統計的に赤目のサンプル画像ＳＩが有しているテクスチャーの特徴が反映されるため、テクスチャーパラメーターλ2を変化させることにより、瞳孔部分の単純な色以外の特徴も変化する。例えば、赤目になることによって変動する瞳孔部分の色の階調変化も変動することが予測される。
【００４１】
本実施例において、赤目のサンプル画像ＳＩと、赤目でないサンプル画像ＳＩの個数を同等とすることにより、テクスチャーパラメーターλ2が０となるとき、瞳孔の色は赤目であるとも正常であるとも言えない濃い茶色を示すこととなる。瞳における瞳孔の外側の虹彩部分の色については、赤目であるか否かに応じた色の変動が少なく、当該成分の変動は３，４番目に寄与率の大きい第３，４主成分に対応する第３，４テクスチャーベクトルａ3,ａ4にほぼ相関することとなる。本実施例では、第４主成分（ｍ＝４）までを使用することとするが、第５主成分以降は瞳の大きさや瞳の上下位置等に対応する成分となる。なお、第３，４テクスチャーベクトルａ3,ａ4によって変動する色彩値の色相方向が互いに異なっている。例えば、第３テクスチャーベクトルａ3はＲ軸に沿って色彩値が変動し、第４テクスチャーベクトルａ４はＢ軸に沿って色彩値が変動する。
【００４２】
なお、目テクスチャーモデルについてのテクスチャーモデル設定ステップ（図２のステップＳ１４０）において設定された平均目画像Ａ0（ｘ）およびテクスチャーベクトルａk（ｘ）は、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。コンピューターはＡＡＭ情報ＡＭＩをいずれかの記録媒体に記録しておき、プリンター１００の製造時において該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録した内部メモリー１２０をプリンター１００に組み込むか、プリンター１００に組み込むまれた内部メモリー１２０に対して該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録させる。顔特徴検出処理と目特徴検出処理を実行するにあたり、プリンター１００において、内部メモリー１２０から目モデルとしてのＡＡＭ情報ＡＭＩを取得するＣＰＵは本発明の「取得部」に相当する。
【００４３】
Ａ３．顔特徴検出処理：
図１２は、実施例における顔特徴検出処理の流れを示すフローチャートである。本実施例における顔特徴検出処理は、ＡＡＭ（顔モデル（顔形状モデル））を利用して注目画像に含まれる顔画像における特徴点ＣＰの配置を決定する特徴点ＣＰ設定位置補正処理（ステップＳ２５０）により、顔画像における特徴部位の位置を検出する処理である。上述したように、本実施例では、ＡＡＭ設定処理（図２）において、人物の顔の器官（眉毛、目、鼻、口）および顔の輪郭における計６８箇所の所定位置が、特徴部位として設定されている（図４参照）。そのため、本実施例の顔特徴検出処理では、人物の顔の器官および顔の輪郭における所定位置を示す６８個の特徴点ＣＰの配置が決定される。
【００４４】
なお、顔特徴検出処理によって顔画像における特徴点ＣＰの配置が決定されると、顔画像についての形状パラメーターｐiの値が特定される。従って、顔特徴検出処理の処理結果は特定の向き（例えば右向きや下向き）の顔画像を検出するための顔向き判定、顔の形状を変形する顔変形、顔の陰影補正等に利用可能である。
【００４５】
はじめに、画像処理部２００（図１）は、顔特徴検出処理の対象となる注目画像を表す画像データを取得する（ステップＳ２１０）。本実施例のプリンター１００では、カードスロット１７２にメモリーカードＭＣが挿入されると、メモリーカードＭＣに格納された画像ファイルのサムネイル画像が表示部１５０に表示される。処理の対象となる１つまたは複数の画像は、操作部１４０を介してユーザーにより選択される。画像処理部２００は、選択された１つまたは複数の画像に対応する画像データを含む画像ファイルをメモリーカードＭＣより取得して内部メモリー１２０の所定の領域に格納する。なお、取得された画像データを注目画像データと呼び、注目画像データの表す画像を注目画像ＯＩと呼ぶものとする。
【００４６】
顔領域検出部２３０（図１）は、注目画像ＯＩに含まれる顔画像の少なくとも一部を含む画像領域を顔領域ＦＡとして検出する（ステップＳ２３０）。顔領域ＦＡの検出は、公知の顔検出手法を用いておこなうことができる。公知の顔検出手法としては、例えば、パターンマッチングによる手法や肌色領域抽出による手法、サンプル画像を用いた学習（例えばニューラルネットワークを用いた学習や、ブースティングを用いた学習、サポートベクターマシーンを用いた学習等）により設定される学習データを用いる手法等がある。
【００４７】
図１３は、注目画像ＯＩにおける顔領域ＦＡの検出結果の一例を示す説明図である。図１３には、注目画像ＯＩにおいて検出された顔領域ＦＡが示されている。本実施例では、おおよそ、顔の上下方向は額から顎まで、左右方向は両耳の外側まで含む矩形の領域が顔領域ＦＡとして検出されるような顔検出手法が用いられている。
【００４８】
設定部２１０（図１）は、注目画像ＯＩにおける特徴点ＣＰの初期位置を設定する（ステップＳ２４０）。図１４は、本実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。本実施例では、設定部２１０は、顔領域ＦＡに対する顔画像の大きさ、傾き、位置（上下方向の位置および左右方向の位置）を表すグローバルパラメーターの値を種々変更して、特徴点ＣＰを注目画像ＯＩ上の仮設定位置に設定する（ステップＳ３１０）。
【００４９】
図１５は、グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。図１５（ａ）および図１５（ｂ）には、注目画像ＯＩにおける特徴点ＣＰおよび特徴点ＣＰをつないで形成されるメッシュが示されている。設定部２１０は、図１５（ａ）および図１５（ｂ）の中央に示すように、顔領域ＦＡの中央部に平均形状ｓ0が形成されるような特徴点ＣＰの仮設定位置（以下、「基準仮設定位置」とも呼ぶ）を設定する。
【００５０】
設定部２１０は、また、基準仮設定位置に対して、グローバルパラメーターの値を種々変更させた複数の仮設定位置を設定する。グローバルパラメーター（大きさ、傾き、上下方向の位置および左右方向の位置）を変更することは、注目画像ＯＩにおいて特徴点ＣＰにより形成されるメッシュが拡大・縮小、傾きを変更、並行移動することに相当する。従って、設定部２１０は、図１５（ａ）に示すように、基準仮設定位置のメッシュを所定倍率で拡大または縮小したメッシュを形成するような仮設定位置（基準仮設定位置の図の下および上に示す）や、所定角度だけ時計回りまたは半時計回りに傾きを変更したメッシュを形成するような仮設定位置（基準仮設定位置の図の右および左に示す）を設定する。また、設定部２１０は、基準仮設定位置のメッシュに対して、拡大・縮小および傾きの変更を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。
【００５１】
また、図１５（ｂ）に示すように、設定部２１０は、基準仮設定位置のメッシュを所定量だけ上または下に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の上および下に示す）や、左または右に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の左および右に示す）を設定する。また、設定部２１０は、基準仮設定位置のメッシュに対して、上下および左右の並行移動を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。
【００５２】
設定部２１０は、図１５（ａ）に示す基準仮設定位置以外の８つの仮設定位置のそれぞれにおけるメッシュに対して図１５（ｂ）に示す上下左右の並行移動が実行される仮設定位置も設定する。従って、本実施例では、４つのグローバルパラメーター（大きさ、傾き、上下方向の位置、左右方向の位置）をそれぞれ既知の３段階の値として組み合わせにより設定される８０通り（＝３×３×３×３−１）の仮設定位置と、基準仮設定位置の合計８１通りの仮設定位置が設定される。
【００５３】
生成部２２２（図１）は、設定された各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））を生成する（ステップＳ３２０）。図１６は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、入力画像における特徴点ＣＰの配置が平均形状ｓ0における特徴点ＣＰの配置と等しくなるような変換によって算出される。
【００５４】
平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出するための変換は、サンプル画像ＳＩｗ算出のための変換（図８参照）と同様に、三角形領域ＴＡ毎のアフィン変換の集合であるワープＷにより行われる。具体的には、注目画像ＯＩに配置された特徴点ＣＰ（図１５参照）によって平均形状領域ＢＳＡ（外周に位置する特徴点ＣＰにより囲まれた領域）が特定され、注目画像ＯＩにおける平均形状領域ＢＳＡに対して三角形領域ＴＡ毎のアフィン変換が行われることにより、平均形状画像Ｉ（Ｗ（ｘ；ｐ））が算出される。本実施例では、平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、平均顔画像Ａ0（ｘ）と同様に平均形状領域ＢＳＡおよびマスク領域ＭＡにより構成され、平均顔画像Ａ0（ｘ）と同サイズの画像として算出される。
【００５５】
なお、上述したように、画素群ｘは、平均形状ｓ0における平均形状領域ＢＳＡに位置する画素の集合である。ワープＷ実行後の画像（平均形状ｓ0を有する顔画像）における画素群ｘに対応するワープＷ実行前の画像（注目画像ＯＩの平均形状領域ＢＳＡ）における画素群をＷ（ｘ；ｐ）と表す。平均形状画像は、注目画像ＯＩの平均形状領域ＢＳＡにおける画素群Ｗ（ｘ；ｐ）のそれぞれにおける色彩値により構成される画像であるため、Ｉ（Ｗ（ｘ；ｐ））と表される。図１６には、図１５（ａ）に示した９個の仮設定位置に対応する９個の平均形状画像Ｉ（Ｗ（ｘ；ｐ））を示している。
【００５６】
算出部２２４（図１）は、各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））と、平均顔画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ３３０）。特徴点ＣＰの仮設定位置は８１種類設定されているため、算出部２２４（図１）は、８１個の差分画像Ｉｅを算出することとなる。
【００５７】
設定部２１０は、各差分画像Ｉｅの画素値からノルムを算出し、ノルムの値が最も小さい差分画像Ｉｅに対応する仮設置位置（以下「ノルム最小仮設定位置」とも呼ぶ）を、注目画像ＯＩにおける特徴点ＣＰの初期位置として設定する（ステップＳ３４０）。ノルムを算出するための画素値は色彩値であってもよいし輝度値であってもよい。以上により特徴点ＣＰ初期位置設定処理が完了する。なお、ノルムの値が小さいほど平均形状画像Ｉ（Ｗ（ｘ；ｐ））と、平均顔画像Ａ0（ｘ）との差が小さくなる（両者が近似する）。
【００５８】
特徴点ＣＰ初期位置設定処理が完了すると、特徴位置検出部２２０（図１）は、注目画像ＯＩにおける特徴点ＣＰの設定位置の補正をおこなう（ステップＳ２５０）。図１７は、本実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。
【００５９】
生成部２２２（図１）は、注目画像ＯＩから平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出する（ステップＳ４１０）。平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出方法は、特徴点ＣＰ初期位置設定処理におけるステップＳ３２０と同様である。
【００６０】
特徴位置検出部２２０は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））と平均顔画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ４２０）。特徴位置検出部２２０は、差分画像Ｉｅに基づき、特徴点ＣＰの設定位置補正処理が収束したか否かを判定する（ステップＳ４３０）。特徴位置検出部２２０は、差分画像Ｉｅのノルムを算出し、ノルムの値が予め設定された閾値より小さい場合には収束したと判定し、ノルムの値が閾値以上の場合には未だ収束していないと判定する。なお、特徴位置検出部２２０は、算出された差分画像Ｉｅのノルムの値が前回のステップＳ４３０において算出された値よりも小さい場合には収束したと判定し、前回値以上である場合には未だ収束していないと判定するものとしてもよい。あるいは、特徴位置検出部２２０は、閾値による判定と前回値との比較による判定とを組み合わせて収束判定をおこなうものとしてもよい。例えば、特徴位置検出部２２０は、算出されたノルムの値が、閾値より小さく、かつ、前回値より小さい場合にのみ収束したと判定し、それ以外の場合には未だ収束していないと判定するものとしてもよい。
【００６１】
前記のステップＳ４３０の収束判定において未だ収束していないと判定された場合には、補正部２２６（図１）がパラメーター更新量ΔＰを算出する（ステップＳ４５０）。パラメーター更新量ΔＰは、４個のグローバルパラメーター（全体としての大きさ、傾き、Ｘ方向位置、Ｙ方向位置）、および、特徴量であるｎ個の形状パラメーターｐi（ｉ＝１〜ｎの整数。）の値の変更量を意味している。なお、特徴点ＣＰを初期位置に設定した直後においては、グローバルパラメーターは、特徴点ＣＰ初期位置設定処理（図１４）において決定された値が設定されている。また、このときの特徴点ＣＰの初期位置と平均形状ｓ0の特徴点ＣＰの設定位置との相違は、全体としての大きさ、傾き、位置の相違に限られるため、形状モデルにおける形状パラメーターｐiの値およびテクスチャーモデルにおけるテクスチャーパラメーターλkはすべてゼロである。
【００６２】
パラメーター更新量ΔＰは、下記の式（３）により算出される。すなわち、パラメーター更新量ΔＰは、アップデートマトリックスＲと差分画像Ｉｅとの積である。
【００６３】
【数３】
【００６４】
式（３）におけるアップデートマトリックスＲは、差分画像Ｉｅに基づきパラメーター更新量ΔＰを算出するために予め学習により設定されたＭ行Ｎ列のマトリックスであり、
ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納されている。本実施例では、アップデートマトリックスＲの行数Ｍは、グローバルパラメーターの数（４個）と、形状パラメーターｐiの数（ｎ個）との和（（４＋ｎ）個）に等しく、列数Ｎは、平均顔画像Ａ0（ｘ）の平均形状領域ＢＳＡ内の画素数（５６画素×５６画素−マスク領域ＭＡの画素数）に等しい。アップデートマトリックスＲは、下記の式（４）および（５）により算出される。
【００６５】
【数４】
【数５】
【００６６】
補正部２２６（図１）は、算出されたパラメーター更新量ΔＰに基づきパラメーター（４個のグローバルパラメーターとｎ個の形状パラメーターｐi）を更新する（ステップＳ４６０）。これにより、注目画像ＯＩにおける特徴点ＣＰの設定位置が補正される。補正部２２６は、差分画像Ｉｅのノルムが小さくなるように補正する。パラメーターの更新の後には、再度、特徴点ＣＰの設置位置が補正された注目画像ＯＩからの平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出（ステップＳ４１０）、差分画像Ｉｅの算出（ステップＳ４２０）、差分画像Ｉｅに基づく収束判定（ステップＳ４３０）が行われる。なお、平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、形状パラメーターｐiの更新（変化）に応じて変化するものであり、特許請求の範囲の「顔領域」に相当する。再度の収束判定においても収束していないと判定された場合には、さらに、差分画像Ｉｅに基づくパラメーター更新量ΔＰの算出（ステップＳ４５０）、パラメーターの更新による特徴点ＣＰの設定位置補正（ステップＳ４６０）が行われる。
【００６７】
図１７のステップＳ４１０からＳ４６０までの処理が繰り返し実行されると、注目画像ＯＩにおける各特徴部位に対応する特徴点ＣＰの位置、実際の特徴部位の位置に全体として近づいていき、ある時点で収束判定（ステップＳ４３０）において収束したと判定される。収束判定において収束したと判定されると、顔特徴検出処理が完了する（ステップＳ４７０）。このとき設定されているグローバルパラメーターおよび形状パラメーターｐiの値により特定される特徴点ＣＰの設定位置が、最終的な注目画像ＯＩにおける特徴点ＣＰの設定位置として特定される。
【００６８】
図１８は、特徴点ＣＰ設定位置補正処理の結果の一例を示す説明図である。図１８には、注目画像ＯＩにおいて最終的に特定された特徴点ＣＰの設定位置が示されている。特徴点ＣＰの設定位置により、注目画像ＯＩに含まれる顔の特徴部位（人物の顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置）の位置が特定されるため、注目画像ＯＩにおける人物の顔の器官の形状・位置や顔の輪郭形状の検出が可能となる。注目画像ＯＩにおいて最終的に特定された特徴点ＣＰの位置およびグローバルパラメーターおよび形状パラメーターｐiは内部メモリー１２０に記憶しておく。
【００６９】
Ａ４．目特徴検出処理：
図１９は、目特徴検出処理（テクスチャー検出処理）の流れを示すフローチャートである。目特徴検出処理は、テクスチャー検出部２４０が目テクスチャーモデルを使用してテクスチャーパラメーターλkを補正する処理によって構成される。顔特徴検出処理では目の形状や位置が特定されるが、目特徴検出処理では目のテクスチャーが特定される。テクスチャー検出処理を実行するテクスチャー検出部２４０は、特許請求の範囲における「特徴量検出部」に相当する。
【００７０】
生成部２４２（図１）は、注目画像ＯＩから平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出する（ステップＳ５１０）。平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出方法は、特徴点ＣＰ初期位置設定処理におけるステップＳ３２０、および、特徴点ＣＰ設定位置補正処理におけるステップＳ４１０と同様であるが、特徴点ＣＰ設定位置補正処理完了時のグローバルパラメーターおよび形状パラメーターｐiの値を使用して平均形状画像Ｉ（Ｗ（ｘ；ｐ））が算出される。ここで算出される平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、ステップＳ４３０において、収束判定がなされたときの平均形状画像Ｉ（Ｗ（ｘ；ｐ））と同じである。次に、生成部２４２（図１）は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））から右目の目領域を検出し、該目領域の画像を平均形状目画像ＡＩ（ｘ）として抽出する（ステップＳ５１５）。右目の目領域を検出する生成部２４２は、特許請求の範囲における「目領域検出部」に相当する。
【００７１】
図２０は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均形状目画像ＡＩ（ｘ）を抽出する様子を示している。上述したとおり、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における目の位置および形状は、平均顔画像Ａ0（ｘ）における目の位置および形状と同じとなる。注目画像ＯＩの顔画像を平均化するようなグローバルパラメーターおよび形状パラメーターｐiが顔特徴検出処理によって検出されているからである。本実施例では、平均顔画像Ａ0（ｘ）における左右の目の領域を示す平均目領域Ｑ１，Ｑ２を特定する座標情報が内部メモリー１２０に登録してあり、該座標情報を読み出して平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均目領域Ｑ１に対応する画素を抽出することにより、平均形状目画像ＡＩ（ｘ）を抽出する。目の全体的な位置や形状は平均化されているものの、平均形状目画像ＡＩ（ｘ）における瞳の位置や色については平均化されておらず、注目画像ＯＩに含まれる目の個性が残存していることとなる。
【００７２】
次に、平均形状目画像ＡＩ（ｘ）を構成する各画素の色彩値を目テクスチャーモデル（下記の式（６））によって変化させた目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を算出する（ステップＳ５１７）。
【数６】
前記の式（６）の右辺は、前記の式（２ｂ）の右辺におけるテクスチャーＡ（ｘ）に平均形状目画像ＡＩ（ｘ）を代入したものであり、テクスチャーパラメーターλkが適切に設定されれば前記の式（２ｂ）の左辺が示すように、右辺が平均目画像Ａ0（ｘ）と等しくなる。ここでは、前記の式（６）の右辺によって得られる画像を、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と表記する。最初の段階では、テクスチャーパラメーターλkの値を適当な値（例えば、すべて０とする。）に設定する。
【００７３】
次に、算出部２４４は、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と平均目画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ５２０）。テクスチャー検出部２４０は、差分画像Ｉｅに基づき、テクスチャー検出処理が収束したか否かを判定する（ステップＳ５３０）。すなわち、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と平均目画像Ａ0（ｘ）とが十分に近似したか否かを判定する。テクスチャー検出部２４０は、差分画像Ｉｅのノルムを算出し、ノルムの値が予め設定された閾値より小さい場合には収束したと判定し、ノルムの値が閾値以上の場合には未だ収束していないと判定する。なお、テクスチャー検出部２４０は、算出された差分画像Ｉｅのノルムの値が前回のステップＳ５３０において算出された値よりも小さい場合には収束したと判定し、前回値以上である場合には未だ収束していないと判定するものとしてもよい。ここにおける収束の判定は、特徴点ＣＰ設定位置補正処理におけるステップＳ４３０と同様の手法によりおこなうことができる。
【００７４】
前記のステップＳ５３０の収束判定において未だ収束していないと判定された場合には、補正部２４６（図１）がパラメーター更新量Δλを算出する（ステップＳ５５０）。パラメーター更新量ΔΛは、特徴量であるｍ個（ｍ＝４）のテクスチャーパラメーターλk（ｋ＝１〜ｍの整数。）の値の変更量を意味している。パラメーター更新量ΔΛは、下記の式（７）により算出される。すなわち、パラメーター更新量ΔΛは、アップデートマトリックスＵと差分画像Ｉｅとの積である。
【００７５】
【数７】
【００７６】
式（７）におけるアップデートマトリックスＵは、差分画像Ｉｅに基づきパラメーター更新量ΔΛを算出するために予め学習により設定されたＭ行Ｎ列のマトリックスであり、
ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納されている。本実施例では、アップデートマトリックスＵの行数Ｍは、テクスチャーパラメーターλk（ｍ個）に等しく、列数Ｎは、平均目領域Ｑ１，Ｑ２内の画素数に等しい。アップデートマトリックスＵは、下記の式（８），（９）により算出される。
【数８】
【数９】
【００７７】
補正部２４６（図１）は、算出されたパラメーター更新量ΔΛに基づきテクスチャーパラメーターλkを更新する（ステップＳ５６０）。これにより、目のテクスチャーＡ（ｘ）が補正される。すなわち、補正部２４６は、差分画像Ｉｅのノルムが小さくなるように補正する。パラメーターの更新の後には、再度、補正されたテクスチャーパラメーターλkに基づいて目テクスチャー画像Ｊ（Ｔ（ｘ；λ））の算出（ステップＳ５１７）、差分画像Ｉｅの算出（ステップＳ５２０）、差分画像Ｉｅに基づく収束判定（ステップＳ５３０）が行われる。再度の収束判定においても収束していないと判定された場合には、さらに、差分画像Ｉｅに基づくパラメーター更新量ΔΛの算出（ステップＳ５５０）、パラメーターの更新によるテクスチャーの補正（ステップＳ５６０）が行われる。
【００７８】
図１９のステップＳ５２０からＳ５６０までの処理が繰り返し実行されると、補正されたテクスチャーパラメーターλkを前記の（２ａ）式に適用したときの目のテクスチャーＡ（ｘ）の各画素の色彩値が、実際の目画像の色彩値に全体として近づいていき、ある時点で収束判定（ステップＳ５３０）において収束したと判定される。収束判定において収束したと判定されると、右目のテクスチャー検出処理が完了し、このとき設定されているテクスチャーパラメーターλkの値により特定される目のテクスチャーＡ（ｘ）が最終的な右目の見えとして特定される。次に、両目についてのテクスチャー検出処理が完了したか否かを判定する（ステップＳ５７０）。
【００７９】
完了していない場合には、生成部２４２が平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均目領域Ｑ２に対応する画素を抽出し、左右反転させた上で、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））として抽出する（ステップＳ５８０）。そして、ステップＳ５２０に戻り、左目についてのテクスチャー検出処理（ステップＳ５２０からＳ５６０）を実行する。なお、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を反転させておくことにより、右目についての目テクスチャーモデルを使用することができる。収束判定（ステップＳ５３０）において収束したと判定されると、左目のテクスチャー検出処理が完了し、このとき設定されているテクスチャーパラメーターλkの値により特定される目のテクスチャーＡ（ｘ）が最終的な左目の見えとして特定される。以上のようにして右目と左目のテクスチャーパラメーターλkが得られると、目特徴検出処理が完了し、次に赤目判定・補正処理を実行する。なお、最終的に得られた右目と左目のテクスチャーパラメーターλkは、特許請求の範囲の「近似特徴量」に相当する。
【００８０】
Ａ５．赤目判定・補正処理：
図２１は、赤目判定・補正処理の流れを示すフローチャートである。まず、赤目判定部２５０が右目のテクスチャーパラメーターλkを取得する（ステップＳ６１０）。赤目判定部２５０は、テクスチャーパラメーターλ2と所定の閾値（本実施例では０とする。）とを比較し（ステップＳ６１５）、テクスチャーパラメーターλ2の値が閾値よりも大きければ赤目であると判定する（ステップＳ６２０）。図１１（ｂ）に示したように、テクスチャーパラメーターλ2の値が大きければ大きいほど、赤目らしさが強くなる。なお、赤目であるか否かを判定する赤目判定部２５０が特許請求の範囲の「目状態判定部」に相当する。
【００８１】
赤目であると判定した場合には、赤目補正部２６０がテクスチャーパラメーターλ2の値を理想値（本実施例では−０．７とする。）とする（ステップＳ６２５）。これにより、テクスチャーパラメーターλ2の値は赤目らしくない値（正常な値）に修正されたこととなる。そして、赤目補正部２６０は、他のテクスチャーパラメーターλkの値は変更することなく、目テクスチャーモデル（（２ｂ）式）にテクスチャーパラメーターλkを代入し、右目のテクスチャーＡ（ｘ）を算出する（ステップＳ６３０）。算出された右目のテクスチャーＡ（ｘ）においては、赤目らしさが消失し、正常（本来の色を有する）な瞳孔の色となっている。
【００８２】
図２２は、本実施例において赤目が補正される様子（ステップＳ６２５〜Ｓ６８５）を示している。なお、ステップＳ６３０にて算出される右目のテクスチャーＡ（ｘ）は、特許請求の範囲の「理想目画像」に相当する。次に、赤目補正部２６０は、算出された右目のテクスチャーＡ（ｘ）によって、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における平均目領域Ｑ１に対応する領域を置き換える（ステップＳ６３５）。以上の処理により、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の右目の赤目が正常な目に補正されたこととなる。
【００８３】
引き続き、赤目判定部２５０は左目について同様の処理を行う。ただし、左目については左右の対称性を考慮した上で、目テクスチャーモデルの適用を行うこととする。まず、赤目判定部２５０が左目のテクスチャーパラメーターλkを取得する（ステップＳ６４０）。赤目判定部２５０は、テクスチャーパラメーターλ2と閾値とを比較し（ステップＳ６４５）、テクスチャーパラメーターλ2の値が閾値よりも大きければ赤目であると判定する（ステップＳ６５０）。赤目であると判定した場合には、赤目判定部２５０がテクスチャーパラメーターλ2の値を理想値とする（ステップＳ６５５）。そして、他のテクスチャーパラメーターλkの値は変更することなく、目テクスチャーモデル（（２ｂ）式）にテクスチャーパラメーターλkを代入し、左目のテクスチャーＡ（ｘ）を算出する（ステップＳ６６０）。目テクスチャーモデルでは右目のテクスチャーＡ（ｘ）が再現されるため、ステップＳ６６０ではテクスチャーＡ（ｘ）の算出後、画像を左右反転させることとする。算出された左目のテクスチャーＡ（ｘ）によって、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における平均目領域Ｑ２に対応する領域を置き換える（ステップＳ６６５）。以上の処理により、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の左目の赤目を正常な目に補正することができる。
【００８４】
次に、平均形状画像Ｉ（Ｗ（ｘ；ｐ））を、もとの顔領域ＦＡにおける顔画像に復元する（ステップＳ６７０）。具体的には、顔特徴検出処理で得られたグローバルパラメーターと形状パラメーターｐiを顔形状モデル（（１ａ）式）に適用することにより、もとの顔の形状を再現する。さらに、復元した顔の形状ｓにおける特徴点ＣＰの位置に基づいて平均形状画像Ｉ（Ｗ（ｘ；ｐ））の各画素をワープ処理することにより、もとの顔画像に復元する。基本的には、もとの顔画像へと復元されるが、目については赤目が正常な目に補正されているため、該補正が反映されることとなる。顔形状モデルにおける特徴点ＣＰの相対的な位置関係も、顔特徴検出処理において特定された特徴点ＣＰ（図１８）の相対的な位置関係と一致するように復元されている。各特徴点ＣＰの位置を一致させるように、復元した顔画像の各画素の色彩値によって、注目画像ＯＩにおける対応画素の色彩値を置換する（ステップＳ６８５）。これにより、図２２の下段に示すように赤目が補正された顔画像を有する注目画像ＯＩを得ることができる。なお、左右ともに赤目となるとは限らないため、本実施例では左右それぞれの目について赤目判定を行うようにしている。最後に、注目画像ＯＩを印刷処理部３２０に出力し、赤目が補正された注目画像ＯＩを印刷する（ステップＳ６８０）。
【００８５】
本実施例では、赤目であるか否かに相関するテクスチャーパラメーターλ2の値の大きさに応じて赤目であるかを判定しているため、精度の良い判定を実現することができる。すなわち、赤目らしさを主成分分析によって統計的に解析し、テクスチャーパラメーターλ2の値によって判別しているため、漏れの少ない赤目判定を行うことができる。例えば、赤色の画素に基づいて赤目判定する場合には、フラッシュによって実際に目の色が赤く変化した場合にしか赤目であると判定することができないが、必ずしも瞳孔部分が赤く変化していなくても赤目であると判定することができる。本実施例では、赤目である場合に、瞳孔部分を特定の色（例えば、黒。）で塗りつぶすのではなく、目テクスチャーモデルにおいて赤目であるか否かに相関するテクスチャーパラメーターλ2を赤目でない値に修正するため、瞳孔部分の本来の色がどのようなものであっても自然な赤目補正を実現することができる。すなわち、瞳孔部分の本来の色に相関する成分は補正されないため、赤目後で瞳孔部分の本来の色に復元することができる。なお、瞳孔部分の本来の色は、人種等に応じた変動が少ないため、本実施例で使用する第１〜第４主成分とは相関しない。従って、自然な補正結果を得ることができる。また、瞳孔部分一様な色で塗りつぶさないため、瞳孔部分の微妙の階調変化を維持することができる。
【００８６】
Ｂ．変形例：
なお、この発明は前記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
【００８７】
Ｂ１．変形例１：
前記実施例では、テクスチャーパラメーターλ2のみを補正することとしたが、第３，４テクスチャーベクトルａ3,ａ4についても補正するようにしてもよい。例えば、第４テクスチャーベクトルａ４によってＢ軸に沿って色を調整することにより、虹彩部分の青みを調整するようにしてもよい。虹彩部分の色彩値と第３，４テクスチャーベクトルａ3,ａ4との対応関係を規定したテーブルを内部メモリー１２０に記憶させておき、該テーブルを参照してユーザーが指定した色彩値に対応する第３，４テクスチャーパラメーターλ3,λ4に補正するようにしてもよい。これにより、カラーコンタクトレンズをしたのと同様に、虹彩の色が変化した目画像を再現させることができる。
【００８８】
反対に、前記テーブルを参照することにより、目特徴検出処理によって得られた第３，４テクスチャーパラメーターλ3,λ4に基づいて虹彩部分の色彩値を得ることができる。従って、第３，４テクスチャーパラメーターλ3,λ4を人種判別や個人認証に利用することも可能である。すなわち、特許請求の範囲の「目状態判定部」によって、赤目のみならず、虹彩部分の色彩的特徴を判定してもよい。さらに、サンプル画像ＳＩに瞳以外の白目部分に特徴を有するものを含ませることにより、白目部分についての状態を判定することもできる。例えば、充血しているサンプル画像ＳＩと、充血していないサンプル画像ＳＩを使用して顔テクスチャーモデルを設定することにより、いずれかの主成分に対応するテクスチャーパラメーターλkに基づいて充血しているか否かを判定することもできる。このように、サンプル画像ＳＩに含ませる目の状態の属性を変えることにより、容易に判定の対象とする目の状態を変更することができる。
【００８９】
Ｂ２．変形例２：
さらに、変形例１における第３，４テクスチャーベクトルａ3,ａ4の補正に不随して、顔形状モデルにおける形状パラメーターｐiも補正するようにしてもよい。すなわち、ステップＳ６７０において、もとの顔画像に復元する際に使用する形状パラメーターｐiを、第３，４テクスチャーベクトルａ3,ａ4と連動して補正するようにしてもよい。例えば、第３，４テクスチャーベクトルａ3,ａ4が日本人の虹彩部分の色彩値に対応する値から西洋人の虹彩部分の色彩値に対応する値に補正されるのにともなって、西洋人の骨格の特徴点ＣＰの位置に対応する形状パラメーターｐiに補正するようにしてもよい。
【００９０】
Ｂ３．変形例３：
前記実施例の特徴点ＣＰ設定位置補正処理では、注目画像ＯＩに基づき平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出することにより注目画像ＯＩの特徴点ＣＰの設置位置を平均顔画像Ａ0（ｘ）の特徴点ＣＰの設置位置に整合させているが、平均顔画像Ａ0（ｘ）に対して画像変換をおこなうことにより両者の特徴点ＣＰの配置を整合させるものとしてもよい。すなわち、前記実施例では、「顔領域」としての平均形状画像Ｉ（Ｗ（ｘ；ｐ））を変化させることとしたが、平均顔画像Ａ0（ｘ）を形状パラメーターｐiやテクスチャーパラメーターλkの変化に応じて変化させてもよい。いずれにしても、注目画像ＯＩに含まれる「顔領域」と、顔モデルによって再現される顔の画像との差を小さくさせる形状パラメーターｐiやテクスチャーパラメーターλkに補正されることとなる。同様に、前記実施例の目特徴検出処理では、注目画像ＯＩに基づき目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を算出することにより注目画像ＯＩの目画像を平均目画像Ａ0（ｘ）に整合させているが、平均目画像Ａ0（ｘ）に対して画像変換をおこなうことにより両者を整合させるものとしてもよい。
【００９１】
Ｂ４．変形例４：
前記実施例におけるサンプル画像ＳＩ（図３）はあくまで一例であり、サンプル画像ＳＩとして採用する画像の数、種類は任意に設定可能である。また、前記実施例において、特徴点ＣＰの位置で示される顔の所定の特徴部位（図４参照）はあくまで一例であり、実施例において設定されている特徴部位の一部を省略したり、特徴部位として他の部位を採用したりしてもよい。
【００９２】
また、前記実施例において、平均顔画像Ａ0（ｘ）のサイズは５６画素×５６画素に限られず他のサイズであってもよい。また、平均顔画像Ａ0（ｘ）は、マスク領域ＭＡ（図８）を含む必要はなく、平均形状領域ＢＳＡのみによって構成されるとしてもよい。また、平均顔画像Ａ0（ｘ）の代わりに、サンプル画像ＳＩの統計的分析に基づき設定される他の基準顔画像が用いられるとしてもよい。
【００９３】
また、前記実施例では、ＡＡＭを用いた形状モデルおよびテクスチャーモデルの設定が行われているが、他のモデル化手法（例えばＭｏｒｐｈａｂｌｅ Ｍｏｄｅｌと呼ばれる手法やＡｃｔｉｖｅ Ｂｌｏｂと呼ばれる手法）を用いて形状モデルおよびテクスチャーモデルの設定が行われるとしてもよい。
【００９４】
また、前記実施例では、メモリーカードＭＣに格納された画像が注目画像ＯＩに設定されているが、注目画像ＯＩは例えばネットワークを介して取得された画像であってもよい。また、前記実施例では、画像処理装置としてのプリンター１００による画像処理を説明したが、処理の一部または全部がパーソナルコンピューターやデジタルスチルカメラ、デジタルビデオカメラ等の他の種類の画像処理装置により実行されるものとしてもよい。また、プリンター１００はインクジェットプリンターに限らず、他の方式のプリンター、例えばレーザプリンターや昇華型プリンターであるとしてもよい。
【００９５】
前記実施例において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。
【００９６】
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア（コンピュータープログラム）は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやＣＤ−ＲＯＭのような携帯型の記録媒体に限らず、各種のＲＡＭやＲＯＭ等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
【符号の説明】
【００９７】
１００…プリンター、１１０…ＣＰＵ、１２０…内部メモリー、１４０…操作部、１５０…表示部、１６０…印刷機構、１７０…カードインターフェース、１７２…カードスロット、２００…画像処理部、２１０…設定部、２２０…特徴位置検出部、２２２，２４２…生成部、２２４，２４４…算出部、２２６，２４６…補正部、２３０…顔領域検出部、２４０…テクスチャー検出部、２５０…赤目判定部、２６０…赤目補正部、３１０…表示処理部、３２０…印刷処理部。
【技術分野】
【０００１】
本発明は、画像に含まれる目の状態を判定する画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置に関する。
【背景技術】
【０００２】
従来の赤目補正の技術として、ユーザーによって赤目であると指定された領域から赤い色相を有する画素を抽出し、黒い画素に置き換えることにより、赤目を補正する技術が知られている（特許文献１、段落００３４、参照。）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００４−３０４３４３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述した技術においては、フラッシュによって赤く変化した赤目については補正を行うことができるが、フラッシュによって金色等に変化した赤目については補正を行うことができないという問題があった。さらに、一様な色で塗りつぶすことにより、赤目となった瞳孔部分が本来有する色や、色の階調性が失われ、不自然な補正結果となるという問題があった。
本発明は、前記の課題を解決するためになされたものであり、精度良く目の状態を判定することが可能な画像処理装置、画像処理方法、画像処理プログラム、および、印刷装置を提供することを目的とする。
【課題を解決するための手段】
【０００５】
前記課題の少なくとも一部を解決するために本願発明は以下の態様を採る。すなわち、画像処理装置は目領域検出部を備え、該目領域検出部が前記注目画像から目領域を検出する。画像処理装置は取得部を備え、該取得部が特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する。特徴量検出部は、前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する。さらに、目状態判定部は、前記近似特徴量に基づいて前記目領域の目の状態を判定する。前記目モデルによって再現される目画像と前記目領域とが近似するときの前記近似特徴量に基づいて目の状態を判定するため、目の画素の色相のみに基づいて目の状態を判定するよりも高精度に目の状態を判定することができる。
【０００６】
前記目モデルの好適な一例として、前記取得部が、目画像を含む複数のサンプル画像の各画素の色彩値を主成分分析することにより、各主成分の固有ベクトルを線形結合することにより目画像を再現する前記目モデルを取得するようにしてもよい。複数のサンプル画像の各画素の色彩値の主成分分析によれば、目の状態に応じた色彩値分布の変動を統計的に解析することができ、単純に特定部位の色相に基づいて目の状態を判定する場合よりも高精度に目の状態を判定することができる。
【０００７】
本発明によって判定を行う目の状態の一例として、赤目判定をおこなうようにしてもよい。すなわち、少なくとも赤目の目画像を含む複数の前記サンプル画像と、正常な目画像を含む複数の前記サンプル画像とを主成分分析することにより前記目モデルを取得すれば、赤目であるか否かに相関する前記特徴量に基づいて赤目判定を高精度に行うことができる。さらに、前記目領域の目が赤目であると特定された場合には、赤目補正をおこなうようにしてもよい。赤目らしさに相関する前記近似特徴量を補正することにより、該近似特徴量を赤目らしくない値とすることができる。このように補正された前記近似特徴量に基づいて前記目モデルによって目画像を再現すれば、該目画像において赤目を解消することができる。赤目らしさに相関する前記近似特徴量のみを補正すれば、他の目の特徴は維持されるため、自然な赤目補正を実現することができる。
【０００８】
本発明の手法によって判定可能な目の状態は赤目に限られず、他の目の状態も判定することができる。例えば、虹彩の色が異なる目画像を含む複数の前記サンプル画像を主成分分析することにより設定された前記目モデルを取得し、前記近似特徴量に基づいて虹彩の色を判定するようにしてもよい。虹彩の色は、人物固有のものであり、人種等の判別や個人認証等に応用することができる。また、虹彩の色に相関する前記近似特徴量を補正することにより、虹彩の色を補正することも可能である。
【０００９】
なお、本発明は、種々の態様で実現することが可能であり、例えば、画像処理方法および装置、特徴部位の位置検出方法および装置、表情判定方法および装置、これらの方法または装置の機能を実現するための画像処理プログラム、その画像処理プログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号、等の形態で実現することができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。
【図２】実施例におけるＡＡＭ設定処理の流れを示すフローチャートである。
【図３】サンプル画像ＳＩの一例を示す説明図である。
【図４】サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。
【図５】サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。
【図６】平均形状ｓ0の一例を示す説明図である。
【図７】形状ベクトルｓiおよび形状パラメーターｐiと顔の形状ｓとの関係を例示した説明図である。
【図８】サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。
【図９】平均顔画像Ａ0（ｘ）の一例を示す説明図である。
【図１０】目テクスチャーモデルのためのサンプル画像ＳＩの一例を示す説明図である。
【図１１】テクスチャーパラメーターと目画像との関係を示すグラフである。
【図１２】実施例における顔特徴検出処理の流れを示すフローチャートである。
【図１３】注目画像ＯＩにおける顔領域ＦＡの検出結果の一例を示す説明図である。
【図１４】実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。
【図１５】グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。
【図１６】平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。
【図１７】実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。
【図１８】ＣＰ設定位置補正処理の結果の一例を示す説明図である。
【図１９】目特徴検出処理（テクスチャー検出処理）の流れを示すフローチャートである。
【図２０】平均形状画像から目テクスチャー画像を抽出する様子を示す説明図である。
【図２１】赤目判定・補正処理の流れを示すフローチャートである。
【図２２】赤目が補正される様子を示す図である。
【発明を実施するための形態】
【００１１】
以下、本発明に係る画像処理装置の一態様であるプリンターについて、図面を参照しつつ、実施例に基づいて説明する。
【００１２】
Ａ．実施例：
Ａ１．画像処理装置の構成：
図１は、本発明の本実施例における画像処理装置としてのプリンター１００の構成を概略的に示す説明図である。本実施例のプリンター１００は、メモリーカードＭＣ等から取得した画像データに基づき画像を印刷する、いわゆるダイレクトプリントに対応したインクジェット式カラープリンターである。プリンター１００は、プリンター１００の各部を制御するＣＰＵ１１０と、ＲＯＭやＲＡＭによって構成された内部メモリー１２０と、ボタンやタッチパネルにより構成された操作部１４０と、液晶ディスプレイにより構成された表示部１５０と、印刷機構１６０と、カードインターフェース（カードＩ／Ｆ）１７０と、を備えている。プリンター１００は、さらに、他の機器（例えばデジタルスチルカメラやパーソナルコンピューター）とのデータ通信をおこなうためのインターフェースを備えていてもよい。プリンター１００の各構成要素は、バスを介して双方向通信可能に接続されている。
【００１３】
印刷機構１６０は、印刷データに基づき印刷をおこなう。カードインターフェース１７０は、カードスロット１７２に挿入されたメモリーカードＭＣとの間でデータのやり取りをおこなうためのインターフェースである。なお、本実施例では、メモリーカードＭＣに画像データを含む画像ファイルが格納されている。
【００１４】
内部メモリー１２０には、画像処理部２００と、表示処理部３１０と、印刷処理部３２０と、が格納されている。画像処理部２００は、コンピュータープログラムであり、所定のオペレーティングシステムの下で、ＣＰＵ１１０により実行されることで顔特徴検出処理や目特徴検出処理や赤目判定・補正処理をおこなう。顔特徴検出処理は、顔画像における所定の特徴部位（例えば目尻や鼻頭やフェイスライン）の位置を検出する処理である。顔特徴検出処理については、後に詳述する。表示処理部３１０、および、印刷処理部３２０についてもＣＰＵ１１０により実行されることでぞれぞれの機能を実現する。
【００１５】
画像処理部２００は、プログラムモジュールとして、設定部２１０と、特徴位置検出部２２０と、顔領域検出部２３０と、テクスチャー検出部２４０と、赤目判定部２５０と、赤目補正部２６０と、を含んでいる。特徴位置検出部２２０とテクスチャー検出部２４０は、それぞれ生成部２２２，２４２と、算出部２２４，２４４と、補正部２２６，２４６と、を含んでいる。これら各部の機能については、後述の顔特徴検出処理および赤目判定・補正処理の説明において詳述する。
【００１６】
表示処理部３１０は、表示部１５０を制御して、表示部１５０上に処理メニューやメッセージ、画像等を表示させるディスプレイドライバーである。印刷処理部３２０は、画像データから印刷データを生成し、印刷機構１６０を制御して、印刷データに基づく画像の印刷を実行するためのコンピュータープログラムである。ＣＰＵ１１０は、内部メモリー１２０から、これらのプログラム（画像処理部２００、表示処理部３１０、印刷処理部３２０）を読み出して実行することにより、これら各部の機能を実現する。
【００１７】
内部メモリー１２０には、ＡＡＭ情報ＡＭＩが格納されている。ＡＡＭ情報ＡＭＩは、後述のＡＡＭ設定処理によって予め設定される情報であり、後述の顔特徴検出処理や目特徴検出処理において取得され、使用される。ＡＡＭ情報ＡＭＩの内容については、後述のＡＡＭ設定処理の説明において詳述する。
【００１８】
Ａ２．ＡＡＭ設定処理：
図２は、本実施例におけるＡＡＭ設定処理の流れを示すフローチャートである。ＡＡＭ設定処理は、ＡＡＭ（アクティブアピアランスモデル（Ａｃｔｉｖｅ Ａｐｐｅａｒａｎｃｅ Ｍｏｄｅｌ））と呼ばれる画像のモデル化に用いられる顔形状モデルおよび顔テクスチャーモデルおよび目テクスチャーモデルを設定する処理である。本実施例において、ＡＡＭ設定処理は、オペレーターがコンピューターを使用することによりおこなわれる。コンピューターは、ＣＰＵとＲＡＭとＲＯＭとＨＤＤとディスプレイと入力装置等を有しており、これらがバスによって接続されている。ＣＰＵはＨＤＤに記録されたプログラムを読み出し、該プログラムにしたがった演算処理を実行することにより、コンピューターが後述する各処理を実行させる。なお、目テクスチャーモデルは、特許請求の範囲の「目モデル」に相当する。
【００１９】
はじめに、オペレーターは、人物の顔を含んだ複数の画像をサンプル画像ＳＩとして用意する（ステップＳ１１０）。図３は、サンプル画像ＳＩの一例を示す説明図である。図３に示すように、サンプル画像ＳＩは、個性・人種・性別・表情・向き（正面向き、上向き、下向き、右向き、左向き等）といった種々の属性に関して互いに相違する顔画像が含まれるように用意される。これらのサンプル画像ＳＩによれば、ＡＡＭによってあらゆる顔画像を精度良くモデル化することが可能となり、あらゆる顔画像を対象とした精度の良い顔特徴検出処理（後述）の実行が可能となる。なお、サンプル画像ＳＩは、学習用画像とも呼ばれる。また、本明細書において、左右方向とは、被写体の人物を基準とした左右方向を示すものとする。
【００２０】
以下、サンプル群Ｇ１に属するサンプル画像ＳＩに対しておこなう処理を例に説明する。サンプル群Ｇ１に属するそれぞれのサンプル画像ＳＩに含まれる顔画像に、特徴点ＣＰを設定する（ステップＳ１２０）。図４は、サンプル画像ＳＩにおける特徴点ＣＰの設定方法の一例を示す説明図である。特徴点ＣＰは、顔画像における所定の特徴部位の位置を示す点である。本実施例では、所定の特徴部位として、人物の顔における眉毛上の所定位置（例えば端点や４分割点等、以下同じ）、目の輪郭上の所定位置、鼻筋および小鼻の輪郭上の所定位置、上下唇の輪郭上の所定位置、顔の輪郭（フェイスライン）上の所定位置といった６８箇所の部位が設定されている。すなわち、本実施例では、人物の顔に共通して含まれる顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置を、特徴部位として設定する。図４に示すように、特徴点ＣＰは、各サンプル画像ＳＩにおいてオペレーターにより指定された６８個の特徴部位を表す位置に設定（配置）される。このように設定された各特徴点ＣＰは各特徴部位に対応しているため、顔画像における特徴点ＣＰの配置は顔の形状を特定していると表現することができる。
【００２１】
サンプル画像ＳＩにおける特徴点ＣＰの位置は、座標により特定される。図５は、サンプル画像ＳＩに設定された特徴点ＣＰの座標の一例を示す説明図である。図５において、ＳＩ（ｇ）（ｇ＝１，２，３・・・）は各サンプル画像ＳＩを示しており、ＣＰ（ｋ）（ｋ＝０，１，・・・，６７）は各特徴点ＣＰを示している。また、ＣＰ（ｋ）−Ｘは、特徴点ＣＰ（ｋ）のＸ座標を示しており、ＣＰ（ｋ）−Ｙは、特徴点ＣＰ（ｋ）のＹ座標を示している。特徴点ＣＰの座標としては、顔の大きさと顔の傾き（画像面内の傾き）と顔のＸ方向およびＹ方向の位置とのそれぞれについて正規化されたサンプル画像ＳＩにおける所定の基準点（例えば画像の左下の点）を原点とした座標が用いられる。また、本実施例では、１つのサンプル画像ＳＩに複数の人物の顔画像が含まれる場合が許容されており（例えばサンプル画像ＳＩ（２）には２人の顔画像が含まれている）、１つのサンプル画像ＳＩにおける各人物は人物ＩＤによって特定される。各サンプル画像ＳＩと、各特徴点ＣＰの座標と、人物ＩＤとは、コンピューターに入力される。
【００２２】
つづいて、オペレーターは、ＡＡＭの顔形状モデルの設定をおこなう（ステップＳ１３０）。具体的には、各サンプル画像ＳＩにおける６８個の特徴点ＣＰの座標（Ｘ座標およびＹ座標）により構成される座標ベクトル（図５参照）に対する主成分分析をコンピューターがおこない、さらにコンピューターが特徴点ＣＰの位置により特定される顔の形状ｓを下記の式（１）によりモデル化する。なお、顔形状モデルは、特徴点ＣＰの配置モデルとも呼ぶ。
【００２３】
【数１】
【００２４】
前記式（１）において、ｓ0は平均形状である。図６は、平均形状ｓ0の一例を示す説明図である。図６（ａ）および（ｂ）に示すように、平均形状ｓ0は、サンプル画像ＳＩの各特徴点ＣＰについての平均位置（平均座標）により特定される平均的な顔の形状を表すモデルである。なお、本実施例では、平均形状ｓ0において、外周に位置する特徴点ＣＰ（フェイスラインおよび眉毛、眉間に対応する特徴点ＣＰ、図４参照）を結ぶ直線により囲まれた領域（図６（ｂ）においてハッチングを付して示す）を「平均形状領域ＢＳＡ」と呼ぶ。コンピューターは、平均形状ｓ0に対して、図６（ａ）に示すように、特徴点ＣＰを頂点とする複数の三角形領域ＴＡを、平均形状領域ＢＳＡをメッシュ状に分割するように設定する。
【００２５】
顔形状モデルを表す前記式（１）において、ｓiは形状ベクトルであり、ｐiは形状ベクトルｓiの重みを表す形状パラメーターである。形状ベクトルｓiは、顔の形状ｓの特性を表すベクトルであり、主成分分析により得られる第ｉ主成分に対応する固有ベクトルである。前記式（１）に示すように、本実施例における顔形状モデルでは、特徴点ＣＰの配置を表す顔形状ｓが、平均形状ｓ0とｎ個の形状ベクトルｓiの線形結合との和としてモデル化される。前記式（１ａ）が示すように、顔形状モデルにおいて形状パラメーターｐiを適切に設定することにより、あらゆる画像における顔の形状ｓを再現することが可能である。また、前記式（１ｂ）が示すように、顔形状モデルにおいて形状パラメーターｐiを適切に設定することにより、あらゆる形状ｓから平均形状ｓ0へと逆変換することができる。
【００２６】
図７は、形状ベクトルｓiおよび形状パラメーターｐiと、顔の形状ｓとの関係を例示した説明図である。図７（ａ）に示すように、コンピューターは、顔の形状ｓを特定するために、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率の高い順に選択された個数ｎ（本実施例では１０個とする。）の固有ベクトルを、形状ベクトルｓiとして採用する。形状ベクトルｓiのそれぞれは、図７（ａ）の矢印に示すように、各特徴点ＣＰの移動方向・移動量と対応している。本実施例では、最も寄与率の大きい第１主成分に対応する第１形状ベクトルｓ1は顔の左右振りにほぼ相関するベクトルとなっており、形状パラメーターｐ1を大小することにより、図７（ｂ）に示すように、顔の形状ｓの横方向の顔向きが変化する。２番目に寄与率の大きい第２主成分に対応する第２形状ベクトルｓ2は顔の上下振りにほぼ相関するベクトルとなっており、形状パラメーターｐ2を大小することにより、図７（ｃ）に示すように、顔の形状ｓの縦方向の顔向きが変化する。また、３番目に寄与率の大きい第３主成分に対応する第３形状ベクトルｓ3は顔の形状の縦横比にほぼ相関するベクトルとなっており、４番目に寄与率の大きい第４主成分に対応する第４形状ベクトルｓ4は口の開きの程度にほぼ相関するベクトルとなっている。このように、形状パラメーターの値は、顔の表情や、顔向きなど顔画像の特徴を表す。
【００２７】
なお、形状モデル設定ステップ（ステップＳ１３０）においてコンピューターが設定した平均形状ｓ0および形状ベクトルｓiは、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。つづいて、コンピューターはＡＡＭの顔テクスチャーモデルの設定をおこなう（ステップＳ１４０）。具体的には、まず、各サンプル画像ＳＩに対して、サンプル画像ＳＩにおける特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しくなるように、画像変換（以下、「ワープＷ」とも呼ぶ）をおこなう。
【００２８】
図８は、サンプル画像ＳＩのワープＷの方法の一例を示す説明図である。コンピューターは、各サンプル画像ＳＩにおいて、平均形状ｓ0と同様に、外周に位置する特徴点ＣＰにより囲まれた領域をメッシュ状に分割する複数の三角形領域ＴＡを設定する。ワープＷは、複数の三角形領域ＴＡのそれぞれについてのアフィン変換の集合である。すなわち、ワープＷにおいては、サンプル画像ＳＩにおけるある三角形領域ＴＡの画像は、平均形状ｓ0における対応する三角形領域ＴＡの画像へとアフィン変換される。コンピューターは、ワープＷにより、特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しいサンプル画像ＳＩ（以下「サンプル画像ＳＩｗ」と表す）を生成する。
【００２９】
なお、各サンプル画像ＳＩｗは、平均形状領域ＢＳＡ（図８においてハッチングを付して示す）を内包する矩形枠を外周とし、平均形状領域ＢＳＡ以外の領域（以下「マスク領域ＭＡ」とも呼ぶ）がマスクされた画像として生成される。平均形状領域ＢＳＡとマスク領域ＭＡとを併せた画像領域を基準領域ＢＡと呼ぶ。また、コンピューターは、各サンプル画像ＳＩｗを、例えば５６画素×５６画素のサイズの画像として正規化する。
【００３０】
次に、コンピューターは、各サンプル画像ＳＩｗの画素群ｘのそれぞれにおける色彩値（ＲＧＢ）により構成される色彩値ベクトルに対する主成分分析を行い、顔のテクスチャー（「見え」とも呼ぶ）Ａ（ｘ）を下記の式（２）によりモデル化する。なお、画素群ｘは、平均形状領域ＢＳＡに位置する画素の集合である。
【数２】
【００３１】
前記式（２）において、Ａ0（ｘ）は平均顔画像である。図９は、平均顔画像Ａ0（ｘ）の一例を示す説明図である。平均顔画像Ａ0（ｘ）は、ワープＷの後のサンプル画像ＳＩｗ（図８参照）の平均の顔が表された画像である。すなわち、平均顔画像Ａ0（ｘ）は、サンプル画像ＳＩｗの平均形状領域ＢＳＡ内の画素群ｘの画素値（色彩値）の平均をとることにより算出される画像である。従って、平均顔画像Ａ0（ｘ）は、平均的な顔の形状における平均的な顔のテクスチャー（見え）を表すモデルである。なお、平均顔画像Ａ0（ｘ）は、サンプル画像ＳＩｗと同様に、平均形状領域ＢＳＡとマスク領域ＭＡとで構成され、例えば５６画素×５６画素のサイズの画像として算出される。
【００３２】
顔テクスチャーモデルを表す前記式（２）において、ａk（ｘ）はテクスチャーベクトルであり、λkはテクスチャーベクトルａk（ｘ）の重みを表すテクスチャーパラメーターである。テクスチャーベクトルａk（ｘ）は、顔のテクスチャーＡ（ｘ）の特性を表すベクトルであり、具体的には、主成分分析により得られる第ｋ主成分に対応する固有ベクトルである。すなわち、寄与率のより大きい主成分に対応する固有ベクトルから順に、累積寄与率に基づき設定された個数ｍ（本実施例では４個とする。）の固有ベクトルが、テクスチャーベクトルａk（ｘ）として採用される。本実施例では、最も寄与率の大きい第１主成分に対応する第１テクスチャーベクトルＡ1（ｘ）は、顔色の変化（性別の差とも捉えられる）にほぼ相関するベクトルとなっている。
【００３３】
前記式（２）に示すように、本実施例における顔テクスチャーモデルでは、顔の見えを表す顔のテクスチャーＡ（ｘ）が、平均顔画像Ａ0（ｘ）とｍ個のテクスチャーベクトルａk（ｘ）の線形結合との和としてモデル化される。前記式（２ａ）に示すように、顔テクスチャーモデルにおいてテクスチャーパラメーターλkを適切に設定することにより、あらゆる画像における顔のテクスチャーＡ（ｘ）を再現することが可能である。逆に、前記式（２ｂ）に示すように、顔テクスチャーモデルにおいてテクスチャーパラメーターλkを適切に設定することにより、あらゆる画像における顔のテクスチャーＡ（ｘ）から平均顔画像Ａ0（ｘ）へと逆変換することができる。
【００３４】
なお、テクスチャーモデル設定ステップ（図２のステップＳ１４０）において設定された平均顔画像Ａ0（ｘ）およびテクスチャーベクトルａk（ｘ）は、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。コンピューターはＡＡＭ情報ＡＭＩをいずれかの記録媒体に記録しておき、プリンター１００の製造時において該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録した内部メモリー１２０をプリンター１００に組み込むか、プリンター１００に組み込むまれた内部メモリー１２０に対して該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録させる。
【００３５】
ここまでの処理により、顔の形状をモデル化する顔形状モデルと、顔のテクスチャーをモデル化する顔テクスチャーモデルが設定される。設定された顔形状モデルと顔テクスチャーモデルとを組み合わせることにより、すなわち合成されたテクスチャーＡ（ｘ）に対して平均形状ｓ0から形状ｓへの変換（図８に示したワープＷの逆変換）をおこなうことにより、あらゆる顔画像の形状およびテクスチャーを再現することが可能である。顔形状モデルと、顔テクスチャーモデルが設定されると、同様の手法によって目モデルとしての目テクスチャーモデルを設定する。
【００３６】
目テクスチャーモデルの設定もＡＡＭ設定処理（図２）に従って行われる。ただし、目はほぼ平面であると考えることができるため、目についての形状モデルの設定（ステップＳ１３０）は実行しない。目テクスチャーモデルを設定するにあたり、オペレーターは、人物の目画像を含んだ複数の画像をサンプル画像ＳＩとして用意する（ステップＳ１１０）。図１０は、サンプル画像ＳＩの一例を示す説明図である。図４に示すように、サンプル画像ＳＩは、目における瞳の位置（中央、左方向、右方向、上方向、下方向）・瞳の色・赤目（フラッシュの光が網膜にて反射したときの目のことであり、必ずしも色相が赤色であるものに限られない。）といった種々の属性に関して互いに相違する目画像が含まれるように用意される。これらの属性は、各サンプル画像ＳＩに対応づけられている。目テクスチャーモデルのロバスト性を向上させるために、眼鏡を着用した場合のサンプル画像ＳＩも含ませるようにしても良い。これらのサンプル画像ＳＩによれば、ＡＡＭによってあらゆる目画像を精度良くモデル化することが可能となり、あらゆる目画像を対象とした精度の良い目特徴検出処理（後述）の実行が可能となる。なお、右目と左目は互いに左右対称にモデル化することができるため、本実施例では右目の目画像のみをモデル化する。
【００３７】
瞳の位置や赤目の場合を含めた瞳の色をモデル化することができればよいため、サンプル画像ＳＩにおいて目の形状（目輪郭）のばらつきは小さい方が望ましい。なお、目の形状や大きさについては目輪郭について特徴点ＣＰを設定する顔形状モデルによって検出が可能である。目画像についてのサンプル画像ＳＩは、顔画像についてのサンプル画像ＳＩｗから目に対応する画像領域のみを抽出することにより用意されてもよい。サンプル画像ＳＩｗは、各サンプル画像ＳＩを、特徴点ＣＰの設定位置が平均形状ｓ0における特徴点ＣＰの設定位置と等しくなるように変形したものであるため、目画像の位置と形状と大きさが一定となる。従って、サンプル画像ＳＩｗから一定の位置と形状と大きさの画像領域を抽出することにより、形状と大きさが平均化された目画像についてのサンプル画像ＳＩを得ることができる。本実施例では、右目をモデル化するものとし、左目のサンプル画像ＳＩについては、予め左右反転させておく。
【００３８】
目画像についてのサンプル画像ＳＩが用意できると、上述した顔テクスチャーモデルと同様のＡＡＭ設定処理をおこなうことにより目テクスチャーモデルを設定する。顔テクスチャーモデルと同様に、前記の（２）式によって目画像のテクスチャーが再現できる。なお、目テクスチャーモデルにおいては、前記の（２）式のＡ（ｘ）は任意の目画像を示し、Ａ0（ｘ）は平均目画像を示し、ａk（ｘ）とλkは顔テクスチャーモデルと同様にテクスチャーベクトルとテクスチャーパラメーターを示す。本実施例では、最も寄与率の大きい第１主成分に対応する第１テクスチャーベクトルａ1は瞳の水平方向の位置にほぼ相関するベクトルとなっており、テクスチャーパラメーターλ1を大小することにより、目における瞳の水平方向の位置が変化する。２番目に寄与率の大きい第２主成分に対応する第２テクスチャーベクトルλ2は赤目であるか否かにほぼ相関するベクトルとなっており、テクスチャーパラメーターλ2を大小することにより、赤目らしさが変化する。
【００３９】
図１１（ａ）はテクスチャーパラメーターλ1の値と瞳の（水平）位置との相関を示し、図１１（ｂ）はテクスチャーパラメーターλ1，λ2の値と赤目であるか否かの相関を示している。図１１（ａ）において、横軸はテクスチャーパラメーターλ1の値（−１〜１）を示し、縦軸は目における瞳の水平方向の位置を示している。同図に示すように、テクスチャーパラメーターλ1の値が大きければ大きいほど、瞳の位置は内寄り（鼻寄り：右目については左寄り）となり、テクスチャーパラメーターλ1の値が０のとき瞳の位置は内寄りでも外寄りでもない中央（視線が正面方向となるときの瞳の位置）となる。テクスチャーパラメーターλ1の値が小さければ小さいほど、瞳の位置は外寄り（輪郭寄り：右目については右寄り）となる。
【００４０】
図１１（ｂ）において、横軸と縦軸は、テクスチャーパラメーターλ1，λ2の値（−１〜１）を示している。図１１（ｂ）においてテクスチャーパラメーターλ1，λ2をプロットしており、赤目であるものは○で示し、赤目でないものは●で示している。図１１（ｂ）に示すように、テクスチャーパラメーターλ2の値が大きくなるほど、赤目であるものが多く分布している。従って、赤目であるか否かはテクスチャーパラメーターλ2に対して正の相関を有することとなる。一方、テクスチャーパラメーターλ1に関しては、赤目であるものと、赤目でないものがほぼ均等に分布しており、相関を有していない。テクスチャーパラメーターλ2の値が大きければ大きいほど赤目らしく、テクスチャーパラメーターλ2の値が小さければ小さいほど赤目らしくなくなる（正常となる）。なお、赤目らしさとは、主として、瞳の中央の瞳孔部分の赤目色の強さ（主として赤みや金色みの強さ）を表すものであり、−１からテクスチャーパラメーターλ2を大きくすると、瞳孔部分の色が瞳本来の色→茶（λ2≒０）→赤→金色に変動する。また、テクスチャーパラメーターλ2には統計的に赤目のサンプル画像ＳＩが有しているテクスチャーの特徴が反映されるため、テクスチャーパラメーターλ2を変化させることにより、瞳孔部分の単純な色以外の特徴も変化する。例えば、赤目になることによって変動する瞳孔部分の色の階調変化も変動することが予測される。
【００４１】
本実施例において、赤目のサンプル画像ＳＩと、赤目でないサンプル画像ＳＩの個数を同等とすることにより、テクスチャーパラメーターλ2が０となるとき、瞳孔の色は赤目であるとも正常であるとも言えない濃い茶色を示すこととなる。瞳における瞳孔の外側の虹彩部分の色については、赤目であるか否かに応じた色の変動が少なく、当該成分の変動は３，４番目に寄与率の大きい第３，４主成分に対応する第３，４テクスチャーベクトルａ3,ａ4にほぼ相関することとなる。本実施例では、第４主成分（ｍ＝４）までを使用することとするが、第５主成分以降は瞳の大きさや瞳の上下位置等に対応する成分となる。なお、第３，４テクスチャーベクトルａ3,ａ4によって変動する色彩値の色相方向が互いに異なっている。例えば、第３テクスチャーベクトルａ3はＲ軸に沿って色彩値が変動し、第４テクスチャーベクトルａ４はＢ軸に沿って色彩値が変動する。
【００４２】
なお、目テクスチャーモデルについてのテクスチャーモデル設定ステップ（図２のステップＳ１４０）において設定された平均目画像Ａ0（ｘ）およびテクスチャーベクトルａk（ｘ）は、ＡＡＭ情報ＡＭＩ（図１）としてプリンター１００の内部メモリー１２０に格納される。コンピューターはＡＡＭ情報ＡＭＩをいずれかの記録媒体に記録しておき、プリンター１００の製造時において該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録した内部メモリー１２０をプリンター１００に組み込むか、プリンター１００に組み込むまれた内部メモリー１２０に対して該記録媒体から読み出したＡＡＭ情報ＡＭＩを記録させる。顔特徴検出処理と目特徴検出処理を実行するにあたり、プリンター１００において、内部メモリー１２０から目モデルとしてのＡＡＭ情報ＡＭＩを取得するＣＰＵは本発明の「取得部」に相当する。
【００４３】
Ａ３．顔特徴検出処理：
図１２は、実施例における顔特徴検出処理の流れを示すフローチャートである。本実施例における顔特徴検出処理は、ＡＡＭ（顔モデル（顔形状モデル））を利用して注目画像に含まれる顔画像における特徴点ＣＰの配置を決定する特徴点ＣＰ設定位置補正処理（ステップＳ２５０）により、顔画像における特徴部位の位置を検出する処理である。上述したように、本実施例では、ＡＡＭ設定処理（図２）において、人物の顔の器官（眉毛、目、鼻、口）および顔の輪郭における計６８箇所の所定位置が、特徴部位として設定されている（図４参照）。そのため、本実施例の顔特徴検出処理では、人物の顔の器官および顔の輪郭における所定位置を示す６８個の特徴点ＣＰの配置が決定される。
【００４４】
なお、顔特徴検出処理によって顔画像における特徴点ＣＰの配置が決定されると、顔画像についての形状パラメーターｐiの値が特定される。従って、顔特徴検出処理の処理結果は特定の向き（例えば右向きや下向き）の顔画像を検出するための顔向き判定、顔の形状を変形する顔変形、顔の陰影補正等に利用可能である。
【００４５】
はじめに、画像処理部２００（図１）は、顔特徴検出処理の対象となる注目画像を表す画像データを取得する（ステップＳ２１０）。本実施例のプリンター１００では、カードスロット１７２にメモリーカードＭＣが挿入されると、メモリーカードＭＣに格納された画像ファイルのサムネイル画像が表示部１５０に表示される。処理の対象となる１つまたは複数の画像は、操作部１４０を介してユーザーにより選択される。画像処理部２００は、選択された１つまたは複数の画像に対応する画像データを含む画像ファイルをメモリーカードＭＣより取得して内部メモリー１２０の所定の領域に格納する。なお、取得された画像データを注目画像データと呼び、注目画像データの表す画像を注目画像ＯＩと呼ぶものとする。
【００４６】
顔領域検出部２３０（図１）は、注目画像ＯＩに含まれる顔画像の少なくとも一部を含む画像領域を顔領域ＦＡとして検出する（ステップＳ２３０）。顔領域ＦＡの検出は、公知の顔検出手法を用いておこなうことができる。公知の顔検出手法としては、例えば、パターンマッチングによる手法や肌色領域抽出による手法、サンプル画像を用いた学習（例えばニューラルネットワークを用いた学習や、ブースティングを用いた学習、サポートベクターマシーンを用いた学習等）により設定される学習データを用いる手法等がある。
【００４７】
図１３は、注目画像ＯＩにおける顔領域ＦＡの検出結果の一例を示す説明図である。図１３には、注目画像ＯＩにおいて検出された顔領域ＦＡが示されている。本実施例では、おおよそ、顔の上下方向は額から顎まで、左右方向は両耳の外側まで含む矩形の領域が顔領域ＦＡとして検出されるような顔検出手法が用いられている。
【００４８】
設定部２１０（図１）は、注目画像ＯＩにおける特徴点ＣＰの初期位置を設定する（ステップＳ２４０）。図１４は、本実施例における特徴点ＣＰの初期位置設定処理の流れを示すフローチャートである。本実施例では、設定部２１０は、顔領域ＦＡに対する顔画像の大きさ、傾き、位置（上下方向の位置および左右方向の位置）を表すグローバルパラメーターの値を種々変更して、特徴点ＣＰを注目画像ＯＩ上の仮設定位置に設定する（ステップＳ３１０）。
【００４９】
図１５は、グローバルパラメーターの値を変更することによる特徴点ＣＰの仮設定位置の一例を示す説明図である。図１５（ａ）および図１５（ｂ）には、注目画像ＯＩにおける特徴点ＣＰおよび特徴点ＣＰをつないで形成されるメッシュが示されている。設定部２１０は、図１５（ａ）および図１５（ｂ）の中央に示すように、顔領域ＦＡの中央部に平均形状ｓ0が形成されるような特徴点ＣＰの仮設定位置（以下、「基準仮設定位置」とも呼ぶ）を設定する。
【００５０】
設定部２１０は、また、基準仮設定位置に対して、グローバルパラメーターの値を種々変更させた複数の仮設定位置を設定する。グローバルパラメーター（大きさ、傾き、上下方向の位置および左右方向の位置）を変更することは、注目画像ＯＩにおいて特徴点ＣＰにより形成されるメッシュが拡大・縮小、傾きを変更、並行移動することに相当する。従って、設定部２１０は、図１５（ａ）に示すように、基準仮設定位置のメッシュを所定倍率で拡大または縮小したメッシュを形成するような仮設定位置（基準仮設定位置の図の下および上に示す）や、所定角度だけ時計回りまたは半時計回りに傾きを変更したメッシュを形成するような仮設定位置（基準仮設定位置の図の右および左に示す）を設定する。また、設定部２１０は、基準仮設定位置のメッシュに対して、拡大・縮小および傾きの変更を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。
【００５１】
また、図１５（ｂ）に示すように、設定部２１０は、基準仮設定位置のメッシュを所定量だけ上または下に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の上および下に示す）や、左または右に並行移動したメッシュを形成するような仮設定位置（基準仮設定位置の図の左および右に示す）を設定する。また、設定部２１０は、基準仮設定位置のメッシュに対して、上下および左右の並行移動を組み合わせた変換を行ったメッシュを形成するような仮設定位置（基準仮設定位置の図の左上、左下、右上、右下に示す）も設定する。
【００５２】
設定部２１０は、図１５（ａ）に示す基準仮設定位置以外の８つの仮設定位置のそれぞれにおけるメッシュに対して図１５（ｂ）に示す上下左右の並行移動が実行される仮設定位置も設定する。従って、本実施例では、４つのグローバルパラメーター（大きさ、傾き、上下方向の位置、左右方向の位置）をそれぞれ既知の３段階の値として組み合わせにより設定される８０通り（＝３×３×３×３−１）の仮設定位置と、基準仮設定位置の合計８１通りの仮設定位置が設定される。
【００５３】
生成部２２２（図１）は、設定された各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））を生成する（ステップＳ３２０）。図１６は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の一例を示す説明図である。平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、入力画像における特徴点ＣＰの配置が平均形状ｓ0における特徴点ＣＰの配置と等しくなるような変換によって算出される。
【００５４】
平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出するための変換は、サンプル画像ＳＩｗ算出のための変換（図８参照）と同様に、三角形領域ＴＡ毎のアフィン変換の集合であるワープＷにより行われる。具体的には、注目画像ＯＩに配置された特徴点ＣＰ（図１５参照）によって平均形状領域ＢＳＡ（外周に位置する特徴点ＣＰにより囲まれた領域）が特定され、注目画像ＯＩにおける平均形状領域ＢＳＡに対して三角形領域ＴＡ毎のアフィン変換が行われることにより、平均形状画像Ｉ（Ｗ（ｘ；ｐ））が算出される。本実施例では、平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、平均顔画像Ａ0（ｘ）と同様に平均形状領域ＢＳＡおよびマスク領域ＭＡにより構成され、平均顔画像Ａ0（ｘ）と同サイズの画像として算出される。
【００５５】
なお、上述したように、画素群ｘは、平均形状ｓ0における平均形状領域ＢＳＡに位置する画素の集合である。ワープＷ実行後の画像（平均形状ｓ0を有する顔画像）における画素群ｘに対応するワープＷ実行前の画像（注目画像ＯＩの平均形状領域ＢＳＡ）における画素群をＷ（ｘ；ｐ）と表す。平均形状画像は、注目画像ＯＩの平均形状領域ＢＳＡにおける画素群Ｗ（ｘ；ｐ）のそれぞれにおける色彩値により構成される画像であるため、Ｉ（Ｗ（ｘ；ｐ））と表される。図１６には、図１５（ａ）に示した９個の仮設定位置に対応する９個の平均形状画像Ｉ（Ｗ（ｘ；ｐ））を示している。
【００５６】
算出部２２４（図１）は、各仮設定位置に対応する平均形状画像Ｉ（Ｗ（ｘ；ｐ））と、平均顔画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ３３０）。特徴点ＣＰの仮設定位置は８１種類設定されているため、算出部２２４（図１）は、８１個の差分画像Ｉｅを算出することとなる。
【００５７】
設定部２１０は、各差分画像Ｉｅの画素値からノルムを算出し、ノルムの値が最も小さい差分画像Ｉｅに対応する仮設置位置（以下「ノルム最小仮設定位置」とも呼ぶ）を、注目画像ＯＩにおける特徴点ＣＰの初期位置として設定する（ステップＳ３４０）。ノルムを算出するための画素値は色彩値であってもよいし輝度値であってもよい。以上により特徴点ＣＰ初期位置設定処理が完了する。なお、ノルムの値が小さいほど平均形状画像Ｉ（Ｗ（ｘ；ｐ））と、平均顔画像Ａ0（ｘ）との差が小さくなる（両者が近似する）。
【００５８】
特徴点ＣＰ初期位置設定処理が完了すると、特徴位置検出部２２０（図１）は、注目画像ＯＩにおける特徴点ＣＰの設定位置の補正をおこなう（ステップＳ２５０）。図１７は、本実施例における特徴点ＣＰ設定位置補正処理の流れを示すフローチャートである。
【００５９】
生成部２２２（図１）は、注目画像ＯＩから平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出する（ステップＳ４１０）。平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出方法は、特徴点ＣＰ初期位置設定処理におけるステップＳ３２０と同様である。
【００６０】
特徴位置検出部２２０は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））と平均顔画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ４２０）。特徴位置検出部２２０は、差分画像Ｉｅに基づき、特徴点ＣＰの設定位置補正処理が収束したか否かを判定する（ステップＳ４３０）。特徴位置検出部２２０は、差分画像Ｉｅのノルムを算出し、ノルムの値が予め設定された閾値より小さい場合には収束したと判定し、ノルムの値が閾値以上の場合には未だ収束していないと判定する。なお、特徴位置検出部２２０は、算出された差分画像Ｉｅのノルムの値が前回のステップＳ４３０において算出された値よりも小さい場合には収束したと判定し、前回値以上である場合には未だ収束していないと判定するものとしてもよい。あるいは、特徴位置検出部２２０は、閾値による判定と前回値との比較による判定とを組み合わせて収束判定をおこなうものとしてもよい。例えば、特徴位置検出部２２０は、算出されたノルムの値が、閾値より小さく、かつ、前回値より小さい場合にのみ収束したと判定し、それ以外の場合には未だ収束していないと判定するものとしてもよい。
【００６１】
前記のステップＳ４３０の収束判定において未だ収束していないと判定された場合には、補正部２２６（図１）がパラメーター更新量ΔＰを算出する（ステップＳ４５０）。パラメーター更新量ΔＰは、４個のグローバルパラメーター（全体としての大きさ、傾き、Ｘ方向位置、Ｙ方向位置）、および、特徴量であるｎ個の形状パラメーターｐi（ｉ＝１〜ｎの整数。）の値の変更量を意味している。なお、特徴点ＣＰを初期位置に設定した直後においては、グローバルパラメーターは、特徴点ＣＰ初期位置設定処理（図１４）において決定された値が設定されている。また、このときの特徴点ＣＰの初期位置と平均形状ｓ0の特徴点ＣＰの設定位置との相違は、全体としての大きさ、傾き、位置の相違に限られるため、形状モデルにおける形状パラメーターｐiの値およびテクスチャーモデルにおけるテクスチャーパラメーターλkはすべてゼロである。
【００６２】
パラメーター更新量ΔＰは、下記の式（３）により算出される。すなわち、パラメーター更新量ΔＰは、アップデートマトリックスＲと差分画像Ｉｅとの積である。
【００６３】
【数３】
【００６４】
式（３）におけるアップデートマトリックスＲは、差分画像Ｉｅに基づきパラメーター更新量ΔＰを算出するために予め学習により設定されたＭ行Ｎ列のマトリックスであり、
ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納されている。本実施例では、アップデートマトリックスＲの行数Ｍは、グローバルパラメーターの数（４個）と、形状パラメーターｐiの数（ｎ個）との和（（４＋ｎ）個）に等しく、列数Ｎは、平均顔画像Ａ0（ｘ）の平均形状領域ＢＳＡ内の画素数（５６画素×５６画素−マスク領域ＭＡの画素数）に等しい。アップデートマトリックスＲは、下記の式（４）および（５）により算出される。
【００６５】
【数４】
【数５】
【００６６】
補正部２２６（図１）は、算出されたパラメーター更新量ΔＰに基づきパラメーター（４個のグローバルパラメーターとｎ個の形状パラメーターｐi）を更新する（ステップＳ４６０）。これにより、注目画像ＯＩにおける特徴点ＣＰの設定位置が補正される。補正部２２６は、差分画像Ｉｅのノルムが小さくなるように補正する。パラメーターの更新の後には、再度、特徴点ＣＰの設置位置が補正された注目画像ＯＩからの平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出（ステップＳ４１０）、差分画像Ｉｅの算出（ステップＳ４２０）、差分画像Ｉｅに基づく収束判定（ステップＳ４３０）が行われる。なお、平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、形状パラメーターｐiの更新（変化）に応じて変化するものであり、特許請求の範囲の「顔領域」に相当する。再度の収束判定においても収束していないと判定された場合には、さらに、差分画像Ｉｅに基づくパラメーター更新量ΔＰの算出（ステップＳ４５０）、パラメーターの更新による特徴点ＣＰの設定位置補正（ステップＳ４６０）が行われる。
【００６７】
図１７のステップＳ４１０からＳ４６０までの処理が繰り返し実行されると、注目画像ＯＩにおける各特徴部位に対応する特徴点ＣＰの位置、実際の特徴部位の位置に全体として近づいていき、ある時点で収束判定（ステップＳ４３０）において収束したと判定される。収束判定において収束したと判定されると、顔特徴検出処理が完了する（ステップＳ４７０）。このとき設定されているグローバルパラメーターおよび形状パラメーターｐiの値により特定される特徴点ＣＰの設定位置が、最終的な注目画像ＯＩにおける特徴点ＣＰの設定位置として特定される。
【００６８】
図１８は、特徴点ＣＰ設定位置補正処理の結果の一例を示す説明図である。図１８には、注目画像ＯＩにおいて最終的に特定された特徴点ＣＰの設定位置が示されている。特徴点ＣＰの設定位置により、注目画像ＯＩに含まれる顔の特徴部位（人物の顔の器官（眉毛、目、鼻、口）および顔の輪郭における所定位置）の位置が特定されるため、注目画像ＯＩにおける人物の顔の器官の形状・位置や顔の輪郭形状の検出が可能となる。注目画像ＯＩにおいて最終的に特定された特徴点ＣＰの位置およびグローバルパラメーターおよび形状パラメーターｐiは内部メモリー１２０に記憶しておく。
【００６９】
Ａ４．目特徴検出処理：
図１９は、目特徴検出処理（テクスチャー検出処理）の流れを示すフローチャートである。目特徴検出処理は、テクスチャー検出部２４０が目テクスチャーモデルを使用してテクスチャーパラメーターλkを補正する処理によって構成される。顔特徴検出処理では目の形状や位置が特定されるが、目特徴検出処理では目のテクスチャーが特定される。テクスチャー検出処理を実行するテクスチャー検出部２４０は、特許請求の範囲における「特徴量検出部」に相当する。
【００７０】
生成部２４２（図１）は、注目画像ＯＩから平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出する（ステップＳ５１０）。平均形状画像Ｉ（Ｗ（ｘ；ｐ））の算出方法は、特徴点ＣＰ初期位置設定処理におけるステップＳ３２０、および、特徴点ＣＰ設定位置補正処理におけるステップＳ４１０と同様であるが、特徴点ＣＰ設定位置補正処理完了時のグローバルパラメーターおよび形状パラメーターｐiの値を使用して平均形状画像Ｉ（Ｗ（ｘ；ｐ））が算出される。ここで算出される平均形状画像Ｉ（Ｗ（ｘ；ｐ））は、ステップＳ４３０において、収束判定がなされたときの平均形状画像Ｉ（Ｗ（ｘ；ｐ））と同じである。次に、生成部２４２（図１）は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））から右目の目領域を検出し、該目領域の画像を平均形状目画像ＡＩ（ｘ）として抽出する（ステップＳ５１５）。右目の目領域を検出する生成部２４２は、特許請求の範囲における「目領域検出部」に相当する。
【００７１】
図２０は、平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均形状目画像ＡＩ（ｘ）を抽出する様子を示している。上述したとおり、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における目の位置および形状は、平均顔画像Ａ0（ｘ）における目の位置および形状と同じとなる。注目画像ＯＩの顔画像を平均化するようなグローバルパラメーターおよび形状パラメーターｐiが顔特徴検出処理によって検出されているからである。本実施例では、平均顔画像Ａ0（ｘ）における左右の目の領域を示す平均目領域Ｑ１，Ｑ２を特定する座標情報が内部メモリー１２０に登録してあり、該座標情報を読み出して平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均目領域Ｑ１に対応する画素を抽出することにより、平均形状目画像ＡＩ（ｘ）を抽出する。目の全体的な位置や形状は平均化されているものの、平均形状目画像ＡＩ（ｘ）における瞳の位置や色については平均化されておらず、注目画像ＯＩに含まれる目の個性が残存していることとなる。
【００７２】
次に、平均形状目画像ＡＩ（ｘ）を構成する各画素の色彩値を目テクスチャーモデル（下記の式（６））によって変化させた目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を算出する（ステップＳ５１７）。
【数６】
前記の式（６）の右辺は、前記の式（２ｂ）の右辺におけるテクスチャーＡ（ｘ）に平均形状目画像ＡＩ（ｘ）を代入したものであり、テクスチャーパラメーターλkが適切に設定されれば前記の式（２ｂ）の左辺が示すように、右辺が平均目画像Ａ0（ｘ）と等しくなる。ここでは、前記の式（６）の右辺によって得られる画像を、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と表記する。最初の段階では、テクスチャーパラメーターλkの値を適当な値（例えば、すべて０とする。）に設定する。
【００７３】
次に、算出部２４４は、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と平均目画像Ａ0（ｘ）との差分画像Ｉｅを算出する（ステップＳ５２０）。テクスチャー検出部２４０は、差分画像Ｉｅに基づき、テクスチャー検出処理が収束したか否かを判定する（ステップＳ５３０）。すなわち、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））と平均目画像Ａ0（ｘ）とが十分に近似したか否かを判定する。テクスチャー検出部２４０は、差分画像Ｉｅのノルムを算出し、ノルムの値が予め設定された閾値より小さい場合には収束したと判定し、ノルムの値が閾値以上の場合には未だ収束していないと判定する。なお、テクスチャー検出部２４０は、算出された差分画像Ｉｅのノルムの値が前回のステップＳ５３０において算出された値よりも小さい場合には収束したと判定し、前回値以上である場合には未だ収束していないと判定するものとしてもよい。ここにおける収束の判定は、特徴点ＣＰ設定位置補正処理におけるステップＳ４３０と同様の手法によりおこなうことができる。
【００７４】
前記のステップＳ５３０の収束判定において未だ収束していないと判定された場合には、補正部２４６（図１）がパラメーター更新量Δλを算出する（ステップＳ５５０）。パラメーター更新量ΔΛは、特徴量であるｍ個（ｍ＝４）のテクスチャーパラメーターλk（ｋ＝１〜ｍの整数。）の値の変更量を意味している。パラメーター更新量ΔΛは、下記の式（７）により算出される。すなわち、パラメーター更新量ΔΛは、アップデートマトリックスＵと差分画像Ｉｅとの積である。
【００７５】
【数７】
【００７６】
式（７）におけるアップデートマトリックスＵは、差分画像Ｉｅに基づきパラメーター更新量ΔΛを算出するために予め学習により設定されたＭ行Ｎ列のマトリックスであり、
ＡＡＭ情報ＡＭＩ（図１）として内部メモリー１２０に格納されている。本実施例では、アップデートマトリックスＵの行数Ｍは、テクスチャーパラメーターλk（ｍ個）に等しく、列数Ｎは、平均目領域Ｑ１，Ｑ２内の画素数に等しい。アップデートマトリックスＵは、下記の式（８），（９）により算出される。
【数８】
【数９】
【００７７】
補正部２４６（図１）は、算出されたパラメーター更新量ΔΛに基づきテクスチャーパラメーターλkを更新する（ステップＳ５６０）。これにより、目のテクスチャーＡ（ｘ）が補正される。すなわち、補正部２４６は、差分画像Ｉｅのノルムが小さくなるように補正する。パラメーターの更新の後には、再度、補正されたテクスチャーパラメーターλkに基づいて目テクスチャー画像Ｊ（Ｔ（ｘ；λ））の算出（ステップＳ５１７）、差分画像Ｉｅの算出（ステップＳ５２０）、差分画像Ｉｅに基づく収束判定（ステップＳ５３０）が行われる。再度の収束判定においても収束していないと判定された場合には、さらに、差分画像Ｉｅに基づくパラメーター更新量ΔΛの算出（ステップＳ５５０）、パラメーターの更新によるテクスチャーの補正（ステップＳ５６０）が行われる。
【００７８】
図１９のステップＳ５２０からＳ５６０までの処理が繰り返し実行されると、補正されたテクスチャーパラメーターλkを前記の（２ａ）式に適用したときの目のテクスチャーＡ（ｘ）の各画素の色彩値が、実際の目画像の色彩値に全体として近づいていき、ある時点で収束判定（ステップＳ５３０）において収束したと判定される。収束判定において収束したと判定されると、右目のテクスチャー検出処理が完了し、このとき設定されているテクスチャーパラメーターλkの値により特定される目のテクスチャーＡ（ｘ）が最終的な右目の見えとして特定される。次に、両目についてのテクスチャー検出処理が完了したか否かを判定する（ステップＳ５７０）。
【００７９】
完了していない場合には、生成部２４２が平均形状画像Ｉ（Ｗ（ｘ；ｐ））から平均目領域Ｑ２に対応する画素を抽出し、左右反転させた上で、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））として抽出する（ステップＳ５８０）。そして、ステップＳ５２０に戻り、左目についてのテクスチャー検出処理（ステップＳ５２０からＳ５６０）を実行する。なお、目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を反転させておくことにより、右目についての目テクスチャーモデルを使用することができる。収束判定（ステップＳ５３０）において収束したと判定されると、左目のテクスチャー検出処理が完了し、このとき設定されているテクスチャーパラメーターλkの値により特定される目のテクスチャーＡ（ｘ）が最終的な左目の見えとして特定される。以上のようにして右目と左目のテクスチャーパラメーターλkが得られると、目特徴検出処理が完了し、次に赤目判定・補正処理を実行する。なお、最終的に得られた右目と左目のテクスチャーパラメーターλkは、特許請求の範囲の「近似特徴量」に相当する。
【００８０】
Ａ５．赤目判定・補正処理：
図２１は、赤目判定・補正処理の流れを示すフローチャートである。まず、赤目判定部２５０が右目のテクスチャーパラメーターλkを取得する（ステップＳ６１０）。赤目判定部２５０は、テクスチャーパラメーターλ2と所定の閾値（本実施例では０とする。）とを比較し（ステップＳ６１５）、テクスチャーパラメーターλ2の値が閾値よりも大きければ赤目であると判定する（ステップＳ６２０）。図１１（ｂ）に示したように、テクスチャーパラメーターλ2の値が大きければ大きいほど、赤目らしさが強くなる。なお、赤目であるか否かを判定する赤目判定部２５０が特許請求の範囲の「目状態判定部」に相当する。
【００８１】
赤目であると判定した場合には、赤目補正部２６０がテクスチャーパラメーターλ2の値を理想値（本実施例では−０．７とする。）とする（ステップＳ６２５）。これにより、テクスチャーパラメーターλ2の値は赤目らしくない値（正常な値）に修正されたこととなる。そして、赤目補正部２６０は、他のテクスチャーパラメーターλkの値は変更することなく、目テクスチャーモデル（（２ｂ）式）にテクスチャーパラメーターλkを代入し、右目のテクスチャーＡ（ｘ）を算出する（ステップＳ６３０）。算出された右目のテクスチャーＡ（ｘ）においては、赤目らしさが消失し、正常（本来の色を有する）な瞳孔の色となっている。
【００８２】
図２２は、本実施例において赤目が補正される様子（ステップＳ６２５〜Ｓ６８５）を示している。なお、ステップＳ６３０にて算出される右目のテクスチャーＡ（ｘ）は、特許請求の範囲の「理想目画像」に相当する。次に、赤目補正部２６０は、算出された右目のテクスチャーＡ（ｘ）によって、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における平均目領域Ｑ１に対応する領域を置き換える（ステップＳ６３５）。以上の処理により、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の右目の赤目が正常な目に補正されたこととなる。
【００８３】
引き続き、赤目判定部２５０は左目について同様の処理を行う。ただし、左目については左右の対称性を考慮した上で、目テクスチャーモデルの適用を行うこととする。まず、赤目判定部２５０が左目のテクスチャーパラメーターλkを取得する（ステップＳ６４０）。赤目判定部２５０は、テクスチャーパラメーターλ2と閾値とを比較し（ステップＳ６４５）、テクスチャーパラメーターλ2の値が閾値よりも大きければ赤目であると判定する（ステップＳ６５０）。赤目であると判定した場合には、赤目判定部２５０がテクスチャーパラメーターλ2の値を理想値とする（ステップＳ６５５）。そして、他のテクスチャーパラメーターλkの値は変更することなく、目テクスチャーモデル（（２ｂ）式）にテクスチャーパラメーターλkを代入し、左目のテクスチャーＡ（ｘ）を算出する（ステップＳ６６０）。目テクスチャーモデルでは右目のテクスチャーＡ（ｘ）が再現されるため、ステップＳ６６０ではテクスチャーＡ（ｘ）の算出後、画像を左右反転させることとする。算出された左目のテクスチャーＡ（ｘ）によって、平均形状画像Ｉ（Ｗ（ｘ；ｐ））における平均目領域Ｑ２に対応する領域を置き換える（ステップＳ６６５）。以上の処理により、平均形状画像Ｉ（Ｗ（ｘ；ｐ））の左目の赤目を正常な目に補正することができる。
【００８４】
次に、平均形状画像Ｉ（Ｗ（ｘ；ｐ））を、もとの顔領域ＦＡにおける顔画像に復元する（ステップＳ６７０）。具体的には、顔特徴検出処理で得られたグローバルパラメーターと形状パラメーターｐiを顔形状モデル（（１ａ）式）に適用することにより、もとの顔の形状を再現する。さらに、復元した顔の形状ｓにおける特徴点ＣＰの位置に基づいて平均形状画像Ｉ（Ｗ（ｘ；ｐ））の各画素をワープ処理することにより、もとの顔画像に復元する。基本的には、もとの顔画像へと復元されるが、目については赤目が正常な目に補正されているため、該補正が反映されることとなる。顔形状モデルにおける特徴点ＣＰの相対的な位置関係も、顔特徴検出処理において特定された特徴点ＣＰ（図１８）の相対的な位置関係と一致するように復元されている。各特徴点ＣＰの位置を一致させるように、復元した顔画像の各画素の色彩値によって、注目画像ＯＩにおける対応画素の色彩値を置換する（ステップＳ６８５）。これにより、図２２の下段に示すように赤目が補正された顔画像を有する注目画像ＯＩを得ることができる。なお、左右ともに赤目となるとは限らないため、本実施例では左右それぞれの目について赤目判定を行うようにしている。最後に、注目画像ＯＩを印刷処理部３２０に出力し、赤目が補正された注目画像ＯＩを印刷する（ステップＳ６８０）。
【００８５】
本実施例では、赤目であるか否かに相関するテクスチャーパラメーターλ2の値の大きさに応じて赤目であるかを判定しているため、精度の良い判定を実現することができる。すなわち、赤目らしさを主成分分析によって統計的に解析し、テクスチャーパラメーターλ2の値によって判別しているため、漏れの少ない赤目判定を行うことができる。例えば、赤色の画素に基づいて赤目判定する場合には、フラッシュによって実際に目の色が赤く変化した場合にしか赤目であると判定することができないが、必ずしも瞳孔部分が赤く変化していなくても赤目であると判定することができる。本実施例では、赤目である場合に、瞳孔部分を特定の色（例えば、黒。）で塗りつぶすのではなく、目テクスチャーモデルにおいて赤目であるか否かに相関するテクスチャーパラメーターλ2を赤目でない値に修正するため、瞳孔部分の本来の色がどのようなものであっても自然な赤目補正を実現することができる。すなわち、瞳孔部分の本来の色に相関する成分は補正されないため、赤目後で瞳孔部分の本来の色に復元することができる。なお、瞳孔部分の本来の色は、人種等に応じた変動が少ないため、本実施例で使用する第１〜第４主成分とは相関しない。従って、自然な補正結果を得ることができる。また、瞳孔部分一様な色で塗りつぶさないため、瞳孔部分の微妙の階調変化を維持することができる。
【００８６】
Ｂ．変形例：
なお、この発明は前記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
【００８７】
Ｂ１．変形例１：
前記実施例では、テクスチャーパラメーターλ2のみを補正することとしたが、第３，４テクスチャーベクトルａ3,ａ4についても補正するようにしてもよい。例えば、第４テクスチャーベクトルａ４によってＢ軸に沿って色を調整することにより、虹彩部分の青みを調整するようにしてもよい。虹彩部分の色彩値と第３，４テクスチャーベクトルａ3,ａ4との対応関係を規定したテーブルを内部メモリー１２０に記憶させておき、該テーブルを参照してユーザーが指定した色彩値に対応する第３，４テクスチャーパラメーターλ3,λ4に補正するようにしてもよい。これにより、カラーコンタクトレンズをしたのと同様に、虹彩の色が変化した目画像を再現させることができる。
【００８８】
反対に、前記テーブルを参照することにより、目特徴検出処理によって得られた第３，４テクスチャーパラメーターλ3,λ4に基づいて虹彩部分の色彩値を得ることができる。従って、第３，４テクスチャーパラメーターλ3,λ4を人種判別や個人認証に利用することも可能である。すなわち、特許請求の範囲の「目状態判定部」によって、赤目のみならず、虹彩部分の色彩的特徴を判定してもよい。さらに、サンプル画像ＳＩに瞳以外の白目部分に特徴を有するものを含ませることにより、白目部分についての状態を判定することもできる。例えば、充血しているサンプル画像ＳＩと、充血していないサンプル画像ＳＩを使用して顔テクスチャーモデルを設定することにより、いずれかの主成分に対応するテクスチャーパラメーターλkに基づいて充血しているか否かを判定することもできる。このように、サンプル画像ＳＩに含ませる目の状態の属性を変えることにより、容易に判定の対象とする目の状態を変更することができる。
【００８９】
Ｂ２．変形例２：
さらに、変形例１における第３，４テクスチャーベクトルａ3,ａ4の補正に不随して、顔形状モデルにおける形状パラメーターｐiも補正するようにしてもよい。すなわち、ステップＳ６７０において、もとの顔画像に復元する際に使用する形状パラメーターｐiを、第３，４テクスチャーベクトルａ3,ａ4と連動して補正するようにしてもよい。例えば、第３，４テクスチャーベクトルａ3,ａ4が日本人の虹彩部分の色彩値に対応する値から西洋人の虹彩部分の色彩値に対応する値に補正されるのにともなって、西洋人の骨格の特徴点ＣＰの位置に対応する形状パラメーターｐiに補正するようにしてもよい。
【００９０】
Ｂ３．変形例３：
前記実施例の特徴点ＣＰ設定位置補正処理では、注目画像ＯＩに基づき平均形状画像Ｉ（Ｗ（ｘ；ｐ））を算出することにより注目画像ＯＩの特徴点ＣＰの設置位置を平均顔画像Ａ0（ｘ）の特徴点ＣＰの設置位置に整合させているが、平均顔画像Ａ0（ｘ）に対して画像変換をおこなうことにより両者の特徴点ＣＰの配置を整合させるものとしてもよい。すなわち、前記実施例では、「顔領域」としての平均形状画像Ｉ（Ｗ（ｘ；ｐ））を変化させることとしたが、平均顔画像Ａ0（ｘ）を形状パラメーターｐiやテクスチャーパラメーターλkの変化に応じて変化させてもよい。いずれにしても、注目画像ＯＩに含まれる「顔領域」と、顔モデルによって再現される顔の画像との差を小さくさせる形状パラメーターｐiやテクスチャーパラメーターλkに補正されることとなる。同様に、前記実施例の目特徴検出処理では、注目画像ＯＩに基づき目テクスチャー画像Ｊ（Ｔ（ｘ；λ））を算出することにより注目画像ＯＩの目画像を平均目画像Ａ0（ｘ）に整合させているが、平均目画像Ａ0（ｘ）に対して画像変換をおこなうことにより両者を整合させるものとしてもよい。
【００９１】
Ｂ４．変形例４：
前記実施例におけるサンプル画像ＳＩ（図３）はあくまで一例であり、サンプル画像ＳＩとして採用する画像の数、種類は任意に設定可能である。また、前記実施例において、特徴点ＣＰの位置で示される顔の所定の特徴部位（図４参照）はあくまで一例であり、実施例において設定されている特徴部位の一部を省略したり、特徴部位として他の部位を採用したりしてもよい。
【００９２】
また、前記実施例において、平均顔画像Ａ0（ｘ）のサイズは５６画素×５６画素に限られず他のサイズであってもよい。また、平均顔画像Ａ0（ｘ）は、マスク領域ＭＡ（図８）を含む必要はなく、平均形状領域ＢＳＡのみによって構成されるとしてもよい。また、平均顔画像Ａ0（ｘ）の代わりに、サンプル画像ＳＩの統計的分析に基づき設定される他の基準顔画像が用いられるとしてもよい。
【００９３】
また、前記実施例では、ＡＡＭを用いた形状モデルおよびテクスチャーモデルの設定が行われているが、他のモデル化手法（例えばＭｏｒｐｈａｂｌｅ Ｍｏｄｅｌと呼ばれる手法やＡｃｔｉｖｅ Ｂｌｏｂと呼ばれる手法）を用いて形状モデルおよびテクスチャーモデルの設定が行われるとしてもよい。
【００９４】
また、前記実施例では、メモリーカードＭＣに格納された画像が注目画像ＯＩに設定されているが、注目画像ＯＩは例えばネットワークを介して取得された画像であってもよい。また、前記実施例では、画像処理装置としてのプリンター１００による画像処理を説明したが、処理の一部または全部がパーソナルコンピューターやデジタルスチルカメラ、デジタルビデオカメラ等の他の種類の画像処理装置により実行されるものとしてもよい。また、プリンター１００はインクジェットプリンターに限らず、他の方式のプリンター、例えばレーザプリンターや昇華型プリンターであるとしてもよい。
【００９５】
前記実施例において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。
【００９６】
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア（コンピュータープログラム）は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやＣＤ−ＲＯＭのような携帯型の記録媒体に限らず、各種のＲＡＭやＲＯＭ等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
【符号の説明】
【００９７】
１００…プリンター、１１０…ＣＰＵ、１２０…内部メモリー、１４０…操作部、１５０…表示部、１６０…印刷機構、１７０…カードインターフェース、１７２…カードスロット、２００…画像処理部、２１０…設定部、２２０…特徴位置検出部、２２２，２４２…生成部、２２４，２４４…算出部、２２６，２４６…補正部、２３０…顔領域検出部、２４０…テクスチャー検出部、２５０…赤目判定部、２６０…赤目補正部、３１０…表示処理部、３２０…印刷処理部。
【特許請求の範囲】
【請求項１】
注目画像に含まれる目の状態を判定する画像処理装置であって、
前記注目画像から目領域を検出する目領域検出部と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得部と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する特徴量検出部と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定部と、を備える画像処理装置。
【請求項２】
前記取得部は、目画像を含む複数のサンプル画像の各画素の色彩値を主成分分析することにより、各主成分の固有ベクトルを線形結合することにより目画像を再現する前記目モデルを取得するとともに、
前記特徴量は、各固有ベクトルを線形結合する際の各主成分に関する重み係数である請求項１に記載の画像処理装置。
【請求項３】
前記目モデルは、少なくとも赤目の目画像を含む複数の前記サンプル画像と、正常な目画像を含む複数の前記サンプル画像とを主成分分析することにより設定され、
前記目状態判定部は、前記近似特徴量に基づいて前記目領域の目が赤目であるか否かを判定する請求項２に記載の画像処理装置。
【請求項４】
前記目領域の目が赤目であると判定された場合、赤目らしさに相関する前記近似特徴量を補正した前記近似特徴量に基づいて前記目モデルが再現する目画像によって前記目領域を補正する補正部をさらに備える請求項３に記載の画像処理装置。
【請求項５】
前記目モデルは、虹彩の色が異なる目画像を含む複数の前記サンプル画像を主成分分析することにより設定され、
前記目状態判定部は、前記近似特徴量に基づいて虹彩の色を判定する請求項２に記載の画像処理装置。
【請求項６】
注目画像に含まれる目の状態を判定する画像処理方法であって、
前記注目画像から目領域を検出し、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得し、
前記目モデルによって再現される目画像と前記目領域とが近似するときの特徴量を近似特徴量として検出し、
前記近似特徴量に基づいて前記目領域の目の状態を判定する画像処理方法。
【請求項７】
注目画像に含まれる目の状態を判定する機能をコンピューターに実現させる画像処理プログラムであって、
前記注目画像から目領域を検出する目領域検出機能と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得機能と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する特徴量検出機能と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定機能と、をコンピューターに実現させる画像処理プログラム。
【請求項８】
注目画像を印刷する印刷装置であって、
前記注目画像から目領域を検出する目領域検出部と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得部と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの特徴量を近似特徴量として検出する特徴量検出部と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定部と、
前記近似特徴量を補正し、該修正した前記近似特徴量に基づいて前記目モデルが再現する目画像によって前記注目画像における前記目領域を補正する補正部と、
前記目領域が補正された前記注目画像を印刷する印刷部と、を備える印刷装置。
【請求項１】
注目画像に含まれる目の状態を判定する画像処理装置であって、
前記注目画像から目領域を検出する目領域検出部と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得部と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する特徴量検出部と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定部と、を備える画像処理装置。
【請求項２】
前記取得部は、目画像を含む複数のサンプル画像の各画素の色彩値を主成分分析することにより、各主成分の固有ベクトルを線形結合することにより目画像を再現する前記目モデルを取得するとともに、
前記特徴量は、各固有ベクトルを線形結合する際の各主成分に関する重み係数である請求項１に記載の画像処理装置。
【請求項３】
前記目モデルは、少なくとも赤目の目画像を含む複数の前記サンプル画像と、正常な目画像を含む複数の前記サンプル画像とを主成分分析することにより設定され、
前記目状態判定部は、前記近似特徴量に基づいて前記目領域の目が赤目であるか否かを判定する請求項２に記載の画像処理装置。
【請求項４】
前記目領域の目が赤目であると判定された場合、赤目らしさに相関する前記近似特徴量を補正した前記近似特徴量に基づいて前記目モデルが再現する目画像によって前記目領域を補正する補正部をさらに備える請求項３に記載の画像処理装置。
【請求項５】
前記目モデルは、虹彩の色が異なる目画像を含む複数の前記サンプル画像を主成分分析することにより設定され、
前記目状態判定部は、前記近似特徴量に基づいて虹彩の色を判定する請求項２に記載の画像処理装置。
【請求項６】
注目画像に含まれる目の状態を判定する画像処理方法であって、
前記注目画像から目領域を検出し、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得し、
前記目モデルによって再現される目画像と前記目領域とが近似するときの特徴量を近似特徴量として検出し、
前記近似特徴量に基づいて前記目領域の目の状態を判定する画像処理方法。
【請求項７】
注目画像に含まれる目の状態を判定する機能をコンピューターに実現させる画像処理プログラムであって、
前記注目画像から目領域を検出する目領域検出機能と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得機能と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの前記特徴量を近似特徴量として検出する特徴量検出機能と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定機能と、をコンピューターに実現させる画像処理プログラム。
【請求項８】
注目画像を印刷する印刷装置であって、
前記注目画像から目領域を検出する目領域検出部と、
特徴量に基づいて目の少なくとも一部の色を変動させながら目画像を再現する目モデルを取得する取得部と、
前記目モデルによって再現される目画像と前記目領域とが近似するときの特徴量を近似特徴量として検出する特徴量検出部と、
前記近似特徴量に基づいて前記目領域の目の状態を判定する目状態判定部と、
前記近似特徴量を補正し、該修正した前記近似特徴量に基づいて前記目モデルが再現する目画像によって前記注目画像における前記目領域を補正する補正部と、
前記目領域が補正された前記注目画像を印刷する印刷部と、を備える印刷装置。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図９】
【図１０】
【図１１】
【図１２】
【図１３】
【図１４】
【図１５】
【図１６】
【図１７】
【図１８】
【図１９】
【図２０】
【図２１】
【図２２】
【公開番号】特開２０１０−２８２３４０（Ｐ２０１０−２８２３４０Ａ）
【公開日】平成２２年１２月１６日（２０１０．１２．１６）
【国際特許分類】
【出願番号】特願２００９−１３３９９４（Ｐ２００９−１３３９９４）
【出願日】平成２１年６月３日（２００９．６．３）
【出願人】（０００００２３６９）セイコーエプソン株式会社 (51,324)
【Ｆターム（参考）】
【公開日】平成２２年１２月１６日（２０１０．１２．１６）
【国際特許分類】
【出願日】平成２１年６月３日（２００９．６．３）
【出願人】（０００００２３６９）セイコーエプソン株式会社 (51,324)
【Ｆターム（参考）】
[ Back to top ]