しわのエイジング及びディエイジングの現実的シミュレーションの方法及び装置
【課題】しわのエイジング及びディエイジングの現実的シミュレーションの方法及び装置を提供する。
【解決手段】表情画像内で見ることのできるしわをニュートラル画像の上に位置合わせし、しわのエイジングシミュレート画像を生成することによって、ニュートラル画像と表情画像を処理して、しわの経時変化をシミュレートする。その人自身のしわの組織学的データを用いるため、正確かつ現実的なしわのエイジングシミュレーションができる。同様に、目に見える全てのしわを除去し、しわのディエイジングシミュレート画像を生成する。更に、ニュートラル画像をエイジング又はディエイジングシミュレート画像とブレンドするが、ブレンドの度合いは、加齢による皮膚状態、及び/又は特定のタイプの処置の成果予想の統計的モデリングに基づく。用途としては、例えば、皮膚サイエンス、美容、及びコンピュータアニメーションなどの分野を含む。
【解決手段】表情画像内で見ることのできるしわをニュートラル画像の上に位置合わせし、しわのエイジングシミュレート画像を生成することによって、ニュートラル画像と表情画像を処理して、しわの経時変化をシミュレートする。その人自身のしわの組織学的データを用いるため、正確かつ現実的なしわのエイジングシミュレーションができる。同様に、目に見える全てのしわを除去し、しわのディエイジングシミュレート画像を生成する。更に、ニュートラル画像をエイジング又はディエイジングシミュレート画像とブレンドするが、ブレンドの度合いは、加齢による皮膚状態、及び/又は特定のタイプの処置の成果予想の統計的モデリングに基づく。用途としては、例えば、皮膚サイエンス、美容、及びコンピュータアニメーションなどの分野を含む。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本出願は、2007年7月23日に出願された米国特許仮出願第60/951,313号からの優先権を主張し、この特許は、その全体が参照として本明細書に組み込まれている。
【0002】
(発明の分野)
本発明は、画像処理の分野、詳細には、皮膚の画像の処理、及びそのエイジング又はディエイジングのシミュレーションに関する。
【背景技術】
【0003】
人の顔の外観(アピアランス)に及ぼす皮膚の老化の影響は、皮膚サイエンスで入念に研究及び文書化されている。各個人の皮膚の老化の進行は、内因性因子と外因性因子の双方に依存する。性別、人種、及び皮膚色素沈着のような内因性因子は、遺伝子によってプログラムされており、各個人によって異なるものであり、皮膚のひ薄化の速度、機械的弾性の喪失、及び加齢に伴うその他の特に特徴的な組織学的及び生体力学的変化に影響を及ぼす場合がある。内因性因子は、日光から保護されている身体部位と日光に曝露されている身体部位の双方に影響を及ぼす。外因性因子としては、個人の食生活、ライフスタイル、スキンケア習慣、及び日光曝露履歴が挙げられる。慢性的な日光曝露は、皮膚の老化の開始時期を早め、その重症度を加速させることがよく知られている(光老化ともいう)。顔を含む曝露身体部位はいずれも、ある程度の皮膚の光老化を受ける(ギルクレスト(Gilchrest).,B.著、「光損傷(Photodamage)」、ブラックウェル・サイエンス社(Blackwell Science, Inc.)1995年)。
【0004】
老化した顔面皮膚の最も視覚的に顕著な特徴の1つは、小じわとしわであり(レイデン(Leyden)J.J.著、「老化している皮膚の臨床的特徴(Clinical features of ageing skin)」、英国皮膚サイエンス会誌(Br. J. Dermatol.)第122巻、付録35、1〜3ページ、1990年)、それらは、特に体の日光曝露区域内における、コラーゲン及びエラスチンのような皮膚結合組織の段階的変化及び喪失によって部分的にもたらされる(ベイリー(Bailey)著、「結合組織における老化の分子機構(Molecular mechanisms of aging in connective tissues)」、老化及び発達の機構(Mech. Aging Dev.)、第122巻、第7号、735〜755ページ、2001年)。皮膚は、外側の角質層(10〜20μm)、生表皮(50〜100μm)、真皮(1〜3mm)、及び主に脂肪細胞からなる下皮を有する多層組織である。皮膚は、結合組織を介して下層の筋肉組織に結合しており、筋肉は頭蓋骨に付着している。
【0005】
笑顔のような顔の表情によって、大頬骨筋及び眼輪筋のような筋肉が接触して、目の周囲及び頬で皮膚の表面積が縮小する。皮膚は非圧縮性であるため、表面積が縮小すると、余分な皮膚はよじれて、収縮方向と垂直なしわを形成する。目の周りに「目尻のしわ」又は「笑いじわ」ができることが、このようなしわの一般例である。筋肉が緩むと、表面積は通常の状態に戻り、しわが消える。このように形成及び消滅するしわは、表情しわ、動的しわ、又は一時しわという。加齢に伴い、同じ皮膚溝沿いでの顔の表情の繰り返しによってもたらされる機械的応力によって、最終的に、これらの一時的しわは、表情なしでも目に見えるようになる(クリグマン(Kligman)ら著、英国皮膚サイエンス会誌(Br. J. Derm.)、1985年、第113巻、37〜42ページ)。顔の表情なしでも目に見えるしわは、恒久的しわ、永続的しわ、又は静的しわという。一時的しわから永続的しわへの転換は、下層の真皮マトリックスタンパク質の構造的一体性の影響を受ける。慢性的な日光曝露、及び喫煙によって加速される、加齢による皮膚弾性の喪失は、真皮マトリックス構造を弱め、恒久的しわの開始時期を早める。重要なことに、各個人は、指紋が人によって異なるのと同様に、長さ、幅、深さ、及び顔における位置の面で人によって異なる恒久的顔面しわを発生させる。
【0006】
個人の今後現れてくる顔面皮膚のしわを予測及び視覚化する機能は、コンピュータアニメーション、顔認識、行方不明者の識別、娯楽、医療、及び美容において有用性をもたらす。老化している顔面の現実的シミュレーションを可能にするために、幾何モデル、物理モデル、生体力学的モデル、及び画像ベースのモデル(フセイン(Hussein),K.H.著、「人の皮膚老化アニメーションの現実的な顔面モデリング及び再レンダリング(Toward realistic facial modeling and re-rendering of human skin aging animation)」、シェイプ・モデリング・インターナショナル2002(Shape Modeling International 2002)会報、IEEEコンピュータソサエティ(IEEE Computer Society)、2002年)を含め様々なモデルが採用されてきた。視覚化の目的では、画像ベースのモデルの方が、物理モデルよりも現実的なシミュレーションを生成する。画像ベースのモデルは典型的に、様々な方法で実在の人の画像を用いて、老化の影響をシミュレートする。
【0007】
画像ベースのモデルを用いてエイジングシミュレーションをパーソナライズして、そのシミュレーションが、特定の人の今後現れてくる老化の外観を更に正確に描写するようにするために、いくつかのアプローチが取られてきた。例えば、個人の老化した外観をシミュレートするために、加齢に伴う顔の変化に関する公表済みのデータと併せて、画像の集団コホートに基づき、エイジングアルゴリズムが開発されてきた(ハイサート(Hysert)PEら著、「ありのままで:老化進行ソフトウェアは、喫煙の外観に対する影響のパーソナライズ化したデモンストレーションを提供する(At Face Value: age progression software provides personalized demonstration of the effects of smoking on appearance)」、タバコ・コントロール(Tobacco Control)、第12巻、238〜240ページ、2003年)。この方法の限界は、エイジド画像が、集団ノルムの反映物であり、人によって異なる老化プロセスを必ずしも反映していない点である。
【0008】
ボワシュ(Boissiux)らは、皮膚の老化をシミュレートする画像ベースのモデルを開発し、このモデルによって、事前にコンピュータ処理したしわの汎用マスクを、人の顔の3Dモデル上のテクスチャとして適用する。8つの基本マスクを採用し、シミュレートを行う人の性別、顔の形、及び表情のタイプに、用いられる特定のマスクをマッチさせる(ボワシュ(Boissiux)ら著、「美容的観点による、皮膚の老化及びしわのシミュレーション(Simulation of skin aging and wrinkle with cosmetic insight)」、コンピュータアニメーション及びシミュレーション(Computer Animation and Simulation)、15〜27ページ、2000年)。このアプローチも、汎用マスクへの依存により、加齢に伴い現れる、人によって異なる皮膚特徴を正確に予測する能力において制限される。
【0009】
「画像ベースの表面細部転写のシステム及び方法(System and method for image-based surface detail transfer)」という名称のチャン(Zhang)らの米国特許第7,020,347号は、若い顔を老けて見えるようにするために、老いた顔の幾何学的細部を若い顔の幾何学的細部の上に転写する方法を説明している。逆に言えば、老けた顔を若く見えるようにするために、若い顔の表面細部を老けた顔の表面細部の上に転写することができる。このアプローチは、老けた顔の老化特徴が必ずしも、若い顔が最終的にもたらす特徴と全く同じにはならないことによって制限される。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】米国特許仮出願第60/951,313号
【特許文献2】米国特許第7,020,347号
【非特許文献】
【0011】
【非特許文献1】ギルクレスト(Gilchrest).,B.著、「光損傷(Photodamage)」、ブラックウェル・サイエンス社(Blackwell Science, Inc.)1995年
【非特許文献2】レイデン(Leyden)J.J.著、「老化している皮膚の臨床的特徴(Clinical features of ageing skin)」、英国皮膚サイエンス会誌(Br. J. Dermatol.)第122巻、付録35、1〜3ページ、1990年
【非特許文献3】ベイリー(Bailey)著、「結合組織における老化の分子機構(Molecular mechanisms of aging in connective tissues)」、老化及び発達の機構(Mech. Aging Dev.)、第122巻、第7号、735〜755ページ、2001年
【非特許文献4】クリグマン(Kligman)ら著、英国皮膚サイエンス会誌(Br. J. Derm.)、1985年、第113巻、37〜42ページ
【非特許文献5】フセイン(Hussein),K.H.著、「人の皮膚老化アニメーションの現実的な顔面モデリング及び再レンダリング(Toward realistic facial modeling and re-rendering of human skin aging animation)」
【非特許文献6】シェイプ・モデリング・インターナショナル2002(Shape Modeling International 2002)会報、IEEEコンピュータソサエティ(IEEE Computer Society)、2002年)
【非特許文献7】ハイサート(Hysert)PEら著、「ありのままで:老化進行ソフトウェアは、喫煙の外観に対する影響のパーソナライズ化したデモンストレーションを提供する(At Face Value: age progression software provides personalized demonstration of the effects of smoking on appearance)」、タバコ・コントロール(Tobacco Control)、第12巻、238〜240ページ、2003年
【非特許文献8】ボワシュ(Boissiux)ら著、「美容的観点による、皮膚の老化及びしわのシミュレーション(Simulation of skin aging and wrinkle with cosmetic insight)」、コンピュータアニメーション及びシミュレーション(Computer Animation and Simulation)、15〜27ページ、2000年
【発明の概要】
【発明が解決しようとする課題】
【0012】
本発明の目的は、特定の人に独特な、今後現れてくる個人の顔面皮膚のしわをより正確に予測及び視覚化する方法を提供することである。本発明の別の目的は、例えば該当する人の性別、皮膚のタイプ、及び/又は人種に基づき、将来の特定の時点における個人の顔面皮膚のしわを予測する方法を提供することである。本発明の更に別の目的は、美容外科又は皮膚科的処置の有無にかかわらず、今後現れてくる個人の顔面皮膚のしわを予測及び視覚化する方法を提供することである。
【課題を解決するための手段】
【0013】
例示的な実施形態では、本発明は、1つ以上の顔の表情を有する人の1つ又は複数の画像(表情画像という)と、自然な表情又はリラックスした表情を有する同じ人の画像(ニュートラル画像という)に基づき、予測されるしわの外観を描写する、人の画像を生成するための方法及びシステムを提供する。
【0014】
本発明の1つの態様によれば、装置及び方法は、人のニュートラル画像と表情画像を加工して、その特定の人に合わせてパーソナライズされた、しわのエイジド画像を生成する。本発明の例示的な実施形態は、人自身の組織学的なしわデータを用いて、予測されるしわの経時変化をシミュレートし、それによって、しわの経時変化の更に正確かつ現実的なシミュレーションをもたらす。
【0015】
本発明の更なる態様では、顔の自然な形相又はリラックスした形相に影響を及ぼすことなく、顔の表情画像で検出されたしわを、顔のニュートラル画像の上に転写し、しわの経時変化の現実的な予測を作り出す。
【0016】
本発明の別の態様では、異なる表情画像を用いて、顔の異なる部分のしわを描写すると共に、複合的なしわのエイジド画像をレンダリングするようにできる。例えば、額のしわは、眉をひそめた表情によってより明白になる一方で、頬のしわ及びほうれい線のしわは、笑った表情によってより明白になる。顔のその他の表情を、顔の他の領域のしわに、より密接に適合させてもよい。例示のために、笑った表情と眉をひそめた表情について説明しているが、本発明は多種多様な顔の表情を用いて、顔の様々な領域のしわの経時変化をシミュレートすることができる。
【0017】
本発明の別の態様では、ニュートラル画像と、しわのあるエイジド画像をブレンドすることができ、特定の期間後のしわのあるエイジド画像を示すレンダリング画像を得るために、そのブレンドの度合いを制御機構(例えば、スライダー制御、ノブなど)で調節する。
【0018】
本発明の更なる態様では、統計的なしわのエイジングモデルに従って、ニュートラル画像と、しわのあるエイジド画像をブレンドする度合いを調節して、将来の特定の時点の個人において予測されるしわの経時変化の量をシミュレートすることができる。しわの統計的なエイジングモデルは好ましくは、例えば、その人の性別、皮膚のタイプ、民族及び/又は地理的所在地に基づいて、その特定の個人に対応するピアグループから得ることができる。母集団データに基づいて統計的なしわのエイジングモデルを抽出すると共に、皮膚の欠陥の重症度を定量化するのに用いることができる技術は、「皮膚の画像化及び分析のシステム及び方法(Skin imaging and analysis systems and methods)」という名称のヒレブランド(Hillebrand)らの米国特許第6,571,003号に記載されており、この特許は、その全体が、参照として本明細書に組み込まれる。しわの検出及びエイジングシミュレーションは、2007年3月2日に出願された「顔面皮膚のエイジング及びディエイジングのシミュレーションのための方法及び装置(Method and apparatus for simulation of facial skin aging and ディエイジング)」という名称の米国特許出願公開第11/681,509号に記載されており、この特許は、その全体が参照として本明細書に組み込まれる。
【0019】
上記のしわのエイジド画像と同様に、制御機構(例えば、スライダー制御、ノブなど)で調節したブレンド度で、ニュートラル画像としわのディエイジド画像をブレンドして、様々なしわのディエイジング度を示すレンダリング画像を得ることができる。顔の画像に現れているしわの検出及び除去に基づいて、顔の上に、しわのシミュレート済みディエイジングを示すしわのディエイジド画像は、上記の米国特許出願公開第11/681,509号に記載されているように生成することができる。このようなディエイジド画像を用いて、局所製剤、注射可能な充填剤、注射可能なボツリヌス毒素、フラクショナルリサーフェイシング、光/レーザー治療などのような処置を利用した後のしわの軽減結果を例示することができる。しわのディエイジングの程度は、特定のタイプの処置に基づくしわのディエイジングモデルにリンクさせることができる。しわのディエイジングの程度は、該当する個人のピアグループ(例えば、性別、皮膚のタイプ又は地勢)に対応する上記の統計的なエイジングモデルにもリンクさせることができる。
【0020】
本発明の上記及び他の態様及び特徴は、以下の図面及び発明を実施するための形態から明らかになるであろう。
【図面の簡単な説明】
【0021】
【図1】本発明による、人のニュートラル画像と表情画像を用いてシミュレートされた、しわのエイジド画像を生成する代表的な方法のハイレベルフローチャート。
【図2】本発明の例示的な実施形態による、ニュートラル画像と表情画像との間の対応検出アルゴリズムのフローチャート。
【図3】本発明による、表情画像からのしわをニュートラル画像の上に転写するための代表的な弾性位置合わせ及びマッピングアルゴリズムのフローチャート。
【図4A】本発明による、しわのエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのエイジングモデルに基づいている方法のフローチャート。
【図4B】本発明による、しわのエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのエイジングモデルに基づいている方法のフローチャート。
【図5】本発明による、特定の期間後のしわの経時変化をシミュレートするために、図4A及び4Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図6A】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのディエイジングモデルに基づいている方法のフローチャート。
【図6B】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのディエイジングモデルに基づいている方法のフローチャート。
【図7A】本発明による、特定の期間後のしわのディエイジングをシミュレートするために、図6A及び6Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図7B】本発明による、特定の期間後のしわのディエイジングをシミュレートするために、図6A及び6Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図8】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、処置代替策及びその有効性予測のデータベースに基づいている方法のフローチャート。
【図9】しわ画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、ライフスタイル因子及びその因子の顔のしわへの影響予測のデータベースに基づいている方法のフローチャート。
【図10】本発明による、顔全体の斜位像に基づいた代表的な方法によって生成した代表的な顔面皮膚マップ、及びいくつかの説明的な主要顔面特徴点。
【図11A】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像
【図11B】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図11C】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図11D】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図12A】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12B】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12C】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12D】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12E】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12F】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12G】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12H】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【発明を実施するための形態】
【0022】
代表的な実施形態の概要
図1は、本発明による、代表的なしわのエイジングシミュレーション法を示すハイレベルフローチャートである。101Aでは、従来のデジタルカメラによるなどして、ニュートラルな状態(リラックスした状態又は表情のない状態ともいう)にある人の顔のクローズアップ顔写真を標準光の下で撮影する。101Bでは、表情を有する同じ被験者の写真を同じ条件下で撮影する。本発明は、いずれの特定の顔の表情にも制限されず、例えば、笑った表情、眉をひそめた表情、ふくれっ面、ウインク、横目、又は驚いた表情を含め、表情の画像を生成するために、しわを引き起こす、あらゆる顔の表情も潜在的に用いることができると考えられる。
【0023】
標準化されかつ再現可能な照明条件及び画像位置合わせを提供するために、キャンフィールド・サイエンティフィック社(Canfield Scientific, Inc.)から入手可能なVISIAコンプレクション・アナリシス・システム(VISIA Complexion Analysis System)(以下VISIAという)のような自動又は制御顔画像撮影システムによって、2つの画像を好ましくは撮影する。更には、斜位像又は正面像のいずれかで2枚の写真を撮影してもよい。本実施形態では、目尻のしわのような、しわを有する顔面皮膚区域及びほうれい線区域をより良好に表示するために斜位像を用いる。
【0024】
例示的な実施形態では、101A及び101Bで得た標準光画像をRGB(赤、緑、青)カラーの画像として表すことができる。102Aでは、マスキング手順と顔面特徴の検出をニュートラル画像に施す。マスキング手順では、顔の特定の区域、特に、例えば目尻のしわのようなしわを含む区域、及びほうれい線区域の輪郭を描く必要がある。顔面特徴の検出では、関心のある特定の顔面特徴を特定する一連の顔面特徴点を生成する。マスキング及び顔面特徴の検出プロセスについては、後で更に詳細に説明する。同様に、102Bでは、マスキング及び顔面特徴の検出を表情画像に施す。
【0025】
下記の位置合わせ及びマッピングプロセスで用いるものとして、一連のニュートラル画像の顔面特徴点103Aを102Aで、一連の表情画像の顔面特徴点103Bを102Bでそれぞれ生成する。これに加えて、マスキング済みニュートラル画像104Aを102Aで生成し、マスキング済み表情画像104Bを102Bでそれぞれ生成する。
【0026】
作業は、続いて105に進み、この105では、マスキング済みニュートラル画像104Aとマスク済み表情画像104Bとの間で対応マッチングプロセスを行う。対応マッチングプロセスでは、一連の対応画像点を生成する。特徴ベースの対応マッチングプロセスについては、後で更に詳細に説明する。
【0027】
対応マッチング・プロセスによって生成された対応画像点に基づいて、107で弾性位置合わせプロセスを行う。弾性位置合わせプロセスでは、表情画像の各ピクセルからニュートラル画像の対応するピクセルへのマッピングをもたらす。弾性位置合わせプロセスについては後で説明する。
【0028】
107で生成された弾性位置合わせマッピングに基づいて、109で表情画像からニュートラル画像へのしわのマッピングを行う。マスキング済み表情画像の全体、マスキング済み表情画像のサブセクション若しくはパッチ(例えば、目尻のしわ、眼窩周囲区域、ほうれい線)、又は表情画像から検出したしわ座標によるしわ間ベースで、マッピングを行うことができる。「顔面皮膚の経時及びディエイジングのシミュレーションのための方法及び装置(Method and apparatus for simulation of facial skin aging and de-aging)」という名称の米国特許出願公開第11/681,509号は、特定のマスク内でしわを検出する方法を説明している。109で行うプロセスについては、後で詳細に説明する。
【0029】
上述のとおり、(109で)マスキング済み表情画像内のしわをパッチ間ベースで、ニュートラル画像に転写することができる。しかし、潜在的な陰影差と色差が原因で、転写済みパッチとニュートラル画像との間の境界線沿いにミスマッチが存在する場合もある。このようなアーチファクトは、111の画像モザイク化技術を用いて除去することができる。この実施形態で用いるのに好ましい画像モザイク化技術では、バート(Burt)及びアデルサン(Adelsan)による「画像モザイクへの用途による多重解像度スプライン(A multi-resolution spline with application to image mosaics)」(ACMトランザクションズ・オン・グラフィックス(ACM transactions on Graphics)第2巻、第4号、1983年10月)によって説明されているような多重解像度分解技術を用いる。その他の既知のブレンド技術も用いることができる。
【0030】
モザイク化技術を通じて境界アーチファクトを除去した後、113でしわのシミュレート画像を生成する。この画像は、シミュレートなしでは表情画像のみで明白である動的しわをニュートラル画像の上に描いており、これによって、時間に伴うしわの経時変化の現実的な描写を提供する。
【0031】
画像内のしわを更に見えやすく表示するために、しわのシミュレート画像(113)の画質を更に向上させることができる。このような向上作業は、米国特許出願公開第11/681,509号に記載されているようなしわのエイジングシミュレーション方法を用いて行うことができる。この技術は、顔のしわを検出及び強調する。その他の特徴増大技術(例えば、輪郭強調法)を用いて、しわの経時変化の影響を更に劇的にすることもできる。
【0032】
マスキング、及び顔面特徴の検出
しわのエイジングシミュレーションは好ましくは、しわとほうれい線を含む顔の皮膚区域の上で行わなければならない。本発明の例示的な実施形態では、例えば、唇、毛、目、眉、及び鼻孔といった顔の皮膚以外の区域は、シミュレーションから除外する。顔の前記皮膚区域を検出する技術は、米国特許出願公開第11/681,509号に記載されている。この方法は、皮膚マップを生成し、顔の皮膚領域の輪郭を描くと共に、唇、目、眉、及び毛のような皮膚以外の区域を取り除く。
【0033】
斜位像の代表的な顔面皮膚マップは、図10に示されている。この皮膚マップから、いくつかの主要な顔面特徴点を識別できると共に、顔のしわ区域を覆うマスクを設計することができる。例えば、目の角部である点A及び点Bは、皮膚マップ内で輪郭が描かれている目の区域の最右点及び最左点として、マークが付されている。顔面特徴点Cは、目のラインと鼻筋との交点として画定されている。顔面特徴点Dは、鼻の頂点である。顔面特徴点Eは、鼻に近接する、ほうれい線の頂点である。顔面特徴点Fは、唇の角部である。これらの顔面特徴点を用いて、顔のある特定区域を覆う特定のマスクを設計することができる。例えば、顔面特徴点Bを通るように描かれている水平な点線を上端として、顔面特徴点Fを通るように描かれている水平な点線を下端として用いて、目の高さよりも下であり、唇の高さよりも上である皮膚区域を覆うマスクを設計することができる。
【0034】
本発明は、弾性位置合わせプロセスにおいて、上記の顔面特徴点のいくつかを用いる。好ましい実施形態では、3つの顔面特徴点A、B、及びEは、ニュートラル画像と表情画像との間で一貫して識別することのできる優れた目印点である。これらの顔面特徴点の識別は、対応マッチングプロセスを補助し、位置合わせを容易にすることになる。
【0035】
特徴ベースの対応マッチング
図2は、代表的な特徴ベースの対応マッチングプロセスであって、ニュートラル画像と表情画像のマスキング済み部分をインプットとしてみなし、位置合わせプロセスで用いられる一連の対応する制御点を戻すプロセスのフローチャートを示している。特徴ベースの対応マッチングプロセスは、両方の画像上の同じ皮膚特徴を見つけることに基づいている。
【0036】
まず、マスキング済みのニュートラル画像104A(図1の画像)を201Aで、マスキング済みの表情画像104B(図1の画像)を201Bで、それぞれ処理して特徴画像を生成する。特徴画像では皮膚の特徴が強調されており、オリジナル画像よりも対応マッチングに有効であることが分かる。本発明における好ましい特徴画像は、標準的なRGB画像の青チャンネルと緑チャンネルの平均である。青及び緑チャンネルは、色素沈着の斑点及び毛穴を、より良好に示すことが知られている。これらの特徴は、青色及び緑色のスペクトル内において、より高い吸収を見せるためである。例えば、強度画像、若しくはCIE LAB変換画像の明度(L)チャンネル、又はその他の既知のコントラスト生成技術を用いるコントラスト画像など、特徴画像を生成するためのその他の技術も用いることもできる。
【0037】
ニュートラル画像及び表情画像を生成したら、203で、ニュートラル画像に基づいて、斑点特徴(例えば、褐斑、大きい毛穴など)を検出して、ラベリングする。表情画像内にはゆがみが存在するため、斑点特徴は、表情画像よりもニュートラル画像での方が簡単に検出される。米国特許出願公開第11/681,509号は、強調又はコントラスト画像から斑点特徴を検出するプロセスを説明している。顕著な特徴(例えば、特定の寸法及び上記のいくらかのコントラスト閾値よりも大きいもの)の方が、表情画像で検出可能である可能性が高いため、対応マッチングには、顕著な特徴のみが用いられることに留意されたい。
【0038】
特徴を検出してラベリングした後、205で顕著な皮膚特徴を探し出す。これを行う際には、表情画像を特定の寸法のブロックに分割する。ブロックの寸法は好ましくは、所望の数の対応点に基づいている。各ブロックにおいて、最も顕著な機構を探し出し、バウンディングボックスで囲む。このバウンディングボックスを用いて、ニュートラル特徴画像(201Aの画像)から矩形パッチを切り取り、表情特徴画像(201Bの画像)内で同じ特徴を検索するためのテンプレートとして用いる。テンプレートマッチング技術を207で用いて、表情特徴画像内で、対応する小さい矩形パッチの場所を探し出す。テンプレートマッチング技術では、正規化相互相関測度を用いて、マッチングする特徴の場所を探し出すが、この目的のために、その他のメトリクス(例えば、相互情報(MI)、ヒストグラム差のエネルギー(EHD)など)も用いることができる。マッチングメトリクスが、特定の閾値を下回る場合、いくつかのマッチングを除外することができる。例えば、正規化相互相関においては、0.5の閾値を用いて、不十分な対応を除外することができる。ニュートラル画像内の各ブロックにおいて、このプロセスを反復し、一連の対応点(ニュートラル画像点及び表情画像点)をプロセス205及び207から戻す。これらの一連の点に、ニュートラル画像顔面特徴点103Aと表情画像顔面特徴点103Bを自動又は手動のいずれかで加えることができる。これらの顔面特徴点(例えば、目の角部、ほうれい線の頂点)は、図1に示されているプロセスの102A及び102Bで事前に定めたものである。これらの点を追加すると、特に目の周りにおいて、しわの位置合わせが向上するはずである。
【0039】
209では、マッチング点の妥当性を検証するために、ある手順を行う。例えば、不当にマッチしたペアを除去するために、ドロネー三角形分割(Delaunay tringularization)などの幾何学的技術を用いる様々な妥当性検証手順がある。例示的な実施形態では、3つの対応点に対して三角形幾何を用い、三角形の角度と長さに基づいて三角形の類似性測度を用いて、外れ値を除外する。三角形幾何は、既に探し出した2つのマッチングターゲット点、及び3つの対応する基準点によって形成された三角形に基づき、ターゲット点のおおよその場所を予測するのにも用いることもできる。このようなプロセスは、探索空間を縮小させ、対応マッチングを向上させ、処理時間を短縮する。
【0040】
マッチング点の妥当性検査(209)の後も、ぴったりマッチしているわけではない点のペアがいくつか残っている場合がある。211では、例えば、ラベル化された対応点を有する両方の画像を表示するグラフィカルユーザーインターフェース(GUI)ツールによって、これらのペアを手動で補正することができる。これらの画像は好ましくは、201A及び201Bで生成された特徴画像であるが、オリジナルのニュートラル画像と表情画像であることもできる。オペレーターは、ミスマッチの対応点を補正するか、新たな対応点を加えるか、又は、外れ点を除去することができる。この手動操作後には、全ての対応点がマッチするはずである。ミスマッチのペアによって、表情画像からのしわをニュートラル画像に転写するとき、最終的なシミュレート画像上に望ましくないアーチファクトが生じる場合がある。
【0041】
弾性位置合わせ及びマッピング
代表的な弾性位置合わせ及びマッピングプロセスが図3に示されている。表情画像からのしわをニュートラル画像の上に位置合わせするために、まず、関心領域(すなわち、マスキング済み領域)内における表情画像とニュートラル画像との間の空間マッピングを定める。ニュートラル画像及び表情画像のマスキング済み領域を用いて、一連のマッチング制御点を探し出し、この制御点を用いて、マッピングを画定することになる。対応マッチング後に得られた一連のニュートラル画像制御点及び表情画像制御点に基づいて、弾性位置合わせ技術を用いて、2つの画像間の一対一の空間マッピングを画定できる。マッピングが確立されたら、表情画像からのしわをニュートラル画像の適切な場所に転写することができる。
【0042】
図3は、ニュートラル画像と表情画像との間の弾性位置合わせ及びマッピングの代表的なプロセスのフローチャートである。用いることができるその他の位置合わせ技術のうち、ニュートラル状態から表情を有する状態に移り変わる顔のモーフィングをもたらす弾性位置合わせが好ましい。様々な既知の弾性位置合わせ技術(例えば、薄板スプライン(TPS)、多重二次(MQ)、区分的線形(PL))があり、これらのうちのいくつかは、画像処理ソフトウェアパッケージの一部として含まれている。本発明の好ましい実施形態は、生体医学画像の位置合わせで広く用いられているTPS技術を用いており、高度な弾性を有する2つの画像の間のスムーズなマッピングを画定するのに、より適している。
【0043】
図2の対応マッチングプロセスで生成されたニュートラル画像制御点213A及び表現画像制御点213Bを301で用いて、弾性位置合わせのパラメーターを定める。この目的で用いることのできる一連の対応点から、TPS位置合わせパラメーターを見積もる方法は、ブックスタイン(Bookstein)ら、「主ゆがみ:薄板スプライン及び変形分解(Principal Warps: Thin-Plate Splines and the Decomposition of Deformations)」(IEEEトランザクションズ・オブ・パターン・アナリシス・アンド・マシン・インテリジェンス(IEEE Transactions on Pattern Analysis and Machine Intelligence)第11巻、第6号、1989年6月)に記載されている。
【0044】
続いて、301で定めたTPSパラメーターを303で用いて、表情画像の関心区域の座標をニュートラル画像にマッピングする。このような関心区域は、しわを含み、本明細書では、しわパッチとも称する。しわパッチは、しわを含むマスキング済み表情画像(104B、図1)の全部又はサブセクションであることができる。302では、マスキング済み表情画像内で、1つ以上のしわパッチの輪郭を描く。例示的な実施形態では、原画像の上のマスクをオーバーレイして、オペレーターが、マスク内の画像の所望の部分(1つ又は複数)を手動で選択できるようにすることによって、マスキング済み表情画像内で、1つ以上のしわパッチの輪郭を描くことができる。あるいは、オペレーターは、マスクを使用することなく、皮膚領域に固定された画像から、しわパッチを選択することができる。パッチの輪郭描写も、好適なアルゴリズムに従って自動的に行ってよい。したがって、マスキング済み表情画像の全体をニュートラル画像にマッピングする代わりに、本発明の方法によって、マスキング済み表情画像内のサブセクション又は関心領域のみをマッピングするのが可能になる。
【0045】
303での弾性マッピングの適用によって、新しい一連の座標が得られ、この座標は、位置合わせ済みマスク座標と称され、しわパッチ座標からニュートラル画像へのマッピングを画定する。しかし、このマッピングは、一対一のマッピングであることは保証されておらず、すなわち、位置合わせ済みパッチ座標に不連続性(ピクセル落ち)が存在する場合がある。このような不連続性を排除するために、補間又は平滑化手順を305で行って、連続的マッピング、すなわち、1つ又は複数の連続的パッチを構築することができる。この目的においては、本発明の好ましい実施形態では、位置合わせ済みマスク座標から新しい1つ又は複数のパッチを生成した後、小さい円形構造要素による形態的スムージングを用いる。当該技術分野において既知のその他の補間技術も用いてよい。
【0046】
305で、スムーズかつ連続的である新しい1つ又は複数のパッチを得た後、このパッチ内で、新しい座標一式307を定義し、303で生成した位置合わせ済みマスク座標をこれに差し替える。座標307は、ニュートラル画像の連続的しわマスク座標と称する。座標307を用いて、表情画像からインポートしたピクセルをニュートラル画像にポピュレートする。しかし、これらのニュートラル画像座標の対応座標を表現画像で探し出す必要がある。これは、309で逆マッピングプロセスを通じて行い、このプロセスは、ニュートラル画像座標から表情画像座標へのマッピングを画定する。したがって、309での逆マッピングプロセスは、301で得たものと逆の弾性位置合わせパラメーターを用いる逆マッピングを適用する。
【0047】
309の逆マッピング後、表情画像内の対応しわパッチ座標311を定める。この時点において、ニュートラル画像内の各ピクセルから表情画像内の対応ピクセルへの空間マッピングが確立される。313では、表情画像からのしわパッチピクセルを、対応座標に従ってニュートラル画像にコピーして、仮のしわシミュレート画像315を生成する。313のコピー手順は好ましくは、ニュートラル画像マスク内で行う。ニュートラル画像マスクは、前記マッピングを顔の皮膚領域に限定しているため、粗雑な対応マッチングに起因する粗雑な弾性位置合わせの場合に、仮のしわシミュレート画像315内で構造的アーチファクトの発生を防ぐ。
【0048】
良好な対応マッチングが得られるとすると、仮のしわシミュレート画像315は、ニュートラル画像とうまく位置合わせされるはずであり、ニュートラル画像と比較して、経時変化の影響を表示することができる。
【0049】
しかし、仮のしわシミュレート画像315は、境界アーチファクト、すなわち、1つ以上の転写済みしわパッチの境界線沿いの陰影及び色のミスマッチを有することがある。上述のとおり、このようなアーチファクトは、バート(Burt)及びアデルサン(Adelsan)による「画像モザイクへの用途による多重解像度スプライン(A multi-resolution spline with application to image mosaics)」(ACMトランザクションズ・オン・グラフィックス(ACM transactions on Graphics)第2巻、第4号、1983年10月)に記載されているような画像モザイク化技術(図1の111)を用いて、除去することができる。)当該技術分野において既知であるその他のモザイク化技術も用いることができる。
【0050】
可変なしわのエイジングシミュレーション
本発明の例示的な実施形態による、しわのエイジングシミュレーションは、例えば、ニュートラル画像としわのシミュレート画像との間のしわの経時変化の程度を示すレンダリング画像をコンピュータモニター上に表示することによって、示すことができる。対話制御機構(例えば、スライダー制御、ノブ、レバーなど)を提供して、観察者が、シミュレートされる経時変化の程度を変えられるようにすることができる。このようなプロセスは、図4A及び4Bに示されている。
【0051】
図4Aに示されているように、画像レンダリングプロセス410によって、顔のしわのシミュレート画像402を顔のニュートラル画像401とブレンドして、レンダリング画像420を生成する。画像レンダリング410は、例えばアルファブレンディング、又は他の様々な好適な技術のいずれかを用いて、画像をブレンドする。
【0052】
ニュートラル画像401は、上記(例えば図1の101A)に記載されているように得ることができ、しわのシミュレート画像402は、図1の方法を用いて生成することができる。画像レンダリング401は、ブレンド制御パラメーター403に従って、ニュートラル画像としわのシミュレート画像との間のブレンドの度合いを変えることができる。ブレンド制御パラメーター403は、例えば、コントロールノブ、スライダー、キーボード入力、若しくは、例えば、グラフィカルユーザーインターフェースウィジェットのようなハードウェアとソフトウェアベースの双方のインプリメンテーションを含むその他の機構のようなユーザーインプット、又は、ユーザーがインプットを提供できるその他の好適な手段から提供することができる。ブレンド制御パラメーターの一方の極点では(例えば、動作範囲の第1の端点にある、すなわちα=0であるスライダーによる場合)、レンダリング画像420は、ニュートラル画像401と同じであり、他方の極点(例えばα=1)では、しわのシミュレート画像402と同じである。ユーザーが、ユーザーインプット手段の操作によって、ブレンド制御パラメーターを変えると、レンダリング画像は、2つの極点の間で変化し、それによって、しわの経時変化の可変の程度を示すことになる。
【0053】
図4Aに示されているように、しわ年齢の推定プロセス425をブレンド制御パラメーターにリンクさせて、ブレンド画像420に対応するしわの推定年齢430を生成することができる。あるいは、ブレンドの度合いを変更する(すなわち、範囲[0 1]内でαを変える)ことによって、しわ年齢の推定プロセスをオフラインで実行して、特定の年齢間隔(例えば1年)で、しわのシミュレート画像を生成することができる。したがって、ブレンド制御機構(例えばスライダー制御)は、対話型シミュレーションの前に、特定の被験者についてラベリングすることができる。後で更に詳細に説明するとおり、しわ年齢の推定プロセス425では、しわの重症度(すなわちしわの量)と年齢との間の関係を説明するしわのエイジングモデル405を用いる。このようなモデルは、異なる年齢の大勢の人々から収集した統計的データに基づいて抽出することができる。皮膚の重症度測定値の割り出し、及び様々な皮膚タイプ(又は民族グループ)の統計的データは、ヒレブランド(Hillebrand)らによる米国特許第6,571,003号「皮膚の画像化及び分析のシステム及び方法(Skin imaging and analysis systems and methods)」に記載されている。
【0054】
好ましくは、しわのエイジングモデル405は、性別及び皮膚のタイプ(即ち民族)、地理的所在地、並びにライフスタイルに従って更に差異化して、個人のピアグループ(例えば性別、皮膚のタイプ、及び/又は喫煙のようなライフスタイルによって分類される)からのデータを用いて、その個人のしわの経時変化をモデル化するようにしてよい。
【0055】
しわのスコアリングプロセス415では、ブレンドされるニュートラル画像401としわのシミュレート画像402とにおけるしわの重症度スコアを定める。代表的なしわのスコアリング方法は、米国特許出願公開第11/681,509号に記載されている。図5を参照しながら後で更に詳細に説明するように、しわ年齢の推定プロセス425では、しわのエイジングモデル405、及び、ニュートラル画像としわのシミュレート画像のしわスコアを用いて、画像レンダリングプロセス410によって生成されたブレンド画像420に対応するしわ年齢(X)を割り出す。
【0056】
図4Aの例示的な実施形態では、レンダリング画像に基づいて、しわ年齢を生成するが、図4Bに示されている更なる例示的な実施形態では、ユーザーが指定したしわ年齢404に対応するレンダリング画像を生成する。図5を参照して以下に更に詳細に説明するように、ブレンドパラメーター決定プロセス435では、しわのエイジングモデル405、及びニュートラル画像としわのシミュレート画像のしわスコアを用いて、指定されたしわ年齢404におけるしわのシミュレート画像420を生成するために画像レンダリング410によって用いられるブレンド制御パラメーター(α)を定める。
【0057】
図5は、しわのエイジングシミュレーションの被験者のピアグループ(例えば白人女性)の代表的なしわのエイジングモデルを表すしわのエイジング曲線510を示している。曲線510は、このピアグループに関して収集した統計的データに基づいて、しわの重症度スコア(WSS)と年齢との間の関係を示している。しかし、被験者は、曲線510に該当しないWSSを有することもある。例えば、特定の30歳の白人女性は、曲線510で予測されている0.005というWSSとは異なり、0.03のWSSを有する場合がある。この被験者においては、ニュートラル状態における被験者のWSSに基づいた曲線510をシフトさせるなどして調節することによって、個人に合ったしわのエイジングモデルを抽出することができる。曲線520は、このような被験者に合わせて調節した曲線を表している。
【0058】
図5を参照すると、曲線520の点521は、例示的な30歳の白人女性の被験者の現行のWSSを表している。このWSSは、被験者の現行のニュートラル画像(IN)に基づいており、図5のチャートのy軸上で、WSS{IN}として示されている。更なるWSSは、上記のように生成することができるような、被験者のしわのシミュレート画像(IWS)から割り出す。この値は、図5のチャートのy軸上で、WSS{IWS}として示されており、曲線520の点523に対応する。曲線520から、WSS{IWS}に対応する年齢を割り出すことができる。図5に示されている例では、この年齢は50歳である。
【0059】
現行の年齢(例えば30歳)と、しわのシミュレート画像に対応する年齢(例えば50歳)との間の年齢の被験者のしわの経時変化をシミュレートする画像であって、レンダリングの対象となる画像(IR)は、点521と点523との間の曲線520の上に位置する点522に対応する。この画像のWSSは、図5のチャートのy軸上で、WSS{IR}として示されている。図5に示されている例では、この値は、対応する43歳という年齢において、約0.04である。
【0060】
点521と点522の間におけるWSSの変化は、点522に対応する年齢における被験者のしわの経時変化をシミュレートする目的でニュートラル画像に加えられるしわの量に関連している。後述のとおり、ニュートラル画像401としわのシミュレート画像402の間のブレンドの様々な度合いを有するレンダリング画像を表示しながら、WSSの変化を、図4A及び4Bに示されているレンダリングプロセスにおけるブレンド制御パラメーターにリンクさせることができる。
【0061】
図4A及び4Bの例示的な実施形態では、画像レンダリングプロセス410でアルファブレンディングを用いて、以下の式に従って、ニュートラル画像としわのシミュレート画像をブレンドすることができる。
【0062】
【数1】
式中、αは、0〜1(0及び1を含む)の間で変化するブレンド制御パラメーターであり、IWSは、しわのシミュレート画像を表し、INはニュートラル画像を表し、IRは、所定の値のブレンド制御パラメーターαにおけるレンダリング画像を表している。
【0063】
ブレンド制御パラメーターが最小値(すなわちα=0)であるとき、ニュートラル画像がレンダリング画像として生成される。ブレンド制御パラメーターが最大値(すなわちα=1)であるとき、しわシミュレート画像がレンダリング画像として生成される。ブレンド制御パラメーターがこれらの値の間のいずれかの値であるとき、しわの重症度スコアリングオペレーターWSS{I}を、上記のアルファブレンディング式(式1)に当てはめ、下記の式をもたらすことによって、被験者のしわの重症度スコアを算出することができる。
【0064】
【数2】
式中、WSS{I}は、画像IのWSSである。式2は、レンダリング画像のWSSが、しわのシミュレート画像とニュートラル画像のWSSの一次結合であること示している。
【0065】
制御機構(例えば、スライダー、ノブ、ウィジェット)によるなどして、ユーザーがブレンド制御パラメーターαを提供する図4Aの例示的な実施形態では、しわ年齢の推定プロセス425で、式2を用いて、レンダリングされる画像のWSSであるWSS{IR}を割り出す。調節済みのしわのエイジングモデル曲線520を用いて、しわ年齢の推定プロセス425で、WSS{IR}に対応するしわ年齢430を割り出す。レンダリング画像420と、対応するしわ年齢430を好ましくは一緒に表示して、ユーザーに、しわと年齢との間の相関関係を示す。
【0066】
シミュレートするしわ年齢をユーザーが指定する図4Bの例示的な実施形態では、ブレンドパラメーター決定プロセス435で、調節済みのしわのエイジング曲線520を用いて、指定のしわ年齢に対応するWSS、もっと厳密にいえば、レンダリングされる画像のWSSであるWSS{IR}を割り出す。ブレンドパラメーターαは、下記の式に従って、ブレンドパラメーター決定プロセス435によって、割り出すことができる。
【0067】
【数3】
【0068】
ブレンド制御パラメーターαを用いて、画像レンダリングプロセス410で、式1に従って、対応するブレンド画像をレンダリングする。
【0069】
シミュレートするしわ年齢をユーザーが指定する図4Bの例示的な実施形態では、ユーザーが指定した年齢を好ましくは最初にチェックして、その年齢が、現行の年齢と、被験者のしわのシミュレート画像に対応する年齢を含む範囲内(すなわち、この例では30〜50歳)にあるかを割り出すことに留意されたい。前記範囲内にない場合には、指定の年齢を自動的に制限することができ、あるいは、処理前に、前記範囲内にある年齢を入力するかユーザーに問うことができる。
【0070】
例示的な実施形態では、しわのエイジングモデル曲線510及び520を、例えばルックアップテーブル内にインプリメントすることができる。
【0071】
本発明の上述の画像レンダリング及びしわ年齢の推定の態様は、しわの経時変化に限定されておらず、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0072】
可変なしわのディエイジングシミュレーション
しわのエイジングシミュレーションに加えて、本発明は、上記のような画像レンダリングプロセスを用いる、可変なしわのディエイジングシミュレーション法も提供する。代表的な可変ディエイジングプロセスは、図6A及び6Bに示されている。図6A及び6Bに示されているように、画像レンダリングプロセス610によって、しわのディエイジド画像602を現行のニュートラル画像601とブレンドする。しわのディエイジド画像602は、米国特許出願公開第11/681,509号に記載されているようなしわのディエイジングシミュレーション法を用いて、ニュートラル画像601から生成することができる。
【0073】
画像レンダリング610では、例えばアルファブレンディング、又はその他のいずれかの様々な好適な技術を用いて、ブレンド制御パラメーターによって制御したブレンドの度合いで、画像601及び602をブレンドする。図6Aの実施形態では、例えば、制御ノブ、スライダー、又は、例えば、グラフィカルユーザーインターフェースウィジェットのようなハードウェアとソフトウェアの双方をベースとするインプリメンテーションを含むその他の好適な機構のようなユーザーインプット603からブレンド制御パラメーターを提供する。あるいは、図6Bの実施形態のように、以下に更に詳細に説明するように、ブレンド制御パラメーター決定プロセス635によってブレンド制御パラメーターを生成する。
【0074】
ブレンド制御パラメーターの一方の極点では(例えば、動作範囲の第1の端点、すなわちα=0にあるスライダーによる場合)、レンダリング画像620は、ニュートラル画像601と同じであり、他方の極点(例えばα=1)では、しわのディエイジド画像602と同じである。ブレンド制御パラメーターが、その極点間で変化すると、レンダリング画像は、ニュートラル画像としわのディエイジングのシミュレート画像との間で変化し、それによって、しわのディエイジングの可変な度合いを示すことになる。
【0075】
図6Aに示されているように、しわの経時変化の予想プロセス625をブレンド制御パラメーターにリンクさせて、ブレンド画像620に対応するしわの推定年齢630を生成することができる。以下に更に詳細に説明するとおり、しわ年齢の推定プロセス625では、しわの重症度(すなわちしわの量)と年齢との間の関係を説明するしわのエイジングモデル605を用いる。モデル605は、図4A及び4Bの可変なエイジングモデルとの関連で上述したモデル405と同じであることができる。
【0076】
しわのスコアリングプロセス615では、ブレンドされるニュートラル画像601としわのディエイジド画像602とにおけるしわの重症度スコアを定める。図4Aの実施形態と同様に、しわ年齢の推定プロセス625では、しわのエイジングモデル605、及びニュートラル画像としわのディエイジングシミュレート画像のしわスコアを用いて、画像レンダリングプロセス610によって生成されたブレンド画像620に対応するしわ年齢(X)を割り出す。
【0077】
図6Aの例示的な実施形態では、レンダリング画像に基づいて、しわ年齢を生成するが、図6Bに示されている更なる実施形態では、ユーザーが指定したしわ年齢604に対応するレンダリング画像を生成する。図7A及び7Bを参照しながら以下に更に詳細に説明するように、ブレンドパラメーター決定プロセス635では、しわのエイジングモデル605、及びニュートラル画像としわのディエイジングシミュレート画像のしわスコアを用いて、指定されたしわ年齢604におけるしわのディエイジド画像620を生成するために画像レンダリングプロセス610によって用いられるブレンド制御パラメーター(α)を定める。
【0078】
図7は、しわのディエイジングシミュレーションの被験者のピアグループ(例えば白人女性)の代表的なしわのエイジングモデルを表すしわのエイジング曲線710を示している。曲線710は、しわの重症度スコア(WSS)と、このピアグループに関して収集した統計的データに基づいた年齢との間の関係を示しており、上記の曲線510と同じであることができる。しかし、被験者は、曲線710に該当しないWSSを有することもある。例えば、特定の50歳の白人女性は、曲線710で予測されている0.015というWSSとは異なり、0.048のWSSを有する場合がある。この被験者については、ニュートラル状態における被験者のWSSに基づき曲線710を移行させるなどして調節することによって、個人に合ったしわのエイジングモデルを抽出することができる。曲線720は、このような被験者に合わせて調節した曲線を表している。
【0079】
図7を参照すると、曲線720の点723は、例示的な50歳の白人女性の被験者の現行のWSSを表している。このWSSは、被験者の現行のニュートラル画像(IN)に基づいており、図7のチャートのy軸上で、WSS{IN}として示されている。更なるWSSは、上記のように生成することができるような、被験者のしわのディエイジングシミュレート画像(ID)から割り出す。この値は、図7Aのチャートのy軸上で、WSS{ID}として示されており、曲線720の点721に対応する。曲線720から、WSS{ID}に対応する年齢を割り出すことができる。図7Aに示されている例では、この年齢は15歳である。
【0080】
レンダリングされる画像(IR)であって、現行年齢(例えば50歳)と、しわのディエイジングシミュレート画像に対応する年齢(例えば15歳)との間の年齢の被験者のしわのディエイジングをシミュレートする画像は、点721と点723との間の曲線520の上に位置する点722に対応する。この画像のWSSは、図5のチャートのy軸上で、WSS{IR}として示されている。図7Aに示されている例では、この値は、対応する43歳という年齢において、約0.04である。
【0081】
点722と点723の間におけるWSSの変化は、点722に対応する年齢における被験者のしわの経時変化をシミュレートする目的でニュートラル画像から除去されるしわの量に関連している。後述のとおり、ニュートラル画像601としわのディエイジド画像602との間の様々なブレンドの度合いを有するレンダリング画像を表示しながら、WSSの変化を、図6A及び6Bに示されているレンダリングプロセスにおけるブレンド制御パラメーターにリンクさせることができる。
【0082】
図6A及び6Bの例示的な実施形態では、画像レンダリングプロセス610でアルファブレンディングを用いて、以下の式に従って、ニュートラル画像としわのシミュレート画像をブレンドすることができる。
【0083】
【数4】
式中、αは、0〜1(0及び1を含む)の間で変化するブレンド制御パラメーターであり、IDは、しわのディエイジングシミュレート画像を表し、INはニュートラル画像を表し、IRは、所定の値のブレンド制御パラメーターαにおけるレンダリング画像を表している。
【0084】
ブレンド制御パラメーターが最小値(すなわちα=0)であるとき、ニュートラル画像がレンダリング画像として生成される。ブレンド制御パラメーターが最大値(すなわちα=1)であるとき、しわのディエイジングシミュレート画像がレンダリング画像として生成される。ブレンド制御パラメーターが、これらの値の間のいずれかの値であるとき、しわの重症度スコアリングオペレーターWSS{I}を、上記のアルファブレンディング式(式4)に当てはめ、下記の式を与えることによって、被験者のしわの重症度スコアを算出することができる。
【0085】
【数5】
式中、WSS{I}は、画像IのWSSである。
【0086】
ユーザーがブレンド制御パラメーターαを決定する図6Aの例示的な実施形態では、しわ年齢の推定プロセス625で式5を用いて、レンダリングされる画像のWSSであるWSS{IR}を割り出す。調節済みのしわのエイジングモデル曲線720を用いて、しわ年齢の推定プロセス625で、WSS{IR}に対応するしわ年齢630を割り出す。レンダリング画像620と、対応するしわ年齢630を好ましくは一緒に表示して、ユーザーに、しわと年齢との間の相関関係を示す。
【0087】
シミュレートするしわ年齢をユーザーが指定する図6Bの例示的な実施形態では、ブレンドパラメーター決定プロセス635で、調節済みのしわのエイジングモデル曲線720を用いて、指定のしわ年齢に対応するWSS、もっと厳密にいえば、レンダリングされる画像のWSSであるWSS{IR}を割り出す。ブレンドパラメーターαは、下記の式に従って、ブレンドパラメーター決定プロセス635によって、割り出すことができる。
【0088】
【数6】
【0089】
ブレンド制御パラメーターαを用いて、画像レンダリングプロセス610で、式4に従って、対応するブレンド画像をレンダリングする。
【0090】
例示的な実施形態では、しわのエイジングモデル曲線710及び720を、例えばルックアップテーブル内にインプリメントすることができる。
【0091】
本発明の上述の画像レンダリング及びしわ年齢の推定の態様は、しわの経時変化に限定されておらず、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0092】
上記の実施形態では、WSS{ID}の値は、しわのディエイジド画像を生成するのに用いられるしわのディエイジングシミュレーションプロセスに左右されることになる点に留意されたい。上述のとおり、例示的な実施形態では、被験者の現行画像601とブレンドされるしわのディエイジド画像602は、画像601で検出された全てのしわを除去するプロセスによって生成する。実質的には、モデル曲線710の点711によって表されているように、15歳前後に対応するWSS{ID}は概ね0である。これは、しわが15歳前後に現れ始めることを一般に示している統計的データと一致している。
【0093】
しかし、かなりしわのある現行画像を有する被験者、すなわち、調節済みのしわのエイジングモデル曲線720がピアグループ曲線701から大きくずれている被験者においては、しわのない(すなわちWSS≒0)画像602は、レンダリング画像620を保証することのできる外観よりもしわの少ない外観に非現実的にゆがめる傾向がある。このため、ディエイジングをシミュレートする期間を制限するのが望ましい場合がある。更には、このようなディエイジング期間の規模は好ましくは、被験者の現行年齢に基づいて、より具体的には、開始年齢が若いほど、その期間は短縮される。したがって、例えば、例示的な実施形態では、ディエイジング期間は、20歳の場合には2年、30歳の場合には5年、40歳の場合には8年のように制限してよい。適切な制限値は、経験的観測に基づいて割り出すことができる。好ましくは、ユーザーが、シミュレートするしわ年齢を指定する前に、年齢の許容可能範囲をユーザーに表示する。
【0094】
代替的な実施形態では、図7Bに示されているように、調節済みのエイジングモデル曲線を修正することによって、上述のずれに対応することができる。図7Bでは、年齢が若いほどエイジングモデル曲線710からのずれが減少して、顔のしわが概ね現れ始める年齢である15歳前後で2つの曲線が実質的に一点に集まるようになっている、修正・調節済みのエイジングモデルの修正曲線720’を用いる。
【0095】
処置ベースの可変なディエイジングシミュレーション
本発明の別の態様では、可変なディエイジングシミュレーションに、処置に基づいた知識ベースのディエイジングモデルを組み込むことができる。しわの処置としては様々な選択肢(例えば、局所製剤、注射可能な充填剤、注射可能なボツリヌス毒素、フラクショナルリサーフェイシング、光/レーザー治療、形成外科/美容外科処置など)があり、これらの処置の効果は、経験によって知られている。この知識ベースのディエイジングを上記の可変なディエイジング実施形態のブレンド制御にリンクさせて、適用される処置に合った様々なしわディエイジングの度合いの画像をもたらすことができる。したがって、例えば、所定の処置が、しわの重症度スコアの比例的な上昇(すなわち、ΔWSS/WSS0、式中、WSS0は処置前のWSS)をもたらすことが示されている実験データがある場合、この情報を用いて、前記処置の成果をシミュレートする、しわのディエイジド画像をもたらすことができる。
【0096】
図8は、処置ベースのディエイジングを組み込んだ可変なディエイジングシミュレーションプロセスの例示的な実施形態を示している。図8のプロセスは、所定のニュートラル画像801、ディエイジド画像802(例えば、ニュートラル画像に上記のディエイジングプロセスを適用することによって生成する)、及び指定の処置803(ユーザーインプットを介して提供することができる)において、対応するしわ年齢830と共に、しわのディエイジド画像820を生成する。図8のプロセスでは、処置の有効性モデル805を用いて、指定の処置803における比例的なWSSの上昇(ΔWSS/WSS0)を提供する。処置の有効性モデル805は、例えば、代替処置、及びそれに伴う成果予測のデータベースを含んでよい。比例的なWSS上昇を、上記のブレンド制御パラメーターαとして用いる。画像レンダリング810、しわスコアリング815、及びしわ年齢の推定の手順は、上記のとおり実施する。
【0097】
本発明の上記の可変シミュレーションの態様は、しわのディエイジングに限定されておらず、その他の皮膚の状態又は異常、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0098】
ライフスタイルベースの可変なエイジング/ディエイジングシミュレーション
本発明の別の態様では、可変なディエイジングシミュレーションに、ライフスタイルに基づく、知識ベースのしわのエイジング/ディエイジングモデルを組み込むことができる。しわの経時変化は、ライフスタイルによって、プラス方向、マイナス方向の双方で、大きな影響を受ける場合がある。しわの経時変化に悪影響を与えるか、又はしわの経時変化を加速させることが示されているライフスタイルの選択肢又は因子としては、例えば、喫煙、日光曝露、肥満、糖尿病、及びその他の様々な状態又は疾病が挙げられ、これらの各々は、経時変化の加速又は早期化をもたらす場合がある。例えば、食生活及び身体的活動のようなその他のライフスタイル因子、又は、ライフスタイル因子を損なう悪影響を覆すために取られる対策は、しわの経時変化に好影響を及ぼすか、又は、しわの経時変化を遅らせる。本発明の例示的な実施形態に従って、このような因子の影響を組み込んだ知識ベースのモデルを、上記の可変なエイジング又はディエイジング実施形態のブレンド制御にリンクさせて、ユーザーの指定したライフスタイル因子に合った様々な度合いのしわのエイジング/ディエイジングの画像をもたらすことができる。したがって、例えば、所定のライフスタイル因子が、しわの重症度スコアの比例的な低下(すなわち、ΔWSS/WSS0、式中、WSS0は処置前のWSS)をもたらすことが示されている実験データがある場合、この情報を用いて、このようなライフスタイル因子の影響をシミュレートするしわのエイジング画像をもたらすことができる。
【0099】
図9は、ライフスタイル因子の影響を組み込んだ可変なエイジング/ディエイジングシミュレーションプロセスの例示的な実施形態を示している。図9のプロセスは、所定のニュートラル画像901、しわのエイジング又はディエイジングシミュレート画像902、及び指定のライフスタイル因子903(ユーザーインプットを介して提供することができる)において、対応するしわ年齢930と共に、しわのシミュレート画像920を生成する。図9のプロセスでは、ライフスタイルの影響モデル905を用いて、指定のライフスタイル因子903における比例的なWSSの変化(ΔWSS/WSS0)を提供する。ライフスタイルの影響モデル905は、ライフスタイル因子、及びライフスタイル因子が顔のしわに及ぼす影響予測のデータベースを含んでよい。比例的なWSS変化は、上記のブレンド制御パラメーターαとして用いる。画像レンダリング910、しわスコアリング915、及びしわ年齢の推定925の手順は、上記のとおり実施する。
【0100】
しわのエイジングシミュレーションの実施例
図11A〜11Dは、将来における顔のしわの出現を予測するのに表情しわを用いる際の基本原理を示す顔画像である。ニュートラル状態の28歳の白人女性の被験者の顔画像を図11Aに、笑った表情の状態のものを図11Bに示した。これらの画像は、K.ミヤモト(Miyamoto)らの「美容画像化システム:皮膚状態の客観的評価のために(The Beauty Imaging System: For the Objective Evaluation of Skin Condition)」(化粧品サイエンス会誌(Journal of Cosmetic Science)、53(1)、2002年、62〜65ページ)に記載されているように、ヘッド位置決め補助手段が取り付けられた標準的な照明装置の中に搭載されたクローズアップレンズを備えるフジ(Fuji)DS330というデジタルカメラを採用している制御画像化システムを用いて撮影した。比較用に、図11Cは、同じ画像化システムによって撮影した、同じ被験者の37歳時のニュートラル画像を示している。28歳時に見ることのできる笑いじわ(図11B)の進行を、37歳時に撮影したニュートラル画像(図11C)内で視覚的に理解することができる。
【0101】
28歳時のニュートラル画像と笑顔画像に基づき、本発明のしわのエイジングシミュレーション法の例示的な実施形態によって、しわのエイジングシミュレート画像を生成した。このしわのエイジングシミュレート画像は図11Dに示されている。28歳時の画像に基づくしわのエイジングシミュレート画像(図11D)は、しわの出現という点で、37歳時の画像(図11C)とよく一致していることが観察できる。これは、顔のしわ(すなわち老化)の出現を予測する際の、本発明のエイジングシミュレーション法の有効性を示している。
【0102】
図12A〜12Hは、図11A〜Dの被験者の28歳〜37歳の顔の眼窩周囲領域内の表情じわの進行を示している。図12Aは、28歳時のニュートラル状態の顔の眼窩周囲領域の画像、図12Cは、28歳時の笑った表情の状態における眼窩周囲領域の画像、図12Eは、前記画像に基づくしわのシミュレート画像、12Gは、37歳時のニュートラル状態の眼窩周囲領域の画像である。図12B、12D、12F、及び12Hはそれぞれ、米国特許出願公開第11/681,509号に記載されているようなしわ検出法によって生成した、対応するしわ検出済み画像である。しわ検出法の設定は、全ての画像において同じである。図12B、12D、12F、及び12Hでは、多角形1200によって画定される領域内で検出されるしわが強調された状態で示されている。
【0103】
図12Bから見て取れるように、図12Aのニュートラル画像においては、しわがほんのわずかしか検出されていない。しかし、図12Dに示されているように、図12Cの笑った表情の画像においては、もっと多くのしわが検出されている。笑った画像に出現している新たなしわの量は、視覚的に明白である。本発明による代表的な方法を用いて、笑顔によって誘発されるしわを図12Aのニュートラル画像の上に位置合わせして、ニュートラル時のように見えるしわを有する、図12Eのしわのエイジングシミュレート画像を得る。図12Fは、図12Eに対応する、しわ検出済み画像を示している。
【0104】
本発明のエイジングシミュレーション法の正確性を示すために、被験者の同じ関心領域の実際の37歳の画像が図12Gに、図12Hの対応するしわ検出済み画像と共に示されている。表情によって誘発されるしわの大半は、37歳の画像内で見ることができる。換言すれば、37歳の画像において検出されるしわの大半は、本発明のエイジングシミュレーション法によって予測されている。
【0105】
本発明は、例えば、本明細書に記載されている方法に従ってプログラムされたコンピュータを用いて、実施することができる。本発明用に用いることができる代表的なハードウェア構成は、米国特許出願公開第11/681,509号に記載されている。上記の実施形態は、本発明の用途を代表することのできる考え得る具体的な実施形態のほんのいくつかを例証しているに過ぎないと理解される。当業者であれば、本発明の趣旨及び範囲から逸脱せずに、数多くの様々なその他の方策を立てることができる。
【技術分野】
【0001】
(関連出願の相互参照)
本出願は、2007年7月23日に出願された米国特許仮出願第60/951,313号からの優先権を主張し、この特許は、その全体が参照として本明細書に組み込まれている。
【0002】
(発明の分野)
本発明は、画像処理の分野、詳細には、皮膚の画像の処理、及びそのエイジング又はディエイジングのシミュレーションに関する。
【背景技術】
【0003】
人の顔の外観(アピアランス)に及ぼす皮膚の老化の影響は、皮膚サイエンスで入念に研究及び文書化されている。各個人の皮膚の老化の進行は、内因性因子と外因性因子の双方に依存する。性別、人種、及び皮膚色素沈着のような内因性因子は、遺伝子によってプログラムされており、各個人によって異なるものであり、皮膚のひ薄化の速度、機械的弾性の喪失、及び加齢に伴うその他の特に特徴的な組織学的及び生体力学的変化に影響を及ぼす場合がある。内因性因子は、日光から保護されている身体部位と日光に曝露されている身体部位の双方に影響を及ぼす。外因性因子としては、個人の食生活、ライフスタイル、スキンケア習慣、及び日光曝露履歴が挙げられる。慢性的な日光曝露は、皮膚の老化の開始時期を早め、その重症度を加速させることがよく知られている(光老化ともいう)。顔を含む曝露身体部位はいずれも、ある程度の皮膚の光老化を受ける(ギルクレスト(Gilchrest).,B.著、「光損傷(Photodamage)」、ブラックウェル・サイエンス社(Blackwell Science, Inc.)1995年)。
【0004】
老化した顔面皮膚の最も視覚的に顕著な特徴の1つは、小じわとしわであり(レイデン(Leyden)J.J.著、「老化している皮膚の臨床的特徴(Clinical features of ageing skin)」、英国皮膚サイエンス会誌(Br. J. Dermatol.)第122巻、付録35、1〜3ページ、1990年)、それらは、特に体の日光曝露区域内における、コラーゲン及びエラスチンのような皮膚結合組織の段階的変化及び喪失によって部分的にもたらされる(ベイリー(Bailey)著、「結合組織における老化の分子機構(Molecular mechanisms of aging in connective tissues)」、老化及び発達の機構(Mech. Aging Dev.)、第122巻、第7号、735〜755ページ、2001年)。皮膚は、外側の角質層(10〜20μm)、生表皮(50〜100μm)、真皮(1〜3mm)、及び主に脂肪細胞からなる下皮を有する多層組織である。皮膚は、結合組織を介して下層の筋肉組織に結合しており、筋肉は頭蓋骨に付着している。
【0005】
笑顔のような顔の表情によって、大頬骨筋及び眼輪筋のような筋肉が接触して、目の周囲及び頬で皮膚の表面積が縮小する。皮膚は非圧縮性であるため、表面積が縮小すると、余分な皮膚はよじれて、収縮方向と垂直なしわを形成する。目の周りに「目尻のしわ」又は「笑いじわ」ができることが、このようなしわの一般例である。筋肉が緩むと、表面積は通常の状態に戻り、しわが消える。このように形成及び消滅するしわは、表情しわ、動的しわ、又は一時しわという。加齢に伴い、同じ皮膚溝沿いでの顔の表情の繰り返しによってもたらされる機械的応力によって、最終的に、これらの一時的しわは、表情なしでも目に見えるようになる(クリグマン(Kligman)ら著、英国皮膚サイエンス会誌(Br. J. Derm.)、1985年、第113巻、37〜42ページ)。顔の表情なしでも目に見えるしわは、恒久的しわ、永続的しわ、又は静的しわという。一時的しわから永続的しわへの転換は、下層の真皮マトリックスタンパク質の構造的一体性の影響を受ける。慢性的な日光曝露、及び喫煙によって加速される、加齢による皮膚弾性の喪失は、真皮マトリックス構造を弱め、恒久的しわの開始時期を早める。重要なことに、各個人は、指紋が人によって異なるのと同様に、長さ、幅、深さ、及び顔における位置の面で人によって異なる恒久的顔面しわを発生させる。
【0006】
個人の今後現れてくる顔面皮膚のしわを予測及び視覚化する機能は、コンピュータアニメーション、顔認識、行方不明者の識別、娯楽、医療、及び美容において有用性をもたらす。老化している顔面の現実的シミュレーションを可能にするために、幾何モデル、物理モデル、生体力学的モデル、及び画像ベースのモデル(フセイン(Hussein),K.H.著、「人の皮膚老化アニメーションの現実的な顔面モデリング及び再レンダリング(Toward realistic facial modeling and re-rendering of human skin aging animation)」、シェイプ・モデリング・インターナショナル2002(Shape Modeling International 2002)会報、IEEEコンピュータソサエティ(IEEE Computer Society)、2002年)を含め様々なモデルが採用されてきた。視覚化の目的では、画像ベースのモデルの方が、物理モデルよりも現実的なシミュレーションを生成する。画像ベースのモデルは典型的に、様々な方法で実在の人の画像を用いて、老化の影響をシミュレートする。
【0007】
画像ベースのモデルを用いてエイジングシミュレーションをパーソナライズして、そのシミュレーションが、特定の人の今後現れてくる老化の外観を更に正確に描写するようにするために、いくつかのアプローチが取られてきた。例えば、個人の老化した外観をシミュレートするために、加齢に伴う顔の変化に関する公表済みのデータと併せて、画像の集団コホートに基づき、エイジングアルゴリズムが開発されてきた(ハイサート(Hysert)PEら著、「ありのままで:老化進行ソフトウェアは、喫煙の外観に対する影響のパーソナライズ化したデモンストレーションを提供する(At Face Value: age progression software provides personalized demonstration of the effects of smoking on appearance)」、タバコ・コントロール(Tobacco Control)、第12巻、238〜240ページ、2003年)。この方法の限界は、エイジド画像が、集団ノルムの反映物であり、人によって異なる老化プロセスを必ずしも反映していない点である。
【0008】
ボワシュ(Boissiux)らは、皮膚の老化をシミュレートする画像ベースのモデルを開発し、このモデルによって、事前にコンピュータ処理したしわの汎用マスクを、人の顔の3Dモデル上のテクスチャとして適用する。8つの基本マスクを採用し、シミュレートを行う人の性別、顔の形、及び表情のタイプに、用いられる特定のマスクをマッチさせる(ボワシュ(Boissiux)ら著、「美容的観点による、皮膚の老化及びしわのシミュレーション(Simulation of skin aging and wrinkle with cosmetic insight)」、コンピュータアニメーション及びシミュレーション(Computer Animation and Simulation)、15〜27ページ、2000年)。このアプローチも、汎用マスクへの依存により、加齢に伴い現れる、人によって異なる皮膚特徴を正確に予測する能力において制限される。
【0009】
「画像ベースの表面細部転写のシステム及び方法(System and method for image-based surface detail transfer)」という名称のチャン(Zhang)らの米国特許第7,020,347号は、若い顔を老けて見えるようにするために、老いた顔の幾何学的細部を若い顔の幾何学的細部の上に転写する方法を説明している。逆に言えば、老けた顔を若く見えるようにするために、若い顔の表面細部を老けた顔の表面細部の上に転写することができる。このアプローチは、老けた顔の老化特徴が必ずしも、若い顔が最終的にもたらす特徴と全く同じにはならないことによって制限される。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】米国特許仮出願第60/951,313号
【特許文献2】米国特許第7,020,347号
【非特許文献】
【0011】
【非特許文献1】ギルクレスト(Gilchrest).,B.著、「光損傷(Photodamage)」、ブラックウェル・サイエンス社(Blackwell Science, Inc.)1995年
【非特許文献2】レイデン(Leyden)J.J.著、「老化している皮膚の臨床的特徴(Clinical features of ageing skin)」、英国皮膚サイエンス会誌(Br. J. Dermatol.)第122巻、付録35、1〜3ページ、1990年
【非特許文献3】ベイリー(Bailey)著、「結合組織における老化の分子機構(Molecular mechanisms of aging in connective tissues)」、老化及び発達の機構(Mech. Aging Dev.)、第122巻、第7号、735〜755ページ、2001年
【非特許文献4】クリグマン(Kligman)ら著、英国皮膚サイエンス会誌(Br. J. Derm.)、1985年、第113巻、37〜42ページ
【非特許文献5】フセイン(Hussein),K.H.著、「人の皮膚老化アニメーションの現実的な顔面モデリング及び再レンダリング(Toward realistic facial modeling and re-rendering of human skin aging animation)」
【非特許文献6】シェイプ・モデリング・インターナショナル2002(Shape Modeling International 2002)会報、IEEEコンピュータソサエティ(IEEE Computer Society)、2002年)
【非特許文献7】ハイサート(Hysert)PEら著、「ありのままで:老化進行ソフトウェアは、喫煙の外観に対する影響のパーソナライズ化したデモンストレーションを提供する(At Face Value: age progression software provides personalized demonstration of the effects of smoking on appearance)」、タバコ・コントロール(Tobacco Control)、第12巻、238〜240ページ、2003年
【非特許文献8】ボワシュ(Boissiux)ら著、「美容的観点による、皮膚の老化及びしわのシミュレーション(Simulation of skin aging and wrinkle with cosmetic insight)」、コンピュータアニメーション及びシミュレーション(Computer Animation and Simulation)、15〜27ページ、2000年
【発明の概要】
【発明が解決しようとする課題】
【0012】
本発明の目的は、特定の人に独特な、今後現れてくる個人の顔面皮膚のしわをより正確に予測及び視覚化する方法を提供することである。本発明の別の目的は、例えば該当する人の性別、皮膚のタイプ、及び/又は人種に基づき、将来の特定の時点における個人の顔面皮膚のしわを予測する方法を提供することである。本発明の更に別の目的は、美容外科又は皮膚科的処置の有無にかかわらず、今後現れてくる個人の顔面皮膚のしわを予測及び視覚化する方法を提供することである。
【課題を解決するための手段】
【0013】
例示的な実施形態では、本発明は、1つ以上の顔の表情を有する人の1つ又は複数の画像(表情画像という)と、自然な表情又はリラックスした表情を有する同じ人の画像(ニュートラル画像という)に基づき、予測されるしわの外観を描写する、人の画像を生成するための方法及びシステムを提供する。
【0014】
本発明の1つの態様によれば、装置及び方法は、人のニュートラル画像と表情画像を加工して、その特定の人に合わせてパーソナライズされた、しわのエイジド画像を生成する。本発明の例示的な実施形態は、人自身の組織学的なしわデータを用いて、予測されるしわの経時変化をシミュレートし、それによって、しわの経時変化の更に正確かつ現実的なシミュレーションをもたらす。
【0015】
本発明の更なる態様では、顔の自然な形相又はリラックスした形相に影響を及ぼすことなく、顔の表情画像で検出されたしわを、顔のニュートラル画像の上に転写し、しわの経時変化の現実的な予測を作り出す。
【0016】
本発明の別の態様では、異なる表情画像を用いて、顔の異なる部分のしわを描写すると共に、複合的なしわのエイジド画像をレンダリングするようにできる。例えば、額のしわは、眉をひそめた表情によってより明白になる一方で、頬のしわ及びほうれい線のしわは、笑った表情によってより明白になる。顔のその他の表情を、顔の他の領域のしわに、より密接に適合させてもよい。例示のために、笑った表情と眉をひそめた表情について説明しているが、本発明は多種多様な顔の表情を用いて、顔の様々な領域のしわの経時変化をシミュレートすることができる。
【0017】
本発明の別の態様では、ニュートラル画像と、しわのあるエイジド画像をブレンドすることができ、特定の期間後のしわのあるエイジド画像を示すレンダリング画像を得るために、そのブレンドの度合いを制御機構(例えば、スライダー制御、ノブなど)で調節する。
【0018】
本発明の更なる態様では、統計的なしわのエイジングモデルに従って、ニュートラル画像と、しわのあるエイジド画像をブレンドする度合いを調節して、将来の特定の時点の個人において予測されるしわの経時変化の量をシミュレートすることができる。しわの統計的なエイジングモデルは好ましくは、例えば、その人の性別、皮膚のタイプ、民族及び/又は地理的所在地に基づいて、その特定の個人に対応するピアグループから得ることができる。母集団データに基づいて統計的なしわのエイジングモデルを抽出すると共に、皮膚の欠陥の重症度を定量化するのに用いることができる技術は、「皮膚の画像化及び分析のシステム及び方法(Skin imaging and analysis systems and methods)」という名称のヒレブランド(Hillebrand)らの米国特許第6,571,003号に記載されており、この特許は、その全体が、参照として本明細書に組み込まれる。しわの検出及びエイジングシミュレーションは、2007年3月2日に出願された「顔面皮膚のエイジング及びディエイジングのシミュレーションのための方法及び装置(Method and apparatus for simulation of facial skin aging and ディエイジング)」という名称の米国特許出願公開第11/681,509号に記載されており、この特許は、その全体が参照として本明細書に組み込まれる。
【0019】
上記のしわのエイジド画像と同様に、制御機構(例えば、スライダー制御、ノブなど)で調節したブレンド度で、ニュートラル画像としわのディエイジド画像をブレンドして、様々なしわのディエイジング度を示すレンダリング画像を得ることができる。顔の画像に現れているしわの検出及び除去に基づいて、顔の上に、しわのシミュレート済みディエイジングを示すしわのディエイジド画像は、上記の米国特許出願公開第11/681,509号に記載されているように生成することができる。このようなディエイジド画像を用いて、局所製剤、注射可能な充填剤、注射可能なボツリヌス毒素、フラクショナルリサーフェイシング、光/レーザー治療などのような処置を利用した後のしわの軽減結果を例示することができる。しわのディエイジングの程度は、特定のタイプの処置に基づくしわのディエイジングモデルにリンクさせることができる。しわのディエイジングの程度は、該当する個人のピアグループ(例えば、性別、皮膚のタイプ又は地勢)に対応する上記の統計的なエイジングモデルにもリンクさせることができる。
【0020】
本発明の上記及び他の態様及び特徴は、以下の図面及び発明を実施するための形態から明らかになるであろう。
【図面の簡単な説明】
【0021】
【図1】本発明による、人のニュートラル画像と表情画像を用いてシミュレートされた、しわのエイジド画像を生成する代表的な方法のハイレベルフローチャート。
【図2】本発明の例示的な実施形態による、ニュートラル画像と表情画像との間の対応検出アルゴリズムのフローチャート。
【図3】本発明による、表情画像からのしわをニュートラル画像の上に転写するための代表的な弾性位置合わせ及びマッピングアルゴリズムのフローチャート。
【図4A】本発明による、しわのエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのエイジングモデルに基づいている方法のフローチャート。
【図4B】本発明による、しわのエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのエイジングモデルに基づいている方法のフローチャート。
【図5】本発明による、特定の期間後のしわの経時変化をシミュレートするために、図4A及び4Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図6A】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのディエイジングモデルに基づいている方法のフローチャート。
【図6B】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、統計的なしわのディエイジングモデルに基づいている方法のフローチャート。
【図7A】本発明による、特定の期間後のしわのディエイジングをシミュレートするために、図6A及び6Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図7B】本発明による、特定の期間後のしわのディエイジングをシミュレートするために、図6A及び6Bの方法で用いることができる、サンプルのしわのエイジングモデルを示すグラフ。
【図8】しわのディエイジド画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、処置代替策及びその有効性予測のデータベースに基づいている方法のフローチャート。
【図9】しわ画像をニュートラル画像とブレンドする代表的な方法であって、前記ブレンド作業が、ライフスタイル因子及びその因子の顔のしわへの影響予測のデータベースに基づいている方法のフローチャート。
【図10】本発明による、顔全体の斜位像に基づいた代表的な方法によって生成した代表的な顔面皮膚マップ、及びいくつかの説明的な主要顔面特徴点。
【図11A】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像
【図11B】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図11C】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図11D】将来における顔のしわの外観を予測するのに表情しわを用いることを示す顔面画像。
【図12A】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12B】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12C】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12D】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12E】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12F】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12G】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【図12H】9年間にわたる、顔の眼窩周囲領域の表情しわの進行を示す顔面画像。
【発明を実施するための形態】
【0022】
代表的な実施形態の概要
図1は、本発明による、代表的なしわのエイジングシミュレーション法を示すハイレベルフローチャートである。101Aでは、従来のデジタルカメラによるなどして、ニュートラルな状態(リラックスした状態又は表情のない状態ともいう)にある人の顔のクローズアップ顔写真を標準光の下で撮影する。101Bでは、表情を有する同じ被験者の写真を同じ条件下で撮影する。本発明は、いずれの特定の顔の表情にも制限されず、例えば、笑った表情、眉をひそめた表情、ふくれっ面、ウインク、横目、又は驚いた表情を含め、表情の画像を生成するために、しわを引き起こす、あらゆる顔の表情も潜在的に用いることができると考えられる。
【0023】
標準化されかつ再現可能な照明条件及び画像位置合わせを提供するために、キャンフィールド・サイエンティフィック社(Canfield Scientific, Inc.)から入手可能なVISIAコンプレクション・アナリシス・システム(VISIA Complexion Analysis System)(以下VISIAという)のような自動又は制御顔画像撮影システムによって、2つの画像を好ましくは撮影する。更には、斜位像又は正面像のいずれかで2枚の写真を撮影してもよい。本実施形態では、目尻のしわのような、しわを有する顔面皮膚区域及びほうれい線区域をより良好に表示するために斜位像を用いる。
【0024】
例示的な実施形態では、101A及び101Bで得た標準光画像をRGB(赤、緑、青)カラーの画像として表すことができる。102Aでは、マスキング手順と顔面特徴の検出をニュートラル画像に施す。マスキング手順では、顔の特定の区域、特に、例えば目尻のしわのようなしわを含む区域、及びほうれい線区域の輪郭を描く必要がある。顔面特徴の検出では、関心のある特定の顔面特徴を特定する一連の顔面特徴点を生成する。マスキング及び顔面特徴の検出プロセスについては、後で更に詳細に説明する。同様に、102Bでは、マスキング及び顔面特徴の検出を表情画像に施す。
【0025】
下記の位置合わせ及びマッピングプロセスで用いるものとして、一連のニュートラル画像の顔面特徴点103Aを102Aで、一連の表情画像の顔面特徴点103Bを102Bでそれぞれ生成する。これに加えて、マスキング済みニュートラル画像104Aを102Aで生成し、マスキング済み表情画像104Bを102Bでそれぞれ生成する。
【0026】
作業は、続いて105に進み、この105では、マスキング済みニュートラル画像104Aとマスク済み表情画像104Bとの間で対応マッチングプロセスを行う。対応マッチングプロセスでは、一連の対応画像点を生成する。特徴ベースの対応マッチングプロセスについては、後で更に詳細に説明する。
【0027】
対応マッチング・プロセスによって生成された対応画像点に基づいて、107で弾性位置合わせプロセスを行う。弾性位置合わせプロセスでは、表情画像の各ピクセルからニュートラル画像の対応するピクセルへのマッピングをもたらす。弾性位置合わせプロセスについては後で説明する。
【0028】
107で生成された弾性位置合わせマッピングに基づいて、109で表情画像からニュートラル画像へのしわのマッピングを行う。マスキング済み表情画像の全体、マスキング済み表情画像のサブセクション若しくはパッチ(例えば、目尻のしわ、眼窩周囲区域、ほうれい線)、又は表情画像から検出したしわ座標によるしわ間ベースで、マッピングを行うことができる。「顔面皮膚の経時及びディエイジングのシミュレーションのための方法及び装置(Method and apparatus for simulation of facial skin aging and de-aging)」という名称の米国特許出願公開第11/681,509号は、特定のマスク内でしわを検出する方法を説明している。109で行うプロセスについては、後で詳細に説明する。
【0029】
上述のとおり、(109で)マスキング済み表情画像内のしわをパッチ間ベースで、ニュートラル画像に転写することができる。しかし、潜在的な陰影差と色差が原因で、転写済みパッチとニュートラル画像との間の境界線沿いにミスマッチが存在する場合もある。このようなアーチファクトは、111の画像モザイク化技術を用いて除去することができる。この実施形態で用いるのに好ましい画像モザイク化技術では、バート(Burt)及びアデルサン(Adelsan)による「画像モザイクへの用途による多重解像度スプライン(A multi-resolution spline with application to image mosaics)」(ACMトランザクションズ・オン・グラフィックス(ACM transactions on Graphics)第2巻、第4号、1983年10月)によって説明されているような多重解像度分解技術を用いる。その他の既知のブレンド技術も用いることができる。
【0030】
モザイク化技術を通じて境界アーチファクトを除去した後、113でしわのシミュレート画像を生成する。この画像は、シミュレートなしでは表情画像のみで明白である動的しわをニュートラル画像の上に描いており、これによって、時間に伴うしわの経時変化の現実的な描写を提供する。
【0031】
画像内のしわを更に見えやすく表示するために、しわのシミュレート画像(113)の画質を更に向上させることができる。このような向上作業は、米国特許出願公開第11/681,509号に記載されているようなしわのエイジングシミュレーション方法を用いて行うことができる。この技術は、顔のしわを検出及び強調する。その他の特徴増大技術(例えば、輪郭強調法)を用いて、しわの経時変化の影響を更に劇的にすることもできる。
【0032】
マスキング、及び顔面特徴の検出
しわのエイジングシミュレーションは好ましくは、しわとほうれい線を含む顔の皮膚区域の上で行わなければならない。本発明の例示的な実施形態では、例えば、唇、毛、目、眉、及び鼻孔といった顔の皮膚以外の区域は、シミュレーションから除外する。顔の前記皮膚区域を検出する技術は、米国特許出願公開第11/681,509号に記載されている。この方法は、皮膚マップを生成し、顔の皮膚領域の輪郭を描くと共に、唇、目、眉、及び毛のような皮膚以外の区域を取り除く。
【0033】
斜位像の代表的な顔面皮膚マップは、図10に示されている。この皮膚マップから、いくつかの主要な顔面特徴点を識別できると共に、顔のしわ区域を覆うマスクを設計することができる。例えば、目の角部である点A及び点Bは、皮膚マップ内で輪郭が描かれている目の区域の最右点及び最左点として、マークが付されている。顔面特徴点Cは、目のラインと鼻筋との交点として画定されている。顔面特徴点Dは、鼻の頂点である。顔面特徴点Eは、鼻に近接する、ほうれい線の頂点である。顔面特徴点Fは、唇の角部である。これらの顔面特徴点を用いて、顔のある特定区域を覆う特定のマスクを設計することができる。例えば、顔面特徴点Bを通るように描かれている水平な点線を上端として、顔面特徴点Fを通るように描かれている水平な点線を下端として用いて、目の高さよりも下であり、唇の高さよりも上である皮膚区域を覆うマスクを設計することができる。
【0034】
本発明は、弾性位置合わせプロセスにおいて、上記の顔面特徴点のいくつかを用いる。好ましい実施形態では、3つの顔面特徴点A、B、及びEは、ニュートラル画像と表情画像との間で一貫して識別することのできる優れた目印点である。これらの顔面特徴点の識別は、対応マッチングプロセスを補助し、位置合わせを容易にすることになる。
【0035】
特徴ベースの対応マッチング
図2は、代表的な特徴ベースの対応マッチングプロセスであって、ニュートラル画像と表情画像のマスキング済み部分をインプットとしてみなし、位置合わせプロセスで用いられる一連の対応する制御点を戻すプロセスのフローチャートを示している。特徴ベースの対応マッチングプロセスは、両方の画像上の同じ皮膚特徴を見つけることに基づいている。
【0036】
まず、マスキング済みのニュートラル画像104A(図1の画像)を201Aで、マスキング済みの表情画像104B(図1の画像)を201Bで、それぞれ処理して特徴画像を生成する。特徴画像では皮膚の特徴が強調されており、オリジナル画像よりも対応マッチングに有効であることが分かる。本発明における好ましい特徴画像は、標準的なRGB画像の青チャンネルと緑チャンネルの平均である。青及び緑チャンネルは、色素沈着の斑点及び毛穴を、より良好に示すことが知られている。これらの特徴は、青色及び緑色のスペクトル内において、より高い吸収を見せるためである。例えば、強度画像、若しくはCIE LAB変換画像の明度(L)チャンネル、又はその他の既知のコントラスト生成技術を用いるコントラスト画像など、特徴画像を生成するためのその他の技術も用いることもできる。
【0037】
ニュートラル画像及び表情画像を生成したら、203で、ニュートラル画像に基づいて、斑点特徴(例えば、褐斑、大きい毛穴など)を検出して、ラベリングする。表情画像内にはゆがみが存在するため、斑点特徴は、表情画像よりもニュートラル画像での方が簡単に検出される。米国特許出願公開第11/681,509号は、強調又はコントラスト画像から斑点特徴を検出するプロセスを説明している。顕著な特徴(例えば、特定の寸法及び上記のいくらかのコントラスト閾値よりも大きいもの)の方が、表情画像で検出可能である可能性が高いため、対応マッチングには、顕著な特徴のみが用いられることに留意されたい。
【0038】
特徴を検出してラベリングした後、205で顕著な皮膚特徴を探し出す。これを行う際には、表情画像を特定の寸法のブロックに分割する。ブロックの寸法は好ましくは、所望の数の対応点に基づいている。各ブロックにおいて、最も顕著な機構を探し出し、バウンディングボックスで囲む。このバウンディングボックスを用いて、ニュートラル特徴画像(201Aの画像)から矩形パッチを切り取り、表情特徴画像(201Bの画像)内で同じ特徴を検索するためのテンプレートとして用いる。テンプレートマッチング技術を207で用いて、表情特徴画像内で、対応する小さい矩形パッチの場所を探し出す。テンプレートマッチング技術では、正規化相互相関測度を用いて、マッチングする特徴の場所を探し出すが、この目的のために、その他のメトリクス(例えば、相互情報(MI)、ヒストグラム差のエネルギー(EHD)など)も用いることができる。マッチングメトリクスが、特定の閾値を下回る場合、いくつかのマッチングを除外することができる。例えば、正規化相互相関においては、0.5の閾値を用いて、不十分な対応を除外することができる。ニュートラル画像内の各ブロックにおいて、このプロセスを反復し、一連の対応点(ニュートラル画像点及び表情画像点)をプロセス205及び207から戻す。これらの一連の点に、ニュートラル画像顔面特徴点103Aと表情画像顔面特徴点103Bを自動又は手動のいずれかで加えることができる。これらの顔面特徴点(例えば、目の角部、ほうれい線の頂点)は、図1に示されているプロセスの102A及び102Bで事前に定めたものである。これらの点を追加すると、特に目の周りにおいて、しわの位置合わせが向上するはずである。
【0039】
209では、マッチング点の妥当性を検証するために、ある手順を行う。例えば、不当にマッチしたペアを除去するために、ドロネー三角形分割(Delaunay tringularization)などの幾何学的技術を用いる様々な妥当性検証手順がある。例示的な実施形態では、3つの対応点に対して三角形幾何を用い、三角形の角度と長さに基づいて三角形の類似性測度を用いて、外れ値を除外する。三角形幾何は、既に探し出した2つのマッチングターゲット点、及び3つの対応する基準点によって形成された三角形に基づき、ターゲット点のおおよその場所を予測するのにも用いることもできる。このようなプロセスは、探索空間を縮小させ、対応マッチングを向上させ、処理時間を短縮する。
【0040】
マッチング点の妥当性検査(209)の後も、ぴったりマッチしているわけではない点のペアがいくつか残っている場合がある。211では、例えば、ラベル化された対応点を有する両方の画像を表示するグラフィカルユーザーインターフェース(GUI)ツールによって、これらのペアを手動で補正することができる。これらの画像は好ましくは、201A及び201Bで生成された特徴画像であるが、オリジナルのニュートラル画像と表情画像であることもできる。オペレーターは、ミスマッチの対応点を補正するか、新たな対応点を加えるか、又は、外れ点を除去することができる。この手動操作後には、全ての対応点がマッチするはずである。ミスマッチのペアによって、表情画像からのしわをニュートラル画像に転写するとき、最終的なシミュレート画像上に望ましくないアーチファクトが生じる場合がある。
【0041】
弾性位置合わせ及びマッピング
代表的な弾性位置合わせ及びマッピングプロセスが図3に示されている。表情画像からのしわをニュートラル画像の上に位置合わせするために、まず、関心領域(すなわち、マスキング済み領域)内における表情画像とニュートラル画像との間の空間マッピングを定める。ニュートラル画像及び表情画像のマスキング済み領域を用いて、一連のマッチング制御点を探し出し、この制御点を用いて、マッピングを画定することになる。対応マッチング後に得られた一連のニュートラル画像制御点及び表情画像制御点に基づいて、弾性位置合わせ技術を用いて、2つの画像間の一対一の空間マッピングを画定できる。マッピングが確立されたら、表情画像からのしわをニュートラル画像の適切な場所に転写することができる。
【0042】
図3は、ニュートラル画像と表情画像との間の弾性位置合わせ及びマッピングの代表的なプロセスのフローチャートである。用いることができるその他の位置合わせ技術のうち、ニュートラル状態から表情を有する状態に移り変わる顔のモーフィングをもたらす弾性位置合わせが好ましい。様々な既知の弾性位置合わせ技術(例えば、薄板スプライン(TPS)、多重二次(MQ)、区分的線形(PL))があり、これらのうちのいくつかは、画像処理ソフトウェアパッケージの一部として含まれている。本発明の好ましい実施形態は、生体医学画像の位置合わせで広く用いられているTPS技術を用いており、高度な弾性を有する2つの画像の間のスムーズなマッピングを画定するのに、より適している。
【0043】
図2の対応マッチングプロセスで生成されたニュートラル画像制御点213A及び表現画像制御点213Bを301で用いて、弾性位置合わせのパラメーターを定める。この目的で用いることのできる一連の対応点から、TPS位置合わせパラメーターを見積もる方法は、ブックスタイン(Bookstein)ら、「主ゆがみ:薄板スプライン及び変形分解(Principal Warps: Thin-Plate Splines and the Decomposition of Deformations)」(IEEEトランザクションズ・オブ・パターン・アナリシス・アンド・マシン・インテリジェンス(IEEE Transactions on Pattern Analysis and Machine Intelligence)第11巻、第6号、1989年6月)に記載されている。
【0044】
続いて、301で定めたTPSパラメーターを303で用いて、表情画像の関心区域の座標をニュートラル画像にマッピングする。このような関心区域は、しわを含み、本明細書では、しわパッチとも称する。しわパッチは、しわを含むマスキング済み表情画像(104B、図1)の全部又はサブセクションであることができる。302では、マスキング済み表情画像内で、1つ以上のしわパッチの輪郭を描く。例示的な実施形態では、原画像の上のマスクをオーバーレイして、オペレーターが、マスク内の画像の所望の部分(1つ又は複数)を手動で選択できるようにすることによって、マスキング済み表情画像内で、1つ以上のしわパッチの輪郭を描くことができる。あるいは、オペレーターは、マスクを使用することなく、皮膚領域に固定された画像から、しわパッチを選択することができる。パッチの輪郭描写も、好適なアルゴリズムに従って自動的に行ってよい。したがって、マスキング済み表情画像の全体をニュートラル画像にマッピングする代わりに、本発明の方法によって、マスキング済み表情画像内のサブセクション又は関心領域のみをマッピングするのが可能になる。
【0045】
303での弾性マッピングの適用によって、新しい一連の座標が得られ、この座標は、位置合わせ済みマスク座標と称され、しわパッチ座標からニュートラル画像へのマッピングを画定する。しかし、このマッピングは、一対一のマッピングであることは保証されておらず、すなわち、位置合わせ済みパッチ座標に不連続性(ピクセル落ち)が存在する場合がある。このような不連続性を排除するために、補間又は平滑化手順を305で行って、連続的マッピング、すなわち、1つ又は複数の連続的パッチを構築することができる。この目的においては、本発明の好ましい実施形態では、位置合わせ済みマスク座標から新しい1つ又は複数のパッチを生成した後、小さい円形構造要素による形態的スムージングを用いる。当該技術分野において既知のその他の補間技術も用いてよい。
【0046】
305で、スムーズかつ連続的である新しい1つ又は複数のパッチを得た後、このパッチ内で、新しい座標一式307を定義し、303で生成した位置合わせ済みマスク座標をこれに差し替える。座標307は、ニュートラル画像の連続的しわマスク座標と称する。座標307を用いて、表情画像からインポートしたピクセルをニュートラル画像にポピュレートする。しかし、これらのニュートラル画像座標の対応座標を表現画像で探し出す必要がある。これは、309で逆マッピングプロセスを通じて行い、このプロセスは、ニュートラル画像座標から表情画像座標へのマッピングを画定する。したがって、309での逆マッピングプロセスは、301で得たものと逆の弾性位置合わせパラメーターを用いる逆マッピングを適用する。
【0047】
309の逆マッピング後、表情画像内の対応しわパッチ座標311を定める。この時点において、ニュートラル画像内の各ピクセルから表情画像内の対応ピクセルへの空間マッピングが確立される。313では、表情画像からのしわパッチピクセルを、対応座標に従ってニュートラル画像にコピーして、仮のしわシミュレート画像315を生成する。313のコピー手順は好ましくは、ニュートラル画像マスク内で行う。ニュートラル画像マスクは、前記マッピングを顔の皮膚領域に限定しているため、粗雑な対応マッチングに起因する粗雑な弾性位置合わせの場合に、仮のしわシミュレート画像315内で構造的アーチファクトの発生を防ぐ。
【0048】
良好な対応マッチングが得られるとすると、仮のしわシミュレート画像315は、ニュートラル画像とうまく位置合わせされるはずであり、ニュートラル画像と比較して、経時変化の影響を表示することができる。
【0049】
しかし、仮のしわシミュレート画像315は、境界アーチファクト、すなわち、1つ以上の転写済みしわパッチの境界線沿いの陰影及び色のミスマッチを有することがある。上述のとおり、このようなアーチファクトは、バート(Burt)及びアデルサン(Adelsan)による「画像モザイクへの用途による多重解像度スプライン(A multi-resolution spline with application to image mosaics)」(ACMトランザクションズ・オン・グラフィックス(ACM transactions on Graphics)第2巻、第4号、1983年10月)に記載されているような画像モザイク化技術(図1の111)を用いて、除去することができる。)当該技術分野において既知であるその他のモザイク化技術も用いることができる。
【0050】
可変なしわのエイジングシミュレーション
本発明の例示的な実施形態による、しわのエイジングシミュレーションは、例えば、ニュートラル画像としわのシミュレート画像との間のしわの経時変化の程度を示すレンダリング画像をコンピュータモニター上に表示することによって、示すことができる。対話制御機構(例えば、スライダー制御、ノブ、レバーなど)を提供して、観察者が、シミュレートされる経時変化の程度を変えられるようにすることができる。このようなプロセスは、図4A及び4Bに示されている。
【0051】
図4Aに示されているように、画像レンダリングプロセス410によって、顔のしわのシミュレート画像402を顔のニュートラル画像401とブレンドして、レンダリング画像420を生成する。画像レンダリング410は、例えばアルファブレンディング、又は他の様々な好適な技術のいずれかを用いて、画像をブレンドする。
【0052】
ニュートラル画像401は、上記(例えば図1の101A)に記載されているように得ることができ、しわのシミュレート画像402は、図1の方法を用いて生成することができる。画像レンダリング401は、ブレンド制御パラメーター403に従って、ニュートラル画像としわのシミュレート画像との間のブレンドの度合いを変えることができる。ブレンド制御パラメーター403は、例えば、コントロールノブ、スライダー、キーボード入力、若しくは、例えば、グラフィカルユーザーインターフェースウィジェットのようなハードウェアとソフトウェアベースの双方のインプリメンテーションを含むその他の機構のようなユーザーインプット、又は、ユーザーがインプットを提供できるその他の好適な手段から提供することができる。ブレンド制御パラメーターの一方の極点では(例えば、動作範囲の第1の端点にある、すなわちα=0であるスライダーによる場合)、レンダリング画像420は、ニュートラル画像401と同じであり、他方の極点(例えばα=1)では、しわのシミュレート画像402と同じである。ユーザーが、ユーザーインプット手段の操作によって、ブレンド制御パラメーターを変えると、レンダリング画像は、2つの極点の間で変化し、それによって、しわの経時変化の可変の程度を示すことになる。
【0053】
図4Aに示されているように、しわ年齢の推定プロセス425をブレンド制御パラメーターにリンクさせて、ブレンド画像420に対応するしわの推定年齢430を生成することができる。あるいは、ブレンドの度合いを変更する(すなわち、範囲[0 1]内でαを変える)ことによって、しわ年齢の推定プロセスをオフラインで実行して、特定の年齢間隔(例えば1年)で、しわのシミュレート画像を生成することができる。したがって、ブレンド制御機構(例えばスライダー制御)は、対話型シミュレーションの前に、特定の被験者についてラベリングすることができる。後で更に詳細に説明するとおり、しわ年齢の推定プロセス425では、しわの重症度(すなわちしわの量)と年齢との間の関係を説明するしわのエイジングモデル405を用いる。このようなモデルは、異なる年齢の大勢の人々から収集した統計的データに基づいて抽出することができる。皮膚の重症度測定値の割り出し、及び様々な皮膚タイプ(又は民族グループ)の統計的データは、ヒレブランド(Hillebrand)らによる米国特許第6,571,003号「皮膚の画像化及び分析のシステム及び方法(Skin imaging and analysis systems and methods)」に記載されている。
【0054】
好ましくは、しわのエイジングモデル405は、性別及び皮膚のタイプ(即ち民族)、地理的所在地、並びにライフスタイルに従って更に差異化して、個人のピアグループ(例えば性別、皮膚のタイプ、及び/又は喫煙のようなライフスタイルによって分類される)からのデータを用いて、その個人のしわの経時変化をモデル化するようにしてよい。
【0055】
しわのスコアリングプロセス415では、ブレンドされるニュートラル画像401としわのシミュレート画像402とにおけるしわの重症度スコアを定める。代表的なしわのスコアリング方法は、米国特許出願公開第11/681,509号に記載されている。図5を参照しながら後で更に詳細に説明するように、しわ年齢の推定プロセス425では、しわのエイジングモデル405、及び、ニュートラル画像としわのシミュレート画像のしわスコアを用いて、画像レンダリングプロセス410によって生成されたブレンド画像420に対応するしわ年齢(X)を割り出す。
【0056】
図4Aの例示的な実施形態では、レンダリング画像に基づいて、しわ年齢を生成するが、図4Bに示されている更なる例示的な実施形態では、ユーザーが指定したしわ年齢404に対応するレンダリング画像を生成する。図5を参照して以下に更に詳細に説明するように、ブレンドパラメーター決定プロセス435では、しわのエイジングモデル405、及びニュートラル画像としわのシミュレート画像のしわスコアを用いて、指定されたしわ年齢404におけるしわのシミュレート画像420を生成するために画像レンダリング410によって用いられるブレンド制御パラメーター(α)を定める。
【0057】
図5は、しわのエイジングシミュレーションの被験者のピアグループ(例えば白人女性)の代表的なしわのエイジングモデルを表すしわのエイジング曲線510を示している。曲線510は、このピアグループに関して収集した統計的データに基づいて、しわの重症度スコア(WSS)と年齢との間の関係を示している。しかし、被験者は、曲線510に該当しないWSSを有することもある。例えば、特定の30歳の白人女性は、曲線510で予測されている0.005というWSSとは異なり、0.03のWSSを有する場合がある。この被験者においては、ニュートラル状態における被験者のWSSに基づいた曲線510をシフトさせるなどして調節することによって、個人に合ったしわのエイジングモデルを抽出することができる。曲線520は、このような被験者に合わせて調節した曲線を表している。
【0058】
図5を参照すると、曲線520の点521は、例示的な30歳の白人女性の被験者の現行のWSSを表している。このWSSは、被験者の現行のニュートラル画像(IN)に基づいており、図5のチャートのy軸上で、WSS{IN}として示されている。更なるWSSは、上記のように生成することができるような、被験者のしわのシミュレート画像(IWS)から割り出す。この値は、図5のチャートのy軸上で、WSS{IWS}として示されており、曲線520の点523に対応する。曲線520から、WSS{IWS}に対応する年齢を割り出すことができる。図5に示されている例では、この年齢は50歳である。
【0059】
現行の年齢(例えば30歳)と、しわのシミュレート画像に対応する年齢(例えば50歳)との間の年齢の被験者のしわの経時変化をシミュレートする画像であって、レンダリングの対象となる画像(IR)は、点521と点523との間の曲線520の上に位置する点522に対応する。この画像のWSSは、図5のチャートのy軸上で、WSS{IR}として示されている。図5に示されている例では、この値は、対応する43歳という年齢において、約0.04である。
【0060】
点521と点522の間におけるWSSの変化は、点522に対応する年齢における被験者のしわの経時変化をシミュレートする目的でニュートラル画像に加えられるしわの量に関連している。後述のとおり、ニュートラル画像401としわのシミュレート画像402の間のブレンドの様々な度合いを有するレンダリング画像を表示しながら、WSSの変化を、図4A及び4Bに示されているレンダリングプロセスにおけるブレンド制御パラメーターにリンクさせることができる。
【0061】
図4A及び4Bの例示的な実施形態では、画像レンダリングプロセス410でアルファブレンディングを用いて、以下の式に従って、ニュートラル画像としわのシミュレート画像をブレンドすることができる。
【0062】
【数1】
式中、αは、0〜1(0及び1を含む)の間で変化するブレンド制御パラメーターであり、IWSは、しわのシミュレート画像を表し、INはニュートラル画像を表し、IRは、所定の値のブレンド制御パラメーターαにおけるレンダリング画像を表している。
【0063】
ブレンド制御パラメーターが最小値(すなわちα=0)であるとき、ニュートラル画像がレンダリング画像として生成される。ブレンド制御パラメーターが最大値(すなわちα=1)であるとき、しわシミュレート画像がレンダリング画像として生成される。ブレンド制御パラメーターがこれらの値の間のいずれかの値であるとき、しわの重症度スコアリングオペレーターWSS{I}を、上記のアルファブレンディング式(式1)に当てはめ、下記の式をもたらすことによって、被験者のしわの重症度スコアを算出することができる。
【0064】
【数2】
式中、WSS{I}は、画像IのWSSである。式2は、レンダリング画像のWSSが、しわのシミュレート画像とニュートラル画像のWSSの一次結合であること示している。
【0065】
制御機構(例えば、スライダー、ノブ、ウィジェット)によるなどして、ユーザーがブレンド制御パラメーターαを提供する図4Aの例示的な実施形態では、しわ年齢の推定プロセス425で、式2を用いて、レンダリングされる画像のWSSであるWSS{IR}を割り出す。調節済みのしわのエイジングモデル曲線520を用いて、しわ年齢の推定プロセス425で、WSS{IR}に対応するしわ年齢430を割り出す。レンダリング画像420と、対応するしわ年齢430を好ましくは一緒に表示して、ユーザーに、しわと年齢との間の相関関係を示す。
【0066】
シミュレートするしわ年齢をユーザーが指定する図4Bの例示的な実施形態では、ブレンドパラメーター決定プロセス435で、調節済みのしわのエイジング曲線520を用いて、指定のしわ年齢に対応するWSS、もっと厳密にいえば、レンダリングされる画像のWSSであるWSS{IR}を割り出す。ブレンドパラメーターαは、下記の式に従って、ブレンドパラメーター決定プロセス435によって、割り出すことができる。
【0067】
【数3】
【0068】
ブレンド制御パラメーターαを用いて、画像レンダリングプロセス410で、式1に従って、対応するブレンド画像をレンダリングする。
【0069】
シミュレートするしわ年齢をユーザーが指定する図4Bの例示的な実施形態では、ユーザーが指定した年齢を好ましくは最初にチェックして、その年齢が、現行の年齢と、被験者のしわのシミュレート画像に対応する年齢を含む範囲内(すなわち、この例では30〜50歳)にあるかを割り出すことに留意されたい。前記範囲内にない場合には、指定の年齢を自動的に制限することができ、あるいは、処理前に、前記範囲内にある年齢を入力するかユーザーに問うことができる。
【0070】
例示的な実施形態では、しわのエイジングモデル曲線510及び520を、例えばルックアップテーブル内にインプリメントすることができる。
【0071】
本発明の上述の画像レンダリング及びしわ年齢の推定の態様は、しわの経時変化に限定されておらず、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0072】
可変なしわのディエイジングシミュレーション
しわのエイジングシミュレーションに加えて、本発明は、上記のような画像レンダリングプロセスを用いる、可変なしわのディエイジングシミュレーション法も提供する。代表的な可変ディエイジングプロセスは、図6A及び6Bに示されている。図6A及び6Bに示されているように、画像レンダリングプロセス610によって、しわのディエイジド画像602を現行のニュートラル画像601とブレンドする。しわのディエイジド画像602は、米国特許出願公開第11/681,509号に記載されているようなしわのディエイジングシミュレーション法を用いて、ニュートラル画像601から生成することができる。
【0073】
画像レンダリング610では、例えばアルファブレンディング、又はその他のいずれかの様々な好適な技術を用いて、ブレンド制御パラメーターによって制御したブレンドの度合いで、画像601及び602をブレンドする。図6Aの実施形態では、例えば、制御ノブ、スライダー、又は、例えば、グラフィカルユーザーインターフェースウィジェットのようなハードウェアとソフトウェアの双方をベースとするインプリメンテーションを含むその他の好適な機構のようなユーザーインプット603からブレンド制御パラメーターを提供する。あるいは、図6Bの実施形態のように、以下に更に詳細に説明するように、ブレンド制御パラメーター決定プロセス635によってブレンド制御パラメーターを生成する。
【0074】
ブレンド制御パラメーターの一方の極点では(例えば、動作範囲の第1の端点、すなわちα=0にあるスライダーによる場合)、レンダリング画像620は、ニュートラル画像601と同じであり、他方の極点(例えばα=1)では、しわのディエイジド画像602と同じである。ブレンド制御パラメーターが、その極点間で変化すると、レンダリング画像は、ニュートラル画像としわのディエイジングのシミュレート画像との間で変化し、それによって、しわのディエイジングの可変な度合いを示すことになる。
【0075】
図6Aに示されているように、しわの経時変化の予想プロセス625をブレンド制御パラメーターにリンクさせて、ブレンド画像620に対応するしわの推定年齢630を生成することができる。以下に更に詳細に説明するとおり、しわ年齢の推定プロセス625では、しわの重症度(すなわちしわの量)と年齢との間の関係を説明するしわのエイジングモデル605を用いる。モデル605は、図4A及び4Bの可変なエイジングモデルとの関連で上述したモデル405と同じであることができる。
【0076】
しわのスコアリングプロセス615では、ブレンドされるニュートラル画像601としわのディエイジド画像602とにおけるしわの重症度スコアを定める。図4Aの実施形態と同様に、しわ年齢の推定プロセス625では、しわのエイジングモデル605、及びニュートラル画像としわのディエイジングシミュレート画像のしわスコアを用いて、画像レンダリングプロセス610によって生成されたブレンド画像620に対応するしわ年齢(X)を割り出す。
【0077】
図6Aの例示的な実施形態では、レンダリング画像に基づいて、しわ年齢を生成するが、図6Bに示されている更なる実施形態では、ユーザーが指定したしわ年齢604に対応するレンダリング画像を生成する。図7A及び7Bを参照しながら以下に更に詳細に説明するように、ブレンドパラメーター決定プロセス635では、しわのエイジングモデル605、及びニュートラル画像としわのディエイジングシミュレート画像のしわスコアを用いて、指定されたしわ年齢604におけるしわのディエイジド画像620を生成するために画像レンダリングプロセス610によって用いられるブレンド制御パラメーター(α)を定める。
【0078】
図7は、しわのディエイジングシミュレーションの被験者のピアグループ(例えば白人女性)の代表的なしわのエイジングモデルを表すしわのエイジング曲線710を示している。曲線710は、しわの重症度スコア(WSS)と、このピアグループに関して収集した統計的データに基づいた年齢との間の関係を示しており、上記の曲線510と同じであることができる。しかし、被験者は、曲線710に該当しないWSSを有することもある。例えば、特定の50歳の白人女性は、曲線710で予測されている0.015というWSSとは異なり、0.048のWSSを有する場合がある。この被験者については、ニュートラル状態における被験者のWSSに基づき曲線710を移行させるなどして調節することによって、個人に合ったしわのエイジングモデルを抽出することができる。曲線720は、このような被験者に合わせて調節した曲線を表している。
【0079】
図7を参照すると、曲線720の点723は、例示的な50歳の白人女性の被験者の現行のWSSを表している。このWSSは、被験者の現行のニュートラル画像(IN)に基づいており、図7のチャートのy軸上で、WSS{IN}として示されている。更なるWSSは、上記のように生成することができるような、被験者のしわのディエイジングシミュレート画像(ID)から割り出す。この値は、図7Aのチャートのy軸上で、WSS{ID}として示されており、曲線720の点721に対応する。曲線720から、WSS{ID}に対応する年齢を割り出すことができる。図7Aに示されている例では、この年齢は15歳である。
【0080】
レンダリングされる画像(IR)であって、現行年齢(例えば50歳)と、しわのディエイジングシミュレート画像に対応する年齢(例えば15歳)との間の年齢の被験者のしわのディエイジングをシミュレートする画像は、点721と点723との間の曲線520の上に位置する点722に対応する。この画像のWSSは、図5のチャートのy軸上で、WSS{IR}として示されている。図7Aに示されている例では、この値は、対応する43歳という年齢において、約0.04である。
【0081】
点722と点723の間におけるWSSの変化は、点722に対応する年齢における被験者のしわの経時変化をシミュレートする目的でニュートラル画像から除去されるしわの量に関連している。後述のとおり、ニュートラル画像601としわのディエイジド画像602との間の様々なブレンドの度合いを有するレンダリング画像を表示しながら、WSSの変化を、図6A及び6Bに示されているレンダリングプロセスにおけるブレンド制御パラメーターにリンクさせることができる。
【0082】
図6A及び6Bの例示的な実施形態では、画像レンダリングプロセス610でアルファブレンディングを用いて、以下の式に従って、ニュートラル画像としわのシミュレート画像をブレンドすることができる。
【0083】
【数4】
式中、αは、0〜1(0及び1を含む)の間で変化するブレンド制御パラメーターであり、IDは、しわのディエイジングシミュレート画像を表し、INはニュートラル画像を表し、IRは、所定の値のブレンド制御パラメーターαにおけるレンダリング画像を表している。
【0084】
ブレンド制御パラメーターが最小値(すなわちα=0)であるとき、ニュートラル画像がレンダリング画像として生成される。ブレンド制御パラメーターが最大値(すなわちα=1)であるとき、しわのディエイジングシミュレート画像がレンダリング画像として生成される。ブレンド制御パラメーターが、これらの値の間のいずれかの値であるとき、しわの重症度スコアリングオペレーターWSS{I}を、上記のアルファブレンディング式(式4)に当てはめ、下記の式を与えることによって、被験者のしわの重症度スコアを算出することができる。
【0085】
【数5】
式中、WSS{I}は、画像IのWSSである。
【0086】
ユーザーがブレンド制御パラメーターαを決定する図6Aの例示的な実施形態では、しわ年齢の推定プロセス625で式5を用いて、レンダリングされる画像のWSSであるWSS{IR}を割り出す。調節済みのしわのエイジングモデル曲線720を用いて、しわ年齢の推定プロセス625で、WSS{IR}に対応するしわ年齢630を割り出す。レンダリング画像620と、対応するしわ年齢630を好ましくは一緒に表示して、ユーザーに、しわと年齢との間の相関関係を示す。
【0087】
シミュレートするしわ年齢をユーザーが指定する図6Bの例示的な実施形態では、ブレンドパラメーター決定プロセス635で、調節済みのしわのエイジングモデル曲線720を用いて、指定のしわ年齢に対応するWSS、もっと厳密にいえば、レンダリングされる画像のWSSであるWSS{IR}を割り出す。ブレンドパラメーターαは、下記の式に従って、ブレンドパラメーター決定プロセス635によって、割り出すことができる。
【0088】
【数6】
【0089】
ブレンド制御パラメーターαを用いて、画像レンダリングプロセス610で、式4に従って、対応するブレンド画像をレンダリングする。
【0090】
例示的な実施形態では、しわのエイジングモデル曲線710及び720を、例えばルックアップテーブル内にインプリメントすることができる。
【0091】
本発明の上述の画像レンダリング及びしわ年齢の推定の態様は、しわの経時変化に限定されておらず、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0092】
上記の実施形態では、WSS{ID}の値は、しわのディエイジド画像を生成するのに用いられるしわのディエイジングシミュレーションプロセスに左右されることになる点に留意されたい。上述のとおり、例示的な実施形態では、被験者の現行画像601とブレンドされるしわのディエイジド画像602は、画像601で検出された全てのしわを除去するプロセスによって生成する。実質的には、モデル曲線710の点711によって表されているように、15歳前後に対応するWSS{ID}は概ね0である。これは、しわが15歳前後に現れ始めることを一般に示している統計的データと一致している。
【0093】
しかし、かなりしわのある現行画像を有する被験者、すなわち、調節済みのしわのエイジングモデル曲線720がピアグループ曲線701から大きくずれている被験者においては、しわのない(すなわちWSS≒0)画像602は、レンダリング画像620を保証することのできる外観よりもしわの少ない外観に非現実的にゆがめる傾向がある。このため、ディエイジングをシミュレートする期間を制限するのが望ましい場合がある。更には、このようなディエイジング期間の規模は好ましくは、被験者の現行年齢に基づいて、より具体的には、開始年齢が若いほど、その期間は短縮される。したがって、例えば、例示的な実施形態では、ディエイジング期間は、20歳の場合には2年、30歳の場合には5年、40歳の場合には8年のように制限してよい。適切な制限値は、経験的観測に基づいて割り出すことができる。好ましくは、ユーザーが、シミュレートするしわ年齢を指定する前に、年齢の許容可能範囲をユーザーに表示する。
【0094】
代替的な実施形態では、図7Bに示されているように、調節済みのエイジングモデル曲線を修正することによって、上述のずれに対応することができる。図7Bでは、年齢が若いほどエイジングモデル曲線710からのずれが減少して、顔のしわが概ね現れ始める年齢である15歳前後で2つの曲線が実質的に一点に集まるようになっている、修正・調節済みのエイジングモデルの修正曲線720’を用いる。
【0095】
処置ベースの可変なディエイジングシミュレーション
本発明の別の態様では、可変なディエイジングシミュレーションに、処置に基づいた知識ベースのディエイジングモデルを組み込むことができる。しわの処置としては様々な選択肢(例えば、局所製剤、注射可能な充填剤、注射可能なボツリヌス毒素、フラクショナルリサーフェイシング、光/レーザー治療、形成外科/美容外科処置など)があり、これらの処置の効果は、経験によって知られている。この知識ベースのディエイジングを上記の可変なディエイジング実施形態のブレンド制御にリンクさせて、適用される処置に合った様々なしわディエイジングの度合いの画像をもたらすことができる。したがって、例えば、所定の処置が、しわの重症度スコアの比例的な上昇(すなわち、ΔWSS/WSS0、式中、WSS0は処置前のWSS)をもたらすことが示されている実験データがある場合、この情報を用いて、前記処置の成果をシミュレートする、しわのディエイジド画像をもたらすことができる。
【0096】
図8は、処置ベースのディエイジングを組み込んだ可変なディエイジングシミュレーションプロセスの例示的な実施形態を示している。図8のプロセスは、所定のニュートラル画像801、ディエイジド画像802(例えば、ニュートラル画像に上記のディエイジングプロセスを適用することによって生成する)、及び指定の処置803(ユーザーインプットを介して提供することができる)において、対応するしわ年齢830と共に、しわのディエイジド画像820を生成する。図8のプロセスでは、処置の有効性モデル805を用いて、指定の処置803における比例的なWSSの上昇(ΔWSS/WSS0)を提供する。処置の有効性モデル805は、例えば、代替処置、及びそれに伴う成果予測のデータベースを含んでよい。比例的なWSS上昇を、上記のブレンド制御パラメーターαとして用いる。画像レンダリング810、しわスコアリング815、及びしわ年齢の推定の手順は、上記のとおり実施する。
【0097】
本発明の上記の可変シミュレーションの態様は、しわのディエイジングに限定されておらず、その他の皮膚の状態又は異常、例えば斑点及び質感を含むその他の皮膚の状態又は異常と共に用いることもできる。
【0098】
ライフスタイルベースの可変なエイジング/ディエイジングシミュレーション
本発明の別の態様では、可変なディエイジングシミュレーションに、ライフスタイルに基づく、知識ベースのしわのエイジング/ディエイジングモデルを組み込むことができる。しわの経時変化は、ライフスタイルによって、プラス方向、マイナス方向の双方で、大きな影響を受ける場合がある。しわの経時変化に悪影響を与えるか、又はしわの経時変化を加速させることが示されているライフスタイルの選択肢又は因子としては、例えば、喫煙、日光曝露、肥満、糖尿病、及びその他の様々な状態又は疾病が挙げられ、これらの各々は、経時変化の加速又は早期化をもたらす場合がある。例えば、食生活及び身体的活動のようなその他のライフスタイル因子、又は、ライフスタイル因子を損なう悪影響を覆すために取られる対策は、しわの経時変化に好影響を及ぼすか、又は、しわの経時変化を遅らせる。本発明の例示的な実施形態に従って、このような因子の影響を組み込んだ知識ベースのモデルを、上記の可変なエイジング又はディエイジング実施形態のブレンド制御にリンクさせて、ユーザーの指定したライフスタイル因子に合った様々な度合いのしわのエイジング/ディエイジングの画像をもたらすことができる。したがって、例えば、所定のライフスタイル因子が、しわの重症度スコアの比例的な低下(すなわち、ΔWSS/WSS0、式中、WSS0は処置前のWSS)をもたらすことが示されている実験データがある場合、この情報を用いて、このようなライフスタイル因子の影響をシミュレートするしわのエイジング画像をもたらすことができる。
【0099】
図9は、ライフスタイル因子の影響を組み込んだ可変なエイジング/ディエイジングシミュレーションプロセスの例示的な実施形態を示している。図9のプロセスは、所定のニュートラル画像901、しわのエイジング又はディエイジングシミュレート画像902、及び指定のライフスタイル因子903(ユーザーインプットを介して提供することができる)において、対応するしわ年齢930と共に、しわのシミュレート画像920を生成する。図9のプロセスでは、ライフスタイルの影響モデル905を用いて、指定のライフスタイル因子903における比例的なWSSの変化(ΔWSS/WSS0)を提供する。ライフスタイルの影響モデル905は、ライフスタイル因子、及びライフスタイル因子が顔のしわに及ぼす影響予測のデータベースを含んでよい。比例的なWSS変化は、上記のブレンド制御パラメーターαとして用いる。画像レンダリング910、しわスコアリング915、及びしわ年齢の推定925の手順は、上記のとおり実施する。
【0100】
しわのエイジングシミュレーションの実施例
図11A〜11Dは、将来における顔のしわの出現を予測するのに表情しわを用いる際の基本原理を示す顔画像である。ニュートラル状態の28歳の白人女性の被験者の顔画像を図11Aに、笑った表情の状態のものを図11Bに示した。これらの画像は、K.ミヤモト(Miyamoto)らの「美容画像化システム:皮膚状態の客観的評価のために(The Beauty Imaging System: For the Objective Evaluation of Skin Condition)」(化粧品サイエンス会誌(Journal of Cosmetic Science)、53(1)、2002年、62〜65ページ)に記載されているように、ヘッド位置決め補助手段が取り付けられた標準的な照明装置の中に搭載されたクローズアップレンズを備えるフジ(Fuji)DS330というデジタルカメラを採用している制御画像化システムを用いて撮影した。比較用に、図11Cは、同じ画像化システムによって撮影した、同じ被験者の37歳時のニュートラル画像を示している。28歳時に見ることのできる笑いじわ(図11B)の進行を、37歳時に撮影したニュートラル画像(図11C)内で視覚的に理解することができる。
【0101】
28歳時のニュートラル画像と笑顔画像に基づき、本発明のしわのエイジングシミュレーション法の例示的な実施形態によって、しわのエイジングシミュレート画像を生成した。このしわのエイジングシミュレート画像は図11Dに示されている。28歳時の画像に基づくしわのエイジングシミュレート画像(図11D)は、しわの出現という点で、37歳時の画像(図11C)とよく一致していることが観察できる。これは、顔のしわ(すなわち老化)の出現を予測する際の、本発明のエイジングシミュレーション法の有効性を示している。
【0102】
図12A〜12Hは、図11A〜Dの被験者の28歳〜37歳の顔の眼窩周囲領域内の表情じわの進行を示している。図12Aは、28歳時のニュートラル状態の顔の眼窩周囲領域の画像、図12Cは、28歳時の笑った表情の状態における眼窩周囲領域の画像、図12Eは、前記画像に基づくしわのシミュレート画像、12Gは、37歳時のニュートラル状態の眼窩周囲領域の画像である。図12B、12D、12F、及び12Hはそれぞれ、米国特許出願公開第11/681,509号に記載されているようなしわ検出法によって生成した、対応するしわ検出済み画像である。しわ検出法の設定は、全ての画像において同じである。図12B、12D、12F、及び12Hでは、多角形1200によって画定される領域内で検出されるしわが強調された状態で示されている。
【0103】
図12Bから見て取れるように、図12Aのニュートラル画像においては、しわがほんのわずかしか検出されていない。しかし、図12Dに示されているように、図12Cの笑った表情の画像においては、もっと多くのしわが検出されている。笑った画像に出現している新たなしわの量は、視覚的に明白である。本発明による代表的な方法を用いて、笑顔によって誘発されるしわを図12Aのニュートラル画像の上に位置合わせして、ニュートラル時のように見えるしわを有する、図12Eのしわのエイジングシミュレート画像を得る。図12Fは、図12Eに対応する、しわ検出済み画像を示している。
【0104】
本発明のエイジングシミュレーション法の正確性を示すために、被験者の同じ関心領域の実際の37歳の画像が図12Gに、図12Hの対応するしわ検出済み画像と共に示されている。表情によって誘発されるしわの大半は、37歳の画像内で見ることができる。換言すれば、37歳の画像において検出されるしわの大半は、本発明のエイジングシミュレーション法によって予測されている。
【0105】
本発明は、例えば、本明細書に記載されている方法に従ってプログラムされたコンピュータを用いて、実施することができる。本発明用に用いることができる代表的なハードウェア構成は、米国特許出願公開第11/681,509号に記載されている。上記の実施形態は、本発明の用途を代表することのできる考え得る具体的な実施形態のほんのいくつかを例証しているに過ぎないと理解される。当業者であれば、本発明の趣旨及び範囲から逸脱せずに、数多くの様々なその他の方策を立てることができる。
【特許請求の範囲】
【請求項1】
顔画像を操作して、可変なしわのエイジングをシミュレートする方法であって、該方法は、
顔の第1の画像を取り込む工程と、
前記第1の画像に基づいて、しわの変化した画像である第2の画像を生成する工程と、 ユーザーインプットに基づいているブレンドパラメーターに従って、前記第1の画像と前記第2の画像とをブレンドすることによって、第3の画像を生成する工程と、を含む方法。
【請求項2】
前記第2の画像が、しわの経時変化をシミュレートした画像である、請求項1に記載の方法。
【請求項3】
前記第1の画像が、ニュートラル状態の前記顔の画像であり、前記第2の画像が、前記第1の画像と、表情のある状態の前記顔の更なる画像とに基づいている、請求項2に記載の方法。
【請求項4】
前記第2の画像が、しわのディエイジングをシミュレートした画像である、請求項1に記載の方法。
【請求項5】
前記の第2の画像を生成する工程が、
前記第1の画像内のしわを検出する工程と、
前記検出したしわを除去する工程と、を含む、請求項4に記載の方法。
【請求項6】
前記第3の画像に対応し、しわのエイジングモデルに基づいているしわ年齢を割り出す工程、を含む、請求項1に記載の方法。
【請求項7】
前記しわのエイジングモデルが、ピアグループに基づいたしわのエイジングモデルを含む、請求項6に記載の方法。
【請求項8】
前記第1の画像のしわの重症度スコアを割り出す工程と、
前記第2の画像のしわの重症度スコアを割り出す工程と、
前記第1及び第2の画像のしわの重症度スコアと前記ブレンドパラメーターとに基づき、前記第3の画像のしわの重症度スコアを割り出す工程と、
しわ年齢としわの重症度スコアとの間の関係を提供する前記しわのエイジングモデルに従って、前記第3の画像の前記しわの重症度スコアから前記しわ年齢を割り出す工程と、を含む、請求項6に記載の方法。
【請求項9】
前記ユーザーインプットが、指定の処置を含み、かつ
前記ブレンドパラメーターが、前記指定の処置に従って割り出される、請求項1に記載の方法。
【請求項10】
1つ以上の処置の成果予想のデータベースを用いて、前記ブレンドパラメーターを割り出す、請求項9に記載の方法。
【請求項11】
前記第1の画像の前記しわの重症度スコアに従って、前記のしわのエイジングモデルを調節する、請求項6に記載の方法。
【請求項12】
前記ブレンドパラメーターに従って、前記第1の画像と前記第2の画像の前記しわの重症度スコアの一次関数として、前記第3の画像の前記しわの重症度スコアを割り出す、請求項6に記載の方法。
【請求項13】
前記ユーザーインプットが、指定のしわ年齢を含む、請求項1に記載の方法。
【請求項14】
前記第1の画像のしわの重症度スコアを割り出す工程と、
前記第2の画像のしわの重症度スコアを割り出す工程と、
しわ年齢としわの重症度スコアとの間の関係を提供する前記しわのエイジングモデルに従って、前記指定のしわ年齢に基づき、前記第3の画像のしわの重症度スコアを割り出す工程と、
前記の第1、第2、及び第3の画像の前記しわの重症度スコアに従って、前記ブレンドパラメーターを割り出す工程と、を含む、請求項13に記載の方法。
【請求項15】
前記の第1、第2、及び第3の画像の前記しわの重症度スコアの一次関数として、前記ブレンドパラメーターを割り出す、請求項14に記載の方法。
【請求項16】
前記第1の画像と前記第2の画像とをアルファブレンディング(α合成)することによって、前記第3の画像を生成する、請求項1に記載の方法。
【請求項17】
前記ユーザーインプットが、指定のライフスタイル選択肢を含み、かつ
前記指定のライフスタイル選択肢に従って、前記ブレンドパラメーターを割り出す、請求項1に記載の方法。
【請求項18】
1つ以上のライフスタイル選択肢の影響予想のデータベースを用いて、前記ブレンドパラメーターを割り出す、請求項17に記載の方法。
【請求項1】
顔画像を操作して、可変なしわのエイジングをシミュレートする方法であって、該方法は、
顔の第1の画像を取り込む工程と、
前記第1の画像に基づいて、しわの変化した画像である第2の画像を生成する工程と、 ユーザーインプットに基づいているブレンドパラメーターに従って、前記第1の画像と前記第2の画像とをブレンドすることによって、第3の画像を生成する工程と、を含む方法。
【請求項2】
前記第2の画像が、しわの経時変化をシミュレートした画像である、請求項1に記載の方法。
【請求項3】
前記第1の画像が、ニュートラル状態の前記顔の画像であり、前記第2の画像が、前記第1の画像と、表情のある状態の前記顔の更なる画像とに基づいている、請求項2に記載の方法。
【請求項4】
前記第2の画像が、しわのディエイジングをシミュレートした画像である、請求項1に記載の方法。
【請求項5】
前記の第2の画像を生成する工程が、
前記第1の画像内のしわを検出する工程と、
前記検出したしわを除去する工程と、を含む、請求項4に記載の方法。
【請求項6】
前記第3の画像に対応し、しわのエイジングモデルに基づいているしわ年齢を割り出す工程、を含む、請求項1に記載の方法。
【請求項7】
前記しわのエイジングモデルが、ピアグループに基づいたしわのエイジングモデルを含む、請求項6に記載の方法。
【請求項8】
前記第1の画像のしわの重症度スコアを割り出す工程と、
前記第2の画像のしわの重症度スコアを割り出す工程と、
前記第1及び第2の画像のしわの重症度スコアと前記ブレンドパラメーターとに基づき、前記第3の画像のしわの重症度スコアを割り出す工程と、
しわ年齢としわの重症度スコアとの間の関係を提供する前記しわのエイジングモデルに従って、前記第3の画像の前記しわの重症度スコアから前記しわ年齢を割り出す工程と、を含む、請求項6に記載の方法。
【請求項9】
前記ユーザーインプットが、指定の処置を含み、かつ
前記ブレンドパラメーターが、前記指定の処置に従って割り出される、請求項1に記載の方法。
【請求項10】
1つ以上の処置の成果予想のデータベースを用いて、前記ブレンドパラメーターを割り出す、請求項9に記載の方法。
【請求項11】
前記第1の画像の前記しわの重症度スコアに従って、前記のしわのエイジングモデルを調節する、請求項6に記載の方法。
【請求項12】
前記ブレンドパラメーターに従って、前記第1の画像と前記第2の画像の前記しわの重症度スコアの一次関数として、前記第3の画像の前記しわの重症度スコアを割り出す、請求項6に記載の方法。
【請求項13】
前記ユーザーインプットが、指定のしわ年齢を含む、請求項1に記載の方法。
【請求項14】
前記第1の画像のしわの重症度スコアを割り出す工程と、
前記第2の画像のしわの重症度スコアを割り出す工程と、
しわ年齢としわの重症度スコアとの間の関係を提供する前記しわのエイジングモデルに従って、前記指定のしわ年齢に基づき、前記第3の画像のしわの重症度スコアを割り出す工程と、
前記の第1、第2、及び第3の画像の前記しわの重症度スコアに従って、前記ブレンドパラメーターを割り出す工程と、を含む、請求項13に記載の方法。
【請求項15】
前記の第1、第2、及び第3の画像の前記しわの重症度スコアの一次関数として、前記ブレンドパラメーターを割り出す、請求項14に記載の方法。
【請求項16】
前記第1の画像と前記第2の画像とをアルファブレンディング(α合成)することによって、前記第3の画像を生成する、請求項1に記載の方法。
【請求項17】
前記ユーザーインプットが、指定のライフスタイル選択肢を含み、かつ
前記指定のライフスタイル選択肢に従って、前記ブレンドパラメーターを割り出す、請求項1に記載の方法。
【請求項18】
1つ以上のライフスタイル選択肢の影響予想のデータベースを用いて、前記ブレンドパラメーターを割り出す、請求項17に記載の方法。
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図5】
【図6A】
【図6B】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11A】
【図11B】
【図11C】
【図11D】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図12G】
【図12H】
【図2】
【図3】
【図4A】
【図4B】
【図5】
【図6A】
【図6B】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11A】
【図11B】
【図11C】
【図11D】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図12G】
【図12H】
【公開番号】特開2012−181843(P2012−181843A)
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願番号】特願2012−60523(P2012−60523)
【出願日】平成24年3月16日(2012.3.16)
【分割の表示】特願2010−518253(P2010−518253)の分割
【原出願日】平成20年6月19日(2008.6.19)
【出願人】(590005058)ザ プロクター アンド ギャンブル カンパニー (2,280)
【Fターム(参考)】
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願日】平成24年3月16日(2012.3.16)
【分割の表示】特願2010−518253(P2010−518253)の分割
【原出願日】平成20年6月19日(2008.6.19)
【出願人】(590005058)ザ プロクター アンド ギャンブル カンパニー (2,280)
【Fターム(参考)】
[ Back to top ]