画像補正方法と画像補正装置
【課題】補正すべき入力画像に対して、その空間周波数が高い領域の画像特徴とその空間周波数が低い領域の画像特徴の両方を考慮した画像補正曲線を生成して、適正な画像補正を実現する画像補正技術を提供する。
【解決手段】入力画像に対応する補正演算用画像に対して第1サイズとこれより小さい第2サイズのサブマトリックスを用いて第1・第2モザイク処理画像を生成し、それぞれから第1画像特徴量群と第2画像特徴量群を求め、第1画像特徴量群に基づいて生成された粗画像補正曲線と第2画像特徴量群に基づいて生成された密画像補正曲線とを融合させて融合補正曲線を生成し、この融合補正曲線で前記入力画像を画像補正する。
【解決手段】入力画像に対応する補正演算用画像に対して第1サイズとこれより小さい第2サイズのサブマトリックスを用いて第1・第2モザイク処理画像を生成し、それぞれから第1画像特徴量群と第2画像特徴量群を求め、第1画像特徴量群に基づいて生成された粗画像補正曲線と第2画像特徴量群に基づいて生成された密画像補正曲線とを融合させて融合補正曲線を生成し、この融合補正曲線で前記入力画像を画像補正する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力画像を適正画像に補正曲線を用いて補正する画像補正技術に関する。
【背景技術】
【0002】
入力画像を適正画像に補正する代表的な分野である写真プリント出力の分野では、写真フィルムに形成された撮影画像をフィルムスキャナを用いてデジタル化して得られた撮影画像(データ)や、デジタルカメラなどのデジタル撮影機器によって直接撮影画像をデジタル化して得られた撮影画像(データ)に濃度補正や色補正などの画像補正を施した後これをプリントデータに変換し、このプリントデータに基づいて写真プリントユニットを駆動して、撮影画像を感光材料(印画紙)に光ビームで焼き付けたり、プリント用紙にカラーインクで形成したりするデジタル写真処理技術が主流である。種々の写真撮影状況下において適正な撮影画像を得るためには、シャッタースピードや絞りの設定、天候、光源の種類などの撮影条件を適切に設定する必要があるが、撮影者はこれらの撮影条件をあまり意識せずに撮影しているのが実情であり、このため、被写体の色調や明暗(コントラスト)の再現性が適正に得られていない不適正な撮影画像が写真プリント装置に入力されることが少なくない。取得した入力撮影画像を適正な出力撮影画像、例えば写真プリントとして再現するために用いられる画像補正の主なものは、色補正、濃度補正、コントラスト補正であり、これらの補正を正しく調整して組み合わせた画像補正が必要となる。
【0003】
写真撮影によって取得された撮影画像から、色調およびコントラストの補正を必要とする画像部分を選別し、その選別された画像部分に対し、色調およびコントラストの再現性の精度をできるだけ高めることのできる画像補正の1つとして、各色毎の階調ヒストグラムの最高度数に対して、所定割合を下回る度数の画像データを各色毎に除外して残った画像データの階調幅を基準階調幅に引き延ばし又は圧縮し、階調幅の引き延ばし又は圧縮に合わせて画像データの画素値を補正変換することで、カラーバランスおよびコントラストのいずれかまたは両方をある程度補正するものがある(例えば、特許文献1参照)。
【0004】
また、色補正、濃度補正、コントラスト補正を効率よく実施する画像補正として、撮影画像の低解像度データと所定の濃度・コントラスト補正アルゴリズムに基づいて、まず濃度・コントラスト変換曲線(変換テーブル)が作成され、次いでこの濃度・コントラスト変換曲線を用いて補正された撮影画像の低解像度データと所定のカラー補正アルゴリズムに基づいてカラー補正変換曲線(変換テーブル)が作成され、これらの濃度・コントラスト変換曲線とカラー補正変換曲線を融合させて作成された統合補正変換曲線を用いて写真プリント出力の目的ために撮影画像の高解像度画像データを補正するものも知られている(例えば、特許文献2参照)。
【0005】
また、選択された代表色のRGB信号を入力データとして使用するととともに、出力装置(プリンタ)にて出力された上記の代表色の複製画像を再び入力装置(スキャナ)にて読み取ったRGB信号を教師データとして使用することによってニューラルネットワークを構築し、入力画像の各画素値を入力層に入力することにより、中間層を介して、出力層からプリンタのインク量を出力させ、これにより良好な複製画像を得ようとする画像処理装置も知られている(例えば、特許文献3参照)。
【0006】
画像補正にニューラルネットワークを用いた技術としては、さらに画像信号を入力データとし画像補正量を教師値として予め学習させたニューラルネットワークを備え、このニューラルネットワークに画像信号を入力することで得られる画像補正量を用いて画像信号を補正して安定した出力画像を得る画像形成装置も知られている(例えば、特許文献4参照)。
【0007】
【特許文献1】特開2004−145399号公報(段落番号0023−0029)
【特許文献2】特開2006−157562号公報(段落番号0026−0029、図6)
【特許文献3】特開平09−168095号公報(段落番号0050−0057、0066、図4)
【特許文献4】特開平09−018716号公報(段落番号0039−0040、図1)
【発明の開示】
【発明が解決しようとする課題】
【0008】
入力画像に応じて適切な画像補正曲線を生成するアルゴリズムを構築する場合、まず多数のサンプル画像を用意しておく。そして、各サンプル画像をサンプル適正画像とする画像補正を熟練者によってマニュアルで行い、この各サンプル画像から算出された画像特徴量群と、このマニュアル画像補正を通じて作り出される元画像の画素値と適正画像の画素値との対応関係(画像補正曲線)を統計的にあるいは演繹的に評価していくことで、画像補正曲線を生成するアルゴリズムを構築する。このようなアルゴリズムの構築方法は、上記特許文献だけでなく、数多くの文献によって知られている。また、ニューラルネットワークの技術を画像補正に適用する場合、各サンプル画像から算出された画像特徴量群を入力データとするとともに、このマニュアル画像補正を通じて作り出される元画像の画素値と適正画像の画素値との対応関係を教師データとしてニューラルネットワークを学習させる。このような学習を通じて構築されたニューラルネットワークの入力層に補正対象となる入力画像から算出された画像特徴量を与えることで、この入力画像に適合した画像補正曲線が出力、より正確にはこの画像補正曲線を規定する出力値が出力される。いずれにしても、生成された画像補正曲線(画像補正量マトリックスや変換テーブルや変換式とも呼び代えることができる)を用いて元画像としての入力画像を画像補正することにより、適正な写真プリントを出力するために適した補正画像が得られる。様々な画像特性を有する入力画像を適切に補正することができるように、ニューラルネットワークの学習時に用いられるサンプル画像も様々な画像特性を有するものが選択されるが、撮影画像などでは低周波領域と高周波数領域の両方の空間周波数成分を有するものが多く、従来の画像補正曲線の生成に利用している画像特徴量群を入力値としているニューラルネットワークではそのような入力画像に対して十分に満足できる画像補正曲線を生成することができないという問題点が明らかになってきた。
【0009】
上記実状に鑑み、本発明の課題は、補正すべき入力画像に対して、その空間周波数が高い領域の画像特徴とその空間周波数が低い領域の画像特徴の両方を考慮した画像補正曲線を生成して、適正な画像補正を実現する画像補正技術を提供することである。
【課題を解決するための手段】
【0010】
入力画像を適正画像に補正曲線を用いて補正する画像補正方法において、上記課題を解決するため、本発明による方法は、前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するステップと、前記第1モザイク処理画像から第1画像特徴量群を求めるステップと、前記第1画像特徴量群に基づいて粗画像補正曲線を生成するステップと、前記入力画像に対応する補正演算用画像に対して前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するステップと、前記第2モザイク処理画像から第2画像特徴量群を求めるステップと、前記第2画像特徴量群に基づいて密画像補正曲線を生成するステップと、前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成するステップと、前記融合補正曲線で前記入力画像を画像補正するステップとからなる。
【0011】
上記方法では、まず補正すべき入力画像からサイズの異なる2つのサブマトリックスを用いて2つの空間周波数成分が異なるモザイク処理画像を生成する。つまり、より大きな第1サイズのサブマトリックスを用いた第1モザイク処理画像は、より小さな第2サイズのサブマトリックスを用いた第2モザイク処理画像に較べて、その空間周波数成分は低くなるので、相対的に第1モザイク処理画像は粗画像となり、第2モザイク処理画像は密画像となる。その後、第1モザイク処理画像から前もって規定した演算を用いて画像特徴量群を求め、この画像特徴量群に基づいて粗画像補正曲線を生成すると、この粗画像補正曲線は入力画像の大局的な傾向に基づく補正曲線となる。さらに、第2モザイク処理画像からも同様に画像特徴量群を求め、この画像特徴量群に基づいて密画像補正曲線を生成すると、この密画像補正曲線は入力画像の詳細な傾向に基づく補正曲線となる。従って、この粗画像補正曲線と密画像補正曲線とを融合させて生成された融合補正曲線は、入力画像の大局的な傾向と詳細な傾向との両者にほどよく適合した補正曲線となり、この融合補正曲線を用いて画像補正を行うことで、全体的な観点からみた補正評価と詳細な観点からみた補正評価の両者を満足させる補正画像が得られる。
【0012】
なお、ここでは、2つの異なるサイズのサブマトリックスを用いて生成される2つのモザイク処理画像に基づいて補正曲線を生成していたが、さらに異なるサイズのサブマトリックスを用いて生成されるモザイク処理画像を追加してもよい。つまり本発明では、2つ以上の異なるサブマトリックスを用いて生成される2つ以上のモザイク処理画像に基づいて生成された2つ以上の補正曲線を融合して最終的に用いられる補正曲線を生成することを主題としている。
【0013】
さらに、この明細書で用いられている補正曲線なる用語は、画像処理の分野でよく用いられる補正式、補正マトリックスといった、元画像の画素値を適正画像の画素値に変換する機能を総称するものであり、さらにそのような変換機能を作り出すためのデータ群もその用語の範囲に属している。つまり、ここでの補正曲線は元画像の画素値と適正画像の画素値との対応関係を規定するものであり、この補正曲線の具体的な実施形態としてはLUT(ルックアップテーブル)と呼ばれるハードウエア又はソフトウエアあるいはその両方で構築されるモジュールが一般的である。また、明細書では、特別に区別する必要がある場合を除いて、デジタルデータとしての画像データやこの画像データに基づくプリント画像やモニタ表示画像も単に画像という語句で総称している。
【0014】
画像特徴量群から画像補正曲線を生成するための好適な方法として、処理の高速性と高精度性の観点から、ニューラルネットワークが推薦される。このため、本発明による好適な実施形態の1つでは、前記粗画像補正曲線を生成するステップにおいて、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワークが用いられ、かつ前記密画像補正曲線を生成するステップにおいて、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワークが用いられる。
【0015】
前記粗画像補正曲線と前記密画像補正曲線の融合に関して、最終的な画像プリント出力に要求される品質仕様によって、粗画像補正曲線寄りが好まれる場合や密画像補正曲線寄りが好まれる場合に分かれる。従って、本発明の好適な実施形態の1つでは、前記融合補正曲線を作成するための前記粗画像補正曲線と前記密画像補正曲線との融合率は調整可能に構成されている。その際、空間周波数分析を通じて入力画像の空間周波数成分を演算しておき、この空間周波数成分と平均的な画像の空間周波数成分との比較から、例えば、高周波寄りの画像では密画像補正曲線寄りの融合となるように、また、低周波寄りの画像では粗画像補正曲線寄りの融合となるようにその融合率を調整すると好都合である。
【0016】
入力画像が写真プリント出力のための撮影画像のような場合、全体的なバランス、及び中央に位置する被写体とその周辺の背景とのバランスが重要となる。このことを考慮すると、画像特徴量群に、それぞれ、入力画像の分割領域に依存する領域依存画像特徴量と分割領域に依存しない領域非依存画像特徴量の両方を含むようにすると好都合である。
【0017】
入力画像を適正画像に補正曲線を用いて補正する画像補正装置において、上記課題を解決するため、本発明による装置は、前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するとともに、前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部と、前記第1モザイク処理画像から第1画像特徴量群を求めるとともに、前記第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部と、前記第1画像特徴量群に基づいて粗画像補正曲線を生成する粗画像補正曲線生成部と、前記第2画像特徴量群に基づいて密画像補正曲線を生成する密画像補正曲線生成部と、前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成する融合部と、前記融合補正曲線で前記入力画像を画像補正する画像補正部とからなる。当然ながら、この画像補正装置も上記画像補正方法で述べたすべての作用効果を得ることができ、さらに上述した付加的技術を組み込むことも可能である。また、ここでも、2つ以上の異なるサブマトリックスを用いて生成される2つ以上のモザイク処理画像に基づいて生成された2つ以上の補正曲線を融合して最終的に用いられる補正曲線を生成することが含まれていることは当然である。
【0018】
特に、画像特徴量群から画像補正曲線を生成するためにニューラルネットワーク技術が採用される場合には、前記粗画像補正曲線生成部は、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部となり、かつ前記密画像補正曲線生成部は、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部となる。
【発明を実施するための最良の形態】
【0019】
以下、本発明の実施形態を図面に基づいて説明するが、まず、本発明による補正技術の重要な構成要素となる画像特徴量群に基づいて画像補正曲線を生成する画像補正曲線生成アルゴリズムの構築原理を述べる。なお、画像補正曲線生成アルゴリズムのなかで特に好ましいものとして本発明では、ニューラルネットワークが提案されているが、本発明はニューラルネットワークに限定しているわけではない。その他の統計的な処理に基づくアルゴリズムの適用も可能である。
【0020】
いずれにせよ、まずは、図1に模式的に示されているように、種々の撮影条件で取得された画像をサンプル画像として多数用意し、これらのサンプル撮影画像を元画像とし、この元画像に対して異なるサイズのサブマトリックスを用いて複数のモザイク処理画像を生成する(#01)。図1では、第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成し、第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成しているが、さらに第3・第4のサイズのサブマトリックスを用いて更なるモザイク処理画像を生成してもよい。生成された2つのモザイク処理画像に対して、以下に述べるような処理が同様に行われる。
【0021】
第1モザイク処理画像を元画像として、モニタでの表示やテストプリントを通じて適正画像となるようにマニュアルで画像補正を行う(#02)。次に、元画像とマニュアル画像補正によって得られた適正画像との画素値を比較評価して、元画像の画素値と適正画像の画素値との対応関係を規定する画像補正量、結果的にはこの画像補正量によって規定される粗画像補正曲線を生成する(#03)。その際、8ビットカラー画像の場合、元画像の各画素の画素値から適正画像の画素値を導く画像補正量は各色毎に256個の画素値変換係数:β(0)・・・β(255)で表すことができるが、256の全ての画素値に対して画像補正量(画素値変換係数)を求めるのではなく、とびとびの画像補正量を求め、残りは補間で算出してもよい。元画像の画素値と適正画像の画素値との対応関係は画像補正曲線:f(x)として考えると最も理解しやすいので、以下画像補正曲線という語句を用いる。なお、一般的に、そのような補正曲線は、例えば4次式で良好に近似することができるので、その場合は、
f(x)=ax^4+bx^3+cx^2+dx+e(xは入力階調(0〜255)、^は累乗を表す)
となり、元画像の画素値と適正画像の画素値との対応関係(補正曲線)はたかだか5つの係数:a、b、c、d、eで表すことができる。
【0022】
次に、元画像となっている第1モザイク処理画像から第1画像特徴量群:α0・・・αnが算出される(#04)。画像特徴量群としては、画像の全域又は部分域における平均濃度値、最大濃度値、最小濃度値といった画像領域に依存する特徴量、及び各色のヒストグラムから得られる階調値部分領域の積算頻度値などの画像領域に依存しない特徴量が採用される。ステップ#03で得られた粗画像補正曲線を規定する係数と、ステップ#04で得られた第1画像特徴量群は、第1画像特徴量群を入力データとするとともに粗画像補正曲線を出力データとする粗画像補正曲線生成アルゴリズム(好ましくはニューラルネットワーク)を構築するための学習データとして利用されるため、ステップ#02からステップ#04の作業は準備された全てのサンプル画像から生成された第1モザイク処理画像に対して実施される。そして、第1モザイク処理画像の画像特徴量群を入力データとするとともに画像補正曲線を規定する係数が出力データとなるように内部変数を調整する反復シミュレーションを数千回以上を行い、粗画像補正曲線生成アルゴリズムを構築する(#05)。なお、画像補正曲線生成アルゴリズムがニューラルネットワークの場合、その学習過程において、画像補正曲線を規定する係数は教師値と呼ばれ、第1モザイク処理画像の画像特徴量群を入力データとするとともに粗画像補正曲線を規定する係数を教師値として数千回以上の反復学習を行い、粗画像ニューラルネットワークの入出力関係を構築する。
【0023】
さらに、ステップ#01aで生成された第2モザイク処理画像を元画像として、上述したステップ#02からステップ#04の処理と同じ処理を行う(#02a〜#04a)。そして、ステップ#04aで得られた第2画像特徴量群(γ0・・・γn)を入力データとするとともにステップ#03aで得られた密画像補正曲線(δ0・・・δn)を出力データとする学習データを用いて密画像補正曲線生成アルゴリズム、好ましくは密画像ニューラルネットワークが構築される(#05a)。もちろん、さらに異なるサイズのサブマトリックスを用いて生成される更なるモザイク処理画像を元画像として、更なる画像補正曲線生成アルゴリズム、好ましくは画像ニューラルネットワークを構築してもよい。
【0024】
このようにして入出力関係が決定された、粗画像補正曲線生成アルゴリズムと密画像補正曲線生成アルゴリズム、ここでの例では、大局的なバランスを重要視した粗画像ニューラルネットワークと詳細な領域でのバランスを重要視した密画像ニューラルネットワークが構築されたとすると、この2つのニューラルネットワークを用いて、補正すべき入力画像を適正画像に補正することができる。この画像補正の原理が図2に模式的に示されている。まず、補正目的で入力された画像から、必要に応じて、所定サイズまでの縮小処理を施して、補正演算用画像を生成する(#10)。そして、この入力画像又は補正演算用画像から第1サイズのサブマトリックスを用いてモザイク処理を行って第1モザイク処理画像を生成する(#11)。第1モザイク処理画像から第1画像特徴量群を算出する(#12)。この第1画像特徴量群を粗画像ニューラルネットワークに入力すること(#13)により、粗画像補正曲線を規定する係数、結果的には粗画像補正曲線が得られる(#14)。
【0025】
同様に、前記入力画像又は補正演算用画像から第2サイズのサブマトリックスを用いてモザイク処理を行って第2モザイク処理画像を生成し(#11a)、この第2モザイク処理画像から第2画像特徴量群を算出する(#12a)。この第2画像特徴量群を密画像ニューラルネットワークに入力すること(#13a)により、密画像補正曲線規定する係数、結果的には密画像補正曲線が得られる(#14a)。
【0026】
次に、生成された粗画像補正曲線(粗画像補正曲線規定する係数)と密画像補正曲線(密画像補正曲線規定する係数)とを所定の融合率でもって融合して、融合補正曲線を得る(#15)。この融合率は固定でもよいし、好みによって任意に調整可能であってもよいが、入力画像の空間周波数分析値に基づいて自動調整することも可能である。次いで、作成された融合補正曲線が使用補正曲線として設定されることで(#16)、この融合補正曲線を用いて入力画像が画像補正される(#17)。さらに、この補正画像からプリントデータを生成し、このプリントデータをプリント部に転送することにより、画像プリントが出力される(#18)。
【0027】
次に、上述したニューラルネットワークの具体的な構築手順の一例を図3から図6を用いて説明する。なお、粗画像ニューラルネットワークも密画像ニューラルネットワークもその構築手順は同じである。図3にニューラルネットワークの模式的な構造が示されている。このニューラルネットワークは89個の入力要素を有する入力層と45個の中間要素を有する中間層と60個の出力要素を有する出力層からなる。入力要素には入力画像の画像特徴量群:α0〜α88(第1画像特徴量群)、γ0〜γ88(第2画像特徴量群)が入力され、出力要素には、図4に示されるような、各色の補正曲線を規定するそれぞれ20個の代表点で示す画像補正曲線規定する係数としての出力値、つまりR成分用出力値β(1)〜β(20)(粗画像補正曲線)、δ(1)〜δ(20)(密画像補正曲線);G成分用出力値β(21)〜β(40)(粗画像補正曲線)、δ(21)〜δ(40)(密画像補正曲線);B成分用出力値β(41)〜β(60)、δ(41)〜δ(60)(密画像補正曲線)が出力される。この出力値を用いてスムーズな各色の補正曲線を作り出すアルゴリズムには公知の近似曲線作成アルゴリズムを用いることができる。
【0028】
このニューラルネットワークの学習時に採用されている第1画像特徴量群:α0〜α88と第2画像特徴量群:γ0〜γ88の定義内容は同じであり、対象となる画像が異なる(第1モザイク処理画像と第2モザイク処理画像との違い)だけなので、以下第1画像特徴量群についてのみ説明する。
α0:画像全体の平均濃度値
α1:画像中央部(図5の(a)参照)の平均濃度値
α2:画像周辺部(図5の(a)参照)の平均濃度値
α3:画像上側部(図5の(b)参照)の平均濃度値
α4:画像下側部(図5の(b)参照)の平均濃度値
α5:画像左側部(図5の(c)参照)の平均濃度値
α6:画像右側部(図5の(c)参照)の平均濃度値
α7:画像全体の最大濃度値
α8:画像中央部(図5の(a)参照)の最大濃度値
α9:画像周辺部(図5の(a)参照)の最大濃度値
α10:画像上側部(図5の(b)参照)の最大濃度値
α11:画像下側部(図5の(b)参照)の最大濃度値
α12:画像左側部(図5の(c)参照)の最大濃度値
α13:画像右側部(図5の(c)参照)の最大濃度値
α14:画像全体の最小濃度値
α15:画像中央部(図5の(a)参照)の最小濃度値
α16:画像周辺部(図5の(a)参照)の最小濃度値
α17:画像上側部(図5の(b)参照)の最小濃度値
α18:画像下側部(図5の(b)参照)の最小濃度値
α19:画像左側部(図5の(c)参照)の最小濃度値
α20:画像右側部(図5の(c)参照)の最小濃度値
α21:上下に隣接する画素の差分値(図5の(d)参照)の平均値
α22:画像全体の濃度標準偏差
α23:R色成分に関する画像全体の最大値
α24:G色成分に関する画像全体の最大値
α25:B色成分に関する画像全体の最大値
α26:R色成分に関する画像全体の最小値
α27:G色成分に関する画像全体の最小値
α28:B色成分に関する画像全体の最小値
α29〜α48:R色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるR積算頻度値
α49〜α68:G色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるG積算頻度値
α69〜α88:B色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるB積算頻度値
上記α0からα28までの画像特徴量は画像領域に依存する特徴量であり、上記α29からα88までの画像特徴量は画像領域に依存しない特徴量である。また、モザイク処理画像から第1画像特徴量群及び第2画像特徴量群の算出においては、モザイクブロック(サブマトリックスのサイズ)を1つの画素として演算される。なお、濃度値としては、R・G・B色成分の各画素の値を足して3で割った値を採用している。
【0029】
以上のような入出力形態をもつニューラルネットワークの構築ルーチンが図7に示されている。
まず、用意しておいたサンプル画像を読み込み(#20)、そのサンプル画像から作り出されたモザイク処理画像を用いて前述した各画像特徴量を算出し(#21)、それらを画像特徴量群としてメモリに格納する(#22)。読み込んだサンプル画像をモニタ表示しながら熟練者によるマニュアルの画像補正を行う(#23)。必要に応じて補正された画像のプリント出力を行い(#24)、補正された画像が適正であるかどうかをチェックする(#25)。補正された画像が適正と判定されるまで、マニュアル補正を繰り返し、適正な補正画像が得られると、その画像補正に基づいて元画像の画素値を適正補正画像の画素値に変換する画像補正曲線(画像補正曲線を規定する係数)を作成してメモリに格納する(#26)。ステップ#20〜ステップ#26までの処理が用意されている全てのサンプル画像のための実行される(#27Yes分岐)。全てのサンプル画像に対する処理が完了すると(#27No分岐)、これまでに得られたモザイク処理画像の画像特徴量群と画像補正曲線がニューラルネットワークに適用される(#28)。ニューラルネットワークは、画像特徴量群を入力データ、画像補正曲線を教師データとして学習し、その入出力関係(結合係数やしきい値)を確定させる(#29)。このようなニューラルネットワーク構築ルーチンを用いて、粗画像ニューラルネットワークと密画像ニューラルネットワーク、必要時応じて更なる超粗画像又は超密画像ニューラルネットワークを構築する。
【0030】
次に、図1と図2を用いて説明した画像補正技術を用いた画像補正装置を搭載し、画像として撮影画像を取り扱う写真プリント装置を説明する。図8はその写真プリント装置を示す外観図であり、この写真プリント装置は、印画紙Pに対して露光処理と現像処理とを行う写真プリント部としてのプリントステーション1Bと、現像済み写真フィルム2aやデジタルカメラ用メモリカード2bなどの画像入力メディアから取り込んだ撮影画像を処理してプリントステーション1Bで使用されるプリントデータの生成・転送などを行う操作ステーション1Aとから構成されている。
【0031】
この写真プリント装置はデジタルミニラボとも称せられるものであり、図9からよく理解できるように、プリントステーション1Bは2つの印画紙マガジン11に納めたロール状の印画紙Pを引き出してシートカッター12でプリントサイズに切断すると共に、このように切断された印画紙Pに対し、バックプリント部13で色補正情報やコマ番号などのプリント処理情報を印画紙Pの裏面に印字するとともに、プリント露光部14で印画紙Pの表面に撮影画像の露光を行い、この露光後の印画紙Pを複数の現像処理槽を有した処理槽ユニット15に送り込んで現像処理する。乾燥の後に装置上部の横送りコンベア16からソータ17に送られた印画紙P、つまり写真プリントPは、このソータ17の複数のトレイにオーダ単位で仕分けられた状態で集積される(図8参照)。
【0032】
上述した印画紙Pに対する各種処理に合わせた搬送速度で印画紙Pを搬送するために印画紙搬送機構18が敷設されている。印画紙搬送機構18は、印画紙搬送方向に関してプリント露光部14の前後に配置されたチャッカー式印画紙搬送ユニット18aを含む複数の挟持搬送ローラ対から構成されている。
【0033】
プリント露光部14には、副走査方向に搬送される印画紙Pに対して、主走査方向に沿って操作ステーション1Aからのプリントデータに基づいてR(赤)、G(緑)、B(青)の3原色のレーザ光線の照射を行うライン露光ヘッドが設けられている。処理槽ユニット15は、発色現像処理液を貯留する発色現像槽15aと、漂白定着処理液を貯留する漂白定着槽15bと、安定処理液を貯留する安定槽15cを備えている。
【0034】
前記操作ステーション1Aのデスク状コンソールの上部位置には、写真フィルム2aの撮影画像コマから撮影画像データ(以下単に撮影画像と略称する)を2000dpiを超える解像度でもって取得することができるフィルムスキャナ20が配置されており、デジタルカメラ等に装着される画像記録媒体2bとして用いられている各種半導体メモリやCD−Rなどから撮影画像を取得するメディアリーダ21は、この写真プリント装置のコントローラ3として機能する汎用パソコンに組み込まれている。この汎用パソコンには、さらに各種情報を表示するモニタ23、各種設定や調整を行う際に用いる操作入力部として利用される操作入力デバイスとしてのキーボード24やマウス25も接続されている。
【0035】
この写真プリント装置のコントローラ3は、CPUを中核部材として、写真プリント装置の種々の動作を行うための機能部をハードウエア又はソフトウエアあるいはその両方で構築しているが、図10に示されているように、本発明に特に関係する機能部としては、フィルムスキャナ20やメディアリーダ21によって読み取られた撮影画像を取り込んで次の処理のために必要な前処理を行う画像入力部31と、各種ウインドウや各種操作ボタンなどを含むグラフィック操作画面の作成やそのようなグラフィック操作画面を通じてのユーザ操作入力(キーボード24やマウス25などによる)から制御コマンドを生成するグラフィックユーザインターフェース(以下GUIと略称する)を構築するGUI部33と、GUI部33から送られてきた制御コマンドや直接キーボード24等から入力された操作命令に基づいて所望のプリントデータを生成するために画像入力部31からメモリ30に転送された撮影画像に対する画像処理等を行うプリント管理部32と、色補正等のプレジャッジプリント作業時にプリントソース画像や予想仕上がりプリント画像としてのシミュレート画像さらにはGUI部33から送られてきたグラフィックデータをモニタ23に表示させるためのビデオ信号を生成するビデオ制御部35と、画像処理が完了した処理済み撮影画像に基づいてプリントステーション1Bに装備されているプリント露光部14に適したプリントデータを生成するプリントデータ生成部36と、顧客の要望に応じて生の撮影画像や画像処理が完了した処理済み撮影画像などをCD−Rに書き込むための形式にフォーマットするフォーマッタ部37などが挙げられる。
【0036】
画像入力部31は、撮影画像記録媒体がフィルム2aの場合プレスキャンモードと本スキャンモードとのスキャンデータを別々にメモリ30に送り込み、それぞれの目的に合わせた前処理を行う。また、撮影画像記録媒体がメモリカード2bの場合取り込んだ撮影画像にサムネイル画像(低解像度データ)が含まれている場合はモニタ23での一覧表示などの目的で使用するため撮影画像の本データ(高解像度データ)とは別にメモリ30に送り込むが、もしサムネイル画像が含まれていない場合は本データから縮小画像を作り出してサムネイル画像としてメモリ30に送り込む。さらには、入力された撮影画像から上述した特徴量セットを高速に算出するために用いられる入力された撮影画像をより小さな画像サイズをもつ補正処理用撮影画像(例えば、256×384画素)に変換する機能やモザイク処理機能も有する。
【0037】
プリント管理部32は、プリントサイズやプリント枚数などを管理するプリント注文処理ユニット40、メモリ30に展開された撮影画像に対して各種画像処理を施す画像処理ユニット50を備えている。
【0038】
画像処理ユニット50には、メモリ30に展開された撮影画像に対してマニュアルで各種画像処理などを行うためのフォトレタッチプログラムを実装している第1画像補正ユニット60と、前述したようなニューラルネットワーク画像補正技術を用いてメモリ30に展開された入力撮影画像に対する自動的な画像補正を行う第2画像補正ユニット70とが基本的にはプログラムの形で組み込まれている。
【0039】
図11で示されているように、本発明による画像補正装置としての機能を有する第2画像補正ユニット70には、メモリ30に展開された入力撮影画像から作り出された補正演算用撮影画像(256×384の画像)対して第1サイズとしての24×16のサブマトリックスを用いて第1モザイク処理画像を生成するとともに、第2サイズとしての48×32のサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部71と、第1モザイク処理画像から第1画像特徴量群を求めるとともに第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部72と、第1画像特徴量群を入力することによって粗画像補正曲線を生成する粗画像ニューラルネットワーク部73aと、第2画像特徴量群を入力することによって密画像補正曲線を生成する密画像ニューラルネットワーク部73bと、生成された粗画像補正曲線と密画像補正曲線とを融合率調整部76で設定された融合率でもって融合させて融合補正曲線を生成する融合部75と、この融合補正曲線を用いて入力撮影画像を画像補正する画像補正部77が備えられている。画像補正部77は、補正曲線設定部77bによって設定された補正曲線に基づいて入力撮影画像を画像補正する画像補正実行部77aを備えている。融合率調整部76による融合率の調整は、GUI部33を通じてマニュアルで調整することができるが、入力撮影画像の空間周波数分析を通じて得られた空間周波数特性に基づいて自動的に調整することも可能である。
【0040】
モザイク処理部71で用いられるモザイク処理のためのサブマトリックスのサイズはサブマトリックスサイズ設定部71aによって設定される。ここで用いられるサイズとしては、補正演算用撮影画像のサイズ(256×384の画像)を考慮すると、上記以外に12×8や36×24などが適している。
【0041】
以上のように構成された写真プリント装置における写真プリント処理を図12のフローチャートを用いて説明する。まず、写真プリント出力を行うために入力された撮影画像を読み込み(#50)、その撮影画像から作り出された補正処理用撮影画像を用いてモザイク処理部71が第1モザイク処理画像と第2モザイク処理画像を生成する(#51)。画像特徴量演算部71が、第1モザイク処理画像から第1画像特徴量群:α0〜α88を算出し、第2モザイク処理画像から第2画像特徴量群:γ0〜γ88を算出する(#52)。第1画像特徴量群を粗画像ニューラルネットワーク部73aの入力要素に与えることで(#53)、粗画像に適した画像補正量:β(n)が出力値として出力され、粗画像補正曲線が作成される(#54)。同様に、第2画像特徴量群を密画像ニューラルネットワーク部73bの入力要素に与えることで(#55)、密画像に適した画像補正量:δ(n)が出力値として出力され、密画像補正曲線が作成される(#56)。
【0042】
粗画像補正曲線と密画像補正曲線とを融合するための融合率が決定される(#57)。この融合率は予め設定された定数であってもよいが、入力撮影画像の空間周波数特性などの画像特性に応じて変化する変数であってもよい。例えば、融合率=g(画像特性)で示されるような演算式で求めることができるが、その際の関数:gは非連続関数でも連続関数でもよい。また、その融合率も、シャドウ領域、中間領域、ハイライト領域等の領域別で異なるようにしてもよい。
【0043】
融合率が決定されると、その融合率で粗画像補正曲線と密画像補正曲線との融合補正曲線が作成される(#58)。この作成された融合補正曲線は、画像補正部77の補正曲線設定部77bに与えられる(#59)。続いて、画像補正実行部77aが設定された補正曲線(融合補正曲線又は個別補正曲線)を用いて入力撮影画像を画像補正し(#60)、この補正された撮影画像からプリントデータ生成部36がプリントデータを生成する(#61)。プリントデータがプリントステーション1Bに転送されることによりプリント処理が行われ(#62)、写真プリントが出力される(#63)。
【0044】
上述した実施形態の説明では、本発明による画像補正技術が、DPショップに設置されているミニラボと呼ばれている写真プリント装置に組み込まれた例を取り上げたが、コンビニやDPショップの店頭に設置されているセルフサービス式の写真プリント装置など、種々の写真プリント装置に組み込んでもよいし、画像処理ソフトウエアの撮影画像補正機能の1つとして、この画像処理ソフトウエアのプログラムに組み込んでもよい。
【0045】
なお、上述した実施の形態では、画像プリント出力部としてのプリントステーション1Bは、印画紙Pに対し、レーザ式露光エンジンを備えたプリント露光部14で撮影画像の露光を行い、この露光後の印画紙Pを現像処理する、いわゆる銀塩写真プリント方式を採用していたが、もちろん、本発明によって補正された撮影画像のプリント方式は、このような方式に限定されるわけではなく、例えば、フィルムや紙にインクを吐出して画像を形成するインクジェットプリント方式や感熱転写シートを用いた熱転写方式など、種々の写真プリント方式を含む。
【図面の簡単な説明】
【0046】
【図1】本発明による画像補正技術で用いられる基本原理を説明する説明図
【図2】本発明による画像補正技術で用いられる基本原理を説明する説明図
【図3】ニューラルネットワークの構成を示す模式図
【図4】ニューラルネットワークの出力としての画像補正曲線を説明する説明図
【図5】画像領域に依存する画像特徴量を説明する説明図
【図6】ヒストグラムに依存する画像特徴量を説明する説明図
【図7】ニューラルネットワークの構築ルーチンを示すフローチャート
【図8】本発明による画像補正技術を採用した写真プリント装置の外観図
【図9】写真プリント装置のプリントステーションの構成を模式的に示す模式図
【図10】写真プリント装置のコントローラ内に構築される機能要素を説明する機能ブロック図
【図11】本発明の画像補正技術を採用した画像補正ユニットの機能構成を示す機能ブロック図
【図12】写真プリント処理の手順を示すフローチャート
【符号の説明】
【0047】
1B:プリントステーション(プリント部)
31:画像入力部
36:プリントデータ生成部
70:第2画像補正ユニット(画像補正装置)
71:モザイク処理部
71a:サブマトリックスサイズ設定部
72:画像特徴量算出部
73a:粗画像ニューラルネットワーク部
73b:密画像ニューラルネットワーク部
74a:粗画像補正曲線作成部
74b:密画像補正曲線作成部
75:融合部
76:融合率調整部
77:画像補正部
77a:画像補正実行部
77b:補正曲線設定部
【技術分野】
【0001】
本発明は、入力画像を適正画像に補正曲線を用いて補正する画像補正技術に関する。
【背景技術】
【0002】
入力画像を適正画像に補正する代表的な分野である写真プリント出力の分野では、写真フィルムに形成された撮影画像をフィルムスキャナを用いてデジタル化して得られた撮影画像(データ)や、デジタルカメラなどのデジタル撮影機器によって直接撮影画像をデジタル化して得られた撮影画像(データ)に濃度補正や色補正などの画像補正を施した後これをプリントデータに変換し、このプリントデータに基づいて写真プリントユニットを駆動して、撮影画像を感光材料(印画紙)に光ビームで焼き付けたり、プリント用紙にカラーインクで形成したりするデジタル写真処理技術が主流である。種々の写真撮影状況下において適正な撮影画像を得るためには、シャッタースピードや絞りの設定、天候、光源の種類などの撮影条件を適切に設定する必要があるが、撮影者はこれらの撮影条件をあまり意識せずに撮影しているのが実情であり、このため、被写体の色調や明暗(コントラスト)の再現性が適正に得られていない不適正な撮影画像が写真プリント装置に入力されることが少なくない。取得した入力撮影画像を適正な出力撮影画像、例えば写真プリントとして再現するために用いられる画像補正の主なものは、色補正、濃度補正、コントラスト補正であり、これらの補正を正しく調整して組み合わせた画像補正が必要となる。
【0003】
写真撮影によって取得された撮影画像から、色調およびコントラストの補正を必要とする画像部分を選別し、その選別された画像部分に対し、色調およびコントラストの再現性の精度をできるだけ高めることのできる画像補正の1つとして、各色毎の階調ヒストグラムの最高度数に対して、所定割合を下回る度数の画像データを各色毎に除外して残った画像データの階調幅を基準階調幅に引き延ばし又は圧縮し、階調幅の引き延ばし又は圧縮に合わせて画像データの画素値を補正変換することで、カラーバランスおよびコントラストのいずれかまたは両方をある程度補正するものがある(例えば、特許文献1参照)。
【0004】
また、色補正、濃度補正、コントラスト補正を効率よく実施する画像補正として、撮影画像の低解像度データと所定の濃度・コントラスト補正アルゴリズムに基づいて、まず濃度・コントラスト変換曲線(変換テーブル)が作成され、次いでこの濃度・コントラスト変換曲線を用いて補正された撮影画像の低解像度データと所定のカラー補正アルゴリズムに基づいてカラー補正変換曲線(変換テーブル)が作成され、これらの濃度・コントラスト変換曲線とカラー補正変換曲線を融合させて作成された統合補正変換曲線を用いて写真プリント出力の目的ために撮影画像の高解像度画像データを補正するものも知られている(例えば、特許文献2参照)。
【0005】
また、選択された代表色のRGB信号を入力データとして使用するととともに、出力装置(プリンタ)にて出力された上記の代表色の複製画像を再び入力装置(スキャナ)にて読み取ったRGB信号を教師データとして使用することによってニューラルネットワークを構築し、入力画像の各画素値を入力層に入力することにより、中間層を介して、出力層からプリンタのインク量を出力させ、これにより良好な複製画像を得ようとする画像処理装置も知られている(例えば、特許文献3参照)。
【0006】
画像補正にニューラルネットワークを用いた技術としては、さらに画像信号を入力データとし画像補正量を教師値として予め学習させたニューラルネットワークを備え、このニューラルネットワークに画像信号を入力することで得られる画像補正量を用いて画像信号を補正して安定した出力画像を得る画像形成装置も知られている(例えば、特許文献4参照)。
【0007】
【特許文献1】特開2004−145399号公報(段落番号0023−0029)
【特許文献2】特開2006−157562号公報(段落番号0026−0029、図6)
【特許文献3】特開平09−168095号公報(段落番号0050−0057、0066、図4)
【特許文献4】特開平09−018716号公報(段落番号0039−0040、図1)
【発明の開示】
【発明が解決しようとする課題】
【0008】
入力画像に応じて適切な画像補正曲線を生成するアルゴリズムを構築する場合、まず多数のサンプル画像を用意しておく。そして、各サンプル画像をサンプル適正画像とする画像補正を熟練者によってマニュアルで行い、この各サンプル画像から算出された画像特徴量群と、このマニュアル画像補正を通じて作り出される元画像の画素値と適正画像の画素値との対応関係(画像補正曲線)を統計的にあるいは演繹的に評価していくことで、画像補正曲線を生成するアルゴリズムを構築する。このようなアルゴリズムの構築方法は、上記特許文献だけでなく、数多くの文献によって知られている。また、ニューラルネットワークの技術を画像補正に適用する場合、各サンプル画像から算出された画像特徴量群を入力データとするとともに、このマニュアル画像補正を通じて作り出される元画像の画素値と適正画像の画素値との対応関係を教師データとしてニューラルネットワークを学習させる。このような学習を通じて構築されたニューラルネットワークの入力層に補正対象となる入力画像から算出された画像特徴量を与えることで、この入力画像に適合した画像補正曲線が出力、より正確にはこの画像補正曲線を規定する出力値が出力される。いずれにしても、生成された画像補正曲線(画像補正量マトリックスや変換テーブルや変換式とも呼び代えることができる)を用いて元画像としての入力画像を画像補正することにより、適正な写真プリントを出力するために適した補正画像が得られる。様々な画像特性を有する入力画像を適切に補正することができるように、ニューラルネットワークの学習時に用いられるサンプル画像も様々な画像特性を有するものが選択されるが、撮影画像などでは低周波領域と高周波数領域の両方の空間周波数成分を有するものが多く、従来の画像補正曲線の生成に利用している画像特徴量群を入力値としているニューラルネットワークではそのような入力画像に対して十分に満足できる画像補正曲線を生成することができないという問題点が明らかになってきた。
【0009】
上記実状に鑑み、本発明の課題は、補正すべき入力画像に対して、その空間周波数が高い領域の画像特徴とその空間周波数が低い領域の画像特徴の両方を考慮した画像補正曲線を生成して、適正な画像補正を実現する画像補正技術を提供することである。
【課題を解決するための手段】
【0010】
入力画像を適正画像に補正曲線を用いて補正する画像補正方法において、上記課題を解決するため、本発明による方法は、前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するステップと、前記第1モザイク処理画像から第1画像特徴量群を求めるステップと、前記第1画像特徴量群に基づいて粗画像補正曲線を生成するステップと、前記入力画像に対応する補正演算用画像に対して前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するステップと、前記第2モザイク処理画像から第2画像特徴量群を求めるステップと、前記第2画像特徴量群に基づいて密画像補正曲線を生成するステップと、前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成するステップと、前記融合補正曲線で前記入力画像を画像補正するステップとからなる。
【0011】
上記方法では、まず補正すべき入力画像からサイズの異なる2つのサブマトリックスを用いて2つの空間周波数成分が異なるモザイク処理画像を生成する。つまり、より大きな第1サイズのサブマトリックスを用いた第1モザイク処理画像は、より小さな第2サイズのサブマトリックスを用いた第2モザイク処理画像に較べて、その空間周波数成分は低くなるので、相対的に第1モザイク処理画像は粗画像となり、第2モザイク処理画像は密画像となる。その後、第1モザイク処理画像から前もって規定した演算を用いて画像特徴量群を求め、この画像特徴量群に基づいて粗画像補正曲線を生成すると、この粗画像補正曲線は入力画像の大局的な傾向に基づく補正曲線となる。さらに、第2モザイク処理画像からも同様に画像特徴量群を求め、この画像特徴量群に基づいて密画像補正曲線を生成すると、この密画像補正曲線は入力画像の詳細な傾向に基づく補正曲線となる。従って、この粗画像補正曲線と密画像補正曲線とを融合させて生成された融合補正曲線は、入力画像の大局的な傾向と詳細な傾向との両者にほどよく適合した補正曲線となり、この融合補正曲線を用いて画像補正を行うことで、全体的な観点からみた補正評価と詳細な観点からみた補正評価の両者を満足させる補正画像が得られる。
【0012】
なお、ここでは、2つの異なるサイズのサブマトリックスを用いて生成される2つのモザイク処理画像に基づいて補正曲線を生成していたが、さらに異なるサイズのサブマトリックスを用いて生成されるモザイク処理画像を追加してもよい。つまり本発明では、2つ以上の異なるサブマトリックスを用いて生成される2つ以上のモザイク処理画像に基づいて生成された2つ以上の補正曲線を融合して最終的に用いられる補正曲線を生成することを主題としている。
【0013】
さらに、この明細書で用いられている補正曲線なる用語は、画像処理の分野でよく用いられる補正式、補正マトリックスといった、元画像の画素値を適正画像の画素値に変換する機能を総称するものであり、さらにそのような変換機能を作り出すためのデータ群もその用語の範囲に属している。つまり、ここでの補正曲線は元画像の画素値と適正画像の画素値との対応関係を規定するものであり、この補正曲線の具体的な実施形態としてはLUT(ルックアップテーブル)と呼ばれるハードウエア又はソフトウエアあるいはその両方で構築されるモジュールが一般的である。また、明細書では、特別に区別する必要がある場合を除いて、デジタルデータとしての画像データやこの画像データに基づくプリント画像やモニタ表示画像も単に画像という語句で総称している。
【0014】
画像特徴量群から画像補正曲線を生成するための好適な方法として、処理の高速性と高精度性の観点から、ニューラルネットワークが推薦される。このため、本発明による好適な実施形態の1つでは、前記粗画像補正曲線を生成するステップにおいて、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワークが用いられ、かつ前記密画像補正曲線を生成するステップにおいて、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワークが用いられる。
【0015】
前記粗画像補正曲線と前記密画像補正曲線の融合に関して、最終的な画像プリント出力に要求される品質仕様によって、粗画像補正曲線寄りが好まれる場合や密画像補正曲線寄りが好まれる場合に分かれる。従って、本発明の好適な実施形態の1つでは、前記融合補正曲線を作成するための前記粗画像補正曲線と前記密画像補正曲線との融合率は調整可能に構成されている。その際、空間周波数分析を通じて入力画像の空間周波数成分を演算しておき、この空間周波数成分と平均的な画像の空間周波数成分との比較から、例えば、高周波寄りの画像では密画像補正曲線寄りの融合となるように、また、低周波寄りの画像では粗画像補正曲線寄りの融合となるようにその融合率を調整すると好都合である。
【0016】
入力画像が写真プリント出力のための撮影画像のような場合、全体的なバランス、及び中央に位置する被写体とその周辺の背景とのバランスが重要となる。このことを考慮すると、画像特徴量群に、それぞれ、入力画像の分割領域に依存する領域依存画像特徴量と分割領域に依存しない領域非依存画像特徴量の両方を含むようにすると好都合である。
【0017】
入力画像を適正画像に補正曲線を用いて補正する画像補正装置において、上記課題を解決するため、本発明による装置は、前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するとともに、前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部と、前記第1モザイク処理画像から第1画像特徴量群を求めるとともに、前記第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部と、前記第1画像特徴量群に基づいて粗画像補正曲線を生成する粗画像補正曲線生成部と、前記第2画像特徴量群に基づいて密画像補正曲線を生成する密画像補正曲線生成部と、前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成する融合部と、前記融合補正曲線で前記入力画像を画像補正する画像補正部とからなる。当然ながら、この画像補正装置も上記画像補正方法で述べたすべての作用効果を得ることができ、さらに上述した付加的技術を組み込むことも可能である。また、ここでも、2つ以上の異なるサブマトリックスを用いて生成される2つ以上のモザイク処理画像に基づいて生成された2つ以上の補正曲線を融合して最終的に用いられる補正曲線を生成することが含まれていることは当然である。
【0018】
特に、画像特徴量群から画像補正曲線を生成するためにニューラルネットワーク技術が採用される場合には、前記粗画像補正曲線生成部は、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部となり、かつ前記密画像補正曲線生成部は、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部となる。
【発明を実施するための最良の形態】
【0019】
以下、本発明の実施形態を図面に基づいて説明するが、まず、本発明による補正技術の重要な構成要素となる画像特徴量群に基づいて画像補正曲線を生成する画像補正曲線生成アルゴリズムの構築原理を述べる。なお、画像補正曲線生成アルゴリズムのなかで特に好ましいものとして本発明では、ニューラルネットワークが提案されているが、本発明はニューラルネットワークに限定しているわけではない。その他の統計的な処理に基づくアルゴリズムの適用も可能である。
【0020】
いずれにせよ、まずは、図1に模式的に示されているように、種々の撮影条件で取得された画像をサンプル画像として多数用意し、これらのサンプル撮影画像を元画像とし、この元画像に対して異なるサイズのサブマトリックスを用いて複数のモザイク処理画像を生成する(#01)。図1では、第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成し、第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成しているが、さらに第3・第4のサイズのサブマトリックスを用いて更なるモザイク処理画像を生成してもよい。生成された2つのモザイク処理画像に対して、以下に述べるような処理が同様に行われる。
【0021】
第1モザイク処理画像を元画像として、モニタでの表示やテストプリントを通じて適正画像となるようにマニュアルで画像補正を行う(#02)。次に、元画像とマニュアル画像補正によって得られた適正画像との画素値を比較評価して、元画像の画素値と適正画像の画素値との対応関係を規定する画像補正量、結果的にはこの画像補正量によって規定される粗画像補正曲線を生成する(#03)。その際、8ビットカラー画像の場合、元画像の各画素の画素値から適正画像の画素値を導く画像補正量は各色毎に256個の画素値変換係数:β(0)・・・β(255)で表すことができるが、256の全ての画素値に対して画像補正量(画素値変換係数)を求めるのではなく、とびとびの画像補正量を求め、残りは補間で算出してもよい。元画像の画素値と適正画像の画素値との対応関係は画像補正曲線:f(x)として考えると最も理解しやすいので、以下画像補正曲線という語句を用いる。なお、一般的に、そのような補正曲線は、例えば4次式で良好に近似することができるので、その場合は、
f(x)=ax^4+bx^3+cx^2+dx+e(xは入力階調(0〜255)、^は累乗を表す)
となり、元画像の画素値と適正画像の画素値との対応関係(補正曲線)はたかだか5つの係数:a、b、c、d、eで表すことができる。
【0022】
次に、元画像となっている第1モザイク処理画像から第1画像特徴量群:α0・・・αnが算出される(#04)。画像特徴量群としては、画像の全域又は部分域における平均濃度値、最大濃度値、最小濃度値といった画像領域に依存する特徴量、及び各色のヒストグラムから得られる階調値部分領域の積算頻度値などの画像領域に依存しない特徴量が採用される。ステップ#03で得られた粗画像補正曲線を規定する係数と、ステップ#04で得られた第1画像特徴量群は、第1画像特徴量群を入力データとするとともに粗画像補正曲線を出力データとする粗画像補正曲線生成アルゴリズム(好ましくはニューラルネットワーク)を構築するための学習データとして利用されるため、ステップ#02からステップ#04の作業は準備された全てのサンプル画像から生成された第1モザイク処理画像に対して実施される。そして、第1モザイク処理画像の画像特徴量群を入力データとするとともに画像補正曲線を規定する係数が出力データとなるように内部変数を調整する反復シミュレーションを数千回以上を行い、粗画像補正曲線生成アルゴリズムを構築する(#05)。なお、画像補正曲線生成アルゴリズムがニューラルネットワークの場合、その学習過程において、画像補正曲線を規定する係数は教師値と呼ばれ、第1モザイク処理画像の画像特徴量群を入力データとするとともに粗画像補正曲線を規定する係数を教師値として数千回以上の反復学習を行い、粗画像ニューラルネットワークの入出力関係を構築する。
【0023】
さらに、ステップ#01aで生成された第2モザイク処理画像を元画像として、上述したステップ#02からステップ#04の処理と同じ処理を行う(#02a〜#04a)。そして、ステップ#04aで得られた第2画像特徴量群(γ0・・・γn)を入力データとするとともにステップ#03aで得られた密画像補正曲線(δ0・・・δn)を出力データとする学習データを用いて密画像補正曲線生成アルゴリズム、好ましくは密画像ニューラルネットワークが構築される(#05a)。もちろん、さらに異なるサイズのサブマトリックスを用いて生成される更なるモザイク処理画像を元画像として、更なる画像補正曲線生成アルゴリズム、好ましくは画像ニューラルネットワークを構築してもよい。
【0024】
このようにして入出力関係が決定された、粗画像補正曲線生成アルゴリズムと密画像補正曲線生成アルゴリズム、ここでの例では、大局的なバランスを重要視した粗画像ニューラルネットワークと詳細な領域でのバランスを重要視した密画像ニューラルネットワークが構築されたとすると、この2つのニューラルネットワークを用いて、補正すべき入力画像を適正画像に補正することができる。この画像補正の原理が図2に模式的に示されている。まず、補正目的で入力された画像から、必要に応じて、所定サイズまでの縮小処理を施して、補正演算用画像を生成する(#10)。そして、この入力画像又は補正演算用画像から第1サイズのサブマトリックスを用いてモザイク処理を行って第1モザイク処理画像を生成する(#11)。第1モザイク処理画像から第1画像特徴量群を算出する(#12)。この第1画像特徴量群を粗画像ニューラルネットワークに入力すること(#13)により、粗画像補正曲線を規定する係数、結果的には粗画像補正曲線が得られる(#14)。
【0025】
同様に、前記入力画像又は補正演算用画像から第2サイズのサブマトリックスを用いてモザイク処理を行って第2モザイク処理画像を生成し(#11a)、この第2モザイク処理画像から第2画像特徴量群を算出する(#12a)。この第2画像特徴量群を密画像ニューラルネットワークに入力すること(#13a)により、密画像補正曲線規定する係数、結果的には密画像補正曲線が得られる(#14a)。
【0026】
次に、生成された粗画像補正曲線(粗画像補正曲線規定する係数)と密画像補正曲線(密画像補正曲線規定する係数)とを所定の融合率でもって融合して、融合補正曲線を得る(#15)。この融合率は固定でもよいし、好みによって任意に調整可能であってもよいが、入力画像の空間周波数分析値に基づいて自動調整することも可能である。次いで、作成された融合補正曲線が使用補正曲線として設定されることで(#16)、この融合補正曲線を用いて入力画像が画像補正される(#17)。さらに、この補正画像からプリントデータを生成し、このプリントデータをプリント部に転送することにより、画像プリントが出力される(#18)。
【0027】
次に、上述したニューラルネットワークの具体的な構築手順の一例を図3から図6を用いて説明する。なお、粗画像ニューラルネットワークも密画像ニューラルネットワークもその構築手順は同じである。図3にニューラルネットワークの模式的な構造が示されている。このニューラルネットワークは89個の入力要素を有する入力層と45個の中間要素を有する中間層と60個の出力要素を有する出力層からなる。入力要素には入力画像の画像特徴量群:α0〜α88(第1画像特徴量群)、γ0〜γ88(第2画像特徴量群)が入力され、出力要素には、図4に示されるような、各色の補正曲線を規定するそれぞれ20個の代表点で示す画像補正曲線規定する係数としての出力値、つまりR成分用出力値β(1)〜β(20)(粗画像補正曲線)、δ(1)〜δ(20)(密画像補正曲線);G成分用出力値β(21)〜β(40)(粗画像補正曲線)、δ(21)〜δ(40)(密画像補正曲線);B成分用出力値β(41)〜β(60)、δ(41)〜δ(60)(密画像補正曲線)が出力される。この出力値を用いてスムーズな各色の補正曲線を作り出すアルゴリズムには公知の近似曲線作成アルゴリズムを用いることができる。
【0028】
このニューラルネットワークの学習時に採用されている第1画像特徴量群:α0〜α88と第2画像特徴量群:γ0〜γ88の定義内容は同じであり、対象となる画像が異なる(第1モザイク処理画像と第2モザイク処理画像との違い)だけなので、以下第1画像特徴量群についてのみ説明する。
α0:画像全体の平均濃度値
α1:画像中央部(図5の(a)参照)の平均濃度値
α2:画像周辺部(図5の(a)参照)の平均濃度値
α3:画像上側部(図5の(b)参照)の平均濃度値
α4:画像下側部(図5の(b)参照)の平均濃度値
α5:画像左側部(図5の(c)参照)の平均濃度値
α6:画像右側部(図5の(c)参照)の平均濃度値
α7:画像全体の最大濃度値
α8:画像中央部(図5の(a)参照)の最大濃度値
α9:画像周辺部(図5の(a)参照)の最大濃度値
α10:画像上側部(図5の(b)参照)の最大濃度値
α11:画像下側部(図5の(b)参照)の最大濃度値
α12:画像左側部(図5の(c)参照)の最大濃度値
α13:画像右側部(図5の(c)参照)の最大濃度値
α14:画像全体の最小濃度値
α15:画像中央部(図5の(a)参照)の最小濃度値
α16:画像周辺部(図5の(a)参照)の最小濃度値
α17:画像上側部(図5の(b)参照)の最小濃度値
α18:画像下側部(図5の(b)参照)の最小濃度値
α19:画像左側部(図5の(c)参照)の最小濃度値
α20:画像右側部(図5の(c)参照)の最小濃度値
α21:上下に隣接する画素の差分値(図5の(d)参照)の平均値
α22:画像全体の濃度標準偏差
α23:R色成分に関する画像全体の最大値
α24:G色成分に関する画像全体の最大値
α25:B色成分に関する画像全体の最大値
α26:R色成分に関する画像全体の最小値
α27:G色成分に関する画像全体の最小値
α28:B色成分に関する画像全体の最小値
α29〜α48:R色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるR積算頻度値
α49〜α68:G色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるG積算頻度値
α69〜α88:B色成分に関するヒストグラムの階調値軸を20分割した各領域(図6参照)に含まれる階調値の頻度を積算して得られるB積算頻度値
上記α0からα28までの画像特徴量は画像領域に依存する特徴量であり、上記α29からα88までの画像特徴量は画像領域に依存しない特徴量である。また、モザイク処理画像から第1画像特徴量群及び第2画像特徴量群の算出においては、モザイクブロック(サブマトリックスのサイズ)を1つの画素として演算される。なお、濃度値としては、R・G・B色成分の各画素の値を足して3で割った値を採用している。
【0029】
以上のような入出力形態をもつニューラルネットワークの構築ルーチンが図7に示されている。
まず、用意しておいたサンプル画像を読み込み(#20)、そのサンプル画像から作り出されたモザイク処理画像を用いて前述した各画像特徴量を算出し(#21)、それらを画像特徴量群としてメモリに格納する(#22)。読み込んだサンプル画像をモニタ表示しながら熟練者によるマニュアルの画像補正を行う(#23)。必要に応じて補正された画像のプリント出力を行い(#24)、補正された画像が適正であるかどうかをチェックする(#25)。補正された画像が適正と判定されるまで、マニュアル補正を繰り返し、適正な補正画像が得られると、その画像補正に基づいて元画像の画素値を適正補正画像の画素値に変換する画像補正曲線(画像補正曲線を規定する係数)を作成してメモリに格納する(#26)。ステップ#20〜ステップ#26までの処理が用意されている全てのサンプル画像のための実行される(#27Yes分岐)。全てのサンプル画像に対する処理が完了すると(#27No分岐)、これまでに得られたモザイク処理画像の画像特徴量群と画像補正曲線がニューラルネットワークに適用される(#28)。ニューラルネットワークは、画像特徴量群を入力データ、画像補正曲線を教師データとして学習し、その入出力関係(結合係数やしきい値)を確定させる(#29)。このようなニューラルネットワーク構築ルーチンを用いて、粗画像ニューラルネットワークと密画像ニューラルネットワーク、必要時応じて更なる超粗画像又は超密画像ニューラルネットワークを構築する。
【0030】
次に、図1と図2を用いて説明した画像補正技術を用いた画像補正装置を搭載し、画像として撮影画像を取り扱う写真プリント装置を説明する。図8はその写真プリント装置を示す外観図であり、この写真プリント装置は、印画紙Pに対して露光処理と現像処理とを行う写真プリント部としてのプリントステーション1Bと、現像済み写真フィルム2aやデジタルカメラ用メモリカード2bなどの画像入力メディアから取り込んだ撮影画像を処理してプリントステーション1Bで使用されるプリントデータの生成・転送などを行う操作ステーション1Aとから構成されている。
【0031】
この写真プリント装置はデジタルミニラボとも称せられるものであり、図9からよく理解できるように、プリントステーション1Bは2つの印画紙マガジン11に納めたロール状の印画紙Pを引き出してシートカッター12でプリントサイズに切断すると共に、このように切断された印画紙Pに対し、バックプリント部13で色補正情報やコマ番号などのプリント処理情報を印画紙Pの裏面に印字するとともに、プリント露光部14で印画紙Pの表面に撮影画像の露光を行い、この露光後の印画紙Pを複数の現像処理槽を有した処理槽ユニット15に送り込んで現像処理する。乾燥の後に装置上部の横送りコンベア16からソータ17に送られた印画紙P、つまり写真プリントPは、このソータ17の複数のトレイにオーダ単位で仕分けられた状態で集積される(図8参照)。
【0032】
上述した印画紙Pに対する各種処理に合わせた搬送速度で印画紙Pを搬送するために印画紙搬送機構18が敷設されている。印画紙搬送機構18は、印画紙搬送方向に関してプリント露光部14の前後に配置されたチャッカー式印画紙搬送ユニット18aを含む複数の挟持搬送ローラ対から構成されている。
【0033】
プリント露光部14には、副走査方向に搬送される印画紙Pに対して、主走査方向に沿って操作ステーション1Aからのプリントデータに基づいてR(赤)、G(緑)、B(青)の3原色のレーザ光線の照射を行うライン露光ヘッドが設けられている。処理槽ユニット15は、発色現像処理液を貯留する発色現像槽15aと、漂白定着処理液を貯留する漂白定着槽15bと、安定処理液を貯留する安定槽15cを備えている。
【0034】
前記操作ステーション1Aのデスク状コンソールの上部位置には、写真フィルム2aの撮影画像コマから撮影画像データ(以下単に撮影画像と略称する)を2000dpiを超える解像度でもって取得することができるフィルムスキャナ20が配置されており、デジタルカメラ等に装着される画像記録媒体2bとして用いられている各種半導体メモリやCD−Rなどから撮影画像を取得するメディアリーダ21は、この写真プリント装置のコントローラ3として機能する汎用パソコンに組み込まれている。この汎用パソコンには、さらに各種情報を表示するモニタ23、各種設定や調整を行う際に用いる操作入力部として利用される操作入力デバイスとしてのキーボード24やマウス25も接続されている。
【0035】
この写真プリント装置のコントローラ3は、CPUを中核部材として、写真プリント装置の種々の動作を行うための機能部をハードウエア又はソフトウエアあるいはその両方で構築しているが、図10に示されているように、本発明に特に関係する機能部としては、フィルムスキャナ20やメディアリーダ21によって読み取られた撮影画像を取り込んで次の処理のために必要な前処理を行う画像入力部31と、各種ウインドウや各種操作ボタンなどを含むグラフィック操作画面の作成やそのようなグラフィック操作画面を通じてのユーザ操作入力(キーボード24やマウス25などによる)から制御コマンドを生成するグラフィックユーザインターフェース(以下GUIと略称する)を構築するGUI部33と、GUI部33から送られてきた制御コマンドや直接キーボード24等から入力された操作命令に基づいて所望のプリントデータを生成するために画像入力部31からメモリ30に転送された撮影画像に対する画像処理等を行うプリント管理部32と、色補正等のプレジャッジプリント作業時にプリントソース画像や予想仕上がりプリント画像としてのシミュレート画像さらにはGUI部33から送られてきたグラフィックデータをモニタ23に表示させるためのビデオ信号を生成するビデオ制御部35と、画像処理が完了した処理済み撮影画像に基づいてプリントステーション1Bに装備されているプリント露光部14に適したプリントデータを生成するプリントデータ生成部36と、顧客の要望に応じて生の撮影画像や画像処理が完了した処理済み撮影画像などをCD−Rに書き込むための形式にフォーマットするフォーマッタ部37などが挙げられる。
【0036】
画像入力部31は、撮影画像記録媒体がフィルム2aの場合プレスキャンモードと本スキャンモードとのスキャンデータを別々にメモリ30に送り込み、それぞれの目的に合わせた前処理を行う。また、撮影画像記録媒体がメモリカード2bの場合取り込んだ撮影画像にサムネイル画像(低解像度データ)が含まれている場合はモニタ23での一覧表示などの目的で使用するため撮影画像の本データ(高解像度データ)とは別にメモリ30に送り込むが、もしサムネイル画像が含まれていない場合は本データから縮小画像を作り出してサムネイル画像としてメモリ30に送り込む。さらには、入力された撮影画像から上述した特徴量セットを高速に算出するために用いられる入力された撮影画像をより小さな画像サイズをもつ補正処理用撮影画像(例えば、256×384画素)に変換する機能やモザイク処理機能も有する。
【0037】
プリント管理部32は、プリントサイズやプリント枚数などを管理するプリント注文処理ユニット40、メモリ30に展開された撮影画像に対して各種画像処理を施す画像処理ユニット50を備えている。
【0038】
画像処理ユニット50には、メモリ30に展開された撮影画像に対してマニュアルで各種画像処理などを行うためのフォトレタッチプログラムを実装している第1画像補正ユニット60と、前述したようなニューラルネットワーク画像補正技術を用いてメモリ30に展開された入力撮影画像に対する自動的な画像補正を行う第2画像補正ユニット70とが基本的にはプログラムの形で組み込まれている。
【0039】
図11で示されているように、本発明による画像補正装置としての機能を有する第2画像補正ユニット70には、メモリ30に展開された入力撮影画像から作り出された補正演算用撮影画像(256×384の画像)対して第1サイズとしての24×16のサブマトリックスを用いて第1モザイク処理画像を生成するとともに、第2サイズとしての48×32のサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部71と、第1モザイク処理画像から第1画像特徴量群を求めるとともに第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部72と、第1画像特徴量群を入力することによって粗画像補正曲線を生成する粗画像ニューラルネットワーク部73aと、第2画像特徴量群を入力することによって密画像補正曲線を生成する密画像ニューラルネットワーク部73bと、生成された粗画像補正曲線と密画像補正曲線とを融合率調整部76で設定された融合率でもって融合させて融合補正曲線を生成する融合部75と、この融合補正曲線を用いて入力撮影画像を画像補正する画像補正部77が備えられている。画像補正部77は、補正曲線設定部77bによって設定された補正曲線に基づいて入力撮影画像を画像補正する画像補正実行部77aを備えている。融合率調整部76による融合率の調整は、GUI部33を通じてマニュアルで調整することができるが、入力撮影画像の空間周波数分析を通じて得られた空間周波数特性に基づいて自動的に調整することも可能である。
【0040】
モザイク処理部71で用いられるモザイク処理のためのサブマトリックスのサイズはサブマトリックスサイズ設定部71aによって設定される。ここで用いられるサイズとしては、補正演算用撮影画像のサイズ(256×384の画像)を考慮すると、上記以外に12×8や36×24などが適している。
【0041】
以上のように構成された写真プリント装置における写真プリント処理を図12のフローチャートを用いて説明する。まず、写真プリント出力を行うために入力された撮影画像を読み込み(#50)、その撮影画像から作り出された補正処理用撮影画像を用いてモザイク処理部71が第1モザイク処理画像と第2モザイク処理画像を生成する(#51)。画像特徴量演算部71が、第1モザイク処理画像から第1画像特徴量群:α0〜α88を算出し、第2モザイク処理画像から第2画像特徴量群:γ0〜γ88を算出する(#52)。第1画像特徴量群を粗画像ニューラルネットワーク部73aの入力要素に与えることで(#53)、粗画像に適した画像補正量:β(n)が出力値として出力され、粗画像補正曲線が作成される(#54)。同様に、第2画像特徴量群を密画像ニューラルネットワーク部73bの入力要素に与えることで(#55)、密画像に適した画像補正量:δ(n)が出力値として出力され、密画像補正曲線が作成される(#56)。
【0042】
粗画像補正曲線と密画像補正曲線とを融合するための融合率が決定される(#57)。この融合率は予め設定された定数であってもよいが、入力撮影画像の空間周波数特性などの画像特性に応じて変化する変数であってもよい。例えば、融合率=g(画像特性)で示されるような演算式で求めることができるが、その際の関数:gは非連続関数でも連続関数でもよい。また、その融合率も、シャドウ領域、中間領域、ハイライト領域等の領域別で異なるようにしてもよい。
【0043】
融合率が決定されると、その融合率で粗画像補正曲線と密画像補正曲線との融合補正曲線が作成される(#58)。この作成された融合補正曲線は、画像補正部77の補正曲線設定部77bに与えられる(#59)。続いて、画像補正実行部77aが設定された補正曲線(融合補正曲線又は個別補正曲線)を用いて入力撮影画像を画像補正し(#60)、この補正された撮影画像からプリントデータ生成部36がプリントデータを生成する(#61)。プリントデータがプリントステーション1Bに転送されることによりプリント処理が行われ(#62)、写真プリントが出力される(#63)。
【0044】
上述した実施形態の説明では、本発明による画像補正技術が、DPショップに設置されているミニラボと呼ばれている写真プリント装置に組み込まれた例を取り上げたが、コンビニやDPショップの店頭に設置されているセルフサービス式の写真プリント装置など、種々の写真プリント装置に組み込んでもよいし、画像処理ソフトウエアの撮影画像補正機能の1つとして、この画像処理ソフトウエアのプログラムに組み込んでもよい。
【0045】
なお、上述した実施の形態では、画像プリント出力部としてのプリントステーション1Bは、印画紙Pに対し、レーザ式露光エンジンを備えたプリント露光部14で撮影画像の露光を行い、この露光後の印画紙Pを現像処理する、いわゆる銀塩写真プリント方式を採用していたが、もちろん、本発明によって補正された撮影画像のプリント方式は、このような方式に限定されるわけではなく、例えば、フィルムや紙にインクを吐出して画像を形成するインクジェットプリント方式や感熱転写シートを用いた熱転写方式など、種々の写真プリント方式を含む。
【図面の簡単な説明】
【0046】
【図1】本発明による画像補正技術で用いられる基本原理を説明する説明図
【図2】本発明による画像補正技術で用いられる基本原理を説明する説明図
【図3】ニューラルネットワークの構成を示す模式図
【図4】ニューラルネットワークの出力としての画像補正曲線を説明する説明図
【図5】画像領域に依存する画像特徴量を説明する説明図
【図6】ヒストグラムに依存する画像特徴量を説明する説明図
【図7】ニューラルネットワークの構築ルーチンを示すフローチャート
【図8】本発明による画像補正技術を採用した写真プリント装置の外観図
【図9】写真プリント装置のプリントステーションの構成を模式的に示す模式図
【図10】写真プリント装置のコントローラ内に構築される機能要素を説明する機能ブロック図
【図11】本発明の画像補正技術を採用した画像補正ユニットの機能構成を示す機能ブロック図
【図12】写真プリント処理の手順を示すフローチャート
【符号の説明】
【0047】
1B:プリントステーション(プリント部)
31:画像入力部
36:プリントデータ生成部
70:第2画像補正ユニット(画像補正装置)
71:モザイク処理部
71a:サブマトリックスサイズ設定部
72:画像特徴量算出部
73a:粗画像ニューラルネットワーク部
73b:密画像ニューラルネットワーク部
74a:粗画像補正曲線作成部
74b:密画像補正曲線作成部
75:融合部
76:融合率調整部
77:画像補正部
77a:画像補正実行部
77b:補正曲線設定部
【特許請求の範囲】
【請求項1】
入力画像を適正画像に補正曲線を用いて補正する画像補正方法において、
前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するステップと、
前記第1モザイク処理画像から第1画像特徴量群を求めるステップと、
前記第1画像特徴量群に基づいて粗画像補正曲線を生成するステップと、
前記入力画像に対応する補正演算用画像に対して前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するステップと、
前記第2モザイク処理画像から第2画像特徴量群を求めるステップと、
前記第2画像特徴量群に基づいて密画像補正曲線を生成するステップと、
前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成するステップと、
前記融合補正曲線で前記入力画像を画像補正するステップと、
からなる画像補正方法。
【請求項2】
前記粗画像補正曲線を生成するステップにおいて、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部が用いられ、かつ
前記密画像補正曲線を生成するステップにおいて、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部が用いられることを特徴とする請求項1に記載の画像補正方法。
【請求項3】
前記融合補正曲線を作成するための前記粗画像補正曲線と前記密画像補正曲線との融合率は調整可能であることを特徴とする請求項1又は2に記載の画像補正方法。
【請求項4】
前記融合率は前記入力画像の空間周波数分析値に基づいて調整されることを特徴とする請求項3に記載の画像補正方法。
【請求項5】
前記第1画像特徴量群と前記第2画像特徴量群は、それぞれ、前記補正演算用画像の分割領域に依存する領域依存画像特徴量と前記補正演算用画像の分割領域に依存しない領域非依存画像特徴量の両方を含んでいることを特徴とする請求項1から4のいずれか一項に記載の画像補正方法。
【請求項6】
入力画像を適正画像に補正曲線を用いて補正する画像補正装置において、
前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するとともに、前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部と、
前記第1モザイク処理画像から第1画像特徴量群を求めるとともに、前記第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部と、
前記第1画像特徴量群に基づいて粗画像補正曲線を生成する粗画像補正曲線生成部と、
前記第2画像特徴量群に基づいて密画像補正曲線を生成する密画像補正曲線生成部と、
前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成する融合部と、
前記融合補正曲線で前記入力画像を画像補正する画像補正部と、
からなる画像補正装置。
【請求項7】
前記粗画像補正曲線生成部が、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部であり、かつ
前記密画像補正曲線生成部が、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部であることを特徴とする請求項6に記載の画像補正装置。
【請求項1】
入力画像を適正画像に補正曲線を用いて補正する画像補正方法において、
前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するステップと、
前記第1モザイク処理画像から第1画像特徴量群を求めるステップと、
前記第1画像特徴量群に基づいて粗画像補正曲線を生成するステップと、
前記入力画像に対応する補正演算用画像に対して前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するステップと、
前記第2モザイク処理画像から第2画像特徴量群を求めるステップと、
前記第2画像特徴量群に基づいて密画像補正曲線を生成するステップと、
前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成するステップと、
前記融合補正曲線で前記入力画像を画像補正するステップと、
からなる画像補正方法。
【請求項2】
前記粗画像補正曲線を生成するステップにおいて、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部が用いられ、かつ
前記密画像補正曲線を生成するステップにおいて、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部が用いられることを特徴とする請求項1に記載の画像補正方法。
【請求項3】
前記融合補正曲線を作成するための前記粗画像補正曲線と前記密画像補正曲線との融合率は調整可能であることを特徴とする請求項1又は2に記載の画像補正方法。
【請求項4】
前記融合率は前記入力画像の空間周波数分析値に基づいて調整されることを特徴とする請求項3に記載の画像補正方法。
【請求項5】
前記第1画像特徴量群と前記第2画像特徴量群は、それぞれ、前記補正演算用画像の分割領域に依存する領域依存画像特徴量と前記補正演算用画像の分割領域に依存しない領域非依存画像特徴量の両方を含んでいることを特徴とする請求項1から4のいずれか一項に記載の画像補正方法。
【請求項6】
入力画像を適正画像に補正曲線を用いて補正する画像補正装置において、
前記入力画像に対応する補正演算用画像に対して第1サイズのサブマトリックスを用いて第1モザイク処理画像を生成するとともに、前記第1サイズより小さい第2サイズのサブマトリックスを用いて第2モザイク処理画像を生成するモザイク処理部と、
前記第1モザイク処理画像から第1画像特徴量群を求めるとともに、前記第2モザイク処理画像から第2画像特徴量群を求める画像特徴量演算部と、
前記第1画像特徴量群に基づいて粗画像補正曲線を生成する粗画像補正曲線生成部と、
前記第2画像特徴量群に基づいて密画像補正曲線を生成する密画像補正曲線生成部と、
前記粗画像補正曲線と前記密画像補正曲線とを融合させて融合補正曲線を生成する融合部と、
前記融合補正曲線で前記入力画像を画像補正する画像補正部と、
からなる画像補正装置。
【請求項7】
前記粗画像補正曲線生成部が、用意された多数のサンプル画像に対して前記第1サイズのサブマトリックスを用いて生成された第1モザイク処理画像から得られる第1画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた粗画像ニューラルネットワーク部であり、かつ
前記密画像補正曲線生成部が、前記サンプル画像に対して前記第2サイズのサブマトリックスを用いて生成された第2モザイク処理画像から得られる第2画像特徴量群を入力値とするとともに前記サンプル画像から適正画像を作り出す画像補正曲線を教師値として学習させた密画像ニューラルネットワーク部であることを特徴とする請求項6に記載の画像補正装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2009−4887(P2009−4887A)
【公開日】平成21年1月8日(2009.1.8)
【国際特許分類】
【出願番号】特願2007−161560(P2007−161560)
【出願日】平成19年6月19日(2007.6.19)
【出願人】(000135313)ノーリツ鋼機株式会社 (1,824)
【Fターム(参考)】
【公開日】平成21年1月8日(2009.1.8)
【国際特許分類】
【出願日】平成19年6月19日(2007.6.19)
【出願人】(000135313)ノーリツ鋼機株式会社 (1,824)
【Fターム(参考)】
[ Back to top ]