説明

画像処理装置および画像処理方法および記録媒体

【課題】 デジタルカメラで撮影された画像やスキャナで取り込まれた画像などの持つ光学情報の頻度分布から、撮影条件や露光状態を適切に判断することの可能な画像処理装置および画像処理方法および記録媒体を提供する。
【解決手段】 本発明は、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための情報を抽出するものであって、前記光学情報の頻度分布を求める工程と、前記頻度分布から特異点を除去する工程と、前記特異点を除去した頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する工程とを有している。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、デジタルスチルカメラやスキャナなどによって入力された各種画像データに対し画像処理を行う画像処理装置および画像処理方法および記録媒体に関する。
【0002】
【従来の技術】従来よりデジタル画像に対する様々な処理が行われている。例えば、彩度や色調の調整やコントラストの拡大などである。これらは、画像処理の知識をもった専門的な操作者がパーソナルコンピュータを用いてモニタ上で調整具合を確認しながら行うのが一般的であった。
【0003】最近、撮影画像の再生及び消去が即座に行えることと、インターネットの普及とに伴って、デジタルスチルカメラ(以下”デジタルカメラ”と記す)が急速に普及した。また、デジタルカメラの普及により、画像を専門的に取り扱っていないユーザの間にも撮影画像を印刷またはプリントアウトする機会が増えている。
【0004】このような背景を反映し、デジタルカメラのユーザ層は従来型のアナログカメラの愛好家ではなく、ほとんどがパーソナルコンピュータ等を使用する人々である。そのため、カメラ本来の扱いには慣れておらず、逆光や暗い場所などの特殊な撮影条件では適切な露光調節を行えていない。
【0005】さらに、デジタルカメラのダイナミックレンジは、銀塩フィルムのそれよりも狭く、ラチチュード(適正露出からアンダ、オーバになってもその調子が崩れない許容範囲)が狭い。現在、ほとんどのデジタルカメラでは自動的に露出調整が行われるが、上記のようにラチチュードが狭いため、特殊な撮影条件では適切な微調整が行われにくいどころか、画像処理によっては逆に余分なノイズがのってしまうこともあり、満足な画像を得られない。
【0006】このように撮影時での不適切な露光状態を補うために画像処理ソフトやレタッチソフトなどで画像を修正するのが一般的だが、撮影条件を指定するなど、依然、人間が関与しなくてはならない。
【0007】しかし最近では、撮影時、画像処理時、またはプリント時に、撮影条件から自動的に露出調整を行うための様々な技術が提案されている。それらの技術のほとんどは、画像データの輝度、及びRGB信号の頻度分布から撮影条件を判断するものである。
【0008】
【発明が解決しようとする課題】特開平10−271524号には、デジタルカメラで撮影された画像が正確さに乏しく、非熟練者には困難であり、全階調にわたって正しく修正されず、単なる色ずれ以外の要素を含んでいる場合に、画像データに対して間引きなどして各色成分の頻度分布を求め、分布間に類似性があるか否かを判断し、類似性が低くなければ本来的に頻度分布から見い出される特性は一致するものと判断して、オフセット修正やコントラスト強調や明るさ修正によってずれを修正し、これにより、色再現性の悪い画像であってもメリハリのある良好な画像としつつ、これらの作業を自動化する技術が示されている。
【0009】特開平10−271524号に示されている技術では、撮影条件を判別するための有効な分布領域を輝度値の最大値と最小値からある一律の割合(例えば0.5%)だけ内側に入った両端としている。この方法では、ダイナミックレンジ調整時などに生じる白点や黒点等を取り除くことができるが、画像によっては、分布の両端にあるデータは必ずしも取り除いて良い訳ではない。また、一律に両端のデータを切り捨てることは、頻度分布固有の形状に対応しておらず、逆に不必要なデータを残してしまう恐れもある。
【0010】また、特開平11−154235号には、画像処理を行う際に利用される参照濃度値を適切に抽出することで、画像の露出状態に関わらず適切な画像処理が行われるようにするために、あらかじめ撮影条件のもつ特徴的な濃度に対する頻度分布の形状をニューラルネットワークを用いて学習させ、その形状との類似性を判断させることによって、分布の有効な濃度範囲を求める技術が示されている。
【0011】特開平11−154235号に示されている技術は、一律ではないが、やはり頻度分布の両端を切り取る方式である。また、参照濃度域はあらかじめニューラルネットワークによって学習されたデータとの類似性で決定するため、特開平10−271524号に示されている技術と同様に、頻度分布の任意の形状に完全に対応しているとは言えない。
【0012】本発明は、デジタルカメラで撮影された画像やスキャナで取り込まれた画像などの持つ光学情報の頻度分布から、撮影条件や露光状態を適切に判断することの可能な画像処理装置および画像処理方法および記録媒体を提供することを目的としている。
【0013】
【課題を解決するための手段】上記目的を達成するために、請求項1記載の発明は、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための情報を抽出する画像処理方法であって、前記光学情報の頻度分布を求める工程と、前記頻度分布から特異点を除去する工程と、前記特異点を除去した頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する工程とを有していることを特徴としている。
【0014】また、請求項2記載の発明は、請求項1記載の画像処理方法において、前記頻度分布からの特異点の除去は、前記頻度分布に対し平滑化を施すことによってなされることを特徴としている。
【0015】また、請求項3記載の発明は、請求項2記載の画像処理方法において、平滑化は、平滑化後の頻度分布が満たすべき、全体的な平滑化を調節する定数と、前記平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とを用いて、平滑の度合いを決定することによってなされることを特徴としている。
【0016】また、請求項4記載の発明は、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための特徴情報を抽出する画像処理装置であって、前記多階調画像を入力する画像情報入力手段と、画像情報入力手段で入力された多階調画像より光学情報を得る光学情報入手手段と、光学情報入手手段によって得られた光学情報の頻度分布を作成する頻度分布作成手段と、頻度分布作成手段によって作成された頻度分布から特異点を除去する特異点除去手段と、特異点除去手段によって特異点が除去された頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する抽出手段とを備えていることを特徴としている。
【0017】また、請求項5記載の発明は、請求項4記載の画像処理装置において、特異点除去手段は、前記頻度分布に対し平滑化処理を行うことによって、特異点を除去することを特徴としている。
【0018】また、請求項6記載の発明は、請求項5記載の画像処理装置において、特異点除去手段における平滑化処理は、平滑化後の頻度分布の満たすべき、全体的な平滑化を調節する定数と、平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とから、平滑化の度合いを決定することによってなされることを特徴としている。
【0019】また、請求項7記載の発明は、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報の頻度分布を求める処理と、前記頻度分布から特異点を除去する処理と、前記特異点を除去した頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する処理とをコンピュータに実行させるためのプログラムを記録したコンピュータ読取可能な記憶媒体である。
【0020】
【発明の実施の形態】以下、本発明の実施形態を図面に基づいて説明する。本願の発明者は、次の観点から本発明を完成させた。
【0021】すなわち、頻度分布の形状からその画像の撮影条件を判断するには、分布のピークが輝度レベルのいずれに存在していようとも、それが全体の形から見て特異的だとみなされるものを除けば良く、重要なのは、特異的なピークとそうでないピークとを見極める技術である。また、特異的なピークは、その画像データを修正処理する場合は必要であるが、撮影条件を判断する場合は精細さを欠く可能性があり必要ない。
【0022】また、ある輝度レベル範囲にピークが多数存在し、かつ、すべてが画像に関わっている場合は、それらのピークを連続的な塊、すなわち一つの山とみなせる方が撮影条件を判断するには好都合である。つまり、特異的なピークは判断材料からはずし、分布の細やかな部分よりも大まかな形状を見ることにより、後に行う撮影条件固有の頻度分布との類似性評価が行いやすくなる。また、一般的に画像の露光状態の悪さは撮影条件の寄与が大きい。つまり、撮影条件を正確に知ることで、高精細な画像処理の自動化が可能となる。
【0023】図1は本発明に係る画像処理装置の構成例を示す図である。図1を参照すると、この画像処理装置は、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための特徴情報を抽出するものであり、前記多階調画像を入力する画像情報入力手段200と、画像情報入力手段200で入力された多階調画像を記憶する第1の画像情報記憶部201と、第1の画像情報記憶部201に記憶された多階調画像より光学情報を得る光学情報入手手段202と、光学情報入手手段202によって得られた光学情報の頻度分布を作成する頻度分布作成手段203と、頻度分布作成手段203によって作成された頻度分布を記憶する第2の画像情報記憶部204と、第2の画像情報記憶部204に記憶された頻度分布から特異点を除去する特異点除去手段205と、特異点除去手段205によって特異点が除去された頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する抽出手段206とを備えている。
【0024】ここで、画像情報入力手段200としては、デジタルスチルカメラ、または、スキャナやビデオカメラなどを用いることができる。なお、以下では、説明の便宜上、画像情報入力手段200は、デジタルスチルカメラ(以下、“デジタルカメラ”と称す)であるとする。
【0025】また、光学情報入手手段202,頻度分布作成手段203,特異点除去手段205,抽出手段206は、パーソナルコンピュータなどのコンピュータで実現できる。また、第1の画像情報記憶部201,第2の画像情報記憶部204は、コンピュータのRAMなどで実現できる。
【0026】本発明は、デジタルカメラそのものやプリンタコントローラに組み込まれる画像処理にも応用できるが、以下では、デジタルカメラで撮影した画像をパーソナルコンピュータ上で扱う場合について説明する。
【0027】図2は多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための情報を抽出する本発明の処理の一例を示すフローチャートである。
【0028】図2の処理例では、デジタルカメラによって撮影した画像データを、専用ケーブルやフロッピディスク,スマートメディアなどを用いてコンピュータに取り込み(ステップS100)、光学情報を得る(ステップS101)。
【0029】ここで、撮影条件を知るためには、例えば画像の明るさを示す成分の分布を得れば良く、CIE1976L*a*b*均等色空間での明度成分や、次式(数1)で与えられる輝度成分等が適当である。
【0030】
【数1】
Y=0.299R+0.587G+0.114B
【0031】なお、CIE1976L*a*b*均等色空間については既知の技術なので説明を省略し、以下では輝度成分を仮定して説明する。
【0032】このように、ステップS101で光学情報(例えば輝度成分)が得られると、次に、頻度分布(輝度の頻度の分布)を得る(ステップS102)。頻度分布は、全画素について求めてもよいが、特性の傾向を判断することが目的であり、必ずしも全画素についての分布を求める必要はない。つまり、間引き処理などを行い、適度にサンプリングされた画像でも構わない。例えば、数1で変換された輝度成分のそれぞれ全階調レベル(以下、単に“レベル”と称す)についてそのレベル値ごとにカウントし、頻度分布I(u)を求める。
【0033】なお、光学情報からサンプリングを行い、輝度成分を求め頻度分布を得る手順は、可能であれば同時に行っても良い。
【0034】次に、頻度分布から特異的なスペクトル(ピーク)、すなわち特異点を除去する(ステップS103)。図3は特異点の除去の手順を説明するための図である。なお、図3において、横軸は輝度レベルuであり、縦軸は頻度I(u)である。図3において、周辺の頻度I(u)に比べて突出している成分が特異点である。
【0035】特異点は、画像情報入力手段200の性能により出力画像上に現われるノイズや、画像データ自体が持つ例えばフレア光などの影響を含むため、これを分離し、平滑化が施された太線部分の分布を平滑化後分布F(u)と呼ぶ。
【0036】ここで、平滑化後分布F(u)は、画像の撮影条件や露光状態を表している。特殊な撮影条件には、逆光撮影,フラッシュ撮影,夜景撮影などがあり、図4から図6は各撮影条件下での画像の特異点除去後の頻度分布の特徴を示す図である。また、図7は露出不足下の条件で撮影された画像の特異点除去前後の頻度分布を示す図である。
【0037】例えば、図4の逆光撮影の頻度分布では、被写体を表す領域より高いレベル域に背景部があるため、高いレベル値でのピークが存在する。よって、平均値<中央値であり、中央値と標準偏差とがともに極端に大きいのが特徴である。
【0038】また、図5のフラッシュ撮影の頻度分布は、フラッシュが被写体に当たるため、分布が二極化する。つまり、標準偏差が大きく、この点は逆光と特徴が似ているが、背景が暗いため、ピークは低いレベル値に存在する。よって、平均値>中央値である。
【0039】また、図6の夜景撮影は、暗いレベル値に頻度が集中するため、中央値≒平均値でともに低く、標準偏差も小さい。
【0040】また、図7の露出不足の状態で撮影された画像は、全体的に分布がレベルの低い方に片寄りがちではあるが、二極化はしないため、平均値>中央値であり、標準偏差は逆光やフラッシュ撮影のそれほどは大きくないのが特徴である。また、図7では、平滑化によって分布が滑らかにされ、大まかな形が把握しやすい。
【0041】このようにして、ステップS103で特異点を除去した後、撮影条件および露光状態の判別を行なう(ステップS104)。
【0042】先ず、撮影条件を判別する手順を述べる。例えば、平均値と中央値の絶対値、及び相対値、標準偏差の4つの特徴値で、少なくとも4つの撮影条件を判別できる。
【0043】すなわち、例えば、中央値にα1,α2(但しα1<α2)の2つの閾値を設け、標準偏差にβ1,β2(但しβ1<β2)の2つの閾値を設ける。
【0044】但し、α1はフラッシュ撮影画像の頻度分布の代表的な中央値、α2は逆光撮影画像の頻度分布の代表的な中央値である。また、β1は夜景撮影画像の頻度分布の代表的な標準偏差値(≒0)であり、β2は逆光またはフラッシュ撮影画像の頻度分布の代表的な標準偏差値である。これらの閾値を用いて、上記4つの撮影条件は、それぞれ以下の条件を満たす。
【0045】すなわち、逆光撮影では、撮影条件は、次式(数2)の条件を満たす。
【0046】
【数2】Ave−Mod<0, Mod≒α1 , s.d>β2
【0047】また、フラッシュ撮影では、撮影条件は、次式(数3)の条件を満たす。
【0048】
【数3】Ave−Mod>0, Mod≒α1 , s.d>β2
【0049】また、夜景撮影では、撮影条件は、次式(数4)の条件を満たす。
【0050】
【数4】Ave−Mod<α1(≒0), Mod<α1(≒0), s.d≒β1
【0051】また、露出不足では、撮影条件は、次式(数5)の条件を満たす。
【0052】
【数5】Ave−Mod<0, α1≪Mod≪α2, β1≪s.d≪β2
【0053】なお、上記各式において、Aveは頻度分布の平均値、Modは頻度分布の中央値、s.dは頻度分布の標準偏差である。
【0054】また、撮影条件を判別する仕方として、撮影条件を各々特徴付ける代表的なヒストグラムをデータベース化するなどしてあらかじめ用意しておき、それらと入力画像ヒストグラムとの類似度を調べる方法もある。類似度は、相関係数を求めたり、数段階に分けた各々のレベル内での平均値や中央値などで行列成分をとり、内積を求める等の方法がある。このようにして撮影条件を判別することができる。
【0055】また、一般的に、後に行う画質向上のための画像処理では、コントラスト及び色調の調整やエッジ強調などを行うが、撮影条件にあわせてそれらのパラメータを決定すれば、自動化に伴う失敗が少なく、高精細な処理が期待できる。
【0056】上述の例では、説明の便宜上、光学情報には、数1の輝度値を用いたが、これのかわりに、CIE1976L*a*b*均等色空間の明度成分などでも良い。また、ヒストグラムの類似性を4つの特徴量(特徴値)から判別したが、特徴値の数や判別方法は、これに限定されるものではない。また、上記以外の特殊な撮影条件がいくつか考えられるが、そのいずれを用いても良い。
【0057】いずれにせよ、本発明では、多階調画像の光学情報の頻度分布を平滑化してから特徴量を抽出することにより、撮影条件や露光状態をより高精細に判別することができる。
【0058】このように、本発明において、頻度分布からの特異点の除去は、前記頻度分布に対し平滑化を施すことによってなされる。
【0059】すなわち、頻度分布からその特徴を抽出する祭、ゲイン調整など撮影条件以外の要因により分布の形が乱れた場合、そのような特異点は排除されるべきである。一方、分布の全体的なバランスに比べ、単数または複数のピークが与える影響が大きければ、それは特異点とは判断されずに分布の特徴として残されなくてはならない。
【0060】特異点を取り除く場合に、頻度分布I(u)に対して、経験上どの程度の強さの平滑化を行えば良いかがあらかじめ分かっている場合は、メディアンフィルタ処理やウェーブレット平滑化などを行えば、短い処理時間で良好な結果を得ることができる。
【0061】メディアンフィルタによる平滑化は、次のようにしてなされる。すなわち、データ列:Xのi番目の入力データ値x(i),(i=0,1,2....n−1、ここでnは入力データ数)に対し、フィルタの大きさに当たるランクrを指定すると、平滑化された値として、メディアン値(中央値)yiが次式(数6,数7)のように算出される。
【0062】
【数6】Ji={x(i−r),x(i−r+1),…,x(i−1),x(i),x(i+1),…,x(i+r−1),x(i+r)}
【0063】
【数7】メディアン値=yi=Median(Ji), (i=0,1,2,…,n−1、ここでnは入力データ数)
【0064】但し、数6において、データ列:Xの範囲外のデータはすべて0とする。数6,数7によってメディアンフィルタによる平滑化がなされる。
【0065】また、ウェーブレット平滑化は、次のようになされる。なお、説明を簡単にするために、以下ではHaarのウェーブレットを使用する。Haarのウェーブレットは次式(数8)で表される。
【0066】
【数8】Ψh(x)=1, 0≦x<1/2Ψh(x)=−1, 1/2≦x<1Ψh(x)=0, それ以外
【0067】さて、区間[0,1)で任意の連続関数f(x)を区分的に定数である階段関数fJ(x)で近似する。また、区間[0,1)を2J個の小区間に分割し、小区間をIk(J)とする。ここで、小区間をIk(J)は、次式(数9)によって与えられる。
【0068】
【数9】Ik(J)=[k/2J,(k+1)/2J), k=0,1,2,…,2J−1
【0069】近似関数は、小区間:Ik(J)で、定数:ck(J)に等しいとすると、ウェーブレットの多重解像度解析理論によって、関数fJ(x)は次式(数10)で表される。
【0070】
【数10】


【0071】ここで、ウェーブレットの分解アルゴリズムにより次式(数11)の関係を満たす。
【0072】
【数11】dk(j−1)=(1/2)・(c2k(j)+c2k+1(j))
k(j−1)=(1/2)・(c2k(j)−c2k+1(j))
【0073】例えば、図8には、平滑化前の頻度分布I(u)と平滑化後の頻度分布F1(u)が示されており、また、図9には、I(u)とF1(u)とは異なる平滑化の強さで平滑化した平滑化後の頻度分布F2(u)が示されている。ここで、F1(u),F2(u)は、ともにメディアンフィルタを使用しているが、フィルタの大きさは、F1(u)が“9”であり、F2(u)は“3”である。
【0074】図8,図9を比べればわかるように、図9では平滑化が行えていない。すなわち、メディアンフィルタではフィルタの大きさに依存して平滑化の強さが決まるため、図9のように平滑化がうまくできない場合もある。しかし、取り除く対象のノイズが明確で、あらかじめ適切な平滑化の強さが分かっていれば、短時間で行える処理のため大変有効な方法である。同様のことはウェーブレット平滑化にも言える。
【0075】ここで、平滑化の方法として、メディアンフィルタやHaarのウェーブレット平滑化を挙げたが、平滑化の強さを調節できる方法であれば、これ以外の方法を用いることもできる。いずれにせよ、本発明では、頻度分布I(u)から特異点を取り除くのに、適切な平滑化処理を行う。
【0076】頻度分布に対し平滑化を施すことによって頻度分布から特異点を除去する方法は、頻度分布:I(u)に対する適切な平滑化の強さがあらかじめ分かっている場合には有効な方法であったが、分からない場合は何らかの判定条件を設け、平滑化の強さを決定しなくてはならない。
【0077】そこで、本発明は、このような場合に、平滑化後の頻度分布が満たすべき、全体的な平滑化を調節する定数と、平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とを用いて、平滑の度合いを決定することによって、平滑化を行なう。
【0078】ここで、平滑化手法としては、Reinsch C.H.らの提案している3次スプライン関数を用いた平滑化のアルゴリズムを使用することができる。なお、このアルゴリズムの詳細は、文献「Reinsch C.H.:Smoothing by Spline Functions, Numerische Mathematik, vol 10, p177-183, 1967」に示されている。
【0079】平滑化のアルゴリズムを以下に説明する。なお、説明の便宜上、輝度レベルをxi、頻度分布をyi、平滑化後分布であるスプライン関数分布(以下、予測値と呼ぶ)をf(xi)とする。
【0080】まず、xi,yi,i=0,1,2,…,nなるデータ(真値)を与える。但し、x0<x1<…<xnである。また、入力データ数(すなわち、輝度レベル数)をNとすると、n=N−1である。
【0081】次に、次式(数12)のような予測式(3次の予測式)を設定する。
【0082】
【数12】f(x)=ai+bi(x−xi)+ci(x−xi2+di(x−xi3但し、xi≦x<xi+1
【0083】スプライン平滑化法で求めたいのは、数12のf(x)である。すなわち、全てのi(i=0,1,2,…,n)についてのai,bi,ci,diが求まれば良い。このため、予測式f(x)が満たすべき境界条件を設定する。第1に、予測式f(x)は3次関数であるので、4次の微分係数が0でなくてはならない。第2に、節点で予測式f(x)が滑らかにつながるために、1次,2次,3次の微分係数が節点近傍で満たすべき条件を設定する。第3に、端点での条件を設定する。
【0084】先ず、4次の微分係数が0の条件は、次式(数13)によって与えられる。なお、f4(x)の“4”は4階微分を意味している。
【0085】
【数13】f4(x)=0, xi<x<xi+1,i=0,1,2,…,(n−1)
【0086】また、節点の微分係数の条件は、次式(数14)によって与えられる。
【0087】
【数14】


【0088】数14において、fk(x)の“k”はk回微分を意味している。また、pはラグラジュアンパラメータである。また、δyiは個々の節点における真値に対する平滑化の強さを指定するパラメータである。
【0089】また、端点の微分係数の条件は、次式(数15)によって与えられる。
【0090】
【数15】


【0091】次に、次式(数16)により、平滑化の強さを設定する。これを真値との誤差の最小条件と呼ぶ。
【0092】
【数16】


【0093】ここで、Sは予測関数の全体的な平滑化の強さを指定するパラメータである。
【0094】数14,数16におけるパラメータS及びδyiの指定についての推奨値は、例えば次のようなものである。すなわち、入力データ数がNの時、パラメータδyiを次式(数17)のように指定する。
【0095】
【数17】δyi=s.d(yi)/2
【0096】ここで、s.d(yi)は、yiの標準偏差(分散値)である。δyiを数17のように指定するとき、パラメータSを次式(数18)の範囲に設定する。
【0097】
【数18】N−(2N)1/2≦S≦N+(2N)1/2
【0098】このように、入力データ数がNのとき、パラメータδyiを数17により指定すると、パラメータSを数18の範囲に設定すれば、真値に対して良くフィッティングする。ここで、Sが大きいと直線近似に近付き、Sが小さいと真値に近付く。
【0099】数12の予測式f(x)は、具体的には、次のように算出される。すなわち、■ 先ず、直線xi,yi(i=0,1,2,…,n)に対し、平滑化関数のフィッティングの度合いを指定する。つまり、数17,数18のように、δyi,Sを与える。
■ 次に、p=0にする。
■ 数13〜数15により、ai,bi,ci,diを求める。
■ ai,bi,ci,diから、f(x)を求める。
■ 数16の左辺F(p)を計算し、最小条件を満たすか否か(数16を満たすか否か)、すなわち、真値とのフィッティング度合いが良いか否かを調べる。
■ この結果、数16の左辺F(p)がSよりも大きく、最小条件を満たさなかった場合、次式(数19)により、pの新しい値を求める(pを次式によりインクリメントする)。
【0100】
【数19】p=p−〔(F(p)−S1/2)/(dF(p)/dp)
【0101】このようにして、新しいpが求まったら、■に戻り、■で最小条件を満たすまで、■〜■を繰り返す。最小条件が満たされると、そのときのai,bi,ci,di■のf(x)の係数に決定し、これにより、f(x)が平滑化関数として求められる。
【0102】ここで、F(p)は数16の左辺であり、p=0の時は直線近似となり、p≧0 の時は3次のスプライン近似となる。
【0103】以上では、3次スプライン関数を用いた平滑化のアルゴリズムの一例を述べたが、数16の最小条件のように、判定条件を設けて平滑化を行う方法であれば、上記の例以外のアルゴリズムを用いることもできる。いずれにせよ、適切な平滑化の強さが分からない場合に、平滑化の強さを決定した後に平滑化を行う方法であれば良い。
【0104】このように、図1の画像評価装置では、次のような処理がなされる。
【0105】すなわち、デジタルカメラなどの画像情報入力手段200で画像データを入力すると、画像情報入力手段200によって入力された画像データは第1の画像情報記憶部201に記憶される。
【0106】次に、入力された画像データは、光学情報入手手段202により第1の画像情報記憶部201から読取られ、適当に間引き処理が行われて、数1で表される輝度値やCIE1976L*a*b*均等色空間などの所定の表色系に変換され、光学情報として算出される。
【0107】次に、頻度分布作成手段203により各階調レベルごとに度数がカウントされて、頻度分布が作成され、第2の画像情報記憶部204に記憶される。
【0108】次に、特異点除去手段205により第2の画像情報記憶部204から頻度分布が読み出され、特異的なスペクトルの除去が行われ、平滑化後分布F(u)が算出される。
【0109】次に、抽出手段206により撮影条件が判断される。例えば、前述のように、平均値と中央値の絶対値、及び相対値、標準偏差の4つの特徴値と数2〜数5を使い、撮影条件が判別される。
【0110】なお、撮影条件を各々特徴付ける代表的なヒストグラムと平滑化後分布ヒストグラムとの類似度を相関係数などで調べる方法もある。
【0111】また、一般的に、後に行う画質向上のための画像処理では、コントラスト及び色調の調整やエッジ強調などを行うが、撮影条件にあわせてそれらのパラメータを決定する手順を設ければ、自動化に伴う失敗が少なく、高精細な処理が期待できる。
【0112】上述の例では、説明の便宜上、光学情報には、数1の輝度値を用いたが、CIE1976L*a*b*均等色空間の明度成分などを用いても良い。また、ヒストグラムの類似性判別方法には種々のものが考えられるが、そのいずれを用いても良い。また、上記以外にも特殊的な撮影条件がいくつか考えられるが、そのいずれについて調べても良い。
【0113】いずれにせよ、多階調画像の光学情報の頻度分布を平滑化してから特徴量を抽出することにより、撮影条件や露光状態をより高精細に判別することができる。
【0114】図10は特異点除去手段205の処理概要を示す図である。
【0115】図10の例では、特異点除去手段205は、平滑化前の頻度分布(第2の画像情報記憶部204に記憶されている頻度分布)に対して適切な平滑化処理を行い、平滑化後分布を算出する。例えば、頻度分布に対しどの程度の強さの平滑化処理が適切かがあらかじめ分かっている場合は、メディアンフィルタ処理やウェーブレット平滑化処理などを行えば、短い処理時間で良好な結果を得ることができる。
【0116】具体的に、図10の処理例では、特異点除去手段205には、メディアンフィルタの大きさを表す定数eがあらかじめ記憶されている。この場合、特異点除去手段205は、第2の画像情報記憶部204から頻度分布を読み取ると、予め記憶されている係数eを用いて、頻度分布の平滑化処理としてメディアンフィルタ処理を行ない、平滑化後成分を算出する。
【0117】上述の例では、平滑化処理の一例として、メディアンフィルタ処理やウェーブレット平滑化処理を挙げたが、平滑化の強さを調節できる処理であれば、メディアンフィルタ処理やウェーブレット平滑化処理以外のものを用いることもできる。
【0118】いずれにせよ、頻度分布I(u)から特異点を取り除くのに、適切な平滑化処理を行うことができる。
【0119】具体的に、平滑化は、平滑化後の頻度分布が満たすべき、全体的な平滑化を調節する定数と、平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とを用いて、平滑の度合いを決定することによってなされる。
【0120】図11は平滑化処理の一例を示すフローチャートである。図11を参照すると、第2の画像情報記憶部204には、輝度レベル:xi、頻度分布:yi、入力データ数(すなわち、輝度レベル数):Nが記憶されている。この場合、ステップS401では、pおよびai,bi,ci,di(i=0,1,2,…,n)を初期化する。すなわち、p=0、ai=bi=ci=di=0とする。
【0121】次いで、ステップS402では、頻度分布:(xi,yi)と入力データ数:Nとにより、数13,数14,数15を満たすai,bi,ci,di(i=0,1,2,…,n)を決定する。
【0122】次いで、ステップS403では、あらかじめ指定した定数δyi,i=0,1,2,…,n(n=N−1),Sを読み出し、ステップS404で数16の左辺(=F(p))を算出し、ステップS405では、数16の条件(最小条件)を満たすか否かを判定する。
【0123】この判定の結果、数16の条件(最小条件)を満たしていなければ、ステップS406に進み、ステップS406では、pを数19に従ってインクリメントし、ステップS404に戻る。これに対し、ステップS405の判定の結果、数16の条件(最小条件)を満たしていれば、ステップS407に進み、ステップS407では、数12に従って予測値f(xi)、すなわち平滑化後分布を算出する。
【0124】図12は図1の画像処理装置のハードウェア構成例を示す図である。図12を参照すると、この画像処理装置は、例えばワークステーションやパーソナルコンピュータ等で実現され、全体を制御するCPU21と、CPU21の制御プログラム等が記憶されているROM22と、CPU21のワークエリア等として使用されるRAM23と、ハードディスク24と、画像情報を入力する画像情報入力手段(デジタルカメラやスキャナ,ビデオカメラなど)200とを有している。
【0125】ここで、CPU21は、図1の光学情報入手手段202,頻度分布作成手段203,特異点除去手段205,抽出手段206の機能を有している。
【0126】なお、CPU21におけるこのような光学情報入手手段202,頻度分布作成手段203,特異点除去手段205,抽出手段206等としての機能は、例えばソフトウェアパッケージ(具体的には、CD−ROM等の情報記録媒体)の形で提供することができ、このため、図12の例では、情報記録媒体30がセットさせるとき、これを駆動する媒体駆動装置31が設けられている。
【0127】換言すれば、本発明の画像処理装置は、デジタルカメラ,ディスプレイ等を備えた汎用の計算機システムにCD−ROM等の情報記録媒体に記録されたプログラムを読み込ませて、この汎用計算機システムのマイクロプロセッサに画像処理を実行させる装置構成においても実施することが可能である。この場合、本発明の画像処理を実行するためのプログラム(すなわち、ハードウェアシステムで用いられるプログラム)は、媒体に記録された状態で提供される。プログラムなどが記録される情報記録媒体としては、CD−ROMに限られるものではなく、ROM,RAM,フレキシブルディスク,メモリカード等が用いられても良い。媒体に記録されたプログラムは、ハードウェアシステムに組み込まれている記憶装置、例えばハードディスク装置にインストールされることにより、このプログラムを実行して、本発明の画像処理機能を実現することができる。
【0128】また、本発明の画像処理機能を実現するためのプログラムは、媒体の形で提供されるのみならず、通信によって(例えばサーバによって)提供されるものであっても良い。
【0129】
【発明の効果】以上に説明したように、請求項1,請求項4,請求項7記載の発明によれば、多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための情報を抽出するときに、前記光学情報の頻度分布を求め、頻度分布から特異点を除去し、特異点を除去した頻度分布から、多階調画像の撮影条件や露光状態を判別するための情報を抽出するようになっているので、適切で高精細に撮影条件や露光状態を判断することが可能となる。
【0130】また、請求項2,請求項5記載の発明によれば、頻度分布からの特異点の除去は、頻度分布に対し平滑化を施すことによってなされるので、撮影条件や露光状態を判断するのに無用な成分を除去することが可能となる。
【0131】また、請求項3,請求項6記載の発明によれば、平滑化は、平滑化後の頻度分布が満たすべき、全体的な平滑化を調節する定数と、平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とを用いて、平滑の度合いを決定することによってなされるので、頻度分布が様々な形をとっていても適切な平滑化が可能である。
【図面の簡単な説明】
【図1】本発明に係る画像処理装置の構成例を示す図である。
【図2】本発明による画像処理の一例を示すフローチャートである。
【図3】頻度分布から特異点を除去する手順を説明するための図である。
【図4】逆光撮影条件下での画像の特異点除去後の頻度分布の特徴を示す図である。
【図5】フラッシュ撮影条件下での画像の特異点除去後の頻度分布の特徴を示す図である。
【図6】夜景撮影条件下での画像の特異点除去後の頻度分布の特徴を示す図である。
【図7】露出不足下の条件で撮影された画像の特異点除去前後の頻度分布を示す図である。
【図8】平滑化前の頻度分布I(u)と平滑化後の頻度分布F1(u)を示す図である。
【図9】I(u)とF1(u)とは異なる平滑化の強さで平滑化した平滑化後の頻度分布F2(u)を示す図である。
【図10】特異点除去手段の処理概要を示す図である。
【図11】平滑化処理の一例を示すフローチャートである。
【図12】図1の画像処理装置のハードウェア構成例を示す図である。
【符号の説明】
200 画像情報入力手段
201 第1の画像情報記憶部
202 光学情報入手手段
203 頻度分布作成手段
204 第2の画像情報記憶部
205 特異点除去手段
206 抽出手段
21 CPU
22 ROM
23 RAM
24 ハードディスク
30 記録媒体
31 媒体駆動装置

【特許請求の範囲】
【請求項1】 多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための情報を抽出する画像処理方法であって、前記光学情報の頻度分布を求める工程と、前記頻度分布から特異点を除去する工程と、前記特異点を除去した頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する工程とを有していることを特徴とする画像処理方法。
【請求項2】 請求項1記載の画像処理方法において、前記頻度分布からの特異点の除去は、前記頻度分布に対し平滑化を施すことによってなされることを特徴とする画像処理方法。
【請求項3】 請求項2記載の画像処理方法において、平滑化は、平滑化後の頻度分布が満たすべき、全体的な平滑化を調節する定数と、前記平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とを用いて、平滑の度合いを決定することによってなされることを特徴とする画像処理方法。
【請求項4】 多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報から撮影条件や露光状態を判別するための特徴情報を抽出する画像処理装置であって、前記多階調画像を入力する画像情報入力手段と、画像情報入力手段で入力された多階調画像より光学情報を得る光学情報入手手段と、光学情報入手手段によって得られた光学情報の頻度分布を作成する頻度分布作成手段と、頻度分布作成手段によって作成された頻度分布から特異点を除去する特異点除去手段と、特異点除去手段によって特異点が除去された頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する抽出手段とを備えていることを特徴とする画像処理装置。
【請求項5】 請求項4記載の画像処理装置において、特異点除去手段は、前記頻度分布に対し平滑化処理を行うことによって、特異点を除去することを特徴とする画像処理装置。
【請求項6】 請求項5記載の画像処理装置において、特異点除去手段における平滑化処理は、平滑化後の頻度分布の満たすべき、全体的な平滑化を調節する定数と、平滑化前の頻度分布と平滑化後の頻度分布との差の大きさを個々に調節する定数とから、平滑化の度合いを決定することによってなされることを特徴とする画像処理装置。
【請求項7】 多階調画像を構成する各画素の明度情報あるいは濃度情報あるいは色度情報のうち少なくとも1つの光学情報の頻度分布を求める処理と、前記頻度分布から特異点を除去する処理と、前記特異点を除去した頻度分布から、前記多階調画像の撮影条件や露光状態を判別するための情報を抽出する処理とをコンピュータに実行させるためのプログラムを記録したコンピュータ読取可能な記憶媒体。

【図1】
image rotate


【図10】
image rotate


【図2】
image rotate


【図3】
image rotate


【図4】
image rotate


【図5】
image rotate


【図6】
image rotate


【図7】
image rotate


【図12】
image rotate


【図8】
image rotate


【図9】
image rotate


【図11】
image rotate


【公開番号】特開2002−10073(P2002−10073A)
【公開日】平成14年1月11日(2002.1.11)
【国際特許分類】
【出願番号】特願2000−187511(P2000−187511)
【出願日】平成12年6月19日(2000.6.19)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】