画像処理回路及び画像処理方法
【課題】 本発明は、画像処理回路及び画像処理方法に関し、例えばビデオカメラ、電子スチルカメラ等に適用して、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができるようにする。
【解決手段】 本発明は、エッジを保存したまま入力画像Xを平滑化してゲイン補正係数Gを求め、このゲイン補正係数Gにより入力画像Xの画素値x(i,j)を補正する。
【解決手段】 本発明は、エッジを保存したまま入力画像Xを平滑化してゲイン補正係数Gを求め、このゲイン補正係数Gにより入力画像Xの画素値x(i,j)を補正する。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理回路及び画像処理方法に関し、例えばビデオカメラ、電子スチルカメラ等における撮像結果の処理、記録、液晶表示装置等における画像表示、パーソナルコンピュータ等による画像処理、画像合成、さらにはこれらによる画像の伝送に適用することができる。本発明は、エッジを保存したまま入力画像を平滑化してゲイン補正係数を求め、このゲイン補正係数により入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができるようにする。
【0002】
【従来の技術】従来、撮像装置等の種々の画像処理回路においては、画像のダイナミックレンジを圧縮して記録、再生等の種々の処理を実行するようになされている。
【0003】このようなダイナミックレンジを圧縮する処理としては、画像全体の階調を補正する方法と、画像の低周波数成分についてのみ階調を補正する方法とがあり、前者においては、ガンマ補正、ニー補正、さらにはいわゆるヒストグラム等価等により階調を補正してダイナミックレンジを圧縮するようになされている。これに対して後者においては、ガンマ補正、ニー補正等によりダイナミックレンジを圧縮するようになされている。
【0004】
【発明が解決しようとする課題】しかしながらこれらのダイナミックレンジ圧縮法にあっては、実用上未だ不十分な問題があった。
【0005】すなわち画像全体の階調をガンマ補正、ニー補正等により補正する方法にあっては、ハイライト部やヒストグラムの少ない輝度域等の、コントラストの圧縮対象である輝度域において、ダイナミックレンジと同時に被写体のコントラストも圧縮される。これによりこの方法の場合では、ダイナミックレンジの圧縮率を大きくすることが困難で、またダイナミックレンジの圧縮によりコントラストの劣化したメリハリのない画像が生成される問題があった。
【0006】これに対して画像の低周波数成分についてのみガンマ補正、ニー補正等により階調を補正する方法にあっては、ダイナミックレンジの圧縮により画像の低周波成分と高周波成分との比率が変化する。これによりこの方法の場合では、ダイナミックレンジの圧縮によりエッジが不自然に強調され、品位のない画像が生成される問題があった。
【0007】本発明は以上の点を考慮してなされたもので、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができる画像処理回路及び画像処理方法を提案しようとするものである。
【0008】
【課題を解決するための手段】かかる課題を解決するため請求項1又は請求項2の発明においては、画像処理回路又は画像処理方法に適用して、入力画像のエッジを保存して入力画像の画素値を平滑化し、この平滑化の出力値に応じてゲイン補正係数を生成して入力画像の画素値を補正する。
【0009】請求項1又は請求項2の構成によれば、入力画像のエッジを保存して入力画像の画素値を平滑化すれば、入力画像から、画像のダイナミックレンジを決定付ける成分だけを独立して取り出することができる。これによりこの平滑化の出力値に応じてゲイン補正係数を生成して入力画像の画素値を補正すれば、画像のダイナミックレンジとは独立な、圧縮せずに保存しておくことが望まれる被写体のコントラストについては劣化を有効に回避して、所望の圧縮率によりダイナミックレンジを圧縮することができる。また被写体のコントラストについては劣化を有効に回避できることにより、不自然なエッジ強調も防止することができ、これらにより入力画像の品位を維持したまま、高い圧縮率により入力画像のダイナミックレンジを圧縮することができる。
【0010】
【発明の実施の形態】以下、適宜図面を参照しながら本発明の実施の形態を詳述する。
【0011】(1)第1の実施の形態の構成(1−1)第1の実施の形態の全体構成図1は、本発明の第1の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路1は、ビデオカメラ、電子スチルカメラ等の撮像装置、種々の画像処理装置、画像伝送装置、さらにはパーソナルコンピュータにおける画像処理等に適用され、入力画像Xのダイナミックレンジを圧縮して出力画像Yをする。
【0012】なおここで入力画像X及び出力画像Yは、2次元デジタル画像であり、以下においては、水平方向及び垂直方向における画素の位置をそれぞれ符号i及びjにより表して、それぞれ入力画像X及び出力画像Yの画素値をx(i、j)及びy(i、j)により表す。またこれら画素値x(i、j)及びy(i、j)に対応する各処理値を同様に符号i及びjを用いて示す。
【0013】この画像処理回路1において、非線型平滑化器2は、図2(A)に示すように、大きなダイナミックレンジによる入力される入力画像Xの画素値x(i、j)を平滑化して、画素値s(i、j)(図2(B))による平滑化画像Sを出力する。この平滑化の処理において、非線型平滑化器2は、入力画像の画素値情報と空間情報とから、各画素値x(i、j)がエッジにおけるものか否か判定して処理することにより、小振幅成分のみを平滑化し、大きなエッジ成分については、平滑化の処理を実行しないようにする。これにより非線型平滑化器2は、エッジを保存したまま入力画像Xの画素値x(i、j)を平滑化し、画像のダイナミックレンジを決定付ける成分だけを独立して取り出すようになされている。
【0014】ルックアップテーブル(LUT)3は、非線型平滑化器2から出力される平滑化画像Sの画素値s(i、j)を基準にして入力画像Xの画素値x(i、j)を補正するためのゲイン補正係数g(i、j)(図2(C))を出力する。ここで画像処理回路1では、このゲイン補正係数g(i、j)により入力画像Xの画素値x(i、j)を補正してダイナミックレンジを圧縮することにより、ルックアップテーブル3は、例えば図3に示すような単調減少特性を有する入出力特性によりこのゲイン補正係数g(i、j)を出力する。なおここでこの図3に示す入出力特性においては、平滑化画像Sの画素値s(i、j)が所定値s1より小さい場合には、値1、0のゲイン補正係数g(i、j)を出力し、平滑化画像Sの画素値s(i、j)がこの所定値s1より増大するに伴って指数関数的にゲイン補正係数g(i、j)が減少し、画素値s(i、j)の最大値s maxでゲイン補正係数g(i、j)が値g1となる特性である。
【0015】このような入出力特性により、ルックアップテーブル3は、例えば図2(A)に示したような小さな画素値の変化を伴ってエッジの前後で入力画像Xの画素値x(i、j)が立ち上がっている場合には、小さな画素値の変化が取り除かれてなる平滑化画像Sの画素値s(i、j)が得られ、この平滑化画像Sの画素値s(i、j)の小さな部位ほど値の小さなゲイン補正係数g(i、j)(図2(C))を出力する。このとき平滑化画像Sの画素値s(i、j)においてエッジが保存されていることにより、ルックアップテーブル3は、エッジの部分では値が急激に変化するようにゲイン補正係数g(i、j)を出力する。
【0016】遅延回路4は、非線型平滑化器2、ルックアップテーブル3における画像データの処理に要する時間の分だけ、入力画像Xを構成する画像データを所定時間遅延させ、これによりルックアップテーブル3から出力されるゲイン補正係数g(i、j)に対して入力画像Xの画素値x(i、j)をタイミング合わせして出力する。
【0017】乗算回路5は、遅延回路4から出力される入力画像Xの画素値x(i、j)をゲイン補正係数g(i、j)で乗算することにより、入力画像Xの画素値x(i、j)をゲイン補正係数g(i、j)により補正して画素値z(i、j)による画像Zを出力する。
【0018】ここでこの実施の形態においては、ゲイン補正係数g(i、j)が値1以下に設定されていることにより、乗算回路5は、図2(D)に示すように、入力画像Xのダイナミックレンジを圧縮してなる画素値z(i、j)による画像Zを出力することになる。さらにエッジを保存したまま小さな画素値の変化が取り除かれてなる平滑化画像Sより、エッジの部分では値が急激に変化するようにゲイン補正係数g(i、j)が生成されることにより、エッジを除く他の部分では、入力画像Xにおける小さな画素値の変化を保存したまま、エッジの部分だけ画素値の変化を圧縮した傾向により画素値z(i、j)による画像Zが生成される。すなわち画像の大局的なダイナミックレンジのみ選択的に圧縮して画像Zが生成される。
【0019】これによりこの実施の形態では、小さな画素値の変化が圧縮されてなるコントラスト感の低下、周波数特性の変化による不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮してなる画像Zを出力するようになされている。
【0020】ルックアップテーブル(LUT)6は、このようにしてダイナミックレンジを圧縮してなる画像Zの特性を最終的に設定して出力画像Yを生成する。すなわちルックアップテーブル6は、図4に示すように、黒近傍、白近傍の階調を圧縮する入出力特性に設定される。これによりルックアップテーブル6は、乗算回路5から出力される画像データのダイナミックレンジにおいて、出力画像Yのダイナミックレンジを越える部分における階調の飽和を防止し、出力画像Yにおいて黒近傍又は自近傍において階調が失われるような状況を有効に回避するようになされている。
【0021】(1−2)非線型平滑化器図5は、非線型平滑化器2の構成を示すブロック図である。この非線型平滑化器2において、ローパスフィルタ(LPF)11は、入力画像Xを平滑化する二次元の線形ローパスフィルタにより構成され、入力画像Xにおける画素値x(i、j)を事前にある程度平滑化することにより、以降の処理により点状のノイズの発生を防止する。なおローパスフィルタ(LPF)11は、入力画像Xの水平方向、垂直方向に対してそれぞれ1次元の線形ローパスフィルタを適用することもよっても、同様の処理を実行することができる。
【0022】ルックアップテーブル(LUT)12は、ローパスフィルタ(LPF)11より出力される画像データF1の画素値を対数変換して出力し、これにより続く以降の処理において対数化された画素値により画素値を平滑化し、画素値によって平滑化の程度が異ならないようにする。
【0023】改良型εフィルタ13AXは、εフィルタと呼ばれる非線型平滑化フィルタの一部を変更したフィルタであり、ルックアップテーブル12より入力される入力画像L1の水平方向について、エッジを保存したまま画素値を平滑化して出力する。
【0024】続く改良型εフィルタ13BXは、改良型εフィルタ13AXと同様の非線型平滑化フィルタであり、改良型εフィルタ13AXより入力される入力画像L2の水平方向について、エッジを保存したまま画素値を平滑化して出力する。改良型εフィルタ13BXは、後述する遅延回路における遅延時間が改良型εフィルタ13AXと異なることにより、平滑化の処理に供するサンプリングピッチが改良型εフィルタ13BXと異なる点を除いて、改良型εフィルタ13BXと同一に構成される。
【0025】非線型平滑化器2では、このような平滑化の処理に供するサンプリングピッチが異なる改良型εフィルタを所定段数だけ直列に接続して配置する。これにより非線型平滑化器2では、各サンプリングピッチに対応する各周波数成分の画素値の変動に対してそれぞれ平滑化の処理を実行し、周波数帯域全体として見たときに、広い周波数帯域にわたって十分に平滑化の処理を実行するようになされている。
【0026】改良型εフィルタ13AY、13BY、……は、垂直方向について平滑化の処理を実行する点を除いて、改良型εフィルタ13AX、13BX、……と同一に構成される。このためこれら改良型εフィルタ13AY、13BY、……の初段である改良型εフィルタ13AYは、図示しないメモリを介して画像データの配列が変更されて入力されるようになされている。これらにより非線型平滑化器2は、水平方向及び垂直方向に、エッジを保存したまま広い周波数帯域で平滑化の処理を実行する。
【0027】ルックアップテーブル(LUT)14は、改良型εフィルタ13AY、13BY、……により平滑化された画像データに対して、ルックアップテーブル12とは逆に、逆対数変換の処理を実行して出力する。ローパスフィルタ(LPF)15は、ローパスフィルタ11と同様の線形ローパスフィルタであり、エッジを保存して平滑化されてなるルックアップテーブル14の出力画像L2に対して、僅かにエッジを鈍らせ、これにより出力画像Yのエッジ近傍領域を滑らかにして、一連の処理による違和感を防止する。
【0028】(1−2−1)改良型εフィルタ改良型εフィルタ13AXは、一般のεフィルタの構成を一部変更したフィルタであることにより、以下においてはεフィルタとの対比により改良型εフィルタ13AXの構成を説明する。なお改良型εフィルタ13BX、……は、平滑化の処理に供するサンプリングピッチが異なる点を除いて、改良型εフィルタ13AXと同一の構成であることにより、ここではこの異なる構成に係る部位について適宜説明し、重複した説明は省略する。また改良型εフィルタ13AY、13BY、……については、処理対象である画像データの入力順序が異なる点を除いて、改良型εフィルタ13AX、13BX、……と同一構成であることにより、ここでは重複した説明を省略する。
【0029】ここで通常のεフィルタは、1次元による2N+1タップの場合、次式により入出力特性を表することができる。なおここでsn は出力値であり、rn は入力値であり、εは所定の基準値である。またrn は処理対象の中心の入力値であり、ak は重み付け係数である。また第2式のシグマの範囲は、k=−Nからk=Nの範囲である。
【0030】
【数1】
【0031】これによりεフィルタでは、図6(A)に示すように、画素値rn である画素pn について出力値sn を計算する場合、計算の対象である画素p1 〜p2N+1のうちで、中心画素値rn に対する画素値差分の絶対値│rn −rn-k │が基準値εより大きな画素pn-k については、その画素値rn-k が中心画素値rn に置き換えられて、またこの画素値差分の絶対値│rn −rn-k │が基準値ε以下の画素pn-k については、この画素pn-k の画素値rn-k が使用されて、重み付け加算の処理が実行される。
【0032】すなわちεフィルタでは、図6(A)に示すように、画素Pn の出力値sn を計算する場合に、この画素Pn の前後の画素の中で、基準値εを判定基準として、画素Pn より大きく画素値rm が異なる画素pm については、画素値rm を画素値rn に置き換えて計算するものであり、これにより単なる線型ローパスフィルタによる処理との比較により図6(B)に示すように、エッジを保存したまま、小さな画素値の変化を抑圧する。
【0033】ところがこの方法の場合、出力値を算出する画素Pn の値rn を中心にして基準値εにより画素値を判定し、画素Pn の画素値rn との置き換えにより重み付け加算して出力値sn を計算することにより、図6の示したエッジの両側のように、ほぼ一定の直流レベルにより画素値xが変化している場合には、エッジを保存して小さな画素値の変化を抑圧することができるのに対し、図7に示すように、直流レベルが変化している場合には、十分に平滑化することが困難になる。
【0034】すなわち入力値rの直流レベルが徐々に増大又は減少している場合には、出力値sn を算出するPn より遠ざかるに従って基準値εによる領域に含まれる画素数が少なくなる。またこの場合に、画素Pn の値rn の置き換えにより重み付け加算しても、正しく直流レベルの変化を反映して平滑化の処理を実施していないことになる。
【0035】このためこの実施の形態では、(1)式との対比により次式により示すように、直流レベルの変化を一定の関数により近似し、画素Pn の画素値rn を中心にしてこの関数により領域(2ε1)を設定して画素値を判定する。またこの領域より飛び出す画素については、この関数上における画素値に置き換えて平滑化の処理を実行する。なおここで(2)式中の第2式のシグマの範囲は、k=−Nからk=Nの範囲であり、(3)式中の第2式のシグマの範囲は、s=−Mからs=M−1の範囲である。
【0036】
【数2】
【0037】
【数3】
【0038】ここではこの関数に一次関数を適用し、このような直流レベルの変化を直線近似して処理する。すなわち出力値sn を計算する前後2M画素間で、隣接する画素間を結ぶ直線の傾きの平均値Ka を求め、さらにこの傾きの平均値Ka を基準にして領域を設定して画素値を判定し、さらにはこの直線上に位置するように画素値を置き換える。これによりこの実施の形態では、従来に比して一段と確実にエッジを保存しつつ平滑化の処理を実行できるようになされている。なお改良型εフィルタのKa =0の場合が、図6について説明した一般のεフィルタによる特性である。
【0039】図8は、改良型εフィルタ13AXを示すブロック図である。この改良型εフィルタ13AXは、所定の遅延時間による遅延回路(D)21A〜21Fに平滑処理に、係る画素値rを順次入力し、これにより7タップにより構成される。ここでこれら遅延回路21A〜21Fは、図9に示すように、所定段数(m個)のレジスタ22A〜22Nを直列接続して構成される。これにより改良型εフィルタ13AXは、レジスタ列22A〜22Nの段数(すなわち遅延回路21A〜21Fの遅延時間に対応する)に応じたサンプリングピッチにより、7サンプリングの画素値r(i,j)を選択できるようになされている。
【0040】かくするにつき改良型εフィルタ13AXは、このようにレジスタ22A〜22Nの段数に対応するサンプリングピッチにより画素値rを選択して処理することにより、その分、出力値sを計算する画素の前後、広い範囲の画素値を使用して平滑化の処理を実行し、この広い範囲に対応する後段の処理を簡略化するようになされている。なお、このように広い範囲の画素値を使用して平滑化の処理を実行すれば、その分低い周波数による画素値の変化を十分に抑圧することができる。
【0041】なお改良型εフィルタ13BX、……においては、この改良型εフィルタ13AXとはこのレジスタの段数が異なるよう構成されて対応する遅延回路21A〜21Fの遅延時間がこの改良型εフィルタ13AXとは異なるように設定され、これによりこの改良型εフィルタ13AXとは異なる周波数特性により平滑化の処理を実行するようになされている。
【0042】傾き計算回路24(図8)は、初段の遅延回路21Aに入力される画素値をこれら遅延回路21A〜21Fの出力値と共に入力することにより、遅延回路21A〜21Fの遅延時間に対応する7サンプリングのr(i,j)を入力し、(3)式の演算処理を実行することにより傾きの平均値kaを計算して出力する。
【0043】演算回路25A〜25Fは、それぞれ遅延回路21A〜21Fより出力される7タップの画素値のうち、中心タップの出力値rn を除く各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mについて、(2)式中の第3式及び第4式の演算処理を実行し、演算結果wn-3m、wn-2m、wn-m 、wn+m 、wn+2m、wn+3mを出力する。なおここでmは、遅延回路21A〜21Fにおけるレジスタの段数である。
【0044】すなわち演算回路25A(25B〜25F)は、図10に示すように、乗算回路28に傾きの平均値kaを入力し、ここでそれぞれ各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mに対応する中心タップからの距離kを乗算し、これにより傾きKa による一次関数について、各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mのサンプリング点における中心タップ出力rn からの偏差Ka kを計算する((2)式及び(3)式参照)。
【0045】減算回路29は、この乗算回路28の出力値Ka kを各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mより減算することにより(2)式中のvn-k を計算して出力する。
【0046】減算回路30は、この減算回路29の出力値vn-k を中心タップ出力rn から減算することにより、(2)式中の(rn −vn-k )を計算して出力する。
【0047】絶対値化回路31は、この減算回路30の出力値(rn −vn-k )を絶対値化することにより、(2)式中の│rn −vn-k │を計算して出力する。
【0048】比較回路(CMP)32は、この絶対値化回路31の出力値│rn −vn-k │と図7について上述した領域設定用の基準値ε1とを比較することにより、(2)式における大小判定の処理を実行し、判定結果をセレクタ(SEL)の切り換え信号として出力する。
【0049】加算回路34は、中心タップ出力rn と乗算回路28の出力値Ka kを加算することにより、(2)式中のrn +Ka ・kを計算して出力する。
【0050】セレクタ33は、比較回路32から出力される切り換え信号SELにより、各各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3m又は加算回路34の出力値rn +Ka ・kを選択的に出力する。
【0051】これらにより演算回路25は、傾き計算回路24で計算された傾きによる一次関数が出力値sを計算する画素pn の画素値rn の位置を通過するように配置すると共に、この配置による直線の上下に値ε1の領域を設定し、この領域より画素値が飛び出す画素については、エッジと判定してこの直線上における画素値を置き換え、この領域内の画素については、この画素本来の画素値により演算結果を出力する。
【0052】重み付け回路36A〜36Gは(図8)、それぞれ各タップ出力に対応する重み付け係数により演算回路25A〜25Fの出力値又は中央タップの出力値を重み付けして出力し、これにより(2)式中の第1式におけるシグマの各項の演算処理を実行する。
【0053】加算回路37は、これら重み付け回路36A〜36Gの出力値を加算し、これにより(2)式中の第1式の演算処理を実行し、処理結果を出力する。
【0054】(1−2−2)ルックアップテーブル3ここで図11は、この画像処理回路1による低周波数成分の階調変換特性を示す特性曲線図である。ルックアップテーブル3は、図11に示す階調変換特性により入出力特性が設定される。
【0055】すなわち符号L2による特性により示すように、この画像処理回路1において、最も大きな値により低周波数成分による画素値s maxが入力された場合に、対応する出力値がs cmpとなるようにする。この場合ダイナミックレンジの圧縮率g1は、s cmp/s maxで表される。符号L2により表されるように、低周波数成分による画素値s1までの範囲においては、入力値に対して利得1による出力値を出力するようにする。なお画素値s1は、出力画像のダイナミックレンジの上限値より小さな値とし、入力画像Xにおいて値s1以下の画素値については、敢えて階調を圧縮する必要が無いものとする。
【0056】ルックアップテーブル3は、この画素値s1までの変換特性である利得1の変換特性(符号L1により示す)を用いて、各縦軸の値をこの符号L1による変換特性により割り算して符号L2/L1により表される演算により入出力特性が設定されるようになされている。
【0057】(2)第1の実施の形態の動作以上の構成において、画像処理回路1においては(図1)、撮像結果等による入力画像Xが非線型平滑化器2に入力され(図2(A)及び(B))、ここでエッジを保存したまま平滑化処理されて平滑化画像Sが生成される。ここでこの平滑化画像Sにおいては、エッジを保存したまた平滑化処理されていることにより、画像のダイナミックレンジとは独立な、圧縮せずに保存しておくことが望まれる被写体のコントラストを決定付ける成分が除去されて、画像のダイナミックレンジを決定付ける成分だけを独立して取り出されていることになる。
【0058】画像処理回路1においては、この平滑化画像Sによりルックアップテーブル3をアクセスしてゲイン補正係数g(i,j)が順次生成され(図2(C)及び図3)、遅延回路4を介して入力される入力画像Xの画素値x(i,j)が乗算回路5で乗算されて入力画像Xのダイナミックレンジが圧縮される(図2(D))。このとき入力画像Xにおいては、画像のダイナミックレンジを決定付ける成分だけである平滑化画像Sによるゲイン補正係数g(i,j)により画素値x(i,j)が補正されることにより、局所的な画素値の変化、画像のエッジについては保存されたまま、大局的な画素値の変化のみ選択的に圧縮されて生成され、これにより見た目のコントラストであるコントラスト感の劣化を防止してダイナミックレンジが十分に圧縮されてなる画像Zが生成される。またエッジについても、周波数特性の変化が防止され、これによりエッジの不自然な強調が防止される。
【0059】画像処理回路1においては、このようにしてダイナミックレンジが圧縮されてなる画像Zの画素値によるルックアップテーブル6のアクセスにより(図1及び図4)、黒近傍、白近傍の階調が選択的に圧縮され、これにより極めて大きなダイナミックレンジによる入力画像Xが入力された場合であっても、黒近傍、白近傍で階調が失われる状況を有効に回避して出力画像Yが出力される。
【0060】これにより画像処理回路1においては、例えばビデオカメラ、電子スチルカメラ等の撮像装置において、撮像結果よりダイナミックレンジの狭い記録再生系で撮像結果を記録再生して撮像結果の品位の劣化を防止することができる。なお撮像装置においては、撮像素子の選定により、また感度の異なる画像の合成等により、このような通常に比してダイナミックレンジに広い撮像結果を得ることができる。また画像表示装置に適用して、このようなダイナミックレンジの広い画像を表示する場合に、高品位の画像を表示することができる。
【0061】また逆光補正等の画像補正、コンピュータによる画像合成、画像処理に適用して、広いダイナミックレンジによる画像を種々に処理しても、品位の劣化を防止して処理結果を伝送、記録、再生することができることにより、このような種々の処理についても高品位に処理することができる。また画像伝送装置に適用した場合には、画質の劣化を有効に回避して高速度で画像伝送することができる。
【0062】このようにしてエッジ成分を保存して画素値を平滑化するにつき、画像処理回路1では(図5)、非線型平滑化器2において、ローパスフィルタ11により入力画像Xの画素値x(i,j)を帯域制限した後、改良型εフィルタ13AX、……によりエッジを保存した平滑化の処理が実行され、これにより出力画像Yにおける点状のノイズが防止される。
【0063】またこの非線型平滑化器2の最終段のローパスフィルタ15によって平滑化画像Sを帯域制限することにより、エッジ近傍の不自然な画素値の変化が低減され、これによりエッジ近傍が滑らかに表現されてなる出力画像Yが得られる。
【0064】さらにルックアップテーブル12により画素値x(i,j)を対数変換してエッジを保存した平滑化の処理を実行した後、ルックアップテーブル14により逆対数変換して平滑化画像Sが生成され、これにより平滑化の処理結果における画素値による処理結果の相違が防止され、出力画像Yにおける不自然なダイナミックレンジの圧縮が防止される。
【0065】さらに改良型εフィルタ13AX、13AX、……により、順次エッジを保存して高周波数成分を抑圧するフィルタリングの処理が水平方向に実行された後、続く改良型εフィルタ13AY、13AY、……により、同様の処理が垂直方向に実行され、これにより垂直、水平方向、さらには斜め方向に、十分なコントラスト感を確保し、かつエッジの不自然さを防止してなる出力画像Yを生成することが可能となる。
【0066】さらにこのように各方向に順次エッジを保存したフィルタリング処理を実行する改良型εフィルタ13AX、13AX、……、13AY、13AY、……において、異なるサンプリングピッチによりフィルタリングの処理を繰り返し実行し、これにより画像処理回路1では、エッジの情報を保存したまま広い周波数帯域で十分平滑化されてなる平滑化画像Sが生成される。これにより画像処理回路1では、このような平滑化画像Sに特定周波数成分のみが選択的に残らないように平滑化の処理を実行することができ、その分出力画像Yの画質劣化を有効に回避することができる。
【0067】各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては(図7及び図8)、遅延回路21A〜21Fの直列回路に順次画素値rが入力され、この遅延回路21A〜21Fよる7つのタップ出力について、中心タップ出力を基準にして他の各タップ出力の値がそれぞれ演算回路25A〜25Fで判定される(図10)。さらにこの判定により、中心タップ出力に対して大きく画素値が異なる場合にはエッジを跨ぐものと判定され、この大きく異なる画素値が所定値に置き換えられ、これら中心タップ出力と他のタップ出力との間の重み付け加算が重み付け回路36A〜36F、加算回路37により実行されて平滑化の処理が実行される。
【0068】この処理において各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、各遅延回路21A〜21Fがレジスタ22A〜22Nの直列回路により構成されていることにより、連続する画素値をこの直列接続したレジスタ数によるピッチによりサンプリングして平滑化の処理が実行される。これにより演算回路25A〜25F、重み付け回路36A〜36F、加算回路37については、このタップ出力に対応する数だけ配置して平滑化の処理を実行でき、その分全体構成を簡略化することができる。また平滑化の処理対象である画素値については、これら演算回路25A〜25F、重み付け回路36A〜36F、加算回路37の構成に比して、広い範囲の画素値を用いて平滑化の処理を実行することができ、これにより例えば低い周波数による脈動についても十分に平滑化することができる。
【0069】画像処理回路1では、これら各改良型εフィルタ13AX、13AX、……、13AY、13AY、……において、この遅延回路21A〜21F構成するレジスタ22A〜22Nの段数が異なるように設定されていることにより、上述したように、異なるサンプリングピッチによりフィルタリングの処理を繰り返し実行し、出力画像Yの画質劣化が防止される。
【0070】このようにして中心タップ出力を基準にしてエッジ判定して画素値を置き換える処理において、各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、各タップ出力の低周波数成分を所定の関数に近似し、中心タップ出力を基準にしてこの関数により領域(2ε1)が設定され(図7)、この領域の属するか否かによりエッジ判定される。これにより各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、画素値が徐々に増大傾向にある場合、減少傾向にある場合にあっても、このような変化の傾向が見られない場合と同様に、エッジを判定することができ、これによりこのような判定の変化による出力画像Yの劣化を防止することができる。
【0071】またエッジの部分と判定して画素値を置き換える場合でも、このようにして求められた関数を基準にして置き換えの画素値が決定され、これにより画素値を置き換えて求められる重み付け処理結果にこのような低い周波数による画素値の変化を反映して出力画像をさらに一層高品位なものとすることができる。
【0072】さらにこの実施の形態では、この関数として一次関数が適用されることにより、単に直線の傾きを求め、さらにはこの傾きにより判定等の処理を実行するだけの簡易な構成により一連の処理を実行することができる。
【0073】すなわち各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、傾き計算回路24において、7つのタップ出力の中から隣接するタップ出力間で差分値が計算され、この差分値の平均化により傾きの平均値Ka が計算される。さらに各演算回路25A〜25Fにおいて、中心タップを除く他のタップ出力のサンプリング位置について、この傾きの平均値Ka と、中心タップ位置からの距離kにより、この傾きによる場合の中心タップ出力からの差分値Ka kが乗算回路28で計算され、続く減算回路29、30でこの傾きKaによる関数上における画素値と実際のタップ出力による画素値との差分値が計算され、比較回路32において、この差分値が基準値ε1より大きいか否か判定される。これにより一次関数による近似関数を用いて、エッジか否かの判定処理が実行される。
【0074】さらに他方で、加算回路34において、この傾きKa による関数上における画素値が計算され、比較回路32における判定結果に応じて、実際のタップ出力とこのようにして計算された関数上における画素値とが選択出力され、これによりエッジを跨ぐ場合には、一次関数による近似関数を用いて計算した画素値に置き換えられて各タップ出力が対応する重み付け回路に出力される。
【0075】これらにより画像処理回路1では、ダイナミックレンジの広い種々の画質による入力画像Xについて、エッジの劣化、コントラスト感の低下を防止して十分にダイナミックレンジを圧縮することができる。
【0076】(3)第1の実施の形態の効果以上の構成によれば、エッジを保存したまま入力画像Xを平滑化してゲイン補正係数gを求め、このゲイン補正係数gにより入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調等を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができるようにする。
【0077】またこのようにしてダイナミックレンジを圧縮した後、さらにルックアップテーブル6により階調を補正することにより、黒近傍、白近傍における階調の喪失を有効に回避することができる。
【0078】またこのようにエッジを保存したまま入力画像Xを平滑化する際に、ローパスフィルタにより帯域制限した後、対数変換して処理し、また処理結果を逆対数変換することにより、点状のノイズの発生を防止し、また画素値による処理結果の相違を防止することができる。
【0079】さらにエッジを保存したまま入力画像Xを平滑化する際に、サンプリングピッチが異なる複数のフィルタリングを繰り返すことにより、広い周波数帯域で一様に平滑化することができ、これにより高い品位による出力画像Yを出力することができる。
【0080】また連続する画素を所定ピッチによりサンプリングしてこの平滑化の処理を実行することにより、簡易な構成により広い範囲の画素値をサンプリングして平滑化の処理を実行することができ、これにより低い周波数についても十分に平滑化の処理を実行して、高品位の出力画像Yを得ることができる。
【0081】またこの平滑化の処理において、画素値により関数を近似し、この関数により領域を設定してエッジ判定することにより、さらにこの関数を利用して置き換えの画素値を計算することによっても、高品位の出力画像Yを得ることができる。
【0082】さらにこの関数を一次関数としたことにより、全体構成を簡略化することができる。
【0083】(4)第2の実施の形態図12は、図1との対比により本発明の第2の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路41において、画像処理回路1との同一の構成は、対応する符号を付して示し、重複した説明は省略する。
【0084】この画像処理回路41は、画像処理回路1と同様に、図13に示すように、画素値x(i,j)による入力画像X(図13(A))を平滑化して平滑化画像Sを生成し(図13(B))、この平滑化画像Sの画素値s(i,j)より生成されるゲイン補正係数g(i,j)(図13(C))により入力画像Xのダイナミックレンジを圧縮する。この処理において、画像処理回路41は、平滑化処理による出力値s(i,j)を入力画像Xの画素値x(i,j)より減算して得られる減算値x(i,j)−s(i,j)を用いて、出力画像Yの画素値y(i,j)の変化を強調する。
【0085】すなわちこの画像処理回路41は、遅延回路4及び乗算回路5間に、順次減算回路42、乗算回路43、加算回路44が配置される。ここで減算回路42は、入力画像Xの画素値x(i,j)より平滑化処理による出力値s(i,j)を減算し、減算値x(i,j)−s(i,j)を出力する(図13(D))。続く乗算回路43は、この減算値x(i,j)−s(i,j)を所定利得Kにより増幅し(図13(E))、加算回路44は、この乗算回路43の出力値に平滑化画像Sの画素値s(i,j)を加算する。これによりこの画像処理回路41は、入力画像Xに比して、非線型平滑化器2により除去される小さな脈動を強調してなる加算回路44の加算結果を乗算回路5で乗算して出力画像Yを生成し、このように小さな脈動を強調してなる画像を処理する分、図1について上述した画像処理回路1に比していわゆるシャープな画像を出力することができるようになされている。
【0086】図12に示す構成によれば、平滑化処理による出力値s(i,j)を入力画像Xの画素値x(i,j)より減算して得られる減算値x(i,j)−s(i,j)を用いて出力画像Yの画素値y(i,j)の変化を強調することにより、第1の実施の形態の効果に加えて、一段とシャープな画像を出力することができる。
【0087】(5)第3の実施の形態図14は、図12との対比により本発明の第3の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路51において、画像処理回路41との同一の構成は、対応する符号を付して示し、重複した説明は省略する。
【0088】この画像処理回路51では、平滑化画像Sの出力値s(i、j)によりルックアップテーブル(LUT)52をアクセスして乗算回路43における利得を設定する。ここでこのルックアップテーブル52においては、図15に示すように入出力特性が設定される。これによりルックアップテーブル52は、出力値s(i、j)が所定値以下の場合には、乗算回路43を一定利得に設定し、この所定値以上に出力値s(i、j)が増大すると、徐々に値1に近づくように利得を設定する。
【0089】これにより画像処理回路51では、画素値の大きな領域については、コントラストを強調する程度を低減するようになされている。すなわち画像一般においては、大きい画素値を持つ画素近傍程、コントラストも十分に大きい場合が多く、一様にコントラストを強調したのでは、このような画素近傍では必要以上にコントラストを強調することになり、その分処理結果においては、品位が劣化して観察される。ところがこの実施の形態のように、画素値の大きな領域について、コントラストを強調する程度を低減すれば、全体として自然な品位の高い画像を出力することができる。
【0090】図14に示す構成によれば、画素値に応じて強調する程度を可変することにより、さらに一段と品位の高い画像を出力することができる。
【0091】(6)第4の実施の形態図16は、図12との対比により本発明の第4の実施の形態に係る画像処理回路を示すブロック図である。
【0092】この画像処理回路61は、図17に示すように、ノイズ除去フィルタ62により入力画像Xのノイズを事前に除去した後、続く乗算回路63により、一様な利得により乗算してダイナミックレンジを拡大し(図17(A)及び(B))、画像処理回路1によりダイナミックレンジを圧縮して元の入力画像Xのダイナミックレンジにより出力する(図17(C))。
【0093】ここでノイズ除去フィルタ62は、一般的なコアリング処理、メディアンフィルタ、εフィルタ又は改良型εフィルタが適用される。またこの実施の形態において、画像処理回路1は、図3について上述した特性とは逆に、所定の画素値以上では一定の利得により画素値を補正し、所定の画素値以下の範囲では利得が低下するように画素値を補正する。
【0094】この図16に示す構成によれば、逆光画像などコントラストが極端に高い画像について、画質の劣化を有効に回避して階調の補正等の処理を実行することができる。
【0095】すなわち図1等について上述した画像処理回路においては、図3に示すような単調減少による特性により画素値を補正することにより、入力画像Xの暗い部分の明度は下げずに、明るい部分のみ明度を下げてダイナミックレンジを圧縮することになる。ところがこの実施の形態では、これとは逆の特性によりダイナミックレンジを圧縮することにより、入力画像Xの適度な明るさを持つ部分はそれ以上明るくならないようにしながら、暗い部分のみ明度を上げて全体のコントラストを圧縮することができる。これにより逆光補正等の処理を実行することができる。
【0096】(7)第5の実施の形態図18は、本発明の第5の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路71において、マトリクス回路72は、赤色、青色、緑色の色信号R、B、Gを演算処理して輝度信号Y、色差信号R−Y、B−Yを生成する。
【0097】画像処理回路1は、この輝度信号Yを選択的に処理することにより、輝度信号Yのダイナミックレンジを圧縮して出力する。かくするにつき、この画像処理回路71は、このように輝度信号Yについてのみ画像処理回路1で選択的にダイナミックレンジを圧縮することにより、赤色、青色、緑色の色信号R、B、G間における信号レベルの比率の変化を防止し、この比率の変化による色相の変化を防止するようになされている。
【0098】除算器73及び74は、それぞれ色差信号R−Y、B−Yを輝度信号Yにより割り算することにより、色差信号R−Y、B−Yを輝度信号Yにより正規化する。遅延回路77及び78は、この除算器73及び74から出力される色差信号R−Y、B−Yを画像処理回路1における処理の分、遅延させて出力する。乗算回路77及び78は、それぞれ遅延回路77及び78から出力される色差信号R−Y、B−Yに、画像処理回路1から出力される輝度信号Yを乗算することにより、除算器73及び74により正規化処理された色差信号の画素値を補正する。
【0099】すなわち単に輝度信号のみのダイナミックレンジを圧縮した場合であっても、色差信号においては、輝度信号と色信号との差分信号であることにより、何ら色差信号の信号レベルを補正しない場合、対応する輝度レベルで彩度の成分の比率が上がり、結局画像全体として見たとき彩度が高くなってしまう。
【0100】これによりこの実施の形態では、輝度信号成分により色差信号成分を事前に正規化して輝度信号成分のダイナミックレンジを圧縮した後、この輝度信号成分による画素値で正規化処理された色差信号成分の画素値を補正することにより、このような彩度の変化を防止してカラーによる映像信号のダイナミックレンジを良好に抑圧するようになされている。
【0101】(8)他の実施の形態なお上述の実施の形態においては、改良型εフィルタにおいて、1次関数の近似によりエッジ判定し、また画素値を置き換える場合について述べたが、本発明はこれに限らず、例えば2次関数等により近似してこれらの処理を実行してもよい。
【0102】また上述の実施の形態においては、改良型εフィルタにおいて、関数の近似によりエッジ判定し、また画素値を置き換える場合について述べたが、本発明はこれに限らず、エッジの判定だけ、又は画素値の置き換えだけに関数による近似を利用してもよい。
【0103】また上述の実施の形態においては、改良型εフィルタにおいて、連続する画素値を所定のサンプリングピッチによりサンプリングして処理する場合について述べたが、本発明はこれに限らず、実用上十分な回路規模を確保することができる場合等にあっては、連続する画素をそのまま処理するようにしてもよい。
【0104】また上述の実施の形態においては、改良型εフィルタによる繰り返しの処理により入力画像を平滑化する場合について述べたが、本発明はこれに限らず、実用上十分な特性を得ることができる場合、繰り返しの処理を省略してもよい。
【0105】また上述の実施の形態においては、改良型εフィルタにより非線型平滑化器を構成する場合について述べたが、本発明はこれに限らず、通常のεフィルタにより非線型平滑化器を構成してもよい。
【0106】また上述の実施の形態においては、最終的にルックアップテーブル6により入出力特性を補正する場合について述べたが、本発明はこれに限らず、このルックアップテーブル6による処理を省略してもよく、またルックアップテーブル3により併せて特性を補正するようにしてもよい。
【0107】また上述の実施の形態においては、各回路ブロックで画素値等を処理して画像処理回路を構成する場合について述べたが、本発明はこれに限らず、全体又は一部を演算処理により構成するようにしてもよい。
【0108】
【発明の効果】上述のように本発明によれば、エッジを保存したまま入力画像を平滑化してゲイン補正係数を求め、このゲイン補正係数により入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る画像処理回路を示すブロック図である。
【図2】図1の画像処理回路の動作の説明に供するタイムチャートである。
【図3】図1の画像処理回路のルックアップテーブル3の特性を示す特性曲線図である。
【図4】図1の画像処理回路のルックアップテーブル6の特性を示す特性曲線図である。
【図5】図1の画像処理回路の非線型平滑化器を示すブロック図である。
【図6】図5の非線型平滑化器の動作の説明に供するタイムチャートである。
【図7】図5の非線型平滑化器の改良型εフィルタの説明に供するタイムチャートである。
【図8】図5の非線型平滑化器の改良型εフィルタを示すブロック図である。
【図9】図8の改良型εフィルタの遅延回路を示すブロック図である。
【図10】図8の改良型εフィルタの演算回路を示すブロック図である。
【図11】図1の画像処理回路のルックアップテーブル3の特性の説明に供する特性曲線図である。
【図12】本発明の第2の実施の形態に係る画像処理回路を示すブロック図である。
【図13】図12の画像処理回路の動作の説明に供するタイムチャートである。
【図14】本発明の第3の実施の形態に係る画像処理回路を示すブロック図である。
【図15】図12の画像処理回路のルックアップテーブル52の説明に供する特性曲線図である。
【図16】本発明の第4の実施の形態に係る画像処理回路を示すブロック図である。
【図17】図16の画像処理回路の動作の説明に供するタイムチャートである。
【図18】本発明の第5の実施の形態に係る画像処理回路を示すブロック図である。
【符号の説明】
1、41、51、61、71……画像処理回路、2……非線型平滑化器、3、6、12、14、52……ルックアップテーブル、11、15……ローパスフィルタ、13AX、13BX、13AY、13BY……改良型εフィルタ、24……傾き検出回路、25A〜25F……演算回路、62……雑音除去フィルタ
【0001】
【発明の属する技術分野】本発明は、画像処理回路及び画像処理方法に関し、例えばビデオカメラ、電子スチルカメラ等における撮像結果の処理、記録、液晶表示装置等における画像表示、パーソナルコンピュータ等による画像処理、画像合成、さらにはこれらによる画像の伝送に適用することができる。本発明は、エッジを保存したまま入力画像を平滑化してゲイン補正係数を求め、このゲイン補正係数により入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができるようにする。
【0002】
【従来の技術】従来、撮像装置等の種々の画像処理回路においては、画像のダイナミックレンジを圧縮して記録、再生等の種々の処理を実行するようになされている。
【0003】このようなダイナミックレンジを圧縮する処理としては、画像全体の階調を補正する方法と、画像の低周波数成分についてのみ階調を補正する方法とがあり、前者においては、ガンマ補正、ニー補正、さらにはいわゆるヒストグラム等価等により階調を補正してダイナミックレンジを圧縮するようになされている。これに対して後者においては、ガンマ補正、ニー補正等によりダイナミックレンジを圧縮するようになされている。
【0004】
【発明が解決しようとする課題】しかしながらこれらのダイナミックレンジ圧縮法にあっては、実用上未だ不十分な問題があった。
【0005】すなわち画像全体の階調をガンマ補正、ニー補正等により補正する方法にあっては、ハイライト部やヒストグラムの少ない輝度域等の、コントラストの圧縮対象である輝度域において、ダイナミックレンジと同時に被写体のコントラストも圧縮される。これによりこの方法の場合では、ダイナミックレンジの圧縮率を大きくすることが困難で、またダイナミックレンジの圧縮によりコントラストの劣化したメリハリのない画像が生成される問題があった。
【0006】これに対して画像の低周波数成分についてのみガンマ補正、ニー補正等により階調を補正する方法にあっては、ダイナミックレンジの圧縮により画像の低周波成分と高周波成分との比率が変化する。これによりこの方法の場合では、ダイナミックレンジの圧縮によりエッジが不自然に強調され、品位のない画像が生成される問題があった。
【0007】本発明は以上の点を考慮してなされたもので、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができる画像処理回路及び画像処理方法を提案しようとするものである。
【0008】
【課題を解決するための手段】かかる課題を解決するため請求項1又は請求項2の発明においては、画像処理回路又は画像処理方法に適用して、入力画像のエッジを保存して入力画像の画素値を平滑化し、この平滑化の出力値に応じてゲイン補正係数を生成して入力画像の画素値を補正する。
【0009】請求項1又は請求項2の構成によれば、入力画像のエッジを保存して入力画像の画素値を平滑化すれば、入力画像から、画像のダイナミックレンジを決定付ける成分だけを独立して取り出することができる。これによりこの平滑化の出力値に応じてゲイン補正係数を生成して入力画像の画素値を補正すれば、画像のダイナミックレンジとは独立な、圧縮せずに保存しておくことが望まれる被写体のコントラストについては劣化を有効に回避して、所望の圧縮率によりダイナミックレンジを圧縮することができる。また被写体のコントラストについては劣化を有効に回避できることにより、不自然なエッジ強調も防止することができ、これらにより入力画像の品位を維持したまま、高い圧縮率により入力画像のダイナミックレンジを圧縮することができる。
【0010】
【発明の実施の形態】以下、適宜図面を参照しながら本発明の実施の形態を詳述する。
【0011】(1)第1の実施の形態の構成(1−1)第1の実施の形態の全体構成図1は、本発明の第1の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路1は、ビデオカメラ、電子スチルカメラ等の撮像装置、種々の画像処理装置、画像伝送装置、さらにはパーソナルコンピュータにおける画像処理等に適用され、入力画像Xのダイナミックレンジを圧縮して出力画像Yをする。
【0012】なおここで入力画像X及び出力画像Yは、2次元デジタル画像であり、以下においては、水平方向及び垂直方向における画素の位置をそれぞれ符号i及びjにより表して、それぞれ入力画像X及び出力画像Yの画素値をx(i、j)及びy(i、j)により表す。またこれら画素値x(i、j)及びy(i、j)に対応する各処理値を同様に符号i及びjを用いて示す。
【0013】この画像処理回路1において、非線型平滑化器2は、図2(A)に示すように、大きなダイナミックレンジによる入力される入力画像Xの画素値x(i、j)を平滑化して、画素値s(i、j)(図2(B))による平滑化画像Sを出力する。この平滑化の処理において、非線型平滑化器2は、入力画像の画素値情報と空間情報とから、各画素値x(i、j)がエッジにおけるものか否か判定して処理することにより、小振幅成分のみを平滑化し、大きなエッジ成分については、平滑化の処理を実行しないようにする。これにより非線型平滑化器2は、エッジを保存したまま入力画像Xの画素値x(i、j)を平滑化し、画像のダイナミックレンジを決定付ける成分だけを独立して取り出すようになされている。
【0014】ルックアップテーブル(LUT)3は、非線型平滑化器2から出力される平滑化画像Sの画素値s(i、j)を基準にして入力画像Xの画素値x(i、j)を補正するためのゲイン補正係数g(i、j)(図2(C))を出力する。ここで画像処理回路1では、このゲイン補正係数g(i、j)により入力画像Xの画素値x(i、j)を補正してダイナミックレンジを圧縮することにより、ルックアップテーブル3は、例えば図3に示すような単調減少特性を有する入出力特性によりこのゲイン補正係数g(i、j)を出力する。なおここでこの図3に示す入出力特性においては、平滑化画像Sの画素値s(i、j)が所定値s1より小さい場合には、値1、0のゲイン補正係数g(i、j)を出力し、平滑化画像Sの画素値s(i、j)がこの所定値s1より増大するに伴って指数関数的にゲイン補正係数g(i、j)が減少し、画素値s(i、j)の最大値s maxでゲイン補正係数g(i、j)が値g1となる特性である。
【0015】このような入出力特性により、ルックアップテーブル3は、例えば図2(A)に示したような小さな画素値の変化を伴ってエッジの前後で入力画像Xの画素値x(i、j)が立ち上がっている場合には、小さな画素値の変化が取り除かれてなる平滑化画像Sの画素値s(i、j)が得られ、この平滑化画像Sの画素値s(i、j)の小さな部位ほど値の小さなゲイン補正係数g(i、j)(図2(C))を出力する。このとき平滑化画像Sの画素値s(i、j)においてエッジが保存されていることにより、ルックアップテーブル3は、エッジの部分では値が急激に変化するようにゲイン補正係数g(i、j)を出力する。
【0016】遅延回路4は、非線型平滑化器2、ルックアップテーブル3における画像データの処理に要する時間の分だけ、入力画像Xを構成する画像データを所定時間遅延させ、これによりルックアップテーブル3から出力されるゲイン補正係数g(i、j)に対して入力画像Xの画素値x(i、j)をタイミング合わせして出力する。
【0017】乗算回路5は、遅延回路4から出力される入力画像Xの画素値x(i、j)をゲイン補正係数g(i、j)で乗算することにより、入力画像Xの画素値x(i、j)をゲイン補正係数g(i、j)により補正して画素値z(i、j)による画像Zを出力する。
【0018】ここでこの実施の形態においては、ゲイン補正係数g(i、j)が値1以下に設定されていることにより、乗算回路5は、図2(D)に示すように、入力画像Xのダイナミックレンジを圧縮してなる画素値z(i、j)による画像Zを出力することになる。さらにエッジを保存したまま小さな画素値の変化が取り除かれてなる平滑化画像Sより、エッジの部分では値が急激に変化するようにゲイン補正係数g(i、j)が生成されることにより、エッジを除く他の部分では、入力画像Xにおける小さな画素値の変化を保存したまま、エッジの部分だけ画素値の変化を圧縮した傾向により画素値z(i、j)による画像Zが生成される。すなわち画像の大局的なダイナミックレンジのみ選択的に圧縮して画像Zが生成される。
【0019】これによりこの実施の形態では、小さな画素値の変化が圧縮されてなるコントラスト感の低下、周波数特性の変化による不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮してなる画像Zを出力するようになされている。
【0020】ルックアップテーブル(LUT)6は、このようにしてダイナミックレンジを圧縮してなる画像Zの特性を最終的に設定して出力画像Yを生成する。すなわちルックアップテーブル6は、図4に示すように、黒近傍、白近傍の階調を圧縮する入出力特性に設定される。これによりルックアップテーブル6は、乗算回路5から出力される画像データのダイナミックレンジにおいて、出力画像Yのダイナミックレンジを越える部分における階調の飽和を防止し、出力画像Yにおいて黒近傍又は自近傍において階調が失われるような状況を有効に回避するようになされている。
【0021】(1−2)非線型平滑化器図5は、非線型平滑化器2の構成を示すブロック図である。この非線型平滑化器2において、ローパスフィルタ(LPF)11は、入力画像Xを平滑化する二次元の線形ローパスフィルタにより構成され、入力画像Xにおける画素値x(i、j)を事前にある程度平滑化することにより、以降の処理により点状のノイズの発生を防止する。なおローパスフィルタ(LPF)11は、入力画像Xの水平方向、垂直方向に対してそれぞれ1次元の線形ローパスフィルタを適用することもよっても、同様の処理を実行することができる。
【0022】ルックアップテーブル(LUT)12は、ローパスフィルタ(LPF)11より出力される画像データF1の画素値を対数変換して出力し、これにより続く以降の処理において対数化された画素値により画素値を平滑化し、画素値によって平滑化の程度が異ならないようにする。
【0023】改良型εフィルタ13AXは、εフィルタと呼ばれる非線型平滑化フィルタの一部を変更したフィルタであり、ルックアップテーブル12より入力される入力画像L1の水平方向について、エッジを保存したまま画素値を平滑化して出力する。
【0024】続く改良型εフィルタ13BXは、改良型εフィルタ13AXと同様の非線型平滑化フィルタであり、改良型εフィルタ13AXより入力される入力画像L2の水平方向について、エッジを保存したまま画素値を平滑化して出力する。改良型εフィルタ13BXは、後述する遅延回路における遅延時間が改良型εフィルタ13AXと異なることにより、平滑化の処理に供するサンプリングピッチが改良型εフィルタ13BXと異なる点を除いて、改良型εフィルタ13BXと同一に構成される。
【0025】非線型平滑化器2では、このような平滑化の処理に供するサンプリングピッチが異なる改良型εフィルタを所定段数だけ直列に接続して配置する。これにより非線型平滑化器2では、各サンプリングピッチに対応する各周波数成分の画素値の変動に対してそれぞれ平滑化の処理を実行し、周波数帯域全体として見たときに、広い周波数帯域にわたって十分に平滑化の処理を実行するようになされている。
【0026】改良型εフィルタ13AY、13BY、……は、垂直方向について平滑化の処理を実行する点を除いて、改良型εフィルタ13AX、13BX、……と同一に構成される。このためこれら改良型εフィルタ13AY、13BY、……の初段である改良型εフィルタ13AYは、図示しないメモリを介して画像データの配列が変更されて入力されるようになされている。これらにより非線型平滑化器2は、水平方向及び垂直方向に、エッジを保存したまま広い周波数帯域で平滑化の処理を実行する。
【0027】ルックアップテーブル(LUT)14は、改良型εフィルタ13AY、13BY、……により平滑化された画像データに対して、ルックアップテーブル12とは逆に、逆対数変換の処理を実行して出力する。ローパスフィルタ(LPF)15は、ローパスフィルタ11と同様の線形ローパスフィルタであり、エッジを保存して平滑化されてなるルックアップテーブル14の出力画像L2に対して、僅かにエッジを鈍らせ、これにより出力画像Yのエッジ近傍領域を滑らかにして、一連の処理による違和感を防止する。
【0028】(1−2−1)改良型εフィルタ改良型εフィルタ13AXは、一般のεフィルタの構成を一部変更したフィルタであることにより、以下においてはεフィルタとの対比により改良型εフィルタ13AXの構成を説明する。なお改良型εフィルタ13BX、……は、平滑化の処理に供するサンプリングピッチが異なる点を除いて、改良型εフィルタ13AXと同一の構成であることにより、ここではこの異なる構成に係る部位について適宜説明し、重複した説明は省略する。また改良型εフィルタ13AY、13BY、……については、処理対象である画像データの入力順序が異なる点を除いて、改良型εフィルタ13AX、13BX、……と同一構成であることにより、ここでは重複した説明を省略する。
【0029】ここで通常のεフィルタは、1次元による2N+1タップの場合、次式により入出力特性を表することができる。なおここでsn は出力値であり、rn は入力値であり、εは所定の基準値である。またrn は処理対象の中心の入力値であり、ak は重み付け係数である。また第2式のシグマの範囲は、k=−Nからk=Nの範囲である。
【0030】
【数1】
【0031】これによりεフィルタでは、図6(A)に示すように、画素値rn である画素pn について出力値sn を計算する場合、計算の対象である画素p1 〜p2N+1のうちで、中心画素値rn に対する画素値差分の絶対値│rn −rn-k │が基準値εより大きな画素pn-k については、その画素値rn-k が中心画素値rn に置き換えられて、またこの画素値差分の絶対値│rn −rn-k │が基準値ε以下の画素pn-k については、この画素pn-k の画素値rn-k が使用されて、重み付け加算の処理が実行される。
【0032】すなわちεフィルタでは、図6(A)に示すように、画素Pn の出力値sn を計算する場合に、この画素Pn の前後の画素の中で、基準値εを判定基準として、画素Pn より大きく画素値rm が異なる画素pm については、画素値rm を画素値rn に置き換えて計算するものであり、これにより単なる線型ローパスフィルタによる処理との比較により図6(B)に示すように、エッジを保存したまま、小さな画素値の変化を抑圧する。
【0033】ところがこの方法の場合、出力値を算出する画素Pn の値rn を中心にして基準値εにより画素値を判定し、画素Pn の画素値rn との置き換えにより重み付け加算して出力値sn を計算することにより、図6の示したエッジの両側のように、ほぼ一定の直流レベルにより画素値xが変化している場合には、エッジを保存して小さな画素値の変化を抑圧することができるのに対し、図7に示すように、直流レベルが変化している場合には、十分に平滑化することが困難になる。
【0034】すなわち入力値rの直流レベルが徐々に増大又は減少している場合には、出力値sn を算出するPn より遠ざかるに従って基準値εによる領域に含まれる画素数が少なくなる。またこの場合に、画素Pn の値rn の置き換えにより重み付け加算しても、正しく直流レベルの変化を反映して平滑化の処理を実施していないことになる。
【0035】このためこの実施の形態では、(1)式との対比により次式により示すように、直流レベルの変化を一定の関数により近似し、画素Pn の画素値rn を中心にしてこの関数により領域(2ε1)を設定して画素値を判定する。またこの領域より飛び出す画素については、この関数上における画素値に置き換えて平滑化の処理を実行する。なおここで(2)式中の第2式のシグマの範囲は、k=−Nからk=Nの範囲であり、(3)式中の第2式のシグマの範囲は、s=−Mからs=M−1の範囲である。
【0036】
【数2】
【0037】
【数3】
【0038】ここではこの関数に一次関数を適用し、このような直流レベルの変化を直線近似して処理する。すなわち出力値sn を計算する前後2M画素間で、隣接する画素間を結ぶ直線の傾きの平均値Ka を求め、さらにこの傾きの平均値Ka を基準にして領域を設定して画素値を判定し、さらにはこの直線上に位置するように画素値を置き換える。これによりこの実施の形態では、従来に比して一段と確実にエッジを保存しつつ平滑化の処理を実行できるようになされている。なお改良型εフィルタのKa =0の場合が、図6について説明した一般のεフィルタによる特性である。
【0039】図8は、改良型εフィルタ13AXを示すブロック図である。この改良型εフィルタ13AXは、所定の遅延時間による遅延回路(D)21A〜21Fに平滑処理に、係る画素値rを順次入力し、これにより7タップにより構成される。ここでこれら遅延回路21A〜21Fは、図9に示すように、所定段数(m個)のレジスタ22A〜22Nを直列接続して構成される。これにより改良型εフィルタ13AXは、レジスタ列22A〜22Nの段数(すなわち遅延回路21A〜21Fの遅延時間に対応する)に応じたサンプリングピッチにより、7サンプリングの画素値r(i,j)を選択できるようになされている。
【0040】かくするにつき改良型εフィルタ13AXは、このようにレジスタ22A〜22Nの段数に対応するサンプリングピッチにより画素値rを選択して処理することにより、その分、出力値sを計算する画素の前後、広い範囲の画素値を使用して平滑化の処理を実行し、この広い範囲に対応する後段の処理を簡略化するようになされている。なお、このように広い範囲の画素値を使用して平滑化の処理を実行すれば、その分低い周波数による画素値の変化を十分に抑圧することができる。
【0041】なお改良型εフィルタ13BX、……においては、この改良型εフィルタ13AXとはこのレジスタの段数が異なるよう構成されて対応する遅延回路21A〜21Fの遅延時間がこの改良型εフィルタ13AXとは異なるように設定され、これによりこの改良型εフィルタ13AXとは異なる周波数特性により平滑化の処理を実行するようになされている。
【0042】傾き計算回路24(図8)は、初段の遅延回路21Aに入力される画素値をこれら遅延回路21A〜21Fの出力値と共に入力することにより、遅延回路21A〜21Fの遅延時間に対応する7サンプリングのr(i,j)を入力し、(3)式の演算処理を実行することにより傾きの平均値kaを計算して出力する。
【0043】演算回路25A〜25Fは、それぞれ遅延回路21A〜21Fより出力される7タップの画素値のうち、中心タップの出力値rn を除く各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mについて、(2)式中の第3式及び第4式の演算処理を実行し、演算結果wn-3m、wn-2m、wn-m 、wn+m 、wn+2m、wn+3mを出力する。なおここでmは、遅延回路21A〜21Fにおけるレジスタの段数である。
【0044】すなわち演算回路25A(25B〜25F)は、図10に示すように、乗算回路28に傾きの平均値kaを入力し、ここでそれぞれ各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mに対応する中心タップからの距離kを乗算し、これにより傾きKa による一次関数について、各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mのサンプリング点における中心タップ出力rn からの偏差Ka kを計算する((2)式及び(3)式参照)。
【0045】減算回路29は、この乗算回路28の出力値Ka kを各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3mより減算することにより(2)式中のvn-k を計算して出力する。
【0046】減算回路30は、この減算回路29の出力値vn-k を中心タップ出力rn から減算することにより、(2)式中の(rn −vn-k )を計算して出力する。
【0047】絶対値化回路31は、この減算回路30の出力値(rn −vn-k )を絶対値化することにより、(2)式中の│rn −vn-k │を計算して出力する。
【0048】比較回路(CMP)32は、この絶対値化回路31の出力値│rn −vn-k │と図7について上述した領域設定用の基準値ε1とを比較することにより、(2)式における大小判定の処理を実行し、判定結果をセレクタ(SEL)の切り換え信号として出力する。
【0049】加算回路34は、中心タップ出力rn と乗算回路28の出力値Ka kを加算することにより、(2)式中のrn +Ka ・kを計算して出力する。
【0050】セレクタ33は、比較回路32から出力される切り換え信号SELにより、各各タップ出力rn-3m、rn-2m、rn-m 、rn+m 、rn+2m、rn+3m又は加算回路34の出力値rn +Ka ・kを選択的に出力する。
【0051】これらにより演算回路25は、傾き計算回路24で計算された傾きによる一次関数が出力値sを計算する画素pn の画素値rn の位置を通過するように配置すると共に、この配置による直線の上下に値ε1の領域を設定し、この領域より画素値が飛び出す画素については、エッジと判定してこの直線上における画素値を置き換え、この領域内の画素については、この画素本来の画素値により演算結果を出力する。
【0052】重み付け回路36A〜36Gは(図8)、それぞれ各タップ出力に対応する重み付け係数により演算回路25A〜25Fの出力値又は中央タップの出力値を重み付けして出力し、これにより(2)式中の第1式におけるシグマの各項の演算処理を実行する。
【0053】加算回路37は、これら重み付け回路36A〜36Gの出力値を加算し、これにより(2)式中の第1式の演算処理を実行し、処理結果を出力する。
【0054】(1−2−2)ルックアップテーブル3ここで図11は、この画像処理回路1による低周波数成分の階調変換特性を示す特性曲線図である。ルックアップテーブル3は、図11に示す階調変換特性により入出力特性が設定される。
【0055】すなわち符号L2による特性により示すように、この画像処理回路1において、最も大きな値により低周波数成分による画素値s maxが入力された場合に、対応する出力値がs cmpとなるようにする。この場合ダイナミックレンジの圧縮率g1は、s cmp/s maxで表される。符号L2により表されるように、低周波数成分による画素値s1までの範囲においては、入力値に対して利得1による出力値を出力するようにする。なお画素値s1は、出力画像のダイナミックレンジの上限値より小さな値とし、入力画像Xにおいて値s1以下の画素値については、敢えて階調を圧縮する必要が無いものとする。
【0056】ルックアップテーブル3は、この画素値s1までの変換特性である利得1の変換特性(符号L1により示す)を用いて、各縦軸の値をこの符号L1による変換特性により割り算して符号L2/L1により表される演算により入出力特性が設定されるようになされている。
【0057】(2)第1の実施の形態の動作以上の構成において、画像処理回路1においては(図1)、撮像結果等による入力画像Xが非線型平滑化器2に入力され(図2(A)及び(B))、ここでエッジを保存したまま平滑化処理されて平滑化画像Sが生成される。ここでこの平滑化画像Sにおいては、エッジを保存したまた平滑化処理されていることにより、画像のダイナミックレンジとは独立な、圧縮せずに保存しておくことが望まれる被写体のコントラストを決定付ける成分が除去されて、画像のダイナミックレンジを決定付ける成分だけを独立して取り出されていることになる。
【0058】画像処理回路1においては、この平滑化画像Sによりルックアップテーブル3をアクセスしてゲイン補正係数g(i,j)が順次生成され(図2(C)及び図3)、遅延回路4を介して入力される入力画像Xの画素値x(i,j)が乗算回路5で乗算されて入力画像Xのダイナミックレンジが圧縮される(図2(D))。このとき入力画像Xにおいては、画像のダイナミックレンジを決定付ける成分だけである平滑化画像Sによるゲイン補正係数g(i,j)により画素値x(i,j)が補正されることにより、局所的な画素値の変化、画像のエッジについては保存されたまま、大局的な画素値の変化のみ選択的に圧縮されて生成され、これにより見た目のコントラストであるコントラスト感の劣化を防止してダイナミックレンジが十分に圧縮されてなる画像Zが生成される。またエッジについても、周波数特性の変化が防止され、これによりエッジの不自然な強調が防止される。
【0059】画像処理回路1においては、このようにしてダイナミックレンジが圧縮されてなる画像Zの画素値によるルックアップテーブル6のアクセスにより(図1及び図4)、黒近傍、白近傍の階調が選択的に圧縮され、これにより極めて大きなダイナミックレンジによる入力画像Xが入力された場合であっても、黒近傍、白近傍で階調が失われる状況を有効に回避して出力画像Yが出力される。
【0060】これにより画像処理回路1においては、例えばビデオカメラ、電子スチルカメラ等の撮像装置において、撮像結果よりダイナミックレンジの狭い記録再生系で撮像結果を記録再生して撮像結果の品位の劣化を防止することができる。なお撮像装置においては、撮像素子の選定により、また感度の異なる画像の合成等により、このような通常に比してダイナミックレンジに広い撮像結果を得ることができる。また画像表示装置に適用して、このようなダイナミックレンジの広い画像を表示する場合に、高品位の画像を表示することができる。
【0061】また逆光補正等の画像補正、コンピュータによる画像合成、画像処理に適用して、広いダイナミックレンジによる画像を種々に処理しても、品位の劣化を防止して処理結果を伝送、記録、再生することができることにより、このような種々の処理についても高品位に処理することができる。また画像伝送装置に適用した場合には、画質の劣化を有効に回避して高速度で画像伝送することができる。
【0062】このようにしてエッジ成分を保存して画素値を平滑化するにつき、画像処理回路1では(図5)、非線型平滑化器2において、ローパスフィルタ11により入力画像Xの画素値x(i,j)を帯域制限した後、改良型εフィルタ13AX、……によりエッジを保存した平滑化の処理が実行され、これにより出力画像Yにおける点状のノイズが防止される。
【0063】またこの非線型平滑化器2の最終段のローパスフィルタ15によって平滑化画像Sを帯域制限することにより、エッジ近傍の不自然な画素値の変化が低減され、これによりエッジ近傍が滑らかに表現されてなる出力画像Yが得られる。
【0064】さらにルックアップテーブル12により画素値x(i,j)を対数変換してエッジを保存した平滑化の処理を実行した後、ルックアップテーブル14により逆対数変換して平滑化画像Sが生成され、これにより平滑化の処理結果における画素値による処理結果の相違が防止され、出力画像Yにおける不自然なダイナミックレンジの圧縮が防止される。
【0065】さらに改良型εフィルタ13AX、13AX、……により、順次エッジを保存して高周波数成分を抑圧するフィルタリングの処理が水平方向に実行された後、続く改良型εフィルタ13AY、13AY、……により、同様の処理が垂直方向に実行され、これにより垂直、水平方向、さらには斜め方向に、十分なコントラスト感を確保し、かつエッジの不自然さを防止してなる出力画像Yを生成することが可能となる。
【0066】さらにこのように各方向に順次エッジを保存したフィルタリング処理を実行する改良型εフィルタ13AX、13AX、……、13AY、13AY、……において、異なるサンプリングピッチによりフィルタリングの処理を繰り返し実行し、これにより画像処理回路1では、エッジの情報を保存したまま広い周波数帯域で十分平滑化されてなる平滑化画像Sが生成される。これにより画像処理回路1では、このような平滑化画像Sに特定周波数成分のみが選択的に残らないように平滑化の処理を実行することができ、その分出力画像Yの画質劣化を有効に回避することができる。
【0067】各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては(図7及び図8)、遅延回路21A〜21Fの直列回路に順次画素値rが入力され、この遅延回路21A〜21Fよる7つのタップ出力について、中心タップ出力を基準にして他の各タップ出力の値がそれぞれ演算回路25A〜25Fで判定される(図10)。さらにこの判定により、中心タップ出力に対して大きく画素値が異なる場合にはエッジを跨ぐものと判定され、この大きく異なる画素値が所定値に置き換えられ、これら中心タップ出力と他のタップ出力との間の重み付け加算が重み付け回路36A〜36F、加算回路37により実行されて平滑化の処理が実行される。
【0068】この処理において各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、各遅延回路21A〜21Fがレジスタ22A〜22Nの直列回路により構成されていることにより、連続する画素値をこの直列接続したレジスタ数によるピッチによりサンプリングして平滑化の処理が実行される。これにより演算回路25A〜25F、重み付け回路36A〜36F、加算回路37については、このタップ出力に対応する数だけ配置して平滑化の処理を実行でき、その分全体構成を簡略化することができる。また平滑化の処理対象である画素値については、これら演算回路25A〜25F、重み付け回路36A〜36F、加算回路37の構成に比して、広い範囲の画素値を用いて平滑化の処理を実行することができ、これにより例えば低い周波数による脈動についても十分に平滑化することができる。
【0069】画像処理回路1では、これら各改良型εフィルタ13AX、13AX、……、13AY、13AY、……において、この遅延回路21A〜21F構成するレジスタ22A〜22Nの段数が異なるように設定されていることにより、上述したように、異なるサンプリングピッチによりフィルタリングの処理を繰り返し実行し、出力画像Yの画質劣化が防止される。
【0070】このようにして中心タップ出力を基準にしてエッジ判定して画素値を置き換える処理において、各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、各タップ出力の低周波数成分を所定の関数に近似し、中心タップ出力を基準にしてこの関数により領域(2ε1)が設定され(図7)、この領域の属するか否かによりエッジ判定される。これにより各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、画素値が徐々に増大傾向にある場合、減少傾向にある場合にあっても、このような変化の傾向が見られない場合と同様に、エッジを判定することができ、これによりこのような判定の変化による出力画像Yの劣化を防止することができる。
【0071】またエッジの部分と判定して画素値を置き換える場合でも、このようにして求められた関数を基準にして置き換えの画素値が決定され、これにより画素値を置き換えて求められる重み付け処理結果にこのような低い周波数による画素値の変化を反映して出力画像をさらに一層高品位なものとすることができる。
【0072】さらにこの実施の形態では、この関数として一次関数が適用されることにより、単に直線の傾きを求め、さらにはこの傾きにより判定等の処理を実行するだけの簡易な構成により一連の処理を実行することができる。
【0073】すなわち各改良型εフィルタ13AX、13AX、……、13AY、13AY、……においては、傾き計算回路24において、7つのタップ出力の中から隣接するタップ出力間で差分値が計算され、この差分値の平均化により傾きの平均値Ka が計算される。さらに各演算回路25A〜25Fにおいて、中心タップを除く他のタップ出力のサンプリング位置について、この傾きの平均値Ka と、中心タップ位置からの距離kにより、この傾きによる場合の中心タップ出力からの差分値Ka kが乗算回路28で計算され、続く減算回路29、30でこの傾きKaによる関数上における画素値と実際のタップ出力による画素値との差分値が計算され、比較回路32において、この差分値が基準値ε1より大きいか否か判定される。これにより一次関数による近似関数を用いて、エッジか否かの判定処理が実行される。
【0074】さらに他方で、加算回路34において、この傾きKa による関数上における画素値が計算され、比較回路32における判定結果に応じて、実際のタップ出力とこのようにして計算された関数上における画素値とが選択出力され、これによりエッジを跨ぐ場合には、一次関数による近似関数を用いて計算した画素値に置き換えられて各タップ出力が対応する重み付け回路に出力される。
【0075】これらにより画像処理回路1では、ダイナミックレンジの広い種々の画質による入力画像Xについて、エッジの劣化、コントラスト感の低下を防止して十分にダイナミックレンジを圧縮することができる。
【0076】(3)第1の実施の形態の効果以上の構成によれば、エッジを保存したまま入力画像Xを平滑化してゲイン補正係数gを求め、このゲイン補正係数gにより入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調等を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができるようにする。
【0077】またこのようにしてダイナミックレンジを圧縮した後、さらにルックアップテーブル6により階調を補正することにより、黒近傍、白近傍における階調の喪失を有効に回避することができる。
【0078】またこのようにエッジを保存したまま入力画像Xを平滑化する際に、ローパスフィルタにより帯域制限した後、対数変換して処理し、また処理結果を逆対数変換することにより、点状のノイズの発生を防止し、また画素値による処理結果の相違を防止することができる。
【0079】さらにエッジを保存したまま入力画像Xを平滑化する際に、サンプリングピッチが異なる複数のフィルタリングを繰り返すことにより、広い周波数帯域で一様に平滑化することができ、これにより高い品位による出力画像Yを出力することができる。
【0080】また連続する画素を所定ピッチによりサンプリングしてこの平滑化の処理を実行することにより、簡易な構成により広い範囲の画素値をサンプリングして平滑化の処理を実行することができ、これにより低い周波数についても十分に平滑化の処理を実行して、高品位の出力画像Yを得ることができる。
【0081】またこの平滑化の処理において、画素値により関数を近似し、この関数により領域を設定してエッジ判定することにより、さらにこの関数を利用して置き換えの画素値を計算することによっても、高品位の出力画像Yを得ることができる。
【0082】さらにこの関数を一次関数としたことにより、全体構成を簡略化することができる。
【0083】(4)第2の実施の形態図12は、図1との対比により本発明の第2の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路41において、画像処理回路1との同一の構成は、対応する符号を付して示し、重複した説明は省略する。
【0084】この画像処理回路41は、画像処理回路1と同様に、図13に示すように、画素値x(i,j)による入力画像X(図13(A))を平滑化して平滑化画像Sを生成し(図13(B))、この平滑化画像Sの画素値s(i,j)より生成されるゲイン補正係数g(i,j)(図13(C))により入力画像Xのダイナミックレンジを圧縮する。この処理において、画像処理回路41は、平滑化処理による出力値s(i,j)を入力画像Xの画素値x(i,j)より減算して得られる減算値x(i,j)−s(i,j)を用いて、出力画像Yの画素値y(i,j)の変化を強調する。
【0085】すなわちこの画像処理回路41は、遅延回路4及び乗算回路5間に、順次減算回路42、乗算回路43、加算回路44が配置される。ここで減算回路42は、入力画像Xの画素値x(i,j)より平滑化処理による出力値s(i,j)を減算し、減算値x(i,j)−s(i,j)を出力する(図13(D))。続く乗算回路43は、この減算値x(i,j)−s(i,j)を所定利得Kにより増幅し(図13(E))、加算回路44は、この乗算回路43の出力値に平滑化画像Sの画素値s(i,j)を加算する。これによりこの画像処理回路41は、入力画像Xに比して、非線型平滑化器2により除去される小さな脈動を強調してなる加算回路44の加算結果を乗算回路5で乗算して出力画像Yを生成し、このように小さな脈動を強調してなる画像を処理する分、図1について上述した画像処理回路1に比していわゆるシャープな画像を出力することができるようになされている。
【0086】図12に示す構成によれば、平滑化処理による出力値s(i,j)を入力画像Xの画素値x(i,j)より減算して得られる減算値x(i,j)−s(i,j)を用いて出力画像Yの画素値y(i,j)の変化を強調することにより、第1の実施の形態の効果に加えて、一段とシャープな画像を出力することができる。
【0087】(5)第3の実施の形態図14は、図12との対比により本発明の第3の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路51において、画像処理回路41との同一の構成は、対応する符号を付して示し、重複した説明は省略する。
【0088】この画像処理回路51では、平滑化画像Sの出力値s(i、j)によりルックアップテーブル(LUT)52をアクセスして乗算回路43における利得を設定する。ここでこのルックアップテーブル52においては、図15に示すように入出力特性が設定される。これによりルックアップテーブル52は、出力値s(i、j)が所定値以下の場合には、乗算回路43を一定利得に設定し、この所定値以上に出力値s(i、j)が増大すると、徐々に値1に近づくように利得を設定する。
【0089】これにより画像処理回路51では、画素値の大きな領域については、コントラストを強調する程度を低減するようになされている。すなわち画像一般においては、大きい画素値を持つ画素近傍程、コントラストも十分に大きい場合が多く、一様にコントラストを強調したのでは、このような画素近傍では必要以上にコントラストを強調することになり、その分処理結果においては、品位が劣化して観察される。ところがこの実施の形態のように、画素値の大きな領域について、コントラストを強調する程度を低減すれば、全体として自然な品位の高い画像を出力することができる。
【0090】図14に示す構成によれば、画素値に応じて強調する程度を可変することにより、さらに一段と品位の高い画像を出力することができる。
【0091】(6)第4の実施の形態図16は、図12との対比により本発明の第4の実施の形態に係る画像処理回路を示すブロック図である。
【0092】この画像処理回路61は、図17に示すように、ノイズ除去フィルタ62により入力画像Xのノイズを事前に除去した後、続く乗算回路63により、一様な利得により乗算してダイナミックレンジを拡大し(図17(A)及び(B))、画像処理回路1によりダイナミックレンジを圧縮して元の入力画像Xのダイナミックレンジにより出力する(図17(C))。
【0093】ここでノイズ除去フィルタ62は、一般的なコアリング処理、メディアンフィルタ、εフィルタ又は改良型εフィルタが適用される。またこの実施の形態において、画像処理回路1は、図3について上述した特性とは逆に、所定の画素値以上では一定の利得により画素値を補正し、所定の画素値以下の範囲では利得が低下するように画素値を補正する。
【0094】この図16に示す構成によれば、逆光画像などコントラストが極端に高い画像について、画質の劣化を有効に回避して階調の補正等の処理を実行することができる。
【0095】すなわち図1等について上述した画像処理回路においては、図3に示すような単調減少による特性により画素値を補正することにより、入力画像Xの暗い部分の明度は下げずに、明るい部分のみ明度を下げてダイナミックレンジを圧縮することになる。ところがこの実施の形態では、これとは逆の特性によりダイナミックレンジを圧縮することにより、入力画像Xの適度な明るさを持つ部分はそれ以上明るくならないようにしながら、暗い部分のみ明度を上げて全体のコントラストを圧縮することができる。これにより逆光補正等の処理を実行することができる。
【0096】(7)第5の実施の形態図18は、本発明の第5の実施の形態に係る画像処理回路を示すブロック図である。この画像処理回路71において、マトリクス回路72は、赤色、青色、緑色の色信号R、B、Gを演算処理して輝度信号Y、色差信号R−Y、B−Yを生成する。
【0097】画像処理回路1は、この輝度信号Yを選択的に処理することにより、輝度信号Yのダイナミックレンジを圧縮して出力する。かくするにつき、この画像処理回路71は、このように輝度信号Yについてのみ画像処理回路1で選択的にダイナミックレンジを圧縮することにより、赤色、青色、緑色の色信号R、B、G間における信号レベルの比率の変化を防止し、この比率の変化による色相の変化を防止するようになされている。
【0098】除算器73及び74は、それぞれ色差信号R−Y、B−Yを輝度信号Yにより割り算することにより、色差信号R−Y、B−Yを輝度信号Yにより正規化する。遅延回路77及び78は、この除算器73及び74から出力される色差信号R−Y、B−Yを画像処理回路1における処理の分、遅延させて出力する。乗算回路77及び78は、それぞれ遅延回路77及び78から出力される色差信号R−Y、B−Yに、画像処理回路1から出力される輝度信号Yを乗算することにより、除算器73及び74により正規化処理された色差信号の画素値を補正する。
【0099】すなわち単に輝度信号のみのダイナミックレンジを圧縮した場合であっても、色差信号においては、輝度信号と色信号との差分信号であることにより、何ら色差信号の信号レベルを補正しない場合、対応する輝度レベルで彩度の成分の比率が上がり、結局画像全体として見たとき彩度が高くなってしまう。
【0100】これによりこの実施の形態では、輝度信号成分により色差信号成分を事前に正規化して輝度信号成分のダイナミックレンジを圧縮した後、この輝度信号成分による画素値で正規化処理された色差信号成分の画素値を補正することにより、このような彩度の変化を防止してカラーによる映像信号のダイナミックレンジを良好に抑圧するようになされている。
【0101】(8)他の実施の形態なお上述の実施の形態においては、改良型εフィルタにおいて、1次関数の近似によりエッジ判定し、また画素値を置き換える場合について述べたが、本発明はこれに限らず、例えば2次関数等により近似してこれらの処理を実行してもよい。
【0102】また上述の実施の形態においては、改良型εフィルタにおいて、関数の近似によりエッジ判定し、また画素値を置き換える場合について述べたが、本発明はこれに限らず、エッジの判定だけ、又は画素値の置き換えだけに関数による近似を利用してもよい。
【0103】また上述の実施の形態においては、改良型εフィルタにおいて、連続する画素値を所定のサンプリングピッチによりサンプリングして処理する場合について述べたが、本発明はこれに限らず、実用上十分な回路規模を確保することができる場合等にあっては、連続する画素をそのまま処理するようにしてもよい。
【0104】また上述の実施の形態においては、改良型εフィルタによる繰り返しの処理により入力画像を平滑化する場合について述べたが、本発明はこれに限らず、実用上十分な特性を得ることができる場合、繰り返しの処理を省略してもよい。
【0105】また上述の実施の形態においては、改良型εフィルタにより非線型平滑化器を構成する場合について述べたが、本発明はこれに限らず、通常のεフィルタにより非線型平滑化器を構成してもよい。
【0106】また上述の実施の形態においては、最終的にルックアップテーブル6により入出力特性を補正する場合について述べたが、本発明はこれに限らず、このルックアップテーブル6による処理を省略してもよく、またルックアップテーブル3により併せて特性を補正するようにしてもよい。
【0107】また上述の実施の形態においては、各回路ブロックで画素値等を処理して画像処理回路を構成する場合について述べたが、本発明はこれに限らず、全体又は一部を演算処理により構成するようにしてもよい。
【0108】
【発明の効果】上述のように本発明によれば、エッジを保存したまま入力画像を平滑化してゲイン補正係数を求め、このゲイン補正係数により入力画像の画素値を補正することにより、コントラスト感の低下、不自然なエッジ強調を有効に回避して、高い圧縮率でダイナミックレンジを圧縮することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態に係る画像処理回路を示すブロック図である。
【図2】図1の画像処理回路の動作の説明に供するタイムチャートである。
【図3】図1の画像処理回路のルックアップテーブル3の特性を示す特性曲線図である。
【図4】図1の画像処理回路のルックアップテーブル6の特性を示す特性曲線図である。
【図5】図1の画像処理回路の非線型平滑化器を示すブロック図である。
【図6】図5の非線型平滑化器の動作の説明に供するタイムチャートである。
【図7】図5の非線型平滑化器の改良型εフィルタの説明に供するタイムチャートである。
【図8】図5の非線型平滑化器の改良型εフィルタを示すブロック図である。
【図9】図8の改良型εフィルタの遅延回路を示すブロック図である。
【図10】図8の改良型εフィルタの演算回路を示すブロック図である。
【図11】図1の画像処理回路のルックアップテーブル3の特性の説明に供する特性曲線図である。
【図12】本発明の第2の実施の形態に係る画像処理回路を示すブロック図である。
【図13】図12の画像処理回路の動作の説明に供するタイムチャートである。
【図14】本発明の第3の実施の形態に係る画像処理回路を示すブロック図である。
【図15】図12の画像処理回路のルックアップテーブル52の説明に供する特性曲線図である。
【図16】本発明の第4の実施の形態に係る画像処理回路を示すブロック図である。
【図17】図16の画像処理回路の動作の説明に供するタイムチャートである。
【図18】本発明の第5の実施の形態に係る画像処理回路を示すブロック図である。
【符号の説明】
1、41、51、61、71……画像処理回路、2……非線型平滑化器、3、6、12、14、52……ルックアップテーブル、11、15……ローパスフィルタ、13AX、13BX、13AY、13BY……改良型εフィルタ、24……傾き検出回路、25A〜25F……演算回路、62……雑音除去フィルタ
【特許請求の範囲】
【請求項1】入力画像のダイナミックレンジを圧縮する画像処理回路において、前記入力画像のエッジを保存して前記入力画像の画素値を平滑化する平滑化手段と、前記平滑化手段の出力値に応じてゲイン補正係数を生成する補正係数生成手段と、前記ゲイン補正係数により前記入力画像の画素値を補正する画素値補正手段とを備えることを特徴とする画像処理回路。
【請求項2】入力画像のダイナミックレンジを圧縮する画像処理方法において、前記入力画像による画像のエッジを保存して前記入力画像の画素値を平滑化する平滑化処理と、前記平滑化処理の出力値に応じてゲイン補正係数を生成する補正係数生成処理と、前記ゲイン補正係数により前記入力画像の画素値を補正する画素値補正処理とを有することを特徴とする画像処理方法。
【請求項3】前記画素値補正処理により補正された画素値の階調を補正する階調補正処理を有することを特徴とする請求項2に記載の画像処理方法。
【請求項4】前記平滑化処理による出力値を前記入力画像の画素値より減算して得られる減算値を用いて、前記画素値補正処理により補正される画素値の変化を強調する画像強調処理を有することを特徴とする請求項2に記載の画像処理方法。
【請求項5】前記入力画像のノイズを事前に除去するノイズ除去処理と、前記ノイズ除去処理した前記入力画像の画素値を一様な利得により乗算してダイナミックレンジを拡大し、前記平滑化処理及び前記画素値補正処理に供給するダイナミックレンジ拡大処理とを有することを特徴とする請求項2に記載の画像処理方法。
【請求項6】前記平滑化処理は、前記入力画像より低周波数成分を抽出するフィルタリング処理と、前記フィルタリング処理した画素値を対数変換する対数変換処理と、前記対数変換処理した画像のエッジを保存して高周波数成分を抑圧する非線型のフィルタリング処理と、前記非線型のフィルタリング処理による画素値を逆対数変換する逆対数変換処理とを有することを特徴とする請求項2に記載の画像処理方法。
【請求項7】前記非線型のフィルタリング処理は、前記入力画像における画素値のサンプリングピッチが異なり、かつ画像のエッジを保存して高周波数成分を抑圧する複数のフィルタリングを繰り返して実行されることを特徴とする請求項6に記載の画像処理方法。
【請求項8】前記非線型のフィルタリング処理は、連続する画素を所定ピッチによりサンプリングして実行されることを特徴とする請求項6に記載の画像処理方法。
【請求項9】前記非線型のフィルタリング処理は、処理対象の画素を基準とした所定範囲の画素について、該画素の画素値の低周波数成分を近似する所定の近似関数を生成する近似関数生成の処理と、前記近似関数を基準にして、前記低周波数成分に対応する領域を設定する領域設定の処理と、前記処理対象の画素を基準とした所定範囲の画素のそれぞれについて、画素値が前記領域に属するか否か判定し、該判定結果に応じて前記近似関数による対応する画素値に、該判定に係る画素値を選択的に置き換える画素値の置き換え処理と、前記画素値の置き換え処理による画素値を重み付け加算する重み付け加算の処理とを有することを特徴とする請求項6に記載の画像処理方法。
【請求項10】前記平滑化処理の出力値に対する前記ゲイン補正係数の特性が単調減少特性であることを特徴とする請求項2に記載の画像処理方法。
【請求項11】前記ノイズ除去処理が、コアリング処理であることを特徴とする請求項5に記載の画像処理方法。
【請求項12】前記ノイズ除去処理が、メディアンフィルタによる処理であることを特徴とする請求項5に記載の画像処理方法。
【請求項13】前記ノイズ除去処理が、処理対象の画素を基準とした所定範囲の画素について、前記処理対象の画素の画素値を基準にした判定に応じて、該判定に係る画素値を選択的に置き換える画素値の置き換え処理と、前記画素値の置き換え処理による画素値を重み付け加算する重み付け加算の処理とを有することを特徴とする請求項6に記載の画像処理方法。
【請求項14】前記入力画像の輝度信号成分により前記入力画像の色差信号成分を事前に正規化し、前記輝度信号成分による画素値を前記平滑化処理及び前記画素値補正処理に供給する正規化処理と、前記画素値補正処理された輝度信号成分による画素値により、前記正規化処理された色差信号成分の画素値を補正する色差信号補正処理とを有することを特徴とする請求項2に記載の画像処理方法。
【請求項1】入力画像のダイナミックレンジを圧縮する画像処理回路において、前記入力画像のエッジを保存して前記入力画像の画素値を平滑化する平滑化手段と、前記平滑化手段の出力値に応じてゲイン補正係数を生成する補正係数生成手段と、前記ゲイン補正係数により前記入力画像の画素値を補正する画素値補正手段とを備えることを特徴とする画像処理回路。
【請求項2】入力画像のダイナミックレンジを圧縮する画像処理方法において、前記入力画像による画像のエッジを保存して前記入力画像の画素値を平滑化する平滑化処理と、前記平滑化処理の出力値に応じてゲイン補正係数を生成する補正係数生成処理と、前記ゲイン補正係数により前記入力画像の画素値を補正する画素値補正処理とを有することを特徴とする画像処理方法。
【請求項3】前記画素値補正処理により補正された画素値の階調を補正する階調補正処理を有することを特徴とする請求項2に記載の画像処理方法。
【請求項4】前記平滑化処理による出力値を前記入力画像の画素値より減算して得られる減算値を用いて、前記画素値補正処理により補正される画素値の変化を強調する画像強調処理を有することを特徴とする請求項2に記載の画像処理方法。
【請求項5】前記入力画像のノイズを事前に除去するノイズ除去処理と、前記ノイズ除去処理した前記入力画像の画素値を一様な利得により乗算してダイナミックレンジを拡大し、前記平滑化処理及び前記画素値補正処理に供給するダイナミックレンジ拡大処理とを有することを特徴とする請求項2に記載の画像処理方法。
【請求項6】前記平滑化処理は、前記入力画像より低周波数成分を抽出するフィルタリング処理と、前記フィルタリング処理した画素値を対数変換する対数変換処理と、前記対数変換処理した画像のエッジを保存して高周波数成分を抑圧する非線型のフィルタリング処理と、前記非線型のフィルタリング処理による画素値を逆対数変換する逆対数変換処理とを有することを特徴とする請求項2に記載の画像処理方法。
【請求項7】前記非線型のフィルタリング処理は、前記入力画像における画素値のサンプリングピッチが異なり、かつ画像のエッジを保存して高周波数成分を抑圧する複数のフィルタリングを繰り返して実行されることを特徴とする請求項6に記載の画像処理方法。
【請求項8】前記非線型のフィルタリング処理は、連続する画素を所定ピッチによりサンプリングして実行されることを特徴とする請求項6に記載の画像処理方法。
【請求項9】前記非線型のフィルタリング処理は、処理対象の画素を基準とした所定範囲の画素について、該画素の画素値の低周波数成分を近似する所定の近似関数を生成する近似関数生成の処理と、前記近似関数を基準にして、前記低周波数成分に対応する領域を設定する領域設定の処理と、前記処理対象の画素を基準とした所定範囲の画素のそれぞれについて、画素値が前記領域に属するか否か判定し、該判定結果に応じて前記近似関数による対応する画素値に、該判定に係る画素値を選択的に置き換える画素値の置き換え処理と、前記画素値の置き換え処理による画素値を重み付け加算する重み付け加算の処理とを有することを特徴とする請求項6に記載の画像処理方法。
【請求項10】前記平滑化処理の出力値に対する前記ゲイン補正係数の特性が単調減少特性であることを特徴とする請求項2に記載の画像処理方法。
【請求項11】前記ノイズ除去処理が、コアリング処理であることを特徴とする請求項5に記載の画像処理方法。
【請求項12】前記ノイズ除去処理が、メディアンフィルタによる処理であることを特徴とする請求項5に記載の画像処理方法。
【請求項13】前記ノイズ除去処理が、処理対象の画素を基準とした所定範囲の画素について、前記処理対象の画素の画素値を基準にした判定に応じて、該判定に係る画素値を選択的に置き換える画素値の置き換え処理と、前記画素値の置き換え処理による画素値を重み付け加算する重み付け加算の処理とを有することを特徴とする請求項6に記載の画像処理方法。
【請求項14】前記入力画像の輝度信号成分により前記入力画像の色差信号成分を事前に正規化し、前記輝度信号成分による画素値を前記平滑化処理及び前記画素値補正処理に供給する正規化処理と、前記画素値補正処理された輝度信号成分による画素値により、前記正規化処理された色差信号成分の画素値を補正する色差信号補正処理とを有することを特徴とする請求項2に記載の画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図6】
【図9】
【図15】
【図16】
【図5】
【図7】
【図10】
【図11】
【図13】
【図8】
【図12】
【図14】
【図17】
【図18】
【図2】
【図3】
【図4】
【図6】
【図9】
【図15】
【図16】
【図5】
【図7】
【図10】
【図11】
【図13】
【図8】
【図12】
【図14】
【図17】
【図18】
【公開番号】特開2001−275015(P2001−275015A)
【公開日】平成13年10月5日(2001.10.5)
【国際特許分類】
【出願番号】特願2000−87053(P2000−87053)
【出願日】平成12年3月23日(2000.3.23)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成13年10月5日(2001.10.5)
【国際特許分類】
【出願日】平成12年3月23日(2000.3.23)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]