説明

ダイナミックレンジ圧縮装置およびプログラム

【課題】 少ない演算量で、入力画像の元の内容を損なうことなくダイナミックレンジ圧縮を行うことを可能にする。
【解決手段】 可変ゲイン増幅部130は、入力画像メモリ110内の入力画像の各画素の画素値を可変のゲインにより増幅し、出力画像を構成する各画素の画素値を出力画像メモリ120に書き込む。ゲイン制御部140は、入力画像を構成する各画素を各々注目画素とし、入力画像において注目画素を含む所定範囲内の画素の平均輝度を算出する一方、入力輝度を出力輝度に対応付けるベース関数に対し、注目画素を含む所定範囲内の画素の平均輝度を入力輝度として与え、これによりベース関数から得られる出力輝度の入力輝度に対する比を注目画素に適用するゲインとして可変ゲイン増幅部130に与える。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、動画像等のダイナミックレンジ圧縮に好適なダイナミックレンジ圧縮装置およびプログラムに関する。
【背景技術】
【0002】
近年の撮像素子技術の進歩により、広いダイナミックレンジを持った画像の得られる撮像素子が提供されるようになった。この撮像素子から得られる画像のダイナミックレンジに比べると、一般に表示装置が出力可能な画像のダイナミックレンジは狭い。このため、撮像素子から得られる画像をディスプレイに表示させるに当たっては、画像のダイナミックレンジ圧縮を行うことが必要になる。よく知られているダイナミックレンジ圧縮のための方法として、リニア変換と対数変換がある。ここで、リニア変換は、ダイナミックレンジ圧縮の対象である入力画像の各画素値に対し、1より小さなゲインを乗算することにより、ダイナミックレンジ圧縮後の出力画像の各画素値を算出する方法である。また、対数変換は、次式に従い、入力画像の画素値xを、出力画像の画素値yに変換する方法である。

=Ymax*log(1+x/(Xmax*delta))/log(1+1/delta)
……(1)
ここで、deltaは、対数曲線yの全体としての傾きを決定するパラメータであり、deltaが小さくなる程、対数曲線yは、より凸な曲線となる。また、“*”は乗算を示す。
【特許文献1】特開2006−229275号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
図9は、リニア変換および対数変換における変換前の入力画像の各画素の輝度である入力輝度と変換後の出力画像の各画素の輝度である出力輝度との関係を示すものである。図9において、横軸は入力輝度の対数値、縦軸は出力輝度の対数値である。
【0004】
図9に示すように、リニア変換における入力輝度と出力輝度の関係は、勾配が1の直線によって表される。そして、この直線の横軸方向の位置は、入力輝度に乗じられるゲインにより定まる。図9では、リニア変換の例としてリニア変換1および2が示されているが、左側に示されているリニア変換1は、右側に示されているリニア変換2よりも高いゲインを用いて、入力輝度から出力輝度への変換を行っている。
【0005】
図9に示すように、ゲインの高いリニア変換1では、入力輝度が高い領域(図9ではA部)では、出力輝度が表示装置によって定まる最大値に対してオーバーフローする。このため、出力輝度がオーバーフローしている領域が真っ白になる、いわゆる白飛びが出力画像に表れる。
【0006】
一方、ゲインの低いリニア変換2では、白飛びを防止することはできるが、入力輝度が低い領域(図9ではB部)では、出力輝度が表示装置の表現可能な輝度の下限値を下回る。このため、出力輝度が下限値を下回っている領域が真っ黒になる、いわゆる黒潰れが出力画像に現れる。
【0007】
対数変換では、リニア変換において発生する白飛びや黒潰れの問題は発生しない。しかし、対数変換では、入力輝度の高い領域(図9ではC部)において、入力輝度が変化しているのに出力輝度が殆ど変化しなくなるコントラストの低下が起こる。
【0008】
このようにリニア変換や対数変換では、入力画像が広いダイナミックレンジを持っている場合に、変換後の出力画像において入力画像の元の内容が損なわれる場合がある(A部、B部、C部参照)。
【0009】
このような不都合が発生する広いダイナミックレンジを持った入力画像の例として、1つの撮像素子により室内と室内の窓越しに見える外の風景を同時に撮像した場合に得られる画像が挙げられる。この場合、室内は輝度が低いのに対し、窓越しに見える外の風景は輝度が高い。このため、撮像素子から得られた画像に対し、例えば対数変換によるダイナミックレンジ圧縮を行うと、出力画像において、輝度の低い室内の画像は見ることができるが、窓越しに見えるはずの外の風景は、白飛びこそ生じないものの、コントラストが低下し、はっきり見えない風景となる。さらに、出力画像において、窓越しに見える外の風景は全体的に白っぽくなり、色の再現性が低下する、という問題が発生する。
【0010】
以上のように、従来のリニア変換や対数変換では、広いダイナミックレンジを持った入力画像を元の内容を損なうことなく狭いダイナミックレンジの出力画像に変換することは困難であった。また、リニア変換や対数変換以外にもダイナミックレンジ圧縮の方法はあるが、動画処理に耐えうるような少ない演算量で、入力画像の元の内容を損なうことなくダイナミックレンジ圧縮を行うことができる技術は従来提供されていなかった。
【0011】
この発明は、以上説明した事情に鑑みてなされたものであり、少ない演算量で、入力画像の元の内容を損なうことなくダイナミックレンジ圧縮を行うことを可能にする技術的手段を提供することを目的とする。
【課題を解決するための手段】
【0012】
この発明は、入力画像を構成する各画素の画素値を指示されたゲインで増幅し、出力画像を構成する各画素の画素値を出力する可変ゲイン増幅手段と、前記入力画像を構成する各画素を各々注目画素とし、前記入力画像において注目画素を含む所定範囲内の画素の平均輝度を算出する一方、入力輝度を出力輝度に対応付けるベース関数に対し、注目画素を含む所定範囲内の画素の平均輝度を入力輝度として与え、これによりベース関数から得られる出力輝度の入力輝度に対する比を注目画素に適用するゲインとして前記可変ゲイン増幅手段に指示するゲイン制御手段とを具備することを特徴とするダイナミックレンジ圧縮装置およびコンピュータを前記各手段として機能させるコンピュータプログラムを提供する。
【0013】
かかる発明によれば、入力画像を構成する各画素が注目画素とされ、注目画素を含む所定範囲内の画素の平均輝度が入力輝度としてベース関数に与えられ、これによりベース関数から得られる出力輝度の入力輝度に対する比が注目画素に適用するゲインとされる。従って、入力画像がダイナミックレンジの広い画像であり、輝度が大きく異なる複数の領域に分かれている場合に、ダイナミックレンジ圧縮後の各領域の出力輝度はベース関数曲線に沿ったものとなる。また、各領域に着目すると、領域内の各画素を注目画素としたときの各平均輝度はほぼ同じ値になるので、領域内の各画素にはほぼ同じゲインが適用され、リニア変換に近い変換が行われる。従って、各領域内のコントラストが良好な出力画像が得られる。
【0014】
なお、ダイナミックレンジ圧縮時のコントラスト改善に関する技術として特許文献1に開示のものがある。この特許文献1に開示の技術では、入力画像の各画素値に対し、2次元LPF(ローパスフィルタ)処理を施すことにより、高周波成分を除いて、画面のポイント毎の特徴信号を取得し、この特徴信号により白バランス出力信号の入出力特性を変化させて、画面の特徴に最適な入出力特性を得るものである。しかし、この特許文献1に開示の技術は、入力画像を構成する各画素を注目画素とし、注目画素を含む所定範囲内の画素の平均輝度を入力輝度としてベース関数に与え、これによりベース関数から得られる出力輝度の入力輝度に対する比を注目画素に適用するゲインとするものではなく、本発明とは全く異なる技術である。
【発明を実施するための最良の形態】
【0015】
以下、図面を参照し、この発明の一実施形態について説明する。図1は、この発明の一実施形態によるダイナミックレンジ圧縮装置100の構成を示すブロック図である。このダイナミックレンジ圧縮装置100は、例えば表示装置を備えたパーソナルコンピュータ等の機器や表示装置自体に実装される装置であり、動画を構成する一連の入力画像の各画素値を例えばカメラから所定のフレームレートで受け取り、フレーム毎に入力画像の各画素値のダイナミックレンジ圧縮を行い、ダイナミックレンジ圧縮後の出力画像の画素値を表示装置に供給する装置である。なお、この発明の実施の態様には、図1に示すダイナミックレンジ圧縮装置100を専用のハードウェアとして実現する態様の他、コンピュータを図1に示すダイナミックレンジ圧縮装置100の各部として機能させるコンピュータプログラムとして実現する態様も含まれる。
【0016】
図1に示すように、ダイナミックレンジ圧縮装置100は、入力画像メモリ110と、出力画像メモリ120と、可変ゲイン増幅部130と、ゲイン制御部140とを有する。ここで、入力画像メモリ110は、ダイナミックレンジ圧縮の対象である入力画像の各画素値を記憶するメモリである。カメラから供給される入力画像の各画素値はこの入力画像メモリ110に書き込まれる。また、出力画像メモリ120は、ダイナミックレンジ圧縮後の出力画像の各画素値を記憶するメモリである。この出力画像メモリ120に記憶された出力画像の各画素値が後段の表示装置(図示略)により表示される。可変ゲイン増幅部130は、入力画像メモリ110から読み出される各画素値を可変のゲインにより増幅する装置である。この可変ゲイン増幅部130により増幅された画素値が出力画像の画素値として出力画像メモリ120に書き込まれる。
【0017】
ゲイン制御部140は、入力画像メモリに入力画像の各画素値毎に、画素値を増幅する際のゲインを演算し、そのゲインでの画素値の増幅を可変ゲイン増幅部130に指示する装置である。このゲイン制御部140は、図1に示すように、平均化処理部141と、ゲイン算出処理部142とを有する。
【0018】
平均化処理部141は、入力画像メモリ110に画素値が記憶された入力画像の各画素を各々注目画素とし、入力画像において注目画素を含む所定範囲内の画素の平均輝度を算出する手段である。より具体的には、平均化処理部141は、入力画像における第i行、第j列の画素P(i,j)を注目画素とした場合、まず、この注目画素P(i、j)を中心としたM×M画素(Mは2以上の整数)の範囲内の各画素P(u、v)(ただし、uは行番号iを中心とした幅Mの範囲内の行番号、vは列番号jを中心とした幅Mの範囲内の列番号である。)の輝度Yin(u、v)を算出する。ここで、入力画像がモノクロ画像である場合は、各画素値をそのまま輝度Yin(u、v)とする。また、入力画像がカラー画像であり、各画素の画素値がR、G、Bの成分を持つ場合には、R、G、Bの成分に所定の重み係数を乗算して加算することにより輝度Yin(u、v)を算出する。そして、M×M画素の範囲内の各画素P(u、v)の輝度Yin(u、v)のうち注目画素P(i、j)の輝度Yin(i、j)を基準とした所定範囲内の輝度、より具体的には1/k1<Yin(u、v)/Yin(i、j)<k2を満たす輝度Yin(u、v)のみを平均化し、注目画素P(i、j)を中心としたM×M画素の範囲内の各画素の平均輝度Yin_av(i、j)を算出する。ただし、k1およびk2は、所定のパラメータである。なお、注目画素P(i、j)が入力画像を囲う上下左右の各辺近傍にある場合には、注目画素P(i、j)を中心としたM×M画素の範囲が入力画像の上下左右のいずれかの辺からはみ出る場合がある。勿論、この場合には、M×M画素の範囲のうち入力画像の上下左右の各辺の内側に収まっている画素のみが平均化処理の対象となる。
【0019】
図2は、M=5である場合を例に平均化処理部141の処理内容を例示する図である。図示の例では、入力画像において、ある境界において画素の輝度が大きく変化しており、白丸は境界の一方の側の輝度の高い画素群を、黒丸は境界の他方の側の輝度の低い画素群を各々示している。
【0020】
このような入力画像において、画素P(i、ja)が注目画素である場合、この注目画素P(i、ja)を中心とした5×5画素の範囲内の各画素P(u、v)は全て輝度が高い画素群の画素(白丸の画素)である。そして、この例では、5×5画素の範囲内の各画素P(u、v)の輝度Yin(u、v)と注目画素P(i、ja)の輝度Yin(i、ja)は、1/k1<Yin(u、v)/Yin(i、ja)<k2なる関係を満たす。従って、画素P(i、ja)が注目画素である場合には、注目画素P(i、ja)を中心とした5×5画素の範囲内の全ての画素P(u、v)の輝度Yin(u、v)を平均化することにより平均輝度Yin_av(i、ja)が算出される。
【0021】
また、画素P(i、jb)が注目画素である場合に、この注目画素P(i、jb)を中心とした5×5画素の範囲内には輝度の高い画素群の画素(白丸の画素)と輝度の低い画素群の画素(黒丸の画素)とが含まれる。そして、注目画素P(i、jb)自体は、輝度の高い画素(白丸の画素)である。このため、注目画素P(i、jb)を中心とした5×5画素の範囲内のうち輝度の高い画素P(u、v)(白丸の画素)の輝度Yin(u、v)のみが1/k1<Yin(u、v)/Yin(i、jb)<k2なる関係を満たし、これらの画素P(u、v)(白丸の画素)の輝度Yin(u、v)のみを平均化することにより平均輝度Yin_av(i、jb)が算出される。
【0022】
画素(i、jb)の左隣の画素P(i、jc)が注目画素である場合、この注目画素P(i、jc)を中心とした5×5画素の範囲内にも輝度の高い画素群の画素(白丸の画素)と輝度の低い画素群の画素とが含まれる。しかし、注目画素P(i、jc)自体は、輝度の低い画素(黒丸の画素)である。このため、注目画素P(i、jc)を中心とした5×5画素の範囲内のうち輝度の低い画素P(u、v)(黒丸の画素)の輝度Yin(u、v)のみが1/k1<Yin(u、v)/Yin(i、jc)<k2なる関係を満たし、これらの画素P(u、v)(黒丸の画素)の輝度Yin(u、v)のみを平均化することにより平均輝度Yin_av(i、jc)が算出される。
【0023】
このように、平均化処理部141は、注目画素P(i、j)の輝度Yin(i、j)を基準とした所定の範囲内の輝度Yin(u、v)のみを用いて平均輝度Yin_av(i、j)を算出する。このため、注目画素P(i、j)の近傍に輝度が大きく変化する境界があっても、算出される平均輝度Yin_av(i、j)が注目画素P(i、j)の輝度Yin(i、j)から大きく外れることはなく、平均輝度Yin_av(i、j)は注目画素P(i、j)の輝度Yin(i、j)に近い値となる。そして、入力画像を各々輝度の近い画素群からなる複数の領域に分けることができるような場合には、各領域に着目すると、領域内の各画素P(i、j)を注目画素としたときの各平均輝度Yin_av(i、j)は互いに接近した値となる。領域内の各画素P(i、j)を注目画素とした平均輝度Yin_av(i、j)の算出処理では、領域外の画素の輝度が平均化の対象から除外されるからである。
【0024】
ゲイン算出処理部142は、入力画像を構成する画素P(i、j)毎に可変ゲイン増幅部130に指示する増幅用のゲインを算出する手段である。このゲイン算出処理部142は、次式に示すように、平均化処理部141が入力画像を構成する各画素P(i、j)を注目画素として算出した各平均輝度Yin_av(i、j)と、所定のベース関数y=f(x)とを用いることにより、入力画像を構成する画素P(i、j)毎に、画素P(i、j)に適用するゲインG(i、j)を算出する。
G(i、j)
=f(Yin_av(i、j))/Yin_av(i、j) ……(2)
【0025】
ここで、ベース関数y=f(x)は、独立変数xの対数値に対する従属変数yの対数値の勾配が1より小さい関数である。このベース関数y=f(x)として好適な例を示すと次の通りである。
<例1>

=f(x)
=0.5*Ymax*log(1+x/(Xmax*delta))
/log(1+1/delta) ……(3)
このベース関数y=f(x)は、対数関数である。ここで、deltaは例えば0.001である。
<例2>

=f(x)
=16*x^0.4 ……(4)
ここで、“^”はべき乗を示す。
【0026】
可変ゲイン増幅部130は、入力画像メモリ110に記憶された各画素P(i、j)の画素値に対し、ゲイン算出処理部142により算出された各画素P(i、j)に対応したゲインG(i、j)を各々乗算し、各乗算結果を出力画像の各画素値として出力画像メモリ120に書き込む手段である。
以上が本実施形態によるダイナミックレンジ変換装置100の構成の詳細である。
【0027】
図3は、本実施形態によるダイナミックレンジ圧縮装置100のダイナミックレンジ圧縮特性を示す図である。図3において、横軸は入力画像の各画素の輝度Yin(i、j)の対数値、縦軸はダイナミックレンジ圧縮後の出力画像の各画素の輝度Yout(i、j)の対数値である。なお、図3では、本実施形態の従来技術との相違を明らかにするため、前掲図9のリニア変換1および2と対数変換のダイナミックレンジ圧縮特性が併せて図示されている。
【0028】
図3において、ベース関数f(x)は、例えば前掲式(3)で表されるような対数関数である。上述したように、本実施形態では、入力画像を構成する各画素P(i、j)を注目画素とした場合において、前掲式(2)に示すように、注目画素P(i、j)を含む所定範囲内の画素の平均輝度Yin_av(i、j)を入力輝度xとしてベース関数f(x)に与え、これによりベース関数から得られる出力輝度f(Yin_av(i、j))の入力輝度Yin_av(i、j)に対する比が注目画素P(i、j)に適用されるゲインG(i、j)となる。すなわち、各注目画素P(i、j)に適用されるゲインG(i、j)は、その注目画素P(i、j)を中心とした所定範囲内の画素の平均輝度により決定される。このため、例えば前掲図2のように、入力画像がある境界において輝度の高い領域(白丸画素の領域)と輝度の低い領域(黒丸画素の領域)に分かれている場合、本実施形態によるダイナミックレンジ圧縮では、次のようなことが起こる。
【0029】
まず、入力画像において輝度の高い領域では、領域内の各画素P(i、j)を注目画素とした場合の各平均輝度Yin_av(i、j)が互いに接近した値であると、各画素P(i、j)にはほぼ同じゲインが適用される。このため、入力画像において輝度の高い領域の各画素P(i、j)(白丸画素)についての入力輝度Yin(i、j)と出力輝度Yout(i、j)=G(i、j)*Yin(i、j)の組を示すプロットは、ベース関数f(x)上の当該領域(輝度の高い領域)の平均輝度に対応した点を通過し、勾配が1である直線上に分布する。一方、輝度の低い領域でも、領域内の各画素P(i、j)を注目画素とした場合の各平均輝度Yin_av(i、j)が互いに接近した値であると、各画素P(i、j)にはほぼ同じゲインが適用される。このため、入力画像において輝度の低い領域の各画素P(i、j)(黒丸画素)についての入力輝度Yin(i、j)と出力輝度Yout(i、j)=G(i、j)*Yin(i、j)の組を示すプロットも、ベース関数f(x)上の当該領域(輝度の低い領域)の平均輝度に対応した点を通過し、傾きが1である直線上に分布する。
【0030】
以上、説明を簡単にするため、入力画像が輝度の高い領域と輝度の低い領域に分かれている場合を例に説明したが、入力画像が輝度の大きく異なった3つ以上の領域に分かれている場合についても同様である。本実施形態によれば、入力画像のダイナミックレンジが広く、入力画像が輝度の大きく異なる複数の領域に分かれている場合に、各領域に着目すると、その領域内の各画素の入力輝度と出力輝度の組を示すプロット群は、その領域内の各画素の平均輝度とこの平均輝度をベース関数に入力輝度として与えることにより得られる出力輝度の組を中心に分布する。従って、ダイナミックレンジ圧縮における入力輝度と出力輝度の組は、大局的に見ると、ベース関数曲線に沿ったものとなり、ダイナミックレンジ圧縮において白飛びや黒潰れが発生しない。
【0031】
また、本実施形態によれば、入力画像のダイナミックレンジが広く、入力画像が輝度の大きく異なる複数の領域に分かれている場合であっても、各領域に着目すると、領域内の各画素間の入力輝度に変化がある場合に、その変化は両対数グラフ上において傾きが1の直線に沿った出力輝度の変化となって現れる。すなわち、領域内の各画素に対応した平均輝度が同じまたは近似しているような領域では、領域内の各画素についてのダイナミックレンジ圧縮として、リニア変換に近い変換が行われる。例えば図3において、右側に描かれた傾き1の直線上にプロットされる全ての画素は、平均輝度aに近い輝度を有している。また、ベース関数f(x)において、この平均輝度に対応した関数値f(a)はbである。従って、この直線上にプロットされる各画素には、G=b/aなるゲインが適用される。すなわち、この直線上にプロットされる各画素のうち平均輝度aから隔たった輝度a’を有する画素にもこのゲインGが適用され、この画素の輝度b’は、b’=(b/a)a’となる。図3において、左側に描かれた傾き1の直線上にプロットされる各画素についても同様である。従って、入力画像が輝度の大きく異なる複数の領域に分かれている場合に、出力画像では領域毎に高いコントラストを得ることができる。この場合において、例えば入力画像において輝度の高い領域内の一部の画素のダイナミックレンジ圧縮後の出力輝度が、入力画像において輝度の低い領域内の一部の画素のダイナミックレンジ圧縮後の出力輝度よりも低くなる逆転現象が生じることがある。しかし、人間の視覚は、ある程度離れた2点の輝度差を正確に認知することが困難である。従って、このような逆転現象が生じたとしても、ダイナミックレンジ圧縮後の出力画像を視認する者に大きな違和感を与えることはない。
【0032】
また、本実施形態によれば、注目画素を中心とした所定範囲内の画素の平均輝度を求めるに当たり、注目画素の輝度から所定範囲内の輝度のみを平均化の対象としている。従って、入力画像において注目画素の近傍に輝度が大きく変化する境界がある場合に、その注目画素に対応した平均輝度をその境界の外側の画素の輝度の影響を受けない適正な値にすることができ、注目画素に適用するゲインを適正なものにすることができる。仮に注目画素を中心とした所定範囲内の画素の平均輝度を求めるに当たり、所定範囲内の全ての画素の輝度を平均化の対象にしたとすると、その所定範囲内を輝度が大きく変化する境界が含まれている場合に次の不具合が生じる。まず、注目画素の輝度が高いが所定範囲内に輝度がかなり低い画素が含まれている場合には、注目画素の輝度に対して平均輝度が顕著に低くなるため、前掲図3のダイナミックレンジ圧縮特性において注目画素のプロットが乗る勾配1の直線が左側にシフトし、注目画素の輝度に対応した変換後の輝度がより高い値となる。一方、注目画素の輝度が低いが所定範囲内に輝度がかなり高い画素が含まれている場合には、注目画素の輝度に対して平均輝度が顕著に高くなるため、前掲図3のダイナミックレンジ圧縮特性において注目画素のプロットが乗る勾配1の直線が右側にシフトし、注目画素の輝度に対応した変換後の輝度がより低い値となる。従って、入力画像に輝度が大きく変化する境界部があると、出力画像では、輝度が高い部分は輝度がより高くなり、輝度が低い部分は輝度がより低くなり、輝度の変化が不自然に強調され、境界から離れるとその症状がなくなる。これに対し、本実施形態では、注目画素を中心とした所定範囲内の画素の平均輝度を求めるに当たり、注目画素の輝度から所定範囲内の輝度のみを平均化の対象としている。従って、このような不具合は生じない。
【0033】
次に図4および図5を参照し、本実施形態の効果をさらに具体的に説明する。図4は、本実施形態によるダイナミックレンジ圧縮の対象となる入力画像の例を示すものである。この例において、入力画像は、あるビルの中の室内の風景の画像である。入力画像において、室内には窓があり、この窓の手前には額が立て掛けてある。また、窓越しに外の風景とビルの外壁が見えている。図5において、Yinは、図4に示す入力画像においてX軸上の並んだ一行分の画素の入力輝度を示す。図4において、X軸上の一連の画素を左から順に見ると、まず、窓越しに見える外の風景を示す画素領域A1があり、次に額を示す画素領域A2があり、次に窓越しに見える外の風景を示す画素領域A3があり、次に窓越しに見えるビルの外壁を示す画素領域A4があり、次に室内の壁を示す画素領域A5がある。図5にも、これらの画素領域A1〜A5を示した。
【0034】
図5に示すように、窓越しに見える外の風景の画素領域A1およびA3の各画素の入力輝度Yinは、各画素領域内において細かな起伏があるものの各画素を注目画素とした平均輝度Yin_avは総じて高く、各画素領域内における画素間の平均輝度Yin_avの変動は少ない。また、額の画素領域A2や壁の画素領域A5の各画素の入力輝度Yinは、各画素領域内において小さな起伏があるものの各画素を注目画素とした平均輝度Yin_avは総じて低く、画素領域内の各画素間の平均輝度Yin_avの変動は少ない。このため、画素領域A1、A2、A3、A5については、各画素領域毎の平均輝度により定まるゲインが適用される。
【0035】
本実施形態では、全体としてベース関数曲線に沿うようにダイナミックレンジ圧縮が行われるため、出力画像における画素領域A1、A2、A3、A5の各間の出力輝度Youtの差は、入力画像における画素領域A1、A2、A3、A5の各間の入力輝度Yinの差よりも小さくなる。しかしながら、画素領域A1、A2、A3、A5の各画素領域内の画素に着目すると、各画素領域内では、各画素にほぼ同じゲインが適用され、リニア変換に近い変換が行われる。このため、各画素領域に着目すると、入力画像が持っていた画素間の入力輝度Yinの起伏が損なわれることなく、出力画像の画素間の出力輝度Youtの起伏となって反映される。従って、出力画像では、窓越しに外に風景がはっきりと見え、額に描かれた絵もはっきりと見え、壁の表面状態もはっきりと分かる、という具合に各領域毎に良好なコントラストが得られる。
【0036】
参考のため、図5には、図4のX軸上の入力画像の各画素に対し、従来の対数変換によるダイナミックレンジ圧縮を行った場合に得られる出力画像の各画素の出力輝度Yout’を示した。図示のように、対数変換を行った場合には、特に入力輝度が高い画素領域A1およびA3において画素に適用されるゲインが著しく低くなるため、入力画像の画素間の入力輝度Yinの差がある箇所でも、出力画像では、出力輝度Yout’の画素間の差が極端に低下し、コントラストが著しく低下する。これに対し、本実施形態では、このような不具合は生じず、入力輝度Yinの高い領域、入力輝度Yinの低い領域のいずれにおいても、良好なコントラストを持った出力画像が得られる。
【0037】
<第2実施形態>
上記第1実施形態では、注目画素P(i、j)を含むM×M画素の範囲の画素の輝度Yin(u、v)を平均化して平均輝度Yin_av(i、j)を算出した。この場合、Mの値を大きくすると、平均化の対象となる画素の範囲が広がるので、同じ平均輝度Yin_av(i、j)を共有する注目画素P(i、j)の入力画像平面内での範囲が広がるとともに、それらの注目画素P(i、j)の入力輝度Yin(i、j)の範囲が広くなる。このため、前掲図3のダイナミックレンジ圧縮特性では、ベース関数曲線と交差する傾きが1の一本の直線上にプロットされる入力輝度Yin(i、j)および出力輝度Yout(i、j)の組数(すなわち、画素P(i、j)の個数)が増える。従って、出力画像のコントラストが上昇する。これに対し、Mの値を小さくすると、平均化の対象となる画素の範囲が狭くなるので、同じ平均輝度Yin_av(i、j)を共有する注目画素P(i、j)の入力画像平面内での範囲が狭くなるとともに、それらの注目画素P(i、j)の入力輝度Yin(i、j)の範囲が狭くなる。このため、前掲図3のダイナミックレンジ圧縮特性では、ベース関数曲線と交差する傾きが1の一本の直線が多数発生し、かつ、それらの直線上にプロットされる入力輝度Yin(i、j)および出力輝度Yout(i、j)の組数(すなわち、画素P(i、j)の個数)は少なくなる。従って、Mの値が大きい場合に比べ、出力画像のコントラストが低下する。このように、良好なコントラストを得るためには、Mの値は大きい方が良い。しかし、Mの値を大きくすると、平均化の対象となる画素数M×Mが急激に大きくなり、演算の処理負荷が増大し、リアルタイムでのダイナミックレンジ圧縮が難しくなる。本実施形態は、以上の点に鑑み、少ない演算量で、広い範囲を平均化の対象として平均輝度Yin_av(i、j)の算出を行うことを可能にしたものである。
【0038】
以下、図6および図7を参照し、本実施形態における平均化処理部141(図1参照)の処理内容を説明する。なお、図6および図7では、図面が煩雑になるのを防ぐため、入力画像を構成する各画素P(i、j)(i=1、2、〜、j=1、2、〜)のうち第jx列の画素P(i、j)(i=1、2、〜、j=jx)のみの処理過程が図示されている。また、これらの図において、白丸は輝度の高い画素、黒丸は輝度の低い画素である。
【0039】
本実施形態における平均化処理部141は、以下説明する各過程を実行する。
<<輝度行列生成過程>>
この輝度行列生成過程では、入力画像の各画素P(i、j)(i=1、2、〜、j=1、2、〜)の入力輝度Yin(i、j)(i=1、2、〜、j=1、2、〜)を要素とする輝度行列を生成する。図6において、L0列に示された白丸および黒丸は、この輝度行列生成過程により生成された輝度行列の第jx列の各要素である。
【0040】
<<ダウンサンプリング過程>>
このダウンサンプリング過程では、先行する過程において得られた輝度行列を処理対象とし、処理対象である輝度行列を、処理対象である輝度行列において離散的に分布した各要素を注目要素とし、各注目要素に対応した平均輝度であって、各注目要素を中心とした所定範囲内の各要素が示す輝度のうち当該注目要素が示す輝度に近い輝度がより寄与の度合いが高く反映された平均輝度を要素とする輝度行列に変換する。このダウンサンプリング過程には、各種の態様が考えられるが、本実施形態におけるダウンサンプリング過程は次の2つの過程からなる。
【0041】
<<<平均化過程>>>
この平均化過程では、処理対象である輝度行列の各要素を注目要素とし、注目要素を含む所定範囲内に位置する要素であって、注目要素を基準とした所定範囲内の値を持つ要素のみを平均化した平均輝度を算出し、平均輝度を要素とする輝度行列を生成する。図6に示す例では、注目要素を中心とする5×5要素の範囲を平均化の対象範囲としている。図6において、L0’列の白丸および黒丸は、輝度行列生成過程により得られた輝度行列に平均化過程の平均化処理を施すことにより得られた輝度行列の第jx列の各要素である。
【0042】
第1実施形態と同様、平均化過程では、注目要素を含む5×5要素の範囲内の各要素のうち注目要素を基準とした所定範囲内の値を持つもののみが平均化の対象となる。従って、図6に示す例において、第ia行第jx列の注目要素に対応した平均輝度を算出するに当たり、第ia−2行第jx列〜第ia+2行第jx列までの5要素は、平均化の対象に含まれる。しかし、第ib行第jx列の注目要素に対応した平均輝度を算出するに当たり、第ib−2行第jx列〜第ib行第jx列までの3要素は平均化の対象に含まれるが、第ib+1行第jx列〜第ib+2行第jx列までの2要素は平均化の対象に含まれない。また、第ib+1行第jx列の注目要素に対応した平均輝度を算出するに当たり、第ib+1行第jx列〜第ib+3行第jx列までの3要素は平均化の対象に含まれるが、第ib−1行第jx列〜第ib行第jx列までの2要素は平均化の対象に含まれない。
【0043】
<<<間引き過程>>>
この間引き過程では、平均化過程において得られた輝度行列を行方向および列方向に間引き、行数および列数が半分の輝度行列を生成する。この例では、輝度行列における偶数行の要素および偶数列の要素を間引いている。また、この例では、第jx列の要素は、間引き過程において間引きの対象にならない列であることを前提としている。図6において、L1列は、L0’列に示された輝度行列を間引き過程において間引くことにより得られた輝度行列の第jx列の各要素である。この例では、間引き過程での間引きにより、輝度の高い領域と輝度の低い領域の境界にある第ib+1行第jx列の要素(黒丸の要素)が失われている。
【0044】
以上述べたダウンサンプリング過程は複数回繰り返される。図6に示す例では、ダウンサンプリング過程を構成する平均化過程および間引き過程が4回繰り返されている。列L0から列L0’への遷移が1回目の平均化過程、列L0’から列L1への遷移が1回目の間引き過程、列L1から列L1’への遷移が2回目の平均化過程、列L1’から列L2への遷移が2回目の間引き過程、列L2から列L2’への遷移が3回目の平均化過程、列L2’から列L3への遷移が3回目の間引き過程、列L3から列L3’への遷移が4回目の平均化過程、列L3’から列L4への遷移が4回目の間引き過程である。このように4回に亙ってダウンサンプリング過程が繰り返される結果、入力画像において各要素に対応した位置の分布の密度が順次低くなる4個の輝度行列が順次生成される。具体的には、例えば入力画像から640×480要素の輝度行列が得られたとすると、この輝度行列は、320×240要素、160×120要素、80×60要素の各輝度行列に順次変換され、最後に40×30要素の輝度行列に変換される(L4列)。ここで、最終的に得られた輝度行列の各要素は、入力画像における要素の分布密度を低下させつつ各要素を中心とする所定範囲の要素を平均化する操作、具体的には5×5要素の範囲内の平均化を行って半分に間引くという操作を4回に亙って階層的に行った結果であるので、最終的に得られた輝度行列の各要素は、元の入力画像から得られた輝度行列において、5×5要素よりも広い範囲の要素を平均化したものとなる。しかし、ダウンサンプリング過程は、間引き過程を含むため、輝度行列の変換が繰り返されるに従い、輝度行列において輝度が大きく変化する境界が、元の入力画像において輝度が大きく変化する境界から次第にずれてゆく。
【0045】
このような輝度の境界のずれをなくし、元の入力画像が持っていた輝度の境界を再現するために、平均化処理部141は、以下説明するアップサンプリング過程を、ダウンサンプリング過程の繰り返し回数と同じ回数だけ繰り返す。図7は、このアップサンプリング過程が繰り返される過程を示している。なお、この図では、先行する過程とのつながりを分かりやすくするため、前掲図6におけるL0〜L4の各列の内容が併せて示されている。
【0046】
<<アップサンプリング過程>>
アップサンプリング過程では、先行する過程において得られた輝度行列を処理対象とし、処理対象である輝度行列を、入力画像における各要素に対応した位置の分布の密度がより高い輝度行列に変換する。さらに詳述すると、アップサンプリング過程では、変換後の輝度行列の各要素を算出するに当たり、輝度行列生成過程において生成された輝度行列の各要素のうち入力画像において算出対象である要素と同じ位置を占める要素を基準要素とし、処理対象である輝度行列において算出対象である要素に対応した位置を中心とした所定範囲内に属する各要素が示す各輝度のうち算出対象である要素に対応した基準要素が示す輝度に近い輝度がより寄与の度合いが高く反映された平均輝度を算出し、変換後の輝度行列の要素とする。
アップサンプリング過程には各種の態様が考えられるが、本実施形態におけるアップサンプリング過程は次の過程からなる。
【0047】
<<<補充過程>>>
この補充過程では、処理対象である輝度行列において各要素のコピーを行方向隣、列方向隣、行方向および列方向隣に補充することにより行数および列数が2倍の輝度行列を生成する。1回目の補充過程では、最終回の間引き過程において得られた輝度行列が処理対象となる。2回目以降の補充過程では、後述する平均化過程(アップサンプリング過程の平均化過程)において得られた輝度行列が処理対象となる。図7において、L3a列は、最終回の間引き過程において得られた輝度行列に1回目の補充過程の処理を施すことにより得られた輝度行列の第jx列の要素である。また、図7において、白三角は、白丸により示す高い輝度の要素をコピーすることにより輝度行列に補充された要素、黒三角は、黒丸により示す低い輝度の要素をコピーすることにより輝度行列に補充された要素である。
【0048】
<<<平均化過程>>>
この平均化過程においては、補充過程において得られた輝度行列の各要素を注目要素とし、輝度行列生成過程において得られた輝度行列の要素であって、入力画像において注目要素に相当する位置を占める画素を基準要素とし、補充過程において得られた輝度行列において注目要素を含む所定範囲(この例では5×5要素の範囲)内に位置する要素のうち基準要素を基準とした所定範囲内の値を持つ要素を平均化した平均輝度を算出し、平均輝度を要素とする輝度行列を生成する。
【0049】
図7において、L3b列に示す白丸または黒丸は、1回目の補充過程において得られた輝度行列(L3a列)に対し、1回目の平均化過程の処理を施すことにより得られた輝度行列の第jx列の要素である。
【0050】
L3a列に示す輝度行列において、上側にある白三角で示す要素Yt1が注目要素である場合、輝度行列生成過程において得られた輝度行列の要素であって、入力画像において注目要素Yt1に相当する位置を占める画素の輝度を示す要素である基準要素は、L0列に示す第ia行第jx列の要素Yr1である。この例では、他からのコピーである注目画素Yt1が輝度の高い要素であり、一方、この注目要素Yt1に対応した基準要素Yr1も輝度の高い要素である。このため、注目画素Yt1に対応した平均輝度の算出では、先行する補充過程において得られた輝度行列において注目要素Yt1を含む5×5要素の範囲内に位置する要素のうち基準要素Yr1を基準とした所定範囲内の値を持つ要素、例えばL3a列に示す要素Yt1、Yt2、Yt3、Yt4が平均化の対象に含まれる。
【0051】
これに対し、L3a列の最も下に記した白三角の要素Yt4が注目要素である場合、輝度行列生成過程において得られた輝度行列の要素であって、入力画像において注目要素Yt4に相当する位置を占める画素の輝度を示す要素である基準要素は、L0列に示す第ib+6行第jx列の要素Yr4である。この例では、他からのコピーである注目画素Yt4が輝度の高い要素であるのに対し、この注目要素Yt4に対応した基準要素Yr4は輝度の低い要素である。このため、この例では、注目要素Yt4は、基準要素Yr4に比べて輝度が高いために平均化の対象に含まれない。なお、注目要素Yt4を含む5×5要素の範囲内の各要素の中に基準要素Yr4を基準とした所定範囲内の要素があれば、その要素が平均化の対象に含まれることとなる。
【0052】
平均化処理部141は、以上の補充過程および平均化過程からなるアップサンプリング過程をダウンサンプリング過程の繰り返し回数と同じ回数だけ繰り返す。図7に示す例では、補充過程および平均化過程からなるアップサンプリング過程が4回繰り返されている。列L4から列L3aへの遷移が1回目の補充過程、列L3aから列L3bへの遷移が1回目の平均化過程、列L3bから列L2aへの遷移が2回目の補充過程、列L2aから列L2bへの遷移が2回目の平均化過程、列L2bから列L1aへの遷移が3回目の補充過程、列L1aから列L1bへの遷移が3回目の平均化過程、列L1bから列L0aへの遷移が4回目の補充過程、列L0aから列L0bへの遷移が4回目の平均化過程である。このように4回に亙ってアップサンプリング過程が繰り返される結果、例えば40×30要素の輝度行列が元の入力画像から得られた640×480要素の輝度行列の要素を基準要素として参照することにより順次詳細化され、輝度行列において輝度が大きく変化する境界が次第に正確なものに戻り、5×5要素の範囲よりも広い範囲の画素の輝度を平均化した平均輝度を要素とする640×480要素の輝度行列(すなわち、入力画像における各要素に対応した密度が輝度行列生成過程において生成された輝度行列と同じである輝度行列)が得られる。ゲイン算出処理部142は、このようにして得られた輝度行列に基づき、入力画像の各画素に適用するゲインを算出する。この場合のゲインの算出方法は上記第1実施形態と同様である。
【0053】
本実施形態によれば、少ない演算量で、広い範囲に亙る平均輝度を注目画素毎に算出することができ、演算負担を掛けることなく出力画像のコントラストを高めることができる。
【0054】
<他の実施形態>
以上、この発明の一実施形態を説明したが、この発明には、他にも各種の実施形態が考えられる。例えば次の通りである。
【0055】
(1)上記各実施形態において平均化処理部141は、注目画素を含む所定範囲内の画素の輝度のうち注目画素の輝度を基準とする所定範囲内の輝度のみを平均化の対象としたが、注目画素の輝度からのずれに応じた重み係数を用いて、注目画素を含む所定範囲内の画素の輝度の荷重平均を求め、これを平均輝度としてもよい。例えば図8に例示するように、注目画素の輝度Yin(i、j)に対するM×M画素の範囲内の画素の輝度Yin(u、v)の比Yin(u、v)/Yin(i、j)が1/k1を跨いで増加する過程において0から1まで緩やかに立ち上がり、比Yin(u、v)/Yin(i、j)がk2を跨いで増加する過程において1から0まで緩やかに立ち下がるように重み係数αiをM×M画素の範囲内の各画素の輝度Yin(u、v)に適用する重み係数αiを定める。そして、次式に従い、平均輝度Yin_av(i、j)を算出するのである。
Yin_av(i、j)=(Σai*Yin(u、v))/(Σai) ……(5)
【0056】
この態様においても、上記実施形態と同様な効果が得られる。このように平均輝度は、注目画素を含む所定範囲内に位置する各画素の輝度のうち注目画素の輝度に近い輝度の前記平均輝度への寄与の度合いが高くなり、注目画素の輝度から離れた輝度の前記平均輝度への寄与の度合いが低くなる演算方法により算出したものであればよい。上記実施形態における平均輝度の算出方法は、上記式(5)における重み係数αiを、1/k1<Yin(u、v)/Yin(i、j)<k2の領域では1、それ以外の領域では0とした例である。
【0057】
(2)上記第2実施形態では、ダウンサンプリング過程を平均化過程と間引き過程により構成したが、それ以外の構成としてもよい。例えば平均化過程を行ってから間引き過程を行うのでなく、平均化過程において、間引き過程において間引かれる輝度行列の要素の算出を省略してもよい。すなわち、輝度行列において離散的に分布する要素を注目要素とし、これらの注目要素に対応した平均輝度を変換後の輝度行列の要素とするのである。また、上記第2実施形態では、アップサンプリング過程を補充過程と平均化過程により構成したが、それ以外の構成としてもよい。例えば変換前の輝度行列の複数の要素から変換後の輝度行列の各要素を合成することにより、入力画像における各要素の位置の分布がより高い輝度行列を生成し、その過程において、入力画像の各画素の輝度を参照して、輝度行列における輝度の境界を入力画像のものに近づける操作を行えばよい。
【0058】
(3)ゲインの算出に用いるベース関数やベース関数のパラメータ(例えば上述した<例1>におけるdelta等)を例えばダイナミックレンジ圧縮装置に設けられた操作子の操作により各種変えることが可能な構成としてもよい。また、注目画素を中心とした平均化の対象となる範囲(M×M画素の範囲)のサイズや、平均化の対象とする輝度の範囲を定めるパラメータ(上述したk1、k2に相当するもの)を操作子の操作により変えることが可能な構成としてもよい。
【図面の簡単な説明】
【0059】
【図1】この発明の第1実施形態によるダイナミックレンジ圧縮装置100の構成を示すブロック図である。
【図2】同実施形態における平均化処理部141の処理内容を例示する図である。
【図3】同実施形態におけるダイナミックレンジ圧縮特性を例示する図である。
【図4】同実施形態によるダイナミックレンジ圧縮の対象となる入力画像の例を示す図である。
【図5】同実施形態の効果を具体的に説明する図である。
【図6】この発明の第2実施形態における平均化処理部141の処理内容を示す図である。
【図7】同実施形態における平均化処理部141の処理内容を示す図である。
【図8】平均化処理部141の他の処理形態の例を示す図である。
【図9】従来のダイナミックレンジ圧縮の例であるリニア変換と対数変換のダイナミックレンジ圧縮特性を例示する図である。
【符号の説明】
【0060】
110……入力画像メモリ、120……出力画像メモリ、130……可変ゲイン増幅部、140……ゲイン制御部、141……平均化処理部、142……ゲイン算出処理部、100……ダイナミックレンジ圧縮装置。

【特許請求の範囲】
【請求項1】
入力画像を構成する各画素の画素値を指示されたゲインで増幅し、出力画像を構成する各画素の画素値を出力する可変ゲイン増幅手段と、
前記入力画像を構成する各画素を各々注目画素とし、前記入力画像において注目画素を含む所定範囲内の画素の平均輝度を算出する一方、入力輝度を出力輝度に対応付けるベース関数に対し、注目画素を含む所定範囲内の画素の平均輝度を入力輝度として与え、これによりベース関数から得られる出力輝度の入力輝度に対する比を注目画素に適用するゲインとして前記可変ゲイン増幅手段に指示するゲイン制御手段と
を具備することを特徴とするダイナミックレンジ圧縮装置。
【請求項2】
前記ゲイン制御手段は、前記注目画素を含む所定範囲内に位置する各画素の輝度のうち前記注目画素の輝度に近い輝度の前記平均輝度への寄与の度合いが高くなり、前記注目画素の輝度から離れた輝度の前記平均輝度への寄与の度合いが低くなる演算方法により前記平均輝度を算出することを特徴とする請求項1に記載のダイナミックレンジ圧縮装置。
【請求項3】
前記ゲイン制御手段は、前記注目画素を含む所定範囲内に位置する画素の輝度のうち前記注目画素の輝度を基準とした所定範囲内の値を持つ輝度のみを平均化することにより前記平均輝度を算出することを特徴とする請求項2に記載のダイナミックレンジ圧縮装置。
【請求項4】
前記ゲイン制御手段は、
前記入力画像の各画素の輝度を要素とする輝度行列を生成する輝度行列生成過程を実行した後、
先行する過程において得られた輝度行列を処理対象とし、前記処理対象である輝度行列を、前記処理対象である輝度行列において離散的に分布した各要素を注目要素とし、各注目要素に対応した平均輝度であって、各注目要素を中心とした所定範囲内の各要素が示す輝度のうち当該注目要素が示す輝度に近い輝度がより寄与の度合いが高く反映された平均輝度を要素とする輝度行列に変換するダウンサンプリング過程を所定回数繰り返すことにより、前記入力画像において各要素に対応した位置の分布の密度が順次低くなる所定個数の輝度行列を順次生成し、その後、
先行する過程において得られた輝度行列を処理対象とし、前記処理対象である輝度行列を、前記入力画像における各要素に対応した位置の分布の密度がより高い輝度行列に変換する過程であって、変換後の輝度行列の各要素を算出するに当たり、前記輝度行列生成過程において生成された輝度行列の各要素のうち前記入力画像において算出対象である要素と同じ位置に対応した要素を基準要素とし、前記処理対象である輝度行列において算出対象である要素に対応した位置を中心とした所定範囲内に属する各要素が示す各輝度のうち算出対象である要素に対応した基準要素が示す輝度に近い輝度がより寄与の度合いが高く反映された平均輝度を算出し、変換後の輝度行列の要素とするアップサンプリング過程を前記ダウンサンプリング過程と同じ回数繰り返し、
前記アップサンプリング過程において最終的に得られた輝度行列の要素を入力画像の各画素を注目画素とした場合の各平均輝度とすることを特徴とする請求項2に記載のダイナミックレンジ圧縮装置。
【請求項5】
コンピュータを、
入力画像を構成する各画素の画素値を指示されたゲインで増幅し、出力画像を構成する各画素の画素値を出力する可変ゲイン増幅手段と、
前記入力画像を構成する各画素を各々注目画素とし、前記入力画像において注目画素を含む所定範囲内の画素の平均輝度を算出する一方、入力輝度を出力輝度に対応付けるベース関数に対し、注目画素を含む所定範囲内の画素の平均輝度を入力輝度として与え、これによりベース関数から得られる出力輝度の入力輝度に対する比を注目画素に適用するゲインとして前記可変ゲイン増幅手段に指示するゲイン制御手段と
して機能させることを特徴とするコンピュータプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2010−28694(P2010−28694A)
【公開日】平成22年2月4日(2010.2.4)
【国際特許分類】
【出願番号】特願2008−190486(P2008−190486)
【出願日】平成20年7月24日(2008.7.24)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成20年度、文部科学省、知的クラスター創生事業第II期、産業技術力強化法第19条の適用を受ける特許出願
【出願人】(000004075)ヤマハ株式会社 (5,930)
【出願人】(304027349)国立大学法人豊橋技術科学大学 (391)
【Fターム(参考)】