画像処理装置、画像処理方法、及び撮像装置
【課題】カラー画像を入力画像として採用した場合であっても、大規模なローパスフィルタを用いずに照明成分を精度良く抽出する。
【解決手段】照明成分抽出部61は、ローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して入力画像Vから解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することでカラー画像である入力画像Vから照明成分Lを抽出する。
【解決手段】照明成分抽出部61は、ローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して入力画像Vから解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することでカラー画像である入力画像Vから照明成分Lを抽出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力画像のダイナミックレンジを圧縮する画像処理の技術に関するものである。
【背景技術】
【0002】
特許文献1には、規模の大きなフィルタを用いなくても、規模の大きなフィルタを用いた場合と同様の平滑化処理を実現することを目的として(段落[0076])、入力画像から平滑化の度合いの異なる複数の平滑化画像を生成し、これら複数の平滑化画像からエッジ強度を算出し、算出したエッジ強度に基づいて、複数の平滑化画像を合成することで入力画像から照明成分を抽出する技術が開示されている(段落[0042])。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−8898号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の手法では、各画素で異なる分光感度を有するカラー画像を取り扱うことに関して何らの考慮もなされていないため、このようなカラー画像から精度良く照明成分を抽出することができない可能性がある。
【0005】
本発明の目的は、カラー画像を入力画像として採用した場合であっても、大規模なローパスフィルタを用いずに照明成分を精度良く抽出することができる画像処理装置、画像処理方法、及び撮像装置を提供することである。
【課題を解決するための手段】
【0006】
本発明による画像処理装置は、入力画像から照明成分を抽出する照明成分抽出手段と、前記照明成分抽出手段により抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出手段と、前記照明成分抽出手段により抽出された照明成分のダイナミックレンジを圧縮する圧縮手段と、前記圧縮手段によりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出手段により抽出された反射率成分とを合成する合成手段とを備え、前記照明成分抽出手段は、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、前記入力画像は、カラー画像であり、前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、前記圧縮手段は、圧縮特性として、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する特性を有していることを特徴とする。
【0007】
この構成によれば、各画素で異なる分光感度を有するカラー画像が入力画像とされ、この入力画像に対して、所定サイズのローパスフィルタを用いた平滑処理が複数回実行され入力画像から解像度の異なる複数の平滑画像が生成され、低解像度側の平滑画像のエッジ部分が上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理が複数回実行されることで入力画像から照明成分が抽出されるため、大規模なローパスフィルタを用いなくてもカラー画像から照明成分を精度良く抽出することができる。
【0008】
また、前記ローパスフィルタのサイズが5×5画素以下であることが好ましい。
【0009】
また、前記カラー画像は、RGBベイヤー配列の画像であることが好ましい。この構成によれば、RGBベイヤー配列の画像から精度良く照明成分を抽出することができる。
【0010】
また、前記カラー画像は、補色フィルタ配列の画像であることが好ましい。この構成によれば、補色フィルタ配列の画像から精度良く照明成分を抽出することができる。
【0011】
また、前記照明成分抽出部は、2n(nは正の整数):1の比率でダウンサンプリングすることが好ましい。この構成によれば、2n:1の比率でダウンサンプリングされているため、注目画素が水平及び垂直方向において2n毎に設定されることとなり、RGBベイヤー配列の画像又は補色フィルタ配列の画像の色の配列パターンの周期性より、注目画素として常に同じ色の画素が設定されると共に、注目画素に対する近傍画素の色の配列パターンが常に一定になる結果、各色に対するフィルタ係数の和が一定となり、より精度良く照明成分を抽出することができる。
【0012】
また、前記ローパスフィルタは、各色のフィルタ係数の和が一定となるように各フィルタ係数が定められていることが好ましい。
【0013】
この構成によれば、ローパスフィルタは、各色のフィルタ係数の和が一定となるようにフィルタ係数が定められているため、ダウンサンプリングの比率としてどのような比率を採用しても精度良く照明成分を抽出することができる。
【0014】
また、前記照明成分抽出手段は、注目画素の色に対応するローパスフィルタを用いたフィルタ処理を実行することが好ましい。
【0015】
この構成によれば、注目画素の色に応じて種類の異なるローパスフィルタが用いられているため、ダウンサンプリングの比率としてどのような比率を採用しても精度良く照明成分を抽出することができる。
【発明の効果】
【0016】
本発明によれば、カラー画像を入力画像として採用した場合であっても、大規模なローパスフィルタを用いずに照明成分を精度良く抽出することができる。
【図面の簡単な説明】
【0017】
【図1】本発明の実施の形態1による撮像装置のブロック図を示している。
【図2】図1に示す画像処理部の構成を示すブロック図である。
【図3】図2に示す圧縮部が用いる圧縮特性を示したグラフである。
【図4】照明成分のダイナミックレンジを圧縮することの効果を説明する模式図である。
【図5】図2に示す照明成分抽出部の詳細な構成を示すブロック図である。
【図6】図5に示すLPF部による処理を説明する模式図である。
【図7】図5に示すダウン部の処理を示す模式図である。
【図8】アップサンプリングを説明する図である。
【図9】図5に示すエッジ部による処理を説明するための図である。
【図10】実施の形態2による平滑部によるダウンサンプリングを説明するための図である。
【図11】処理対象となる補色フィルタ配列の画像を示した図である。
【図12】処理対象となるRGBベイヤー配列の画像を示している。
【発明を実施するための形態】
【0018】
(実施の形態1)
以下、本発明の実施の形態1による撮像装置について説明する。図1は、本発明の実施の形態1による撮像装置のブロック図を示している。図1に示すように撮像装置1は、デジタルカメラから構成され、レンズ部2、撮像センサ3、アンプ4、A/D変換部5、画像処理部6(画像処理装置の一例)、画像メモリ7、制御部8、モニタ部9及び操作部10を備えている。
【0019】
レンズ部2は、被写体の光像を取り込み、撮像センサ3へ導く光学レンズ系から構成される。光学レンズ系としては、被写体の光像の光軸LZに沿って直列的に配置される例え
ばズームレンズやフォーカスレンズ、その他の固定レンズブロック等を採用することができる。また、レンズ部2は、透過光量を調節するための絞り(図略)、シャッタ(図略)等を備え、制御部8の制御の下、絞り及びシャッタの駆動が制御される。
【0020】
撮像センサ3は、レンズ部2において結像された光像を光電変換して、光量に応じたレベルを有する各色成分の画像信号を生成し、アンプ4へ出力する。ここで、撮像センサ3としては、CMOSイメージセンサ、VMISイメージセンサ、及びCCDイメージセンサ等の種々の撮像センサを採用することができる。
【0021】
アンプ4は、例えばAGC(オートゲインコントロール)回路、及びCDS(相関二重サンプリング)回路等を含み、撮像センサ3から出力された画像信号を増幅する。A/D変換部5は、アンプ4により増幅された画像信号をデジタルの画像データに変換する。本実施の形態では、撮像センサ3の各画素で受光された画像信号は、例えば12ビットの階調値を有する画像データに変換される。
【0022】
画像処理部6は、A/D変換部5から出力された画像データに対し、FPN補正、黒基準補正、ホワイトバランス補正等の種々の画像処理を実行する他、図5で説明する後述の画像処理を実行する。以下、画像処理部6に入力された画像データを入力画像と称して説明する。画像メモリ7は、例えばRAM(Random Access Memory)から構成され、画像処理部6で画像処理が施された画像データ等を保存する。
【0023】
制御部8は、各種制御プログラム等を記憶するROM、一時的にデータを格納するRAM及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、撮像装置1全体の動作制御を司る。
【0024】
モニタ部9は、例えば撮像装置1のハウジングの背面に配設されたカラー液晶表示器が採用され、撮像センサ3で撮影された画像或いは画像メモリ7に保存されていた画像等をモニタ表示する。
【0025】
操作部10は、電源スイッチ、レリーズスイッチ、各種撮影モードを設定するモード設定スイッチ、メニュー選択スイッチ等の各種の操作スイッチ群等を含む。レリーズスイッチが押されることで、撮像動作、すなわち撮像センサ3により被写体が撮像され、この撮像により得られた画像データに対して所要の画像処理が施され、画像メモリ7等に記録されるといった一連の撮影動作が実行される。なお、画像メモリ7等に記憶せず、画像処理部6からデジタル信号として出力したり、D/A変換してNTSC等のアナログ信号として出力したりして一連の撮像動作を終えてもよい。
【0026】
図2は、図1に示す画像処理部6の構成を示すブロック図である。図2に示すように画像処理部6は、照明成分抽出部61(照明成分抽出手段の一例)、圧縮部62(圧縮手段の一例)、反射率成分抽出部63(反射率成分抽出手段の一例)、及び合成部64(合成手段の一例)を備えている。
【0027】
照明成分抽出部61は、所定サイズのローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して入力画像Vから解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで入力画像Vから照明成分Lを抽出する。この照明成分抽出部61の処理の詳細については後述する。
【0028】
圧縮部62は、照明成分抽出部61により抽出された照明成分のダイナミックレンジを
所定の圧縮特性を用いて圧縮する。図3は、圧縮部62が用いる圧縮特性を示したグラフであり、縦軸は圧縮された照明成分L´を示し、横軸は圧縮される前の照明成分Lを示している。図3に示すように、圧縮特性は、照明成分Lが増大するにつれて、傾きが緩やかになるような放物線を描いて照明成分L´が増大する特性を有している。具体的には、圧縮部62は、照明成分Lの各値と、照明成分Lの各値に対する圧縮後の照明成分L´の各値との関係を予め関連付けて記憶するルックアップテーブルを備え、このルックアップテーブルを用いて、各画素の照明成分Lに対する圧縮後の照明成分L´を特定する。なお、圧縮部62は、ルックアップテーブルに代えて、図3に示す圧縮特性を示す関数を用いて照明成分Lを圧縮してもよい。
【0029】
反射率成分抽出部63は、入力画像Vを照明成分抽出部61により抽出された照明成分Lで除すことで反射率成分Rを抽出する。入力画像Vは照明成分Lと反射率成分Rとの積、すなわち、V=R*Lによって表されるため(Retinex理論)、R=V/Lにより反射率成分Rを抽出することができる。
【0030】
合成部64は、照明成分L´に反射率成分Rを乗じる、すなわち、V´=R*L´の演算を行うことで出力画像V´を生成する。図4は、照明成分Lのダイナミックレンジを圧縮することの効果を説明する模式図であり、(a)の上段は反射率成分を示し、(a)の下段は照明成分を示し、(b)の上段は照明成分を圧縮しなかった場合の出力画像を示し、(b)の下段は照明成分を圧縮した場合の出力画像を示している。なお、図4(a),(b)において、縦方向は1枚の画像を構成するある数個の画素の値を示している。
【0031】
図4(a)に示すように照明成分は反射率成分に比べ、値が大きく変化し、かつ、同じ値を有する領域が広範囲に分布する特性を有している。したがって、照明成分を圧縮しない場合、図4(b)の上段に示すように、照明成分の大きな画素は照明成分が支配的となり、反射率成分の特徴が表れず、シーンの特徴を詳細に再現することが困難となる。そこで、照明成分を圧縮した後、反射率成分を乗じて出力画像を生成すると、図4(b)の下段に示すように照明成分が大きな画素において照明成分が支配的とならず、シーンの特徴を詳細に再現すことが可能となる。
【0032】
図5は、図2に示す照明成分抽出部61の詳細な構成を示すブロック図である。図5に示すように、照明成分抽出部61は、3個の平滑部21〜23と、3個の逆平滑部31〜33とを備える。図5に示す照明成分抽出部61は、各画素で異なる分光感度を有するカラー画像が入力画像として平滑部21に入力され、このカラー画像の照明成分を表す輝度画像が出力画像として逆平滑部31から出力される。
【0033】
平滑部21は、フィルタ処理を行うローパスフィルタ部(LPF部)210と、n(nは2以上の整数):1の比率でダウンサンプリングを行うダウン部220とを備え、解像度の異なる複数の平滑画像を生成する。以下の説明では、説明の便宜上、ダウンサンプリングの比率を2:1とするが、これは一例であり、3:1,4:1等の他の比率を採用してもよい。LPF部210は、入力画像に注目画素を順次設定し、注目画素の周辺隣接画素に重み付け係数(フィルタ係数)を乗算して加算した後、フィルタ係数の加算値で除するというように、所定行×所定列のローパスフィルタを用いたフィルタ処理を実行し、入力画像から低周波画像(低周波成分)を抽出する。ここで、LPF部210は、1枚の画像の例えば左上の画素から右下の画素に向けてラスタ走査するように順次注目画素を設定する。
【0034】
ローパスフィルタとしては、5×5、3×3というような比較的サイズの小さなローパスフィルタが採用され、本実施の形態では、3×3のローパスフィルタ、すなわち、k1〜k9の9個のフィルタ係数が3行3列にマトリックス状に配列されたローパスフィルタ
が採用される。
【0035】
図6は、LPF部210による処理を説明するための図である。図6に示す各升は入力画像を構成する各画素を示し、Dの添え字の1桁目は垂直方向の画素位置を示し、Dの添え字の2桁目は水平方向の画素位置を示し、Dは画素の値を示している。注目画素が例えばD11に設定されている場合、D11のフィルタ処理後の値である、D11−LPFは、D11−LPF=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。そして、LPF部210は、LPF−D11のフィルタ処理が終了すると、右隣のD12を次の注目画素として設定し、LPF−D12を算出する。そして、LPF部210は、このような演算を入力画像の各画素に対して実行し、入力画像から低周波画像を抽出する。
【0036】
ダウン部220は、LPF部210により抽出された低周波画像を2:1の比率でダウンサンプリングし、水平方向及び垂直方向の画素数が共に1/2個とされた平滑画像を生成する。図7は、ダウン部220の処理を示す図であり、(a)はダウンサンプリング前の画像を示し、(b)はダウンサンプリング後の画像を示している。図7の場合、2:1でダウンサンプリングされているため、(a)に示すダウンサンプリング前の画像から(b)に示すD00,D02,D04,D20,D22,D24,D40,D42,D44が抽出されるというように、ダウンサンプリング前の画像から水平方向に1つ飛ばしで画素が抽出され、垂直方向において画素が1つ飛ばしで画素が抽出され、水平方向及び垂直方向の画素数が共に、1/2に間引かれ、トータルの画素数が1/4に間引かれた平滑画像が生成されていることが分かる。なお、図7の例では、水平方向及び垂直方向共、奇数番目の画素が抽出されていたが、これに限定されず、偶数番目の画素を抽出してもよい。
【0037】
図5に戻り、平滑部22,23は、平滑部21と同様、LPF部210及びダウン部220を備えている。平滑部22は、平滑部21で生成された平滑画像D1に対して、平滑部21と同様の処理を行って平滑画像D2を生成して平滑部23に出力し、平滑部23は、平滑部22で生成された平滑画像D2に対して、平滑部21と同様の処理を行って平滑画像D3を生成し、逆平滑部33に出力する。以上、平滑部21〜23の処理により、平滑処理が階層的に3回実行され、入力画像から解像度の異なる3つの平滑画像D1〜D3が生成される。
【0038】
逆平滑部33は、1:2の比率でアップサンプリングを行うアップ部310と、エッジ強度算出処理を行うエッジ処理部320と、合成処理を行う合成部330とを備え、逆平滑処理を実行する。
【0039】
アップ部310は、平滑画像D3を1:2の比率で隣接画素を用いたアップサンプリングを行い、平滑画像D3の画素数を平滑部23により処理される前の画素数に戻す。図8はアップサンプリングを説明する図であり、(a)はアップサンプリング前の画像を示し、(b)はアップサンプリング後の画像を示す。図8の場合、1:2にアップサンプリングがなされているため、(a)に示すアップサンプリング前の画像は、(b)に示すようにD00の右、下、斜め右下に隣接する3個の画素であるD01,D10,D11がD00の値によって補間され、D02の右、下、斜め右下に隣接する3個の画素であるD03,D12,D13がD02の値によって補間されるというようにして、ある1つの画素に隣接する3個の画素が当該1つの画素の値によって補間されていることが分かる。具体的には、D00=D00、D01=D00、D10=D00、D11=D00、D02=D02、D03=D02、D12=D02、D13=D02と補間される。これにより、(a)に示すアップサンプリング前の画像は、水平方向及び垂直方向が共に、1画素ずつ補
間され、(b)に示すように4倍の画像サイズにされる。
【0040】
なお、アップ部310によるアップサンプリングは、上記の手法に限定されず、種々の手法を採用することが可能であり、例えば、アップサンプリング前の画像を周辺画像としてバイリニアによる補間処理を採用してもよい。
【0041】
エッジ処理部320は、アップ部310によりアップサンプリングされた画像D3´に、所定サイズのエッジ抽出フィルタを用いたフィルタ処理を行い、画像D3´のエッジ強度を算出する。ここで、エッジ処理部320は、水平エッジの強度を求める水平エッジフィルタと、垂直エッジの強度を求める垂直エッジフィルタとを用いて、画像D3´の水平エッジ強度と垂直エッジ強度とを算出する。水平エッジフィルタ及び垂直エッジフィルタのサイズとしては、処理の高速化の観点から、比較的小サイズであることが好ましく、本実施の形態では3×3を採用することができる。
【0042】
図9は、エッジ処理部320による処理を説明するための図である。エッジ処理部320は、図9に示すような画像が画像D3´として入力されると、例えば左上の画素から右下の画素に向けてラスタ走査するように順次注目画素を設定し、画像D3´の水平エッジ強度と垂直エッジ強度とを算出する。
【0043】
図9において、D11が注目画素として設定されている場合、D11の水平エッジ強度であるD11−edgeHは、8近傍画素を用いて、D11−edge=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、k1=−1、k2=−1、k3=−1、k4=0、k5=0、k6=0、k7=1、k8=1、k9=1、かつ、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。その他の画素についても同様に水平エッジ強度が算出される。
【0044】
また、同様に、垂直エッジ強度であるD11−edgeVは、8近傍画素を用いて、D11−edgeV=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、k1=−1、k2=0、k3=1、k4=−1、k5=0、k6=1、k7=−1、k8=0、k9=1、かつ、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。なお、上記k1〜k9は一例であり異なる値を適宜採用してもよい。その他の画素についても同様に垂直エッジ強度が算出される。
【0045】
図5に戻り、合成部330は、画像D3´においてエッジ強度が所定の閾値以上の画素は、上層の平滑画像D2の画素を採用し、画像D3´においてエッジ強度が所定の閾値未満の画素は画像D3´の画素を採用するというようにして、画像D3´と上層の平滑画像D2とを合成して逆平滑画像D2´を生成する。
【0046】
具体的には、合成部330は、水平エッジ強度の閾値をThH、垂直エッジ強度の閾値をThVとし、画像D3´の水平及び垂直エッジ強度をEH3及びEV3とすると、EH3<ThH、かつ、EV3<ThVの場合、D2´=D3´とし、その他の場合、D2´=D2とする。これにより、エッジ部分を保存しつつ低周波成分を抽出することが可能となり、大サイズのローパスフィルタを用いなくても照明成分を精度良く抽出することが可能となる。
【0047】
ここで、合成部330による合成処理は上記の例に限定されず、例えば、水平エッジ強度及び垂直エッジ強度に応じた重み付け係数d(0≦d≦1)を予め定めておき、D2´=d*D2+D3´*(1−d)により合成処理を行っても良い。
【0048】
逆平滑部31,32は、逆平滑部33と同様、アップ部310、エッジ処理部320、及び合成部330を備えている。逆平滑部32は、逆平滑部33で生成された逆平滑画像D2´に対して、逆平滑部33と同様の処理を行って逆平滑画像D1´を生成し、逆平滑部31に出力し、逆平滑部31は、逆平滑部32から出力された逆平滑画像D1´に対して、逆平滑部33と同様の処理を行い、出力画像である照明成分を生成する。
【0049】
なお、図5においては、逆平滑部32のアップ部310によりアップサンプリングされた画像は、D2´´とされ、逆平滑部31のアップ部310によりアップサンプリングされた画像は、D1´´とされている。また、平滑部23のダウン部220及び逆平滑部33のアップ部310を省略してもよい。
【0050】
次に、画像処理部6の動作について説明する。なお、以下の説明では、平滑部21〜23は、それぞれn(nは2以上の整数):1の比率でダウンサンプリングし、逆平滑部31〜33は、それぞれ1:nの比率でアップサンプリングする。入力画像は、図5に示す平滑部21によって画素数が1/n2になるように平滑化されて平滑画像D1とされ、平滑画像D1は平滑部22によって画素数が1/n2になるように平滑化されて平滑画像D2とされ、平滑画像D2は平滑部23によって画素数が1/n2になるように平滑化されて平滑画像D3とされる。次に、平滑画像D3は、逆平滑部33によって画素数がn2倍になるように逆平滑化されて逆平滑画像D2´とされ、逆平滑画像D2´は、逆平滑部32によって画素数がn2倍になるように逆平滑化されて逆平滑画像D1´とされ、逆平滑画像D1´は、逆平滑部31によって画素数がn2倍になるように逆平滑化され、照明成分が出力される。
【0051】
このように、実施の形態1による画像処理装置によれば、比較的小さなサイズのローパスフィルタによる平滑処理の繰り返しにより、入力画像から広帯域の平滑画像が抽出された後、逆平滑処理の繰り返しにより、照明成分が抽出される結果、大サイズのローパスフィルタを用いなくても、エッジ部分が保持された広帯域の低周波成分を抽出することが可能となり、照明成分を精度良く抽出することができる。
【0052】
なお、実施の形態1において、平滑部21〜23のダウンサンプリングの比率を各々n:1としたが、これに限定されず、各々異なる比率にしてもよい。この場合、逆平滑部31〜33の各々のアップサンプリングの比率を平滑部21〜23の各々のアップサンプリングの比率と同じ比率にすることが好ましい。
【0053】
また、実施の形態1では、平滑部の個数を3個としたが、これに限定されず、2個、又は4個以上としてもよい。この場合、逆平滑部の個数と平滑部の個数とを同一にすればよい。
【0054】
(実施の形態2)
次に、本発明の実施の形態2による撮像装置ついて説明する。実施の形態2による撮像装置は、平滑処理のダウンサンプリングの比率を2n:1にしたことを特徴とする。なお、本実施の形態において、実施の形態1と同一のものは同一の符号を付して説明を省略する。また、撮像装置の全体構成、画像処理部6の構成、及び照明成分抽出部61の構成は、実施の形態1と同一であるため、図1,図2,図5を用いて説明する。
【0055】
図10は、実施の形態2による平滑部21によるダウンサンプリングを説明するための図であり、(a)はダウンサンプリング前の画像を示し、(b)はダウンサンプリング後の画像を示す。図10(a)に示す画像は、RGBベイヤー配列の画像であり、R(赤)、G(緑)、B(青)は、各画素の色を示している。
【0056】
図10(a)に示すように、Rの画素は、1行1列目、1行3列目、3行1列目、3行3列目というように水平及び垂直方向が共に1画素飛ばしで配列されていることが分かる。また、B及びGの画素もRの画素と同様に水平及び垂直方向が共に1画素飛ばしで配列されていることが分かる。更に、Bの画素を注目画素とした場合、左上、右上、左下、右下の4つの画素が共にRであり、残りの4つの画素が共にGとなっており、8近傍画素の色が一定のパターンで配列されていることが分かる。また、R及びGの画素を注目画素とした場合もBの場合と同様、8近傍画素の色が一定のパターンで配列されていることが分かる。
【0057】
以上のことから、ダウンサンプリングの比率を2n:1とすると、常に同じ色の画素が注目画素として設定されることになり、また、注目画素が同色である場合、注目画素の8近傍画素の色のパターンは常に一定になるため、各色に対するフィルタ係数の和が常に一定となり、高精度のフィルタ処理を実現することが可能となる。
【0058】
例えば、図10(a)の画像に対し、2:1の比率でダウンサンプリングを行うと、注目画素としてB11が設定された場合、図10(b)に示すD00が、D00=(k1*R00+k2*G01+k3*R02+k4*G10+k5*B11+k6*G12+k7*R20+k8*G21+k9*R22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。
【0059】
また、注目画素としてB13が設定されると、図10(b)に示すD02は、D02=(k1*R02+k2*G03+k3*R04+k4*G12+k5*B13+k6*G14+k7*R22+k8*G23+k9*R24)/Kによって算出される。
【0060】
従って、2:1の比率でダウンサンプリングを行うと、注目画素の色は常にBとなり、k1,k3,k7,k9のフィルタ係数は常にRの画素に対応し、k2,k4,k6,k8のフィルタ係数は常にGの画素に対応することになり、各色のフィルタ係数の和が一定になっていることが分かる。
【0061】
また、図10(a)の画像に対し、4:1の比率でダウンサンプリングを行うと、注目画素としてB33が設定された場合、図10(b)に示すD00が、D00=(k1*R22+k2*G23+k3*R24+k4*G32+k5*B33+k6*G34+k7*R42+k8*G43+k9*R44)/Kによって算出される。
【0062】
また、注目画素としてB37が設定され、図10(b)に示すD02が、D02=(k1*R26+k2*G27+k3*R28+k4*G36+k5*B37+k6*G38+k7*R46+k8*G47+k9*R48)/Kによって算出される。
【0063】
従って、4:1の比率でダウンサンプリングを行うと、注目画素の色は常にBとなり、k1,k3,k7,k9のフィルタ係数は常にRの画素に対応し、k2,k4,k6,k8のフィルタ係数は常にGの画素に対応することになり、各色のフィルタ係数の和が一定になっていることが分かる。
【0064】
このように、実施の形態2による撮像装置によれば、ダウンサンプリングの比率を2n:1とすることで、常に、注目画素は同一色となり、各色のフィルタ係数の和が一定になるため、RGBベイヤー配列の画像から精度良く照明成分を抽出することができる。
【0065】
なお、上述した処理はRGBベイヤー配列の画像のみならず、例えば補色フィルタ配列の画像のように、各注目画素に対する近傍画素の色の配列が同一のパターンの画像であれ
ばどのような画像に対しても適用することが可能である。
【0066】
図11は、処理対象となる補色フィルタ配列の画像を示している。比率を2:1として、図11に示す画像にダウンサンプリングを実行すると、RGBベイヤー配列の画像と同様、常に同じ色(例えば、Mg:マゼンタ)の画素が注目画素として設定され、また、ローパスフィルタのサイズを3×3とすると、k1,k3,k7,k9がCy(シアン)の画素に対応し、k2,k8がYe(イエロー)の画素に対応し、k4,k6がG(グリーン)の画素に対応することになり、各色のフィルタ係数の和が一定になることが分かる。
【0067】
なお、上記説明では、RGBベイヤー配列においてはBを注目画素として設定し、補色フィルタ配列の画像においては、Mgを注目画素として設定したが、これは一例であり、他の色を注目画素として設定しても、ダウンサンプリングの比率を2n:1とすることで、同様の効果を得ることができる。また、ローパスフィルタのサイズとして、5×5というような3×3以外のサイズを採用した場合においても、同様の効果を得ることができる。
【0068】
(実施の形態3)
次に、本発明の実施の形態3による撮像装置ついて説明する。実施の形態3による撮像装置は、ローパスフィルタの係数が実施の形態1,2のものと相違する点を特徴としている。
【0069】
なお、本実施の形態において、実施の形態1と同一のものは同一の符号を付して説明を省略する。また、撮像装置の全体構成、画像処理部6の構成、及び照明成分抽出部61の構成は、実施の形態1と同一であるため、図1,図2,図5を用いて説明する。
【0070】
図5に示す各LPF部210は、注目画素の色に応じた種類のローパスフィルタを用いてフィルタ処理を行う。本実施の形態において、入力画像としては、RGBベイヤー配列の画像が使用されるため、LPF部210は、注目画素がRの場合は、Rのローパスフィルタを使用し、注目画素がGの場合は、Gのローパスフィルタを使用し、注目画素がBの場合は、Bのローパスフィルタを使用する。ここで、R,G,Bのローパスフィルタは、サイズが3×3であり、フィルタ係数を各々k1〜k9、k1´〜k9´、k1´´〜k9´´とする。
【0071】
図11は、処理対象となるRGBベイヤー配列の画像を示している。LPFP部210は、注目画素がB11である場合、B11は青色であるため、Bのローパスフィルタを用い、フィルタ処理後の値であるB11−LPFは、B11−LPF=(k1*R00+k2*G01+k3*R02+k4*G10+k5*B11+k6*G12+k7*R20+k8*G21+k9*R22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。
【0072】
また、LFP部210は、注目画素がG12の場合、G12は緑色であるため、Gのローパスフィルタを用い、フィルタ処理後の値であるG12−LPFは、G12−LPF=(k1´*G01+k2´*R02+k3´*G03+k4´*B11+k5´*G12+k6´*B13+k7´*G21+k8´*R22+k9´*G23)/K´によって算出される。但し、K´=k1´+k2´+k3´+k4´+k5´+k6´+k7´+k8´+k9´である。
【0073】
また、LFP部210は、注目画素がR22の場合、R22は赤色であるため、Rのローパスフィルタを用い、フィルタ処理後の値であるR22−LPFは、R22−LPF=(k1´´*B11+k2´´*G12+k3´´*B13+k4´´*G21+k5´
´*R22+k6´´*G23+k7´´*B31+k8´´*G32+k9´´*B33)/K´´によって算出される。但し、K´´=k1´´+k2´´+k3´´+k4´´+k5´´+k6´´+k7´´+k8´´+k9´´である。
【0074】
そして、フィルタ係数k1〜k9、k1´〜k9´、k1´´〜k9´´は、以下の条件を満足する。
【0075】
Bが注目画素となる場合、RGBベイヤー配列の画像は、k1,k3,k7,k9がRの画素に対応し、k5がBの画素に対応し、k2,k4,k6,k8がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR,KG,KBは、KR=k1+k3+k7+k9となり、KG=k2+k4+k6+k8となり、KB=k5となる。
【0076】
また、Gが注目画素となる場合、RGBベイヤー配列の画像は、k2´,k8´がRの画素に対応し、k4´,k6´がRの画素に対応し、k1´,k3´,k5´,k7´,k9´がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR´,KG´,KB´は、KR´=k4´+k6´となり、KG´=k1´+k3´+k5´+k7´+k9´となり、KB´=k2´+k8´となる。
【0077】
また、Rが注目画素となる場合、RGBベイヤー配列の画像は、k5´´がRの画素に対応し、k1´´,k3´´,k7´´,k9´´がBの画素に対応し、k2´´,k4´´,k6´´,k8´´がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR´´,KG´´,KB´´は、KR´´=k5´´となり、KG´´=k2´´+k4´´+k6´´+k8´´となり、KB´´=k1´´+k3´´+k7´´+k9´´となる。
【0078】
そして、KR,KG,KB,KR´,KG´,KB´,KR´´,KG´´,KB´´は、以下の条件を満たす。
KR/K=KR´/K´=KR´´/K´´
KG/K=KG´/K´=KG´´/K´´
KB/K=KB´/K´=KB´´/K´´
【0079】
これにより、各色のフィルタ係数の比が一定になり、精度良く低周波画像を抽出することができる。また、更に、K=K´=K´´としてもよい。これにより、各ローパスフィルタ間で同色のフィルタ係数の和が等しい値になるため、ダウンサンプリングの比率としてどのような比率を採用しても、精度良く低周波画像を抽出することができる。
【0080】
次に、本実施の形態による撮像装置の動作について説明する。画像処理部6に図11に示すRGBベイヤー配列の入力画像が入力されると、平滑部21のLPF部210は、注目画素の色に応じてR,G,Bローパスフィルタを切り替ながら順次フィルタ処理実行する。次に、平滑部21のダウン部220は、フィルタ処理された画像をn:1の比率でダウンサンプリングし、平滑画像D1を生成する。
【0081】
次に、平滑部22のLPF部210は、平滑部21で生成された平滑画像D1に対して、上段のLPF部210と同様のフィルタ処理を実行し、ダウン部220は、上段のダウン部220と同様に、n:1の比率でダウンサンプリングし、平滑画像D2を生成する。この場合、平滑部22のLPF部210は、例えば、平滑部21において、Rのローパスフィルタを用いて算出された画素はRの画素、Gのローパスフィルタを用いて算出された画素はGの画素、Bのローパスフィルタを用いて算出された画素はBの画素として取り扱い、R,G,Bのローパスフィルタを適用してフィルタ処理を行えばよい。
【0082】
次に、平滑部23は、平滑部22と同様にしてn:1の比率でダウンサンプリングして
平滑画像D3を生成する。平滑部23で生成された平滑画像D3は、逆平滑部33〜31により1:nのアップサンプリングの比率で順次、逆平滑処理され、照明成分が出力される。
【0083】
このように実施の形態3による撮像装置によれば、R,G,Bのローパスフィルタは、各色のフィルタ係数の和が一定、かつ、各ローパスフィルタ間で同色のフィルタ係数の和が等しくなるように各フィルタ係数が定められ、注目画素の色に応じたローパスフィルタを用いてダウンサンプリングが実行されるため、各色に対するフィルタ係数が一定となり、精度良く照明成分を抽出することができる。
【0084】
なお、上述した処理はRGBベイヤー配列の画像のみならず、例えば補色フィルタ配列の画像のように、各注目画素に対する近傍画素の色の配列が同一のパターンを有する画像であればどのような画像に対しても適用することが可能である。
【0085】
例えば、入力画像として、図12に示す補色フィルタ配列の画像を採用した場合は、フィルタ係数が下記の条件を満たすCy,Ye,Mg,G,のローパスフィルタを用意し、注目画素の色に応じて、これらのローパスフィルタを切り換えて適用することで、RGBベイヤー配列の画像の場合と同様の効果を得ることができる。
【0086】
KCy/K=KCy´/K´=KCy´´/K´´=KCy´´´/K´´´
KYe/K=KYe´/K´=KYe´´/K´´=KYe´´´/K´´´
KMg/K=KMg´/K´=KMg´´/K´´=KMg´´´/K´´´
KG/K=KG´/K´=KG´´/K´´=KG´´´/K´´´
但し、KCy,KYe,KMg,KGは、CyのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´,KYe´,KMg´,KG´は、YeのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´´,KYe´´,KMg´´,KG´´は、MgのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´´´,KYe´´´,KMg´´´,KG´´´は、KGのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示す。また、K=K´=K´´=K´´´としてもよい。
【0087】
なお、上記説明では、ローパスフィルタが注目画素の色毎に異なる場合を前提にして説明したが、例えば、フィルタ係数が、k1=1,k2=2,k3=1,k4=2,k5=4,k6=2,k7=1,k8=2,k9=1であるようなローパスフィルタを採用した場合、注目画素の色に応じてローパスフィルタを変更しなくても、各色のフィルタ係数の和が一定となり、上記と同様の効果を得ることができる。
【0088】
具体的には、このローパスフィルタをRGBベイヤー配列の画像に適用すると、Bが注目画素である場合、フィルタ処理後の値は、(4B+4R+8G)/16となる。ここで、R,G,Bは、ローパスフィルタ内の画像のR,G,Bの各々の画素値の総和を示している。また、Rが注目画素である場合、フィルタ処理後の値は、(4R+4B+8G)/16となり、Gが注目画素である場合、フィルタ処理後の値は、(8G+4R+4B)/16となる。したがって、注目画素の色に応じてローパスフィルタを変更しなくても各色のフィルタ係数の和がKR,KG,KB=4,8,4となり、各色のフィルタ係数の総和が一定となり、ダウンサンプリングの比率としてどのような比率を採用しても、精度良く低周波画像を抽出することができる。また、このローパスフィルタを補色フィルタ配列の画像に適用した場合も、KCy,KYe,KMg,KG=4,4,4,4となり、同様の効果を得ることができる。
【符号の説明】
【0089】
1 撮像装置
6 画像処理部
61 照明成分抽出部
62 圧縮部
63 反射率成分抽出部
64 合成部
21,22,23 平滑部
31,32,33 逆平滑部
210 LPF部
220 ダウン部
310 アップ部
320 エッジ処理部
330 合成部
D1´〜D3´ 逆平滑画像
D1〜D3 平滑画像
【技術分野】
【0001】
本発明は、入力画像のダイナミックレンジを圧縮する画像処理の技術に関するものである。
【背景技術】
【0002】
特許文献1には、規模の大きなフィルタを用いなくても、規模の大きなフィルタを用いた場合と同様の平滑化処理を実現することを目的として(段落[0076])、入力画像から平滑化の度合いの異なる複数の平滑化画像を生成し、これら複数の平滑化画像からエッジ強度を算出し、算出したエッジ強度に基づいて、複数の平滑化画像を合成することで入力画像から照明成分を抽出する技術が開示されている(段落[0042])。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−8898号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の手法では、各画素で異なる分光感度を有するカラー画像を取り扱うことに関して何らの考慮もなされていないため、このようなカラー画像から精度良く照明成分を抽出することができない可能性がある。
【0005】
本発明の目的は、カラー画像を入力画像として採用した場合であっても、大規模なローパスフィルタを用いずに照明成分を精度良く抽出することができる画像処理装置、画像処理方法、及び撮像装置を提供することである。
【課題を解決するための手段】
【0006】
本発明による画像処理装置は、入力画像から照明成分を抽出する照明成分抽出手段と、前記照明成分抽出手段により抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出手段と、前記照明成分抽出手段により抽出された照明成分のダイナミックレンジを圧縮する圧縮手段と、前記圧縮手段によりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出手段により抽出された反射率成分とを合成する合成手段とを備え、前記照明成分抽出手段は、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、前記入力画像は、カラー画像であり、前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、前記圧縮手段は、圧縮特性として、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する特性を有していることを特徴とする。
【0007】
この構成によれば、各画素で異なる分光感度を有するカラー画像が入力画像とされ、この入力画像に対して、所定サイズのローパスフィルタを用いた平滑処理が複数回実行され入力画像から解像度の異なる複数の平滑画像が生成され、低解像度側の平滑画像のエッジ部分が上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理が複数回実行されることで入力画像から照明成分が抽出されるため、大規模なローパスフィルタを用いなくてもカラー画像から照明成分を精度良く抽出することができる。
【0008】
また、前記ローパスフィルタのサイズが5×5画素以下であることが好ましい。
【0009】
また、前記カラー画像は、RGBベイヤー配列の画像であることが好ましい。この構成によれば、RGBベイヤー配列の画像から精度良く照明成分を抽出することができる。
【0010】
また、前記カラー画像は、補色フィルタ配列の画像であることが好ましい。この構成によれば、補色フィルタ配列の画像から精度良く照明成分を抽出することができる。
【0011】
また、前記照明成分抽出部は、2n(nは正の整数):1の比率でダウンサンプリングすることが好ましい。この構成によれば、2n:1の比率でダウンサンプリングされているため、注目画素が水平及び垂直方向において2n毎に設定されることとなり、RGBベイヤー配列の画像又は補色フィルタ配列の画像の色の配列パターンの周期性より、注目画素として常に同じ色の画素が設定されると共に、注目画素に対する近傍画素の色の配列パターンが常に一定になる結果、各色に対するフィルタ係数の和が一定となり、より精度良く照明成分を抽出することができる。
【0012】
また、前記ローパスフィルタは、各色のフィルタ係数の和が一定となるように各フィルタ係数が定められていることが好ましい。
【0013】
この構成によれば、ローパスフィルタは、各色のフィルタ係数の和が一定となるようにフィルタ係数が定められているため、ダウンサンプリングの比率としてどのような比率を採用しても精度良く照明成分を抽出することができる。
【0014】
また、前記照明成分抽出手段は、注目画素の色に対応するローパスフィルタを用いたフィルタ処理を実行することが好ましい。
【0015】
この構成によれば、注目画素の色に応じて種類の異なるローパスフィルタが用いられているため、ダウンサンプリングの比率としてどのような比率を採用しても精度良く照明成分を抽出することができる。
【発明の効果】
【0016】
本発明によれば、カラー画像を入力画像として採用した場合であっても、大規模なローパスフィルタを用いずに照明成分を精度良く抽出することができる。
【図面の簡単な説明】
【0017】
【図1】本発明の実施の形態1による撮像装置のブロック図を示している。
【図2】図1に示す画像処理部の構成を示すブロック図である。
【図3】図2に示す圧縮部が用いる圧縮特性を示したグラフである。
【図4】照明成分のダイナミックレンジを圧縮することの効果を説明する模式図である。
【図5】図2に示す照明成分抽出部の詳細な構成を示すブロック図である。
【図6】図5に示すLPF部による処理を説明する模式図である。
【図7】図5に示すダウン部の処理を示す模式図である。
【図8】アップサンプリングを説明する図である。
【図9】図5に示すエッジ部による処理を説明するための図である。
【図10】実施の形態2による平滑部によるダウンサンプリングを説明するための図である。
【図11】処理対象となる補色フィルタ配列の画像を示した図である。
【図12】処理対象となるRGBベイヤー配列の画像を示している。
【発明を実施するための形態】
【0018】
(実施の形態1)
以下、本発明の実施の形態1による撮像装置について説明する。図1は、本発明の実施の形態1による撮像装置のブロック図を示している。図1に示すように撮像装置1は、デジタルカメラから構成され、レンズ部2、撮像センサ3、アンプ4、A/D変換部5、画像処理部6(画像処理装置の一例)、画像メモリ7、制御部8、モニタ部9及び操作部10を備えている。
【0019】
レンズ部2は、被写体の光像を取り込み、撮像センサ3へ導く光学レンズ系から構成される。光学レンズ系としては、被写体の光像の光軸LZに沿って直列的に配置される例え
ばズームレンズやフォーカスレンズ、その他の固定レンズブロック等を採用することができる。また、レンズ部2は、透過光量を調節するための絞り(図略)、シャッタ(図略)等を備え、制御部8の制御の下、絞り及びシャッタの駆動が制御される。
【0020】
撮像センサ3は、レンズ部2において結像された光像を光電変換して、光量に応じたレベルを有する各色成分の画像信号を生成し、アンプ4へ出力する。ここで、撮像センサ3としては、CMOSイメージセンサ、VMISイメージセンサ、及びCCDイメージセンサ等の種々の撮像センサを採用することができる。
【0021】
アンプ4は、例えばAGC(オートゲインコントロール)回路、及びCDS(相関二重サンプリング)回路等を含み、撮像センサ3から出力された画像信号を増幅する。A/D変換部5は、アンプ4により増幅された画像信号をデジタルの画像データに変換する。本実施の形態では、撮像センサ3の各画素で受光された画像信号は、例えば12ビットの階調値を有する画像データに変換される。
【0022】
画像処理部6は、A/D変換部5から出力された画像データに対し、FPN補正、黒基準補正、ホワイトバランス補正等の種々の画像処理を実行する他、図5で説明する後述の画像処理を実行する。以下、画像処理部6に入力された画像データを入力画像と称して説明する。画像メモリ7は、例えばRAM(Random Access Memory)から構成され、画像処理部6で画像処理が施された画像データ等を保存する。
【0023】
制御部8は、各種制御プログラム等を記憶するROM、一時的にデータを格納するRAM及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、撮像装置1全体の動作制御を司る。
【0024】
モニタ部9は、例えば撮像装置1のハウジングの背面に配設されたカラー液晶表示器が採用され、撮像センサ3で撮影された画像或いは画像メモリ7に保存されていた画像等をモニタ表示する。
【0025】
操作部10は、電源スイッチ、レリーズスイッチ、各種撮影モードを設定するモード設定スイッチ、メニュー選択スイッチ等の各種の操作スイッチ群等を含む。レリーズスイッチが押されることで、撮像動作、すなわち撮像センサ3により被写体が撮像され、この撮像により得られた画像データに対して所要の画像処理が施され、画像メモリ7等に記録されるといった一連の撮影動作が実行される。なお、画像メモリ7等に記憶せず、画像処理部6からデジタル信号として出力したり、D/A変換してNTSC等のアナログ信号として出力したりして一連の撮像動作を終えてもよい。
【0026】
図2は、図1に示す画像処理部6の構成を示すブロック図である。図2に示すように画像処理部6は、照明成分抽出部61(照明成分抽出手段の一例)、圧縮部62(圧縮手段の一例)、反射率成分抽出部63(反射率成分抽出手段の一例)、及び合成部64(合成手段の一例)を備えている。
【0027】
照明成分抽出部61は、所定サイズのローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して入力画像Vから解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで入力画像Vから照明成分Lを抽出する。この照明成分抽出部61の処理の詳細については後述する。
【0028】
圧縮部62は、照明成分抽出部61により抽出された照明成分のダイナミックレンジを
所定の圧縮特性を用いて圧縮する。図3は、圧縮部62が用いる圧縮特性を示したグラフであり、縦軸は圧縮された照明成分L´を示し、横軸は圧縮される前の照明成分Lを示している。図3に示すように、圧縮特性は、照明成分Lが増大するにつれて、傾きが緩やかになるような放物線を描いて照明成分L´が増大する特性を有している。具体的には、圧縮部62は、照明成分Lの各値と、照明成分Lの各値に対する圧縮後の照明成分L´の各値との関係を予め関連付けて記憶するルックアップテーブルを備え、このルックアップテーブルを用いて、各画素の照明成分Lに対する圧縮後の照明成分L´を特定する。なお、圧縮部62は、ルックアップテーブルに代えて、図3に示す圧縮特性を示す関数を用いて照明成分Lを圧縮してもよい。
【0029】
反射率成分抽出部63は、入力画像Vを照明成分抽出部61により抽出された照明成分Lで除すことで反射率成分Rを抽出する。入力画像Vは照明成分Lと反射率成分Rとの積、すなわち、V=R*Lによって表されるため(Retinex理論)、R=V/Lにより反射率成分Rを抽出することができる。
【0030】
合成部64は、照明成分L´に反射率成分Rを乗じる、すなわち、V´=R*L´の演算を行うことで出力画像V´を生成する。図4は、照明成分Lのダイナミックレンジを圧縮することの効果を説明する模式図であり、(a)の上段は反射率成分を示し、(a)の下段は照明成分を示し、(b)の上段は照明成分を圧縮しなかった場合の出力画像を示し、(b)の下段は照明成分を圧縮した場合の出力画像を示している。なお、図4(a),(b)において、縦方向は1枚の画像を構成するある数個の画素の値を示している。
【0031】
図4(a)に示すように照明成分は反射率成分に比べ、値が大きく変化し、かつ、同じ値を有する領域が広範囲に分布する特性を有している。したがって、照明成分を圧縮しない場合、図4(b)の上段に示すように、照明成分の大きな画素は照明成分が支配的となり、反射率成分の特徴が表れず、シーンの特徴を詳細に再現することが困難となる。そこで、照明成分を圧縮した後、反射率成分を乗じて出力画像を生成すると、図4(b)の下段に示すように照明成分が大きな画素において照明成分が支配的とならず、シーンの特徴を詳細に再現すことが可能となる。
【0032】
図5は、図2に示す照明成分抽出部61の詳細な構成を示すブロック図である。図5に示すように、照明成分抽出部61は、3個の平滑部21〜23と、3個の逆平滑部31〜33とを備える。図5に示す照明成分抽出部61は、各画素で異なる分光感度を有するカラー画像が入力画像として平滑部21に入力され、このカラー画像の照明成分を表す輝度画像が出力画像として逆平滑部31から出力される。
【0033】
平滑部21は、フィルタ処理を行うローパスフィルタ部(LPF部)210と、n(nは2以上の整数):1の比率でダウンサンプリングを行うダウン部220とを備え、解像度の異なる複数の平滑画像を生成する。以下の説明では、説明の便宜上、ダウンサンプリングの比率を2:1とするが、これは一例であり、3:1,4:1等の他の比率を採用してもよい。LPF部210は、入力画像に注目画素を順次設定し、注目画素の周辺隣接画素に重み付け係数(フィルタ係数)を乗算して加算した後、フィルタ係数の加算値で除するというように、所定行×所定列のローパスフィルタを用いたフィルタ処理を実行し、入力画像から低周波画像(低周波成分)を抽出する。ここで、LPF部210は、1枚の画像の例えば左上の画素から右下の画素に向けてラスタ走査するように順次注目画素を設定する。
【0034】
ローパスフィルタとしては、5×5、3×3というような比較的サイズの小さなローパスフィルタが採用され、本実施の形態では、3×3のローパスフィルタ、すなわち、k1〜k9の9個のフィルタ係数が3行3列にマトリックス状に配列されたローパスフィルタ
が採用される。
【0035】
図6は、LPF部210による処理を説明するための図である。図6に示す各升は入力画像を構成する各画素を示し、Dの添え字の1桁目は垂直方向の画素位置を示し、Dの添え字の2桁目は水平方向の画素位置を示し、Dは画素の値を示している。注目画素が例えばD11に設定されている場合、D11のフィルタ処理後の値である、D11−LPFは、D11−LPF=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。そして、LPF部210は、LPF−D11のフィルタ処理が終了すると、右隣のD12を次の注目画素として設定し、LPF−D12を算出する。そして、LPF部210は、このような演算を入力画像の各画素に対して実行し、入力画像から低周波画像を抽出する。
【0036】
ダウン部220は、LPF部210により抽出された低周波画像を2:1の比率でダウンサンプリングし、水平方向及び垂直方向の画素数が共に1/2個とされた平滑画像を生成する。図7は、ダウン部220の処理を示す図であり、(a)はダウンサンプリング前の画像を示し、(b)はダウンサンプリング後の画像を示している。図7の場合、2:1でダウンサンプリングされているため、(a)に示すダウンサンプリング前の画像から(b)に示すD00,D02,D04,D20,D22,D24,D40,D42,D44が抽出されるというように、ダウンサンプリング前の画像から水平方向に1つ飛ばしで画素が抽出され、垂直方向において画素が1つ飛ばしで画素が抽出され、水平方向及び垂直方向の画素数が共に、1/2に間引かれ、トータルの画素数が1/4に間引かれた平滑画像が生成されていることが分かる。なお、図7の例では、水平方向及び垂直方向共、奇数番目の画素が抽出されていたが、これに限定されず、偶数番目の画素を抽出してもよい。
【0037】
図5に戻り、平滑部22,23は、平滑部21と同様、LPF部210及びダウン部220を備えている。平滑部22は、平滑部21で生成された平滑画像D1に対して、平滑部21と同様の処理を行って平滑画像D2を生成して平滑部23に出力し、平滑部23は、平滑部22で生成された平滑画像D2に対して、平滑部21と同様の処理を行って平滑画像D3を生成し、逆平滑部33に出力する。以上、平滑部21〜23の処理により、平滑処理が階層的に3回実行され、入力画像から解像度の異なる3つの平滑画像D1〜D3が生成される。
【0038】
逆平滑部33は、1:2の比率でアップサンプリングを行うアップ部310と、エッジ強度算出処理を行うエッジ処理部320と、合成処理を行う合成部330とを備え、逆平滑処理を実行する。
【0039】
アップ部310は、平滑画像D3を1:2の比率で隣接画素を用いたアップサンプリングを行い、平滑画像D3の画素数を平滑部23により処理される前の画素数に戻す。図8はアップサンプリングを説明する図であり、(a)はアップサンプリング前の画像を示し、(b)はアップサンプリング後の画像を示す。図8の場合、1:2にアップサンプリングがなされているため、(a)に示すアップサンプリング前の画像は、(b)に示すようにD00の右、下、斜め右下に隣接する3個の画素であるD01,D10,D11がD00の値によって補間され、D02の右、下、斜め右下に隣接する3個の画素であるD03,D12,D13がD02の値によって補間されるというようにして、ある1つの画素に隣接する3個の画素が当該1つの画素の値によって補間されていることが分かる。具体的には、D00=D00、D01=D00、D10=D00、D11=D00、D02=D02、D03=D02、D12=D02、D13=D02と補間される。これにより、(a)に示すアップサンプリング前の画像は、水平方向及び垂直方向が共に、1画素ずつ補
間され、(b)に示すように4倍の画像サイズにされる。
【0040】
なお、アップ部310によるアップサンプリングは、上記の手法に限定されず、種々の手法を採用することが可能であり、例えば、アップサンプリング前の画像を周辺画像としてバイリニアによる補間処理を採用してもよい。
【0041】
エッジ処理部320は、アップ部310によりアップサンプリングされた画像D3´に、所定サイズのエッジ抽出フィルタを用いたフィルタ処理を行い、画像D3´のエッジ強度を算出する。ここで、エッジ処理部320は、水平エッジの強度を求める水平エッジフィルタと、垂直エッジの強度を求める垂直エッジフィルタとを用いて、画像D3´の水平エッジ強度と垂直エッジ強度とを算出する。水平エッジフィルタ及び垂直エッジフィルタのサイズとしては、処理の高速化の観点から、比較的小サイズであることが好ましく、本実施の形態では3×3を採用することができる。
【0042】
図9は、エッジ処理部320による処理を説明するための図である。エッジ処理部320は、図9に示すような画像が画像D3´として入力されると、例えば左上の画素から右下の画素に向けてラスタ走査するように順次注目画素を設定し、画像D3´の水平エッジ強度と垂直エッジ強度とを算出する。
【0043】
図9において、D11が注目画素として設定されている場合、D11の水平エッジ強度であるD11−edgeHは、8近傍画素を用いて、D11−edge=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、k1=−1、k2=−1、k3=−1、k4=0、k5=0、k6=0、k7=1、k8=1、k9=1、かつ、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。その他の画素についても同様に水平エッジ強度が算出される。
【0044】
また、同様に、垂直エッジ強度であるD11−edgeVは、8近傍画素を用いて、D11−edgeV=(k1*D00+k2*D01+k3*D02+k4*D10+k5*D11+k6*D12+k7*D20+k8*D21+k9*D22)/Kによって算出される。但し、k1=−1、k2=0、k3=1、k4=−1、k5=0、k6=1、k7=−1、k8=0、k9=1、かつ、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。なお、上記k1〜k9は一例であり異なる値を適宜採用してもよい。その他の画素についても同様に垂直エッジ強度が算出される。
【0045】
図5に戻り、合成部330は、画像D3´においてエッジ強度が所定の閾値以上の画素は、上層の平滑画像D2の画素を採用し、画像D3´においてエッジ強度が所定の閾値未満の画素は画像D3´の画素を採用するというようにして、画像D3´と上層の平滑画像D2とを合成して逆平滑画像D2´を生成する。
【0046】
具体的には、合成部330は、水平エッジ強度の閾値をThH、垂直エッジ強度の閾値をThVとし、画像D3´の水平及び垂直エッジ強度をEH3及びEV3とすると、EH3<ThH、かつ、EV3<ThVの場合、D2´=D3´とし、その他の場合、D2´=D2とする。これにより、エッジ部分を保存しつつ低周波成分を抽出することが可能となり、大サイズのローパスフィルタを用いなくても照明成分を精度良く抽出することが可能となる。
【0047】
ここで、合成部330による合成処理は上記の例に限定されず、例えば、水平エッジ強度及び垂直エッジ強度に応じた重み付け係数d(0≦d≦1)を予め定めておき、D2´=d*D2+D3´*(1−d)により合成処理を行っても良い。
【0048】
逆平滑部31,32は、逆平滑部33と同様、アップ部310、エッジ処理部320、及び合成部330を備えている。逆平滑部32は、逆平滑部33で生成された逆平滑画像D2´に対して、逆平滑部33と同様の処理を行って逆平滑画像D1´を生成し、逆平滑部31に出力し、逆平滑部31は、逆平滑部32から出力された逆平滑画像D1´に対して、逆平滑部33と同様の処理を行い、出力画像である照明成分を生成する。
【0049】
なお、図5においては、逆平滑部32のアップ部310によりアップサンプリングされた画像は、D2´´とされ、逆平滑部31のアップ部310によりアップサンプリングされた画像は、D1´´とされている。また、平滑部23のダウン部220及び逆平滑部33のアップ部310を省略してもよい。
【0050】
次に、画像処理部6の動作について説明する。なお、以下の説明では、平滑部21〜23は、それぞれn(nは2以上の整数):1の比率でダウンサンプリングし、逆平滑部31〜33は、それぞれ1:nの比率でアップサンプリングする。入力画像は、図5に示す平滑部21によって画素数が1/n2になるように平滑化されて平滑画像D1とされ、平滑画像D1は平滑部22によって画素数が1/n2になるように平滑化されて平滑画像D2とされ、平滑画像D2は平滑部23によって画素数が1/n2になるように平滑化されて平滑画像D3とされる。次に、平滑画像D3は、逆平滑部33によって画素数がn2倍になるように逆平滑化されて逆平滑画像D2´とされ、逆平滑画像D2´は、逆平滑部32によって画素数がn2倍になるように逆平滑化されて逆平滑画像D1´とされ、逆平滑画像D1´は、逆平滑部31によって画素数がn2倍になるように逆平滑化され、照明成分が出力される。
【0051】
このように、実施の形態1による画像処理装置によれば、比較的小さなサイズのローパスフィルタによる平滑処理の繰り返しにより、入力画像から広帯域の平滑画像が抽出された後、逆平滑処理の繰り返しにより、照明成分が抽出される結果、大サイズのローパスフィルタを用いなくても、エッジ部分が保持された広帯域の低周波成分を抽出することが可能となり、照明成分を精度良く抽出することができる。
【0052】
なお、実施の形態1において、平滑部21〜23のダウンサンプリングの比率を各々n:1としたが、これに限定されず、各々異なる比率にしてもよい。この場合、逆平滑部31〜33の各々のアップサンプリングの比率を平滑部21〜23の各々のアップサンプリングの比率と同じ比率にすることが好ましい。
【0053】
また、実施の形態1では、平滑部の個数を3個としたが、これに限定されず、2個、又は4個以上としてもよい。この場合、逆平滑部の個数と平滑部の個数とを同一にすればよい。
【0054】
(実施の形態2)
次に、本発明の実施の形態2による撮像装置ついて説明する。実施の形態2による撮像装置は、平滑処理のダウンサンプリングの比率を2n:1にしたことを特徴とする。なお、本実施の形態において、実施の形態1と同一のものは同一の符号を付して説明を省略する。また、撮像装置の全体構成、画像処理部6の構成、及び照明成分抽出部61の構成は、実施の形態1と同一であるため、図1,図2,図5を用いて説明する。
【0055】
図10は、実施の形態2による平滑部21によるダウンサンプリングを説明するための図であり、(a)はダウンサンプリング前の画像を示し、(b)はダウンサンプリング後の画像を示す。図10(a)に示す画像は、RGBベイヤー配列の画像であり、R(赤)、G(緑)、B(青)は、各画素の色を示している。
【0056】
図10(a)に示すように、Rの画素は、1行1列目、1行3列目、3行1列目、3行3列目というように水平及び垂直方向が共に1画素飛ばしで配列されていることが分かる。また、B及びGの画素もRの画素と同様に水平及び垂直方向が共に1画素飛ばしで配列されていることが分かる。更に、Bの画素を注目画素とした場合、左上、右上、左下、右下の4つの画素が共にRであり、残りの4つの画素が共にGとなっており、8近傍画素の色が一定のパターンで配列されていることが分かる。また、R及びGの画素を注目画素とした場合もBの場合と同様、8近傍画素の色が一定のパターンで配列されていることが分かる。
【0057】
以上のことから、ダウンサンプリングの比率を2n:1とすると、常に同じ色の画素が注目画素として設定されることになり、また、注目画素が同色である場合、注目画素の8近傍画素の色のパターンは常に一定になるため、各色に対するフィルタ係数の和が常に一定となり、高精度のフィルタ処理を実現することが可能となる。
【0058】
例えば、図10(a)の画像に対し、2:1の比率でダウンサンプリングを行うと、注目画素としてB11が設定された場合、図10(b)に示すD00が、D00=(k1*R00+k2*G01+k3*R02+k4*G10+k5*B11+k6*G12+k7*R20+k8*G21+k9*R22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。
【0059】
また、注目画素としてB13が設定されると、図10(b)に示すD02は、D02=(k1*R02+k2*G03+k3*R04+k4*G12+k5*B13+k6*G14+k7*R22+k8*G23+k9*R24)/Kによって算出される。
【0060】
従って、2:1の比率でダウンサンプリングを行うと、注目画素の色は常にBとなり、k1,k3,k7,k9のフィルタ係数は常にRの画素に対応し、k2,k4,k6,k8のフィルタ係数は常にGの画素に対応することになり、各色のフィルタ係数の和が一定になっていることが分かる。
【0061】
また、図10(a)の画像に対し、4:1の比率でダウンサンプリングを行うと、注目画素としてB33が設定された場合、図10(b)に示すD00が、D00=(k1*R22+k2*G23+k3*R24+k4*G32+k5*B33+k6*G34+k7*R42+k8*G43+k9*R44)/Kによって算出される。
【0062】
また、注目画素としてB37が設定され、図10(b)に示すD02が、D02=(k1*R26+k2*G27+k3*R28+k4*G36+k5*B37+k6*G38+k7*R46+k8*G47+k9*R48)/Kによって算出される。
【0063】
従って、4:1の比率でダウンサンプリングを行うと、注目画素の色は常にBとなり、k1,k3,k7,k9のフィルタ係数は常にRの画素に対応し、k2,k4,k6,k8のフィルタ係数は常にGの画素に対応することになり、各色のフィルタ係数の和が一定になっていることが分かる。
【0064】
このように、実施の形態2による撮像装置によれば、ダウンサンプリングの比率を2n:1とすることで、常に、注目画素は同一色となり、各色のフィルタ係数の和が一定になるため、RGBベイヤー配列の画像から精度良く照明成分を抽出することができる。
【0065】
なお、上述した処理はRGBベイヤー配列の画像のみならず、例えば補色フィルタ配列の画像のように、各注目画素に対する近傍画素の色の配列が同一のパターンの画像であれ
ばどのような画像に対しても適用することが可能である。
【0066】
図11は、処理対象となる補色フィルタ配列の画像を示している。比率を2:1として、図11に示す画像にダウンサンプリングを実行すると、RGBベイヤー配列の画像と同様、常に同じ色(例えば、Mg:マゼンタ)の画素が注目画素として設定され、また、ローパスフィルタのサイズを3×3とすると、k1,k3,k7,k9がCy(シアン)の画素に対応し、k2,k8がYe(イエロー)の画素に対応し、k4,k6がG(グリーン)の画素に対応することになり、各色のフィルタ係数の和が一定になることが分かる。
【0067】
なお、上記説明では、RGBベイヤー配列においてはBを注目画素として設定し、補色フィルタ配列の画像においては、Mgを注目画素として設定したが、これは一例であり、他の色を注目画素として設定しても、ダウンサンプリングの比率を2n:1とすることで、同様の効果を得ることができる。また、ローパスフィルタのサイズとして、5×5というような3×3以外のサイズを採用した場合においても、同様の効果を得ることができる。
【0068】
(実施の形態3)
次に、本発明の実施の形態3による撮像装置ついて説明する。実施の形態3による撮像装置は、ローパスフィルタの係数が実施の形態1,2のものと相違する点を特徴としている。
【0069】
なお、本実施の形態において、実施の形態1と同一のものは同一の符号を付して説明を省略する。また、撮像装置の全体構成、画像処理部6の構成、及び照明成分抽出部61の構成は、実施の形態1と同一であるため、図1,図2,図5を用いて説明する。
【0070】
図5に示す各LPF部210は、注目画素の色に応じた種類のローパスフィルタを用いてフィルタ処理を行う。本実施の形態において、入力画像としては、RGBベイヤー配列の画像が使用されるため、LPF部210は、注目画素がRの場合は、Rのローパスフィルタを使用し、注目画素がGの場合は、Gのローパスフィルタを使用し、注目画素がBの場合は、Bのローパスフィルタを使用する。ここで、R,G,Bのローパスフィルタは、サイズが3×3であり、フィルタ係数を各々k1〜k9、k1´〜k9´、k1´´〜k9´´とする。
【0071】
図11は、処理対象となるRGBベイヤー配列の画像を示している。LPFP部210は、注目画素がB11である場合、B11は青色であるため、Bのローパスフィルタを用い、フィルタ処理後の値であるB11−LPFは、B11−LPF=(k1*R00+k2*G01+k3*R02+k4*G10+k5*B11+k6*G12+k7*R20+k8*G21+k9*R22)/Kによって算出される。但し、K=k1+k2+k3+k4+k5+k6+k7+k8+k9である。
【0072】
また、LFP部210は、注目画素がG12の場合、G12は緑色であるため、Gのローパスフィルタを用い、フィルタ処理後の値であるG12−LPFは、G12−LPF=(k1´*G01+k2´*R02+k3´*G03+k4´*B11+k5´*G12+k6´*B13+k7´*G21+k8´*R22+k9´*G23)/K´によって算出される。但し、K´=k1´+k2´+k3´+k4´+k5´+k6´+k7´+k8´+k9´である。
【0073】
また、LFP部210は、注目画素がR22の場合、R22は赤色であるため、Rのローパスフィルタを用い、フィルタ処理後の値であるR22−LPFは、R22−LPF=(k1´´*B11+k2´´*G12+k3´´*B13+k4´´*G21+k5´
´*R22+k6´´*G23+k7´´*B31+k8´´*G32+k9´´*B33)/K´´によって算出される。但し、K´´=k1´´+k2´´+k3´´+k4´´+k5´´+k6´´+k7´´+k8´´+k9´´である。
【0074】
そして、フィルタ係数k1〜k9、k1´〜k9´、k1´´〜k9´´は、以下の条件を満足する。
【0075】
Bが注目画素となる場合、RGBベイヤー配列の画像は、k1,k3,k7,k9がRの画素に対応し、k5がBの画素に対応し、k2,k4,k6,k8がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR,KG,KBは、KR=k1+k3+k7+k9となり、KG=k2+k4+k6+k8となり、KB=k5となる。
【0076】
また、Gが注目画素となる場合、RGBベイヤー配列の画像は、k2´,k8´がRの画素に対応し、k4´,k6´がRの画素に対応し、k1´,k3´,k5´,k7´,k9´がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR´,KG´,KB´は、KR´=k4´+k6´となり、KG´=k1´+k3´+k5´+k7´+k9´となり、KB´=k2´+k8´となる。
【0077】
また、Rが注目画素となる場合、RGBベイヤー配列の画像は、k5´´がRの画素に対応し、k1´´,k3´´,k7´´,k9´´がBの画素に対応し、k2´´,k4´´,k6´´,k8´´がGの画素に対応するため、R,G,B毎のフィルタ係数の和であるKR´´,KG´´,KB´´は、KR´´=k5´´となり、KG´´=k2´´+k4´´+k6´´+k8´´となり、KB´´=k1´´+k3´´+k7´´+k9´´となる。
【0078】
そして、KR,KG,KB,KR´,KG´,KB´,KR´´,KG´´,KB´´は、以下の条件を満たす。
KR/K=KR´/K´=KR´´/K´´
KG/K=KG´/K´=KG´´/K´´
KB/K=KB´/K´=KB´´/K´´
【0079】
これにより、各色のフィルタ係数の比が一定になり、精度良く低周波画像を抽出することができる。また、更に、K=K´=K´´としてもよい。これにより、各ローパスフィルタ間で同色のフィルタ係数の和が等しい値になるため、ダウンサンプリングの比率としてどのような比率を採用しても、精度良く低周波画像を抽出することができる。
【0080】
次に、本実施の形態による撮像装置の動作について説明する。画像処理部6に図11に示すRGBベイヤー配列の入力画像が入力されると、平滑部21のLPF部210は、注目画素の色に応じてR,G,Bローパスフィルタを切り替ながら順次フィルタ処理実行する。次に、平滑部21のダウン部220は、フィルタ処理された画像をn:1の比率でダウンサンプリングし、平滑画像D1を生成する。
【0081】
次に、平滑部22のLPF部210は、平滑部21で生成された平滑画像D1に対して、上段のLPF部210と同様のフィルタ処理を実行し、ダウン部220は、上段のダウン部220と同様に、n:1の比率でダウンサンプリングし、平滑画像D2を生成する。この場合、平滑部22のLPF部210は、例えば、平滑部21において、Rのローパスフィルタを用いて算出された画素はRの画素、Gのローパスフィルタを用いて算出された画素はGの画素、Bのローパスフィルタを用いて算出された画素はBの画素として取り扱い、R,G,Bのローパスフィルタを適用してフィルタ処理を行えばよい。
【0082】
次に、平滑部23は、平滑部22と同様にしてn:1の比率でダウンサンプリングして
平滑画像D3を生成する。平滑部23で生成された平滑画像D3は、逆平滑部33〜31により1:nのアップサンプリングの比率で順次、逆平滑処理され、照明成分が出力される。
【0083】
このように実施の形態3による撮像装置によれば、R,G,Bのローパスフィルタは、各色のフィルタ係数の和が一定、かつ、各ローパスフィルタ間で同色のフィルタ係数の和が等しくなるように各フィルタ係数が定められ、注目画素の色に応じたローパスフィルタを用いてダウンサンプリングが実行されるため、各色に対するフィルタ係数が一定となり、精度良く照明成分を抽出することができる。
【0084】
なお、上述した処理はRGBベイヤー配列の画像のみならず、例えば補色フィルタ配列の画像のように、各注目画素に対する近傍画素の色の配列が同一のパターンを有する画像であればどのような画像に対しても適用することが可能である。
【0085】
例えば、入力画像として、図12に示す補色フィルタ配列の画像を採用した場合は、フィルタ係数が下記の条件を満たすCy,Ye,Mg,G,のローパスフィルタを用意し、注目画素の色に応じて、これらのローパスフィルタを切り換えて適用することで、RGBベイヤー配列の画像の場合と同様の効果を得ることができる。
【0086】
KCy/K=KCy´/K´=KCy´´/K´´=KCy´´´/K´´´
KYe/K=KYe´/K´=KYe´´/K´´=KYe´´´/K´´´
KMg/K=KMg´/K´=KMg´´/K´´=KMg´´´/K´´´
KG/K=KG´/K´=KG´´/K´´=KG´´´/K´´´
但し、KCy,KYe,KMg,KGは、CyのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´,KYe´,KMg´,KG´は、YeのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´´,KYe´´,KMg´´,KG´´は、MgのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示し、KCy´´´,KYe´´´,KMg´´´,KG´´´は、KGのローパスフィルタにおけるCy,Ye,Mg,KGの画素に対応するフィルタ係数の和を示す。また、K=K´=K´´=K´´´としてもよい。
【0087】
なお、上記説明では、ローパスフィルタが注目画素の色毎に異なる場合を前提にして説明したが、例えば、フィルタ係数が、k1=1,k2=2,k3=1,k4=2,k5=4,k6=2,k7=1,k8=2,k9=1であるようなローパスフィルタを採用した場合、注目画素の色に応じてローパスフィルタを変更しなくても、各色のフィルタ係数の和が一定となり、上記と同様の効果を得ることができる。
【0088】
具体的には、このローパスフィルタをRGBベイヤー配列の画像に適用すると、Bが注目画素である場合、フィルタ処理後の値は、(4B+4R+8G)/16となる。ここで、R,G,Bは、ローパスフィルタ内の画像のR,G,Bの各々の画素値の総和を示している。また、Rが注目画素である場合、フィルタ処理後の値は、(4R+4B+8G)/16となり、Gが注目画素である場合、フィルタ処理後の値は、(8G+4R+4B)/16となる。したがって、注目画素の色に応じてローパスフィルタを変更しなくても各色のフィルタ係数の和がKR,KG,KB=4,8,4となり、各色のフィルタ係数の総和が一定となり、ダウンサンプリングの比率としてどのような比率を採用しても、精度良く低周波画像を抽出することができる。また、このローパスフィルタを補色フィルタ配列の画像に適用した場合も、KCy,KYe,KMg,KG=4,4,4,4となり、同様の効果を得ることができる。
【符号の説明】
【0089】
1 撮像装置
6 画像処理部
61 照明成分抽出部
62 圧縮部
63 反射率成分抽出部
64 合成部
21,22,23 平滑部
31,32,33 逆平滑部
210 LPF部
220 ダウン部
310 アップ部
320 エッジ処理部
330 合成部
D1´〜D3´ 逆平滑画像
D1〜D3 平滑画像
【特許請求の範囲】
【請求項1】
入力画像から照明成分を抽出する照明成分抽出手段と、
前記照明成分抽出手段により抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出手段と、
前記照明成分抽出手段により抽出された照明成分のダイナミックレンジを圧縮する圧縮手段と、
前記圧縮手段によりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出手段により抽出された反射率成分とを合成する合成手段とを備え、
前記照明成分抽出手段は、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、
前記入力画像は、カラー画像であり、
前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、
前記圧縮手段は、圧縮特性として、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する特性を有していることを特徴とする画像処理装置。
【請求項2】
前記ローパスフィルタのサイズが5×5画素以下であることを特徴とする請求項1記載の画像処理装置。
【請求項3】
請求項1又は2記載の画像処理装置を備えることを特徴とする撮像装置。
【請求項4】
入力画像から照明成分を抽出する照明成分抽出ステップと、
前記照明成分抽出ステップにより抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出ステップと、
前記照明成分抽出ステップにより抽出された照明成分のダイナミックレンジを圧縮する圧縮ステップと、
前記圧縮ステップによりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出ステップにより抽出された反射率成分とを合成する合成ステップとを備え、
前記照明成分抽出ステップは、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、
前記入力画像は、カラー画像であり、
前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、
前記圧縮ステップは、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する圧縮特性を用いて圧縮することを特徴とする画像処理方法。
【請求項5】
前記ローパスフィルタのサイズが5×5画素以下であることを特徴とする請求項4記載の画像処理方法。
【請求項1】
入力画像から照明成分を抽出する照明成分抽出手段と、
前記照明成分抽出手段により抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出手段と、
前記照明成分抽出手段により抽出された照明成分のダイナミックレンジを圧縮する圧縮手段と、
前記圧縮手段によりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出手段により抽出された反射率成分とを合成する合成手段とを備え、
前記照明成分抽出手段は、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、
前記入力画像は、カラー画像であり、
前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、
前記圧縮手段は、圧縮特性として、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する特性を有していることを特徴とする画像処理装置。
【請求項2】
前記ローパスフィルタのサイズが5×5画素以下であることを特徴とする請求項1記載の画像処理装置。
【請求項3】
請求項1又は2記載の画像処理装置を備えることを特徴とする撮像装置。
【請求項4】
入力画像から照明成分を抽出する照明成分抽出ステップと、
前記照明成分抽出ステップにより抽出された照明成分と前記入力画像とを基に、反射率成分を抽出する反射率成分抽出ステップと、
前記照明成分抽出ステップにより抽出された照明成分のダイナミックレンジを圧縮する圧縮ステップと、
前記圧縮ステップによりダイナミックレンジが圧縮された照明成分と、前記反射率成分抽出ステップにより抽出された反射率成分とを合成する合成ステップとを備え、
前記照明成分抽出ステップは、二次元のローパスフィルタを用いたフィルタ処理を実行した後、ダウンサンプリングを実行する平滑処理を複数回実行して前記入力画像から解像度の異なる複数の平滑画像を生成し、低解像度側の平滑画像のエッジ部分を上層の高解像度側の平滑画像で置き換えながらアップサンプリングする逆平滑処理を複数回実行することで前記入力画像から照明成分を抽出し、
前記入力画像は、カラー画像であり、
前記ダウンサンプリングの比率と前記アップサンプリングの比率とが同じであり、且つ、前記平滑処理の回数と前記逆平滑処理の回数とが同じであり、
前記圧縮ステップは、圧縮前の照明成分が増大するにつれて、圧縮後の照明成分の変化率が連続的に小さくなるように圧縮後の照明成分が増大する圧縮特性を用いて圧縮することを特徴とする画像処理方法。
【請求項5】
前記ローパスフィルタのサイズが5×5画素以下であることを特徴とする請求項4記載の画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−17240(P2013−17240A)
【公開日】平成25年1月24日(2013.1.24)
【国際特許分類】
【出願番号】特願2012−224874(P2012−224874)
【出願日】平成24年10月10日(2012.10.10)
【分割の表示】特願2007−245720(P2007−245720)の分割
【原出願日】平成19年9月21日(2007.9.21)
【出願人】(303000408)コニカミノルタアドバンストレイヤー株式会社 (3,255)
【Fターム(参考)】
【公開日】平成25年1月24日(2013.1.24)
【国際特許分類】
【出願日】平成24年10月10日(2012.10.10)
【分割の表示】特願2007−245720(P2007−245720)の分割
【原出願日】平成19年9月21日(2007.9.21)
【出願人】(303000408)コニカミノルタアドバンストレイヤー株式会社 (3,255)
【Fターム(参考)】
[ Back to top ]