画像処理装置
【課題】ノイズを効果的に抑制でき、しかも、ノイズ抑制のための専用の装置を追加することも不要な、画像処理装置を得る。
【解決手段】画像処理装置1は、輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部23と、周波数変換部23から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部24とを備える。量子化部24は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、上記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行する。
【解決手段】画像処理装置1は、輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部23と、周波数変換部23から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部24とを備える。量子化部24は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、上記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置に関し、特に、HD Photoにおけるエンコーダ及びデコーダに関する。
【背景技術】
【0002】
色ノイズの抑制を目的とした撮像装置が、下記特許文献1に開示されている。当該撮像装置の受光部には、Bayer配列の3色のカラーフィルタが設けられている。また、当該撮像装置は、CPUの機能として実現される検出処理部と補正処理部とを有している。検出処理部は、バッファメモリに格納されているRAW画像データを対象として、Gb画素の画素値と、そのGb画素の対角に位置する4個のGr画素の画素値の平均値とを比較する。Gr画素の画素値の平均値がGb画素の画素値よりも大きい場合には、補正処理部は、Gb画素の画素値をGr画素の画素値の平均値に置き換える。これによって、色ノイズが補正される。
【0003】
また、近年、JPEGよりも高画質で、JPEG2000よりも回路構成及び演算処理が簡素化された静止画ファイルフォーマットとして、マイクロソフト社よりHD Photoが提案されている。
【0004】
HD Photoにおけるエンコーダは、所定の周波数変換処理(PCT)を実行する周波数変換部と、ブロック歪みを軽減するための所定のプレフィルタ処理を実行するプレフィルタとを備えて構成されている。周波数変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数変換処理を実行する。プレフィルタは、周波数変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前にプレフィルタ処理を実行する。但し、プレフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0005】
また、HD Photoにおけるデコーダは、上記の周波数変換処理に対応する周波数逆変換処理を実行する周波数逆変換部と、上記のプレフィルタ処理に対応するポストフィルタ処理を実行するポストフィルタとを備えて構成されている。周波数逆変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数逆変換処理を実行する。ポストフィルタは、周波数逆変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後にポストフィルタ処理を実行する。但し、上記と同様に、ポストフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0006】
なお、HD Photoの詳細については、例えば下記非特許文献1に開示されている。また、HD Photoに関連するJPEG XRの詳細については、例えば下記非特許文献2に開示されている。
【0007】
【特許文献1】特開2005−333251号公報
【非特許文献1】"HD Photo -Photographic Still Image File Format", [online], 2006年11月7日, Microsoft Corporation, [2007年10月10日検索], インターネット<URL: http://www.microsoft.com/whdc/xps/hdphotodpk.mspx>
【非特許文献2】"Coding of Still Pictures -JBIG JPEG", [online], 19 December 2007, ISO/IEC JTC 1/SC 29/WG1 N 4392, [2008年3月4日検索], インターネット<URL: http://www.itscj.ipsj.or.jp/sc29/open/29view/29n9026t.doc>
【発明の開示】
【発明が解決しようとする課題】
【0008】
上記特許文献1に開示された撮像装置によると、検出処理部及び補正処理部は、Gr画素の画素値とGb画素の画素値とに基づいて、色ノイズの検出処理及び補正処理を実行する。しかし、Gr画素の画素値及びGb画素の画素値は、輝度信号と色差信号とが混在した情報である。そのため、輝度に影響を与えることなく色ノイズのみを正確に除去することが困難である。しかも、上記特許文献1に開示された撮像装置によると、色ノイズを抑制する目的のためだけに、専用の検出処理部及び補正処理部を追加して実装する必要があり、コストの上昇を招く。
【0009】
本発明はかかる問題を解決するために成されたものであり、ノイズを効果的に抑制でき、しかも、ノイズ抑制のための専用の装置を追加することも不要な、画像処理装置を得ることを目的とする。
【課題を解決するための手段】
【0010】
本発明の第1の態様に係る画像処理装置は、輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部と、前記周波数変換部から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部とを備え、前記量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、前記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行することを特徴とする。
【0011】
本発明の第1の態様に係る画像処理装置によれば、量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行する。従って、上記特定の周波数データに関しては、量子化処理によって下位ビットのデータが削除され、それにより、周波数データの細かい変化を消失させることができる。その結果、周波数データの細かい変化に相当するノイズを抑制することが可能となる。
【0012】
また、特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理が実行される。従って、ノイズが発生していない信号に対応する周波数データに関しては、量子化処理によって下位ビットのデータが削除されることはない。その結果、ノイズが発生していない信号に影響を与えることなく、ノイズが発生している信号に関してそのノイズを効果的に抑制することが可能となる。
【0013】
しかも、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0014】
さらに、上記特定の周波数データに関しては、値が「1」より大きな量子化係数を用いて量子化処理が実行されるため、量子化部から出力される量子化データの有効ビット幅が削減される。その結果、後段の符号化部から出力される符号化データの符号量を削減することが可能となる。つまり、画像データのデータ量をより圧縮することが可能となる。
【0015】
本発明の第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置において特に、前記量子化部は、前記特定の周波数データに関して、ノイズの程度に応じて量子化係数の値を可変に設定可能であることを特徴とする。
【0016】
本発明の第2の態様に係る画像処理装置によれば、ノイズが大きい信号に対応する周波数データに関しては、量子化係数の値を大きく設定することにより、ノイズを十分に抑制することが可能となる。
【0017】
本発明の第3の態様に係る画像処理装置は、第2の態様に係る画像処理装置において特に、前記特定の周波数データには、ハイパス成分、ローパス成分、及び直流成分が含まれ、前記量子化部は、各成分ごとに、ノイズの程度に応じて量子化係数の値を可変に設定可能であることを特徴とする。
【0018】
本発明の第3の態様に係る画像処理装置によれば、ノイズが大きい成分に関しては、量子化係数の値を大きく設定することにより、ノイズを十分に抑制することが可能となる。
【0019】
本発明の第4の態様に係る画像処理装置は、第1〜第3のいずれか一つの態様に係る画像処理装置において特に、画像処理装置は、前記周波数変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前に、プレフィルタ処理を選択的に実行するプレフィルタと、前記プレフィルタよりも前段に配置され、外部から入力された第1の色空間の画素信号を、輝度信号及び複数の色差信号を含む第2の色空間の画素信号に変換する色変換部と、周波数逆変換処理を実行する周波数逆変換部と、前記周波数逆変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後に、ポストフィルタ処理を選択的に実行するポストフィルタと、前記ポストフィルタよりも後段に配置され、第2の色空間の画素信号を第1の色空間の画素信号に逆変換する色逆変換部とをさらに備え、前記プレフィルタは、前記色変換部から入力された輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行し、前記ポストフィルタは、前記特定の信号に対して、ポストフィルタ処理を実行しないことを特徴とする。
【0020】
本発明の第4の態様に係る画像処理装置によれば、プレフィルタは、輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行する。また、ポストフィルタは、上記特定の信号に対して、ポストフィルタ処理を実行しない。プレフィルタ処理を実行し、かつポストフィルタ処理を実行しないことにより、ノイズを抑制することができる。しかも、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0021】
本発明の第5の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、前記特定の信号に対して実行するプレフィルタ処理の回数を、一回又は複数回に設定可能であることを特徴とする。
【0022】
本発明の第5の態様に係る画像処理装置によれば、実行するプレフィルタ処理の回数を、ノイズの程度に応じて一回又は複数回に設定することにより、ノイズを十分に抑制することが可能となる。
【発明の効果】
【0023】
本発明によれば、ノイズを効果的に抑制でき、しかも、ノイズ抑制のための専用の装置を追加することも不要である。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。
【0025】
本実施の形態では、本発明に係る画像処理装置をHD Photoにおけるエンコーダ及びデコーダに適用する例について説明する。
【0026】
図1は、本発明の実施の形態に係る画像処理装置1の構成を示すブロック図である。画像処理装置1は、エンコーダ2とデコーダ3とを備えて構成されている。エンコーダ2は、色変換部21、プレフィルタ22、周波数変換部23、量子化部24、予測部25、及び符号化部26を有している。デコーダ3は、色逆変換部31、ポストフィルタ32、周波数逆変換部33、逆量子化部34、逆予測部35、及び復号化部36を有している。
【0027】
まず、エンコーダ2の動作について説明する。
【0028】
色変換部21には、Bayer配列の3色のカラーフィルタが配置された、CCD又はCMOSイメージセンサ等の撮像素子から、RGB色空間の画素信号S1が入力される。色変換部21は、RGB色空間の画素信号S1を、YUVK色空間の画素信号S2に変換して出力する。つまり、画素信号S2には、輝度信号(Y信号)と、複数の色差信号(U信号、V信号、及びK信号)とが含まれる。なお、K信号は、Gr画素の画素値とGb画素の画素値との差分値であり、本明細書では、K信号を色差信号の一種として考える。
【0029】
図2は、色変換部21による色変換処理を説明するための図である。図2の(A)に示した順序で、Gr画素、R画素、B画素、及びGb画素が配列されている。色変換部21は、図2の(B)に示した変換式に従って、K信号、V信号、U信号、及びY信号の各画素値を算出する。なお、図2の(B)に示した変換式において、“floor(x)”は、x以下の最大の整数を意味し、“ceiling(x)”は、x以上の最小の整数を意味する。また、“α”は、画素値の階調数の1/2を意味する。例えば、画素値が8bitで表される場合は、256階調であるため、“α”は128となる。
【0030】
図1を参照して、プレフィルタ22には、色変換部21から画素信号S2が入力される。プレフィルタ22は、画素信号S2に対してプレフィルタ処理を選択的に実行し、画素信号S3を出力する。HD Photoでは、プレフィルタ22にプレフィルタ処理を実行させるか否かを、Overlap係数の設定によって任意に選択することができる。
【0031】
周波数変換部23には、プレフィルタ22から画素信号S3が入力される。周波数変換部23は、画素信号S3に対して所定の周波数変換処理(PCT:HD Photo Core Transform)を実行し、周波数変換処理後の周波数データS4を出力する。HD Photoでは、周波数データS4に、ハイパス成分、ローパス成分、及び直流成分が含まれる。
【0032】
図3は、画素平面内の一つのマクロブロックMBを示す図である。マクロブロックMBは、縦16画素×横16画素の、合計256個の画素で構成されている。マクロブロックMB内には、縦4個×横4個の、合計16個の画素ブロックRAが規定されている。各画素ブロックRAは、縦4画素×横4画素の、合計16個の画素で構成されている。周波数変換部23は、各画素ブロックRAを処理単位領域として、周波数変換処理を実行する。
【0033】
また、マクロブロックMBよりも上下左右の各方向に2画素ずつ広い、縦20画素×横20画素の画素ブロックOBが規定されている。画素ブロックOB内には、縦5個×横5個の、合計25個の画素ブロックRBが規定されている。各画素ブロックRBは、縦4画素×横4画素の、合計16個の画素で構成されている。プレフィルタ22は、各画素ブロックRBを処理単位領域として、所定のプレフィルタ処理を実行する。但し、画素平面の周縁においては、縦4画素×横4画素の処理単位領域が確保されず、縦4画素×横2画素、縦2画素×横4画素、又は縦2画素×横2画素の画素ブロックが、プレフィルタ22の処理単位領域となる。
【0034】
図3に示すように、プレフィルタ22の処理単位領域である画素ブロックRB1(斜線ハッチングを付している)は、周波数変換部23の処理単位領域である4個の画素ブロックRA1〜RA4(砂地ハッチングを付している)にオーバーラップしている。このように、プレフィルタ22は、周波数変換部23の複数の処理単位領域にオーバーラップする領域を処理単位領域として、プレフィルタ処理を実行する。その結果、ブロック歪みが低減される。
【0035】
図1を参照して、量子化部24には、周波数変換部23から周波数データS4が入力される。量子化部24は、周波数データS4を量子化し、量子化後の周波数データS5を出力する。
【0036】
図4は、量子化部24の構成を示すブロック図である。量子化部24は、処理部24Y,24U,24V,24Kを有している。処理部24Yには、周波数変換部23から、Y信号に関する周波数データS4Yが入力される。同様に、処理部24U,24V,24Kには、周波数変換部23から、U信号に関する周波数データS4U、V信号に関する周波数データS4V、K信号に関する周波数データS4Kがそれぞれ入力される。周波数データS4Y,S4U,S4V,S4Kは、図1に示した周波数データS4に相当する。
【0037】
処理部24Yは、周波数データS4Yを量子化係数QYで除算することにより、量子化後の周波数データS5Yを出力する。同様に、処理部24U,24V,24Kは、周波数データS4U,S4V,S4Kを、量子化係数QU,QV,QKでそれぞれ除算することにより、量子化後の周波数データS5U,S5V,S5Kをそれぞれ出力する。
【0038】
図5は、周波数データS4Y,S4U,S4V,S4Kを示す図である。図5では、一例として、8ビットのビット幅を有する周波数データS4Y,S4U,S4V,S4Kを示している。図5の(A)に示すように、周波数データS4Yは例えば「00001010」なるデータであり、図5の(B)に示すように、周波数データS4Uは例えば「01010110」なるデータであり、図5の(C)に示すように、周波数データS4Vは例えば「00111010」なるデータであり、図5の(D)に示すように、周波数データS4Kは例えば「00010110」なるデータである。
【0039】
図6は、周波数データS5Y,S5U,S5V,S5Kを示す図である。ここでは、撮像素子の特性に起因して、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0040】
この場合、図6に示すように、量子化係数QU,QVの値は「1」より大きな値(図6に示した例では「8」)に設定され、量子化係数QY,QKの値は「1」に設定される。
【0041】
量子化係数QY,QKの値が「1」に設定されることにより、図6の(A)及び(D)に示すように、周波数データS5Y,S5Kは、図5の(A)及び(D)に示した周波数データS4Y,S4Kにそれぞれ等しくなる。
【0042】
処理部24Uは、周波数データS4Uを、量子化係数QUの値「8」で除算する。具体的には、図6の(B)に示すように、処理部24Uは、図5の(B)に示した周波数データS4Uを3ビット右方向にシフトした後、上位3ビットにいずれも「0」を挿入するとともに、小数部P1を削除することにより、「00001010」なる周波数データS5Uを出力する。なお、上位3ビットにはいずれも「0」が挿入されるため、周波数データS5Uの有効ビット幅は5ビットとなる。
【0043】
同様に、処理部24Vは、周波数データS4Vを、量子化係数QVの値「8」で除算する。具体的には、図6の(C)に示すように、処理部24Vは、図5の(C)に示した周波数データS4Vを3ビット右方向にシフトした後、上位3ビットにいずれも「0」を挿入するとともに、小数部P1を削除することにより、「00000111」なる周波数データS5Vを出力する。なお、上位3ビットにはいずれも「0」が挿入されるため、周波数データS5Vの有効ビット幅は5ビットとなる。
【0044】
図1を参照して、予測部25には、量子化部24から周波数データS5が入力される。周波数データS5は、図4に示した周波数データS5Y,S5U,S5V,S5Kに相当する。予測部25は、量子化部24から入力された周波数データS5の値と、過去に処理した特定の周波数データの値(予測値)との差分値を求め、周波数差分データS6として出力する。
【0045】
符号化部26には、予測部25から周波数差分データS6が入力される。符号化部26は、周波数差分データS6に対してエントロピー符号化を実行し、符号化データS7を出力する。符号化部26から出力された符号化データS7は、メモリ4に記憶される。なお、厳密には、HD Photoにおいては、周波数差分データS6のうち、上位ビットに相当するNormal Bitに対してのみエントロピー符号化が実行され、下位ビットに相当するFlex Bitに関しては、エントロピー符号化が実行されることなく、メモリ4に記憶される。
【0046】
次に、デコーダ3の動作について説明する。
【0047】
復号化部36には、メモリ4から符号化データS7が入力される。復号化部36は、符号化データS7に対してエントロピー復号化を実行し、上記の周波数差分データS6に相当する周波数差分データS8を出力する。
【0048】
逆予測部35には、復号化部36から周波数差分データS8が入力される。逆予測部35は、周波数差分データS8に予測値を加算することにより、上記の周波数データS5に相当する周波数データS9を出力する。
【0049】
逆量子化部34には、逆予測部35から周波数データS9が入力される。逆量子化部34は、周波数データS9を逆量子化し、上記の周波数データS4に相当する周波数データS10を出力する。
【0050】
図7は、逆量子化部34の構成を示すブロック図である。逆量子化部34は、処理部34Y,34U,34V,34Kを有している。処理部34Yには、逆予測部35から、Y信号に関する周波数データS9Yが入力される。同様に、処理部34U,34V,34Kには、逆予測部35から、U信号に関する周波数データS9U、V信号に関する周波数データS9V、K信号に関する周波数データS9Kがそれぞれ入力される。周波数データS9Y,S9U,S9V,S9Kは、図1に示した周波数データS9に相当する。
【0051】
処理部34Yは、周波数データS9Yに量子化係数QYを乗算することにより、逆量子化後の周波数データS10Yを出力する。同様に、処理部34U,34V,34Kは、周波数データS9U,S9V,S9Kに量子化係数QU,QV,QKをそれぞれ乗算することにより、逆量子化後の周波数データS10U,S10V,S10Kをそれぞれ出力する。
【0052】
図8は、周波数データS9Y,S9U,S9V,S9Kを示す図である。図8の(A)に示す周波数データS9Yは、図6の(A)に示した周波数データS5Yに等しい。同様に、図8の(B),(C),(D)に示す周波数データS9U,S9V,S9Kは、図6の(B),(C),(D)に示した周波数データS5U,S5V,S5Kにそれぞれ等しい。
【0053】
図9は、周波数データS10Y,S10U,S10V,S10Kを示す図である。逆量子化部34で使用する逆量子化係数は、量子化部24で使用した量子化係数QY,QU,QV,QKと同じ値に設定される。この例の場合、逆量子化係数QU,QVの値は「8」に設定され、逆量子化係数QY,QKの値は「1」に設定される。
【0054】
逆量子化係数QY,QKの値が「1」に設定されることにより、図9の(A)及び(D)に示すように、周波数データS10Y,S10Kは、図8の(A)及び(D)に示した周波数データS9Y,S9Kにそれぞれ等しくなる。また、周波数データS10Y,S10Kは、図5の(A)及び(D)に示した周波数データS4Y,S4Kにそれぞれ等しい。
【0055】
図7に示した処理部34Uは、周波数データS9Uに、逆量子化係数QUの値「8」を乗算する。具体的には、図9の(B)に示すように、処理部34Uは、図8の(B)に示した周波数データS9Uを3ビット左方向にシフトした後、下位3ビットの各ビットP2にいずれも「0」を挿入するとともに、桁溢れした上位3ビットを削除することにより、「01010000」なる周波数データS10Uを出力する。
【0056】
同様に、処理部34Vは、周波数データS9Vに、逆量子化係数QVの値「8」を乗算する。具体的には、図9の(C)に示すように、処理部34Vは、図8の(C)に示した周波数データS9Vを3ビット左方向にシフトした後、下位3ビットの各ビットP2にいずれも「0」を挿入するとともに、桁溢れした上位3ビットを削除することにより、「00111000」なる周波数データS10Vを出力する。
【0057】
図9の(B)と図5の(B)とを比較すると明らかなように、周波数データS10Uは、周波数データS4Uの下位3ビットのデータ「110」を、データ「000」に置き換えたものに相当する。同様に、図9の(C)と図5の(C)とを比較すると明らかなように、周波数データS10Vは、周波数データS4Vの下位3ビットのデータ「010」を、データ「000」に置き換えたものに相当する。
【0058】
図1を参照して、周波数逆変換部33には、逆量子化部34から周波数データS10が入力される。周波数データS10は、図7に示した周波数データS10Y,S10U,S10V,S10Kに相当する。周波数逆変換部33は、周波数データS10に対して、上記の周波数変換処理に対応する周波数逆変換処理を実行し、上記の画素信号S3に相当する画素信号S11を出力する。
【0059】
ポストフィルタ32には、周波数逆変換部33から、画素信号S11が入力される。ポストフィルタ32は、画素信号S11に対して、上記のプレフィルタ処理に対応するポストフィルタ処理を選択的に実行し、上記の画素信号S2に相当する画素信号S12を出力する。
【0060】
図3を参照して、周波数逆変換部33は、各画素ブロックRAを処理単位領域として、周波数逆変換処理を実行する。また、ポストフィルタ32は、各画素ブロックRBを処理単位領域として、ポストフィルタ処理を実行する。但し、画素平面の周縁においては、縦4画素×横4画素の処理単位領域が確保されず、縦4画素×横2画素、縦2画素×横4画素、又は縦2画素×横2画素の画素ブロックが、ポストフィルタ32の処理単位領域となる。図3に示すように、ポストフィルタ32の処理単位領域である画素ブロックRB1は、周波数逆変換部33の処理単位領域である4個の画素ブロックRA1〜RA4にオーバーラップしている。
【0061】
図1を参照して、色逆変換部31には、ポストフィルタ32から画素信号S12が入力される。色逆変換部31は、YUVK色空間の画素信号S12を、RGB色空間の画素信号S13に変換し、外部の表示装置等に向けて出力する。
【0062】
このように本実施の形態に係る画像処理装置1によれば、量子化部24は、周波数変換部23から入力された周波数データS4Y,S4U,S4V,S4Kのうち、ノイズが発生しているU信号及びV信号に対応する周波数データS4U,S4Vに対しては、値が「1」より大きな量子化係数QU,QV(上記の例では「8」)を用いて量子化処理を実行する。従って、周波数データS4U,S4Vに関しては、量子化処理によって下位ビットのデータ(上記の例では下位3ビットのデータ)が削除され、それにより、周波数データS4U,S4Vの細かい変化を消失させることができる。その結果、周波数データS4U,S4Vの細かい変化に相当するノイズ(上記の例では下位3ビットのデータに相当するノイズ)を抑制することが可能となる。
【0063】
また、本実施の形態に係る画像処理装置1によれば、量子化部24は、周波数データS4U,S4V以外の周波数データS4Y,S4Kに対しては、値が「1」の量子化係数QY,QKを用いて量子化処理を実行する。従って、ノイズが発生していないY信号及びK信号に対応する周波数データS4Y,S4Kに関しては、量子化処理によって下位ビットのデータが削除されることはない。その結果、ノイズが発生していないY信号及びK信号に影響を与えることなく、ノイズが発生しているU信号及びV信号に関してそのノイズを効果的に抑制することが可能となる。
【0064】
しかも、本実施の形態に係る画像処理装置1によれば、HD Photoに本来的に備わっている量子化部24において、量子化係数の設定を工夫することによって、U信号及びV信号のノイズを抑制するための処理が実現されている。従って、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0065】
さらに、本実施の形態に係る画像処理装置1によれば、周波数データS4U,S4Vに関しては、値が「1」より大きな量子化係数QU,QVを用いて量子化処理が実行される。そのため、量子化部24から出力される量子化後の周波数データS5U,S5Vの有効ビット幅が削減される。上記の例では、周波数データS4U,S4Vのビット幅はそれぞれ8ビットであるのに対し、周波数データS5U,S5Vの有効ビット幅はそれぞれ5ビットであり、ビット幅がそれぞれ3ビット削減されている。その結果、U信号及びV信号に関しては、符号化部26から出力される符号化データS7の符号量を削減することが可能となる。つまり、画像データのデータ量をより圧縮することが可能となる。
【0066】
<第1の変形例>
上記実施の形態では、量子化係数QU,QVの値はそれぞれ「8」に設定されている。これにより、周波数データS4U,S4Vの下位3ビットのデータに相当するノイズが抑制されている。
【0067】
第1の変形例として、量子化部24は、量子化係数QU,QVの値を「8」に限定せず、U信号及びV信号の各ノイズの程度に応じて、量子化係数QU,QVの値をそれぞれ可変に設定してもよい。
【0068】
例えば、U信号のノイズの程度が小さい場合には、量子化係数QUの値を「4」に設定する。これにより、周波数データS4Uの下位2ビットのデータに相当するノイズを抑制することが可能となる。
【0069】
また、例えば、V信号のノイズの程度が大きい場合には、量子化係数QVの値を「16」に設定する。これにより、周波数データS4Vの下位4ビットのデータに相当するノイズを抑制することが可能となる。
【0070】
<第2の変形例>
上記実施の形態では、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定して、U信号及びV信号のノイズを抑制するための処理が行われている。
【0071】
第2の変形例として、撮像素子の特性に起因してY信号のみにノイズが発生している場合には、Y信号に対応する量子化係数QYの値を「1」より大きな値に設定し、U信号、V信号、及びK信号に対応する量子化係数QU,QV,QKの値をいずれも「1」に設定することにより、U信号、V信号、及びK信号に影響を与えることなく、Y信号のノイズを効果的に抑制することが可能である。
【0072】
図10は、第2の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QYの値は「1」より大きな値(図10に示した例では「8」)に設定されており、量子化係数QU,QV,QKの値はいずれも「1」に設定されている。
【0073】
同様に、撮像素子の特性に起因してK信号のみにノイズが発生している場合には、K信号に対応する量子化係数QKの値を「1」より大きな値に設定し、Y信号、U信号、及びV信号に対応する量子化係数QY,QU,QVの値をいずれも「1」に設定することにより、Y信号、U信号、及びV信号に影響を与えることなく、K信号のノイズを効果的に抑制することが可能である。
【0074】
図11は、第2の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QKの値は「1」より大きな値(図11に示した例では「8」)に設定されており、量子化係数QY,QU,QVの値はいずれも「1」に設定されている。
【0075】
<第3の変形例>
上記実施の形態では、量子化係数QU,QVの値は互いに同一の値(上記の例では「8」)に設定されている。
【0076】
第3の変形例として、量子化部24は、量子化係数QU,QVの値を互いに同一の値に設定せず、U信号及びV信号の各ノイズの程度に応じて、量子化係数QU,QVの値を互いに異なる値に設定してもよい。
【0077】
図12は、第3の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QUの値は「8」に設定されており、量子化係数QVの値は「4」に設定されている。この例の場合、U信号に関しては、周波数データS4Uの下位3ビットのデータに相当するノイズを抑制することが可能となり、V信号に関しては、周波数データS4Vの下位2ビットのデータに相当するノイズを抑制することが可能となる。
【0078】
<第4の変形例>
図13は、HD Photoのエンコーダにおけるプレフィルタ221,222及び周波数変換部231,232の構成を示すブロック図である。図13に示すように、HD Photoにおけるエンコーダは、第1階層のプレフィルタ221及び周波数変換部231と、第2階層のプレフィルタ222及び周波数変換部232とを備えている。
【0079】
プレフィルタ221には、画素信号S21が入力される。プレフィルタ221は、画素信号S21に対してプレフィルタ処理を実行し、プレフィルタ処理後の画素信号S31を出力する。画素信号S31は、周波数変換部231に入力される。周波数変換部231は、画素信号S31に対して周波数変換処理(PCT)を実行し、ハイパス成分の周波数データS4HPと、第1階層における直流成分のデータS22とを出力する。データS22は、プレフィルタ222に入力される。プレフィルタ222は、データS22に対してプレフィルタ処理を実行し、プレフィルタ処理後のデータS32を出力する。データS32は、周波数変換部232に入力される。周波数変換部232は、データS32に対して周波数変換処理(PCT)を実行し、ローパス成分の周波数データS4LPと、直流成分の周波数データS4DCとを出力する。
【0080】
このようにHD Photoにおいては、周波数変換部231からハイパス成分の周波数データS4HPが出力され、周波数変換部232からローパス成分の周波数データS4LPと直流成分の周波数データS4DCとが出力される。従って、図1を参照して、周波数変換部23から出力される周波数データS4には、3つの周波数成分にそれぞれ対応する、ハイパス成分の周波数データS4HPと、ローパス成分の周波数データS4LPと、直流成分の周波数データS4DCとが含まれる。また、図4を参照して、周波数データS4Y,S4U,S4V,S4Kの各々には、ハイパス成分、ローパス成分、及び直流成分がそれぞれ含まれる。
【0081】
第4の変形例として、量子化部24は、Y信号、U信号、V信号、及びK信号の各周波数成分の各ノイズの程度に応じて、合計12個の量子化係数の値をそれぞれ可変に設定してもよい。
【0082】
図14は、量子化部24において量子化係数を設定するためのデータテーブルを示す図である。データテーブルには、Y信号、U信号、V信号、及びK信号の別毎に、かつ、ハイパス成分(S4HP)、ローパス成分(S4LP)、及び直流成分(S4DC)の別毎に、合計12個の量子化係数が記述されている。量子化部24は、このデータテーブルを参照することにより、周波数データS4の量子化処理に使用する量子化係数を決定する。
【0083】
図14に示した例では、Y信号及びK信号に関しては3つの周波数成分の全てにおいてノイズが発生しておらず、U信号及びV信号に関しては、直流成分においてはノイズが発生しておらず、ローパス成分においては比較的小さなノイズが発生しており、ハイパス成分においては比較的大きいノイズが発生している状況を想定している。
【0084】
この場合、量子化係数の値は、図14の例に示すように、U信号及びV信号の各ローパス成分に関しては「4」に設定され、U信号及びV信号の各ハイパス成分に関しては「8」に設定される。また、その他の量子化係数の値はいずれも「1」に設定される。
【0085】
<第5の変形例>
上記実施の形態によっては十分なノイズ抑制効果が得られない場合や、量子化係数を大きな値に設定すると画質の低下が顕著となるような画像を扱う場合には、上記実施の形態に加えて、以下のようなノイズ抑制処理を実行してもよい。
【0086】
図15は、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2U,S2Vに対してはプレフィルタ処理を実行し、一方、画素信号S2Y,S2Kに対してはプレフィルタ処理を実行しない。画素信号S2U,S2Vに対してプレフィルタ処理が実行されることにより、画素信号S2Ua,S2Vaがそれぞれ得られる。なお、プレフィルタは平滑化フィルタの一種であるため、ある信号に対してプレフィルタ処理を実行することにより、その信号のノイズを抑制することが可能である。
【0087】
周波数変換部23には、画素信号S3として、画素信号S2Y,S2Ua,S2Va,S2Kが入力される。なお、第5の変形例では、上記実施の形態と同様に、撮像素子の特性に起因して、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0088】
図16は、ポストフィルタ32における処理を説明するための図である。周波数逆変換部33から出力された画素信号S11には、Y信号に対応する画素信号S11Yと、U信号に対応する画素信号S11Uaと、V信号に対応する画素信号S11Vaと、K信号に対応する画素信号S11Kとが含まれる。図15に示したように、U信号(画素信号S2Ua)及びV信号(画素信号S2Va)に関しては、プレフィルタ22によってプレフィルタ処理が実行されている。従って、画素信号S2Ua,S2Vaに相当する画素信号S11Ua,S11Vaに関しても、プレフィルタ処理による平滑化効果が反映されている。
【0089】
図16に示すように、ポストフィルタ32は、画素信号S11Y,S11Ua,S11Va,S11Kのいずれに対しても、ポストフィルタ処理を実行しない。その結果、ポストフィルタ32からは、画素信号S12として、画素信号S11Y,S11Ua,S11Va,S11がそのまま出力される。
【0090】
第5の変形例によれば、色変換部21は、RGB色空間の画素信号S1を、輝度信号と色差信号とを含むYUVK色空間の画素信号S2に変換する。そして、図15に示したように、プレフィルタ22は、輝度信号及び複数の色差信号のうちの特定の信号(上記の例ではU信号及びV信号)に対してのみ、プレフィルタ処理を実行する。プレフィルタは平滑化フィルタの一種であるため、U信号及びV信号に対してプレフィルタ処理を実行することにより、U信号及びV信号のノイズを抑制することができる。しかも、Y信号及びK信号に対してはプレフィルタ処理が実行されないため、U信号及びV信号のノイズを抑制するための処理が、Y信号及びK信号に対して影響を与えることはない。つまり、ノイズが発生していないY信号及びK信号に対して影響を与えることなく、U信号及びV信号のノイズのみを効果的に抑制することができる。また、図16に示したように、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号の全てに対して、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたU信号及びV信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるU信号及びV信号のノイズの抑制効果が維持される。
【0091】
しかも、第5の変形例によれば、HD Photoに本来的に備わっている色変換部21、プレフィルタ22、及びポストフィルタ32を用いて、U信号及びV信号のノイズを抑制するための処理が実現されている。従って、U信号及びV信号のノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0092】
<第5の変形例における第1の変形例>
上記第5の変形例では、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定して、U信号及びV信号のノイズを抑制するための処理について説明した。
【0093】
撮像素子の特性に起因してY信号のみにノイズが発生している場合には、Y信号に対してプレフィルタ処理を実行し、U信号、V信号、及びK信号に対してプレフィルタ処理を実行しないことにより、Y信号のノイズを抑制することが可能である。
【0094】
図17は、第5の変形例における第1の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2Yに対してはプレフィルタ処理を実行し、一方、画素信号S2U,S2V,S2Kに対してはプレフィルタ処理を実行しない。画素信号S2Yに対してプレフィルタ処理が実行されることにより、画素信号S2Yaが得られる。周波数変換部23には、画素信号S3として、画素信号S2Ya,S2U,S2V,S2Kが入力される。
【0095】
図16に示した例と同様に、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号のいずれに対しても、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたY信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるY信号のノイズの抑制効果が維持される。
【0096】
<第5の変形例に関する第2の変形例>
撮像素子の特性に起因してK信号のみにノイズが発生している場合には、K信号に対してプレフィルタ処理を実行し、Y信号、U信号、及びV信号に対してプレフィルタ処理を実行しないことにより、K信号のノイズを抑制することが可能である。
【0097】
図18は、第5の変形例における第2の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2Kに対してはプレフィルタ処理を実行し、一方、画素信号S2Y,S2U,S2Vに対してはプレフィルタ処理を実行しない。画素信号S2Kに対してプレフィルタ処理が実行されることにより、画素信号S2Kaが得られる。周波数変換部23には、画素信号S3として、画素信号S2Y,S2U,S2V,S2Kaが入力される。
【0098】
図16に示した例と同様に、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号のいずれに対しても、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたK信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるK信号のノイズの抑制効果が維持される。
【0099】
<第5の変形例における第3の変形例>
図13を参照して、HD Photoにおいては、第1階層のプレフィルタ221によるプレフィルタ処理を実行するか否かを選択することができる。また、プレフィルタ221によるプレフィルタ処理を実行する場合には、第2階層のプレフィルタ222によるプレフィルタ処理を実行するか否かを選択することができる。つまり、最大で2回のプレフィルタ処理を実行することができる。
【0100】
図19は、第5の変形例における第3の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S21Uと、V信号に対応する画素信号S21Vと、K信号に対応する画素信号S2Kとが含まれる。第1階層のプレフィルタ221は、画素信号S21U,S21Vに対してプレフィルタ処理を実行する。画素信号S21U,S21Vに対してプレフィルタ処理が実行されることにより、画素信号S2Ua1,S2Va1がそれぞれ得られる。周波数変換部23は、画素信号S2Ua1,S2Va1に対して周波数変換処理(PCT)をそれぞれ実行し、ハイパス成分の周波数データ(図示しない)と、第1階層における直流成分のデータS22U,S22Vとをそれぞれ出力する。データS22U,S22Vは、第2階層のプレフィルタ222に入力される。プレフィルタ222は、データS22U,S22Vに対してプレフィルタ処理をそれぞれ実行し、プレフィルタ処理後のデータS2Ua2,S2Va2をそれぞれ出力する。データS2Ua2,S2Va2は、周波数変換部23に入力される。周波数変換部23は、データS2Ua2,S2Va2に対して周波数変換処理(PCT)をそれぞれ実行し、ローパス成分の周波数データ(図示しない)と、直流成分の周波数データ(図示しない)とをそれぞれ出力する。なお、第5の変形例における第3の変形例では、撮像素子の特性に起因して、U信号及びV信号に関しては大きなノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0101】
第5の変形例における第3の変形例においては、HD Photoの仕様に従い、第1階層のプレフィルタ221によるプレフィルタ処理を実行するか否かを選択することができる。また、プレフィルタ221によるプレフィルタ処理を実行する場合には、第2階層のプレフィルタ222によるプレフィルタ処理を実行するか否かを選択することができる。つまり、最大で2回のプレフィルタ処理を実行することができる。但し、プレフィルタ222の後段にさらにプレフィルタを追加することによって、3回以上のプレフィルタ処理を実行することも可能である。
【0102】
第5の変形例における第3の変形例によれば、実行するプレフィルタ処理の回数を、U信号及びV信号のノイズの程度に応じて一回又は複数回に設定することにより、U信号及びV信号のノイズを十分に抑制することが可能となる。
【0103】
以上では、U信号及びV信号に対して2回のプレフィルタ処理を実行することにより、U信号及びV信号のノイズを十分に抑制する例について説明したが、Y信号又はK信号に対して2回のプレフィルタ処理を実行することにより、Y信号又はK信号のノイズを十分に抑制することも可能である。
【0104】
<第5の変形例における第4の変形例>
上記第5の変形例、及び上記第5の変形例における第1〜第3の変形例は、撮像素子の特性に応じて、適宜に組み合わせて適用することが可能である。
【0105】
図20は、第5の変形例における第4の変形例に関して、プレフィルタ22における処理を説明するための図である。図20に示した例は、撮像素子の特性に起因して、Y信号及びV信号に関しては比較的大きなノイズが発生しており、K信号に関しては比較的小さなノイズが発生しており、U信号に関してはノイズが発生していない場合を想定している。このような場合には、図20に示すように、Y信号及びV信号に対しては2回のプレフィルタ処理を実行し、K信号に対しては1回のプレフィルタ処理を実行し、U信号に関してはプレフィルタ処理を実行しない。これにより、ノイズが発生していないU信号に影響を与えることなく、Y信号、V信号、及びK信号のノイズを十分に抑制することが可能となる。
【0106】
なお、上記の実施の形態、第1〜第5の変形例、第5の変形例における第1〜第4の変形例は、適宜に組み合わせて適用することが可能である。
【図面の簡単な説明】
【0107】
【図1】本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。
【図2】色変換部による色変換処理を説明するための図である。
【図3】画素平面内の一つのマクロブロックを示す図である。
【図4】量子化部の構成を示すブロック図である。
【図5】量子化前の周波数データを示す図である。
【図6】量子化後の周波数データを示す図である。
【図7】逆量子化部の構成を示すブロック図である。
【図8】逆量子化前の周波数データを示す図である。
【図9】逆量子化後の周波数データを示す図である。
【図10】量子化後の周波数データを示す図である。
【図11】量子化後の周波数データを示す図である。
【図12】量子化後の周波数データを示す図である。
【図13】HD Photoのエンコーダにおけるプレフィルタ及び周波数変換部の構成を示すブロック図である。
【図14】量子化部において量子化係数を設定するためのデータテーブルを示す図である。
【図15】プレフィルタにおける処理を説明するための図である。
【図16】ポストフィルタにおける処理を説明するための図である。
【図17】プレフィルタにおける処理を説明するための図である。
【図18】プレフィルタにおける処理を説明するための図である。
【図19】プレフィルタにおける処理を説明するための図である。
【図20】プレフィルタにおける処理を説明するための図である。
【符号の説明】
【0108】
1 画像処理装置
2 エンコーダ
3 デコーダ
21 色変換部
22,221,222 プレフィルタ
23,231,232 周波数変換部
24 量子化部
31 色逆変換部
32 ポストフィルタ
33 周波数逆変換部
34 逆量子化部
【技術分野】
【0001】
本発明は、画像処理装置に関し、特に、HD Photoにおけるエンコーダ及びデコーダに関する。
【背景技術】
【0002】
色ノイズの抑制を目的とした撮像装置が、下記特許文献1に開示されている。当該撮像装置の受光部には、Bayer配列の3色のカラーフィルタが設けられている。また、当該撮像装置は、CPUの機能として実現される検出処理部と補正処理部とを有している。検出処理部は、バッファメモリに格納されているRAW画像データを対象として、Gb画素の画素値と、そのGb画素の対角に位置する4個のGr画素の画素値の平均値とを比較する。Gr画素の画素値の平均値がGb画素の画素値よりも大きい場合には、補正処理部は、Gb画素の画素値をGr画素の画素値の平均値に置き換える。これによって、色ノイズが補正される。
【0003】
また、近年、JPEGよりも高画質で、JPEG2000よりも回路構成及び演算処理が簡素化された静止画ファイルフォーマットとして、マイクロソフト社よりHD Photoが提案されている。
【0004】
HD Photoにおけるエンコーダは、所定の周波数変換処理(PCT)を実行する周波数変換部と、ブロック歪みを軽減するための所定のプレフィルタ処理を実行するプレフィルタとを備えて構成されている。周波数変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数変換処理を実行する。プレフィルタは、周波数変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前にプレフィルタ処理を実行する。但し、プレフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0005】
また、HD Photoにおけるデコーダは、上記の周波数変換処理に対応する周波数逆変換処理を実行する周波数逆変換部と、上記のプレフィルタ処理に対応するポストフィルタ処理を実行するポストフィルタとを備えて構成されている。周波数逆変換部は、縦4画素×横4画素の画素ブロックを処理単位領域として、周波数逆変換処理を実行する。ポストフィルタは、周波数逆変換部による複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後にポストフィルタ処理を実行する。但し、上記と同様に、ポストフィルタ処理を実行するか否かは、Overlap係数の設定によって、任意に選択することができる。
【0006】
なお、HD Photoの詳細については、例えば下記非特許文献1に開示されている。また、HD Photoに関連するJPEG XRの詳細については、例えば下記非特許文献2に開示されている。
【0007】
【特許文献1】特開2005−333251号公報
【非特許文献1】"HD Photo -Photographic Still Image File Format", [online], 2006年11月7日, Microsoft Corporation, [2007年10月10日検索], インターネット<URL: http://www.microsoft.com/whdc/xps/hdphotodpk.mspx>
【非特許文献2】"Coding of Still Pictures -JBIG JPEG", [online], 19 December 2007, ISO/IEC JTC 1/SC 29/WG1 N 4392, [2008年3月4日検索], インターネット<URL: http://www.itscj.ipsj.or.jp/sc29/open/29view/29n9026t.doc>
【発明の開示】
【発明が解決しようとする課題】
【0008】
上記特許文献1に開示された撮像装置によると、検出処理部及び補正処理部は、Gr画素の画素値とGb画素の画素値とに基づいて、色ノイズの検出処理及び補正処理を実行する。しかし、Gr画素の画素値及びGb画素の画素値は、輝度信号と色差信号とが混在した情報である。そのため、輝度に影響を与えることなく色ノイズのみを正確に除去することが困難である。しかも、上記特許文献1に開示された撮像装置によると、色ノイズを抑制する目的のためだけに、専用の検出処理部及び補正処理部を追加して実装する必要があり、コストの上昇を招く。
【0009】
本発明はかかる問題を解決するために成されたものであり、ノイズを効果的に抑制でき、しかも、ノイズ抑制のための専用の装置を追加することも不要な、画像処理装置を得ることを目的とする。
【課題を解決するための手段】
【0010】
本発明の第1の態様に係る画像処理装置は、輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部と、前記周波数変換部から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部とを備え、前記量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、前記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行することを特徴とする。
【0011】
本発明の第1の態様に係る画像処理装置によれば、量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行する。従って、上記特定の周波数データに関しては、量子化処理によって下位ビットのデータが削除され、それにより、周波数データの細かい変化を消失させることができる。その結果、周波数データの細かい変化に相当するノイズを抑制することが可能となる。
【0012】
また、特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理が実行される。従って、ノイズが発生していない信号に対応する周波数データに関しては、量子化処理によって下位ビットのデータが削除されることはない。その結果、ノイズが発生していない信号に影響を与えることなく、ノイズが発生している信号に関してそのノイズを効果的に抑制することが可能となる。
【0013】
しかも、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0014】
さらに、上記特定の周波数データに関しては、値が「1」より大きな量子化係数を用いて量子化処理が実行されるため、量子化部から出力される量子化データの有効ビット幅が削減される。その結果、後段の符号化部から出力される符号化データの符号量を削減することが可能となる。つまり、画像データのデータ量をより圧縮することが可能となる。
【0015】
本発明の第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置において特に、前記量子化部は、前記特定の周波数データに関して、ノイズの程度に応じて量子化係数の値を可変に設定可能であることを特徴とする。
【0016】
本発明の第2の態様に係る画像処理装置によれば、ノイズが大きい信号に対応する周波数データに関しては、量子化係数の値を大きく設定することにより、ノイズを十分に抑制することが可能となる。
【0017】
本発明の第3の態様に係る画像処理装置は、第2の態様に係る画像処理装置において特に、前記特定の周波数データには、ハイパス成分、ローパス成分、及び直流成分が含まれ、前記量子化部は、各成分ごとに、ノイズの程度に応じて量子化係数の値を可変に設定可能であることを特徴とする。
【0018】
本発明の第3の態様に係る画像処理装置によれば、ノイズが大きい成分に関しては、量子化係数の値を大きく設定することにより、ノイズを十分に抑制することが可能となる。
【0019】
本発明の第4の態様に係る画像処理装置は、第1〜第3のいずれか一つの態様に係る画像処理装置において特に、画像処理装置は、前記周波数変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前に、プレフィルタ処理を選択的に実行するプレフィルタと、前記プレフィルタよりも前段に配置され、外部から入力された第1の色空間の画素信号を、輝度信号及び複数の色差信号を含む第2の色空間の画素信号に変換する色変換部と、周波数逆変換処理を実行する周波数逆変換部と、前記周波数逆変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後に、ポストフィルタ処理を選択的に実行するポストフィルタと、前記ポストフィルタよりも後段に配置され、第2の色空間の画素信号を第1の色空間の画素信号に逆変換する色逆変換部とをさらに備え、前記プレフィルタは、前記色変換部から入力された輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行し、前記ポストフィルタは、前記特定の信号に対して、ポストフィルタ処理を実行しないことを特徴とする。
【0020】
本発明の第4の態様に係る画像処理装置によれば、プレフィルタは、輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行する。また、ポストフィルタは、上記特定の信号に対して、ポストフィルタ処理を実行しない。プレフィルタ処理を実行し、かつポストフィルタ処理を実行しないことにより、ノイズを抑制することができる。しかも、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0021】
本発明の第5の態様に係る画像処理装置は、第4の態様に係る画像処理装置において特に、前記特定の信号に対して実行するプレフィルタ処理の回数を、一回又は複数回に設定可能であることを特徴とする。
【0022】
本発明の第5の態様に係る画像処理装置によれば、実行するプレフィルタ処理の回数を、ノイズの程度に応じて一回又は複数回に設定することにより、ノイズを十分に抑制することが可能となる。
【発明の効果】
【0023】
本発明によれば、ノイズを効果的に抑制でき、しかも、ノイズ抑制のための専用の装置を追加することも不要である。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、異なる図面において同一の符号を付した要素は、同一又は相応する要素を示すものとする。
【0025】
本実施の形態では、本発明に係る画像処理装置をHD Photoにおけるエンコーダ及びデコーダに適用する例について説明する。
【0026】
図1は、本発明の実施の形態に係る画像処理装置1の構成を示すブロック図である。画像処理装置1は、エンコーダ2とデコーダ3とを備えて構成されている。エンコーダ2は、色変換部21、プレフィルタ22、周波数変換部23、量子化部24、予測部25、及び符号化部26を有している。デコーダ3は、色逆変換部31、ポストフィルタ32、周波数逆変換部33、逆量子化部34、逆予測部35、及び復号化部36を有している。
【0027】
まず、エンコーダ2の動作について説明する。
【0028】
色変換部21には、Bayer配列の3色のカラーフィルタが配置された、CCD又はCMOSイメージセンサ等の撮像素子から、RGB色空間の画素信号S1が入力される。色変換部21は、RGB色空間の画素信号S1を、YUVK色空間の画素信号S2に変換して出力する。つまり、画素信号S2には、輝度信号(Y信号)と、複数の色差信号(U信号、V信号、及びK信号)とが含まれる。なお、K信号は、Gr画素の画素値とGb画素の画素値との差分値であり、本明細書では、K信号を色差信号の一種として考える。
【0029】
図2は、色変換部21による色変換処理を説明するための図である。図2の(A)に示した順序で、Gr画素、R画素、B画素、及びGb画素が配列されている。色変換部21は、図2の(B)に示した変換式に従って、K信号、V信号、U信号、及びY信号の各画素値を算出する。なお、図2の(B)に示した変換式において、“floor(x)”は、x以下の最大の整数を意味し、“ceiling(x)”は、x以上の最小の整数を意味する。また、“α”は、画素値の階調数の1/2を意味する。例えば、画素値が8bitで表される場合は、256階調であるため、“α”は128となる。
【0030】
図1を参照して、プレフィルタ22には、色変換部21から画素信号S2が入力される。プレフィルタ22は、画素信号S2に対してプレフィルタ処理を選択的に実行し、画素信号S3を出力する。HD Photoでは、プレフィルタ22にプレフィルタ処理を実行させるか否かを、Overlap係数の設定によって任意に選択することができる。
【0031】
周波数変換部23には、プレフィルタ22から画素信号S3が入力される。周波数変換部23は、画素信号S3に対して所定の周波数変換処理(PCT:HD Photo Core Transform)を実行し、周波数変換処理後の周波数データS4を出力する。HD Photoでは、周波数データS4に、ハイパス成分、ローパス成分、及び直流成分が含まれる。
【0032】
図3は、画素平面内の一つのマクロブロックMBを示す図である。マクロブロックMBは、縦16画素×横16画素の、合計256個の画素で構成されている。マクロブロックMB内には、縦4個×横4個の、合計16個の画素ブロックRAが規定されている。各画素ブロックRAは、縦4画素×横4画素の、合計16個の画素で構成されている。周波数変換部23は、各画素ブロックRAを処理単位領域として、周波数変換処理を実行する。
【0033】
また、マクロブロックMBよりも上下左右の各方向に2画素ずつ広い、縦20画素×横20画素の画素ブロックOBが規定されている。画素ブロックOB内には、縦5個×横5個の、合計25個の画素ブロックRBが規定されている。各画素ブロックRBは、縦4画素×横4画素の、合計16個の画素で構成されている。プレフィルタ22は、各画素ブロックRBを処理単位領域として、所定のプレフィルタ処理を実行する。但し、画素平面の周縁においては、縦4画素×横4画素の処理単位領域が確保されず、縦4画素×横2画素、縦2画素×横4画素、又は縦2画素×横2画素の画素ブロックが、プレフィルタ22の処理単位領域となる。
【0034】
図3に示すように、プレフィルタ22の処理単位領域である画素ブロックRB1(斜線ハッチングを付している)は、周波数変換部23の処理単位領域である4個の画素ブロックRA1〜RA4(砂地ハッチングを付している)にオーバーラップしている。このように、プレフィルタ22は、周波数変換部23の複数の処理単位領域にオーバーラップする領域を処理単位領域として、プレフィルタ処理を実行する。その結果、ブロック歪みが低減される。
【0035】
図1を参照して、量子化部24には、周波数変換部23から周波数データS4が入力される。量子化部24は、周波数データS4を量子化し、量子化後の周波数データS5を出力する。
【0036】
図4は、量子化部24の構成を示すブロック図である。量子化部24は、処理部24Y,24U,24V,24Kを有している。処理部24Yには、周波数変換部23から、Y信号に関する周波数データS4Yが入力される。同様に、処理部24U,24V,24Kには、周波数変換部23から、U信号に関する周波数データS4U、V信号に関する周波数データS4V、K信号に関する周波数データS4Kがそれぞれ入力される。周波数データS4Y,S4U,S4V,S4Kは、図1に示した周波数データS4に相当する。
【0037】
処理部24Yは、周波数データS4Yを量子化係数QYで除算することにより、量子化後の周波数データS5Yを出力する。同様に、処理部24U,24V,24Kは、周波数データS4U,S4V,S4Kを、量子化係数QU,QV,QKでそれぞれ除算することにより、量子化後の周波数データS5U,S5V,S5Kをそれぞれ出力する。
【0038】
図5は、周波数データS4Y,S4U,S4V,S4Kを示す図である。図5では、一例として、8ビットのビット幅を有する周波数データS4Y,S4U,S4V,S4Kを示している。図5の(A)に示すように、周波数データS4Yは例えば「00001010」なるデータであり、図5の(B)に示すように、周波数データS4Uは例えば「01010110」なるデータであり、図5の(C)に示すように、周波数データS4Vは例えば「00111010」なるデータであり、図5の(D)に示すように、周波数データS4Kは例えば「00010110」なるデータである。
【0039】
図6は、周波数データS5Y,S5U,S5V,S5Kを示す図である。ここでは、撮像素子の特性に起因して、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0040】
この場合、図6に示すように、量子化係数QU,QVの値は「1」より大きな値(図6に示した例では「8」)に設定され、量子化係数QY,QKの値は「1」に設定される。
【0041】
量子化係数QY,QKの値が「1」に設定されることにより、図6の(A)及び(D)に示すように、周波数データS5Y,S5Kは、図5の(A)及び(D)に示した周波数データS4Y,S4Kにそれぞれ等しくなる。
【0042】
処理部24Uは、周波数データS4Uを、量子化係数QUの値「8」で除算する。具体的には、図6の(B)に示すように、処理部24Uは、図5の(B)に示した周波数データS4Uを3ビット右方向にシフトした後、上位3ビットにいずれも「0」を挿入するとともに、小数部P1を削除することにより、「00001010」なる周波数データS5Uを出力する。なお、上位3ビットにはいずれも「0」が挿入されるため、周波数データS5Uの有効ビット幅は5ビットとなる。
【0043】
同様に、処理部24Vは、周波数データS4Vを、量子化係数QVの値「8」で除算する。具体的には、図6の(C)に示すように、処理部24Vは、図5の(C)に示した周波数データS4Vを3ビット右方向にシフトした後、上位3ビットにいずれも「0」を挿入するとともに、小数部P1を削除することにより、「00000111」なる周波数データS5Vを出力する。なお、上位3ビットにはいずれも「0」が挿入されるため、周波数データS5Vの有効ビット幅は5ビットとなる。
【0044】
図1を参照して、予測部25には、量子化部24から周波数データS5が入力される。周波数データS5は、図4に示した周波数データS5Y,S5U,S5V,S5Kに相当する。予測部25は、量子化部24から入力された周波数データS5の値と、過去に処理した特定の周波数データの値(予測値)との差分値を求め、周波数差分データS6として出力する。
【0045】
符号化部26には、予測部25から周波数差分データS6が入力される。符号化部26は、周波数差分データS6に対してエントロピー符号化を実行し、符号化データS7を出力する。符号化部26から出力された符号化データS7は、メモリ4に記憶される。なお、厳密には、HD Photoにおいては、周波数差分データS6のうち、上位ビットに相当するNormal Bitに対してのみエントロピー符号化が実行され、下位ビットに相当するFlex Bitに関しては、エントロピー符号化が実行されることなく、メモリ4に記憶される。
【0046】
次に、デコーダ3の動作について説明する。
【0047】
復号化部36には、メモリ4から符号化データS7が入力される。復号化部36は、符号化データS7に対してエントロピー復号化を実行し、上記の周波数差分データS6に相当する周波数差分データS8を出力する。
【0048】
逆予測部35には、復号化部36から周波数差分データS8が入力される。逆予測部35は、周波数差分データS8に予測値を加算することにより、上記の周波数データS5に相当する周波数データS9を出力する。
【0049】
逆量子化部34には、逆予測部35から周波数データS9が入力される。逆量子化部34は、周波数データS9を逆量子化し、上記の周波数データS4に相当する周波数データS10を出力する。
【0050】
図7は、逆量子化部34の構成を示すブロック図である。逆量子化部34は、処理部34Y,34U,34V,34Kを有している。処理部34Yには、逆予測部35から、Y信号に関する周波数データS9Yが入力される。同様に、処理部34U,34V,34Kには、逆予測部35から、U信号に関する周波数データS9U、V信号に関する周波数データS9V、K信号に関する周波数データS9Kがそれぞれ入力される。周波数データS9Y,S9U,S9V,S9Kは、図1に示した周波数データS9に相当する。
【0051】
処理部34Yは、周波数データS9Yに量子化係数QYを乗算することにより、逆量子化後の周波数データS10Yを出力する。同様に、処理部34U,34V,34Kは、周波数データS9U,S9V,S9Kに量子化係数QU,QV,QKをそれぞれ乗算することにより、逆量子化後の周波数データS10U,S10V,S10Kをそれぞれ出力する。
【0052】
図8は、周波数データS9Y,S9U,S9V,S9Kを示す図である。図8の(A)に示す周波数データS9Yは、図6の(A)に示した周波数データS5Yに等しい。同様に、図8の(B),(C),(D)に示す周波数データS9U,S9V,S9Kは、図6の(B),(C),(D)に示した周波数データS5U,S5V,S5Kにそれぞれ等しい。
【0053】
図9は、周波数データS10Y,S10U,S10V,S10Kを示す図である。逆量子化部34で使用する逆量子化係数は、量子化部24で使用した量子化係数QY,QU,QV,QKと同じ値に設定される。この例の場合、逆量子化係数QU,QVの値は「8」に設定され、逆量子化係数QY,QKの値は「1」に設定される。
【0054】
逆量子化係数QY,QKの値が「1」に設定されることにより、図9の(A)及び(D)に示すように、周波数データS10Y,S10Kは、図8の(A)及び(D)に示した周波数データS9Y,S9Kにそれぞれ等しくなる。また、周波数データS10Y,S10Kは、図5の(A)及び(D)に示した周波数データS4Y,S4Kにそれぞれ等しい。
【0055】
図7に示した処理部34Uは、周波数データS9Uに、逆量子化係数QUの値「8」を乗算する。具体的には、図9の(B)に示すように、処理部34Uは、図8の(B)に示した周波数データS9Uを3ビット左方向にシフトした後、下位3ビットの各ビットP2にいずれも「0」を挿入するとともに、桁溢れした上位3ビットを削除することにより、「01010000」なる周波数データS10Uを出力する。
【0056】
同様に、処理部34Vは、周波数データS9Vに、逆量子化係数QVの値「8」を乗算する。具体的には、図9の(C)に示すように、処理部34Vは、図8の(C)に示した周波数データS9Vを3ビット左方向にシフトした後、下位3ビットの各ビットP2にいずれも「0」を挿入するとともに、桁溢れした上位3ビットを削除することにより、「00111000」なる周波数データS10Vを出力する。
【0057】
図9の(B)と図5の(B)とを比較すると明らかなように、周波数データS10Uは、周波数データS4Uの下位3ビットのデータ「110」を、データ「000」に置き換えたものに相当する。同様に、図9の(C)と図5の(C)とを比較すると明らかなように、周波数データS10Vは、周波数データS4Vの下位3ビットのデータ「010」を、データ「000」に置き換えたものに相当する。
【0058】
図1を参照して、周波数逆変換部33には、逆量子化部34から周波数データS10が入力される。周波数データS10は、図7に示した周波数データS10Y,S10U,S10V,S10Kに相当する。周波数逆変換部33は、周波数データS10に対して、上記の周波数変換処理に対応する周波数逆変換処理を実行し、上記の画素信号S3に相当する画素信号S11を出力する。
【0059】
ポストフィルタ32には、周波数逆変換部33から、画素信号S11が入力される。ポストフィルタ32は、画素信号S11に対して、上記のプレフィルタ処理に対応するポストフィルタ処理を選択的に実行し、上記の画素信号S2に相当する画素信号S12を出力する。
【0060】
図3を参照して、周波数逆変換部33は、各画素ブロックRAを処理単位領域として、周波数逆変換処理を実行する。また、ポストフィルタ32は、各画素ブロックRBを処理単位領域として、ポストフィルタ処理を実行する。但し、画素平面の周縁においては、縦4画素×横4画素の処理単位領域が確保されず、縦4画素×横2画素、縦2画素×横4画素、又は縦2画素×横2画素の画素ブロックが、ポストフィルタ32の処理単位領域となる。図3に示すように、ポストフィルタ32の処理単位領域である画素ブロックRB1は、周波数逆変換部33の処理単位領域である4個の画素ブロックRA1〜RA4にオーバーラップしている。
【0061】
図1を参照して、色逆変換部31には、ポストフィルタ32から画素信号S12が入力される。色逆変換部31は、YUVK色空間の画素信号S12を、RGB色空間の画素信号S13に変換し、外部の表示装置等に向けて出力する。
【0062】
このように本実施の形態に係る画像処理装置1によれば、量子化部24は、周波数変換部23から入力された周波数データS4Y,S4U,S4V,S4Kのうち、ノイズが発生しているU信号及びV信号に対応する周波数データS4U,S4Vに対しては、値が「1」より大きな量子化係数QU,QV(上記の例では「8」)を用いて量子化処理を実行する。従って、周波数データS4U,S4Vに関しては、量子化処理によって下位ビットのデータ(上記の例では下位3ビットのデータ)が削除され、それにより、周波数データS4U,S4Vの細かい変化を消失させることができる。その結果、周波数データS4U,S4Vの細かい変化に相当するノイズ(上記の例では下位3ビットのデータに相当するノイズ)を抑制することが可能となる。
【0063】
また、本実施の形態に係る画像処理装置1によれば、量子化部24は、周波数データS4U,S4V以外の周波数データS4Y,S4Kに対しては、値が「1」の量子化係数QY,QKを用いて量子化処理を実行する。従って、ノイズが発生していないY信号及びK信号に対応する周波数データS4Y,S4Kに関しては、量子化処理によって下位ビットのデータが削除されることはない。その結果、ノイズが発生していないY信号及びK信号に影響を与えることなく、ノイズが発生しているU信号及びV信号に関してそのノイズを効果的に抑制することが可能となる。
【0064】
しかも、本実施の形態に係る画像処理装置1によれば、HD Photoに本来的に備わっている量子化部24において、量子化係数の設定を工夫することによって、U信号及びV信号のノイズを抑制するための処理が実現されている。従って、ノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0065】
さらに、本実施の形態に係る画像処理装置1によれば、周波数データS4U,S4Vに関しては、値が「1」より大きな量子化係数QU,QVを用いて量子化処理が実行される。そのため、量子化部24から出力される量子化後の周波数データS5U,S5Vの有効ビット幅が削減される。上記の例では、周波数データS4U,S4Vのビット幅はそれぞれ8ビットであるのに対し、周波数データS5U,S5Vの有効ビット幅はそれぞれ5ビットであり、ビット幅がそれぞれ3ビット削減されている。その結果、U信号及びV信号に関しては、符号化部26から出力される符号化データS7の符号量を削減することが可能となる。つまり、画像データのデータ量をより圧縮することが可能となる。
【0066】
<第1の変形例>
上記実施の形態では、量子化係数QU,QVの値はそれぞれ「8」に設定されている。これにより、周波数データS4U,S4Vの下位3ビットのデータに相当するノイズが抑制されている。
【0067】
第1の変形例として、量子化部24は、量子化係数QU,QVの値を「8」に限定せず、U信号及びV信号の各ノイズの程度に応じて、量子化係数QU,QVの値をそれぞれ可変に設定してもよい。
【0068】
例えば、U信号のノイズの程度が小さい場合には、量子化係数QUの値を「4」に設定する。これにより、周波数データS4Uの下位2ビットのデータに相当するノイズを抑制することが可能となる。
【0069】
また、例えば、V信号のノイズの程度が大きい場合には、量子化係数QVの値を「16」に設定する。これにより、周波数データS4Vの下位4ビットのデータに相当するノイズを抑制することが可能となる。
【0070】
<第2の変形例>
上記実施の形態では、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定して、U信号及びV信号のノイズを抑制するための処理が行われている。
【0071】
第2の変形例として、撮像素子の特性に起因してY信号のみにノイズが発生している場合には、Y信号に対応する量子化係数QYの値を「1」より大きな値に設定し、U信号、V信号、及びK信号に対応する量子化係数QU,QV,QKの値をいずれも「1」に設定することにより、U信号、V信号、及びK信号に影響を与えることなく、Y信号のノイズを効果的に抑制することが可能である。
【0072】
図10は、第2の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QYの値は「1」より大きな値(図10に示した例では「8」)に設定されており、量子化係数QU,QV,QKの値はいずれも「1」に設定されている。
【0073】
同様に、撮像素子の特性に起因してK信号のみにノイズが発生している場合には、K信号に対応する量子化係数QKの値を「1」より大きな値に設定し、Y信号、U信号、及びV信号に対応する量子化係数QY,QU,QVの値をいずれも「1」に設定することにより、Y信号、U信号、及びV信号に影響を与えることなく、K信号のノイズを効果的に抑制することが可能である。
【0074】
図11は、第2の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QKの値は「1」より大きな値(図11に示した例では「8」)に設定されており、量子化係数QY,QU,QVの値はいずれも「1」に設定されている。
【0075】
<第3の変形例>
上記実施の形態では、量子化係数QU,QVの値は互いに同一の値(上記の例では「8」)に設定されている。
【0076】
第3の変形例として、量子化部24は、量子化係数QU,QVの値を互いに同一の値に設定せず、U信号及びV信号の各ノイズの程度に応じて、量子化係数QU,QVの値を互いに異なる値に設定してもよい。
【0077】
図12は、第3の変形例に関して、周波数データS5Y,S5U,S5V,S5Kを示す図である。量子化係数QUの値は「8」に設定されており、量子化係数QVの値は「4」に設定されている。この例の場合、U信号に関しては、周波数データS4Uの下位3ビットのデータに相当するノイズを抑制することが可能となり、V信号に関しては、周波数データS4Vの下位2ビットのデータに相当するノイズを抑制することが可能となる。
【0078】
<第4の変形例>
図13は、HD Photoのエンコーダにおけるプレフィルタ221,222及び周波数変換部231,232の構成を示すブロック図である。図13に示すように、HD Photoにおけるエンコーダは、第1階層のプレフィルタ221及び周波数変換部231と、第2階層のプレフィルタ222及び周波数変換部232とを備えている。
【0079】
プレフィルタ221には、画素信号S21が入力される。プレフィルタ221は、画素信号S21に対してプレフィルタ処理を実行し、プレフィルタ処理後の画素信号S31を出力する。画素信号S31は、周波数変換部231に入力される。周波数変換部231は、画素信号S31に対して周波数変換処理(PCT)を実行し、ハイパス成分の周波数データS4HPと、第1階層における直流成分のデータS22とを出力する。データS22は、プレフィルタ222に入力される。プレフィルタ222は、データS22に対してプレフィルタ処理を実行し、プレフィルタ処理後のデータS32を出力する。データS32は、周波数変換部232に入力される。周波数変換部232は、データS32に対して周波数変換処理(PCT)を実行し、ローパス成分の周波数データS4LPと、直流成分の周波数データS4DCとを出力する。
【0080】
このようにHD Photoにおいては、周波数変換部231からハイパス成分の周波数データS4HPが出力され、周波数変換部232からローパス成分の周波数データS4LPと直流成分の周波数データS4DCとが出力される。従って、図1を参照して、周波数変換部23から出力される周波数データS4には、3つの周波数成分にそれぞれ対応する、ハイパス成分の周波数データS4HPと、ローパス成分の周波数データS4LPと、直流成分の周波数データS4DCとが含まれる。また、図4を参照して、周波数データS4Y,S4U,S4V,S4Kの各々には、ハイパス成分、ローパス成分、及び直流成分がそれぞれ含まれる。
【0081】
第4の変形例として、量子化部24は、Y信号、U信号、V信号、及びK信号の各周波数成分の各ノイズの程度に応じて、合計12個の量子化係数の値をそれぞれ可変に設定してもよい。
【0082】
図14は、量子化部24において量子化係数を設定するためのデータテーブルを示す図である。データテーブルには、Y信号、U信号、V信号、及びK信号の別毎に、かつ、ハイパス成分(S4HP)、ローパス成分(S4LP)、及び直流成分(S4DC)の別毎に、合計12個の量子化係数が記述されている。量子化部24は、このデータテーブルを参照することにより、周波数データS4の量子化処理に使用する量子化係数を決定する。
【0083】
図14に示した例では、Y信号及びK信号に関しては3つの周波数成分の全てにおいてノイズが発生しておらず、U信号及びV信号に関しては、直流成分においてはノイズが発生しておらず、ローパス成分においては比較的小さなノイズが発生しており、ハイパス成分においては比較的大きいノイズが発生している状況を想定している。
【0084】
この場合、量子化係数の値は、図14の例に示すように、U信号及びV信号の各ローパス成分に関しては「4」に設定され、U信号及びV信号の各ハイパス成分に関しては「8」に設定される。また、その他の量子化係数の値はいずれも「1」に設定される。
【0085】
<第5の変形例>
上記実施の形態によっては十分なノイズ抑制効果が得られない場合や、量子化係数を大きな値に設定すると画質の低下が顕著となるような画像を扱う場合には、上記実施の形態に加えて、以下のようなノイズ抑制処理を実行してもよい。
【0086】
図15は、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2U,S2Vに対してはプレフィルタ処理を実行し、一方、画素信号S2Y,S2Kに対してはプレフィルタ処理を実行しない。画素信号S2U,S2Vに対してプレフィルタ処理が実行されることにより、画素信号S2Ua,S2Vaがそれぞれ得られる。なお、プレフィルタは平滑化フィルタの一種であるため、ある信号に対してプレフィルタ処理を実行することにより、その信号のノイズを抑制することが可能である。
【0087】
周波数変換部23には、画素信号S3として、画素信号S2Y,S2Ua,S2Va,S2Kが入力される。なお、第5の変形例では、上記実施の形態と同様に、撮像素子の特性に起因して、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0088】
図16は、ポストフィルタ32における処理を説明するための図である。周波数逆変換部33から出力された画素信号S11には、Y信号に対応する画素信号S11Yと、U信号に対応する画素信号S11Uaと、V信号に対応する画素信号S11Vaと、K信号に対応する画素信号S11Kとが含まれる。図15に示したように、U信号(画素信号S2Ua)及びV信号(画素信号S2Va)に関しては、プレフィルタ22によってプレフィルタ処理が実行されている。従って、画素信号S2Ua,S2Vaに相当する画素信号S11Ua,S11Vaに関しても、プレフィルタ処理による平滑化効果が反映されている。
【0089】
図16に示すように、ポストフィルタ32は、画素信号S11Y,S11Ua,S11Va,S11Kのいずれに対しても、ポストフィルタ処理を実行しない。その結果、ポストフィルタ32からは、画素信号S12として、画素信号S11Y,S11Ua,S11Va,S11がそのまま出力される。
【0090】
第5の変形例によれば、色変換部21は、RGB色空間の画素信号S1を、輝度信号と色差信号とを含むYUVK色空間の画素信号S2に変換する。そして、図15に示したように、プレフィルタ22は、輝度信号及び複数の色差信号のうちの特定の信号(上記の例ではU信号及びV信号)に対してのみ、プレフィルタ処理を実行する。プレフィルタは平滑化フィルタの一種であるため、U信号及びV信号に対してプレフィルタ処理を実行することにより、U信号及びV信号のノイズを抑制することができる。しかも、Y信号及びK信号に対してはプレフィルタ処理が実行されないため、U信号及びV信号のノイズを抑制するための処理が、Y信号及びK信号に対して影響を与えることはない。つまり、ノイズが発生していないY信号及びK信号に対して影響を与えることなく、U信号及びV信号のノイズのみを効果的に抑制することができる。また、図16に示したように、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号の全てに対して、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたU信号及びV信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるU信号及びV信号のノイズの抑制効果が維持される。
【0091】
しかも、第5の変形例によれば、HD Photoに本来的に備わっている色変換部21、プレフィルタ22、及びポストフィルタ32を用いて、U信号及びV信号のノイズを抑制するための処理が実現されている。従って、U信号及びV信号のノイズを抑制する目的のためだけに専用の装置を追加して実装する必要がないため、コストの上昇を回避できる。
【0092】
<第5の変形例における第1の変形例>
上記第5の変形例では、U信号及びV信号に関してはノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定して、U信号及びV信号のノイズを抑制するための処理について説明した。
【0093】
撮像素子の特性に起因してY信号のみにノイズが発生している場合には、Y信号に対してプレフィルタ処理を実行し、U信号、V信号、及びK信号に対してプレフィルタ処理を実行しないことにより、Y信号のノイズを抑制することが可能である。
【0094】
図17は、第5の変形例における第1の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2Yに対してはプレフィルタ処理を実行し、一方、画素信号S2U,S2V,S2Kに対してはプレフィルタ処理を実行しない。画素信号S2Yに対してプレフィルタ処理が実行されることにより、画素信号S2Yaが得られる。周波数変換部23には、画素信号S3として、画素信号S2Ya,S2U,S2V,S2Kが入力される。
【0095】
図16に示した例と同様に、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号のいずれに対しても、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたY信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるY信号のノイズの抑制効果が維持される。
【0096】
<第5の変形例に関する第2の変形例>
撮像素子の特性に起因してK信号のみにノイズが発生している場合には、K信号に対してプレフィルタ処理を実行し、Y信号、U信号、及びV信号に対してプレフィルタ処理を実行しないことにより、K信号のノイズを抑制することが可能である。
【0097】
図18は、第5の変形例における第2の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S2Uと、V信号に対応する画素信号S2Vと、K信号に対応する画素信号S2Kとが含まれる。プレフィルタ22は、画素信号S2Kに対してはプレフィルタ処理を実行し、一方、画素信号S2Y,S2U,S2Vに対してはプレフィルタ処理を実行しない。画素信号S2Kに対してプレフィルタ処理が実行されることにより、画素信号S2Kaが得られる。周波数変換部23には、画素信号S3として、画素信号S2Y,S2U,S2V,S2Kaが入力される。
【0098】
図16に示した例と同様に、ポストフィルタ32は、Y信号、U信号、V信号、及びK信号のいずれに対しても、ポストフィルタ処理を実行しない。プレフィルタ処理が実行されたK信号に対してポストフィルタ処理を実行しないことにより、プレフィルタ処理によるK信号のノイズの抑制効果が維持される。
【0099】
<第5の変形例における第3の変形例>
図13を参照して、HD Photoにおいては、第1階層のプレフィルタ221によるプレフィルタ処理を実行するか否かを選択することができる。また、プレフィルタ221によるプレフィルタ処理を実行する場合には、第2階層のプレフィルタ222によるプレフィルタ処理を実行するか否かを選択することができる。つまり、最大で2回のプレフィルタ処理を実行することができる。
【0100】
図19は、第5の変形例における第3の変形例に関して、プレフィルタ22における処理を説明するための図である。色変換部21による上記の色変換処理により、画素信号S2には、Y信号に対応する画素信号S2Yと、U信号に対応する画素信号S21Uと、V信号に対応する画素信号S21Vと、K信号に対応する画素信号S2Kとが含まれる。第1階層のプレフィルタ221は、画素信号S21U,S21Vに対してプレフィルタ処理を実行する。画素信号S21U,S21Vに対してプレフィルタ処理が実行されることにより、画素信号S2Ua1,S2Va1がそれぞれ得られる。周波数変換部23は、画素信号S2Ua1,S2Va1に対して周波数変換処理(PCT)をそれぞれ実行し、ハイパス成分の周波数データ(図示しない)と、第1階層における直流成分のデータS22U,S22Vとをそれぞれ出力する。データS22U,S22Vは、第2階層のプレフィルタ222に入力される。プレフィルタ222は、データS22U,S22Vに対してプレフィルタ処理をそれぞれ実行し、プレフィルタ処理後のデータS2Ua2,S2Va2をそれぞれ出力する。データS2Ua2,S2Va2は、周波数変換部23に入力される。周波数変換部23は、データS2Ua2,S2Va2に対して周波数変換処理(PCT)をそれぞれ実行し、ローパス成分の周波数データ(図示しない)と、直流成分の周波数データ(図示しない)とをそれぞれ出力する。なお、第5の変形例における第3の変形例では、撮像素子の特性に起因して、U信号及びV信号に関しては大きなノイズが発生しており、Y信号及びK信号に関してはノイズが発生していない場合を想定している。
【0101】
第5の変形例における第3の変形例においては、HD Photoの仕様に従い、第1階層のプレフィルタ221によるプレフィルタ処理を実行するか否かを選択することができる。また、プレフィルタ221によるプレフィルタ処理を実行する場合には、第2階層のプレフィルタ222によるプレフィルタ処理を実行するか否かを選択することができる。つまり、最大で2回のプレフィルタ処理を実行することができる。但し、プレフィルタ222の後段にさらにプレフィルタを追加することによって、3回以上のプレフィルタ処理を実行することも可能である。
【0102】
第5の変形例における第3の変形例によれば、実行するプレフィルタ処理の回数を、U信号及びV信号のノイズの程度に応じて一回又は複数回に設定することにより、U信号及びV信号のノイズを十分に抑制することが可能となる。
【0103】
以上では、U信号及びV信号に対して2回のプレフィルタ処理を実行することにより、U信号及びV信号のノイズを十分に抑制する例について説明したが、Y信号又はK信号に対して2回のプレフィルタ処理を実行することにより、Y信号又はK信号のノイズを十分に抑制することも可能である。
【0104】
<第5の変形例における第4の変形例>
上記第5の変形例、及び上記第5の変形例における第1〜第3の変形例は、撮像素子の特性に応じて、適宜に組み合わせて適用することが可能である。
【0105】
図20は、第5の変形例における第4の変形例に関して、プレフィルタ22における処理を説明するための図である。図20に示した例は、撮像素子の特性に起因して、Y信号及びV信号に関しては比較的大きなノイズが発生しており、K信号に関しては比較的小さなノイズが発生しており、U信号に関してはノイズが発生していない場合を想定している。このような場合には、図20に示すように、Y信号及びV信号に対しては2回のプレフィルタ処理を実行し、K信号に対しては1回のプレフィルタ処理を実行し、U信号に関してはプレフィルタ処理を実行しない。これにより、ノイズが発生していないU信号に影響を与えることなく、Y信号、V信号、及びK信号のノイズを十分に抑制することが可能となる。
【0106】
なお、上記の実施の形態、第1〜第5の変形例、第5の変形例における第1〜第4の変形例は、適宜に組み合わせて適用することが可能である。
【図面の簡単な説明】
【0107】
【図1】本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。
【図2】色変換部による色変換処理を説明するための図である。
【図3】画素平面内の一つのマクロブロックを示す図である。
【図4】量子化部の構成を示すブロック図である。
【図5】量子化前の周波数データを示す図である。
【図6】量子化後の周波数データを示す図である。
【図7】逆量子化部の構成を示すブロック図である。
【図8】逆量子化前の周波数データを示す図である。
【図9】逆量子化後の周波数データを示す図である。
【図10】量子化後の周波数データを示す図である。
【図11】量子化後の周波数データを示す図である。
【図12】量子化後の周波数データを示す図である。
【図13】HD Photoのエンコーダにおけるプレフィルタ及び周波数変換部の構成を示すブロック図である。
【図14】量子化部において量子化係数を設定するためのデータテーブルを示す図である。
【図15】プレフィルタにおける処理を説明するための図である。
【図16】ポストフィルタにおける処理を説明するための図である。
【図17】プレフィルタにおける処理を説明するための図である。
【図18】プレフィルタにおける処理を説明するための図である。
【図19】プレフィルタにおける処理を説明するための図である。
【図20】プレフィルタにおける処理を説明するための図である。
【符号の説明】
【0108】
1 画像処理装置
2 エンコーダ
3 デコーダ
21 色変換部
22,221,222 プレフィルタ
23,231,232 周波数変換部
24 量子化部
31 色逆変換部
32 ポストフィルタ
33 周波数逆変換部
34 逆量子化部
【特許請求の範囲】
【請求項1】
輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部と、
前記周波数変換部から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部と
を備え、
前記量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、前記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行する、画像処理装置。
【請求項2】
前記量子化部は、前記特定の周波数データに関して、ノイズの程度に応じて量子化係数の値を可変に設定可能である、請求項1に記載の画像処理装置。
【請求項3】
前記特定の周波数データには、ハイパス成分、ローパス成分、及び直流成分が含まれ、
前記量子化部は、各成分ごとに、ノイズの程度に応じて量子化係数の値を可変に設定可能である、請求項2に記載の画像処理装置。
【請求項4】
前記周波数変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前に、プレフィルタ処理を選択的に実行するプレフィルタと、
前記プレフィルタよりも前段に配置され、外部から入力された第1の色空間の画素信号を、輝度信号及び複数の色差信号を含む第2の色空間の画素信号に変換する色変換部と、
周波数逆変換処理を実行する周波数逆変換部と、
前記周波数逆変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後に、ポストフィルタ処理を選択的に実行するポストフィルタと、
前記ポストフィルタよりも後段に配置され、第2の色空間の画素信号を第1の色空間の画素信号に逆変換する色逆変換部と
をさらに備え、
前記プレフィルタは、前記色変換部から入力された輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行し、
前記ポストフィルタは、前記特定の信号に対して、ポストフィルタ処理を実行しない、請求項1〜3のいずれか一つに記載の画像処理装置。
【請求項5】
前記特定の信号に対して実行するプレフィルタ処理の回数を、一回又は複数回に設定可能である、請求項4に記載の画像処理装置。
【請求項1】
輝度信号及び複数の色差信号に対して周波数変換処理をそれぞれ実行し、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データを出力する周波数変換部と、
前記周波数変換部から入力された複数の周波数データに対して量子化処理をそれぞれ実行する量子化部と
を備え、
前記量子化部は、輝度信号に関する周波数データ及び複数の色差信号に関する複数の周波数データのうち、ノイズが発生している信号に対応する一又は複数の特定の周波数データに対しては、値が「1」より大きな量子化係数を用いて量子化処理を実行し、前記特定の周波数データ以外の周波数データに対しては、値が「1」の量子化係数を用いて量子化処理を実行する、画像処理装置。
【請求項2】
前記量子化部は、前記特定の周波数データに関して、ノイズの程度に応じて量子化係数の値を可変に設定可能である、請求項1に記載の画像処理装置。
【請求項3】
前記特定の周波数データには、ハイパス成分、ローパス成分、及び直流成分が含まれ、
前記量子化部は、各成分ごとに、ノイズの程度に応じて量子化係数の値を可変に設定可能である、請求項2に記載の画像処理装置。
【請求項4】
前記周波数変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数変換処理が実行される前に、プレフィルタ処理を選択的に実行するプレフィルタと、
前記プレフィルタよりも前段に配置され、外部から入力された第1の色空間の画素信号を、輝度信号及び複数の色差信号を含む第2の色空間の画素信号に変換する色変換部と、
周波数逆変換処理を実行する周波数逆変換部と、
前記周波数逆変換部の複数の処理単位領域にオーバーラップする領域を処理単位領域として、周波数逆変換処理が実行された後に、ポストフィルタ処理を選択的に実行するポストフィルタと、
前記ポストフィルタよりも後段に配置され、第2の色空間の画素信号を第1の色空間の画素信号に逆変換する色逆変換部と
をさらに備え、
前記プレフィルタは、前記色変換部から入力された輝度信号及び複数の色差信号のうち、ノイズが発生している信号に対応する一又は複数の特定の信号に対して、プレフィルタ処理を実行し、
前記ポストフィルタは、前記特定の信号に対して、ポストフィルタ処理を実行しない、請求項1〜3のいずれか一つに記載の画像処理装置。
【請求項5】
前記特定の信号に対して実行するプレフィルタ処理の回数を、一回又は複数回に設定可能である、請求項4に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2009−232218(P2009−232218A)
【公開日】平成21年10月8日(2009.10.8)
【国際特許分類】
【出願番号】特願2008−75966(P2008−75966)
【出願日】平成20年3月24日(2008.3.24)
【出願人】(591128453)株式会社メガチップス (322)
【Fターム(参考)】
【公開日】平成21年10月8日(2009.10.8)
【国際特許分類】
【出願日】平成20年3月24日(2008.3.24)
【出願人】(591128453)株式会社メガチップス (322)
【Fターム(参考)】
[ Back to top ]