画像処理装置、画像処理方法、およびプログラム
【課題】処理対象の画像信号に基づいて、リンギングノイズを検出することが可能な、画像処理装置、画像処理方法、およびプログラムを提供する。
【解決手段】入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、直線エッジが検出された分割領域ごとに、分割領域に対応する入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、を備える画像処理装置が提供される。
【解決手段】入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、直線エッジが検出された分割領域ごとに、分割領域に対応する入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、を備える画像処理装置が提供される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、およびプログラムに関する。
【背景技術】
【0002】
例えば、MPEG−2(ISO/IEC 13818)や、MPEG−4(ISO/IEC 14496)など、所定の符号化方式にて圧縮された画像が広く用いられている。例えば上記のような符号化方式が用いられる場合には、画像が非可逆に圧縮される。そのため、例えば上記のような符号化方式は、画像のデータ量の削減には有利であるが、その反面、例えばリンギングノイズ(Ringing Noise)などの符号化に起因するノイズ(歪み)が、画像をみるユーザに認識されてしまうことが起こりうる。
【0003】
このような中、符号化に起因するノイズの低減を図る技術が開発されている。符号化に起因するノイズの低減を図る技術としては、例えば、特許文献1に記載の技術や、特許文献2に記載の技術が挙げられる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−279709号公報
【特許文献2】特許第4084719号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
例えば特許文献1に記載の技術では、ブロック内の画素における画素値の最大値と最小値とが閾値以上の場合はエッジが存在するブロックとし、エッジが存在するブロック内において注目画素の画素値と、隣接する上下左右4画素における画素値の平均値との差が閾値以上の場合に、注目画素をノイズ画素と判定する。そして、例えば特許文献1に記載の技術では、注目画素の画素値を、隣接する上下左右4画素における画素値の平均値に置き換えることによって、ノイズを平滑化している。よって、リンギングノイズはエッジ周辺に発生する可能性が高いことから、例えば特許文献1に記載の技術を用いる場合には、リンギングノイズをある程度低減することができる可能性はある。
【0006】
しかしながら、例えば特許文献1に記載の技術では、注目画素に隣接する上下左右4画素における画素値の平均値で注目画素を平滑化するので、例えばリンギングノイズが直線エッジに平行して存在する場合には、注目画素に隣接する4画素のうち2画素がリンギングノイズを含むことから、ノイズが正しく平滑化されない。また、例えば特許文献1に記載の技術では、注目画素がエッジに対応する画素の場合であっても、当該注目画素の画素値を、当該注目画素の上下左右4画素における画素値の平均値で置き換えるので、本来存在するエッジの鮮鋭度が落ち、処理後の画像がぼやけることが起こりうる。
【0007】
また、例えば特許文献2に記載の技術では、処理対象の画像信号が示す画像において文字が含まれる文字領域を検出し、検出された文字領域の周辺に対して、エッジ以外の領域を平滑化するフィルタを用いることによって、ノイズを低減している。よって、例えば特許文献2に記載の技術を用いる場合には、リンギングノイズをある程度低減することができる可能性はある。
【0008】
しかしながら、例えば特許文献2に記載の技術では、同一輝度の画素数が、予め設定した文字サイズの閾値を超えずに連続した場合に文字領域として検出するため、処理対象の画像信号が示す画像において当該閾値を超える大きさの文字が存在したとしても、当該文字は文字とは認識されず、ノイズは低減されない。また、例えば特許文献2に記載の技術を用いたとしても、文字領域以外に発生するリンギングノイズを検出することはできず、また、文字領域以外に発生するリンギングノイズを低減することもできない。
【0009】
上記のように、例えば、特許文献1に記載の技術や、特許文献2に記載の技術を用いたとしても、画像信号が示す画像において発生しうるリンギングノイズを検出できるとは限らない。
【0010】
本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、処理対象の画像信号に基づいて、リンギングノイズを検出することが可能な、新規かつ改良された画像処理装置、画像処理方法、およびプログラムを提供することにある。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の第1の観点によれば、入力画像信号に基づいて、上記入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、を備える画像処理装置が提供される。
【0012】
かかる構成によって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0013】
また、上記ノイズ検出部は、直線エッジが検出された上記分割領域ごとに、輝度値に関する自己相関係数を算出する自己相関係数算出部と、算出された自己相関係数に基づいて、直線エッジが検出された上記分割領域においてリンギングノイズが発生しているかを判定するノイズ判定部とを備えてもよい。
【0014】
また、リンギングノイズが検出された上記分割領域ごとに、上記入力画像信号のノイズを低減するノイズ低減部をさらに備えてもよい。
【0015】
また、上記ノイズ低減部は、リンギングノイズが検出された上記分割領域ごとに、リンギングノイズが検出された上記分割領域と隣接する分割領域の画素値の平均値を算出し、リンギングノイズが検出された上記分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域の画素値を、算出された平均値に置き換えてもよい。
【0016】
また、上記ノイズ低減部は、上記隣接する分割領域が、リンギングノイズが検出された上記分割領域と同一方向の直線エッジを含まない場合に、上記平均値を算出し、上記隣接する分割領域が、リンギングノイズが検出された上記分割領域と同一方向の直線エッジを含む場合には、上記平均値を算出しなくてもよい。
【0017】
また、上記目的を達成するために、本発明の第2の観点によれば、入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップと、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップと、を有する画像処理方法が提供される。
【0018】
かかる方法を用いることによって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0019】
また、上記目的を達成するために、本発明の第3の観点によれば、入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップ、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップ、をコンピュータに実行させるためのプログラムが提供される。
【0020】
かかるプログラムを用いることによって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【発明の効果】
【0021】
本発明によれば、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【図面の簡単な説明】
【0022】
【図1】本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの一例を示す説明図である。
【図2】リンギングノイズの発生要因を説明するための説明図である。
【図3】リンギングノイズの発生要因を説明するための説明図である。
【図4】リンギングノイズの発生要因を説明するための説明図である。
【図5】リンギングノイズの発生要因を説明するための説明図である。
【図6】リンギングノイズの発生要因を説明するための説明図である。
【図7】リンギングノイズの発生要因を説明するための説明図である。
【図8A】リンギングノイズの発生要因を説明するための説明図である。
【図8B】リンギングノイズの発生要因を説明するための説明図である。
【図8C】リンギングノイズの発生要因を説明するための説明図である。
【図9】リンギングノイズの発生要因を説明するための説明図である。
【図10A】リンギングノイズの発生要因を説明するための説明図である。
【図10B】リンギングノイズの発生要因を説明するための説明図である。
【図10C】リンギングノイズの発生要因を説明するための説明図である。
【図11】リンギングノイズの発生要因を説明するための説明図である。
【図12A】リンギングノイズの発生要因を説明するための説明図である。
【図12B】リンギングノイズの発生要因を説明するための説明図である。
【図12C】リンギングノイズの発生要因を説明するための説明図である。
【図13】リンギングノイズの発生要因を説明するための説明図である。
【図14】本発明の実施形態に係る画像処理装置の構成の一例を示すブロック図である。
【図15A】本発明の実施形態に係る直線エッジ検出部における処理の一例を説明するための説明図である。
【図15B】本発明の実施形態に係る直線エッジ検出部における処理の一例を説明するための説明図である。
【図16】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図17】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図18】本発明の実施形態に係るノイズ検出部における処理の結果の一例を示す説明図である。
【図19】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図20】本発明の実施形態に係るノイズ検出部における処理の一例を示す流れ図である。
【発明を実施するための形態】
【0023】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0024】
(本発明の実施形態に係る画像処理方法)
本発明の実施形態に係る画像処理装置の構成について説明する前に、本発明の実施形態に係る画像処理方法について説明する。また、以下では、本発明の実施形態に係る画像処理装置が、処理対象の画像信号(以下、「入力画像信号」と示す場合がある。)に対して、本発明の実施形態に係る画像処理方法に係る処理を行うものとして説明する。
【0025】
ここで、本発明の実施形態に係る入力画像信号としては、例えばMPEG−2(ISO/IEC 13818)や、MPEG−4(ISO/IEC 14496)など、非可逆の符号化方式により符号化された動画像(または、複数の静止画像)を示す画像信号が挙げられる。以下では、本発明の実施形態に係る画像処理装置が、フレーム画像(静止画像)からなる動画像を示す画像信号を処理するものとして説明する。ここで、本発明の実施形態に係るフレーム画像とは、例えば、動画像の1フレーム(動画像がインタレース画像の場合には、1フィールドに対応する。)に対応する画像である。以下では、本発明の実施形態に係る画像処理装置が、時間順に1フレームずつ入力される画像信号を処理する場合を例に挙げて説明する。
【0026】
また、本発明の実施形態に係る画像処理装置は、例えば、本発明の実施形態に係る画像処理装置がテレビ塔などから送信された放送波を(直接的、またはセットトップボックスなどを介して間接的に)受信してデコードした結果得られる画像信号を、入力画像信号として処理する。なお、本発明の実施形態に係る画像処理装置が処理する入力画像信号は、上記に限られない。例えば、本発明の実施形態に係る画像処理装置は、ネットワークを介して(または直接的に)外部装置から送信された入力画像信号を処理することも可能である。また、本発明の実施形態に係る画像処理装置は、例えば、記憶部(後述する)や、本発明の実施形態に係る画像処理装置から着脱可能な外部記録媒体に記憶された画像データをデコードすることにより得られた画像信号を処理してもよい。さらに、本発明の実施形態に係る画像処理装置が、例えば、動画像を撮像することが可能な撮像部(後述する)を備えている場合、すなわち、本発明の実施形態に係る画像処理装置が撮像装置として機能する場合には、本発明の実施形態に係る画像処理装置は、例えば、当該撮像部(後述する)により撮像された動画像に対応する画像信号を処理してもよい。
【0027】
図1は、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの一例を示す説明図である。リンギングノイズは、符号化に起因して画像をみるユーザに認識されるノイズの一種であり、リンギングノイズとは、例えば図1のAに示すように、主に直線エッジに平行して発生する、白から黒(または、黒から白)へと変化する画像信号の波形が「波うつように」振動する現象をいう。
【0028】
[1]リンギングノイズの発生要因
図2〜図13は、リンギングノイズの発生要因を説明するための説明図である。本発明の実施形態に係る画像処理方法に係る処理について説明する前に、まず、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの発生要因について説明する。なお、以下では、MPEG−2(ISO/IEC 13818)により符号化される画像信号、すなわち、8×8画素のブロックにて符号化される画像信号を例に挙げて、リンギングノイズの発生要因について説明する。
【0029】
図2は、MPEG−2(ISO/IEC 13818)に係るエンコード(符号化)とデコード(復号)との処理の一例を示している。図2に示すように、符号化前の画像信号は、DCT(Discrete Cosine Transform。離散コサイン変換)された後に、量子化され、エントロピー符号化されることによって、エンコードがなされる。
【0030】
DCT(二次元DCT)では、符号化前の画像信号に対して、8×8画素のブロックごとに、下記の数式1に示す演算が行われ、DCT係数F(u,v)が算出される。ここで、数式1に示す“f(x,y)”は、符号化前の画像信号が示す画像を示している。また、数式1に示す“u”、“v”は、u=0、v=0のときに直流成分を示し、値が大きくなる程、高い周波数を示す。また、数式1に示す“C(u)”、“C(v)”は、それぞれ下記の数式2、数式3で表される。
【0031】
【数1】
・・・(数式1)
【0032】
【数2】
・・・(数式2)
【0033】
【数3】
・・・(数式3)
【0034】
図3は、8×8DCTの基底パターンを画像化したものである。図3に示す各パターンは、周波数成分を表している。
【0035】
エンコードされた画像信号は、エントロピー復号化され、逆量子化された後、IDCT(Inverse Discrete Cosine Transform。逆離散コサイン変換)されることによって、デコードがなされる。
【0036】
IDCTでは、エンコードされた画像信号に対して、8×8画素のブロックごとに、下記の数式4に示す演算が行われ、復号後の画像信号f(x,y)が得られる。また、数式4に示す“C(u)”は、上記数式2で表され、また、数式4に示す“C(v)”は、上記数式3で表される。
【0037】
【数4】
・・・(数式4)
【0038】
MPEG−2(ISO/IEC 13818)では、例えば図2に示すような処理が行われることによって、エンコード(符号化)とデコード(復号)とが行われる。ここで、図2に示す量子化とは、DCT処理において上記数式1により算出されるDCT係数に対して、情報量を削減するために行われる処理である。量子化処理が行われることによって、丸めによる量子化誤差が発生し、当該量子化誤差が、リンギングノイズの発生要因となる。
【0039】
以下、より具体的に、量子化処理に起因するリンギングノイズの発生について説明する。図4は、MPEG−2(ISO/IEC 13818)において用いられる一般的な量子化テーブルの一例を示している。
【0040】
MPEG−2(ISO/IEC 13818)では、上記数式1により算出したDCT係数に、図4で示す量子化テーブル(QT(x,y))と、圧縮率を調整する量子化スケール(QS)によって、量子化が行われる。ここで、量子化スケールQSの値が大きければ大きい程、量子化処理において情報量がより削減される。量子化Q(x,y)は、例えば下記の数式5で表される。
【0041】
【数5】
・・・(数式5)
【0042】
また、図4に示す逆量子化は、上記数式5の逆関数であり、例えば下記の数式6で表される。なお、数式6で表される“F’(u,v)”と、数式1で表される“F(u,v)”とは一致しない。一致しない理由は、量子化が行われることによって情報が失われているためである。つまり、逆量子化を行ったとしても、完全に数式1で表される“F(u,v)”を復元することはできない。
【0043】
【数6】
・・・(数式6)
【0044】
また、図2に示すエントロピー符号化、およびエントロピー復号化は、多値データを2値データに変換、逆変換する可逆的な処理である。エントロピー符号化処理、およびエントロピー復号化処理では、情報損失はないので、エントロピー符号化処理、およびエントロピー復号化処理は、処理後の信号が示す画像の画質に何らの影響を与えない。つまり、エントロピー符号化処理、およびエントロピー復号化処理は、リンギングノイズの発生要因とはならない。よって、エントロピー符号化処理、およびエントロピー復号化処理についての詳細な説明は省略する。
【0045】
リンギングノイズの発生要因について、図5〜図13を参照しつつ、数式1〜数式6に基づいてより具体的に説明する。
【0046】
図5は、エッジ画像の一例を示しており、図6は、図5に示すエッジ画像を輝度値に変換したものを示している。また、図7は、上記数式1によって、図6をDCT係数に変換したものを示している。
【0047】
図7を参照すると、図3に示した基底画像の(0,0)から(7,0)に非ゼロ係数が集中していることが分かる。これは、図5において示した垂直方向の直線エッジの周波数が、基底画像の(0,0)から(7,0)に該当するためである。また、図7において値がマイナスとなっているのは、例えば図3に示す基底画像(1,0)を例に挙げると、図3の左から高輝度の周波数から低輝度の周波数へと変化するように表されているのに対して、図5に示すエッジ画像では、図5の左から低輝度の周波数から高輝度の周波数へと変化するように表されているためである。
【0048】
数式1によってDCT処理が行われると、図2に示すように、数式4〜6によって、図7に示すDCT係数に対して、量子化処理、逆量子化処理、およびIDC処理が順次に行われる。
【0049】
(i)QS=1の場合
図8A〜図8C、および図9は、QS=1の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図8Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図8Bは、図8Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図8Cは、図8Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図9は、図8Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0050】
QS=1の場合には、図8Cに示す輝度値と図6に示す輝度値との間に、ほとんど差がないことが分かる。よって、QS=1の場合には、図9に示すように、リンギングノイズは発生していない。
【0051】
(ii)QS=8の場合
図10A〜図10C、および図11は、QS=8の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図10Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図10Bは、図10Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図10Cは、図10Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図11は、図10Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0052】
QS=8の場合には、図10Cに示す輝度値と図6に示す輝度値との間の誤差が大きくなる。つまり、QS=8の場合には、量子化処理、逆量子化処理、およびIDC処理が順次に行われた結果、高周波成分の誤差の影響を受けた画像信号が得られ、当該画像信号が示す画像は、図3に示す基底画像に近い輝度の段差を有することとなる。よって、QS=8の場合には、図11に示すように、IDCT処理後の画像信号が示す画像に、リンギングノイズが発生する。
【0053】
(iii)QS=24の場合
図12A〜図12C、および図13は、QS=24の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図12Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図12Bは、図12Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図12Cは、図12Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図13は、図12Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0054】
QS=24の場合には、QS=8の場合と同様に、図12Cに示す輝度値と図6に示す輝度値との間の誤差が大きくなる。つまり、QS=24の場合には、QS=8の場合と同様に、量子化処理、逆量子化処理、およびIDC処理が順次に行われた結果、高周波成分の誤差の影響を受けた画像信号が得られる。よって、QS=24の場合には、図13に示すように、IDCT処理後の画像信号が示す画像に、リンギングノイズが発生する。
【0055】
QSの値を大きく設定することによって情報量をより多く削減することが可能であるが、上記(i)〜(iii)に示すように、復元の際には、量子化の影響によって直線エッジと平行して誤差が生じ、結果として輝度の振幅が生じた画像が得られてしまう。そして、上記輝度の振幅こそが、リンギングノイズとして画像をみるユーザに認識されることとなる。
【0056】
[2]本発明の実施形態に係る画像処理方法に係る処理
上述したように、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズは、量子化誤差の影響により発生する。また、量子化処理は、符号化単位(例えば、MPEG−2(ISO/IEC 13818)で符号化される場合には、8×8画素のブロック単位)で行われることから、量子化誤差の影響は、符号化単位の領域内に限られる。
【0057】
また、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズは、直線エッジの周辺において、輝度の振幅として捉えることが可能である。
【0058】
そこで、本発明の実施形態に係る画像処理装置は、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する(直線エッジ検出処理)。
【0059】
そして、本発明の実施形態に係る画像処理装置は、直線エッジが検出された分割領域それぞれについて、直線エッジの周辺における輝度の振幅に基づいて、リンギングノイズが存在するかを判定することによって、リンギングノイズを検出する(ノイズ検出処理)。より具体的には、本発明の実施形態に係る画像処理装置は、入力画像信号に含まれる繰り返しパターンを探すことに関して有効な指標である自己相関係数を用いて、直線エッジ周辺に発生する輝度の振幅が、DCT基底パターンに起因するリンギングノイズであるか否かを判定することによって、リンギングノイズを検出する。
【0060】
本発明の実施形態に係る画像処理装置は、上記のように、上述したリンギングノイズの発生要因に対応する処理(直線エッジ検出処理、およびノイズ検出処理)によって、リンギングノイズを検出する。
【0061】
したがって、本発明の実施形態に係る画像処理装置は、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0062】
また、本発明の実施形態に係る画像処理装置は、リンギングノイズの発生要因に対応する処理によってリンギングノイズを検出するので、本発明の実施形態に係るリンギングノイズの検出結果に基づき、リンギングノイズを低減する処理(以下、「ノイズ低減処理」と示す場合がある。)を行えば、必要以上にノイズ低減処理(例えば、平滑化処理)が行われることが防止される。よって、本発明の実施形態に係るリンギングノイズの検出結果に基づきノイズ低減処理が行われることによって、例えば画像のぼけなど、処理後の画像における画質の低下が防止される。
【0063】
以下、本発明の実施形態に係る画像処理装置の構成の一例について説明をすると共に、本発明の実施形態に係る画像処理方法に係る処理の具体例についても併せて説明する。
【0064】
また、以下では、本発明の実施形態に係る画像処理装置が、本発明の実施形態に係るリンギングノイズの検出結果に基づきノイズ低減処理を行う機能を有する場合を例に挙げて説明する。なお、本発明の実施形態に係る画像処理装置の構成は、ノイズ低減処理を行う機能を有する構成に限られない。例えば、本発明の実施形態に係る画像処理装置は、ノイズ低減処理を行う機能を有さずに、リンギングノイズの検出結果を示す検出信号(または、検出信号と入力画像信号)を、ノイズ低減処理を行う機能を有する外部装置に送信してもよい。
【0065】
また、以下では、入力画像信号が、MPEG−2(ISO/IEC 13818)により符号化される画像信号、すなわち、8×8画素のブロックにて符号化される画像信号である場合を例に挙げて、本発明の実施形態に係る画像処理装置の構成の一例、および本発明の実施形態に係る画像処理方法に係る処理の具体例について説明する。
【0066】
(本発明の実施形態に係る画像処理装置)
図14は、本発明の実施形態に係る画像処理装置100の構成の一例を示すブロック図である。画像処理装置100は、例えば、直線エッジ検出部102と、ノイズ検出部104と、ノイズ低減部106とを備える。
【0067】
また、画像処理装置100は、例えば、制御部(図示せず)や、ROM(Read Only Memory。図示せず)、RAM(Random Access Memory。図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)、外部装置と通信を行うための通信部(図示せず)、撮像部(図示せず)などを備えていてもよい。画像処理装置100は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
【0068】
ここで、制御部(図示せず)は、例えば、CPU(Central Processing Unit)や各種処理回路などで構成され、画像処理装置100全体を制御する。また、制御部(図示せず)は、例えば、直線エッジ検出部102、ノイズ検出部104、およびノイズ低減部106(または、これらのうちの1または2以上の部)の役目を果たしてもよい。なお、直線エッジ検出部102、ノイズ検出部104、およびノイズ低減部106は、各部の処理を実現可能な専用の(または汎用の)処理回路で構成されていてもよいことは、言うまでもない。
【0069】
また、制御部(図示せず)は、例えば、ノイズ低減処理が行われた画像信号(以下、「出力画像信号」と示す。)をエンコードして、記憶部(図示せず)に記録する、および/または、出力画像信号が示す画像を表示部(図示せず)や外部表示装置の表示画面に表示させるなど、出力画像信号に対する処理を行う役目を果たしてもよい。
【0070】
ROM(図示せず)は、制御部(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部(図示せず)により実行されるプログラムなどを一時的に記憶する。
【0071】
記憶部(図示せず)は、画像処理装置100が備える記憶手段であり、例えば、画像データや、アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、画像処理装置100から着脱可能であってもよい。
【0072】
操作部(図示せず)としては、例えば、ボタンや、方向キー、あるいは、これらの組み合わせなどが挙げられる。また、画像処理装置100は、例えば、画像処理装置100の外部装置としての操作入力デバイス(例えば、キーボードやマウスなど)と接続することもできる。
【0073】
表示部(図示せず)としては、例えば、液晶ディスプレイ(Liquid Crystal Display;LCD)や有機ELディスプレイ(organic ElectroLuminescence display)などが挙げられる。なお、表示部(図示せず)は、例えばタッチスクリーンなどのように、表示とユーザ操作とが可能なデバイスであってもよい。また、画像処理装置100は、表示部(図示せず)の有無に関わらず、画像処理装置100の外部装置としての表示デバイス(例えば、外部ディスプレイなど)と接続することもできる。
【0074】
通信部(図示せず)は、画像処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部装置と無線/有線で通信を行う。ここで、通信部(図示せず)としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11bポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。また、本発明の実施形態に係るネットワークとしては、例えば、LANやWAN(Wide Area Network)などの有線ネットワーク、無線LAN(WLAN;Wireless Local Area Network)や基地局を介した無線WAN(WWAN;Wireless Wide Area Network)などの無線ネットワーク、あるいは、TCP/IP(Transmission Control Protocol/Internet Protocol)などの通信プロトコルを用いたインターネットなどが挙げられる。
【0075】
撮像部(図示せず)は、静止画像または動画像を撮像する役目を果たす。撮像部(図示せず)を備える場合には、画像処理装置100は、例えば、撮像部(図示せず)における撮像により生成された画像信号を処理することが可能である。
【0076】
ここで、本発明の実施形態に係る撮像部(図示せず)としては、例えば、レンズ/撮像素子と信号処理回路とから構成される撮像デバイスが挙げられる。レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサとで構成される。また、信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換し、各種信号処理を行う。信号処理回路が行う信号処理としては、例えば、White Balance補正処理、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理などが挙げられる。
【0077】
以下、図14に示す本発明の実施形態に係る画像処理装置100の構成例について説明しつつ、画像処理装置100における処理(画像処理方法に係る処理)の一例について説明する。
【0078】
直線エッジ検出部102は、上記直線エッジ検出処理を主導的に行う役目を果たし、入力画像信号に基づいて、分割領域ごとに直線エッジを検出する。
【0079】
ここで、直線エッジ検出部102は、例えば、入力画像信号をデコードしたデコーダからブロック境界の情報を取得し、当該ブロック境界の情報が示すブロック境界に対応する領域を分割領域とするが、直線エッジ検出部102における分割領域の認識方法は、上記に限られない。例えば、直線エッジ検出部102は、例えば、8×8画素の矩形の領域や16×16画素の矩形の領域など、予め規定された大きさの領域を分割領域とすることも可能である。また、直線エッジ検出部102は、例えば制御部(図示せず)などの他の構成要素が判別した符号化単位に基づいて、分割領域を認識してもよい。
【0080】
図15A、図15Bは、本発明の実施形態に係る直線エッジ検出部102における処理の一例を説明するための説明図である。ここで、図15Aに示すA〜D、および図15Bに示すA〜Dそれぞれは、分割領域を示している。また、図15Aに示すE、および図15Bに示すEは、エッジの検出に係る閾値処理の一例を示している。
【0081】
直線エッジ検出部102は、図15Aに示すA〜Dに示すように、分割領域内を所定の位置(例えば、図15Aに示す分割領域における左上の位置)から水平方向(例えば、図15Aに示す(1)の方向)に2画素ずつ検索する。また、直線エッジ検出部102は、例えば図15AのEに示すように、2画素の輝度差が予め規定された閾値Th1より大きい場合(または、閾値Th1以上の場合)には、図15Bに示すA〜Dに示すように、当該2画素の位置に対して、さらに垂直方向(例えば、図15Bに示す(2)の方向)に2画素ずつ検索する。
【0082】
そして、直線エッジ検出部102は、分割領域の垂直方向の全画素(図15Bの例では、8画素)における隣接する画素の輝度差が、予め規定された閾値Th2より小さい場合(または、閾値Th2以下の場合)には、当該分割領域に垂直方向の直線エッジが存在すると判定する。
【0083】
また、直線エッジ検出部102は、図15A、図15Bに示す方法によって垂直方向の直線エッジが検出されなかった場合には、水平方向の直線エッジを、上記図15A、図15Bに示す方法と同様の方法によって、検出する。
【0084】
直線エッジ検出部102は、例えば上記のような処理を、分割領域ごとに行うことによって、直線エッジを検出する。そして、直線エッジ検出部102は、検出結果を示す検出信号をノイズ検出部104へ伝達する。直線エッジ検出部102が直線エッジを検出することによって、画像処理装置100は、リンギングノイズが存在する可能性のある分割領域である、リンギングノイズ候補分割領域を特定することができる。
【0085】
なお、本発明の実施形態に係る直線エッジ検出部102における、直線エッジの検出処理は、上記に限られない。例えば、直線エッジ検出部102は、分割領域において垂直方向の直線エッジ(または、水平方向の直線エッジ)が1つ見つかったら当該分割領域における処理を終了することに限られず、複数の垂直方向の直線エッジ(または、水平方向の直線エッジ)を検出してもよい。また、直線エッジ検出部102は、垂直方向のエッジと、水平方向のエッジとを検出可能な任意の方法を用いて、分割領域ごとに直線エッジを検出することができる。
【0086】
再度図14を参照して、本発明の実施形態に係る画像処理装置100の構成の一例について説明する。ノイズ検出部104は、上記ノイズ検出処理を主導的に行う役目を果たし、リンギングノイズ候補分割領域(すなわち、直線エッジが検出された分割領域。以下、同様とする。)ごとに、リンギングノイズ候補分割領域に対応する入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出する。
【0087】
図16は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図16は、垂直方向の直線エッジが検出された分割領域の一例を示している。
【0088】
ノイズ検出部104は、リンギングノイズ候補分割領域内における直線エッジ以外の領域を、ノイズ候補領域として設定する。そして、ノイズ検出部104は、設定したノイズ候補領域にリンギングノイズが発生しているかを判定する。
【0089】
より具体的には、ノイズ検出部104は、例えば、自己相関係数算出部108と、ノイズ判定部110とを備えることによって、リンギングノイズを検出する。
【0090】
自己相関係数算出部108は、リンギングノイズ候補分割領域ごとに、輝度値に関する自己相関係数を算出する。ここで、本発明の実施形態に係る自己相関係数とは、隣接する画素(または、画素群)の相関を示す係数である。また、本発明の実施形態に係る自己相関係数は、信号に含まれる繰り返しパターンを探すのに有用であるため、リンギングノイズの検出に適している。
【0091】
図17は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図17は、自己相関係数算出部108における処理の一例を示している。
【0092】
自己相関係数算出部108は、例えば下記の数式7の演算を行うことによって、自己相関係数afc(k)を算出する。自己相関係数afc(k)は、−1.0〜1.0の間の実数値をとる。また、自己相関係数afc(k)は、1.0に近い値をとるときには、正の相関があり、−1.0に近い値をとるときには、負の相関があることを示している。
【0093】
ここで、数式7に示す“xi”は、輝度値を示す。また、数式7に示す“n”は、図17に示すように、ノイズ候補領域における直線エッジと直交する直線上に存在する画素数と、リンギングノイズ候補分割領域と隣接する分割領域(より具体的には、ノイズ候補領域と隣接する分割領域)における、当該直交する直線上に存在する画素数との総和の画素数を示す。また、数式7に示す“k”は、数式7の“n”により表される画素群における基準位置からの距離(以下、「ラグ」と示す。)を示す。上記基準位置としては、例えば直線エッジが存在する位置が挙げられる。また、数式7に示す“x1’”は、下記の数式8で表され、“x2’”は、下記の数式9で表される。
【0094】
【数7】
・・・(数式7)
【0095】
【数8】
・・・(数式8)
【0096】
【数9】
・・・(数式9)
【0097】
図18は、本発明の実施形態に係るノイズ検出部104における処理の結果の一例を示す説明図である。ここで、図18は、自己相関係数算出部108が、図10Bに示すQS=8の場合における出力結果に対して、数式7に示す演算を行った結果を示している。
【0098】
自己相関係数算出部108は、リンギングノイズ候補分割領域ごとに、数式7に示す演算を行い、例えば図18に示すような演算結果をノイズ判定部110に伝達する。なお、自己相関係数算出部108は、例えば、リンギングノイズ候補分割領域と隣接する分割領域が、当該リンギングノイズ候補分割領域と同一方向の直線エッジを含む分割領域である場合には、当該リンギングノイズ候補分割領域に対する処理を行わなくてもよい。
【0099】
ノイズ判定部110は、算出された自己相関係数に基づいて、リンギングノイズ候補分割領域(直線エッジが検出された分割領域)においてリンギングノイズが発生しているかを判定する。
【0100】
図19は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図19は、図18に示す自己相関係数算出部108における演算結果と同一の演算結果を示している。
【0101】
ノイズ判定部110は、ノイズ候補領域内に輝度の振幅が発生してることを判定することによって、リンギングノイズが発生しているかを判定する。ノイズ判定部110は、例えば、ノイズ候補領域内の自己相関係数に振幅があり、隣接分割領域の自己相関係数に振幅がなければ、ノイズ候補領域にリンギングノイズが発生していると判定する。
【0102】
より具体的には、ノイズ判定部110は、ノイズ候補領域の画素数を“w”とし、数式7により算出された自己相関係数afc(k)と自己相関係数afc(k+1)との差を、w画素分算出する。また、ノイズ判定部110は、算出した上記差が、予め設定した閾値Th_Upper以上である場合(または、閾値Th_Upperより大きい場合)に、隣接分割領域に対応する画素w+1〜nまでの振幅を調べる。ここで、本発明の実施形態に係る閾値Th_Upperは、例えば、固定値であってもよいし、画像処理装置100のユーザが変更可能な可変値であってもよい。
【0103】
そして、ノイズ判定部110は、隣接分割領域における自己相関係数afc(k)と自己相関係数afc(k+1)との差が、予め設定した閾値Th_Lower以下の場合(または、閾値Th_Lowerより小さい場合)に、ノイズ候補領域を、リンギングノイズが存在するノイズ領域と判定する。ここで、本発明の実施形態に係る閾値Th_Lowerは、例えば、固定値であってもよいし、画像処理装置100のユーザが変更可能な可変値であってもよい。
【0104】
図20は、本発明の実施形態に係るノイズ検出部104における処理の一例を示す流れ図である。以下では、図20に示す処理を、ノイズ検出部104を構成するノイズ判定部110が行う場合を例に挙げて、ノイズ検出部104における処理の一例について説明する。ここで、図20は、リンギングノイズ候補分割領域におけるノイズ候補領域ごとの処理の一例を示している。
【0105】
ノイズ判定部110は、“k”の値を0(ゼロ)に設定する(S100)。そして、ノイズ判定部110は、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいか否かを判定する(S102)。
【0106】
ステップS102において、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいと判定された場合には、ノイズ判定部110は、“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいか否かを判定する(S104)。
【0107】
ステップS104において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0108】
また、ステップS104において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を0(ゼロ)に設定する(S106)。
【0109】
ステップS102において、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいと判定されない場合には、ノイズ判定部110は、“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいか否かを判定する(S108)。
【0110】
ステップS108において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0111】
また、ステップS108において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を1に設定する(S110)。
【0112】
ステップS106またはステップS110の処理が完了すると、ノイズ判定部110は、“k”の値が“w”の値より小さい場合に限り、後述するステップS112〜S124までの処理を繰り返す。
【0113】
ノイズ判定部110は、“k”の値が0(ゼロ)ではないか否かを判定する(S112)。
【0114】
ステップS112において“k”の値が0(ゼロ)ではないと判定されない場合には、ノイズ判定部110は、“k”の値をk+1に設定する(S124)。
【0115】
また、ステップS112において“k”の値が0(ゼロ)ではないと判定された場合には、ノイズ判定部110は、“flg”の値が0(ゼロ)であるか否かを判定する(S114)。
【0116】
ステップS114において、“flg”の値が0(ゼロ)であると判定された場合には、ノイズ判定部110は、“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいか否かを判定する(S116)。
【0117】
ステップS116において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0118】
また、ステップS116において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を1に設定する(S118)。
【0119】
ステップS114において、“flg”の値が0(ゼロ)であると判定されない場合には、ノイズ判定部110は、“afc(k)−afc(k+)”の値が閾値Th_Upperより大きいか否かを判定する(S120)。
【0120】
ステップS120において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0121】
また、ステップS120において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を0(ゼロ)に設定する(S122)。
【0122】
ステップS118またはステップS112の処理が完了すると、ノイズ判定部110は、“k”の値をk+1に設定する(S124)。
【0123】
ノイズ判定部110は、上記ステップS112〜S124の処理を、“k”の値が“w”の値より小さい場合に限り繰り返す。
【0124】
“k”の値が“w”の値以上となった場合、ノイズ判定部110は、“k”の値をw+1に設定する(S126)。
【0125】
ステップS126の処理が完了すると、ノイズ判定部110は、“k”の値が“n”(数式7に示す“n”に対応する。)の値より小さく、かつ、後述するステップS128の処理後にステップS134の処理が行われない場合に限り、後述するステップS128、S130の処理を繰り返す。
【0126】
ノイズ判定部110は、“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいか否かを判定する(S128)。
【0127】
ステップS128において“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0128】
また、ステップS128において“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいと判定された場合には、ノイズ判定部110は、ノイズ判定部110は、“k”の値をk+1に設定する(S130)。
【0129】
“k”の値が“n”(数式7に示す“n”に対応する。)の値と等しくなった場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していると判定する(S132)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0130】
ノイズ判定部110は、リンギングノイズ候補分割領域ごとに、例えば図20に示す処理を行うことによって、リンギングノイズ候補分割領域にリンギングノイズが発生しているか否かを判定する。なお、本発明の実施形態に係るノイズ判定部110における処理が、図20に示す処理に限られないことは、言うまでもない。
【0131】
ノイズ検出部104は、例えば、自己相関係数算出部108とノイズ判定部110とを備えることによって、リンギングノイズ候補分割領域ごとに、リンギングノイズを検出する。
【0132】
再度図14を参照して、本発明の実施形態に係る画像処理装置100の構成の一例について説明する。ノイズ低減部106は、リンギングノイズが検出された分割領域ごとに、入力画像信号のノイズを低減する。
【0133】
ノイズ低減部106は、例えば、リンギングノイズが検出された分割領域における、ノイズ領域と判定された領域に対して平滑化を行うことによって、入力画像信号のノイズを低減する。上記のように、ノイズ領域と判定された領域に対して平滑化を行うことによって、ノイズ低減部106は、直線エッジに対して平滑化を行うことを防止することができる。よって、ノイズ低減部106が処理を行った結果得られる出力画像信号が示す画像では、エッジの鮮鋭度が落ちないことから、ノイズ低減処理に起因する画像のぼけは生じない。
【0134】
より具体的には、ノイズ低減部106は、例えば下記の数式10に示す演算を行うことによって、リンギングノイズが検出された分割領域と隣接する分割領域における画素値の平均値を、ノイズ領域と判定された領域に適用することによって、平滑化を行う。
【0135】
ここで、上述したノイズ検出部104における処理(より厳密には、例えば図20を参照して示した、ノイズ判定部110における処理)において、ノイズ領域と判定された領域と隣接する隣接分割領域には、輝度の振幅がないと判定されている。つまり、ノイズ低減部106は、隣接分割領域が、リンギングノイズが検出された分割領域と同一方向の直線エッジを含まない場合に、上記平均値を算出し、また、隣接分割領域が、リンギングノイズが検出された分割領域と同一方向の直線エッジを含む場合には、上記平均値を算出しない。
【0136】
よって、例えば下記の数式10に示す演算を行うことによって、ノイズ低減部106は、ノイズ領域と判定された領域に発生しているリンギングノイズを低減することができる。
【0137】
ここで、数式10に示す“R”は、ノイズ領域と判定された領域に含まれる画素に適用する画素値を示している。また、数式10に示す“(xi,yi)”は、隣接分割領域に含まれる画素における画素値を示しており、数式10に示す“N”は、隣接分割領域に含まれる画素数を示している。
【0138】
【数10】
・・・(数式10)
【0139】
ノイズ低減部106は、例えば上記のように、リンギングノイズが検出された分割領域ごとに、リンギングノイズが検出された分割領域と隣接する隣接分割領域の画素値の平均値を算出し、ノイズ領域と判定された領域(リンギングノイズが検出された分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域)の画素値を、算出された平均値に置き換える。なお、本発明の実施形態に係るノイズ低減部106における処理が、上記に限られないことは、言うまでもない。
【0140】
本発明の実施形態に係る画像処理装置100は、例えば、図14に示す構成によって、本発明の実施形態に係る画像処理方法に係る処理(直線エッジ検出処理、およびノイズ検出処理)を実現する。よって、画像処理装置100は、処理対象の画像信号に基づいて、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0141】
また、画像処理装置100は、リンギングノイズの発生要因に対応する処理によって検出したリンギングノイズの検出結果に基づきノイズ低減処理を行うので、必要以上にノイズ低減処理(例えば、平滑化処理)が行われることを防止することができる。よって、画像処理装置100は、リンギングノイズを低減しつつ、例えば画像のぼけなど、処理後の画像における画質の低下を防止することが可能であるので、高画質化を図ることができる。
【0142】
なお、本発明の実施形態に係る画像処理装置の構成が、図14に示す構成に限られないことは、言うまでもない。
【0143】
以上、本発明の実施形態として画像処理装置を挙げて説明したが、本発明の実施形態は、かかる形態に限られない。本発明の実施形態は、例えば、デジタルカメラなどの撮像装置や、PC(Personal Computer)やサーバなどのコンピュータ、テレビ受像機などの表示装置、携帯電話やスマートフォンなどの通信装置、映像/音楽再生装置(または映像/音楽記録再生装置)、ゲーム機など、画像信号の処理が可能な様々な機器に適用することができる。また、本発明の実施形態は、例えば、上記のような機器に組み込むことが可能な、画像処理IC(Integrated Circuit)に適用することもできる。
【0144】
(本発明の実施形態に係るプログラム)
コンピュータを、本発明の実施形態に係る画像処理装置として機能させるためのプログラム(例えば、直線エッジ検出処理、およびノイズ検出処理など、本発明の実施形態に係る画像処理方法に係る処理を実行することが可能なプログラム)によって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0145】
また、コンピュータを、図14に示すノイズ低減部104を備える画像処理装置として機能させるためのプログラム(例えば、さらにノイズ低減処理を実行することが可能なプログラム)によって、リンギングノイズを低減しつつ、例えば画像のぼけなど、処理後の画像における画質の低下を防止することができる。
【0146】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0147】
例えば、上記では、コンピュータを、本発明の実施形態に係る画像処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本発明の実施形態は、さらに、上記プログラムをそれぞれ記憶させた記録媒体も併せて提供することができる。
【符号の説明】
【0148】
100 画像処理装置
102 直線エッジ検出部
104 ノイズ検出部
106 ノイズ低減部
108 自己相関係数算出部
110 ノイズ判定部
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、およびプログラムに関する。
【背景技術】
【0002】
例えば、MPEG−2(ISO/IEC 13818)や、MPEG−4(ISO/IEC 14496)など、所定の符号化方式にて圧縮された画像が広く用いられている。例えば上記のような符号化方式が用いられる場合には、画像が非可逆に圧縮される。そのため、例えば上記のような符号化方式は、画像のデータ量の削減には有利であるが、その反面、例えばリンギングノイズ(Ringing Noise)などの符号化に起因するノイズ(歪み)が、画像をみるユーザに認識されてしまうことが起こりうる。
【0003】
このような中、符号化に起因するノイズの低減を図る技術が開発されている。符号化に起因するノイズの低減を図る技術としては、例えば、特許文献1に記載の技術や、特許文献2に記載の技術が挙げられる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−279709号公報
【特許文献2】特許第4084719号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
例えば特許文献1に記載の技術では、ブロック内の画素における画素値の最大値と最小値とが閾値以上の場合はエッジが存在するブロックとし、エッジが存在するブロック内において注目画素の画素値と、隣接する上下左右4画素における画素値の平均値との差が閾値以上の場合に、注目画素をノイズ画素と判定する。そして、例えば特許文献1に記載の技術では、注目画素の画素値を、隣接する上下左右4画素における画素値の平均値に置き換えることによって、ノイズを平滑化している。よって、リンギングノイズはエッジ周辺に発生する可能性が高いことから、例えば特許文献1に記載の技術を用いる場合には、リンギングノイズをある程度低減することができる可能性はある。
【0006】
しかしながら、例えば特許文献1に記載の技術では、注目画素に隣接する上下左右4画素における画素値の平均値で注目画素を平滑化するので、例えばリンギングノイズが直線エッジに平行して存在する場合には、注目画素に隣接する4画素のうち2画素がリンギングノイズを含むことから、ノイズが正しく平滑化されない。また、例えば特許文献1に記載の技術では、注目画素がエッジに対応する画素の場合であっても、当該注目画素の画素値を、当該注目画素の上下左右4画素における画素値の平均値で置き換えるので、本来存在するエッジの鮮鋭度が落ち、処理後の画像がぼやけることが起こりうる。
【0007】
また、例えば特許文献2に記載の技術では、処理対象の画像信号が示す画像において文字が含まれる文字領域を検出し、検出された文字領域の周辺に対して、エッジ以外の領域を平滑化するフィルタを用いることによって、ノイズを低減している。よって、例えば特許文献2に記載の技術を用いる場合には、リンギングノイズをある程度低減することができる可能性はある。
【0008】
しかしながら、例えば特許文献2に記載の技術では、同一輝度の画素数が、予め設定した文字サイズの閾値を超えずに連続した場合に文字領域として検出するため、処理対象の画像信号が示す画像において当該閾値を超える大きさの文字が存在したとしても、当該文字は文字とは認識されず、ノイズは低減されない。また、例えば特許文献2に記載の技術を用いたとしても、文字領域以外に発生するリンギングノイズを検出することはできず、また、文字領域以外に発生するリンギングノイズを低減することもできない。
【0009】
上記のように、例えば、特許文献1に記載の技術や、特許文献2に記載の技術を用いたとしても、画像信号が示す画像において発生しうるリンギングノイズを検出できるとは限らない。
【0010】
本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、処理対象の画像信号に基づいて、リンギングノイズを検出することが可能な、新規かつ改良された画像処理装置、画像処理方法、およびプログラムを提供することにある。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の第1の観点によれば、入力画像信号に基づいて、上記入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、を備える画像処理装置が提供される。
【0012】
かかる構成によって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0013】
また、上記ノイズ検出部は、直線エッジが検出された上記分割領域ごとに、輝度値に関する自己相関係数を算出する自己相関係数算出部と、算出された自己相関係数に基づいて、直線エッジが検出された上記分割領域においてリンギングノイズが発生しているかを判定するノイズ判定部とを備えてもよい。
【0014】
また、リンギングノイズが検出された上記分割領域ごとに、上記入力画像信号のノイズを低減するノイズ低減部をさらに備えてもよい。
【0015】
また、上記ノイズ低減部は、リンギングノイズが検出された上記分割領域ごとに、リンギングノイズが検出された上記分割領域と隣接する分割領域の画素値の平均値を算出し、リンギングノイズが検出された上記分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域の画素値を、算出された平均値に置き換えてもよい。
【0016】
また、上記ノイズ低減部は、上記隣接する分割領域が、リンギングノイズが検出された上記分割領域と同一方向の直線エッジを含まない場合に、上記平均値を算出し、上記隣接する分割領域が、リンギングノイズが検出された上記分割領域と同一方向の直線エッジを含む場合には、上記平均値を算出しなくてもよい。
【0017】
また、上記目的を達成するために、本発明の第2の観点によれば、入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップと、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップと、を有する画像処理方法が提供される。
【0018】
かかる方法を用いることによって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0019】
また、上記目的を達成するために、本発明の第3の観点によれば、入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップ、直線エッジが検出された上記分割領域ごとに、上記分割領域に対応する上記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップ、をコンピュータに実行させるためのプログラムが提供される。
【0020】
かかるプログラムを用いることによって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【発明の効果】
【0021】
本発明によれば、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【図面の簡単な説明】
【0022】
【図1】本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの一例を示す説明図である。
【図2】リンギングノイズの発生要因を説明するための説明図である。
【図3】リンギングノイズの発生要因を説明するための説明図である。
【図4】リンギングノイズの発生要因を説明するための説明図である。
【図5】リンギングノイズの発生要因を説明するための説明図である。
【図6】リンギングノイズの発生要因を説明するための説明図である。
【図7】リンギングノイズの発生要因を説明するための説明図である。
【図8A】リンギングノイズの発生要因を説明するための説明図である。
【図8B】リンギングノイズの発生要因を説明するための説明図である。
【図8C】リンギングノイズの発生要因を説明するための説明図である。
【図9】リンギングノイズの発生要因を説明するための説明図である。
【図10A】リンギングノイズの発生要因を説明するための説明図である。
【図10B】リンギングノイズの発生要因を説明するための説明図である。
【図10C】リンギングノイズの発生要因を説明するための説明図である。
【図11】リンギングノイズの発生要因を説明するための説明図である。
【図12A】リンギングノイズの発生要因を説明するための説明図である。
【図12B】リンギングノイズの発生要因を説明するための説明図である。
【図12C】リンギングノイズの発生要因を説明するための説明図である。
【図13】リンギングノイズの発生要因を説明するための説明図である。
【図14】本発明の実施形態に係る画像処理装置の構成の一例を示すブロック図である。
【図15A】本発明の実施形態に係る直線エッジ検出部における処理の一例を説明するための説明図である。
【図15B】本発明の実施形態に係る直線エッジ検出部における処理の一例を説明するための説明図である。
【図16】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図17】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図18】本発明の実施形態に係るノイズ検出部における処理の結果の一例を示す説明図である。
【図19】本発明の実施形態に係るノイズ検出部における処理の一例を説明するための説明図である。
【図20】本発明の実施形態に係るノイズ検出部における処理の一例を示す流れ図である。
【発明を実施するための形態】
【0023】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0024】
(本発明の実施形態に係る画像処理方法)
本発明の実施形態に係る画像処理装置の構成について説明する前に、本発明の実施形態に係る画像処理方法について説明する。また、以下では、本発明の実施形態に係る画像処理装置が、処理対象の画像信号(以下、「入力画像信号」と示す場合がある。)に対して、本発明の実施形態に係る画像処理方法に係る処理を行うものとして説明する。
【0025】
ここで、本発明の実施形態に係る入力画像信号としては、例えばMPEG−2(ISO/IEC 13818)や、MPEG−4(ISO/IEC 14496)など、非可逆の符号化方式により符号化された動画像(または、複数の静止画像)を示す画像信号が挙げられる。以下では、本発明の実施形態に係る画像処理装置が、フレーム画像(静止画像)からなる動画像を示す画像信号を処理するものとして説明する。ここで、本発明の実施形態に係るフレーム画像とは、例えば、動画像の1フレーム(動画像がインタレース画像の場合には、1フィールドに対応する。)に対応する画像である。以下では、本発明の実施形態に係る画像処理装置が、時間順に1フレームずつ入力される画像信号を処理する場合を例に挙げて説明する。
【0026】
また、本発明の実施形態に係る画像処理装置は、例えば、本発明の実施形態に係る画像処理装置がテレビ塔などから送信された放送波を(直接的、またはセットトップボックスなどを介して間接的に)受信してデコードした結果得られる画像信号を、入力画像信号として処理する。なお、本発明の実施形態に係る画像処理装置が処理する入力画像信号は、上記に限られない。例えば、本発明の実施形態に係る画像処理装置は、ネットワークを介して(または直接的に)外部装置から送信された入力画像信号を処理することも可能である。また、本発明の実施形態に係る画像処理装置は、例えば、記憶部(後述する)や、本発明の実施形態に係る画像処理装置から着脱可能な外部記録媒体に記憶された画像データをデコードすることにより得られた画像信号を処理してもよい。さらに、本発明の実施形態に係る画像処理装置が、例えば、動画像を撮像することが可能な撮像部(後述する)を備えている場合、すなわち、本発明の実施形態に係る画像処理装置が撮像装置として機能する場合には、本発明の実施形態に係る画像処理装置は、例えば、当該撮像部(後述する)により撮像された動画像に対応する画像信号を処理してもよい。
【0027】
図1は、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの一例を示す説明図である。リンギングノイズは、符号化に起因して画像をみるユーザに認識されるノイズの一種であり、リンギングノイズとは、例えば図1のAに示すように、主に直線エッジに平行して発生する、白から黒(または、黒から白)へと変化する画像信号の波形が「波うつように」振動する現象をいう。
【0028】
[1]リンギングノイズの発生要因
図2〜図13は、リンギングノイズの発生要因を説明するための説明図である。本発明の実施形態に係る画像処理方法に係る処理について説明する前に、まず、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズの発生要因について説明する。なお、以下では、MPEG−2(ISO/IEC 13818)により符号化される画像信号、すなわち、8×8画素のブロックにて符号化される画像信号を例に挙げて、リンギングノイズの発生要因について説明する。
【0029】
図2は、MPEG−2(ISO/IEC 13818)に係るエンコード(符号化)とデコード(復号)との処理の一例を示している。図2に示すように、符号化前の画像信号は、DCT(Discrete Cosine Transform。離散コサイン変換)された後に、量子化され、エントロピー符号化されることによって、エンコードがなされる。
【0030】
DCT(二次元DCT)では、符号化前の画像信号に対して、8×8画素のブロックごとに、下記の数式1に示す演算が行われ、DCT係数F(u,v)が算出される。ここで、数式1に示す“f(x,y)”は、符号化前の画像信号が示す画像を示している。また、数式1に示す“u”、“v”は、u=0、v=0のときに直流成分を示し、値が大きくなる程、高い周波数を示す。また、数式1に示す“C(u)”、“C(v)”は、それぞれ下記の数式2、数式3で表される。
【0031】
【数1】
・・・(数式1)
【0032】
【数2】
・・・(数式2)
【0033】
【数3】
・・・(数式3)
【0034】
図3は、8×8DCTの基底パターンを画像化したものである。図3に示す各パターンは、周波数成分を表している。
【0035】
エンコードされた画像信号は、エントロピー復号化され、逆量子化された後、IDCT(Inverse Discrete Cosine Transform。逆離散コサイン変換)されることによって、デコードがなされる。
【0036】
IDCTでは、エンコードされた画像信号に対して、8×8画素のブロックごとに、下記の数式4に示す演算が行われ、復号後の画像信号f(x,y)が得られる。また、数式4に示す“C(u)”は、上記数式2で表され、また、数式4に示す“C(v)”は、上記数式3で表される。
【0037】
【数4】
・・・(数式4)
【0038】
MPEG−2(ISO/IEC 13818)では、例えば図2に示すような処理が行われることによって、エンコード(符号化)とデコード(復号)とが行われる。ここで、図2に示す量子化とは、DCT処理において上記数式1により算出されるDCT係数に対して、情報量を削減するために行われる処理である。量子化処理が行われることによって、丸めによる量子化誤差が発生し、当該量子化誤差が、リンギングノイズの発生要因となる。
【0039】
以下、より具体的に、量子化処理に起因するリンギングノイズの発生について説明する。図4は、MPEG−2(ISO/IEC 13818)において用いられる一般的な量子化テーブルの一例を示している。
【0040】
MPEG−2(ISO/IEC 13818)では、上記数式1により算出したDCT係数に、図4で示す量子化テーブル(QT(x,y))と、圧縮率を調整する量子化スケール(QS)によって、量子化が行われる。ここで、量子化スケールQSの値が大きければ大きい程、量子化処理において情報量がより削減される。量子化Q(x,y)は、例えば下記の数式5で表される。
【0041】
【数5】
・・・(数式5)
【0042】
また、図4に示す逆量子化は、上記数式5の逆関数であり、例えば下記の数式6で表される。なお、数式6で表される“F’(u,v)”と、数式1で表される“F(u,v)”とは一致しない。一致しない理由は、量子化が行われることによって情報が失われているためである。つまり、逆量子化を行ったとしても、完全に数式1で表される“F(u,v)”を復元することはできない。
【0043】
【数6】
・・・(数式6)
【0044】
また、図2に示すエントロピー符号化、およびエントロピー復号化は、多値データを2値データに変換、逆変換する可逆的な処理である。エントロピー符号化処理、およびエントロピー復号化処理では、情報損失はないので、エントロピー符号化処理、およびエントロピー復号化処理は、処理後の信号が示す画像の画質に何らの影響を与えない。つまり、エントロピー符号化処理、およびエントロピー復号化処理は、リンギングノイズの発生要因とはならない。よって、エントロピー符号化処理、およびエントロピー復号化処理についての詳細な説明は省略する。
【0045】
リンギングノイズの発生要因について、図5〜図13を参照しつつ、数式1〜数式6に基づいてより具体的に説明する。
【0046】
図5は、エッジ画像の一例を示しており、図6は、図5に示すエッジ画像を輝度値に変換したものを示している。また、図7は、上記数式1によって、図6をDCT係数に変換したものを示している。
【0047】
図7を参照すると、図3に示した基底画像の(0,0)から(7,0)に非ゼロ係数が集中していることが分かる。これは、図5において示した垂直方向の直線エッジの周波数が、基底画像の(0,0)から(7,0)に該当するためである。また、図7において値がマイナスとなっているのは、例えば図3に示す基底画像(1,0)を例に挙げると、図3の左から高輝度の周波数から低輝度の周波数へと変化するように表されているのに対して、図5に示すエッジ画像では、図5の左から低輝度の周波数から高輝度の周波数へと変化するように表されているためである。
【0048】
数式1によってDCT処理が行われると、図2に示すように、数式4〜6によって、図7に示すDCT係数に対して、量子化処理、逆量子化処理、およびIDC処理が順次に行われる。
【0049】
(i)QS=1の場合
図8A〜図8C、および図9は、QS=1の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図8Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図8Bは、図8Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図8Cは、図8Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図9は、図8Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0050】
QS=1の場合には、図8Cに示す輝度値と図6に示す輝度値との間に、ほとんど差がないことが分かる。よって、QS=1の場合には、図9に示すように、リンギングノイズは発生していない。
【0051】
(ii)QS=8の場合
図10A〜図10C、および図11は、QS=8の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図10Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図10Bは、図10Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図10Cは、図10Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図11は、図10Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0052】
QS=8の場合には、図10Cに示す輝度値と図6に示す輝度値との間の誤差が大きくなる。つまり、QS=8の場合には、量子化処理、逆量子化処理、およびIDC処理が順次に行われた結果、高周波成分の誤差の影響を受けた画像信号が得られ、当該画像信号が示す画像は、図3に示す基底画像に近い輝度の段差を有することとなる。よって、QS=8の場合には、図11に示すように、IDCT処理後の画像信号が示す画像に、リンギングノイズが発生する。
【0053】
(iii)QS=24の場合
図12A〜図12C、および図13は、QS=24の場合における量子化処理、逆量子化処理、およびIDC処理の結果の一例を示している。ここで、図12Aは、図7に示すDCT係数に対して量子化処理を行った結果を示している。また、図12Bは、図12Aに示す量子化処理を行った結果に対して(より厳密には、エントロピー符号化処理、およびエントロピー復号化処理が行われたものに対して)逆量子化処理を行った結果を示している。また、図12Cは、図12Bに示す量子化処理を行った結果に対してIDCT処理を行った結果を示しており、図13は、図12Cに示すIDCT処理を行った結果の画像信号を画像化したものを示している。
【0054】
QS=24の場合には、QS=8の場合と同様に、図12Cに示す輝度値と図6に示す輝度値との間の誤差が大きくなる。つまり、QS=24の場合には、QS=8の場合と同様に、量子化処理、逆量子化処理、およびIDC処理が順次に行われた結果、高周波成分の誤差の影響を受けた画像信号が得られる。よって、QS=24の場合には、図13に示すように、IDCT処理後の画像信号が示す画像に、リンギングノイズが発生する。
【0055】
QSの値を大きく設定することによって情報量をより多く削減することが可能であるが、上記(i)〜(iii)に示すように、復元の際には、量子化の影響によって直線エッジと平行して誤差が生じ、結果として輝度の振幅が生じた画像が得られてしまう。そして、上記輝度の振幅こそが、リンギングノイズとして画像をみるユーザに認識されることとなる。
【0056】
[2]本発明の実施形態に係る画像処理方法に係る処理
上述したように、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズは、量子化誤差の影響により発生する。また、量子化処理は、符号化単位(例えば、MPEG−2(ISO/IEC 13818)で符号化される場合には、8×8画素のブロック単位)で行われることから、量子化誤差の影響は、符号化単位の領域内に限られる。
【0057】
また、本発明の実施形態に係る画像処理装置が検出する対象のリンギングノイズは、直線エッジの周辺において、輝度の振幅として捉えることが可能である。
【0058】
そこで、本発明の実施形態に係る画像処理装置は、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する(直線エッジ検出処理)。
【0059】
そして、本発明の実施形態に係る画像処理装置は、直線エッジが検出された分割領域それぞれについて、直線エッジの周辺における輝度の振幅に基づいて、リンギングノイズが存在するかを判定することによって、リンギングノイズを検出する(ノイズ検出処理)。より具体的には、本発明の実施形態に係る画像処理装置は、入力画像信号に含まれる繰り返しパターンを探すことに関して有効な指標である自己相関係数を用いて、直線エッジ周辺に発生する輝度の振幅が、DCT基底パターンに起因するリンギングノイズであるか否かを判定することによって、リンギングノイズを検出する。
【0060】
本発明の実施形態に係る画像処理装置は、上記のように、上述したリンギングノイズの発生要因に対応する処理(直線エッジ検出処理、およびノイズ検出処理)によって、リンギングノイズを検出する。
【0061】
したがって、本発明の実施形態に係る画像処理装置は、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0062】
また、本発明の実施形態に係る画像処理装置は、リンギングノイズの発生要因に対応する処理によってリンギングノイズを検出するので、本発明の実施形態に係るリンギングノイズの検出結果に基づき、リンギングノイズを低減する処理(以下、「ノイズ低減処理」と示す場合がある。)を行えば、必要以上にノイズ低減処理(例えば、平滑化処理)が行われることが防止される。よって、本発明の実施形態に係るリンギングノイズの検出結果に基づきノイズ低減処理が行われることによって、例えば画像のぼけなど、処理後の画像における画質の低下が防止される。
【0063】
以下、本発明の実施形態に係る画像処理装置の構成の一例について説明をすると共に、本発明の実施形態に係る画像処理方法に係る処理の具体例についても併せて説明する。
【0064】
また、以下では、本発明の実施形態に係る画像処理装置が、本発明の実施形態に係るリンギングノイズの検出結果に基づきノイズ低減処理を行う機能を有する場合を例に挙げて説明する。なお、本発明の実施形態に係る画像処理装置の構成は、ノイズ低減処理を行う機能を有する構成に限られない。例えば、本発明の実施形態に係る画像処理装置は、ノイズ低減処理を行う機能を有さずに、リンギングノイズの検出結果を示す検出信号(または、検出信号と入力画像信号)を、ノイズ低減処理を行う機能を有する外部装置に送信してもよい。
【0065】
また、以下では、入力画像信号が、MPEG−2(ISO/IEC 13818)により符号化される画像信号、すなわち、8×8画素のブロックにて符号化される画像信号である場合を例に挙げて、本発明の実施形態に係る画像処理装置の構成の一例、および本発明の実施形態に係る画像処理方法に係る処理の具体例について説明する。
【0066】
(本発明の実施形態に係る画像処理装置)
図14は、本発明の実施形態に係る画像処理装置100の構成の一例を示すブロック図である。画像処理装置100は、例えば、直線エッジ検出部102と、ノイズ検出部104と、ノイズ低減部106とを備える。
【0067】
また、画像処理装置100は、例えば、制御部(図示せず)や、ROM(Read Only Memory。図示せず)、RAM(Random Access Memory。図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)、外部装置と通信を行うための通信部(図示せず)、撮像部(図示せず)などを備えていてもよい。画像処理装置100は、例えば、データの伝送路としてのバスにより上記各構成要素間を接続する。
【0068】
ここで、制御部(図示せず)は、例えば、CPU(Central Processing Unit)や各種処理回路などで構成され、画像処理装置100全体を制御する。また、制御部(図示せず)は、例えば、直線エッジ検出部102、ノイズ検出部104、およびノイズ低減部106(または、これらのうちの1または2以上の部)の役目を果たしてもよい。なお、直線エッジ検出部102、ノイズ検出部104、およびノイズ低減部106は、各部の処理を実現可能な専用の(または汎用の)処理回路で構成されていてもよいことは、言うまでもない。
【0069】
また、制御部(図示せず)は、例えば、ノイズ低減処理が行われた画像信号(以下、「出力画像信号」と示す。)をエンコードして、記憶部(図示せず)に記録する、および/または、出力画像信号が示す画像を表示部(図示せず)や外部表示装置の表示画面に表示させるなど、出力画像信号に対する処理を行う役目を果たしてもよい。
【0070】
ROM(図示せず)は、制御部(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部(図示せず)により実行されるプログラムなどを一時的に記憶する。
【0071】
記憶部(図示せず)は、画像処理装置100が備える記憶手段であり、例えば、画像データや、アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、画像処理装置100から着脱可能であってもよい。
【0072】
操作部(図示せず)としては、例えば、ボタンや、方向キー、あるいは、これらの組み合わせなどが挙げられる。また、画像処理装置100は、例えば、画像処理装置100の外部装置としての操作入力デバイス(例えば、キーボードやマウスなど)と接続することもできる。
【0073】
表示部(図示せず)としては、例えば、液晶ディスプレイ(Liquid Crystal Display;LCD)や有機ELディスプレイ(organic ElectroLuminescence display)などが挙げられる。なお、表示部(図示せず)は、例えばタッチスクリーンなどのように、表示とユーザ操作とが可能なデバイスであってもよい。また、画像処理装置100は、表示部(図示せず)の有無に関わらず、画像処理装置100の外部装置としての表示デバイス(例えば、外部ディスプレイなど)と接続することもできる。
【0074】
通信部(図示せず)は、画像処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、外部装置と無線/有線で通信を行う。ここで、通信部(図示せず)としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11bポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。また、本発明の実施形態に係るネットワークとしては、例えば、LANやWAN(Wide Area Network)などの有線ネットワーク、無線LAN(WLAN;Wireless Local Area Network)や基地局を介した無線WAN(WWAN;Wireless Wide Area Network)などの無線ネットワーク、あるいは、TCP/IP(Transmission Control Protocol/Internet Protocol)などの通信プロトコルを用いたインターネットなどが挙げられる。
【0075】
撮像部(図示せず)は、静止画像または動画像を撮像する役目を果たす。撮像部(図示せず)を備える場合には、画像処理装置100は、例えば、撮像部(図示せず)における撮像により生成された画像信号を処理することが可能である。
【0076】
ここで、本発明の実施形態に係る撮像部(図示せず)としては、例えば、レンズ/撮像素子と信号処理回路とから構成される撮像デバイスが挙げられる。レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサとで構成される。また、信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換し、各種信号処理を行う。信号処理回路が行う信号処理としては、例えば、White Balance補正処理、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理などが挙げられる。
【0077】
以下、図14に示す本発明の実施形態に係る画像処理装置100の構成例について説明しつつ、画像処理装置100における処理(画像処理方法に係る処理)の一例について説明する。
【0078】
直線エッジ検出部102は、上記直線エッジ検出処理を主導的に行う役目を果たし、入力画像信号に基づいて、分割領域ごとに直線エッジを検出する。
【0079】
ここで、直線エッジ検出部102は、例えば、入力画像信号をデコードしたデコーダからブロック境界の情報を取得し、当該ブロック境界の情報が示すブロック境界に対応する領域を分割領域とするが、直線エッジ検出部102における分割領域の認識方法は、上記に限られない。例えば、直線エッジ検出部102は、例えば、8×8画素の矩形の領域や16×16画素の矩形の領域など、予め規定された大きさの領域を分割領域とすることも可能である。また、直線エッジ検出部102は、例えば制御部(図示せず)などの他の構成要素が判別した符号化単位に基づいて、分割領域を認識してもよい。
【0080】
図15A、図15Bは、本発明の実施形態に係る直線エッジ検出部102における処理の一例を説明するための説明図である。ここで、図15Aに示すA〜D、および図15Bに示すA〜Dそれぞれは、分割領域を示している。また、図15Aに示すE、および図15Bに示すEは、エッジの検出に係る閾値処理の一例を示している。
【0081】
直線エッジ検出部102は、図15Aに示すA〜Dに示すように、分割領域内を所定の位置(例えば、図15Aに示す分割領域における左上の位置)から水平方向(例えば、図15Aに示す(1)の方向)に2画素ずつ検索する。また、直線エッジ検出部102は、例えば図15AのEに示すように、2画素の輝度差が予め規定された閾値Th1より大きい場合(または、閾値Th1以上の場合)には、図15Bに示すA〜Dに示すように、当該2画素の位置に対して、さらに垂直方向(例えば、図15Bに示す(2)の方向)に2画素ずつ検索する。
【0082】
そして、直線エッジ検出部102は、分割領域の垂直方向の全画素(図15Bの例では、8画素)における隣接する画素の輝度差が、予め規定された閾値Th2より小さい場合(または、閾値Th2以下の場合)には、当該分割領域に垂直方向の直線エッジが存在すると判定する。
【0083】
また、直線エッジ検出部102は、図15A、図15Bに示す方法によって垂直方向の直線エッジが検出されなかった場合には、水平方向の直線エッジを、上記図15A、図15Bに示す方法と同様の方法によって、検出する。
【0084】
直線エッジ検出部102は、例えば上記のような処理を、分割領域ごとに行うことによって、直線エッジを検出する。そして、直線エッジ検出部102は、検出結果を示す検出信号をノイズ検出部104へ伝達する。直線エッジ検出部102が直線エッジを検出することによって、画像処理装置100は、リンギングノイズが存在する可能性のある分割領域である、リンギングノイズ候補分割領域を特定することができる。
【0085】
なお、本発明の実施形態に係る直線エッジ検出部102における、直線エッジの検出処理は、上記に限られない。例えば、直線エッジ検出部102は、分割領域において垂直方向の直線エッジ(または、水平方向の直線エッジ)が1つ見つかったら当該分割領域における処理を終了することに限られず、複数の垂直方向の直線エッジ(または、水平方向の直線エッジ)を検出してもよい。また、直線エッジ検出部102は、垂直方向のエッジと、水平方向のエッジとを検出可能な任意の方法を用いて、分割領域ごとに直線エッジを検出することができる。
【0086】
再度図14を参照して、本発明の実施形態に係る画像処理装置100の構成の一例について説明する。ノイズ検出部104は、上記ノイズ検出処理を主導的に行う役目を果たし、リンギングノイズ候補分割領域(すなわち、直線エッジが検出された分割領域。以下、同様とする。)ごとに、リンギングノイズ候補分割領域に対応する入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出する。
【0087】
図16は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図16は、垂直方向の直線エッジが検出された分割領域の一例を示している。
【0088】
ノイズ検出部104は、リンギングノイズ候補分割領域内における直線エッジ以外の領域を、ノイズ候補領域として設定する。そして、ノイズ検出部104は、設定したノイズ候補領域にリンギングノイズが発生しているかを判定する。
【0089】
より具体的には、ノイズ検出部104は、例えば、自己相関係数算出部108と、ノイズ判定部110とを備えることによって、リンギングノイズを検出する。
【0090】
自己相関係数算出部108は、リンギングノイズ候補分割領域ごとに、輝度値に関する自己相関係数を算出する。ここで、本発明の実施形態に係る自己相関係数とは、隣接する画素(または、画素群)の相関を示す係数である。また、本発明の実施形態に係る自己相関係数は、信号に含まれる繰り返しパターンを探すのに有用であるため、リンギングノイズの検出に適している。
【0091】
図17は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図17は、自己相関係数算出部108における処理の一例を示している。
【0092】
自己相関係数算出部108は、例えば下記の数式7の演算を行うことによって、自己相関係数afc(k)を算出する。自己相関係数afc(k)は、−1.0〜1.0の間の実数値をとる。また、自己相関係数afc(k)は、1.0に近い値をとるときには、正の相関があり、−1.0に近い値をとるときには、負の相関があることを示している。
【0093】
ここで、数式7に示す“xi”は、輝度値を示す。また、数式7に示す“n”は、図17に示すように、ノイズ候補領域における直線エッジと直交する直線上に存在する画素数と、リンギングノイズ候補分割領域と隣接する分割領域(より具体的には、ノイズ候補領域と隣接する分割領域)における、当該直交する直線上に存在する画素数との総和の画素数を示す。また、数式7に示す“k”は、数式7の“n”により表される画素群における基準位置からの距離(以下、「ラグ」と示す。)を示す。上記基準位置としては、例えば直線エッジが存在する位置が挙げられる。また、数式7に示す“x1’”は、下記の数式8で表され、“x2’”は、下記の数式9で表される。
【0094】
【数7】
・・・(数式7)
【0095】
【数8】
・・・(数式8)
【0096】
【数9】
・・・(数式9)
【0097】
図18は、本発明の実施形態に係るノイズ検出部104における処理の結果の一例を示す説明図である。ここで、図18は、自己相関係数算出部108が、図10Bに示すQS=8の場合における出力結果に対して、数式7に示す演算を行った結果を示している。
【0098】
自己相関係数算出部108は、リンギングノイズ候補分割領域ごとに、数式7に示す演算を行い、例えば図18に示すような演算結果をノイズ判定部110に伝達する。なお、自己相関係数算出部108は、例えば、リンギングノイズ候補分割領域と隣接する分割領域が、当該リンギングノイズ候補分割領域と同一方向の直線エッジを含む分割領域である場合には、当該リンギングノイズ候補分割領域に対する処理を行わなくてもよい。
【0099】
ノイズ判定部110は、算出された自己相関係数に基づいて、リンギングノイズ候補分割領域(直線エッジが検出された分割領域)においてリンギングノイズが発生しているかを判定する。
【0100】
図19は、本発明の実施形態に係るノイズ検出部104における処理の一例を説明するための説明図である。ここで、図19は、図18に示す自己相関係数算出部108における演算結果と同一の演算結果を示している。
【0101】
ノイズ判定部110は、ノイズ候補領域内に輝度の振幅が発生してることを判定することによって、リンギングノイズが発生しているかを判定する。ノイズ判定部110は、例えば、ノイズ候補領域内の自己相関係数に振幅があり、隣接分割領域の自己相関係数に振幅がなければ、ノイズ候補領域にリンギングノイズが発生していると判定する。
【0102】
より具体的には、ノイズ判定部110は、ノイズ候補領域の画素数を“w”とし、数式7により算出された自己相関係数afc(k)と自己相関係数afc(k+1)との差を、w画素分算出する。また、ノイズ判定部110は、算出した上記差が、予め設定した閾値Th_Upper以上である場合(または、閾値Th_Upperより大きい場合)に、隣接分割領域に対応する画素w+1〜nまでの振幅を調べる。ここで、本発明の実施形態に係る閾値Th_Upperは、例えば、固定値であってもよいし、画像処理装置100のユーザが変更可能な可変値であってもよい。
【0103】
そして、ノイズ判定部110は、隣接分割領域における自己相関係数afc(k)と自己相関係数afc(k+1)との差が、予め設定した閾値Th_Lower以下の場合(または、閾値Th_Lowerより小さい場合)に、ノイズ候補領域を、リンギングノイズが存在するノイズ領域と判定する。ここで、本発明の実施形態に係る閾値Th_Lowerは、例えば、固定値であってもよいし、画像処理装置100のユーザが変更可能な可変値であってもよい。
【0104】
図20は、本発明の実施形態に係るノイズ検出部104における処理の一例を示す流れ図である。以下では、図20に示す処理を、ノイズ検出部104を構成するノイズ判定部110が行う場合を例に挙げて、ノイズ検出部104における処理の一例について説明する。ここで、図20は、リンギングノイズ候補分割領域におけるノイズ候補領域ごとの処理の一例を示している。
【0105】
ノイズ判定部110は、“k”の値を0(ゼロ)に設定する(S100)。そして、ノイズ判定部110は、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいか否かを判定する(S102)。
【0106】
ステップS102において、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいと判定された場合には、ノイズ判定部110は、“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいか否かを判定する(S104)。
【0107】
ステップS104において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0108】
また、ステップS104において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を0(ゼロ)に設定する(S106)。
【0109】
ステップS102において、“afc(k)−afc(k+1)”の値が0(ゼロ)より大きいと判定されない場合には、ノイズ判定部110は、“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいか否かを判定する(S108)。
【0110】
ステップS108において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0111】
また、ステップS108において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を1に設定する(S110)。
【0112】
ステップS106またはステップS110の処理が完了すると、ノイズ判定部110は、“k”の値が“w”の値より小さい場合に限り、後述するステップS112〜S124までの処理を繰り返す。
【0113】
ノイズ判定部110は、“k”の値が0(ゼロ)ではないか否かを判定する(S112)。
【0114】
ステップS112において“k”の値が0(ゼロ)ではないと判定されない場合には、ノイズ判定部110は、“k”の値をk+1に設定する(S124)。
【0115】
また、ステップS112において“k”の値が0(ゼロ)ではないと判定された場合には、ノイズ判定部110は、“flg”の値が0(ゼロ)であるか否かを判定する(S114)。
【0116】
ステップS114において、“flg”の値が0(ゼロ)であると判定された場合には、ノイズ判定部110は、“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいか否かを判定する(S116)。
【0117】
ステップS116において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0118】
また、ステップS116において“afc(k+1)−afc(k)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を1に設定する(S118)。
【0119】
ステップS114において、“flg”の値が0(ゼロ)であると判定されない場合には、ノイズ判定部110は、“afc(k)−afc(k+)”の値が閾値Th_Upperより大きいか否かを判定する(S120)。
【0120】
ステップS120において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0121】
また、ステップS120において“afc(k)−afc(k+1)”の値が閾値Th_Upperより大きいと判定された場合には、ノイズ判定部110は、“flg”の値を0(ゼロ)に設定する(S122)。
【0122】
ステップS118またはステップS112の処理が完了すると、ノイズ判定部110は、“k”の値をk+1に設定する(S124)。
【0123】
ノイズ判定部110は、上記ステップS112〜S124の処理を、“k”の値が“w”の値より小さい場合に限り繰り返す。
【0124】
“k”の値が“w”の値以上となった場合、ノイズ判定部110は、“k”の値をw+1に設定する(S126)。
【0125】
ステップS126の処理が完了すると、ノイズ判定部110は、“k”の値が“n”(数式7に示す“n”に対応する。)の値より小さく、かつ、後述するステップS128の処理後にステップS134の処理が行われない場合に限り、後述するステップS128、S130の処理を繰り返す。
【0126】
ノイズ判定部110は、“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいか否かを判定する(S128)。
【0127】
ステップS128において“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいと判定されない場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していないと判定する(S134)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0128】
また、ステップS128において“afc(k)−afc(k+1)の絶対値”の値が、閾値Th_Lowerより小さいと判定された場合には、ノイズ判定部110は、ノイズ判定部110は、“k”の値をk+1に設定する(S130)。
【0129】
“k”の値が“n”(数式7に示す“n”に対応する。)の値と等しくなった場合には、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域にリンギングノイズが発生していると判定する(S132)。そして、ノイズ判定部110は、処理対象のリンギングノイズ候補分割領域に対する処理を終了する。
【0130】
ノイズ判定部110は、リンギングノイズ候補分割領域ごとに、例えば図20に示す処理を行うことによって、リンギングノイズ候補分割領域にリンギングノイズが発生しているか否かを判定する。なお、本発明の実施形態に係るノイズ判定部110における処理が、図20に示す処理に限られないことは、言うまでもない。
【0131】
ノイズ検出部104は、例えば、自己相関係数算出部108とノイズ判定部110とを備えることによって、リンギングノイズ候補分割領域ごとに、リンギングノイズを検出する。
【0132】
再度図14を参照して、本発明の実施形態に係る画像処理装置100の構成の一例について説明する。ノイズ低減部106は、リンギングノイズが検出された分割領域ごとに、入力画像信号のノイズを低減する。
【0133】
ノイズ低減部106は、例えば、リンギングノイズが検出された分割領域における、ノイズ領域と判定された領域に対して平滑化を行うことによって、入力画像信号のノイズを低減する。上記のように、ノイズ領域と判定された領域に対して平滑化を行うことによって、ノイズ低減部106は、直線エッジに対して平滑化を行うことを防止することができる。よって、ノイズ低減部106が処理を行った結果得られる出力画像信号が示す画像では、エッジの鮮鋭度が落ちないことから、ノイズ低減処理に起因する画像のぼけは生じない。
【0134】
より具体的には、ノイズ低減部106は、例えば下記の数式10に示す演算を行うことによって、リンギングノイズが検出された分割領域と隣接する分割領域における画素値の平均値を、ノイズ領域と判定された領域に適用することによって、平滑化を行う。
【0135】
ここで、上述したノイズ検出部104における処理(より厳密には、例えば図20を参照して示した、ノイズ判定部110における処理)において、ノイズ領域と判定された領域と隣接する隣接分割領域には、輝度の振幅がないと判定されている。つまり、ノイズ低減部106は、隣接分割領域が、リンギングノイズが検出された分割領域と同一方向の直線エッジを含まない場合に、上記平均値を算出し、また、隣接分割領域が、リンギングノイズが検出された分割領域と同一方向の直線エッジを含む場合には、上記平均値を算出しない。
【0136】
よって、例えば下記の数式10に示す演算を行うことによって、ノイズ低減部106は、ノイズ領域と判定された領域に発生しているリンギングノイズを低減することができる。
【0137】
ここで、数式10に示す“R”は、ノイズ領域と判定された領域に含まれる画素に適用する画素値を示している。また、数式10に示す“(xi,yi)”は、隣接分割領域に含まれる画素における画素値を示しており、数式10に示す“N”は、隣接分割領域に含まれる画素数を示している。
【0138】
【数10】
・・・(数式10)
【0139】
ノイズ低減部106は、例えば上記のように、リンギングノイズが検出された分割領域ごとに、リンギングノイズが検出された分割領域と隣接する隣接分割領域の画素値の平均値を算出し、ノイズ領域と判定された領域(リンギングノイズが検出された分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域)の画素値を、算出された平均値に置き換える。なお、本発明の実施形態に係るノイズ低減部106における処理が、上記に限られないことは、言うまでもない。
【0140】
本発明の実施形態に係る画像処理装置100は、例えば、図14に示す構成によって、本発明の実施形態に係る画像処理方法に係る処理(直線エッジ検出処理、およびノイズ検出処理)を実現する。よって、画像処理装置100は、処理対象の画像信号に基づいて、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0141】
また、画像処理装置100は、リンギングノイズの発生要因に対応する処理によって検出したリンギングノイズの検出結果に基づきノイズ低減処理を行うので、必要以上にノイズ低減処理(例えば、平滑化処理)が行われることを防止することができる。よって、画像処理装置100は、リンギングノイズを低減しつつ、例えば画像のぼけなど、処理後の画像における画質の低下を防止することが可能であるので、高画質化を図ることができる。
【0142】
なお、本発明の実施形態に係る画像処理装置の構成が、図14に示す構成に限られないことは、言うまでもない。
【0143】
以上、本発明の実施形態として画像処理装置を挙げて説明したが、本発明の実施形態は、かかる形態に限られない。本発明の実施形態は、例えば、デジタルカメラなどの撮像装置や、PC(Personal Computer)やサーバなどのコンピュータ、テレビ受像機などの表示装置、携帯電話やスマートフォンなどの通信装置、映像/音楽再生装置(または映像/音楽記録再生装置)、ゲーム機など、画像信号の処理が可能な様々な機器に適用することができる。また、本発明の実施形態は、例えば、上記のような機器に組み込むことが可能な、画像処理IC(Integrated Circuit)に適用することもできる。
【0144】
(本発明の実施形態に係るプログラム)
コンピュータを、本発明の実施形態に係る画像処理装置として機能させるためのプログラム(例えば、直線エッジ検出処理、およびノイズ検出処理など、本発明の実施形態に係る画像処理方法に係る処理を実行することが可能なプログラム)によって、処理対象の画像信号に基づいて、リンギングノイズを検出することができる。
【0145】
また、コンピュータを、図14に示すノイズ低減部104を備える画像処理装置として機能させるためのプログラム(例えば、さらにノイズ低減処理を実行することが可能なプログラム)によって、リンギングノイズを低減しつつ、例えば画像のぼけなど、処理後の画像における画質の低下を防止することができる。
【0146】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0147】
例えば、上記では、コンピュータを、本発明の実施形態に係る画像処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本発明の実施形態は、さらに、上記プログラムをそれぞれ記憶させた記録媒体も併せて提供することができる。
【符号の説明】
【0148】
100 画像処理装置
102 直線エッジ検出部
104 ノイズ検出部
106 ノイズ低減部
108 自己相関係数算出部
110 ノイズ判定部
【特許請求の範囲】
【請求項1】
入力画像信号に基づいて、前記入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、
を備えることを特徴とする、画像処理装置。
【請求項2】
前記ノイズ検出部は、
直線エッジが検出された前記分割領域ごとに、輝度値に関する自己相関係数を算出する自己相関係数算出部と、
算出された自己相関係数に基づいて、直線エッジが検出された前記分割領域においてリンギングノイズが発生しているかを判定するノイズ判定部と、
を備えることを特徴とする、請求項1に記載の画像処理装置。
【請求項3】
リンギングノイズが検出された前記分割領域ごとに、前記入力画像信号のノイズを低減するノイズ低減部をさらに備えることを特徴とする、請求項1、または2に記載の画像処理装置。
【請求項4】
前記ノイズ低減部は、
リンギングノイズが検出された前記分割領域ごとに、リンギングノイズが検出された前記分割領域と隣接する分割領域の画素値の平均値を算出し、
リンギングノイズが検出された前記分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域の画素値を、算出された平均値に置き換えることを特徴とする、請求項3に記載の画像処理装置。
【請求項5】
前記ノイズ低減部は、
前記隣接する分割領域が、リンギングノイズが検出された前記分割領域と同一方向の直線エッジを含まない場合に、前記平均値を算出し、
前記隣接する分割領域が、リンギングノイズが検出された前記分割領域と同一方向の直線エッジを含む場合には、前記平均値を算出しないことを特徴とする、請求項4に記載の画像処理装置。
【請求項6】
入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップと、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップと、
を有することを特徴とする、画像処理方法。
【請求項7】
入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップ、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップ、
をコンピュータに実行させるためのプログラム。
【請求項1】
入力画像信号に基づいて、前記入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出する直線エッジ検出部と、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するノイズ検出部と、
を備えることを特徴とする、画像処理装置。
【請求項2】
前記ノイズ検出部は、
直線エッジが検出された前記分割領域ごとに、輝度値に関する自己相関係数を算出する自己相関係数算出部と、
算出された自己相関係数に基づいて、直線エッジが検出された前記分割領域においてリンギングノイズが発生しているかを判定するノイズ判定部と、
を備えることを特徴とする、請求項1に記載の画像処理装置。
【請求項3】
リンギングノイズが検出された前記分割領域ごとに、前記入力画像信号のノイズを低減するノイズ低減部をさらに備えることを特徴とする、請求項1、または2に記載の画像処理装置。
【請求項4】
前記ノイズ低減部は、
リンギングノイズが検出された前記分割領域ごとに、リンギングノイズが検出された前記分割領域と隣接する分割領域の画素値の平均値を算出し、
リンギングノイズが検出された前記分割領域における、検出された直線エッジに基づき設定されるリンギングノイズを含む領域の画素値を、算出された平均値に置き換えることを特徴とする、請求項3に記載の画像処理装置。
【請求項5】
前記ノイズ低減部は、
前記隣接する分割領域が、リンギングノイズが検出された前記分割領域と同一方向の直線エッジを含まない場合に、前記平均値を算出し、
前記隣接する分割領域が、リンギングノイズが検出された前記分割領域と同一方向の直線エッジを含む場合には、前記平均値を算出しないことを特徴とする、請求項4に記載の画像処理装置。
【請求項6】
入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップと、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップと、
を有することを特徴とする、画像処理方法。
【請求項7】
入力画像信号に基づいて、入力画像信号が示す画像が符号化単位に分割された分割領域ごとに、直線エッジを検出するステップ、
直線エッジが検出された前記分割領域ごとに、前記分割領域に対応する前記入力画像信号の輝度信号の振幅に基づいて、リンギングノイズを検出するステップ、
をコンピュータに実行させるためのプログラム。
【図2】
【図4】
【図6】
【図7】
【図8A】
【図8B】
【図8C】
【図10A】
【図10B】
【図10C】
【図12A】
【図12B】
【図12C】
【図14】
【図15A】
【図15B】
【図18】
【図19】
【図20】
【図1】
【図3】
【図5】
【図9】
【図11】
【図13】
【図16】
【図17】
【図4】
【図6】
【図7】
【図8A】
【図8B】
【図8C】
【図10A】
【図10B】
【図10C】
【図12A】
【図12B】
【図12C】
【図14】
【図15A】
【図15B】
【図18】
【図19】
【図20】
【図1】
【図3】
【図5】
【図9】
【図11】
【図13】
【図16】
【図17】
【公開番号】特開2013−106213(P2013−106213A)
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願番号】特願2011−249162(P2011−249162)
【出願日】平成23年11月14日(2011.11.14)
【出願人】(598045058)株式会社サムスン横浜研究所 (294)
【Fターム(参考)】
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願日】平成23年11月14日(2011.11.14)
【出願人】(598045058)株式会社サムスン横浜研究所 (294)
【Fターム(参考)】
[ Back to top ]