説明

画像処理装置および画像処理方法

【課題】画像の圧縮処理と色変換処理を同時に行うことにより、著しく画質を損なうことなく色変換対象の画素数を削減できるようにし、処理の高速化を図る。
【解決手段】高周波成分処理部では、必要であれば非常に簡単な(すなわち計算量が少ない)色変換を低画質色変換部21にて施した後、高周波成分計算部22で周波数変換を施す。低周波成分処理部では、まずLPF(低周波通過フィルタ)23と、サブサンプリング部24による間引き処理とによって、原画像をサブサンプリングし、画素数の少ない縮小画像を得る。この縮小画像に対して高度な(すなわち計算量の多い)色変換を高画質色変換部25によって施す。そして、低周波成分計算部27にて、色変換後の縮小画像に対して周波数変換を施す。この周波数変換によって得られた値は合成部27に送られ、高周波成分計算部22で得られた周波数成分値に低域成分の値として使用される。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は入出力デバイス等に応じて画像データの色変換処理を行う機能を有する画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】カラープリンタ、カラーディスプレイ、カラースキャナ等の画像入出力装置においては、各々の物理特性のばらつきのため、原画像のRGB等の信号を直接使用することができないのが一般的であり、そのため、入出力の前に各々の特性に合わせた色変換を行う必要がある。
【0003】また、人の顔をきれいに見せるために肌色系の色に少し赤みを加えると言った、単に見栄えを良くするために色変換を行う場合もある。実際にはさらにRGB→CMYKといった色空間変換も行われる場合も多い。
【0004】一般に、このような変換によって高画質を得るためには単純な線形変換では不充分であり、色変換テーブルと多次式の組み合わせによって行われる。色変換の方式は大まかに分類すると(a)数式による変換(b)変換テーブル参照による変換(LUT)
(c)変換テーブル参照と数式の組み合わせによる変換の3種類がある。
【0005】(a)数式による変換数式による変換の最も単純な例として、
【0006】
【数1】


【0007】といった1次元の変換式が考えられる。すなわち原画素の各色の値(R,G,B)の1次式に変換係数annを掛けて補正画素値(R′,G′,B′)を得る。
【0008】この式(1)の計算量を乗算回数で数えると9回であるが、これを全画素(N個とする)に対して適用する必要があるので、全体では9N回の乗算が必要になる。
【0009】色空間上のあらゆる点において満足な色変換をしたい、という現実の用途に耐えるためには、このような1次元の変換では十分な画質が得られないため、高次の項を導入する必要があるが、それにより計算量は著しく増大する。
【0010】例えば2次の項を導入しただけでも、
【0011】
【数2】


【0012】というように、1画素あたり27回の乗算が必要になる。
【0013】現実にはこれでも不満足な場合が多いため、数式のみによる色変換が採用されることは稀である。
【0014】(b)テーブル参照方式全ての色に対して個別に変換色を定義したテーブルを参照する方法である。
【0015】あらゆる変換が可能である利点がある反面、テーブルの大きさが膨大になるという欠点がある。例えば24ビットの色空間では、224x24ビットすなわち48MByteのテーブルが必要になる。
【0016】(c)変換テーブル参照と数式の組み合わせによる変換色空間上でサンプリングした代表色(例えばR,G,Bそれぞれを16等分割する点など)について変換テーブルを用意しておき、その他の色については近傍の代表色数個から数式を用いて算出する方式。
【0017】テーブルの大きさが小さく済み、数式で補完する領域が小さいため比較的簡単な数式で良好な色変換が可能である。
【0018】現実にはこの方式が多く採用されており、色空間の分割方法や近傍点の選出方法、補完方法などでさまざまな方式が提案されている。ただし、この方式をもってしても、全画素に対して少なくとも数回ずつの乗算/除算を行う必要は避けられず、なお計算量が非常に多いという問題は無くならず、さらに高速な方式が望まれている。
【0019】ところで、最近では、画像データサイズの低減等の目的から、JPEGなどの圧縮方式が広く利用されている。JPEGは、ISOとITUにより規格化されている、多階調画像(カラー画像を含む)の圧縮方式である。
【0020】
【発明が解決しようとする課題】しかし、現在、画像圧縮技術と色変換技術は全く別個のものとして扱われており、現実の用途においても、出力系:圧縮画像→(伸張)→原画像→(色変換)→出力用画像入力系:入力画像→(色変換)→原画像(圧縮)→圧縮画像というように、逐次的に処理されている。例えば、プリンタを例にとると、(1)JPEG圧縮された画像を伸張した後、(2)色変換を施して出力する、という逐次的な処理が行われている。
【0021】このように画像の圧縮・伸張と色変換の処理を別々に行った場合、色変換は圧縮前または伸張後の画素数の多い生の画像データに対して施されるため、色変換の処理に多くの処理時間が必要となる。画像の入出力処理では、さらに圧縮・伸張処理に要する時間が加わるので、それに要する時間は膨大となる。
【0022】本発明は上述の事情に鑑みてなされたものであり、画像の圧縮・伸張処理と色変換処理を同時に行うことにより、著しく画質を損なうことなく色変換対象の画素数を削減できるようにし、非常に高速な処理を実現することが可能な画像処理装置および画像処理方法を提供することを目的とする。
【0023】
【課題を解決するための手段】上述の課題を解決するため、本発明は、周波数変換を用いて画像データを圧縮符号化する画像処理装置において、原画像データをサブサンプリングして縮小画像データを作成する縮小画像作成手段と、前記縮小画像作成手段によって得られた縮小画像データを色変換する色変換手段と、前記色変換手段によって色変換された後の縮小画像データに対して周波数変換を施し、その変換結果を前記原画像データの低域周波数成分値として求める第1の周波数変換手段と、前記原画像データに対して周波数変換を施し、その変換結果を用いて前記原画像データの高域周波数成分値を求める第2の周波数変換手段と、前記第1の周波数変換手段によって求められた低域周波数成分値と前記第2の周波数変換手段によって求められた高域周波数成分値とを合成して、前記原画像データの周波数成分値を生成する手段とを具備することを特徴とする。
【0024】この画像処理装置の処理は、低域周波数成分値を求める処理と、高域周波数成分値を求める処理とに分けられる。低域周波数成分値を求める処理では、まず、サブサンプリングによって得られた画素数の少ない縮小画像に対して色変換を行った後、その色変換後の画像に対してDCT(離散コサイン変換)やウェーブレット(Wavelet)変換による周波数変換(直交変換)が施され、その周波数変換によって得られた縮小画像の周波数成分値が原画像の低域周波数成分値として求められる。一方、高域周波数成分値を求める処理では、色変換処理は行われず、原画像データに対して周波数変換が直接的に施され、その周波数変換によって得られた周波数成分値が原画像の高域周波数成分値として求められる。そして、これら低域周波数成分値と高域周波数成分値とを合成することにより、高域および低域の双方を含む原画像の周波数成分値が求められる。この合成は、例えばDCTを使用する場合を例に取ると、色変換せずに原画像データに対して周波数変換を施すことによって得られた8x8のDCT係数の内、低域周波数成分を構成する左上側のいくつかのDCT係数を、縮小画像から得られた周波数成分値に置き換えること等によって容易に実現することが出来る。
【0025】このように周波数変換処理を低域周波数成分側と高域周波数成分側とに分け、高域周波数成分に対しては色変換を行わず、画質に対する影響の大きい低域周波数成分に対してのみ色変換処理を施すという、圧縮・色変換同時処理方式により、色変換対象の画素数を減らすことが出来るようになり、画質を損なうことなく処理の高速化を図ることが可能となる。
【0026】また、本発明は、周波数変換を用いて圧縮符号化された画像データを復号する画像処理装置において、前記圧縮符号化された画像データを復号して、その周波数成分値を求める手段と、前記圧縮符号化された画像データの周波数成分値の中から低域周波数成分値を抽出し、その抽出した低域周波数成分値に対して逆周波数変換を施すことによって縮小画像データを生成する第1の画像データ生成手段と、前記第1の画像データ生成手段によって得られた縮小画像データを色変換する色変換手段と、前記色変換手段によって色変換された後の縮小画像データを元の画像データサイズに復元する画像サイズ復元手段と、前記低域周波数成分値を除外した状態で、前記圧縮符号化された画像データの周波数成分値に対して逆周波数変換を施すことによって画像データを生成する第2の画像データ生成手段と、前記画像サイズ復元手段によって得られた画像データと前記第2の画像データ生成手段によって得られた画像データとを合成して、前記圧縮符号化された画像データの復号画像を生成する手段とを具備することを特徴とする。
【0027】このように、圧縮符号化された画像の伸張処理を行う際にも、逆周波数変換処理を低域周波数成分側と高域周波数成分側とに分け、高域周波数成分に対しては色変換を行わず、画質に対する影響の大きい低域周波数成分に対してのみ色変換処理を施すという、伸張・色変換同時処理方式を用いることにより、色変換対象の画素数を減らすことが出来るようになり、画質を損なうことなく処理の高速化を図ることが可能となる。
【0028】画像データの周波数成分値を低域側と高域側とに分割するための境界は予め固定的に決定しておけばよいが、さらに、高域側の周波数成分値の中に所定のしきい値よりも高レベルの周波数成分値が存在するか否かを検出し、所定のしきい値よりも高レベルの周波数成分値が存在する場合には、その周波数成分値の空間位置に応じて境界を動的に変更するという、機能を設けることが好ましい。これにより、高域周波数成分に色変換を施さないことによる色変換誤差の影響を低減でき、より高画質の画像を得ることが可能となる。
【0029】また、階層符号化された画像データを復号する際には、解像度の異なる複数の画像データの内、高解像度の画像データから得られた復号画像データに対しては色変換を行わず、低解像度の画像データから得られた復号画像データに対してのみ色変換処理を施し、そしてそれら復号画像データを合成するという、簡単な処理のみで、画質を損なうことなく、処理の高速化を図ることができる。
【0030】
【発明の実施の形態】以下、図面を参照して本発明の実施形態を説明する。
[第1実施形態]図1には、本発明の第1実施形態に係る画像処理装置の構成が示されている。ここでは、スキャナ11とホストコンピュータ12とから構成されるカラースキャナシステムを例示して説明する。カラースキャナ11のメカ部13で読み取られたカラー画像データは色変換圧縮モジュール14に処理対象の原画像データとして送られ、そこで色変換処理と圧縮処理を同時に行う色変換・圧縮処理が実行される。色変換処理では、カラースキャナ11のデバイス特性に合った色補正を行うための色変換や、人の好みに応じた画像を得るための色変換、あるいはCMY−RGBの間で色空間を変換するための色変換などが行われる。また、圧縮処理では、JPEGなどによる圧縮方式で画像データの圧縮符号化が行われる。
【0031】色変換圧縮モジュール14によって得られた圧縮画像データは記録媒体や通信媒体を介してホストコンピュータ15に送られ、そのホストコンピュータ15内のディスク装置15などに記録される。ディスク装置15に記録された圧縮画像データはアプリケーションプログラムに渡され、ディスプレイやプリンタなどの出力装置に出力される。なお、色変換圧縮モジュール14はホストコンピュータ12側にあってもよい。
【0032】色変換圧縮モジュール14による色変換圧縮処理では、周波数変換(DCT,Wavelet変換等)を用いて画像を圧縮する際に、高周波成分を計算するときは入力画像の値を色変換せずに、もしくは非常に単純な変換を用い、低周波成分を計算するときにはLPF(Low Pass Filter)と間引きとによるサブサンプリングによって画素数を削減し、そのサブサンプリングされた縮小画像に対して色変換処理を施し、得られた画像に対して通常の計算を行う、という方式が用いられる。
【0033】(JPEG)ここで、図2および図3を用いて、周波数変換(DCT,Wavelet変換等)を用いた画像圧縮処理の原理について説明する。図2はDCTの基底関数(1次元8画素の場合)を示しており、また図3はWavelet変換の基底関数(1次元8画素の場合)と基底周波数スペクトルを示している。
【0034】前述したように、JPEGは多階調画像(カラー画像を含む)の圧縮方式であり、その方式の根幹として、周波数変換(直交変換)であるDCT(Descrete Cosine Transform,離散コサイン変換)を採用している。周波数変換は、空間的な「位置」に対するレベルの集合である原画像を、「変化の度合い」ごとのレベルの集合に変換する。すなわち、より緩やかな変化を表す「低周波成分」(図2:より左上の関数)と急峻な変化を表す「高周波成分」(図2:より右下の関数)の和に分解し、それぞれに掛ける係数の集合で表現する手法である。
【0035】画像の圧縮に周波数変換を用いる主な理由として、次の2点がある。
【0036】(a)自然画像を周波数変換すると、低周波成分に高レベルが集中し、高周波成分はほとんど0付近になるという性質がある。この性質を利用し、連続する0をランレングス的に符号化することにより、圧縮効果が得られる。
【0037】(b)人間の視覚特性として、高周波成分が欠落してもほとんど気付かないという性質がある。したがって、高周波成分は大きく量子化して情報量を削減してしまっても現実上問題にならない。また、これによって0付近の値が全て0に収束され、上記(a)の効果がさらに上がる。
【0038】(階層符号化モード)JPEGでは、画質を上げるためのオプションとして、階層化モードも定義されている。
【0039】JPEGでは、計算量の削減のため、画像を8x8画素のブロックに分割し、各ブロックにDCTをかけている。このため、圧縮率を上げると1ブロックが1画素のように見えてしまうブロックノイズが発生する。階層化モードは次の手順でこれを抑制する。
【0040】(1)原画像に適切なLPFをかけた後、縦横とも4:1でサブサンプリング(標本化)し、これによって1/16のサイズの縮小画像を作成する。
【0041】(2)出来上がった1/16サイズの縮小画像を8x8画素のブロックに分割し、DCTをかけて圧縮する。これによって、低解像度(4:1)の圧縮画像を得る。
【0042】(3)1/16のサイズの縮小画像を原サイズに復元した画像と原画像との差分画像を作り、適切なLPFをかけたあと縦横とも2:1にサブサンプリングして、1/4のサイズの縮小画像を作成する。これにDCTをかけて圧縮する。これによって、2:1の圧縮画像を得る。
【0043】(4)1/4のサイズの縮小画像を原サイズに復元した画像と原画像との差分画像を作り、同様にDCTをかけて圧縮する。これによって、高解像度(1:1)の圧縮画像を得る。
【0044】以上の処理により、実質的に32x32画素のブロックの処理ということになり、ブロックノイズが低減される。
【0045】(Wavelet変換を用いた画像圧縮)現在のJPEGではサポートされていないが、2000年に規格化予定のJPEG2000では、DCTに代わってWavelet変換が採用される予定となっている。
【0046】Wavelet変換は、正弦波の代わりに図3(a)(b)に示すような、空間的にも周波数的にも局在性の良い関数を選び、それらのスケーリングとシフトで構成される基底関数を用いる。
【0047】DCTでの係数が周波数成分のみを持つのに対し、Wavelet変換の係数は、低周波成分については周波数情報を多く持ち、高周波成分については空間情報(位置情報)を多く持つという特性がある。原画像、DCT、Wavelet変換の空間情報・周波数情報の分解能力を直感的に理解するための図を図4に示す。
【0048】Wavelet変換を用いると圧縮率の向上が期待できるほか、対象画素数が大きくなっても変換のための計算量がDCTほどは増加しないため、明示的にブロック分割を行う必要がなくなるという効果がある。
【0049】(色変換圧縮モジュール)次に、図1の色変換圧縮モジュール14の構成について説明する。
【0050】図1に示されているように、色変換圧縮モジュール14は、低画質色変換部21、高周波成分計算部22、LPF23、サブサンプリング部24、高画質色変換部25、低周波成分計算部26、合成部27、および符号生成部28から構成されている。色変換圧縮モジュール14では、周波数変換処理は、高周波成分側と低周波成分側とに分けて行われる。図中、上側にある低画質色変換部21および高周波成分計算部22が高周波成分用の処理部である。低画質色変換部21は必要な応じて設けられるものであり、無くてもよい。下側にあるLPF23、サブサンプリング部24、高画質色変換部25、低周波成分計算部26が高周波成分用の処理部である。
【0051】原画像は、高周波成分を処理する部分(上部分)と低周波成分を処理する部分(下部分)に渡される。高周波成分処理部では、必要であれば非常に簡単な(すなわち計算量が少ない)色変換を低画質色変換部21にて施した後、高周波成分計算部22で周波数変換を施す。
【0052】低周波成分処理部では、まずLPF(低周波通過フィルタ)23と、サブサンプリング部24による間引き処理とによって、原画像をサブサンプリングし、画素数の少ない縮小画像を得る。この縮小画像に対して高度な(すなわち計算量の多い)色変換を高画質色変換部25によって施す。そして、低周波成分計算部27にて、色変換後の縮小画像に対して周波数変換を施す。この周波数変換によって得られた値は、低域周波数成分値として合成部27に送られる。
【0053】合成部27では、高周波成分計算部22で得られた周波数成分値の中の高域側の周波数成分値と、低周波成分計算部27で得られた低域周波数成分値とが合成され、高域および低域の双方を含む原画像の周波数成分値が求められる。そして、符号生成部28によって量子化、可変長符号化などの処理が施されることにより、圧縮画像が生成される。
【0054】図5には、周波数変換としてDCTを使用した場合の色変換・圧縮処理の具体例が示されている。
【0055】原画像の8x8画素のブロック(1)は高周波成分処理部および低周波成分処理部にそれぞれ送られる。高周波成分処理部では、8x8画素のブロック(1)に対してDCTが施され、8x8のDCT係数(2)が求められる。低周波成分処理部では、8x8画素のブロック(1)がLPFと間引きによってサブサンプリングされ、例えば4x4の縮小画像(3)が作成される。4x4の縮小画像(3)に対して色変換処理(4)が施され、色変換後の4x4の縮小画像(5)が作成される。色変換後の4x4の縮小画像(5)にはDCTが施され、4x4のDCT係数(6)が求められる。4x4のDCT係数(6)は、8x8のDCT係数(2)の内で低域周波数成分を構成する左上側の4x4のDCT係数として、8x8のDCT係数(2)に埋め込まれる。この合成処理によって、高域および低域の双方を含む原画像の8x8のDCT係数(7)が作成される。
【0056】以上の処理は8x8画素のブロック毎に繰り返し実行される。
【0057】このように周波数変換処理を低域周波数成分側と高域周波数成分側とに分け、高域周波数成分に対しては色変換を行わず、画質に対する影響の大きい低域周波数成分に対してのみ色変換処理を施すという、圧縮・色変換同時処理方式により、色変換対象の画素数を減らすことが出来るようになり、画質を損なうことなく処理の高速化を図ることが可能となる。
【0058】(DCTにおける低周波成分・高周波成分分割例)図6に、DCTの場合の低周波成分と高周波成分の分割例を示す。
【0059】8x8画素のブロックをDCTで変換した場合、前述したように周波数領域でも8x8個の成分になる。図6の各桝目が1個の周波数成分を表し、右にあるものほど横方向に高周波、下にあるものほど縦方向に高周波の成分になる。すなわち、左上ほど低周波成分、右下ほど高周波成分を表している。
【0060】各小図では、斜線の成分が色変換対象となる低周波成分を示している。
【0061】図6の(a)(b)の例は、正方形で低周波と高周波を切り分ける方法を示している。(a)は図5で説明した例に相当するものであり、縦横とも最高周波数の1/2以下の周波数の成分を色変換対象として選定する。これらの成分を計算する場合、前述のように、2:1のサブサンプリングによって原画像から1/4サイズの縮小画像を得て、それを色変換した後の画像をDCTによって変換すればよい。この場合、LPFは縦横とも最高周波数の1/2以下の周波数を通すものを利用することが好ましい。このように2:1のサブサンプリング画像に対して色変換を施した後、周波数成分を計算してやれば、色変換に関する計算量は1/4(縦,横それぞれ1/2)で済むことになる。同様に(b)では、4:1サブサンプリングが可能であり、計算量は1/16となる。
【0062】(c)のように2の階乗でないところに境界を設けることも原理的には可能であるが、この場合のサンプリングレートは4:3であり、サンプリング処理自体に補完処理が必要になるので(x=3/4の座標の値はx=1とx=2の値から補完して計算する必要がある)、あまり効率は良くない。
【0063】(d)は長方形に選ぶ方法で、横方向の情報に特別な意味がある場合などに有効である。この場合の色変換計算量は縦が1/4、横が1/2、あわせて1/8となる。
【0064】(e)は三角形に選ぶ方法で、理論的な計算量は(a)と変わらず、画質はやや劣ることになるが、LPEGの符号生成の際にこの順でランレングス的な符号化を行うので、実装上では有効な場合もある。
【0065】(Wavelet変換における低周波成分・高周波成分分割例)図7は、Wavelet変換を用いる場合の低周波成分・高周波成分の分割例である。
【0066】図中の実線は周波数を区切り、破線は同周波数内の空間位置を区切っている。図は8x8画素の場合の成分を示しているが、Wavelet変換ではブロック分割は必ずしも必要ではないので、実際に扱う係数はもっと大きな正方形または長方形となる。
【0067】低周波成分の選び方は基本的にはDCTと同じであり、正方形,長方形,三角形等が考えられる。基本的には実線部分に境界を持たせることになる。破線部分に境界を持たせるのも全く無意味ではなく、画像を部分的に高画質にしたいときに有効である。例えば(b)の例では、画像の中心部分がより高画質になる。
【0068】なお、画質については、次の2つの理由から、従来の全画素色変換よりも劣ることになる。
【0069】(1)高周波成分に色変換を適用しないため、この分の補正誤差がでる。
【0070】(2)サブサンプリング画像を原画像サイズに復元する際に、間の画素がLPFで補完されるが、色変換自体は線形変換ではないため、正確な補正色が補完されるわけではない。例えば、色変換前の2:1サンプリング画像において隣接する画素の色が(100,0,0)と(110,0,0)であり、これらの色変換後の値が(102,0,0)と(114,0,0)であると仮定した場合、復元される中間点の画素の値は提案方式では例えば(108,0,0)となるが、厳密には(105,0,0)に対する変換色が入るべきであり、それが(108,0,0)とは限らない。
【0071】しかし、(1)に関しては、「高周波成分は元々値が小さい」「高周波成分の誤差は人間には知覚されにくい」という性質から、現実に問題になるほどの誤差ではなく、また(2)についても、一般的には近傍色は変換色も近傍色になるため、サンプル間の色の変化量の絶対値が大きくなければほとんど問題にならない誤差となる。
【0072】[第2実施形態]図8には、本発明の第2実施形態に係る画像処理装置の構成が示されている。ここでは、ホストコンピュータ31とカラープリンタ32とから構成されるカラープリンタシステムを例示して説明する。ホストコンピュータ31のディスク装置33には、アプリケーションプログラムによって作成された画像や、スキャナ、カメラなどの入力装置によって入力された画像データがJPEGなどによって圧縮符号化された状態で保存されている。この圧縮画像データは記録媒体や通信媒体を介してカラープリンタ32の色変換伸張モジュール34に送られる。色変換伸張モジュール34はホスト側にあっても良い。
【0073】色変換伸張モジュール34では、圧縮画像データに対して色変換処理と伸張処理を同時に行うという色変換・伸張処理が施される。色変換処理では、カラープリンタ32のデバイス特性に合った色補正を行うための色変換や、人の好みに応じた画像を得るための色変換、あるいはRGB−CMYの間で色空間を変換するための色変換などが行われる。また、伸張処理ではJPEGなどによる圧縮方式で圧縮されている画像データの復号化が行われ、これによって印刷画像が作成される。この印刷画像がプリンタメカ部35に送られて、そこでプリントアウトされる。
【0074】色変換伸張モジュール34による色変換伸張処理では、周波数変換を用いて圧縮された画像を伸張する際に、低周波成分を伸張するときには逆周波数変換(逆DCT)によってサブサンプリング画像を得て、得られた画像に対して色変換処理を施し、高周波成分を伸張するときには色変換を行わない、という方式が用いられる。
【0075】(色変換伸張モジュール)色変換伸張モジュール34は、図示のように、復号生成部41、高周波成分復元部42、低周波成分復元部43、高画質色変換部44、画像サイズ復元部45、および合成部46から構成されている。
【0076】圧縮符号化された画像データはまず復号生成部41にて可変長復号化、逆量子化などの処理が施され、周波数成分値(DCT係数等)に復号される。周波数成分値は、高周波復元処理部(上部分)と低周波復元処理部(下部分)にそれぞれ渡される。高周波成分復元部42では、周波数成分値から低周波成分が除外された状態で逆周波数変換が行われ、これにより、高周波成分の周波数成分値に対応する画像が復元される。低周波成分少画像復元部42では、まず周波数成分値の中から低周波成分のみが抽出され、その低周波成分の周波数成分値に対して逆周波数変換が行われる。これにより、画素数の少ない縮小画像が復元される。縮小画像は高画質色変換部44にて高度な(すなわち計算量の多い)色変換が施された後、画像サイズ復元部45に送られ、そこで適切なLPFおよび補間処理を受けて原画像のサイズに復元される。
【0077】2つの流れで作成された画像を合成部46で合成することで、最終的な復元画像が得られる。低周波成分・高周波成分の分割方法やその効果については実施形態1と同様である。
【0078】図9には、周波数変換としてDCTを使用した場合の色変換・伸張処理の具体例が示されている。
【0079】圧縮符号化された画像データの8x8のDCT係数(1)は高周波成分処理部および低周波成分処理部にそれぞれ送られる。高周波成分処理部では、まず、8x8のDCT係数(1)の中の例えば左上の4x4のDCT係数を全て0に置き換えることなどによって、低周波成分を除外した8x8のDCT係数(2)が生成される。低周波成分を除外した8x8のDCT係数(2)に対して逆DCTを施すことにより、8x8画素のブロック画像(3)が復元される。低周波成分処理部では、8x8のDCT係数(1)の中から低周波成分を抽出する処理が行われ、左上の4x4のDCT係数(4)のみが取り出される。4x4のDCT係数(4)に対して4x4の逆DCTを施すことにより、4x4画素の縮小画像(5)が生成される。4x4の縮小画像(5)に対して色変換処理(6)が施され、そして、その色変換後の4x4の縮小画像を補間によって拡大することにより、8x8画素のブロック画像(7)が復元される。8x8画素のブロック画像(3)と(7)とを加算することにより、最終的な復元画像(8)が得られる。
【0080】以上の処理は8x8のDCT係数のブロック毎に繰り返し実行される。
【0081】このように、圧縮符号化された画像の伸張処理を行う際にも、逆周波数変換処理を低域周波数成分側と高域周波数成分側とに分け、高域周波数成分に対しては色変換を行わず、画質に対する影響の大きい低域周波数成分に対してのみ色変換処理を施すという、伸張・色変換同時処理方式を用いることにより、色変換対象の画素数を減らすことが出来るようになり、画質を損なうことなく処理の高速化を図ることが可能となる。
【0082】[第3実施形態]次に、階層化モードによって階層符号化された画像データを色変換・伸張処理する場合の方式を第3実施形態として説明する。
【0083】この場合、図8の色変換伸張モジュール34には、図10のように、3つの復号・逆DCT部51,52,53と、高画質色変換部54と、画像サイズ復元部55と、図示しない合成部とから構成される。
【0084】階層化モードで送受信されるデータは、図11に示すように、複数のサンプリングレートの画像で構成される。4:1の低解像度の圧縮画像データは復号・逆DCT部51で復号処理され、4:1の低解像度画像に復元される。同様に、2:1の中解像度の圧縮画像データと1:1の高解像度の圧縮画像データは復号・逆DCT部52,53でそれぞれ復号処理され、2:1の中解像度差分画像と1:1の高解像度差分画像に復元される。
【0085】本方式では、サンプリング密度のより低い画像(4:1と2:1画像など)に対しては色変換を適用し、サンプリング密度の高い画像(1:1画像)に対しては適用しない。すなわち、4:1の低解像度画像についてのみ、あるいは4:1の低解像度画像と2:1の中解像度差分画像に対しては、高画質色変換部54にて高度な色変換が施される。そして、色変換後の画像が画像サイズ復元部55にて原画像大に復元される。これらの画像を合成部にて加算することにより、完全な復元画像を得ることができる。
【0086】合成の手法は何通りか考えられる。2:1の中解像度画像の復元は、4:1の低解像度画像を2:1に拡大した画像と2:1の中解像度差分画像との加算によって得られる。この2:1の中解像度画像を1:1に拡大した画像と1:1の高解像度差分画像との加算によって、1:1の完全な復元画像を得ることができる。
【0087】[第4実施形態]次に、第4実施形態として、第2実施形態の色変換伸張モジュール34に適用されるサンプリングレート切換方式について説明する。
【0088】この場合、図12に示されているように、色変換伸張モジュール34には周波数成分分割決定部61が追加される。周波数成分分割決定部61は、基本的には、圧縮符号化された画像データの周波数成分値を予め決められた境界で低域側と高域側とに分割するためのものであるが、本例ではその境界を処理対象の画像に合わせて変更する処理が行われる。
【0089】すなわち、実施形態2の方式では、実施形態1と同様の手法を用いることにより低周波成分と高周波成分の分割を固定的に行っていた。高周波成分に色変換を適用しないことによって色変換誤差が生じることはすでに述べたが、高周波成分が大きいほど色誤差が大きくなる傾向がある。
【0090】そこで、本方式では、高周波成分が大きいブロック(8x8等のブロック)について色変換の対象画素数を増やす方法を取る。
【0091】具体的な手順の例を以下に示す。
【0092】まず、標準の低周波成分を図13(a)の斜線部のように取る。他の高域周波数成分に大きなDCT係数値がなければこのまま分割し、この場合の色変換対象画像は縦横とも4:1、計算量は1/16である。
【0093】ここで、図13(b)の塗りつぶし域に大きな値がある場合、図13(b)の斜線領域を低周波成分と分類する。この場合の色変換対象画像は縦4:1、横2:1の画像となり、計算量は1/8となる。すなわち、大きい値を持つ成分を囲む長方形で囲むように低周波成分を選択する。図13(c)の太線で示した境界線でサンプリング間隔が変化するので、これに沿って長方形を選択しても良い。
【0094】高周波成分の大きさの判定としては・各成分ごとにしきい値と比較する、・各部分長方形内の値の和(もしくは2乗和)としきい値を比較する、などがある。実際はカラー画像なので8x8マトリックスはブロックごとに3個づつ存在するので(Y,Cr,Cb)、それらの間で和を取る方法もある。
【0095】このようにして、周波数成分分割決定部61ではブロック毎に動的に境界位置が決定される。
【0096】[第5実施形態]次に、第5実施形態として、第2実施形態の色変換伸張モジュール34に適用されるサンプリングレート切換方式(Wavelet)を説明する。
【0097】図14にサンプリングレート切換方式(Wavelet変換)を適用した色変換伸張モジュール34の構成を示す。色変換伸張モジュール34には、第2実施形態の構成に加え、成分分割・レート決定部62が追加される。
【0098】成分分割・レート決定部62による処理は基本的には実施形態4と同じで、高周波成分が大きい値を持つ場合は色変換対象領域を増やす制御を行う。Wavelet変換の場合は、DCTの8x8ブロック等のような固定的な空間分割は行われず、成分自体が個々に空間上のある領域に対応するため、DCTよりも柔軟な切り分けが可能になる。
【0099】図15は、成分分割の例を示したもので、簡単のため1次元16画素の例を示している。
【0100】標準の低周波部分を順斜線(//の斜線)とし、塗りつぶし部分に大きい値の高周波成分が存在するとする。順斜線の成分は低周波復元部分に渡し、4:1のサンプリングレートで色変換を施した後、原画像サイズに復元する。さらに、塗りつぶし部分の係数とそれと同じ位置を含むより低周波よりの成分(逆斜線部分)も低周波復元部分に渡され、色変換を施し(逆斜線部分も含めて復元しないと色変換が正しく計算ができない)、当該部分を原画像サイズに復元する。この部分画像で、上で復元した低域成分の画像の該当部分を置きかえる。図15の例では、左から11番目,12番目の画素を置きかえる。(実際にはWaveletの基底関数の選び方によって該当部分の範囲は異なる。)他の部分(白部分)は高周波復元部分に渡し、色変換を施さない。
【0101】このように、大きい値の高周波成分が存在する場合には、それに対応する空間位置の周波数成分値についても色変換対象に含めるように境界を変更することにより、重要な部分については高い精度の色変換を施すことができる。
【0102】なお、以上の各実施形態で説明した色変換・圧縮処理、色変換・伸張処理はハードウェア/ソフトウェアのどちらで実現することもできる。ソフトウェアで実現した場合、その処理手順はブロック図で説明した処理の流れに対応することになる。また、色変換のパラメータはデバイスの特性に合わせて予め決定しておけばよいが、ユーザからの操作に応じてそのパラメータを変更できるように機能を持たせておくことにより、ユーザの好みに応じた色変換を行うことが可能となる。
【0103】
【発明の効果】以上説明したように、本発明によれば、画像の圧縮・伸張処理と色変換処理を同時に行うことにより、著しく画質を損なうことなく色変換対象の画素数を削減できるようになり、非常に高速な処理を実現することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る画像処理装置の構成例を示すブロック図。
【図2】同実施形態の画像処理装置で使用されるDCTの基底関数を説明するための図。
【図3】同実施形態の画像処理装置で使用されるWavelet変換の基底関数を説明するための図。
【図4】同実施形態の画像処理装置で使用されるWavelet変換の特徴を説明するための図。
【図5】同実施形態の画像処理装置における色変換・圧縮処理の手順を説明するための図。
【図6】同実施形態の画像処理装置における低周波成分と高周波成分の第1の分割例を示す図。
【図7】同実施形態の画像処理装置における低周波成分と高周波成分の第2の分割例を示す図。
【図8】本発明の第2実施形態に係る画像処理装置の構成例を示すブロック図。
【図9】同実施形態の画像処理装置における色変換・伸張処理の手順を説明するための図。
【図10】本発明の第3実施形態に係る画像処理装置の構成例を示すブロック図。
【図11】同実施形態で伸張処理の対象となる階層符号化された画像データの構造を示す図。
【図12】本発明の第4実施形態に係る画像処理装置の構成例を示すブロック図。
【図13】同実施形態における低周波/高周波境界決定処理方式を説明するための図。
【図14】本発明の第5実施形態に係る画像処理装置の構成例を示すブロック図。
【図15】同実施形態における低周波/高周波境界決定処理方式を説明するための図。
【符号の説明】
14…色変換圧縮モジュール
21…低画質色変換部
22…高周波成分計算部
23…LPF
24…サブサンプリング部
25…高画質色変換部
26…低周波成分計算部
27…合成部
28…符号生成部
34…色変換伸張モジュール
41…復号生成部
42…高周波成分復元部
43…低周波成分少画素復元部
44…高画質色変換部
45…画像サイズ復元部
46…合成部

【特許請求の範囲】
【請求項1】 周波数変換を用いて画像データを圧縮符号化する画像処理装置において、原画像データをサブサンプリングして縮小画像データを作成する縮小画像作成手段と、前記縮小画像作成手段によって得られた縮小画像データを色変換する色変換手段と、前記色変換手段によって色変換された後の縮小画像データに対して周波数変換を施し、その変換結果を前記原画像データの低域周波数成分値として求める第1の周波数変換手段と、前記原画像データに対して周波数変換を施し、その変換結果を用いて前記原画像データの高域周波数成分値を求める第2の周波数変換手段と、前記第1の周波数変換手段によって求められた低域周波数成分値と前記第2の周波数変換手段によって求められた高域周波数成分値とを合成して、前記原画像データの周波数成分値を生成する手段とを具備することを特徴とする画像処理装置。
【請求項2】 前記縮小画像作成手段は、低域通過型フィルタと間引き処理によって原画像データをサブサンプリングすることを特徴とする請求項1記載の画像処理装置。
【請求項3】 周波数変換を用いて圧縮符号化された画像データを復号する画像処理装置において、前記圧縮符号化された画像データを復号して、その周波数成分値を求める手段と、前記圧縮符号化された画像データの周波数成分値の中から低域周波数成分値を抽出し、その抽出した低域周波数成分値に対して逆周波数変換を施すことによって縮小画像データを生成する第1の画像データ生成手段と、前記第1の画像データ生成手段によって得られた縮小画像データを色変換する色変換手段と、前記色変換手段によって色変換された後の縮小画像データを元の画像データサイズに復元する画像サイズ復元手段と、前記低域周波数成分値を除外した状態で、前記圧縮符号化された画像データの周波数成分値に対して逆周波数変換を施すことによって画像データを生成する第2の画像データ生成手段と、前記画像サイズ復元手段によって得られた画像データと前記第2の画像データ生成手段によって得られた画像データとを合成して、前記圧縮符号化された画像データの復号画像を生成する手段とを具備することを特徴とする画像処理装置。
【請求項4】 前記圧縮符号化された画像データの周波数成分値を予め決められた境界で低域側と高域側とに分割するための分割手段をさらに具備し、前記分割手段は、高域側の周波数成分値の中に所定のしきい値よりも高レベルの周波数成分値が存在するか否かを検出する手段と、前記所定のしきい値よりも高レベルの周波数成分値が存在する場合には、その周波数成分値の空間位置に応じて、前記周波数成分値を低域側と高域側とに分割するための境界を変更する手段とを含むことを特徴とする請求項4記載の画像処理装置。
【請求項5】 階層符号化された画像データを復号する画像処理装置において、前記階層符号化された画像データに含まれる、解像度の異なる複数の画像データそれぞれに対して復号処理を施す手段と、前記解像度の異なる複数の画像データの内、低解像度の画像データから得られた復号画像データに対してのみ色変換処理を施す色変換手段と、前記色変換手段によって色変換された後の復号画像データを元の画像データサイズに復元する画像サイズ復元手段と、前記解像度の異なる複数の画像データの内、高解像度の画像データから得られた復号画像データと、前記画像サイズ復元手段によって得られた復号画像データとを合成することによって、前記階層符号化された画像データの復号画像を生成する手段とを具備することを特徴とする画像処理装置。
【請求項6】 画像データを圧縮符号化する画像処理方法において、原画像データをサブサンプリングして縮小画像データを作成する縮小画像作成ステップと、前記縮小画像作成ステップによって得られた縮小画像データを色変換する色変換ステップと、前記色変換ステップによって色変換された後の縮小画像データに対して周波数変換を施し、その変換結果を前記原画像データの低域周波数成分値として求める第1の周波数変換ステップと、前記原画像データに対して周波数変換を施し、その変換結果を用いて前記原画像データの高域周波数成分値を求める第2の周波数変換ステップと、前記第1の周波数変換ステップによって求められた低域周波数成分値と前記第2の周波数変換ステップによって求められた高域周波数成分値とを合成して、前記原画像データの周波数成分値を生成するステップとを具備することを特徴とする画像処理方法。
【請求項7】 圧縮符号化された画像データを復号する画像処理方法において、前記圧縮符号化された画像データを復号して、その周波数成分値を求めるステップと、前記圧縮符号化された画像データの周波数成分値の中から低域周波数成分値を抽出し、その抽出した低域周波数成分値に対して逆周波数変換を施すことによって縮小画像データを生成する第1の画像データ生成ステップと、前記第1の画像データ生成手段によって得られた縮小画像データを色変換する色変換ステップと、前記色変換手段によって色変換された後の縮小画像データを元の画像データサイズに復元する画像サイズ復元ステップと、前記低域周波数成分値を除外した状態で、前記圧縮符号化された画像データの周波数成分値に対して逆周波数変換を施すことによって画像データを生成する第2の画像データ生成ステップと、前記画像サイズ復元ステップによって得られた画像データと前記第2の画像データ生成ステップによって得られた画像データとを合成して、前記圧縮符号化された画像データの復号画像を生成するステップとを具備することを特徴とする画像処理方法。
【請求項8】 前記圧縮符号化された画像データの周波数成分値を予め決められた境界で低域側と高域側とに分割するための分割ステップをさらに具備し、前記分割ステップは、高域側の周波数成分値の中に所定のしきい値よりも高レベルの周波数成分値が存在するか否かを検出し、前記所定のしきい値よりも高レベルの周波数成分値が存在する場合には、その周波数成分値の空間位置に応じて、前記周波数成分値を低域側と高域側とに分割するための境界を変更することを特徴とする請求項7記載の画像処理方法。
【請求項9】 階層符号化された画像データを復号する画像処理方法において、前記階層符号化された画像データに含まれる、解像度の異なる複数の画像データそれぞれに対して復号処理を施すステップと、前記解像度の異なる複数の画像データの内、低解像度の画像データから得られた復号画像データに対してのみ色変換処理を施す色変換ステップと、前記色変換ステップによって色変換された後の復号画像データを元の画像データサイズに復元する画像サイズ復元ステップと、前記解像度の異なる複数の画像データの内、高解像度の画像データから得られた復号画像データと、前記画像サイズ復元ステップによって得られた復号画像データとを合成することによって、前記階層符号化された画像データの復号画像を生成するステップとを具備することを特徴とする画像処理方法。

【図12】
image rotate


【図13】
image rotate


【図1】
image rotate


【図2】
image rotate


【図5】
image rotate


【図7】
image rotate


【図11】
image rotate


【図15】
image rotate


【図3】
image rotate


【図4】
image rotate


【図6】
image rotate


【図10】
image rotate


【図14】
image rotate


【図8】
image rotate


【図9】
image rotate


【公開番号】特開2001−86345(P2001−86345A)
【公開日】平成13年3月30日(2001.3.30)
【国際特許分類】
【出願番号】特願平11−257704
【出願日】平成11年9月10日(1999.9.10)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】