説明

画像変換ユニット及び方法

第1解像度を有する第1入力画像を、第2解像度を有する出力画像に変換するための画像変換ユニット(200)は、第1入力画像の画素値に基づいて第1フィルタ係数を決定するための係数決定手段(106)を有する。係数決定手段(106)は、第1画像の入力画素値と第1フィルタ係数とに基づいて出力画像の画素値を計算するための適応フィルタリング手段(104)を制御するように備えられている。適応フィルタリング手段(104)は非線型演算を実行するように備えられている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、第1解像度を有する第1画像を、第2解像度を有する第2画像に変換するための画像変換ユニットであって:
− 第1画像の第1画素値に基づいて、第1フィルタ係数を決定するための係数決定手段;
及び
− 第1画像の画素値群の第1画素値と第1フィルタ係数とに基づいて、第2画像の第2画素値を計算するための適応フィルタリング手段;
を有する画像変換ユニットに関する。
【0002】
本発明は、第1解像度を有する第1画像を、第2解像度を有する第2画像に変換する方法であって:
− 第1画像の第1画素値に基づいて、第1フィルタ係数を決定する段階;及び
− 第1画像の画素値群の第1画素値と第1フィルタ係数とに基づいて、第2画像の第2画素値を計算する段階;
を有する方法に更に関する。
【0003】
本発明は、画像処理装置であって:
− 第1画像に対応する信号を受信するための受信手段;及び
− 第1画像を第2画像に変換するための上記の画像変換ユニット;
を有する画像処理装置に関する。
【背景技術】
【0004】
HDTVの出現は、標準精細(SD)映像素材を高精細(HD)テレビジョン(TV)ディスプレイ上で視認できるようにする空間アップコンバージョン技術に対する要求を強調する結果となっている。変換技術には、双線型補間のような線型補間方法と、多位相補間ローパス補間フィルタを用いる方法がある。前者は、低品質のために、テレビジョン向けアプリケーションにおいては一般的でないが、後者は、市販されているICにおいて利用可能である。線型方法を用いる場合、フレーム中の画素数は増加するが、スペクトルの高周波数部分は拡張されない、即ち、画像のシャープネスが増大したとは感じられない。換言すれば、ディスプレイの能力は十分に活用されていない。
【0005】
従来の線型技術に加えて、多くの非線型アルゴリズムがこのアップコンバージョンを達成するために提案されてきている。これらの技術は、コンテンツベースの又はエッジ依存性の空間アップコンバージョンと呼ばれることがある。それらの技術の一部は、家庭用電化製品市場において既に利用されている。
【0006】
冒頭の段落で説明した種類の画像変換ユニットの態様については、文献、“New Edge−Directed Interpolation”,by Xin Li et al.,in IEEE Transactions on IM上げProcessing,Vol.10,No.10,October 2001,pp.1521−1527に記載されている。このような画像変換ユニットにおいては、補間用アップコンバージョンフィルタのフィルタ係数は局部的画像コンテンツに適合される。補間アップコンバージョンフィルタアパチャは、次式により規定される4次の補間アルゴリズムを用い、
【0007】
【数1】

ここでは、FHD(i,j)はHD出力画素の輝度値を表し、FSD(i,j)は入力画素の輝度値を及びwはフィルタ係数を表す。フィルタ係数は、最小二乗法(LMS)による最適化手法を用いて、より大きいアパチャから得られる。又、上記の参照文献において、フィルタ係数がどのように計算されるかについて、記載されている。又、従来技術に従った方法については、図1A及び図1Bと関連付けて説明する。その方法は、ぼけを回避するために、エッジを横断するのではなく、エッジに沿って補間することを目的としている。その著者は、エッジ補間はスケーリングと共に変化しないという、実用にかなった仮定を設けている。それ故、LMS法を用いることにより、局部的ウィンドウ内のSD入力画像からフィルタ係数を近似することができる。
【0008】
上記の従来技術の参照文献に従った“New Edge−Directed Interpolation”方法は、多くの画像部分において比較的うまく作用するが、出力画像の一部においては、直接的近傍における画素値と比較して、相対的に大きい又は小さい画素値が存在する、即ち、それらの画素値は異常値として補間される。
【発明の開示】
【発明が解決しようとする課題】
【0009】
本発明は、冒頭の段落で説明した種類の画像変換ユニットであって、比較的ロバストである画像変換ユニットを提供することである。
【課題を解決するための手段】
【0010】
このような本発明の目的は、適応フィルタリング手段が非線型演算を実行するように備えられることにおいて達成される。それは、適応フィルタリング手段が次の式2及び3により規定されるような線型フィルタGに対する要求を満たさないことを意味する。
【0011】
αG(A)=G(αA) (2)
G(A)+G(B)=G(A+B) (3)
ここで、A及びBは入力値であり、αは定数である。
【0012】
非線型演算の利点は、結果的に得られる出力画素の画素値が異常値であるリスクを伴わずに、フィルタ係数の選択においてより多くの自由度が導入できることである。換言すれば、変換ユニットのロバスト性が増大するということである。
【0013】
典型的には、SD入力画像は、CCIR−601において規定される画素マトリクスであって、例えば、625x720画素又は525x720画素を有する。HD出力画像は、水平方向及び垂直方向のより多くの画素であって、例えば、2倍又は1.5倍の画素数を有する画素マトリクスを有する。
【0014】
画素値は輝度又は色値である。
【0015】
本発明の実施形態に従って、非線型演算は、画素値群の第1画素値に基づいて補間値をクリップ(clop)することを有する。例えば、HD出力画素値は、最近接SD画素における又は近傍における画素値のダイナミックレンジに依存するいくらか大きい範囲における、最も暗い、即ち、最も小さい輝度値と、最も明るい、即ち、最も大きい輝度値との間でクリップされる。クリッピングの有利点は、クリッピングが実行することが比較的容易であることである。
【0016】
本発明に従った他の実施形態においては、適応フィルタリング手段は次数統計的フィルタを有する。このフィルタは、差動次数統計的フィルタであることが可能である。次数統計的フィルタの例はメディアンフィルタである。
【0017】
本発明に従った他の実施形態においては、係数決定手段は、画素値群の第1画素値の近傍における画素値から導き出されたデータを第1フィルタ係数に変換するための変換手段を有し、変換手段はトレーニングプロセスに基づいて設計される。この実施形態の有利点は、フィルタ係数の決定は比較的小規模の計算資源の使用を必要とすることである。好適には、トレーニング手段は、ルックアップテーブル(LUT)を有する。アップコンバージョンユニットの場合にフィルタ係数を決定するためにLUTを用いる方法については、文献、“Towards an overview of spetial up−conversion techniques”,by Meng Zhao et al.,In the procedings of the SCE 2002,Erfurt,Germany,23−26 Septamber 2002に開示されている。
【0018】
本発明に従った画像変換の実施形態においては、係数計算手段が、最適化アルゴリズムにより第1フィルタ係数を計算するために備えられている。好適には、最適化アルゴリズムは最小二乗法アルゴリズムである。LMSアルゴリズムは比較的簡単でロバストである。
【0019】
本発明の他の目的は、比較的ロバストである、冒頭の段落において説明した種類の方法を提供することである。
【0020】
この本発明の目的は、第2画素値を計算する段階が非線型演算を有することにおいて達成される。
【0021】
本発明の他の目的は、画像変換ユニットが比較的ロバストである、冒頭で説明した種類の画像処理装置を提供することである。
【0022】
このような本発明の目的は、画像処理装置の適応フィルタリング手段が非線型演算を実行するように備えられていることにおいて達成される。画像処理装置は、第2画像を表示するための表示ディスプレイを任意に有する。画像処理装置は、例えば、TV,セットトップボックス、VCR(ビデオカセットレコーダ)プレーヤ又はDVD(Digital Versatile Disk)プレーヤであることが可能である。
【0023】
画層変換ユニットの変更及びその変動は、上記の方法及び画像処理装置の変更及び変動に対応する。
【0024】
本発明に従った画像変換ユニット、方法お呼び画像処理装置の上記の及び他の特徴は、添付図面を参照して、以下で説明する実施形態に関連して、明らかになり、理解されるであろう。
【発明を実施するための最良の形態】
【0025】
図1Aは、従来技術に従った画像変換ユニット100の態様の模式図である。画像変換ユニット100は、入力コネクタ108において標準精細(SD)画像を供給され、出力コネクタ110において高精細(HD)画像を供給する。画像変換ユニット100は次のようなものを有する。
− HD出力画素の位置に対応するSD入力画像群の第1画像内の特定の位置の第1近傍における画素1乃至4(図1B参照)の画素値の第1集合を取得するように備えられ、SD入力画像群の第1画像内の特定の位置の第2近傍における画素1乃至16の画素値の第2集合を取得するように備えられている、画素取得ユニット102。;
− 画素値の第1集合と画素値の第2集合とに基づいてフィルタ係数を計算するように備えられているフィルタ係数決定ユニット106。換言すれば、フィルタ係数は、局部的ウィンドウ内のSD入力画像から近似される。これは、図1Bに関連して説明される最小二乗(LMS)法を用いることによりなされる。
− 式1において規定されるようなフィルタ係数と画素値の第1集合とに基づいてHD出力画素の画素値を計算するための適応フィルタリングユニット。それ故、フィルタ係数決定ユニット106は、適応フィルタリングユニット104を制御するように備えられている。
【0026】
図1Bは、従来技術に従った方法を説明するために、HD出力画像の1つのHD画素とSD入力画像の多くの画素1乃至16とを示す模式図である。HD出力画素は、画素1乃至4の4つの画素値の重み付け平均として補間されている。このことは、HD出力画素FHDの輝度値が、4つのSD近傍画素の輝度値の重み付け合計としての結果であることを意味し、次式で表される。
【0027】
HD=wSD(1)+wSD(2)+WSD(3)+wSD(4) (4)
ここで、FSD(1)乃至FSD(4)は4つのSD入力画素1乃至4の画素値、w乃至wはLMS法により計算されたフィルタ係数である。従来の技術について説明した上記の参照文献の著者は、エッジの方位がスケーリングと共に変化しないという実用にかなった過程を設けている。この仮定の帰結は、最適化フィルタ係数は、標準解像度グリッドにおいては、補間されるべき係数と同じであり、次のように表される。
− 画素1は5、7、11及び14から(画素1は4つの隣接画素から導き出される)
− 画素2は6、8、3及び12から
− 画素3は9、2、13及び15から
− 画素4は1、10、14及び16から
これは、LSM最適化を用いて、HD出力画素を補間するために4つのフィルタ係数が見つけられた、4つの線型方程式の集合を与える。
【0028】
4つの重み付けを計算するために用いられる、SDグリッドにおける画素集合としてMで表すことにより、最適化における集合Mに対する最小二乗誤差(MSE)は、元々のSD画素FSDと補間されたSD画素FSIとの間の二乗差の合計として表され、次式のようになる。
【0029】
【数2】

この式は、マトリクス形式としては、次式のようになる。
【0030】
【数3】

ここで、
【0031】
【数4】

は、M(画素FSD(1,1)乃至FSD(1,4)、FSD(2,1)乃至FSD(2,4)、FSD(3,1)乃至FSD(3,4)、FSD(4,1)乃至FSD(4,4))におけるSD画素を有し、Cは4xMのマトリクスであり、そのマトリクスのk番目の行は、
【0032】
【数5】

におけるk番目のSD画素の4つの対角線方向のSD隣接画素を有する。各々の行の重み付け合計は、式(5)において用いられた、画素FSIを表す。最小のMSE,即ち、LMSを求めるために、
【0033】
【数6】

に対するMSEの微分を、次式のように計算する。
【0034】
【数7】

【0035】
【数8】

【0036】
【数9】

式(7)を解くことにより、フィルタ係数が求められ、式(4)を用いることにより、HD出力画素の画素値が計算される。
【0037】
この例においては、4x4の画素のウィンドウがフィルタ係数の計算に対して用いられている。より大きいウィンドウであって、例えば、4x4に代えて8x8のウィンドウにおけるLMS最適化はより良好な結果を与える。
【0038】
図1Cは、従来技術に従った画像変換ユニット101の代替の態様を示す模式図である。フィルタ係数決定ユニット106は、トレーニングプロセスの間に導き出されるデータを有するLUT109と圧縮ユニット107とを有する。圧縮スキームは、スライディングウィンドウにおける画素のどれがそのウィンドウにおける画素の平均輝度値より上であり、そのウィンドウの画素のどれがそのウィンドウにおける画素の平均輝度値より下であるかの検出に基づいている。これは、スライディングウィンドウの全ての位置に対して、0(平均輝度値より小さい画素値)と1(平均輝度値より大きい画素値)とより成るパターンを結果として得る。このパターンは、LUT109の入力に対応している。LUT109のそれぞれの出力において、適切なフィルタ係数が与えられた入力に対して提供される。文献、“Towards an overview of spetial up−conversion techniques”,by Meng Zhao et al.,In the procedings of the SCE 2002,Erfurt,Germany,23−26 Septamber 2002において、従来技術に従った画像変換ユニット101のこの態様ついて、更に記載されている。
【0039】
図2は、本発明に従った画像変換ユニット200の実施形態を示す模式図である。この画像変換ユニット200は、基本的には、図1A乃至1Cそれぞれに関連して説明したような画像変換ユニット100及び101と同じ種類の構成要素を有している。違いは、適応フィルタリングユニット104が非線型演算を実行するように備えられていることである。適応フィルタリングユニットが非線型演算を実行するように備えられていることを考慮することにより、係数決定ユニット106がフィルタ係数を決定するように、任意に備えられている。ここのとは、フィルタ係数を決定するために付加的制約が存在することを意味している。
【0040】
数値の例により、種々のタイプの非線型演算について、以下に説明する。それらの例においては、FSD(i)はSD入力画素の画素値と一致し、Wは非規格化フィルタ係数と一致し、FHDはHD出力画素の画素値である。
【0041】
線型補間の場合、HD出力画素の画素値は、式(4)により計算される。この式は、非規格化フィルタ係数に対して、次の式(10)に書き換えられる。
【0042】
HD=(WSD(1)+WSD(2)+WSD(3)+WSD(4))/(W+W+W+W) (10)
表1においては、一部の例は、式10に従って、FSD(i)、W及びFHDに対して与えられる。
【表1】

本発明に従った実施形態においては、適応フィルタリングユニット104は、どのHDが補間されたかに基づいて、SD入力画素の値の間のHD出力画素の画素値をクリップするように備えられている。表2は、表1から導き出された一部の例を示している。表1の第4行を表2の第4行と比較することにより、HD出力画素の値は最小値に、即ち、SD入力画素の値10、15、8、11における8にクリップされることが理解できる。表1の第5行を表2の第5行と比較することにより、HD出力画素の値は最大値に、即ち、SD入力画素の値10、15、8、11における15にクリップされることが理解できる。
【表2】

本発明に従った他の実施形態においては、適応フィルタリングユニット104は、出力画素値として重み付けメディアン値を決定するように備えられている。表3において、入力値と出力値とが挙げられている。
【表3】

この場合、重み付けメディアン値は、画素値とそれぞれのフィルタ係数とに基づく値の集合Sを生成することにより決定される。例えば、10に等しい画素値を有する第1画素に対するフィルタ係数は4である。このとき、この画素値は、集合Sにおいて4回、現れる。画素値15は、集合Sにおいて3回、現れる。重み付けメディアン値は集合Sの要素をソーティングすることにより決定され、続いて、順序付けられた集合の中央の要素を取る。それ故、次のようになる。
【0043】
S={8,8,8,8,8,10,10,10,10,11,15,15,15}及びFSD=10
画素取得ユニット102、フィルタ係数決定ユニット106及び適応フィルタリングユニット104は、1つのプロセッサを用いて実行されることが可能である。名目上、これらの機能は、ソフトウェアプログラムプロダクトの制御下で実行される。実行中、名目的に、ソフトウェアプログラムプロダクトは、RAMのようなメモリにロードされ、それから実行される。そのプログラムは、例えば、ROM、ハードディスク若しくは磁気記憶装置及び/又は光記憶装置のようなバックグラウンドメモリからロードされることが可能であり、若しくは、インターネットのようなネットワークからロードされることが可能である。任意に、特定用途向け集積回路が上記の機能を備えることができる。
【0044】
SD入力画像をHD出力画像に変換するために、多くの処理段階が必要である。図3A乃至3Dを参照して、それらの処理段階について説明する。図3Aは、SD入力画像の模式図である。図3D筈3AのSD入力画像から導かれたHD出力画像の模式図であり、図3B及び3Cはそれらの中間的な結果を示している。
【0045】
図3AはSD入力画像の模式図である。各々のX符号はそれぞれの画素に対応している。
【0046】
図3Bは、解像度を増加させるために画素が加えられた図3AのSD入力画像の模式図である。付け加えられた画素は+符号で示されている。それらの付け加えられた画素は、それぞれの対角線方向の隣接画素の補間により計算される。補間のフィルタ係数は、図2Bに関連して説明したようにして決定される。
【0047】
図3Cは、45°回転した後の図3Bの画像の模式図である。図3Aに基づいて図3Bに示している画像を計算するために適用されるものと同じ画像変換ユニット200が、図3Bに示されている画像に基づいて図3Dに示す画像を計算するために用いられる。このことは、新しい画素値は、それぞれの対角線方向の隣接画素の補間により計算されることを意味する。それらの対角線方向の隣接画素の第1部分(X符号により示されている)は、SD入力画像の元々の画素値に対応し、それらの対角線方向の隣接画素の第2部分(+符号により示されている)は、補間によりSD入力画像の元々の画素値から導き出された画素値に対応していることに留意されたい。
【0048】
図3Dは、最終的なHD出力画像の模式図である。最後の変換段階に付け加えられた画素はo符号により示されている。
【0049】
図4は、本発明に従った画像処理装置400の実施形態の模式図であって、その画像処理装置400は次を有する。
− SD画像を表す信号を受信するための受信手段402。信号は、アンテナ又はケーブルにより受信された放送信号であることが可能であるが又、ビデオカセットレコーダ(VCR)又はDVD(Cigital Versatile Disk)のような記憶装置からの信号であることが可能である。信号は入力コネクタ408に供給される。
− 図2Bに関連して説明した画像変換ユニット404。
− 画像変換ユニット200のHD出力画像を表示するための表示装置406。この表示装置は任意である。
【0050】
画像処理装置400は、例えば、TVであることが可能である。代替として、画像処理装置400は任意の表示装置から構成されるのではなく、表示装置406を有する装置にHD画増を供給する。それ故、画像処理装置400は、例えば、セットトップボックス、衛星放送チューナ、VCRプレーヤ又はDVDプレーヤであることが可能である。しかし、又、映画スタジオ又は放送会社により提供されるシステムであることが可能である。
【0051】
上記の実施形態は本発明を限定するものではないこと、及び、当業者は、同時提出の特許請求の範囲の権利範囲から逸脱することなく多くの他の実施形態を設計することができること、に留意する必要がある。表現“を有する”及びこの表現からの派生語は、請求項に記載した要素又は段階以外の要素又は段階を排除するものではない。要素の単数表現は、そのような要素の複数の存在を排除するものではない。本発明は、幾つかの別個の手段を有するハードウェアにより及び適切にプログラムされたコンピュータにより実施することができる。幾つかの手段を列挙している装置請求項においては、それらの手段の幾つかを、全く同一のハードウェアのアイテムにより実施することができる。互いに異なる従属請求項に列挙されている特定の手段は、それらの手段の組み合わせを有利に用いることができないことを表すものではない。
【図面の簡単な説明】
【0052】
【図1A】従来技術に従った画像変換ユニットの実施形態を示す模式図である。
【図1B】従来技術に従った方法を説明するために多くの画素を示す模式図である。
【図1C】従来技術に従った画像変換ユニットの他の実施形態を示す模式図である。
【図2】本発明に従った画像変換ユニットの実施形態を示す模式図である。
【図3A】SD入力画像を示す模式図である。
【図3B】解像度を高めるために画素が加えられた図3AのSD入力画像を示す模式図である。
【図3C】45°回転した後の図3Bの画像を示す模式図である。
【図3D】図3AのSD入力画像から導き出されたHD出力画像を示す模式図である。
【図4】本発明に従った画像処理装置の実施形態を示す模式図である。



【特許請求の範囲】
【請求項1】
第1解像度を有する第1画像を、第2解像度を有する第2画像に変換するための画像変換ユニットであって:
前記第1画像の画素値に基づいて第1フィルタ係数を決定するための係数決定手段;及び
前記第1画像の画素値群の第1画素値と前記第1フィルタ係数とに基づいて、前記第2画像の第2画素値を計算するための適応フィルタリング手段;
を有する画像変換ユニットであり、
前記適応フィルタリング手段は非線型演算を実行するように備えられている;
ことを特徴とする画像変換ユニット。
【請求項2】
請求項1に記載の画像変換ユニットであって、前記非線型演算は前記画素値群の前記第1画素に基づいて中間値をクリップすることを有する、ことを特徴とする画像変換ユニット。
【請求項3】
請求項1に記載の画像変換ユニットであって、前記適応フィルタリング手段は次数統計的フィルタを有する、ことを特徴とする画像変換ユニット。
【請求項4】
請求項3に記載の画像変換ユニットであって、前記次数統計的フィルタは差動次数統計的フィルタである、ことを特徴とする画像変換ユニット。
【請求項5】
請求項3に記載の画像変換ユニットであって、前記次数統計的フィルタはメディアンフィルタである、ことを特徴とする画像変換ユニット。
【請求項6】
請求項1に記載の画像変換ユニットであって、係数決定手段は、前記第1フィルタ係数に前記画素値群の前記第1画素値の隣接画素における画素値群から導き出されたデータを変換するための変換手段を有し、該変換手段はトレーニングプロセスに基づいて設計されている、ことを特徴とする画像変換ユニット。
【請求項7】
請求項6に記載の画像変換ユニットであって、前記トレーニング手段はルックアップテーブルを有する、ことを特徴とする画像変換ユニット。
【請求項8】
請求項1に記載の画像変換ユニットであって、前記係数計算手段は最適化アルゴリズムにより前記第1フィルタ係数を計算するように備えられている、ことを特徴とする画像変換ユニット。
【請求項9】
第1解像度を有する第1画像と前記第1解像度を有する第2画像とを有する第1画像シーケンスを、第2解像度を有する第3画像を有する第2画像シーケンスに変換する方法であって:
前記第1画像の画素値に基づいて第1フィルタ係数を決定する段階;及び
前記第1画像の画素値群の第1画素値と前記第1フィルタ係数とに基づいて、前記第2画像の第2画素値を計算する段階;
を有する画像変換ユニットであり、
前記第2画素値を計算する前記段階は非線型演算を有する;
ことを特徴とする方法。
【請求項10】
第1画像に対応する信号を受信するための受信手段;及び
請求項1に記載の、前記第1画像を第2画像に変換するための画像変換ユニット;
を有することを特徴とする画像処理装置。
【請求項11】
請求項10に記載の画像処理装置であって、前記第2画像を表示するための表示装置を更に有する、ことを特徴とする画像処理装置。
【請求項12】
請求項11に記載の画像処理装置であって、前記表示装置はテレビジョンである、ことを特徴とする画像処理装置。



【図2】
image rotate

image rotate

【図4】
image rotate


【公表番号】特表2006−502643(P2006−502643A)
【公表日】平成18年1月19日(2006.1.19)
【国際特許分類】
【出願番号】特願2004−542701(P2004−542701)
【出願日】平成15年9月17日(2003.9.17)
【国際出願番号】PCT/IB2003/004151
【国際公開番号】WO2004/034702
【国際公開日】平成16年4月22日(2004.4.22)
【出願人】(590000248)コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ (12,071)
【氏名又は名称原語表記】Koninklijke Philips Electronics N.V.
【住所又は居所原語表記】Groenewoudseweg 1,5621 BA Eindhoven, The Netherlands
【Fターム(参考)】