画像処理装置および画像処理方法
【課題】横筋を発生させる低品質アップコンバート素材の検出を精度よく行って画質改善を良好に行う。
【解決手段】アップコンバート素材検出部130は、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比に基づいて、入力画像データVinの低品質アップコンバート素材らしさを検出する。差分Vcnは、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接した第2のフィールドの画素の画素データにより求める。差分Vnは、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接したこの第1のフィールドの画素の画素データにより求める。入力画像データVinが横筋を発生する低品質アップコンバート素材であるとき、ΣVcnはΣVnより大きくなる。画像処理部120は、I/P変換後の画像データVo1に対して、アップコンバート素材検出部130の検出信号Sdetに応じた横筋抑制処理等を行う。
【解決手段】アップコンバート素材検出部130は、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比に基づいて、入力画像データVinの低品質アップコンバート素材らしさを検出する。差分Vcnは、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接した第2のフィールドの画素の画素データにより求める。差分Vnは、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接したこの第1のフィールドの画素の画素データにより求める。入力画像データVinが横筋を発生する低品質アップコンバート素材であるとき、ΣVcnはΣVnより大きくなる。画像処理部120は、I/P変換後の画像データVo1に対して、アップコンバート素材検出部130の検出信号Sdetに応じた横筋抑制処理等を行う。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像処理装置および画像処理方法に関し、特に、横筋を発生させる低品質アップコンバート素材に対して画質改善を良好に行い得る画像処理装置等に関する。
【背景技術】
【0002】
近年、デジタル放送の開始に伴い、HD(High Definition)解像度の画像データが、放送局などから送信されている。しかし、放送局などから送信される画像データは、全てがHD解像度の画像データではなく、従来のアナログ放送で用いられてきたSD(Standard Definition)解像度の画像データをHD解像度へとアップコンバートさせた擬似的なHD解像度の画像データが含まれる場合がある。
【0003】
疑似的なHD解像度の画像データとして、インターレース方式のSD解像度の画像データを、インターレース方式のまま、フィールド内線形補間によってアップコンバートされて作成された素材(以下、「低品質アップコンバート素材」という)が含まれる。例えば、480iの画像データをアップコンバートして得られた1080iの画像データ、あるいは576iの画像データをアップコンバートして得られた1080iの画像データ等がある。
【0004】
なお、アップコンバート前のインターレース方式のSD解像度の画像データには、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データ(フィルム素材)から2−3プルダウン方式または2−2プルダウン方式によって変換されて作成された画像データも含まれる。
【0005】
上述の低品質アップコンバート素材の場合、画像表示のためにフィールド間補間によりインターレース方式からプログレッシブ方式に変換すると、垂直方向に輝度差がある部分に横筋が発生するという不都合があった。インターレース方式のSD解像度の画像データを、インターレース方式のまま、フィールド内線形補間によってアップコンバートした場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる状態が発生するためである。
【0006】
例えば、特許文献1には、画像データから複数の周波数帯域の信号を検出し、各周波数帯域の信号振幅に基づいて、アップコンバート素材か否か等の画像判定を行うことが記載されている。また、例えば、特許文献2には、HD解像度の画像データのサイドパネルの有無によってアップコンバート素材か否かの判定を行うことが記載されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008− 85993号公報
【特許文献2】特開2004−289753号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1に記載の技術では、低品質アップコンバート素材をインターレース方式からプログレッシブ方式に変換したときに発生する横筋部分を高周波数成分とみなし、低品質アップコンバート素材を通常のHD解像度の画像データであると誤検出するおそれがある。また、特許文献2に記載の技術では、アップコンバート素材の全てにサイドパネルが付加されているわけではなく、サイドパネルのないアップコンバート素材を検出できない。また、この特許文献2に記載の技術では、横筋を発生させる低品質アップコンバート素材とそうではないアップコンバート素材を区別できない。
【0009】
この発明の目的は、低品質アップコンバート素材の検出を精度よく行って画質改善を良好に行うことにある。
【課題を解決するための手段】
【0010】
この発明の概念は、
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換部と、
上記インターレース方式の画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出部と、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データに対して上記アップコンバート部材検出部の検出信号に基づいた処理を行って出力画像データを得る画像処理部を備え、
上記アップコンバート素材検出部は、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素値差分の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素値差分の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理装置にある。
【0011】
この発明において、インターレース/プログレッシブ変換部により、インターレース方式の入力画像データがプログレッシブ方式の画像データに変換される。このインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データは、インターレース方式の入力画像データが上述の低品質アップコンバート素材である場合、垂直方向に輝度差がある部分で横筋を発生させるものとなる。
【0012】
アップコンバート素材検出部により、インターレース方式の画像データの低品質アップコンバート素材らしさが検出される。上述したように低品質アップコンバート素材の場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる状態(以下、適宜、「横筋発生状態」という)が存在する。このアップコンバート素材検出部では、この状態が存在しているか否かを検出する。
【0013】
このアップコンバート素材検出部では、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用いて検出が行われる。まず、所定領域内の画素が順次注目画素とされて、フィールド間画素値差分の総和と、フィールド内画素値差分の総和とが得られる。ここで、フィールド間画素値差分は、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接した第2のフィールドの画素の画素データにより求められる。また、フィールド内画素値差分は、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接したこの第1のフィールドの画素の画素データにより求められる。
【0014】
インターレース方式の入力画像データが低品質アップコンバート素材であって横筋発生状態が存在しているとき、フィールド間画素値差分の総和はフィールド内画素値差分の総和より大きくなる。アップコンバート素材検出部では、フィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいて、低品質アップコンバート素材らしさが検出される。例えば、その比が1より大きな所定の閾値を越えるときは、低品質アップコンバート素材らしさが高いとされる。
【0015】
画像処理部により、インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データが、アップコンバート部材検出部の検出信号に基づいて処理されて出力画像データが得られる。例えば、インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データおよびこの画像データに垂直方向のローパスフィルタ処理を施して得られた画像データが、アップコンバート素材検出部の検出信号に応じた比率で混合されて出力画像データとされる。
【0016】
低品質アップコンバート素材らしさが高い場合、ローパスフィルタ処理を施して得られた画像データの混合割合が高くされる。そのため、横筋の表示が抑制される。また、低品質アップコンバート素材らしさが低い場合には、ローパスフィルタ処理を施して得られた画像データの混合割合が低くされる。そのため、ローパスフィルタ処理を施して得られた画像データが必要なく使用されて垂直解像度が低下することが防止される。
【0017】
このように、この発明においては、横筋発生状態の存在を示すフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいてインターレース方式の入力画像データの低品質アップコンバート素材らしさが検出され、その検出信号に基づいてインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データが処理される。そのため、低品質アップコンバート素材の検出が高精度に行われ、画質改善が良好に行われる。
【0018】
この発明において、例えば、アップコンバート素材検出部は、フィールド間画素値差分の総和を第1の総和とし、フィールド内画素値差分の総和を第2の総和として、第1の総和と第2の総和との比が所定の閾値を越えるとき第1の判定出力を出力し、この比が所定の閾値以下のとき第2の判定出力を出力するアップコンバート素材判定部と、低品質アップコンバート素材らしさを示す検出信号を出力する検出信号出力部と、フィールド毎に、アップコンバート素材判定部の最新の所定数のフィールドにおける判定出力に、第1の判定出力が所定個数以上含まれているか判断し、所定個数以上含まれているとき検出信号の値を上げ、所定個数以上含まれていないとき検出信号の値を下げるように検出信号出力部を制御する判定安定化部を有する、ようにしてもよい。
【0019】
この場合、アップコンバート素材判定部の判定出力が第1の判定出力から第2の判定出力に、あるいは第2の判定出力から第1の判定出力に変化したとしても、検出信号出力部から出力される低品質コンバート素材らしさを示す検出信号は急激に変化しない。そのため、例えば、画像処理部において、ローパスフィルタ処理を施して得られた画像データの混合割合が急激に変化することが防止され、画像処理の切り替わりが目立つことを回避できる。
【0020】
また、この発明において、例えば、フィールド毎に、アップコンバート素材判定部の判定出力の有効性を判定する有効性判定部をさらに有し、判定安定化部は、有効性判定部で有効であると判定されるフィールドに関してはアップコンバート素材判定部から出力される判定出力を使用し、有効性判定部で有効でないと判定されるフィールドに関しては第2の判定出力を使用する、ようにしてもよい。このように、アップコンバート素材判定部の判定出力が有効でないと判定されるとき、その判定出力を使用しないことで、検出信号出力部から出力される低品質アップコンバート素材らしさを示す検出信号の精度を高めることができる。
【0021】
例えば、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであり、第1のフィールドおよび第2のフィールドが同一のフレームの画像データから作成されていない場合、インターレース方式の入力画像データが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和がフィールド内画素値差分の総和より大きくなることがある。
【0022】
そのため、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであるとき、有効性判定部では、第1のフィールドおよび第2のフィールドが同一のフレームの画像データから作成されているフィールドにおいて有効であると判定される。
【0023】
また、例えば、動画の場合、インターレース方式の入力画像データが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和がフィールド内画素値差分の総和より大きくなることがある。そのため、例えば、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データでないとき、有効性判定部では、フィールド毎に静止時のフィールドであるか判断され、静止時のフィールドにおいては有効であると判定される。
【0024】
また、この発明において、例えば、インターレース方式の入力画像データに基づいてシーンチェンジか否かを判定するシーンチェンジ判定部をさらに備え、検出信号出力部は、シーンチェンジ判定部でシーンチェンジであると判定されたとき、検出信号を最小値にリセットする、ようにしてもよい。シーンチェンジがあった場合、素材の切り替わりがある可能性がある。シーンチェンジと判定されたとき検出信号を最小値にリセットすることで、低品質アップコンバート素材でない素材に切り替わった場合に、例えば、画像処理部において、ローパスフィルタ処理を施して得られた画像データの混合を直ちに停止でき、無駄に垂直解像度が劣化されることを回避できる。
【発明の効果】
【0025】
この発明によれば、横筋発生状態の存在を示すフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいてインターレース方式の入力画像データの低品質アップコンバート素材らしさを検出し、その検出信号に基づいてインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データを処理するものであり、低品質アップコンバート素材の検出を高精度に行って、画質改善を良好に行うことができる。
【図面の簡単な説明】
【0026】
【図1】実施の形態としての画像処理装置の構成例を示すブロック図である。
【図2】I/P変換処理が現在(Next)、1フィールド前(Current)および2フィールド前(Past)の3フィールド分の画像データを用いて行われることを説明する図である。
【図3】I/P変換部におけるフィルム素材(2−3プルダウン方式による変換)の検出方法を説明するための図である。
【図4】インターレース方式の入力画像データがフィルム素材である場合のI/P変換方法を説明するための図である。
【図5】インターレース方式の入力画像データがビデオ素材である場合のI/P変換方法を説明するための図である。
【図6】I/P変換部における静止画素判定の一例における条件1を説明するための図である。
【図7】I/P変換部における静止画素判定の一例における条件2を説明するための図である。
【図8】フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnを求める際に使用する画素を示す図である。
【図9】各フィールドにおける画面全体で静止と判定された画素の数(静止画素数)の変化例を示す図である。
【図10】判定安定化部が出力する制御信号SCの一例(M=4、N=2)を示す図である。
【図11】画像処理強度決定部から出力される検出信号Sdetの変化例を示す図である。
【図12】この発明の検出信号Sdetの変化例に対する比較例を示す図である。
【図13】画像処理装置における1フィールド分の処理手順を概略的に示すフローチャートである。
【発明を実施するための形態】
【0027】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0028】
<1.実施の形態>
[画像処理装置の構成]
図1は、画像処理装置100の構成例を示している。この画像処理装置100は、I/P変換部110と、画像処理部120と、アップコンバート素材検出部130を有している。I/P変換部110は、インターレース方式の入力画像データVinを、プログレッシブ方式の画像データVo1に変換する。ここで、入力画像データVinは1080iフォーマットの画像データであり、変換後の画像データは1080pフォーマットの画像データとなる。
【0029】
I/P変換部110は、図2に示すように、現在(Next)、1フィールド前(Current)および2フィールド前(Past)の3フィールド分の画像データを用いて行う。I/P変換部110に入力される現在(Next)フィールドの画像データは、図示しないフィールドメモリに保存され、過去フィールドの画像データとして使用される。
【0030】
I/P変換部110は、入力画像データVinがビデオ(Video)素材であるかフィルム(Film)素材であるかにより、I/P変換の方法を変える。ビデオ素材は元画となるプログレッシブ画像が存在しない。しかし、フィルム素材は元画となるプログレッシブ画像が存在する。I/P変換部110は、入力画像データVinがフィルム素材か否かを検出し、フィルム素材であるときはフィルム素材に対するIP変換処理を施し、フィルム素材でないときはビデオ素材に対するIP変換処理を施す。
【0031】
I/P変換部110におけるフィルム素材の検出方法を、図3を参照して説明する。この図3は、元画が1秒間に24枚の画像を持つプログレッシブ画像(24P)であり、この元画を2−3プルダウン方式で1秒間に60枚の画像を持つインターレース画像(60i)に変換したフィルム素材の検出方法を説明している。
【0032】
1秒間に24枚の画像を1秒間に60枚の画像に変換するため、元画であるプログレッシブ画像の奇数ライン(o)のみと偶数ラインのみ(e)が、2回または3回交互に取り出されている。例えば、プログレッシブ画像(24P)のAフレームから、インターレース画像(60i)の奇数フィールドAoおよび偶数フィールドAeが生成される。また、プログレッシブ画像(24P)のAフレームに続くBフレームから、インターレース画像(60i)の奇数フィールドBo、偶数フィールドBeおよび奇数フィールドBoが生成される。
【0033】
このようなフィルム素材は、フィールド内補間をするよりも、元画のプログレッシブ画像の同じフレームから取り出された奇数ラインと偶数ラインを組み合わせたほうが、画質が良くなる。そのため、フィルム素材であるということを検出する必要がある。入力画像データVinがフィルム素材か否かを検出する方法としては、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの間の輝度差分絶対値の和(フレーム差分)の周期をカウントする方法がある。
【0034】
図3に示すフィルム素材においては、図示のように5フィールド毎にフレーム差分が小さくなり、フィルム素材であることが検出される。すなわち、5フィールド毎に、フレーム差分を得るための現在(Next)フィールドおよび2フィールド前(Past)のフィールドが元画のプログレッシブ画像の同じフレームから生成されたものとなり、フレーム差分が小さくなる。
【0035】
図4は、フィルム(Film)素材(プログレッシブ画像(24P)から変換されたインターレース画像(60i)のI/P変換の方法を示している。入力画像データVinが、上述したフィルム素材である場合、1フィールド前(Current)を基準として、現在(Next)および2フィールド前(Past)のどちらかはペアを構成する。つまり、1フィールド前(Current)のフィールドの画像データと、現在(Next)および2フィールド前(Past)のどちらかのフィールドの画像データとは、元画のプログレッシブ画像の同一のフレームから取り出されたものとなっている。
【0036】
I/P変換部110は、フィルム素材のI/P変換においては、各Current時制のフィールドで、ペアを構成する2つのフィールドの奇数ラインおよび偶数ラインを組み合わせるプルダウン逆変換を行って、フレーム画像データを生成する。I/P変換部110は、例えば、1フィールド前(Current)および現在(Next)のフィールドの間の輝度差分絶対値の和(フィールド差分)を用いて、現在(Next)および2フィールド前(Past)のどちらがペアを構成しているか判定する。
【0037】
この場合、I/P変換部110は、フィールド差分が大きいときは2フィールド前(Past)のフィールドがペアであると判定し、一方フィールド差分が小さいときは現在(Next)のフィールドがペアであると判定する。I/P変換部110は、入力画像データVinがフィルム素材である場合、各フィールドにおいて、ペア判定情報PIを、アップコンバート素材検出部130に送る。
【0038】
例えば、図4において、Current時制がAeフィールドであるとき、このAeフィールドと1フィールド前(Current)のAoフィールドはペアを構成している。この場合、AoフィールドおよびAeフィールドの各ラインの組み合わせにより、プログレッシブ画像(60P)を構成するAフレームの画像データが生成される。また、例えば、図4において、Current時制がFoフィールドであるとき、このFoフィールドと現在(Next)フィールドのFeフィールドはペアを構成している。この場合、FoフィールドおよびFeフィールドの各ラインの組み合わせにより、プログレッシブ画像(60P)を構成するFフレームの画像データが生成される。
【0039】
ビデオ(Video)素材のIP変換の方法を説明する。I/P変換部110は、フィールド間補間もしくはフィールド内補間により、Current時制の補間画素データを作成する。フィールド間補間では、現在(Next)および2フィールド前(Past)のフィールドの実画素データを用いる。フィールド内補間では、1フィールド前(Current)の実画素データを用いる。I/P変換部110は、Current時制の補間画素データラインを、Current時制の実画素データラインと組み合わせることで、プログレッシブ方式の画像データを生成する。
【0040】
I/P変換部110は、1フィールド前(Current)のフィールドの補間位置に対応する、画像の動きを検出する。この場合、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの実画素データ、あるいはさらにその周辺の実画素データを用い、フレーム間での輝度差分絶対値あるいはその総和を閾値と比較して、画像の動きを検出する。
【0041】
I/P変換部110は、差分絶対値あるいはその総和が閾値より小さく、画像が静止していると判定する場合、線形演算でフィールド間補間をする。この場合、図5(a)のように、補間位置に対応する現在(Next)および2フィールド前(Past)のフィールドの実画素データを用いる。一方、I/P変換部110は、差分絶対値あるいはその総和が閾値より大きく、画像が動いていると判定する場合、図5(b-1)のように、補間位置の上下もしくはその周囲の画素の線形演算でフィールド内補間をする。
【0042】
なお、I/P変換部110は、図5(b-2)のように、現在(Next)および2フィールド前(Past)のフィールド間の動き(動きベクトル)が正確に求められるとき、動いている場合でも動きの方向と大きさから推定してフィールド間補間を行うこともある。図5(b-1)のような方法を動き適応型I/P変換、図5(b-2)のような方法を動き補償型I/P変換等と呼ぶ。低品質アップコンバート素材が問題となるのは、図5(a)の静止時のI/P変換である。
【0043】
ここで、図6、図7を参照して、I/P変換部110における静止画素判定の一例を説明する。この静止画素判定は、補間方法を決定するための1つの材料で、この結果のみを用いてフィールド間補間を行うよう決定するものではない。静止画素判定は2つの条件によって行われる。
【0044】
第1の条件を説明する。図6に示すように、1フィールド前(Current)のフィールドの静止画素判定の画素位置と、その上下2ラインまでの画素位置に対応する5か所における輝度差分絶対値abs(N-P)を計算する。この輝度差分絶対値abs(N-P)は、現在(Next)および2フィールド前(Past)のフィールドの間の輝度差分絶対値である。その5つの値が全て閾値Th1より小さい場合、条件1が成立しているとする。どれか1つの値でも閾値Th1に達した場合、条件1は不成立とする。
【0045】
第2の条件を説明する。図7に示すように、1フィールド前(Current)のフィールドの静止画素判定の画素位置より左側と右側の5×5画素について、それぞれ現在(Next)および2フィールド前(Past)のフィールドの間の輝度差分絶対値の総和を計算する。図において、左側の輝度差分絶対値の総和はΣ(abs(Nl-Pl))であり、右側の輝度差分絶対値の総和はΣ(abs(Nr-Pr))である。2つの差分絶対値和がいずれも閾値Th2(条件1に用いる閾値Th1とは別に設定可能)より小さかった場合、条件2が成立しているとする。
【0046】
I/P変換部110は、条件1および条件2がどちらも成立している場合、1フィールド前(Current)のフィールドの静止画素判定の画素は静止と判定する。I/P変換部110は、同様の処理を1フィールド前(Current)のフィールドのすべての補間画素位置で繰り返し行う。I/P変換部110は、入力画像データVinがビデオ素材である場合、各フィールドにおいて、画面全体で静止と判定された画素の数を取得し、その数情報MIを、アップコンバート素材検出部130に送る。
【0047】
図1に戻って、アップコンバート素材検出部130は、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさを検出する。このアップコンバート素材検出部130は、アップコンバート素材判定部(アップコン判定部)131と、有効性判定部132と、アンド回路133と、判定安定化部134と、画像処理強度決定部135を有している。
【0048】
アップコンバート素材判定部131は、フィールド毎に、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かを判定する。アップコンバート素材判定部131は、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて判定する。
【0049】
アップコンバート素材判定部131は、画面内の所定領域内の画素を順次注目画素として得られるフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいて、入力画像データVinが低品質アップコンバート素材であるか否かを判定する。画面内の所定領域としては、例えば、文字情報がオーバーレイされている可能性がある下側領域等が除かれるように設定される。文字情報は、アップコンバート後にオーバーレイされる場合もある。この場合、文字情報の重畳領域には元々HD解像度の画像データが重畳されるため、文字情報の重畳領域を除かないと、インターレース方式の入力画像データVinの低品質アップコンバート素材であるか否かの判定を誤るおそれがある。
【0050】
フィールド間画素値差分Vcnは、図8に示すように、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した1フィールド前(Current)のフィールドの画素B,Dのデータにより、以下の(1)式により求められる。なお、この(1)式において、B,C,Dは、それぞれ、画素B,C,Dの画素値(画素データ)を表している。
Vcn=abs(B+D−2C) ・・・(1)
【0051】
また、フィールド内画素値差分Vnは、図8に示すように、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した現在(Next)のフィールドの画素A,Eのデータにより、以下の(2)式により求められる。なお、この(2)式において、A,C,Eは、それぞれ、画素A,C,Eの画素値を表している。
Vn=abs(A+E−2C) ・・・(2)
【0052】
アップコンバート素材判定部131は、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比ΣVcn/ΣVnを閾値Thaと比較する。そして、アップコンバート素材判定部131は、その比較結果に基づいて、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かを判定する。低品質アップコンバート素材の場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる、横筋発生状態が存在する。
【0053】
このように横筋発生状態が存在しているとき、フィールド間画素値差分の総和ΣVcnはフィールド内画素値差分の総和ΣVnより大きくなる。そのため、比ΣVcn/ΣVnは、1より大きくなる。閾値Thaは、1より大きな所定の値に設定される。アップコンバート素材判定部131は、比ΣVcn/ΣVnが閾値Thaを越えるとき、インターレース方式の入力画像データVinが低品質アップコンバート素材であると判定し、高レベルの信号「1」を出力する。また、アップコンバート素材判定部131は、比ΣVcn/ΣVnが閾値Tha以下のとき、インターレース方式の入力画像データVinが低品質アップコンバート素材でないと判定し、低レベルの信号「1」を出力する。
【0054】
アップコンバート素材判定部131は、フィールド間画素値差分の総和ΣVcnの演算と、フィールド内画素値差分の総和ΣVnの演算を自身で行うこともできる。しかし、この実施の形態において、フィールド間画素値差分の総和ΣVcnの演算と、フィールド内画素値差分の総和ΣVnの演算は、上述したI/P変換部110で行われる。アップコンバート素材判定部131は、I/P変換部110から、総和ΣVcn,ΣVnを受け取り、比ΣVcn/ΣVnを計算し、上述したように閾値Thaと比較して判定を行う。
【0055】
有効性判定部132は、フィールド毎に、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。例えば、入力画像データVinが上述のフィルム(Film)素材である場合、この入力画像データVinが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和ΣVcnがフィールド内画素値差分の総和ΣVnより大きくなることがある。
【0056】
上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。この2フィールドがペアを構成していない場合(図4のCurrent時制がAeフィールドの場合参照)、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0057】
入力画像データVinがフィルム(Film)素材である場合、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、ペア判定情報PIが送られてくる。このペア情報PIは、現在(Next)および2フィールド前(Past)のどちらのフィールドが、1フィールド前(Current)のフィールドとペアを構成するかを示している。
【0058】
そのため、有効性判定部132は、入力画像データVinがフィルム(Film)素材である場合、フィールド毎に、ペア判定情報PIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。この場合、有効性判定部132は、現在(Next)のフィールドがペアを構成するとき、有効と判定し、判定出力として高レベルの信号「1」を出力する。また、有効性判定部132は、2フィールド前(Past)のフィールドがペアを構成するとき、判定出力を行わない。
【0059】
また、例えば、入力画像データVinが上述のビデオ(Video)素材である場合、この入力画像データVinが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和ΣVcnがフィールド内画素値差分の総和ΣVnより大きくなることがある。上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。各フィールドの画像に動きがある動き時の場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0060】
入力画像データVinがビデオ(Video)素材である場合、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、画面全体で静止と判定された画素の数を示す数情報MIが送られてくる。そのため、有効性判定部132は、入力画像データVinがビデオ(Video)素材である場合、フィールド毎に、数情報MIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。この場合、有効性判定部132は、画面全体で静止と判定された画素の数が所定の閾値Thbを越えるとき、有効と判定し、判定出力として高レベルの信号「1」を出力する。また、有効性判定部132は、画面全体で静止と判定された画素の数が所定の閾値Thb以下のとき、無効と判定し、判定出力として低レベルの信号「0」を出力する。
【0061】
なお、閾値Thbは、例えば、画面全体の画素の数の80%程度に設定される。図9は、各フィールドにおける画面全体で静止と判定された画素の数(静止画素数)の変化例を示している。また、この図9において、Thb=52650であり、静止画素数が52650を越えるフィールドでは、有効と判定される。
【0062】
アンド回路133は、上述のアップコンバート素材判定部131の判定出力と、上述の有効性判定部132の判定出力の、論理積をとる。すなわち、このアンド回路133には、アップコンバート素材判定部131および有効性判定部132の判定出力が入力される。このアンド回路133は、有効性判定部132で有効と判定されるフィールドでは、その判定出力が高レベルの信号「1」となることから、アップコンバート素材判定部131の判定出力をそのまま出力する。また、このアンド回路133は、有効性判定部132で無効と判定されるフィールドでは、その判定出力が低レベルの信号「0」となることから、アップコンバート素材判定部131の判定出力によらず、低レベルの信号「0」を出力する。
【0063】
画像処理強度決定部135は、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさを示す検出信号Sdetを出力する。この実施の形態において、検出信号Sdetは、0〜16の範囲で変化し、値が大きいほど低品質アップコンバート素材らしさが高いことを示す。この画像処理強度決定部135は、検出信号出力部を構成している。
【0064】
画像処理強度決定部135は、判定安定化部134からフィールド毎に供給される制御信号SCに応じて、検出信号Sdetの値を変化させる。すなわち、画像処理強度決定部135は、判定安定化部134から検出信号Sdetの値を上げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値を、1ステップだけ大きくする。この場合、検出信号Sdetの値が最大値である「16」にあるときは、その値を保持する。また、画像処理強度決定部135は、判定安定化部134から検出信号Sdetの値を下げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値を、1ステップだけ小さくする。この場合、検出信号Sdetの値が最小値である「0」にあるときは、その値を保持する。
【0065】
判定安定化部134は、アンド回路133の出力に基づいて、アンド回路133の出力が確定する毎、すなわち入力画像データVinがフィルム(Film)素材である場合は現在(Next)のフィールドがペアを構成することとなるフィールド毎、入力画像データVinがビデオ(Video)素材である場合はフィールド毎に、画像処理強度決定部135における検出信号Sdetの値を制御する制御信号SCを出力する。
【0066】
判定安定化部134は、フィールド毎に、アンド回路133の最新の所定数Mのフィールドにおける出力に、高レベルの信号「1」が所定個数N以上含まれているか判断する。そして、判定安定化部134は、高レベルの信号「1」が所定個数N以上含まれているときは、検出信号Sdetの値を上げるように制御する制御信号SCを出力する。また、判定安定化部134は、高レベルの信号「1」が所定個数N以上含まれていないときは、検出信号Sdetの値を下げるように制御する制御信号SCを出力する。
【0067】
図10は、例えば、入力画像データVinがビデオ(Video)素材であり、M=4、N=2に設定された場合において、判定安定化部134が出力する制御信号SCの一例を示している。例えば、フィールド(i−4)では、最新の4フィールド内に高レベルの信号「1」が3個含まれている。そのため、判定安定化部134は、検出信号Sdetの値を上げるように制御する制御信号SCを出力する。また、例えば、フィールドiでは、最新の4フィールド内に高レベルの信号「1」が1個含まれている。そのため、判定安定化部134は、検出信号Sdetの値を下げるように制御する制御信号SCを出力する。
【0068】
図11は、画像処理強度決定部135から出力される検出信号Sdetの変化例を示している。上述したように検出信号Sdetの値は、判定安定化部134からの制御信号SCにより制御されるので、その値は急激には変化しない。なお、図12は、図11の例の場合とアンド回路133の出力が同じ場合における比較例を示している。この例は、アンド回路133の出力が高レベルの信号「1」のとき検出信号Sdetを最大値「16」とし、その出力が低レベルの信号「0」のとき検出信号Sdetを最小値「0」とする例である。この例の場合検出信号Sdetの値は、「0」から「16」に、あるいは「16」から「0」に急激に変化する。
【0069】
上述していないが、I/P変換部110は、シーチェンジ判定部111を有している。このシーンチェンジ判定部111は、フィールド毎に、インターレース方式の入力画像データVinに基づいて、シーンチェンジか否かを判定する。シーチェンジ判定部111は、例えば、現在(Next)および2フィールド前(Past)2フィールドの画像データを用いて判定する。このシーチェンジ判定部111は、例えば、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの間の輝度差分絶対値の和が所定の閾値を越えるとき、シーンチェンジであると判定する。
【0070】
このシーチェンジ判定部111の判定出力CIは、アップコンバート素材検出部130の画像処理強度決定部135に送られる。画像処理強度決定部135は、判定出力CIに基づいて、シーンチェンジであるとき、検出信号Sdetの値を「0」にリセットする。シーンチェンジがあった場合、素材の切り替わり、すなわち、低品質アップコンバート素材からそうでない素材への切り替わりの可能性があるからである。
【0071】
画像処理部120は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1(1080p)に対して、アップコンバート素材検出部130の検出信号Sdetに基づいた処理を行って、出力画像データVout(1080p)を得る。この画像処理部120は、ローバスフィルタ121と、αブレンド部122と、エンハンス部123を有している。
【0072】
ローパスフィルタ121は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1に、垂直方向のローパスフィルタ処理を施す。αブレンド部122は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1およびローパスフィルタ121でフィルタ処理されたプログレッシブ方式の画像データVo2を、検出信号Sdetに応じた比率で混合する。すなわち、αブレンド部122は、出力画像データをVo3とするとき、以下の(3)式に基づいて、αブレンド処理を行う。この(3)式において、α=Sdet/16である。
Vo3=(1−α)*Vo1+α*Vo2 ・・・(3)
【0073】
この場合、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、検出信号Sdetの値が大きくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が高くなり、横筋の表示が抑制される。一方、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが低い場合には、検出信号Sdetの値が小さくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が低くなり、垂直解像度の低下が抑制される。
【0074】
エンハンス部123は、αブレンド部122から出力されるプログレッシブ方式の画像データVo3に対して、高域成分の強調処理を施して、プログレッシブ方式の出力画像データVout(1080p)を出力する。エンハンス部123は、アップコンバート素材検出部130の検出信号Sdetの値が大きくなるほど強調量を小さくする。インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、画像データに強調すべき高域の成分がなく、横筋表示成分等のノイズ成分だけを強調するおそれがあるからである。
【0075】
[画像処理装置の動作]
図1に示す画像処理装置100の動作を説明する。インターレース方式の入力画像データVin(1080i)は、I/P変換部110に入力される。このI/P変換部110では、インターレース方式の入力画像データVin(1080i)が、プログレッシブ方式の画像データVo1(1080p)に変換される。このI/P変換部110では、入力画像データVinがフィルム(Film)素材であるか否かの検出が行われ、入力画像データVinがフィルム(Film)素材であるかビデオ(Video)素材であるかによって、異なる方法でI/P変換が行われる。
【0076】
入力画像データVinがフィルム素材である場合、I/P変換部110では、各Current時制のフィールドで、ペアを構成する2フィールドの奇数ラインおよび偶数ラインを組み合わせるプルダウン逆変換が行われ、フレーム画像データが得られる。I/P変換部110では、例えば、1フィールド前(Current)および現在(Next)のフィールドの間の輝度差分絶対値の和(フィールド差分)が用いられ、現在(Next)および2フィールド前(Past)のどちらがペアを構成しているか判定される。
【0077】
この場合、I/P変換部110では、フィールド差分が大きいときは2フィールド前(Past)のフィールドがペアであると判定され、一方フィールド差分が小さいときは現在(Next)のフィールドがペアであると判定される。インターレース方式の入力画像データVinがフィルム素材である場合、各フィールドにおいて、I/P変換部110からアップコンバート素材検出部130に、ペア判定情報PIが送られる。
【0078】
また、インターレース方式の入力画像データVin(1080i)がビデオ(Video)素材である場合、I/P変換部110では、フィールド間補間もしくはフィールド内補間により、Current時制の補間画素データが作成される。I/P変換部110では、Current時制の補間画素データラインが、Current時制の実画素データラインと組み合わせられることで、フレーム画像データが生成される。
【0079】
I/P変換部110では、1フィールド前(Current)のフィールドの補間位置に対応する、画像の動きが検出される。そして、画像が静止していると判定される場合、フィールド間補間によりCurrent時制の補間画素データが作成される。一方、画像が動いていると判定される場合、例えば、フィールド内補間により、Current時制の補間画素データが作成される。
【0080】
入力画像データVinがビデオ素材である場合、各フィールドにおいて、I/P変換部110からアップコンバート素材検出部130に、画面全体で静止と判定された画素の数(静止画素数)を示す数情報MIが送られる。
【0081】
アップコンバート素材検出部130のアップコンバート素材判定部131では、フィールド毎に、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かが判定される。このアップコンバート素材検出部130には、I/P変換部110から、フィールド間画素値差分の総和ΣVcnと、フィールド内画素値差分の総和ΣVnが供給される。アップコンバート素材判定部131では、総和ΣVcn,ΣVnの比ΣVcn/ΣVnが閾値Thaと比較され、その比較結果に基づいて、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かが判定される。
【0082】
インターレース方式の入力画像データVinが低品質アップコンバート素材であって横筋表示状態が発生しているとき、フィールド間画素値差分の総和ΣVcnはフィールド内画素値差分の総和ΣVnより大きくなる。アップコンバート素材判定部131では、比ΣVcn/ΣVnが閾値Tha(>1)を越えるとき、インターレース方式の入力画像データVinが低品質アップコンバート素材であると判定され、高レベルの信号「1」が出力される。また、アップコンバート素材判定部131では、比ΣVcn/ΣVnが閾値Tha以下のとき、インターレース方式の入力画像データVinが低品質アップコンバート素材でないと判定され、低レベルの信号「1」が出力される。
【0083】
有効性判定部132では、フィールド毎に、上述のアップコンバート素材判定部131の判定出力の有効性が判定される。上述の総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。入力画像データVinが上述のフィルム(Film)素材である場合、この2フィールドがペアを構成していない場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0084】
入力画像データVinが上述のフィルム(Film)素材である場合、I/P変換部110から有効性判定部132に、各フィールドにおいて、ペア判定情報PIが送られてくる。有効性判定部132では、ペア判定情報PIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性が判定される。そして、有効性判定部132では、現在(Next)のフィールドがペアを構成するとき、有効と判定され、判定出力として高レベルの信号「1」が出力される。また、有効性判定部132では、2フィールド前(Past)のフィールドがペアを構成するとき、判定出力を行わない。
【0085】
また、上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。入力画像データVinが上述のビデオ(Video)素材である場合、各フィールドの画像に動きがある動き時の場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0086】
入力画像データVinがビデオ素材である場合、I/P変換部110から有効性判定部132に、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、画面全体で静止と判定された画素の数を示す数情報MIが送られてくる。有効性判定部132では、数情報MIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。そして、有効性判定部132では、画面全体で静止と判定された画素の数が所定の閾値Thbを越えるとき、有効と判定され、判定出力として高レベルの信号「1」が出力される。また、有効性判定部132では、画面全体で静止と判定された画素の数が所定の閾値Thb以下のとき、無効と判定され、判定出力として低レベルの信号「0」が出力される。
【0087】
アップコンバート素材判定部131の判定出力および有効性判定部132の判定出力は、アンド回路133に供給される。このアンド回路133では、双方の判定出力の論理積をとられる。このアンド回路133では、有効性判定部132で有効と判定されるフィールドでは、その判定出力が高レベルの信号「1」となることから、アップコンバート素材判定部131の判定出力がそのまま出力される。また、このアンド回路133では、有効性判定部132で無効と判定されるフィールドでは、その判定出力が低レベルの信号「0」となることから、アップコンバート素材判定部131の判定出力によらず、低レベルの信号「0」が出力される。このアンド回路133の出力は、判定安定化部134に供給される。
【0088】
判定安定化部134では、アンド回路133の出力に基づいて、アンド回路133の出力が確定する毎、すなわち入力画像データVinがフィルム(Film)素材である場合は現在(Next)のフィールドがペアを構成することとなるフィールド毎、入力画像データVinがビデオ(Video)素材である場合はフィールド毎に、画像処理強度決定部135における検出信号Sdetの値を制御する制御信号SCが得られる。
【0089】
この判定安定化部134では、フィールド毎に、アンド回路133の最新の所定数Mのフィールドにおける出力に、高レベルの信号「1」が所定個数N以上含まれているか判断される。そして、この判定安定化部134では、高レベルの信号「1」が所定個数N以上含まれているときは、検出信号Sdetの値を上げるように制御する制御信号SCが出力される。また、判定安定化部134では、高レベルの信号「1」が所定個数N以上含まれていないときは、検出信号Sdetの値を下げるように制御する制御信号SCが出力される。
【0090】
上述したように判定安定化部134から出力される制御信号SCは、画像処理強度決定部135に供給される。この画像処理強度決定部135では、制御信号SCに応じて、検出信号Sdetの値が調整される。すなわち、画像処理強度決定部135では、検出信号Sdetの値を上げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値が1ステップだけ大きくされる。また、画像処理強度決定部135では、検出信号Sdetの値を下げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値が1ステップだけ小さくされる。このように、アンド回路133と画像強度信号決定部135との間に判定安定化部134が介在されることで、アンド回路133の出力が「1」,「0」の変化が頻繁であっても、検出信号Sdetは急激には変化しない。
【0091】
また、I/P変換部110のシーチェンジ判定部111では、フィールド毎に、インターレース方式の入力画像データVinに基づいて、シーンチェンジか否かの判定が行われる。このシーチェンジ判定部111の判定出力CIは、画像処理強度決定部135に送られる。画像処理強度決定部135では、判定出力CIに基づいて、シーンチェンジであるとき、検出信号Sdetの値が「0」にリセットされる。シーンチェンジがあった場合、素材の切り替わり、すなわち、低品質アップコンバート素材からそうでない素材への切り替わりの可能性があるからである。
【0092】
画像処理部120では、I/P変換部110で変換されたプログレッシブ方式の画像データVo1(1080p)に対して、アップコンバート素材検出部130の検出信号Sdetに基づいた処理が行われて、出力画像データVout(1080p)が得られる。すなわち、I/P変換部110から出力される出力画像データVo1は直接αブレンド部122に供給される。また、I/P変換部110から出力される出力画像データVo1は、ローパスフィルタ121に供給される。そして、このローパスフィルタ121で垂直ローパスフィルタ処理が施されて得られた画像データVo2はαブレンド部122に供給される。
【0093】
このαブレンド部122には、アップコンバート素材検出部130の検出信号Sdetが供給される。このαブレンド部122では、画像データVo1および画像データVoが検出信号Sdetに応じた比率で混合されて、出力画像データVo3が得られる((3)式参照)。この場合、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、検出信号Sdetの値が大きくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が高くされ、横筋の表示が抑制される。一方、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが低い場合には、検出信号Sdetの値が小さくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が低くされ、垂直解像度の低下が抑制される。
【0094】
αブレンド部122の出力データVo3は、エンハンス部123に供給される。このエンハンス部123には、アップコンバート素材検出部130の検出信号Sdetが供給される。エンハンス部123では、αブレンド部122から出力されるプログレッシブ方式の画像データVo3に対して、高域成分の強調処理が施されて、プログレッシブ方式の出力画像データVoutが得られる。このエンハンス部123では、検出信号Sdetの値が大きくなるほど強調量が小さくされる。インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、画像データに強調すべき高域の成分がなく、横筋表示成分などのノイズ成分だけを強調するおそれがあるからである。
【0095】
図13のフローチャートは、図1に示す画像処理装置100における1フィールド分の処理手順を概略的に示している。
画像処理装置100は、ステップST1において、処理を開始し、その後に、ステップST2の処理に移る。このステップST2において、画像処理装置100は、I/P変換部110により、インターレース方式の入力画像データVin(1080i)を、プログレッシブ方式の画像データVo1(1080p)に変換する。
【0096】
次に、画像処理装置100は、ステップST3において、アップコンバート素材判定部131により、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かの判定を行う。そして、画像処理装置100は、ステップST4において、有効性判定部132により、ステップST3における判定の有効性を判定する。
【0097】
次に、画像処理装置100は、ステップST5において、ステップST4の有効性判定の結果が有効か否かを判断する。有効性判定結果が有効であるとき、画像処理装置100は、ステップST6において、判定安定化部134により、ステップST3の判定結果をそのまま使用して、判定安定化処理を行う。一方、有効性判定結果が有効でないとき、画像処理装置100は、ステップST7において、判定結果を「0」とし、その後に、ステップST6において、判定安定化部134により、判定安定化処理を行う。
【0098】
次に、画像処理装置100は、ステップST8において、シーンチェンジか否かを判断する。シーンチェンジでないとき、画像処理装置100は、ステップST9において、画像処理強度決定部135により、判定安定化処理の結果を用いて、画像処理強度、つまり低品質アップコンバート素材らしさを示す検出信号Sdetを決定する。一方、シーンチェンジであるとき、画像処理装置100は、ステップST10において、画像処理強度を0(Sdet=0)にする。
【0099】
次に、画像処理装置100は、ステップST11において、画像処理部120により、画像処理強度(検出信号Sdet)に応じた横筋抑制処理、エンハンス処理などの処理を行う。そして、画像処理装置100は、ステップST11の処理の後、ステップST12において、処理を終了する。
【0100】
図1に示す画像処理装置100において、アップコンバート素材検出部130では、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比に基づいて入力画像データVinの低品質アップコンバート素材らしさが検出される。そして、画像処理部120では、アップコンバート素材検出部130で得られる検出信号Sdetに基づいて、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1が処理されて、出力画像データVoutが得られる。したがって、低品質アップコンバート素材の検出を高精度に行うことができ、画質改善を良好に行うことができる。
【0101】
また、図1に示す画像処理装置100において、アップコンバート素材検出部130では、アンド回路133と画像処理強度決定部135との間に、判定安定化部134が介在されている。そのため、アンド回路133の出力が、「1」から「0」に、あるいは「0」から「1」に変化したとしても、画像処理強度決定部135から出力される低品質アップコンバート素材らしさを示す検出信号Sdetが急激に変化することはない。したがって、例えば、画像処理部120において、ローパスフィルタ処理を施して得られた画像データVo2の混合割合が急激に変化することが防止され、画像処理の切り替わりが目立つことを回避できる。
【0102】
また、図1に示す画像処理装置100において、アップコンバート素材検出部130では、有効性判定部132によりアップコンバート素材判定部131の判定出力の有効性が判定される。そして、判定安定化部134では、有効性判定部132で有効でないと判定されるフィールドに関しては、アップコンバート素材判定部131の判定出力が「1」であるか「0」であるかによらず、「0」が使用される。したがって、画像処理強度決定部135から出力される低品質アップコンバート素材らしさを示す検出信号Sdetの精度を高めることができる。
【0103】
また、図1に示す画像信号処理装置100において、アップコンバート素材検出部130の画像処理強度決定部135では、シーンチェンジであると判定されたとき、検出信号Sdetが最小値にリセットされる。したがって、低品質アップコンバート素材でない素材に切り替わった場合に、例えば、画像処理部120において、ローパスフィルタ処理を施して得られた画像データVo2の混合を直ちに停止でき、無駄に垂直解像度が劣化されることを回避できる。
【0104】
また、図1に示す画像信号処理装置100において、画像処理部120では、I/P変換部110の出力画像データVo1およびフィルタ処理が施された画像データVo2が、アップコンバート素材検出部130の検出信号Sdetに応じた比率で混合される。そのため、低品質アップコンバート素材らしさが高い場合、画像データVo2の混合割合が高くされ、横筋の表示を良好に抑制できる。また、低品質アップコンバート素材らしさが低い場合には、画像データVo2の混合割合が低くされ、垂直解像度の低下を回避できる。
【0105】
<2.変形例>
なお、上述実施の形態においては、図8に示す各画素のデータを用いて、フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnが求められている。すなわち、フィールド間画素値差分Vcnは、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した1フィールド前(Current)のフィールドの画素B,Dのデータにより求められる。また、フィールド内画素値差分Vnを、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した現在(Next)のフィールドの画素A,Eのデータにより求められる。しかし、フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnを、現在(Next)および1フィールド前(Current)のフィールドの各画素を逆にして求めてもよい。
【0106】
また、上述実施の形態においては、フィルム(Film)素材として、1秒間が24フレームのプログレッシブ方式の画像データを2−3プルダウン方式によって変換して作成されたものを示した。しかし、1秒間が30フレームのプログレッシブ方式の画像データを2−2プルダウン方式によって変換して作成されたフィルム(Film)素材についても、この発明を同様に適用できることは勿論である。
【0107】
また、上述実施の形態において、画像処理装置120では、αブレンドによる横筋抑制処理およびエンハンス処理が行われる。しかし、アップコンバート素材検出部130からの低品質アップコンバート素材らしさの検出信号Sdetに基づいて行われる処理は、これに限定されない。
【産業上の利用可能性】
【0108】
この発明は、横筋を発生させるような低品質アップコンバート素材の検出を精度よく行って画質改善を良好に行うことができるものであり、例えばテレビ受信機において受信画像データを処理する画像処理装置等に適用できる。
【符号の説明】
【0109】
100・・・画像処理装置、110・・・I/P変換部、111・・・シーンチェンジ判定部、120・・・画像処理部、121・・・ローパスフィルタ、122・・・αブレンド部、123・・・エンハンス部、130・・・アップコンバート素材検出部、131・・・アップコンバート素材判定部、132・・・有効性判定部、133・・・アンド回路、134・・・判定安定化部、135・・・画像処理強度決定部
【技術分野】
【0001】
この発明は、画像処理装置および画像処理方法に関し、特に、横筋を発生させる低品質アップコンバート素材に対して画質改善を良好に行い得る画像処理装置等に関する。
【背景技術】
【0002】
近年、デジタル放送の開始に伴い、HD(High Definition)解像度の画像データが、放送局などから送信されている。しかし、放送局などから送信される画像データは、全てがHD解像度の画像データではなく、従来のアナログ放送で用いられてきたSD(Standard Definition)解像度の画像データをHD解像度へとアップコンバートさせた擬似的なHD解像度の画像データが含まれる場合がある。
【0003】
疑似的なHD解像度の画像データとして、インターレース方式のSD解像度の画像データを、インターレース方式のまま、フィールド内線形補間によってアップコンバートされて作成された素材(以下、「低品質アップコンバート素材」という)が含まれる。例えば、480iの画像データをアップコンバートして得られた1080iの画像データ、あるいは576iの画像データをアップコンバートして得られた1080iの画像データ等がある。
【0004】
なお、アップコンバート前のインターレース方式のSD解像度の画像データには、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データ(フィルム素材)から2−3プルダウン方式または2−2プルダウン方式によって変換されて作成された画像データも含まれる。
【0005】
上述の低品質アップコンバート素材の場合、画像表示のためにフィールド間補間によりインターレース方式からプログレッシブ方式に変換すると、垂直方向に輝度差がある部分に横筋が発生するという不都合があった。インターレース方式のSD解像度の画像データを、インターレース方式のまま、フィールド内線形補間によってアップコンバートした場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる状態が発生するためである。
【0006】
例えば、特許文献1には、画像データから複数の周波数帯域の信号を検出し、各周波数帯域の信号振幅に基づいて、アップコンバート素材か否か等の画像判定を行うことが記載されている。また、例えば、特許文献2には、HD解像度の画像データのサイドパネルの有無によってアップコンバート素材か否かの判定を行うことが記載されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008− 85993号公報
【特許文献2】特開2004−289753号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1に記載の技術では、低品質アップコンバート素材をインターレース方式からプログレッシブ方式に変換したときに発生する横筋部分を高周波数成分とみなし、低品質アップコンバート素材を通常のHD解像度の画像データであると誤検出するおそれがある。また、特許文献2に記載の技術では、アップコンバート素材の全てにサイドパネルが付加されているわけではなく、サイドパネルのないアップコンバート素材を検出できない。また、この特許文献2に記載の技術では、横筋を発生させる低品質アップコンバート素材とそうではないアップコンバート素材を区別できない。
【0009】
この発明の目的は、低品質アップコンバート素材の検出を精度よく行って画質改善を良好に行うことにある。
【課題を解決するための手段】
【0010】
この発明の概念は、
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換部と、
上記インターレース方式の画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出部と、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データに対して上記アップコンバート部材検出部の検出信号に基づいた処理を行って出力画像データを得る画像処理部を備え、
上記アップコンバート素材検出部は、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素値差分の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素値差分の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理装置にある。
【0011】
この発明において、インターレース/プログレッシブ変換部により、インターレース方式の入力画像データがプログレッシブ方式の画像データに変換される。このインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データは、インターレース方式の入力画像データが上述の低品質アップコンバート素材である場合、垂直方向に輝度差がある部分で横筋を発生させるものとなる。
【0012】
アップコンバート素材検出部により、インターレース方式の画像データの低品質アップコンバート素材らしさが検出される。上述したように低品質アップコンバート素材の場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる状態(以下、適宜、「横筋発生状態」という)が存在する。このアップコンバート素材検出部では、この状態が存在しているか否かを検出する。
【0013】
このアップコンバート素材検出部では、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用いて検出が行われる。まず、所定領域内の画素が順次注目画素とされて、フィールド間画素値差分の総和と、フィールド内画素値差分の総和とが得られる。ここで、フィールド間画素値差分は、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接した第2のフィールドの画素の画素データにより求められる。また、フィールド内画素値差分は、第1のフィールドの注目画素およびこの注目画素に対して垂直方向に隣接したこの第1のフィールドの画素の画素データにより求められる。
【0014】
インターレース方式の入力画像データが低品質アップコンバート素材であって横筋発生状態が存在しているとき、フィールド間画素値差分の総和はフィールド内画素値差分の総和より大きくなる。アップコンバート素材検出部では、フィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいて、低品質アップコンバート素材らしさが検出される。例えば、その比が1より大きな所定の閾値を越えるときは、低品質アップコンバート素材らしさが高いとされる。
【0015】
画像処理部により、インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データが、アップコンバート部材検出部の検出信号に基づいて処理されて出力画像データが得られる。例えば、インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データおよびこの画像データに垂直方向のローパスフィルタ処理を施して得られた画像データが、アップコンバート素材検出部の検出信号に応じた比率で混合されて出力画像データとされる。
【0016】
低品質アップコンバート素材らしさが高い場合、ローパスフィルタ処理を施して得られた画像データの混合割合が高くされる。そのため、横筋の表示が抑制される。また、低品質アップコンバート素材らしさが低い場合には、ローパスフィルタ処理を施して得られた画像データの混合割合が低くされる。そのため、ローパスフィルタ処理を施して得られた画像データが必要なく使用されて垂直解像度が低下することが防止される。
【0017】
このように、この発明においては、横筋発生状態の存在を示すフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいてインターレース方式の入力画像データの低品質アップコンバート素材らしさが検出され、その検出信号に基づいてインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データが処理される。そのため、低品質アップコンバート素材の検出が高精度に行われ、画質改善が良好に行われる。
【0018】
この発明において、例えば、アップコンバート素材検出部は、フィールド間画素値差分の総和を第1の総和とし、フィールド内画素値差分の総和を第2の総和として、第1の総和と第2の総和との比が所定の閾値を越えるとき第1の判定出力を出力し、この比が所定の閾値以下のとき第2の判定出力を出力するアップコンバート素材判定部と、低品質アップコンバート素材らしさを示す検出信号を出力する検出信号出力部と、フィールド毎に、アップコンバート素材判定部の最新の所定数のフィールドにおける判定出力に、第1の判定出力が所定個数以上含まれているか判断し、所定個数以上含まれているとき検出信号の値を上げ、所定個数以上含まれていないとき検出信号の値を下げるように検出信号出力部を制御する判定安定化部を有する、ようにしてもよい。
【0019】
この場合、アップコンバート素材判定部の判定出力が第1の判定出力から第2の判定出力に、あるいは第2の判定出力から第1の判定出力に変化したとしても、検出信号出力部から出力される低品質コンバート素材らしさを示す検出信号は急激に変化しない。そのため、例えば、画像処理部において、ローパスフィルタ処理を施して得られた画像データの混合割合が急激に変化することが防止され、画像処理の切り替わりが目立つことを回避できる。
【0020】
また、この発明において、例えば、フィールド毎に、アップコンバート素材判定部の判定出力の有効性を判定する有効性判定部をさらに有し、判定安定化部は、有効性判定部で有効であると判定されるフィールドに関してはアップコンバート素材判定部から出力される判定出力を使用し、有効性判定部で有効でないと判定されるフィールドに関しては第2の判定出力を使用する、ようにしてもよい。このように、アップコンバート素材判定部の判定出力が有効でないと判定されるとき、その判定出力を使用しないことで、検出信号出力部から出力される低品質アップコンバート素材らしさを示す検出信号の精度を高めることができる。
【0021】
例えば、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであり、第1のフィールドおよび第2のフィールドが同一のフレームの画像データから作成されていない場合、インターレース方式の入力画像データが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和がフィールド内画素値差分の総和より大きくなることがある。
【0022】
そのため、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであるとき、有効性判定部では、第1のフィールドおよび第2のフィールドが同一のフレームの画像データから作成されているフィールドにおいて有効であると判定される。
【0023】
また、例えば、動画の場合、インターレース方式の入力画像データが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和がフィールド内画素値差分の総和より大きくなることがある。そのため、例えば、インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データでないとき、有効性判定部では、フィールド毎に静止時のフィールドであるか判断され、静止時のフィールドにおいては有効であると判定される。
【0024】
また、この発明において、例えば、インターレース方式の入力画像データに基づいてシーンチェンジか否かを判定するシーンチェンジ判定部をさらに備え、検出信号出力部は、シーンチェンジ判定部でシーンチェンジであると判定されたとき、検出信号を最小値にリセットする、ようにしてもよい。シーンチェンジがあった場合、素材の切り替わりがある可能性がある。シーンチェンジと判定されたとき検出信号を最小値にリセットすることで、低品質アップコンバート素材でない素材に切り替わった場合に、例えば、画像処理部において、ローパスフィルタ処理を施して得られた画像データの混合を直ちに停止でき、無駄に垂直解像度が劣化されることを回避できる。
【発明の効果】
【0025】
この発明によれば、横筋発生状態の存在を示すフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいてインターレース方式の入力画像データの低品質アップコンバート素材らしさを検出し、その検出信号に基づいてインターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データを処理するものであり、低品質アップコンバート素材の検出を高精度に行って、画質改善を良好に行うことができる。
【図面の簡単な説明】
【0026】
【図1】実施の形態としての画像処理装置の構成例を示すブロック図である。
【図2】I/P変換処理が現在(Next)、1フィールド前(Current)および2フィールド前(Past)の3フィールド分の画像データを用いて行われることを説明する図である。
【図3】I/P変換部におけるフィルム素材(2−3プルダウン方式による変換)の検出方法を説明するための図である。
【図4】インターレース方式の入力画像データがフィルム素材である場合のI/P変換方法を説明するための図である。
【図5】インターレース方式の入力画像データがビデオ素材である場合のI/P変換方法を説明するための図である。
【図6】I/P変換部における静止画素判定の一例における条件1を説明するための図である。
【図7】I/P変換部における静止画素判定の一例における条件2を説明するための図である。
【図8】フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnを求める際に使用する画素を示す図である。
【図9】各フィールドにおける画面全体で静止と判定された画素の数(静止画素数)の変化例を示す図である。
【図10】判定安定化部が出力する制御信号SCの一例(M=4、N=2)を示す図である。
【図11】画像処理強度決定部から出力される検出信号Sdetの変化例を示す図である。
【図12】この発明の検出信号Sdetの変化例に対する比較例を示す図である。
【図13】画像処理装置における1フィールド分の処理手順を概略的に示すフローチャートである。
【発明を実施するための形態】
【0027】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0028】
<1.実施の形態>
[画像処理装置の構成]
図1は、画像処理装置100の構成例を示している。この画像処理装置100は、I/P変換部110と、画像処理部120と、アップコンバート素材検出部130を有している。I/P変換部110は、インターレース方式の入力画像データVinを、プログレッシブ方式の画像データVo1に変換する。ここで、入力画像データVinは1080iフォーマットの画像データであり、変換後の画像データは1080pフォーマットの画像データとなる。
【0029】
I/P変換部110は、図2に示すように、現在(Next)、1フィールド前(Current)および2フィールド前(Past)の3フィールド分の画像データを用いて行う。I/P変換部110に入力される現在(Next)フィールドの画像データは、図示しないフィールドメモリに保存され、過去フィールドの画像データとして使用される。
【0030】
I/P変換部110は、入力画像データVinがビデオ(Video)素材であるかフィルム(Film)素材であるかにより、I/P変換の方法を変える。ビデオ素材は元画となるプログレッシブ画像が存在しない。しかし、フィルム素材は元画となるプログレッシブ画像が存在する。I/P変換部110は、入力画像データVinがフィルム素材か否かを検出し、フィルム素材であるときはフィルム素材に対するIP変換処理を施し、フィルム素材でないときはビデオ素材に対するIP変換処理を施す。
【0031】
I/P変換部110におけるフィルム素材の検出方法を、図3を参照して説明する。この図3は、元画が1秒間に24枚の画像を持つプログレッシブ画像(24P)であり、この元画を2−3プルダウン方式で1秒間に60枚の画像を持つインターレース画像(60i)に変換したフィルム素材の検出方法を説明している。
【0032】
1秒間に24枚の画像を1秒間に60枚の画像に変換するため、元画であるプログレッシブ画像の奇数ライン(o)のみと偶数ラインのみ(e)が、2回または3回交互に取り出されている。例えば、プログレッシブ画像(24P)のAフレームから、インターレース画像(60i)の奇数フィールドAoおよび偶数フィールドAeが生成される。また、プログレッシブ画像(24P)のAフレームに続くBフレームから、インターレース画像(60i)の奇数フィールドBo、偶数フィールドBeおよび奇数フィールドBoが生成される。
【0033】
このようなフィルム素材は、フィールド内補間をするよりも、元画のプログレッシブ画像の同じフレームから取り出された奇数ラインと偶数ラインを組み合わせたほうが、画質が良くなる。そのため、フィルム素材であるということを検出する必要がある。入力画像データVinがフィルム素材か否かを検出する方法としては、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの間の輝度差分絶対値の和(フレーム差分)の周期をカウントする方法がある。
【0034】
図3に示すフィルム素材においては、図示のように5フィールド毎にフレーム差分が小さくなり、フィルム素材であることが検出される。すなわち、5フィールド毎に、フレーム差分を得るための現在(Next)フィールドおよび2フィールド前(Past)のフィールドが元画のプログレッシブ画像の同じフレームから生成されたものとなり、フレーム差分が小さくなる。
【0035】
図4は、フィルム(Film)素材(プログレッシブ画像(24P)から変換されたインターレース画像(60i)のI/P変換の方法を示している。入力画像データVinが、上述したフィルム素材である場合、1フィールド前(Current)を基準として、現在(Next)および2フィールド前(Past)のどちらかはペアを構成する。つまり、1フィールド前(Current)のフィールドの画像データと、現在(Next)および2フィールド前(Past)のどちらかのフィールドの画像データとは、元画のプログレッシブ画像の同一のフレームから取り出されたものとなっている。
【0036】
I/P変換部110は、フィルム素材のI/P変換においては、各Current時制のフィールドで、ペアを構成する2つのフィールドの奇数ラインおよび偶数ラインを組み合わせるプルダウン逆変換を行って、フレーム画像データを生成する。I/P変換部110は、例えば、1フィールド前(Current)および現在(Next)のフィールドの間の輝度差分絶対値の和(フィールド差分)を用いて、現在(Next)および2フィールド前(Past)のどちらがペアを構成しているか判定する。
【0037】
この場合、I/P変換部110は、フィールド差分が大きいときは2フィールド前(Past)のフィールドがペアであると判定し、一方フィールド差分が小さいときは現在(Next)のフィールドがペアであると判定する。I/P変換部110は、入力画像データVinがフィルム素材である場合、各フィールドにおいて、ペア判定情報PIを、アップコンバート素材検出部130に送る。
【0038】
例えば、図4において、Current時制がAeフィールドであるとき、このAeフィールドと1フィールド前(Current)のAoフィールドはペアを構成している。この場合、AoフィールドおよびAeフィールドの各ラインの組み合わせにより、プログレッシブ画像(60P)を構成するAフレームの画像データが生成される。また、例えば、図4において、Current時制がFoフィールドであるとき、このFoフィールドと現在(Next)フィールドのFeフィールドはペアを構成している。この場合、FoフィールドおよびFeフィールドの各ラインの組み合わせにより、プログレッシブ画像(60P)を構成するFフレームの画像データが生成される。
【0039】
ビデオ(Video)素材のIP変換の方法を説明する。I/P変換部110は、フィールド間補間もしくはフィールド内補間により、Current時制の補間画素データを作成する。フィールド間補間では、現在(Next)および2フィールド前(Past)のフィールドの実画素データを用いる。フィールド内補間では、1フィールド前(Current)の実画素データを用いる。I/P変換部110は、Current時制の補間画素データラインを、Current時制の実画素データラインと組み合わせることで、プログレッシブ方式の画像データを生成する。
【0040】
I/P変換部110は、1フィールド前(Current)のフィールドの補間位置に対応する、画像の動きを検出する。この場合、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの実画素データ、あるいはさらにその周辺の実画素データを用い、フレーム間での輝度差分絶対値あるいはその総和を閾値と比較して、画像の動きを検出する。
【0041】
I/P変換部110は、差分絶対値あるいはその総和が閾値より小さく、画像が静止していると判定する場合、線形演算でフィールド間補間をする。この場合、図5(a)のように、補間位置に対応する現在(Next)および2フィールド前(Past)のフィールドの実画素データを用いる。一方、I/P変換部110は、差分絶対値あるいはその総和が閾値より大きく、画像が動いていると判定する場合、図5(b-1)のように、補間位置の上下もしくはその周囲の画素の線形演算でフィールド内補間をする。
【0042】
なお、I/P変換部110は、図5(b-2)のように、現在(Next)および2フィールド前(Past)のフィールド間の動き(動きベクトル)が正確に求められるとき、動いている場合でも動きの方向と大きさから推定してフィールド間補間を行うこともある。図5(b-1)のような方法を動き適応型I/P変換、図5(b-2)のような方法を動き補償型I/P変換等と呼ぶ。低品質アップコンバート素材が問題となるのは、図5(a)の静止時のI/P変換である。
【0043】
ここで、図6、図7を参照して、I/P変換部110における静止画素判定の一例を説明する。この静止画素判定は、補間方法を決定するための1つの材料で、この結果のみを用いてフィールド間補間を行うよう決定するものではない。静止画素判定は2つの条件によって行われる。
【0044】
第1の条件を説明する。図6に示すように、1フィールド前(Current)のフィールドの静止画素判定の画素位置と、その上下2ラインまでの画素位置に対応する5か所における輝度差分絶対値abs(N-P)を計算する。この輝度差分絶対値abs(N-P)は、現在(Next)および2フィールド前(Past)のフィールドの間の輝度差分絶対値である。その5つの値が全て閾値Th1より小さい場合、条件1が成立しているとする。どれか1つの値でも閾値Th1に達した場合、条件1は不成立とする。
【0045】
第2の条件を説明する。図7に示すように、1フィールド前(Current)のフィールドの静止画素判定の画素位置より左側と右側の5×5画素について、それぞれ現在(Next)および2フィールド前(Past)のフィールドの間の輝度差分絶対値の総和を計算する。図において、左側の輝度差分絶対値の総和はΣ(abs(Nl-Pl))であり、右側の輝度差分絶対値の総和はΣ(abs(Nr-Pr))である。2つの差分絶対値和がいずれも閾値Th2(条件1に用いる閾値Th1とは別に設定可能)より小さかった場合、条件2が成立しているとする。
【0046】
I/P変換部110は、条件1および条件2がどちらも成立している場合、1フィールド前(Current)のフィールドの静止画素判定の画素は静止と判定する。I/P変換部110は、同様の処理を1フィールド前(Current)のフィールドのすべての補間画素位置で繰り返し行う。I/P変換部110は、入力画像データVinがビデオ素材である場合、各フィールドにおいて、画面全体で静止と判定された画素の数を取得し、その数情報MIを、アップコンバート素材検出部130に送る。
【0047】
図1に戻って、アップコンバート素材検出部130は、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさを検出する。このアップコンバート素材検出部130は、アップコンバート素材判定部(アップコン判定部)131と、有効性判定部132と、アンド回路133と、判定安定化部134と、画像処理強度決定部135を有している。
【0048】
アップコンバート素材判定部131は、フィールド毎に、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かを判定する。アップコンバート素材判定部131は、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて判定する。
【0049】
アップコンバート素材判定部131は、画面内の所定領域内の画素を順次注目画素として得られるフィールド間画素値差分の総和とフィールド内画素値差分の総和との比に基づいて、入力画像データVinが低品質アップコンバート素材であるか否かを判定する。画面内の所定領域としては、例えば、文字情報がオーバーレイされている可能性がある下側領域等が除かれるように設定される。文字情報は、アップコンバート後にオーバーレイされる場合もある。この場合、文字情報の重畳領域には元々HD解像度の画像データが重畳されるため、文字情報の重畳領域を除かないと、インターレース方式の入力画像データVinの低品質アップコンバート素材であるか否かの判定を誤るおそれがある。
【0050】
フィールド間画素値差分Vcnは、図8に示すように、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した1フィールド前(Current)のフィールドの画素B,Dのデータにより、以下の(1)式により求められる。なお、この(1)式において、B,C,Dは、それぞれ、画素B,C,Dの画素値(画素データ)を表している。
Vcn=abs(B+D−2C) ・・・(1)
【0051】
また、フィールド内画素値差分Vnは、図8に示すように、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した現在(Next)のフィールドの画素A,Eのデータにより、以下の(2)式により求められる。なお、この(2)式において、A,C,Eは、それぞれ、画素A,C,Eの画素値を表している。
Vn=abs(A+E−2C) ・・・(2)
【0052】
アップコンバート素材判定部131は、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比ΣVcn/ΣVnを閾値Thaと比較する。そして、アップコンバート素材判定部131は、その比較結果に基づいて、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かを判定する。低品質アップコンバート素材の場合、あるフィールドとそれに隣接するフィールドとの間で、垂直方向における画素の近さと画素値の近さとが一致しなくなる、横筋発生状態が存在する。
【0053】
このように横筋発生状態が存在しているとき、フィールド間画素値差分の総和ΣVcnはフィールド内画素値差分の総和ΣVnより大きくなる。そのため、比ΣVcn/ΣVnは、1より大きくなる。閾値Thaは、1より大きな所定の値に設定される。アップコンバート素材判定部131は、比ΣVcn/ΣVnが閾値Thaを越えるとき、インターレース方式の入力画像データVinが低品質アップコンバート素材であると判定し、高レベルの信号「1」を出力する。また、アップコンバート素材判定部131は、比ΣVcn/ΣVnが閾値Tha以下のとき、インターレース方式の入力画像データVinが低品質アップコンバート素材でないと判定し、低レベルの信号「1」を出力する。
【0054】
アップコンバート素材判定部131は、フィールド間画素値差分の総和ΣVcnの演算と、フィールド内画素値差分の総和ΣVnの演算を自身で行うこともできる。しかし、この実施の形態において、フィールド間画素値差分の総和ΣVcnの演算と、フィールド内画素値差分の総和ΣVnの演算は、上述したI/P変換部110で行われる。アップコンバート素材判定部131は、I/P変換部110から、総和ΣVcn,ΣVnを受け取り、比ΣVcn/ΣVnを計算し、上述したように閾値Thaと比較して判定を行う。
【0055】
有効性判定部132は、フィールド毎に、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。例えば、入力画像データVinが上述のフィルム(Film)素材である場合、この入力画像データVinが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和ΣVcnがフィールド内画素値差分の総和ΣVnより大きくなることがある。
【0056】
上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。この2フィールドがペアを構成していない場合(図4のCurrent時制がAeフィールドの場合参照)、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0057】
入力画像データVinがフィルム(Film)素材である場合、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、ペア判定情報PIが送られてくる。このペア情報PIは、現在(Next)および2フィールド前(Past)のどちらのフィールドが、1フィールド前(Current)のフィールドとペアを構成するかを示している。
【0058】
そのため、有効性判定部132は、入力画像データVinがフィルム(Film)素材である場合、フィールド毎に、ペア判定情報PIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。この場合、有効性判定部132は、現在(Next)のフィールドがペアを構成するとき、有効と判定し、判定出力として高レベルの信号「1」を出力する。また、有効性判定部132は、2フィールド前(Past)のフィールドがペアを構成するとき、判定出力を行わない。
【0059】
また、例えば、入力画像データVinが上述のビデオ(Video)素材である場合、この入力画像データVinが低品質アップコンバート素材でなくても、フィールド間画素値差分の総和ΣVcnがフィールド内画素値差分の総和ΣVnより大きくなることがある。上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。各フィールドの画像に動きがある動き時の場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0060】
入力画像データVinがビデオ(Video)素材である場合、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、画面全体で静止と判定された画素の数を示す数情報MIが送られてくる。そのため、有効性判定部132は、入力画像データVinがビデオ(Video)素材である場合、フィールド毎に、数情報MIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。この場合、有効性判定部132は、画面全体で静止と判定された画素の数が所定の閾値Thbを越えるとき、有効と判定し、判定出力として高レベルの信号「1」を出力する。また、有効性判定部132は、画面全体で静止と判定された画素の数が所定の閾値Thb以下のとき、無効と判定し、判定出力として低レベルの信号「0」を出力する。
【0061】
なお、閾値Thbは、例えば、画面全体の画素の数の80%程度に設定される。図9は、各フィールドにおける画面全体で静止と判定された画素の数(静止画素数)の変化例を示している。また、この図9において、Thb=52650であり、静止画素数が52650を越えるフィールドでは、有効と判定される。
【0062】
アンド回路133は、上述のアップコンバート素材判定部131の判定出力と、上述の有効性判定部132の判定出力の、論理積をとる。すなわち、このアンド回路133には、アップコンバート素材判定部131および有効性判定部132の判定出力が入力される。このアンド回路133は、有効性判定部132で有効と判定されるフィールドでは、その判定出力が高レベルの信号「1」となることから、アップコンバート素材判定部131の判定出力をそのまま出力する。また、このアンド回路133は、有効性判定部132で無効と判定されるフィールドでは、その判定出力が低レベルの信号「0」となることから、アップコンバート素材判定部131の判定出力によらず、低レベルの信号「0」を出力する。
【0063】
画像処理強度決定部135は、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさを示す検出信号Sdetを出力する。この実施の形態において、検出信号Sdetは、0〜16の範囲で変化し、値が大きいほど低品質アップコンバート素材らしさが高いことを示す。この画像処理強度決定部135は、検出信号出力部を構成している。
【0064】
画像処理強度決定部135は、判定安定化部134からフィールド毎に供給される制御信号SCに応じて、検出信号Sdetの値を変化させる。すなわち、画像処理強度決定部135は、判定安定化部134から検出信号Sdetの値を上げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値を、1ステップだけ大きくする。この場合、検出信号Sdetの値が最大値である「16」にあるときは、その値を保持する。また、画像処理強度決定部135は、判定安定化部134から検出信号Sdetの値を下げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値を、1ステップだけ小さくする。この場合、検出信号Sdetの値が最小値である「0」にあるときは、その値を保持する。
【0065】
判定安定化部134は、アンド回路133の出力に基づいて、アンド回路133の出力が確定する毎、すなわち入力画像データVinがフィルム(Film)素材である場合は現在(Next)のフィールドがペアを構成することとなるフィールド毎、入力画像データVinがビデオ(Video)素材である場合はフィールド毎に、画像処理強度決定部135における検出信号Sdetの値を制御する制御信号SCを出力する。
【0066】
判定安定化部134は、フィールド毎に、アンド回路133の最新の所定数Mのフィールドにおける出力に、高レベルの信号「1」が所定個数N以上含まれているか判断する。そして、判定安定化部134は、高レベルの信号「1」が所定個数N以上含まれているときは、検出信号Sdetの値を上げるように制御する制御信号SCを出力する。また、判定安定化部134は、高レベルの信号「1」が所定個数N以上含まれていないときは、検出信号Sdetの値を下げるように制御する制御信号SCを出力する。
【0067】
図10は、例えば、入力画像データVinがビデオ(Video)素材であり、M=4、N=2に設定された場合において、判定安定化部134が出力する制御信号SCの一例を示している。例えば、フィールド(i−4)では、最新の4フィールド内に高レベルの信号「1」が3個含まれている。そのため、判定安定化部134は、検出信号Sdetの値を上げるように制御する制御信号SCを出力する。また、例えば、フィールドiでは、最新の4フィールド内に高レベルの信号「1」が1個含まれている。そのため、判定安定化部134は、検出信号Sdetの値を下げるように制御する制御信号SCを出力する。
【0068】
図11は、画像処理強度決定部135から出力される検出信号Sdetの変化例を示している。上述したように検出信号Sdetの値は、判定安定化部134からの制御信号SCにより制御されるので、その値は急激には変化しない。なお、図12は、図11の例の場合とアンド回路133の出力が同じ場合における比較例を示している。この例は、アンド回路133の出力が高レベルの信号「1」のとき検出信号Sdetを最大値「16」とし、その出力が低レベルの信号「0」のとき検出信号Sdetを最小値「0」とする例である。この例の場合検出信号Sdetの値は、「0」から「16」に、あるいは「16」から「0」に急激に変化する。
【0069】
上述していないが、I/P変換部110は、シーチェンジ判定部111を有している。このシーンチェンジ判定部111は、フィールド毎に、インターレース方式の入力画像データVinに基づいて、シーンチェンジか否かを判定する。シーチェンジ判定部111は、例えば、現在(Next)および2フィールド前(Past)2フィールドの画像データを用いて判定する。このシーチェンジ判定部111は、例えば、現在(Next)フィールドおよび2フィールド前(Past)のフィールドの間の輝度差分絶対値の和が所定の閾値を越えるとき、シーンチェンジであると判定する。
【0070】
このシーチェンジ判定部111の判定出力CIは、アップコンバート素材検出部130の画像処理強度決定部135に送られる。画像処理強度決定部135は、判定出力CIに基づいて、シーンチェンジであるとき、検出信号Sdetの値を「0」にリセットする。シーンチェンジがあった場合、素材の切り替わり、すなわち、低品質アップコンバート素材からそうでない素材への切り替わりの可能性があるからである。
【0071】
画像処理部120は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1(1080p)に対して、アップコンバート素材検出部130の検出信号Sdetに基づいた処理を行って、出力画像データVout(1080p)を得る。この画像処理部120は、ローバスフィルタ121と、αブレンド部122と、エンハンス部123を有している。
【0072】
ローパスフィルタ121は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1に、垂直方向のローパスフィルタ処理を施す。αブレンド部122は、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1およびローパスフィルタ121でフィルタ処理されたプログレッシブ方式の画像データVo2を、検出信号Sdetに応じた比率で混合する。すなわち、αブレンド部122は、出力画像データをVo3とするとき、以下の(3)式に基づいて、αブレンド処理を行う。この(3)式において、α=Sdet/16である。
Vo3=(1−α)*Vo1+α*Vo2 ・・・(3)
【0073】
この場合、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、検出信号Sdetの値が大きくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が高くなり、横筋の表示が抑制される。一方、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが低い場合には、検出信号Sdetの値が小さくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が低くなり、垂直解像度の低下が抑制される。
【0074】
エンハンス部123は、αブレンド部122から出力されるプログレッシブ方式の画像データVo3に対して、高域成分の強調処理を施して、プログレッシブ方式の出力画像データVout(1080p)を出力する。エンハンス部123は、アップコンバート素材検出部130の検出信号Sdetの値が大きくなるほど強調量を小さくする。インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、画像データに強調すべき高域の成分がなく、横筋表示成分等のノイズ成分だけを強調するおそれがあるからである。
【0075】
[画像処理装置の動作]
図1に示す画像処理装置100の動作を説明する。インターレース方式の入力画像データVin(1080i)は、I/P変換部110に入力される。このI/P変換部110では、インターレース方式の入力画像データVin(1080i)が、プログレッシブ方式の画像データVo1(1080p)に変換される。このI/P変換部110では、入力画像データVinがフィルム(Film)素材であるか否かの検出が行われ、入力画像データVinがフィルム(Film)素材であるかビデオ(Video)素材であるかによって、異なる方法でI/P変換が行われる。
【0076】
入力画像データVinがフィルム素材である場合、I/P変換部110では、各Current時制のフィールドで、ペアを構成する2フィールドの奇数ラインおよび偶数ラインを組み合わせるプルダウン逆変換が行われ、フレーム画像データが得られる。I/P変換部110では、例えば、1フィールド前(Current)および現在(Next)のフィールドの間の輝度差分絶対値の和(フィールド差分)が用いられ、現在(Next)および2フィールド前(Past)のどちらがペアを構成しているか判定される。
【0077】
この場合、I/P変換部110では、フィールド差分が大きいときは2フィールド前(Past)のフィールドがペアであると判定され、一方フィールド差分が小さいときは現在(Next)のフィールドがペアであると判定される。インターレース方式の入力画像データVinがフィルム素材である場合、各フィールドにおいて、I/P変換部110からアップコンバート素材検出部130に、ペア判定情報PIが送られる。
【0078】
また、インターレース方式の入力画像データVin(1080i)がビデオ(Video)素材である場合、I/P変換部110では、フィールド間補間もしくはフィールド内補間により、Current時制の補間画素データが作成される。I/P変換部110では、Current時制の補間画素データラインが、Current時制の実画素データラインと組み合わせられることで、フレーム画像データが生成される。
【0079】
I/P変換部110では、1フィールド前(Current)のフィールドの補間位置に対応する、画像の動きが検出される。そして、画像が静止していると判定される場合、フィールド間補間によりCurrent時制の補間画素データが作成される。一方、画像が動いていると判定される場合、例えば、フィールド内補間により、Current時制の補間画素データが作成される。
【0080】
入力画像データVinがビデオ素材である場合、各フィールドにおいて、I/P変換部110からアップコンバート素材検出部130に、画面全体で静止と判定された画素の数(静止画素数)を示す数情報MIが送られる。
【0081】
アップコンバート素材検出部130のアップコンバート素材判定部131では、フィールド毎に、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かが判定される。このアップコンバート素材検出部130には、I/P変換部110から、フィールド間画素値差分の総和ΣVcnと、フィールド内画素値差分の総和ΣVnが供給される。アップコンバート素材判定部131では、総和ΣVcn,ΣVnの比ΣVcn/ΣVnが閾値Thaと比較され、その比較結果に基づいて、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かが判定される。
【0082】
インターレース方式の入力画像データVinが低品質アップコンバート素材であって横筋表示状態が発生しているとき、フィールド間画素値差分の総和ΣVcnはフィールド内画素値差分の総和ΣVnより大きくなる。アップコンバート素材判定部131では、比ΣVcn/ΣVnが閾値Tha(>1)を越えるとき、インターレース方式の入力画像データVinが低品質アップコンバート素材であると判定され、高レベルの信号「1」が出力される。また、アップコンバート素材判定部131では、比ΣVcn/ΣVnが閾値Tha以下のとき、インターレース方式の入力画像データVinが低品質アップコンバート素材でないと判定され、低レベルの信号「1」が出力される。
【0083】
有効性判定部132では、フィールド毎に、上述のアップコンバート素材判定部131の判定出力の有効性が判定される。上述の総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。入力画像データVinが上述のフィルム(Film)素材である場合、この2フィールドがペアを構成していない場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0084】
入力画像データVinが上述のフィルム(Film)素材である場合、I/P変換部110から有効性判定部132に、各フィールドにおいて、ペア判定情報PIが送られてくる。有効性判定部132では、ペア判定情報PIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性が判定される。そして、有効性判定部132では、現在(Next)のフィールドがペアを構成するとき、有効と判定され、判定出力として高レベルの信号「1」が出力される。また、有効性判定部132では、2フィールド前(Past)のフィールドがペアを構成するとき、判定出力を行わない。
【0085】
また、上述したように、総和ΣVcn,ΣVnは、現在(Next)および1フィールド前(Current)の2フィールドの画像データを用いて算出される。入力画像データVinが上述のビデオ(Video)素材である場合、各フィールドの画像に動きがある動き時の場合、入力画像データVinが低品質アップコンバート素材でなくても、ΣVcn>ΣVnとなることがある。
【0086】
入力画像データVinがビデオ素材である場合、I/P変換部110から有効性判定部132に、有効性判定部132には、上述したように、I/P変換部110から、各フィールドにおいて、画面全体で静止と判定された画素の数を示す数情報MIが送られてくる。有効性判定部132では、数情報MIに基づいて、上述のアップコンバート素材判定部131の判定出力の有効性を判定する。そして、有効性判定部132では、画面全体で静止と判定された画素の数が所定の閾値Thbを越えるとき、有効と判定され、判定出力として高レベルの信号「1」が出力される。また、有効性判定部132では、画面全体で静止と判定された画素の数が所定の閾値Thb以下のとき、無効と判定され、判定出力として低レベルの信号「0」が出力される。
【0087】
アップコンバート素材判定部131の判定出力および有効性判定部132の判定出力は、アンド回路133に供給される。このアンド回路133では、双方の判定出力の論理積をとられる。このアンド回路133では、有効性判定部132で有効と判定されるフィールドでは、その判定出力が高レベルの信号「1」となることから、アップコンバート素材判定部131の判定出力がそのまま出力される。また、このアンド回路133では、有効性判定部132で無効と判定されるフィールドでは、その判定出力が低レベルの信号「0」となることから、アップコンバート素材判定部131の判定出力によらず、低レベルの信号「0」が出力される。このアンド回路133の出力は、判定安定化部134に供給される。
【0088】
判定安定化部134では、アンド回路133の出力に基づいて、アンド回路133の出力が確定する毎、すなわち入力画像データVinがフィルム(Film)素材である場合は現在(Next)のフィールドがペアを構成することとなるフィールド毎、入力画像データVinがビデオ(Video)素材である場合はフィールド毎に、画像処理強度決定部135における検出信号Sdetの値を制御する制御信号SCが得られる。
【0089】
この判定安定化部134では、フィールド毎に、アンド回路133の最新の所定数Mのフィールドにおける出力に、高レベルの信号「1」が所定個数N以上含まれているか判断される。そして、この判定安定化部134では、高レベルの信号「1」が所定個数N以上含まれているときは、検出信号Sdetの値を上げるように制御する制御信号SCが出力される。また、判定安定化部134では、高レベルの信号「1」が所定個数N以上含まれていないときは、検出信号Sdetの値を下げるように制御する制御信号SCが出力される。
【0090】
上述したように判定安定化部134から出力される制御信号SCは、画像処理強度決定部135に供給される。この画像処理強度決定部135では、制御信号SCに応じて、検出信号Sdetの値が調整される。すなわち、画像処理強度決定部135では、検出信号Sdetの値を上げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値が1ステップだけ大きくされる。また、画像処理強度決定部135では、検出信号Sdetの値を下げるように制御する制御信号SCが供給されるとき、検出信号Sdetの値が1ステップだけ小さくされる。このように、アンド回路133と画像強度信号決定部135との間に判定安定化部134が介在されることで、アンド回路133の出力が「1」,「0」の変化が頻繁であっても、検出信号Sdetは急激には変化しない。
【0091】
また、I/P変換部110のシーチェンジ判定部111では、フィールド毎に、インターレース方式の入力画像データVinに基づいて、シーンチェンジか否かの判定が行われる。このシーチェンジ判定部111の判定出力CIは、画像処理強度決定部135に送られる。画像処理強度決定部135では、判定出力CIに基づいて、シーンチェンジであるとき、検出信号Sdetの値が「0」にリセットされる。シーンチェンジがあった場合、素材の切り替わり、すなわち、低品質アップコンバート素材からそうでない素材への切り替わりの可能性があるからである。
【0092】
画像処理部120では、I/P変換部110で変換されたプログレッシブ方式の画像データVo1(1080p)に対して、アップコンバート素材検出部130の検出信号Sdetに基づいた処理が行われて、出力画像データVout(1080p)が得られる。すなわち、I/P変換部110から出力される出力画像データVo1は直接αブレンド部122に供給される。また、I/P変換部110から出力される出力画像データVo1は、ローパスフィルタ121に供給される。そして、このローパスフィルタ121で垂直ローパスフィルタ処理が施されて得られた画像データVo2はαブレンド部122に供給される。
【0093】
このαブレンド部122には、アップコンバート素材検出部130の検出信号Sdetが供給される。このαブレンド部122では、画像データVo1および画像データVoが検出信号Sdetに応じた比率で混合されて、出力画像データVo3が得られる((3)式参照)。この場合、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、検出信号Sdetの値が大きくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が高くされ、横筋の表示が抑制される。一方、インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが低い場合には、検出信号Sdetの値が小さくなる。そのため、出力画像データVo3における、垂直方向のローパスフィルタ処理が施された画像データVo2の混合割合が低くされ、垂直解像度の低下が抑制される。
【0094】
αブレンド部122の出力データVo3は、エンハンス部123に供給される。このエンハンス部123には、アップコンバート素材検出部130の検出信号Sdetが供給される。エンハンス部123では、αブレンド部122から出力されるプログレッシブ方式の画像データVo3に対して、高域成分の強調処理が施されて、プログレッシブ方式の出力画像データVoutが得られる。このエンハンス部123では、検出信号Sdetの値が大きくなるほど強調量が小さくされる。インターレース方式の入力画像データVinの低品質アップコンバート素材らしさが高い場合には、画像データに強調すべき高域の成分がなく、横筋表示成分などのノイズ成分だけを強調するおそれがあるからである。
【0095】
図13のフローチャートは、図1に示す画像処理装置100における1フィールド分の処理手順を概略的に示している。
画像処理装置100は、ステップST1において、処理を開始し、その後に、ステップST2の処理に移る。このステップST2において、画像処理装置100は、I/P変換部110により、インターレース方式の入力画像データVin(1080i)を、プログレッシブ方式の画像データVo1(1080p)に変換する。
【0096】
次に、画像処理装置100は、ステップST3において、アップコンバート素材判定部131により、インターレース方式の入力画像データVinが低品質アップコンバート素材であるか否かの判定を行う。そして、画像処理装置100は、ステップST4において、有効性判定部132により、ステップST3における判定の有効性を判定する。
【0097】
次に、画像処理装置100は、ステップST5において、ステップST4の有効性判定の結果が有効か否かを判断する。有効性判定結果が有効であるとき、画像処理装置100は、ステップST6において、判定安定化部134により、ステップST3の判定結果をそのまま使用して、判定安定化処理を行う。一方、有効性判定結果が有効でないとき、画像処理装置100は、ステップST7において、判定結果を「0」とし、その後に、ステップST6において、判定安定化部134により、判定安定化処理を行う。
【0098】
次に、画像処理装置100は、ステップST8において、シーンチェンジか否かを判断する。シーンチェンジでないとき、画像処理装置100は、ステップST9において、画像処理強度決定部135により、判定安定化処理の結果を用いて、画像処理強度、つまり低品質アップコンバート素材らしさを示す検出信号Sdetを決定する。一方、シーンチェンジであるとき、画像処理装置100は、ステップST10において、画像処理強度を0(Sdet=0)にする。
【0099】
次に、画像処理装置100は、ステップST11において、画像処理部120により、画像処理強度(検出信号Sdet)に応じた横筋抑制処理、エンハンス処理などの処理を行う。そして、画像処理装置100は、ステップST11の処理の後、ステップST12において、処理を終了する。
【0100】
図1に示す画像処理装置100において、アップコンバート素材検出部130では、フィールド間画素値差分の総和ΣVcnとフィールド内画素値差分の総和ΣVnとの比に基づいて入力画像データVinの低品質アップコンバート素材らしさが検出される。そして、画像処理部120では、アップコンバート素材検出部130で得られる検出信号Sdetに基づいて、I/P変換部110で変換されて得られたプログレッシブ方式の画像データVo1が処理されて、出力画像データVoutが得られる。したがって、低品質アップコンバート素材の検出を高精度に行うことができ、画質改善を良好に行うことができる。
【0101】
また、図1に示す画像処理装置100において、アップコンバート素材検出部130では、アンド回路133と画像処理強度決定部135との間に、判定安定化部134が介在されている。そのため、アンド回路133の出力が、「1」から「0」に、あるいは「0」から「1」に変化したとしても、画像処理強度決定部135から出力される低品質アップコンバート素材らしさを示す検出信号Sdetが急激に変化することはない。したがって、例えば、画像処理部120において、ローパスフィルタ処理を施して得られた画像データVo2の混合割合が急激に変化することが防止され、画像処理の切り替わりが目立つことを回避できる。
【0102】
また、図1に示す画像処理装置100において、アップコンバート素材検出部130では、有効性判定部132によりアップコンバート素材判定部131の判定出力の有効性が判定される。そして、判定安定化部134では、有効性判定部132で有効でないと判定されるフィールドに関しては、アップコンバート素材判定部131の判定出力が「1」であるか「0」であるかによらず、「0」が使用される。したがって、画像処理強度決定部135から出力される低品質アップコンバート素材らしさを示す検出信号Sdetの精度を高めることができる。
【0103】
また、図1に示す画像信号処理装置100において、アップコンバート素材検出部130の画像処理強度決定部135では、シーンチェンジであると判定されたとき、検出信号Sdetが最小値にリセットされる。したがって、低品質アップコンバート素材でない素材に切り替わった場合に、例えば、画像処理部120において、ローパスフィルタ処理を施して得られた画像データVo2の混合を直ちに停止でき、無駄に垂直解像度が劣化されることを回避できる。
【0104】
また、図1に示す画像信号処理装置100において、画像処理部120では、I/P変換部110の出力画像データVo1およびフィルタ処理が施された画像データVo2が、アップコンバート素材検出部130の検出信号Sdetに応じた比率で混合される。そのため、低品質アップコンバート素材らしさが高い場合、画像データVo2の混合割合が高くされ、横筋の表示を良好に抑制できる。また、低品質アップコンバート素材らしさが低い場合には、画像データVo2の混合割合が低くされ、垂直解像度の低下を回避できる。
【0105】
<2.変形例>
なお、上述実施の形態においては、図8に示す各画素のデータを用いて、フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnが求められている。すなわち、フィールド間画素値差分Vcnは、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した1フィールド前(Current)のフィールドの画素B,Dのデータにより求められる。また、フィールド内画素値差分Vnを、現在(Next)のフィールドの注目画素Cおよびこの注目画素Cに対して垂直方向に隣接した現在(Next)のフィールドの画素A,Eのデータにより求められる。しかし、フィールド間画素値差分Vcnおよびフィールド内画素値差分Vnを、現在(Next)および1フィールド前(Current)のフィールドの各画素を逆にして求めてもよい。
【0106】
また、上述実施の形態においては、フィルム(Film)素材として、1秒間が24フレームのプログレッシブ方式の画像データを2−3プルダウン方式によって変換して作成されたものを示した。しかし、1秒間が30フレームのプログレッシブ方式の画像データを2−2プルダウン方式によって変換して作成されたフィルム(Film)素材についても、この発明を同様に適用できることは勿論である。
【0107】
また、上述実施の形態において、画像処理装置120では、αブレンドによる横筋抑制処理およびエンハンス処理が行われる。しかし、アップコンバート素材検出部130からの低品質アップコンバート素材らしさの検出信号Sdetに基づいて行われる処理は、これに限定されない。
【産業上の利用可能性】
【0108】
この発明は、横筋を発生させるような低品質アップコンバート素材の検出を精度よく行って画質改善を良好に行うことができるものであり、例えばテレビ受信機において受信画像データを処理する画像処理装置等に適用できる。
【符号の説明】
【0109】
100・・・画像処理装置、110・・・I/P変換部、111・・・シーンチェンジ判定部、120・・・画像処理部、121・・・ローパスフィルタ、122・・・αブレンド部、123・・・エンハンス部、130・・・アップコンバート素材検出部、131・・・アップコンバート素材判定部、132・・・有効性判定部、133・・・アンド回路、134・・・判定安定化部、135・・・画像処理強度決定部
【特許請求の範囲】
【請求項1】
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換部と、
上記インターレース方式の入力画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出部と、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データに対して上記アップコンバート素材検出部の検出信号に基づいた処理を行って出力画像データを得る画像処理部を備え、
上記アップコンバート素材検出部は、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素値差分の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素値差分の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理装置。
【請求項2】
上記アップコンバート素材検出部は、
上記フィールド間画素値差分の総和を第1の総和とし、上記フィールド内画素値差分の総和を第2の総和として、上記第1の総和と上記第2の総和との比が所定の閾値を越えるとき第1の判定出力を出力し、該比が上記所定の閾値以下のとき第2の判定出力を出力するアップコンバート素材判定部と、
上記低品質アップコンバート素材らしさを示す検出信号を出力する検出信号出力部と、
フィールド毎に、上記アップコンバート素材判定部の最新の所定数のフィールドにおける判定出力に、上記第1の判定出力が所定個数以上含まれているか判断し、所定個数以上含まれているとき上記検出信号の値を上げ、所定個数以上含まれていないとき上記検出信号の値を下げるように上記検出信号出力部を制御する判定安定化部を有する
請求項1に記載の画像処理装置。
【請求項3】
上記アップコンバート素材検出部は、フィールド毎に、上記アップコンバート素材判定部の判定出力の有効性を判定する有効性判定部をさらに有し、
上記判定安定化部は、上記有効性判定部で有効であると判定されるフィールドに関しては上記アップコンバート素材判定部から出力される判定出力を使用し、上記有効性判定部で有効でないと判定されるフィールドに関しては上記第2の判定出力を使用する
請求項2に記載の画像処理装置。
【請求項4】
上記有効性判定部は、
上記インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであるとき、
上記第1のフィールドおよび上記第2のフィールドが同一のフレームの画像データから作成されているフィールドにおいて有効であると判定する
請求項3に記載の画像処理装置。
【請求項5】
上記有効性判定部は、
上記インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データでないとき、
フィールド毎に静止時のフィールドであるか判断し、静止時のフィールドにおいては有効であると判定する
請求項3に記載の画像処理装置。
【請求項6】
上記インターレース方式の入力画像データに基づいてシーンチェンジか否かを判定するシーンチェンジ判定部をさらに備え、
上記検出信号出力部は、上記シーンチェンジ判定部でシーンチェンジであると判定されたとき、上記検出信号を最小値にリセットする
請求項2に記載の画像処理装置。
【請求項7】
上記画像処理部は、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データおよび該画像データに垂直方向のローパスフィルタ処理を施して得られた画像データを、上記アップコンバート素材検出部の検出信号に応じた比率で混合して、出力画像データを得る
請求項1に記載の画像処理装置。
【請求項8】
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換ステップと、
上記インターレース方式の画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出ステップと、
上記インターレース/プログレッシブ変換ステップで変換されて得られたプログレッシブ方式の画像データを、上記アップコンバート部材検出ステップの検出信号に基づいて処理を行って出力画像データを得る画像処理ステップを備え、
上記アップコンバート素材検出ステップでは、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素差分値の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素差分値の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理方法。
【請求項1】
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換部と、
上記インターレース方式の入力画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出部と、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データに対して上記アップコンバート素材検出部の検出信号に基づいた処理を行って出力画像データを得る画像処理部を備え、
上記アップコンバート素材検出部は、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素値差分の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素値差分の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理装置。
【請求項2】
上記アップコンバート素材検出部は、
上記フィールド間画素値差分の総和を第1の総和とし、上記フィールド内画素値差分の総和を第2の総和として、上記第1の総和と上記第2の総和との比が所定の閾値を越えるとき第1の判定出力を出力し、該比が上記所定の閾値以下のとき第2の判定出力を出力するアップコンバート素材判定部と、
上記低品質アップコンバート素材らしさを示す検出信号を出力する検出信号出力部と、
フィールド毎に、上記アップコンバート素材判定部の最新の所定数のフィールドにおける判定出力に、上記第1の判定出力が所定個数以上含まれているか判断し、所定個数以上含まれているとき上記検出信号の値を上げ、所定個数以上含まれていないとき上記検出信号の値を下げるように上記検出信号出力部を制御する判定安定化部を有する
請求項1に記載の画像処理装置。
【請求項3】
上記アップコンバート素材検出部は、フィールド毎に、上記アップコンバート素材判定部の判定出力の有効性を判定する有効性判定部をさらに有し、
上記判定安定化部は、上記有効性判定部で有効であると判定されるフィールドに関しては上記アップコンバート素材判定部から出力される判定出力を使用し、上記有効性判定部で有効でないと判定されるフィールドに関しては上記第2の判定出力を使用する
請求項2に記載の画像処理装置。
【請求項4】
上記有効性判定部は、
上記インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データであるとき、
上記第1のフィールドおよび上記第2のフィールドが同一のフレームの画像データから作成されているフィールドにおいて有効であると判定する
請求項3に記載の画像処理装置。
【請求項5】
上記有効性判定部は、
上記インターレース方式の入力画像データが、1秒間が24フレームまたは30フレームのプログレッシブ方式の画像データを2−3プルダウン方式または2−2プルダウン方式によって変換して作成されたインターレース方式の画像データでないとき、
フィールド毎に静止時のフィールドであるか判断し、静止時のフィールドにおいては有効であると判定する
請求項3に記載の画像処理装置。
【請求項6】
上記インターレース方式の入力画像データに基づいてシーンチェンジか否かを判定するシーンチェンジ判定部をさらに備え、
上記検出信号出力部は、上記シーンチェンジ判定部でシーンチェンジであると判定されたとき、上記検出信号を最小値にリセットする
請求項2に記載の画像処理装置。
【請求項7】
上記画像処理部は、
上記インターレース/プログレッシブ変換部で変換されて得られたプログレッシブ方式の画像データおよび該画像データに垂直方向のローパスフィルタ処理を施して得られた画像データを、上記アップコンバート素材検出部の検出信号に応じた比率で混合して、出力画像データを得る
請求項1に記載の画像処理装置。
【請求項8】
インターレース方式の入力画像データをプログレッシブ方式の画像データに変換するインターレース/プログレッシブ変換ステップと、
上記インターレース方式の画像データの低品質アップコンバート素材らしさを検出するアップコンバート素材検出ステップと、
上記インターレース/プログレッシブ変換ステップで変換されて得られたプログレッシブ方式の画像データを、上記アップコンバート部材検出ステップの検出信号に基づいて処理を行って出力画像データを得る画像処理ステップを備え、
上記アップコンバート素材検出ステップでは、フィールド毎に、連続する第1のフィールドおよび第2のフィールドの画像データを用い、所定領域内の画素を順次注目画素として得られる、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した上記第2のフィールドの画素の画素データによるフィールド間画素差分値の総和と、上記第1のフィールドの注目画素および該注目画素に対して垂直方向に隣接した該第1のフィールドの画素の画素データによるフィールド内画素差分値の総和との比に基づいて、上記低品質アップコンバート素材らしさを検出する
画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図13】
【図9】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図13】
【図9】
【図11】
【図12】
【公開番号】特開2011−23843(P2011−23843A)
【公開日】平成23年2月3日(2011.2.3)
【国際特許分類】
【出願番号】特願2009−165195(P2009−165195)
【出願日】平成21年7月14日(2009.7.14)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成23年2月3日(2011.2.3)
【国際特許分類】
【出願日】平成21年7月14日(2009.7.14)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]