画像処理装置及び方法
【課題】 3−2プルダウンや2−2プルダウン等によってインタレースに変換された変換信号を含み、且つ編集処理が施されたインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することが可能な画像処理装置及びその方法を提供する。
【解決手段】 プログレッシブ変換部11は、3−2プルダウンや2−2プルダウンによってインタレースに変換され、且つ編集処理が施された変換信号部分をプログレッシブ信号に変換する際に、フィールド内挿補間信号と動き適応型補間信号とを生成し、画素単位でフィールド内挿補間信号中の2重画像エラーを検出する。そして、2重画像エラーと判断された画素については、その画素を動き適応型補間信号中の同一位置の画素で置き換え、2重画像エラーと判断された画素が所定の閾値に達した場合には、以降の画素又はラインを全て動き適応型補間信号とする。
【解決手段】 プログレッシブ変換部11は、3−2プルダウンや2−2プルダウンによってインタレースに変換され、且つ編集処理が施された変換信号部分をプログレッシブ信号に変換する際に、フィールド内挿補間信号と動き適応型補間信号とを生成し、画素単位でフィールド内挿補間信号中の2重画像エラーを検出する。そして、2重画像エラーと判断された画素については、その画素を動き適応型補間信号中の同一位置の画素で置き換え、2重画像エラーと判断された画素が所定の閾値に達した場合には、以降の画素又はラインを全て動き適応型補間信号とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号をプログレッシブ信号に変換する際に用いて好適な画像処理装置及びその方法に関する。
【背景技術】
【0002】
NTSC信号やハイビジョン信号等の標準的な映像信号はインタレース信号である。図9は、走査線構造を示す図であり、同図(A)はインタレース信号、同図(B)はプログレッシブ信号、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示している。なお、図9中の○印は走査線を示し、×印は補間された走査線を示す。
【0003】
この図9において、垂直方向Vは画面の垂直方向であり、水平方向tは時間方向である。インタレース信号は、図9(A)に示すように、1つのフレームが時間及び垂直方向にずれた2つのフィールドで構成されている。これに対してプログレッシブ信号は、図9(B)に示すように、走査線構造にずれがない。インタレース信号においては、画像の垂直方向の高い周波数成分が多くなると、ラインフリッカを生じる等のインタレース妨害が存在する。一方、プログレッシブ信号では、インタレース妨害は存在しない。
【0004】
そこで、図9(C)に示すように、インタレースで間引かれている部分の走査線を周囲の走査線で補間し、プログレッシブ信号に変換することによって、インタレース妨害を除去する処理方法がある。このような処理方法は、プログレッシブ変換又は倍密変換と称される。
【0005】
通常のビデオ映像由来のインタレース信号の場合、プログレッシブ変換のための走査線補間は、動き適応型補間処理で行われる。すなわち、図10に示すように、画像が静止している場合は、前後フィールドの画素を表す信号PA,PBの平均値を×印で示す新しい画素を表す信号PQとするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素を表す信号PC,PDの平均値を×印で示す新しい画素を表す信号PQとするフィールド内補間を行うことによって、新しい走査線を生成する。このため、画像が静止している場合は折り返し歪みが少なく解像度も高い良好な変換画質が得られるが、画像が動いている場合は折り返し歪みが多く解像度も低い劣化した変換画質となる。
【0006】
ここで、プログレッシブ信号に変換すべき入力信号に3−2プルダウンや2−2プルダウン等によってインタレースに変換されたフィルム映像由来の変換信号が含まれている場合、当該フィルム映像由来の部分については、動き適応型補間処理とは異なる方法を採用することによって、画像が動いた場合であっても良好な変換画質を得ることができる。ここで、3−2プルダウンとは、図11に示すようなフレームレート変換のことである。具体的には、24フレーム/秒のフィルム映像等のプログレッシブ信号A,B,C・・・(以下、適宜「フレームA,B,C・・・」という。)を60フィールド/秒のNTSC方式等のインタレース信号a,a',a,b',b,c',c,c'・・・(以下、適宜「フィールドa,a',a・・・」という。)に変換するための方法として用いられる。なお、図中「’」の有無は、奇数フィールドと偶数フィールドとの違いを示している。一方、2−2プルダウンとは、図12に示すようなフレームレート変換のことである。具体的には、30フレーム/秒のフィルム映像等のプログレッシブ信号A,B,C・・・を60フィールド/秒のNTSC方式等のインタレース信号a,a',b,b',c,c'・・・に変換するための方法として用いられる。
【0007】
図11、図12に示すように、3−2プルダウンでは、元々同じフレームであった画像が3又は2フィールドに振り分けられており、2−2プルダウンでは、元々同じフレームであった画像が2フィールドに振り分けられている。したがって、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分の3−2パターン又は2−2パターン、すなわちプルダウンのシーケンスが分かれば、同じフレームから生成された隣接フィールドで、画像の静止・動きに関係なくフィールド内挿補間を行ってプログレッシブ信号に変換することができる。ここで、フィールド内挿補間は、補間方法は異なるが図10に示すフィールド間補間と同様に、前フィールドの信号PA又は後フィールドの信号PBを新しい画素を表す信号PQとすることによって新しい走査線を生成するものであるため、折り返し歪みが少なく解像度も高い良好な変換画質が得られる。
【0008】
【特許文献1】特開2004−343333号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
ところで、このように3−2プルダウンや2−2プルダウン等によってインタレースに変換されたフィルム映像由来の部分に対して編集処理が施された結果、プルダウンのシーケンスが崩れてしまう場合がある。例えば、図11のような3−2プルダウンが行われていた場合、通常はa,a',a,b',b,c',c,c',d,d'のようなシーケンスとなっているが、編集処理によって図13のようにc,c'がカットされた結果、a,a',a,b',b,c',d,d'のようなシーケンスとなってしまう場合がある。
【0010】
このように編集処理によってプルダウンのシーケンスが崩れたインタレース信号をプログレッシブ信号に変換する場合、c',c,c'のようにフレームCに由来するフィールドが連続するものと予想してフィールド内挿補間が行われる結果、図13に示すように、c'とdとの境目前後ではフィールドc'とフィールドdとから図中斜線で示すフレームが生成されることになる。しかしながら、フィールドc'とフィールドdとは、時間軸の異なるフレームに由来しているため、フィールドc'とフィールドdとから生成されたフレームでは、画像が櫛状、すなわち2重画像になってしまい、画質が大きく損われてしまうことになる。
【0011】
なお、このようなシーケンスの崩れは、編集処理によって発生する場合が多いため、以下では、フィールドc'とフィールドdとの境目のことを編集点と呼ぶことにする。
【0012】
従来のプログレッシブ変換部では、このような問題を解決するため、これからフィールド内挿補間を行おうとするフィールドc'とフィールドdとを比較し、予想するフィールドcではなくフィールドdになっていることを検出していた。しかしながら、画面の一部分のみが動いている場合など、フィールドc'とフィールドdとが類似している場合には、編集点を見つけることが困難であるため、フィールドc'とフィールドdとからフレームを生成してしまい、画質が大きく損われるという問題があった。
【0013】
本発明は、このような従来の実情に鑑みて提案されたものであり、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することが可能な画像処理装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
上述した目的を達成するために、本発明に係る画像処理装置は、元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理装置であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出手段とを備え、上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換えることを特徴とする。
【0015】
また、上述した目的を達成するために、本発明に係る画像処理方法は、元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理方法であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出工程と、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合に、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える置換工程とを有することを特徴とする。
【0016】
ここで、上記変換信号は、例えば3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号である。
【発明の効果】
【0017】
本発明に係る画像処理装置及びその方法によれば、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することができる。
【発明を実施するための最良の形態】
【0018】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。この実施の形態は、本発明を、3−2プルダウンや2−2プルダウンによってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することが可能な画像処理装置及びその方法に適用したものである。
【0019】
先ず、本実施の形態における画像処理装置の概略構成の一例を図1に示す。図1に示すように、本実施の形態における画像処理装置100は、フロント画像処理部10と、プログレッシブ変換部11と、表示装置駆動回路12と、表示装置13とから構成されている。
【0020】
フロント画像処理部10は、例えばNTSC信号、PAL信号、BSデジタルチューナからのHDTV信号など、様々な信号ソースからの映像信号を入力する。なお、映像信号のフォーマットは、525i(ライン数525本のインタレース信号)、625i、1125iなどのインタレース信号である。
【0021】
プログレッシブ変換部11は、525i信号を525p信号(ライン数525本のプログレッシブ信号)に、625i信号を625p信号に、1125i信号を1125p信号にそれぞれ変換する。この際、プログレッシブ変換部11は、3−2プルダウンや2−2プルダウンによってインタレースに変換された変換信号を含み、且つ編集処理が施されたインタレース信号であっても、後述するように、画質劣化なく良好にプログレッシブ信号に変換することができる。プログレッシブ変換部11は、得られたプログレッシブ信号を表示装置駆動回路12に供給する。
【0022】
表示装置駆動回路12は、表示装置13を駆動し、プログレッシブ変換部11から供給されたプログレッシブ信号を表示させる。この表示装置13としては、陰極線管、液晶ディスプレイ、プラズマディスプレイなど、種々の表示装置を用いることができる。
【0023】
なお、表示装置駆動回路12には、標準解像度又は低解像度の画像を、そこに含まれていない高域成分をも含む高解像度の画像に変換する解像度変換回路を含めるようにしても構わない。このような解像度変換回路については、例えば特開平7−193789号公報や特開平11−55630号公報等に記載されている。
【0024】
続いて、上述したプログレッシブ変換部11の内部構成の一例を図2に示す。フロント画像処理部10から入力されたインタレース信号は、現在信号としてプログレッシブ変換部11の複数のブロックに供給される。この現在信号は、フィールド遅延器20によって1フィールド分の時間だけ遅延されて過去1信号に変換され、フィールド遅延器21によってさらに1フィールド分の時間だけ遅延されて過去2信号に変換される。
【0025】
動き検出部22は、現在信号、過去1信号及び過去2信号を用いて動き検出を行う。動き検出の判定には、メモリ23に記憶された、過去にその画素が動きであったか静止であったかの動き検出判定履歴を使う。動き検出部22は、動き検出結果を動き適応型補間信号生成部24に供給する。そして、動き適応型補間信号生成部24は、この動き検出結果に基づいてフィールド間補間又はフィールド内補間を行い、プログレッシブの動き適応型補間信号を生成する。具体的には、画像が静止している場合は、前後フィールドの画素の平均値を新しい画素とするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素の平均値を新しい画素とするフィールド内補間を行うことによって、新しい走査線を生成する。動き適応型補間信号生成部24は、生成した動き適応型補間信号を補間信号選択部26及びプルダウンエラー検出部28に供給する。
【0026】
プルダウン検出部25は、現在信号、過去1信号及び過去2信号から、3−2プルダウン又は2−2プルダウンを検出することにより、処理対象のフィールドがフィルム映像由来のフィールドであるか否かを検出する。具体的には、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドである場合、同じフレームに由来するフィールドが隣接フィールドに必ず存在するため、例えばフィールド間の動き(フィールド間の相関)の有無に基づきフィールドのシーケンスを検出することによって、3−2プルダウン又は2−2プルダウンを検出することができる。プルダウン検出部25は、このプルダウン検出結果を補間信号選択部26及びプルダウンエラー検出部28に供給する。
【0027】
また、プルダウン検出部25は、内部に状態遷移モデルを有しており、3−2プルダウン又は2−2プルダウンを検出すると、その状態遷移モデルをビデオ映像の状態からフィルム映像の状態に遷移させる。例えば3−2プルダウンを検出した場合、プルダウン検出部25は、フィルム映像の状態として、同じフレーム由来の3又は2フィールドに相当する5つの状態を遷移させる。このような状態遷移モデルを用いることにより、プルダウン検出部25は、3フィールド、2フィールドと交互に続くシーケンスのどの位置のフィールドを現在処理しているかを判断している。なお、プルダウン検出部25は、プルダウンエラー検出部28から後述するリセット信号が供給されると、フィルム映像の状態を遷移させている途中であってもビデオ映像の状態に戻し、再び3−2プルダウン又は2−2プルダウンの検出を始める。
【0028】
補間信号選択部26は、動き適応型補間信号、現在信号及び過去2信号と、プルダウン検出結果とに基づいて、補間信号を決定する。すなわち、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドである場合、同じフレームに由来するフィールドが隣接フィールドに必ず存在するため、補間信号選択部26は、その同じフレームから生成されたフィールドの信号(現在信号又は過去2信号)を補間信号として倍速変換部27に供給する。また、補間信号選択部26は、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドでない場合、動き適応型補間信号生成部24の出力信号を補間信号として倍速変換部27に供給する。倍速変換部27は、この補間信号と過去1信号とを入力信号の2倍の速度で順番に読み出すことによってプログレッシブのフィールド内挿補間信号に変換し、このフィールド内挿補間信号をプルダウンエラー検出部28に供給する。
【0029】
ここで、従来のプログレッシブ変換部は、このフィールド内挿補間信号をそのまま表示装置駆動回路12に供給していたが、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のプルダウンのシーケンスが崩れている場合には、編集点前後のフィールドから生成されるフレームが2重画像となり、画質が大きく損なわれるという問題があった。
【0030】
そこで、本実施の形態におけるプログレッシブ変換部11は、倍速変換部27の後段にプルダウンエラー検出部28を備えており、フィールド内挿補間信号を評価して、2重画像エラーを検出すれば、フィールド内挿補間信号を動き適応型補間信号で置き換える。特に、プルダウンエラー検出部28は、画素単位で周囲の画素の情報から2重画像エラー検出を行い、2重画像エラーを検出した場合には、画素単位でフィールド内挿補間信号を動き適応型補間信号で置き換える。また、2重画像エラーと判断された画素が所定の閾値に達すると、それ以降の画素又はラインについては、全て動き適応型補間信号を選択する。なお、この2重画像の検出は、プルダウン検出部25で処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドであると判断され、補間信号選択部26にて現在信号又は過去2信号が被補間画素として使われた場合にのみ行われる。
【0031】
このプルダウンエラー検出部28の内部構成の一例を図3に示す。倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器30で1ライン分遅延される。さらに、ライン遅延器31,32,33でそれぞれ1ライン分遅延されて、最終的にA、B、C、D、Eの各信号が得られる。信号A、B、C、D、Eの位置関係は、図4に示す通りである。なお、図中点線は、フィールド内挿補間によって生成された走査線であり、図中直線は、入力信号そのままの走査線である。
【0032】
ここで、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分についてプログレッシブ変換を行った場合、プログレッシブ変換後の隣接するラインは、元々同じフレーム(元画像)であったため、相関が強いはずである。一方、編集処理によってプルダウンのシーケンスが崩れ、元々異なるフレーム(元画像)に由来する2枚のフィールドからフレームが生成されてしまった場合、上下間のライン相関よりもインタレース時の上下ライン、つまりプログレッシブ時の2ライン間隔に相関が強く出るはずである。図3に示す構成のプルダウンエラー検出部28は、この相関の違いを利用して、2重画像が発生しているか否かを判断する。
【0033】
差分絶対値演算部34〜37は、隣接ライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部34は、信号Aと信号Bとの差分絶対値を計算し、差分絶対値演算部35は、信号Bと信号Cとの差分絶対値を計算する。同様に、差分絶対値演算部36は、信号Cと信号Dとの差分絶対値を計算し、差分絶対値演算部37は、信号Dと信号Eとの差分絶対値を計算する。1ライン差分絶対値平均演算部38は、この差分絶対値演算部34〜37で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ(FF)39に供給する。フリップフロップ39〜42によって1ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部43は、この周囲5画素分の平均値を計算し、この平均値を2重画像検出部53に供給する。
【0034】
一方、差分絶対値演算部44〜46は、1ライン離れたライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部44は、信号Aと信号Cとの差分絶対値を計算し、差分絶対値演算部45は、信号Bと信号Dとの差分絶対値を計算し、差分絶対値演算部46は、信号Cと信号Eとの差分絶対値を計算する。2ライン差分絶対値平均演算部47は、この差分絶対値演算部44〜46で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ48に供給する。フリップフロップ48〜51によって2ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部52は、この周囲5画素分の平均値を計算し、この平均値を2重画像検出部53に供給する。
【0035】
2重画像検出部53は、周辺平均演算部43から供給された平均値と周辺平均演算部52から供給された平均値とを比較し、後者の方が小さければ、すなわち1ライン離れたライン間の相関の方が強ければ2重画像エラーと判断し、2重画像エラーが発生した旨を表す信号を出力選択部55に供給する。また、2重画像検出部53は、2重画像エラーと判断された画素をカウントし、カウント値が所定の閾値に達すると、所定の閾値に達した旨を表す信号を出力選択部55に供給すると共に、上述したリセット信号をプルダウン検出部25に供給する。なお、2重画像検出部53は、画像のV周期でカウント値をリセットする。
【0036】
この2重画像検出部53の内部構成の一例を図5に示す。2重画像判断部60は、周辺平均演算部43から供給された平均値と周辺平均演算部52から供給された平均値とを比較し、後者の方が小さければ、すなわち1ライン離れたライン間の相関の方が強ければ2重画像エラーと判断し、2重画像エラーが発生した旨を表す信号をカウンタ61及びOR回路64に供給する。カウンタ61は、2重画像エラーと判断された画素の数をカウントし、カウント値を比較部62に供給する。比較部62は、現在のカウント値と所定の閾値とを比較した比較結果をラッチ回路63に供給し、カウント値が所定の閾値に達している場合には、所定の閾値に達した旨を表す信号がラッチ回路63からOR回路64に供給される。また、カウント値が所定の閾値に達している場合には、プルダウンのシーケンスが崩れている可能性が高いため、プルダウン検出部25の状態遷移モデルをリセットさせるために、上述したリセット信号がラッチ回路63からプルダウン検出部25に供給される。OR回路64は、2重画像判断部60から供給された信号とラッチ回路63から供給された信号とのORをとった信号を出力選択部55に供給する。なお、カウンタ61,比較部62及びラッチ回路63は、画像のV周期でリセットされる。
【0037】
図4に戻って、出力選択部55には、2ライン遅延器54で2ライン分遅延された動き適応型補間信号及び信号Cと、プルダウン検出結果とが供給されている。出力選択部55は、2重画像検出部53から2重画像エラーが発生した旨を表す信号が供給されると、信号C(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。また、出力選択部55は、2重画像検出部53から所定の閾値に達した旨を表す信号が供給されると、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、2重画像エラーの発生を回避する。なお、この固定化は、プルダウン検出部25がリセット後に再び3−2プルダウン又は2−2プルダウンを検出し、出力選択部55にプルダウン検出結果が供給されると解除される。
【0038】
プルダウンエラー検出部28の内部構成の他の例を図6に示す。図3と同様に、倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器70で1ライン分遅延される。さらに、ライン遅延器71,72,73でそれぞれ1ライン分遅延されて、最終的に各信号A、B、C、D、Eが得られる。
【0039】
平均値演算部74は、信号A、B、C、D、Eの平均値を計算し、2値化部75は、信号A、B、C、D、Eを2値信号A'、B'、C'、D'、E'に変換する。具体的には、画素データが信号A、B、C、D、Eの平均値よりも大きければ例えば“1”とし、小さければ例えば“0”とする。2重画像検出部76は、5ライン分の2値パターンが所定のパターンと一致する場合には2重画像エラー発生と判断する。
【0040】
5ライン分の2値パターンの例を図7に示す。図7に示すように、5ライン分の2値パターンが、(1、0、1、0、1)又は(0、1、0、1、0)というパターンと一致した場合、すなわち1ライン離れたライン間の相関の方が強い場合には、2重画像有りと判断し、判断結果をフリップフロップ77に供給する。フリップフロップ77〜80によって2重画像の判断結果が同一走査線上の周囲5画素分について供給されると、周辺総合2重画像検出部81は、この周囲5画素分の判断結果から、2重画像エラーが発生しているか否かを総合的に判断し、2重画像エラーが発生していると判断した場合には、その旨を表す信号を出力選択部83に供給する。例えば、周辺総合2重画像検出部81は、周囲5画素の2値パターンが全て上述した2重画像のパターンと一致した場合に、2重画像エラー発生と判断する。また、周辺総合2重画像検出部81は、2重画像エラーと判断された画素をカウントし、カウント値が所定の閾値に達すると、所定の閾値に達した旨を表す信号を出力選択部83に供給すると共に、上述したリセット信号をプルダウン検出部25に供給する。なお、周辺総合2重画像検出部81は、画像のV周期でカウント値をリセットする。
【0041】
出力選択部83には、2ライン遅延器82で2ライン分遅延された動き適応型補間信号及びC信号と、プルダウン検出結果とが供給されている。出力選択部83は、周辺総合2重画像検出部81から2重画像エラーが発生した旨を表す信号が供給されると、信号C(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。また、出力選択部83は、周辺総合2重画像検出部81から所定の閾値に達した旨を表す信号が供給されると、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、2重画像エラーの発生を回避する。なお、この固定化は、プルダウン検出部25がリセット後に再び3−2プルダウン又は2−2プルダウンを検出し、出力選択部83にプルダウン検出結果が供給されると解除される。
【0042】
ここで、上述したプログレッシブ変換部11の処理手順について図8のフローチャートを参照して説明する。先ずステップS1において、映像信号をフィールド毎に入力し、ステップS2において、3−2プルダウン又は2−2プルダウンを検出することにより、処理対象のフィールドがフィルム映像由来のフィールドであるか否かを検出する。3−2プルダウン又は2−2プルダウンが検出されていない場合には、当該フィールドは通常のビデオ映像由来のフィールドであるため、ステップS3において、動き適応型補間処理によってプログレッシブ信号に変換した後、ステップS13に進む。一方、3−2プルダウン又は2−2プルダウンが検出された場合には、当該フィールドはフィルム映像由来のフィールドであるため、ステップS4において、フィールド内挿補間処理によってプログレッシブ信号に変換した後、ステップS5に進む。
【0043】
続いてステップS5において、2重画像エラーが発生したか否かを画素単位で検出し、ステップS6において、2重画像エラーが発生したか否かを判別する。ここで、2重画像エラーが発生したと判別された場合にはステップS7に進み、2重画像エラーが発生していないと判別された場合には、ステップS10に進む。
【0044】
ステップS7では、カウンタのカウント値をインクリメントし、ステップS8において、カウント値が所定の閾値に達したか否かを判別する。ここで、カウント値が所定の閾値に達していない場合には、ステップS9においてその画素を動き適応型補間信号中の同一位置の画素で置き換え、ステップS10に進む。ステップS10では、次の画素があるか否かを判別し、次の画素がある場合にはステップS11で次の画素に移った後、ステップS5に戻り、次の画素がない場合にはステップS13に進む。一方、ステップS8においてカウント値が所定の閾値に達している場合には、ステップS12においてその画素を動き適応型補間信号中の同一位置の画素で置き換えると共に、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、さらに、プルダウン検出部25の状態遷移モデルをリセットして、ステップS13に進む。
【0045】
ステップS13では、次のフィールドがあるか否かを判別し、次のフィールドがある場合には、ステップS14においてカウンタをリセットした後、ステップS1に戻り、次のフィールドがない場合には、処理を終了する。
【0046】
以上説明したように、本実施の形態におけるプログレッシブ変換部11によれば、3−2プルダウンや2−2プルダウンによってインタレースに変換された変換信号を含み、且つ編集処理が施されたインタレース信号をプログレッシブ信号に変換する際に、フィールド内挿補間信号と動き適応型補間信号とを生成し、画素単位でフィールド内挿補間信号中の2重画像エラーを検出し、2重画像エラーと判断された画素については、その画素を動き適応型補間信号中の同一位置の画素で置き換え、2重画像エラーと判断された画素が所定の閾値に達した場合には、以降の画素又はラインを動き適応型補間信号とすることにより、大きく画質を損なう2重画像エラーを回避し、より高画質のプログレッシブ信号を生成することができる。
【0047】
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0048】
例えば、上述した実施の形態では、垂直5ライン、水平5画素分の情報を用いて2重画像エラー検出を行ったが、本発明はこれに限定されるものではなく、ライン数や画素数を増減させても構わない。
【0049】
また、上述の実施の形態では、フレームレートが60フィールド/秒の場合について述べたが、本発明はこれに限定されるものではなく、50フィールド/秒で表示されるPAL信号のように、各種フォーマットに基づく所望のフレームレートの信号に広く適用できる。
【0050】
また、本発明は3−2プルダウン又は2−2プルダウンの他、所定のシーケンスに基づき元画像の画面を配置してフレームレートを変換した信号に広く適用できる。
【0051】
また、プルダウン検出部25が2重画像エラーを検出したときフィールド内挿補間信号を動き適応型補間信号に置き換える実施の形態について述べたが、本発明はこれに限定されるものではなく、例えば単にフィールド内補間した信号に置き換えてもよく、2重画像が改善される他の信号に置き換える場合に広く適用できる。
【図面の簡単な説明】
【0052】
【図1】本実施の形態における画像処理装置の概略構成の一例を示す図である。
【図2】同画像処理装置におけるプログレッシブ変換部の内部構成の一例を示す図である。
【図3】同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の一例を示す図である。
【図4】ライン遅延された各信号の位置を示す図である。
【図5】同プルダウンエラー検出部における2重画像検出部の内部構成の一例を示す図である。
【図6】同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の他の例を示す図である。
【図7】5ライン分の2値パターンの例を示す図である。
【図8】同プログレッシブ変換部の処理手順を説明するフローチャートである。
【図9】各種走査線構造を示す図であり、同図(A)はインタレース信号を示し、同図(B)はプログレッシブ信号を示し、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示す。
【図10】フィールド間補間及びフィールド内補間を説明する図である。
【図11】3−2プルダウンを説明するための図である。
【図12】2−2プルダウンを説明するための図である。
【図13】3−2プルダウンによってインタレースに変換され、且つ編集処理が施されたインタレース信号をプログレッシブ信号に変換する場合の問題点を説明するための図である。
【符号の説明】
【0053】
10 フロント画像処理部、11 プログレッシブ変換部、12 表示装置駆動回路、13 表示装置、20,21 フィールド遅延器、22 動き検出部、23 メモリ、24 動き適応型補間データ生成部、31〜33 ライン遅延器、34〜37 差分絶対値演算部、38 1ライン差分絶対値平均演算部、39〜42 フリップフロップ、43 周辺平均演算部、44〜46 差分絶対値演算部、47 2ライン差分絶対値平均演算部、48〜51 フリップフロップ、52 周辺平均演算部、53 2重画像検出部、54 2ライン遅延器、55 出力選択部、60 2重画像判断部、61 カウンタ、62 比較部、63 ラッチ回路、64 OR回路、70〜73 ライン遅延器、74 平均値演算部、75 2値化部、76 2重画像検出部、77〜80 フリップフロップ、81 周辺総合2重画像検出部、82 2ライン遅延器、83 出力選択部
【技術分野】
【0001】
本発明は、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号をプログレッシブ信号に変換する際に用いて好適な画像処理装置及びその方法に関する。
【背景技術】
【0002】
NTSC信号やハイビジョン信号等の標準的な映像信号はインタレース信号である。図9は、走査線構造を示す図であり、同図(A)はインタレース信号、同図(B)はプログレッシブ信号、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示している。なお、図9中の○印は走査線を示し、×印は補間された走査線を示す。
【0003】
この図9において、垂直方向Vは画面の垂直方向であり、水平方向tは時間方向である。インタレース信号は、図9(A)に示すように、1つのフレームが時間及び垂直方向にずれた2つのフィールドで構成されている。これに対してプログレッシブ信号は、図9(B)に示すように、走査線構造にずれがない。インタレース信号においては、画像の垂直方向の高い周波数成分が多くなると、ラインフリッカを生じる等のインタレース妨害が存在する。一方、プログレッシブ信号では、インタレース妨害は存在しない。
【0004】
そこで、図9(C)に示すように、インタレースで間引かれている部分の走査線を周囲の走査線で補間し、プログレッシブ信号に変換することによって、インタレース妨害を除去する処理方法がある。このような処理方法は、プログレッシブ変換又は倍密変換と称される。
【0005】
通常のビデオ映像由来のインタレース信号の場合、プログレッシブ変換のための走査線補間は、動き適応型補間処理で行われる。すなわち、図10に示すように、画像が静止している場合は、前後フィールドの画素を表す信号PA,PBの平均値を×印で示す新しい画素を表す信号PQとするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素を表す信号PC,PDの平均値を×印で示す新しい画素を表す信号PQとするフィールド内補間を行うことによって、新しい走査線を生成する。このため、画像が静止している場合は折り返し歪みが少なく解像度も高い良好な変換画質が得られるが、画像が動いている場合は折り返し歪みが多く解像度も低い劣化した変換画質となる。
【0006】
ここで、プログレッシブ信号に変換すべき入力信号に3−2プルダウンや2−2プルダウン等によってインタレースに変換されたフィルム映像由来の変換信号が含まれている場合、当該フィルム映像由来の部分については、動き適応型補間処理とは異なる方法を採用することによって、画像が動いた場合であっても良好な変換画質を得ることができる。ここで、3−2プルダウンとは、図11に示すようなフレームレート変換のことである。具体的には、24フレーム/秒のフィルム映像等のプログレッシブ信号A,B,C・・・(以下、適宜「フレームA,B,C・・・」という。)を60フィールド/秒のNTSC方式等のインタレース信号a,a',a,b',b,c',c,c'・・・(以下、適宜「フィールドa,a',a・・・」という。)に変換するための方法として用いられる。なお、図中「’」の有無は、奇数フィールドと偶数フィールドとの違いを示している。一方、2−2プルダウンとは、図12に示すようなフレームレート変換のことである。具体的には、30フレーム/秒のフィルム映像等のプログレッシブ信号A,B,C・・・を60フィールド/秒のNTSC方式等のインタレース信号a,a',b,b',c,c'・・・に変換するための方法として用いられる。
【0007】
図11、図12に示すように、3−2プルダウンでは、元々同じフレームであった画像が3又は2フィールドに振り分けられており、2−2プルダウンでは、元々同じフレームであった画像が2フィールドに振り分けられている。したがって、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分の3−2パターン又は2−2パターン、すなわちプルダウンのシーケンスが分かれば、同じフレームから生成された隣接フィールドで、画像の静止・動きに関係なくフィールド内挿補間を行ってプログレッシブ信号に変換することができる。ここで、フィールド内挿補間は、補間方法は異なるが図10に示すフィールド間補間と同様に、前フィールドの信号PA又は後フィールドの信号PBを新しい画素を表す信号PQとすることによって新しい走査線を生成するものであるため、折り返し歪みが少なく解像度も高い良好な変換画質が得られる。
【0008】
【特許文献1】特開2004−343333号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
ところで、このように3−2プルダウンや2−2プルダウン等によってインタレースに変換されたフィルム映像由来の部分に対して編集処理が施された結果、プルダウンのシーケンスが崩れてしまう場合がある。例えば、図11のような3−2プルダウンが行われていた場合、通常はa,a',a,b',b,c',c,c',d,d'のようなシーケンスとなっているが、編集処理によって図13のようにc,c'がカットされた結果、a,a',a,b',b,c',d,d'のようなシーケンスとなってしまう場合がある。
【0010】
このように編集処理によってプルダウンのシーケンスが崩れたインタレース信号をプログレッシブ信号に変換する場合、c',c,c'のようにフレームCに由来するフィールドが連続するものと予想してフィールド内挿補間が行われる結果、図13に示すように、c'とdとの境目前後ではフィールドc'とフィールドdとから図中斜線で示すフレームが生成されることになる。しかしながら、フィールドc'とフィールドdとは、時間軸の異なるフレームに由来しているため、フィールドc'とフィールドdとから生成されたフレームでは、画像が櫛状、すなわち2重画像になってしまい、画質が大きく損われてしまうことになる。
【0011】
なお、このようなシーケンスの崩れは、編集処理によって発生する場合が多いため、以下では、フィールドc'とフィールドdとの境目のことを編集点と呼ぶことにする。
【0012】
従来のプログレッシブ変換部では、このような問題を解決するため、これからフィールド内挿補間を行おうとするフィールドc'とフィールドdとを比較し、予想するフィールドcではなくフィールドdになっていることを検出していた。しかしながら、画面の一部分のみが動いている場合など、フィールドc'とフィールドdとが類似している場合には、編集点を見つけることが困難であるため、フィールドc'とフィールドdとからフレームを生成してしまい、画質が大きく損われるという問題があった。
【0013】
本発明は、このような従来の実情に鑑みて提案されたものであり、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することが可能な画像処理装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
上述した目的を達成するために、本発明に係る画像処理装置は、元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理装置であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出手段とを備え、上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換えることを特徴とする。
【0015】
また、上述した目的を達成するために、本発明に係る画像処理方法は、元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理方法であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出工程と、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合に、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える置換工程とを有することを特徴とする。
【0016】
ここで、上記変換信号は、例えば3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号である。
【発明の効果】
【0017】
本発明に係る画像処理装置及びその方法によれば、3−2プルダウンや2−2プルダウン等によってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することができる。
【発明を実施するための最良の形態】
【0018】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。この実施の形態は、本発明を、3−2プルダウンや2−2プルダウンによってインタレースに変換され、且つ編集処理が施された変換信号を含むインタレース信号であっても、画質劣化なく良好にプログレッシブ信号に変換することが可能な画像処理装置及びその方法に適用したものである。
【0019】
先ず、本実施の形態における画像処理装置の概略構成の一例を図1に示す。図1に示すように、本実施の形態における画像処理装置100は、フロント画像処理部10と、プログレッシブ変換部11と、表示装置駆動回路12と、表示装置13とから構成されている。
【0020】
フロント画像処理部10は、例えばNTSC信号、PAL信号、BSデジタルチューナからのHDTV信号など、様々な信号ソースからの映像信号を入力する。なお、映像信号のフォーマットは、525i(ライン数525本のインタレース信号)、625i、1125iなどのインタレース信号である。
【0021】
プログレッシブ変換部11は、525i信号を525p信号(ライン数525本のプログレッシブ信号)に、625i信号を625p信号に、1125i信号を1125p信号にそれぞれ変換する。この際、プログレッシブ変換部11は、3−2プルダウンや2−2プルダウンによってインタレースに変換された変換信号を含み、且つ編集処理が施されたインタレース信号であっても、後述するように、画質劣化なく良好にプログレッシブ信号に変換することができる。プログレッシブ変換部11は、得られたプログレッシブ信号を表示装置駆動回路12に供給する。
【0022】
表示装置駆動回路12は、表示装置13を駆動し、プログレッシブ変換部11から供給されたプログレッシブ信号を表示させる。この表示装置13としては、陰極線管、液晶ディスプレイ、プラズマディスプレイなど、種々の表示装置を用いることができる。
【0023】
なお、表示装置駆動回路12には、標準解像度又は低解像度の画像を、そこに含まれていない高域成分をも含む高解像度の画像に変換する解像度変換回路を含めるようにしても構わない。このような解像度変換回路については、例えば特開平7−193789号公報や特開平11−55630号公報等に記載されている。
【0024】
続いて、上述したプログレッシブ変換部11の内部構成の一例を図2に示す。フロント画像処理部10から入力されたインタレース信号は、現在信号としてプログレッシブ変換部11の複数のブロックに供給される。この現在信号は、フィールド遅延器20によって1フィールド分の時間だけ遅延されて過去1信号に変換され、フィールド遅延器21によってさらに1フィールド分の時間だけ遅延されて過去2信号に変換される。
【0025】
動き検出部22は、現在信号、過去1信号及び過去2信号を用いて動き検出を行う。動き検出の判定には、メモリ23に記憶された、過去にその画素が動きであったか静止であったかの動き検出判定履歴を使う。動き検出部22は、動き検出結果を動き適応型補間信号生成部24に供給する。そして、動き適応型補間信号生成部24は、この動き検出結果に基づいてフィールド間補間又はフィールド内補間を行い、プログレッシブの動き適応型補間信号を生成する。具体的には、画像が静止している場合は、前後フィールドの画素の平均値を新しい画素とするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素の平均値を新しい画素とするフィールド内補間を行うことによって、新しい走査線を生成する。動き適応型補間信号生成部24は、生成した動き適応型補間信号を補間信号選択部26及びプルダウンエラー検出部28に供給する。
【0026】
プルダウン検出部25は、現在信号、過去1信号及び過去2信号から、3−2プルダウン又は2−2プルダウンを検出することにより、処理対象のフィールドがフィルム映像由来のフィールドであるか否かを検出する。具体的には、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドである場合、同じフレームに由来するフィールドが隣接フィールドに必ず存在するため、例えばフィールド間の動き(フィールド間の相関)の有無に基づきフィールドのシーケンスを検出することによって、3−2プルダウン又は2−2プルダウンを検出することができる。プルダウン検出部25は、このプルダウン検出結果を補間信号選択部26及びプルダウンエラー検出部28に供給する。
【0027】
また、プルダウン検出部25は、内部に状態遷移モデルを有しており、3−2プルダウン又は2−2プルダウンを検出すると、その状態遷移モデルをビデオ映像の状態からフィルム映像の状態に遷移させる。例えば3−2プルダウンを検出した場合、プルダウン検出部25は、フィルム映像の状態として、同じフレーム由来の3又は2フィールドに相当する5つの状態を遷移させる。このような状態遷移モデルを用いることにより、プルダウン検出部25は、3フィールド、2フィールドと交互に続くシーケンスのどの位置のフィールドを現在処理しているかを判断している。なお、プルダウン検出部25は、プルダウンエラー検出部28から後述するリセット信号が供給されると、フィルム映像の状態を遷移させている途中であってもビデオ映像の状態に戻し、再び3−2プルダウン又は2−2プルダウンの検出を始める。
【0028】
補間信号選択部26は、動き適応型補間信号、現在信号及び過去2信号と、プルダウン検出結果とに基づいて、補間信号を決定する。すなわち、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドである場合、同じフレームに由来するフィールドが隣接フィールドに必ず存在するため、補間信号選択部26は、その同じフレームから生成されたフィールドの信号(現在信号又は過去2信号)を補間信号として倍速変換部27に供給する。また、補間信号選択部26は、処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドでない場合、動き適応型補間信号生成部24の出力信号を補間信号として倍速変換部27に供給する。倍速変換部27は、この補間信号と過去1信号とを入力信号の2倍の速度で順番に読み出すことによってプログレッシブのフィールド内挿補間信号に変換し、このフィールド内挿補間信号をプルダウンエラー検出部28に供給する。
【0029】
ここで、従来のプログレッシブ変換部は、このフィールド内挿補間信号をそのまま表示装置駆動回路12に供給していたが、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のプルダウンのシーケンスが崩れている場合には、編集点前後のフィールドから生成されるフレームが2重画像となり、画質が大きく損なわれるという問題があった。
【0030】
そこで、本実施の形態におけるプログレッシブ変換部11は、倍速変換部27の後段にプルダウンエラー検出部28を備えており、フィールド内挿補間信号を評価して、2重画像エラーを検出すれば、フィールド内挿補間信号を動き適応型補間信号で置き換える。特に、プルダウンエラー検出部28は、画素単位で周囲の画素の情報から2重画像エラー検出を行い、2重画像エラーを検出した場合には、画素単位でフィールド内挿補間信号を動き適応型補間信号で置き換える。また、2重画像エラーと判断された画素が所定の閾値に達すると、それ以降の画素又はラインについては、全て動き適応型補間信号を選択する。なお、この2重画像の検出は、プルダウン検出部25で処理対象のフィールドが3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分のフィールドであると判断され、補間信号選択部26にて現在信号又は過去2信号が被補間画素として使われた場合にのみ行われる。
【0031】
このプルダウンエラー検出部28の内部構成の一例を図3に示す。倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器30で1ライン分遅延される。さらに、ライン遅延器31,32,33でそれぞれ1ライン分遅延されて、最終的にA、B、C、D、Eの各信号が得られる。信号A、B、C、D、Eの位置関係は、図4に示す通りである。なお、図中点線は、フィールド内挿補間によって生成された走査線であり、図中直線は、入力信号そのままの走査線である。
【0032】
ここで、3−2プルダウン又は2−2プルダウンによってインタレースに変換された部分についてプログレッシブ変換を行った場合、プログレッシブ変換後の隣接するラインは、元々同じフレーム(元画像)であったため、相関が強いはずである。一方、編集処理によってプルダウンのシーケンスが崩れ、元々異なるフレーム(元画像)に由来する2枚のフィールドからフレームが生成されてしまった場合、上下間のライン相関よりもインタレース時の上下ライン、つまりプログレッシブ時の2ライン間隔に相関が強く出るはずである。図3に示す構成のプルダウンエラー検出部28は、この相関の違いを利用して、2重画像が発生しているか否かを判断する。
【0033】
差分絶対値演算部34〜37は、隣接ライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部34は、信号Aと信号Bとの差分絶対値を計算し、差分絶対値演算部35は、信号Bと信号Cとの差分絶対値を計算する。同様に、差分絶対値演算部36は、信号Cと信号Dとの差分絶対値を計算し、差分絶対値演算部37は、信号Dと信号Eとの差分絶対値を計算する。1ライン差分絶対値平均演算部38は、この差分絶対値演算部34〜37で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ(FF)39に供給する。フリップフロップ39〜42によって1ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部43は、この周囲5画素分の平均値を計算し、この平均値を2重画像検出部53に供給する。
【0034】
一方、差分絶対値演算部44〜46は、1ライン離れたライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部44は、信号Aと信号Cとの差分絶対値を計算し、差分絶対値演算部45は、信号Bと信号Dとの差分絶対値を計算し、差分絶対値演算部46は、信号Cと信号Eとの差分絶対値を計算する。2ライン差分絶対値平均演算部47は、この差分絶対値演算部44〜46で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ48に供給する。フリップフロップ48〜51によって2ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部52は、この周囲5画素分の平均値を計算し、この平均値を2重画像検出部53に供給する。
【0035】
2重画像検出部53は、周辺平均演算部43から供給された平均値と周辺平均演算部52から供給された平均値とを比較し、後者の方が小さければ、すなわち1ライン離れたライン間の相関の方が強ければ2重画像エラーと判断し、2重画像エラーが発生した旨を表す信号を出力選択部55に供給する。また、2重画像検出部53は、2重画像エラーと判断された画素をカウントし、カウント値が所定の閾値に達すると、所定の閾値に達した旨を表す信号を出力選択部55に供給すると共に、上述したリセット信号をプルダウン検出部25に供給する。なお、2重画像検出部53は、画像のV周期でカウント値をリセットする。
【0036】
この2重画像検出部53の内部構成の一例を図5に示す。2重画像判断部60は、周辺平均演算部43から供給された平均値と周辺平均演算部52から供給された平均値とを比較し、後者の方が小さければ、すなわち1ライン離れたライン間の相関の方が強ければ2重画像エラーと判断し、2重画像エラーが発生した旨を表す信号をカウンタ61及びOR回路64に供給する。カウンタ61は、2重画像エラーと判断された画素の数をカウントし、カウント値を比較部62に供給する。比較部62は、現在のカウント値と所定の閾値とを比較した比較結果をラッチ回路63に供給し、カウント値が所定の閾値に達している場合には、所定の閾値に達した旨を表す信号がラッチ回路63からOR回路64に供給される。また、カウント値が所定の閾値に達している場合には、プルダウンのシーケンスが崩れている可能性が高いため、プルダウン検出部25の状態遷移モデルをリセットさせるために、上述したリセット信号がラッチ回路63からプルダウン検出部25に供給される。OR回路64は、2重画像判断部60から供給された信号とラッチ回路63から供給された信号とのORをとった信号を出力選択部55に供給する。なお、カウンタ61,比較部62及びラッチ回路63は、画像のV周期でリセットされる。
【0037】
図4に戻って、出力選択部55には、2ライン遅延器54で2ライン分遅延された動き適応型補間信号及び信号Cと、プルダウン検出結果とが供給されている。出力選択部55は、2重画像検出部53から2重画像エラーが発生した旨を表す信号が供給されると、信号C(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。また、出力選択部55は、2重画像検出部53から所定の閾値に達した旨を表す信号が供給されると、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、2重画像エラーの発生を回避する。なお、この固定化は、プルダウン検出部25がリセット後に再び3−2プルダウン又は2−2プルダウンを検出し、出力選択部55にプルダウン検出結果が供給されると解除される。
【0038】
プルダウンエラー検出部28の内部構成の他の例を図6に示す。図3と同様に、倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器70で1ライン分遅延される。さらに、ライン遅延器71,72,73でそれぞれ1ライン分遅延されて、最終的に各信号A、B、C、D、Eが得られる。
【0039】
平均値演算部74は、信号A、B、C、D、Eの平均値を計算し、2値化部75は、信号A、B、C、D、Eを2値信号A'、B'、C'、D'、E'に変換する。具体的には、画素データが信号A、B、C、D、Eの平均値よりも大きければ例えば“1”とし、小さければ例えば“0”とする。2重画像検出部76は、5ライン分の2値パターンが所定のパターンと一致する場合には2重画像エラー発生と判断する。
【0040】
5ライン分の2値パターンの例を図7に示す。図7に示すように、5ライン分の2値パターンが、(1、0、1、0、1)又は(0、1、0、1、0)というパターンと一致した場合、すなわち1ライン離れたライン間の相関の方が強い場合には、2重画像有りと判断し、判断結果をフリップフロップ77に供給する。フリップフロップ77〜80によって2重画像の判断結果が同一走査線上の周囲5画素分について供給されると、周辺総合2重画像検出部81は、この周囲5画素分の判断結果から、2重画像エラーが発生しているか否かを総合的に判断し、2重画像エラーが発生していると判断した場合には、その旨を表す信号を出力選択部83に供給する。例えば、周辺総合2重画像検出部81は、周囲5画素の2値パターンが全て上述した2重画像のパターンと一致した場合に、2重画像エラー発生と判断する。また、周辺総合2重画像検出部81は、2重画像エラーと判断された画素をカウントし、カウント値が所定の閾値に達すると、所定の閾値に達した旨を表す信号を出力選択部83に供給すると共に、上述したリセット信号をプルダウン検出部25に供給する。なお、周辺総合2重画像検出部81は、画像のV周期でカウント値をリセットする。
【0041】
出力選択部83には、2ライン遅延器82で2ライン分遅延された動き適応型補間信号及びC信号と、プルダウン検出結果とが供給されている。出力選択部83は、周辺総合2重画像検出部81から2重画像エラーが発生した旨を表す信号が供給されると、信号C(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。また、出力選択部83は、周辺総合2重画像検出部81から所定の閾値に達した旨を表す信号が供給されると、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、2重画像エラーの発生を回避する。なお、この固定化は、プルダウン検出部25がリセット後に再び3−2プルダウン又は2−2プルダウンを検出し、出力選択部83にプルダウン検出結果が供給されると解除される。
【0042】
ここで、上述したプログレッシブ変換部11の処理手順について図8のフローチャートを参照して説明する。先ずステップS1において、映像信号をフィールド毎に入力し、ステップS2において、3−2プルダウン又は2−2プルダウンを検出することにより、処理対象のフィールドがフィルム映像由来のフィールドであるか否かを検出する。3−2プルダウン又は2−2プルダウンが検出されていない場合には、当該フィールドは通常のビデオ映像由来のフィールドであるため、ステップS3において、動き適応型補間処理によってプログレッシブ信号に変換した後、ステップS13に進む。一方、3−2プルダウン又は2−2プルダウンが検出された場合には、当該フィールドはフィルム映像由来のフィールドであるため、ステップS4において、フィールド内挿補間処理によってプログレッシブ信号に変換した後、ステップS5に進む。
【0043】
続いてステップS5において、2重画像エラーが発生したか否かを画素単位で検出し、ステップS6において、2重画像エラーが発生したか否かを判別する。ここで、2重画像エラーが発生したと判別された場合にはステップS7に進み、2重画像エラーが発生していないと判別された場合には、ステップS10に進む。
【0044】
ステップS7では、カウンタのカウント値をインクリメントし、ステップS8において、カウント値が所定の閾値に達したか否かを判別する。ここで、カウント値が所定の閾値に達していない場合には、ステップS9においてその画素を動き適応型補間信号中の同一位置の画素で置き換え、ステップS10に進む。ステップS10では、次の画素があるか否かを判別し、次の画素がある場合にはステップS11で次の画素に移った後、ステップS5に戻り、次の画素がない場合にはステップS13に進む。一方、ステップS8においてカウント値が所定の閾値に達している場合には、ステップS12においてその画素を動き適応型補間信号中の同一位置の画素で置き換えると共に、以降の画素又はラインについては全て動き適応型補間信号を選択するように固定化し、さらに、プルダウン検出部25の状態遷移モデルをリセットして、ステップS13に進む。
【0045】
ステップS13では、次のフィールドがあるか否かを判別し、次のフィールドがある場合には、ステップS14においてカウンタをリセットした後、ステップS1に戻り、次のフィールドがない場合には、処理を終了する。
【0046】
以上説明したように、本実施の形態におけるプログレッシブ変換部11によれば、3−2プルダウンや2−2プルダウンによってインタレースに変換された変換信号を含み、且つ編集処理が施されたインタレース信号をプログレッシブ信号に変換する際に、フィールド内挿補間信号と動き適応型補間信号とを生成し、画素単位でフィールド内挿補間信号中の2重画像エラーを検出し、2重画像エラーと判断された画素については、その画素を動き適応型補間信号中の同一位置の画素で置き換え、2重画像エラーと判断された画素が所定の閾値に達した場合には、以降の画素又はラインを動き適応型補間信号とすることにより、大きく画質を損なう2重画像エラーを回避し、より高画質のプログレッシブ信号を生成することができる。
【0047】
なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0048】
例えば、上述した実施の形態では、垂直5ライン、水平5画素分の情報を用いて2重画像エラー検出を行ったが、本発明はこれに限定されるものではなく、ライン数や画素数を増減させても構わない。
【0049】
また、上述の実施の形態では、フレームレートが60フィールド/秒の場合について述べたが、本発明はこれに限定されるものではなく、50フィールド/秒で表示されるPAL信号のように、各種フォーマットに基づく所望のフレームレートの信号に広く適用できる。
【0050】
また、本発明は3−2プルダウン又は2−2プルダウンの他、所定のシーケンスに基づき元画像の画面を配置してフレームレートを変換した信号に広く適用できる。
【0051】
また、プルダウン検出部25が2重画像エラーを検出したときフィールド内挿補間信号を動き適応型補間信号に置き換える実施の形態について述べたが、本発明はこれに限定されるものではなく、例えば単にフィールド内補間した信号に置き換えてもよく、2重画像が改善される他の信号に置き換える場合に広く適用できる。
【図面の簡単な説明】
【0052】
【図1】本実施の形態における画像処理装置の概略構成の一例を示す図である。
【図2】同画像処理装置におけるプログレッシブ変換部の内部構成の一例を示す図である。
【図3】同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の一例を示す図である。
【図4】ライン遅延された各信号の位置を示す図である。
【図5】同プルダウンエラー検出部における2重画像検出部の内部構成の一例を示す図である。
【図6】同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の他の例を示す図である。
【図7】5ライン分の2値パターンの例を示す図である。
【図8】同プログレッシブ変換部の処理手順を説明するフローチャートである。
【図9】各種走査線構造を示す図であり、同図(A)はインタレース信号を示し、同図(B)はプログレッシブ信号を示し、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示す。
【図10】フィールド間補間及びフィールド内補間を説明する図である。
【図11】3−2プルダウンを説明するための図である。
【図12】2−2プルダウンを説明するための図である。
【図13】3−2プルダウンによってインタレースに変換され、且つ編集処理が施されたインタレース信号をプログレッシブ信号に変換する場合の問題点を説明するための図である。
【符号の説明】
【0053】
10 フロント画像処理部、11 プログレッシブ変換部、12 表示装置駆動回路、13 表示装置、20,21 フィールド遅延器、22 動き検出部、23 メモリ、24 動き適応型補間データ生成部、31〜33 ライン遅延器、34〜37 差分絶対値演算部、38 1ライン差分絶対値平均演算部、39〜42 フリップフロップ、43 周辺平均演算部、44〜46 差分絶対値演算部、47 2ライン差分絶対値平均演算部、48〜51 フリップフロップ、52 周辺平均演算部、53 2重画像検出部、54 2ライン遅延器、55 出力選択部、60 2重画像判断部、61 カウンタ、62 比較部、63 ラッチ回路、64 OR回路、70〜73 ライン遅延器、74 平均値演算部、75 2値化部、76 2重画像検出部、77〜80 フリップフロップ、81 周辺総合2重画像検出部、82 2ライン遅延器、83 出力選択部
【特許請求の範囲】
【請求項1】
元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理装置であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、
上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出手段とを備え、
上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える
ことを特徴とする画像処理装置。
【請求項2】
上記変換信号は、3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号であることを特徴とする請求項1記載の画像処理装置。
【請求項3】
上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成手段をさらに備え、
上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記補間信号を上記置換信号として、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を置き換える
ことを特徴とする請求項1記載の画像処理装置。
【請求項4】
上記補間信号生成手段は、上記現フィールドの画像の時間的な動きを検出する動き検出手段を有し、当該動き検出手段によって動きが検出された場合には、上記フィールド内補間によって上記補間信号を生成し、当該動き検出手段によって動きが検出されなかった場合には、上記フィールド間補間によって上記補間信号を生成することを特徴とする請求項3記載の画像処理装置。
【請求項5】
上記2重画像検出手段は、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素のうち、所定の画素間の相関に基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項1記載の画像処理装置。
【請求項6】
上記2重画像検出手段は、上記複数の走査線のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合に、上記注目画素が上記2重画像部分を構成する画素であると判断することを特徴とする請求項5記載の画像処理装置。
【請求項7】
上記2重画像検出手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記相関を求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項5記載の画像処理装置。
【請求項8】
上記2重画像検出手段は、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素を2値に分類した2値パターンを求め、当該2値パターンに基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項1記載の画像処理装置。
【請求項9】
上記2重画像検出手段は、上記注目画素を含む走査線に直交する直線上の画素を、その平均値との大小関係により2値に分類し、上記2値パターンを求めることを特徴とする請求項8記載の画像処理装置。
【請求項10】
上記2重画像検出手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記2値パターンを求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項8記載の画像処理装置。
【請求項11】
元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理方法であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、
上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出工程と、
上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合に、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える置換工程と
を有することを特徴とする画像処理方法。
【請求項1】
元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理装置であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、
上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出手段とを備え、
上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える
ことを特徴とする画像処理装置。
【請求項2】
上記変換信号は、3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号であることを特徴とする請求項1記載の画像処理装置。
【請求項3】
上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成手段をさらに備え、
上記2重画像検出手段は、上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合には、上記補間信号を上記置換信号として、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を置き換える
ことを特徴とする請求項1記載の画像処理装置。
【請求項4】
上記補間信号生成手段は、上記現フィールドの画像の時間的な動きを検出する動き検出手段を有し、当該動き検出手段によって動きが検出された場合には、上記フィールド内補間によって上記補間信号を生成し、当該動き検出手段によって動きが検出されなかった場合には、上記フィールド間補間によって上記補間信号を生成することを特徴とする請求項3記載の画像処理装置。
【請求項5】
上記2重画像検出手段は、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素のうち、所定の画素間の相関に基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項1記載の画像処理装置。
【請求項6】
上記2重画像検出手段は、上記複数の走査線のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合に、上記注目画素が上記2重画像部分を構成する画素であると判断することを特徴とする請求項5記載の画像処理装置。
【請求項7】
上記2重画像検出手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記相関を求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項5記載の画像処理装置。
【請求項8】
上記2重画像検出手段は、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素を2値に分類した2値パターンを求め、当該2値パターンに基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項1記載の画像処理装置。
【請求項9】
上記2重画像検出手段は、上記注目画素を含む走査線に直交する直線上の画素を、その平均値との大小関係により2値に分類し、上記2値パターンを求めることを特徴とする請求項8記載の画像処理装置。
【請求項10】
上記2重画像検出手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記2値パターンを求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断することを特徴とする請求項8記載の画像処理装置。
【請求項11】
元画像を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブ信号に変換する画像処理方法であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、
上記フィールド内挿補間信号中の各画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを順次判断する2重画像検出工程と、
上記2重画像部分を構成する画素であると判断された画素が所定の閾値に達した場合に、上記フィールド内挿補間信号のうち上記所定の閾値に達した際の画素以降の画素又はラインの信号を所定の置換信号で置き換える置換工程と
を有することを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2006−253956(P2006−253956A)
【公開日】平成18年9月21日(2006.9.21)
【国際特許分類】
【出願番号】特願2005−66052(P2005−66052)
【出願日】平成17年3月9日(2005.3.9)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成18年9月21日(2006.9.21)
【国際特許分類】
【出願日】平成17年3月9日(2005.3.9)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]