説明

映像信号処理装置及び方法、並びに映像表示装置

【課題】画像のエッジ付近での、動きの誤検出を避け、高い精度で良好な動き検出を行う。
【解決手段】注目画素(P0)を中心とする画素ブロック(bl0f)と、異なるフレーム内に位置し、注目画素の周辺(A)の所定の範囲内に位置する画素を中心とする複数の参照画素ブロック(bl2f1、bl2f2、bl2f3)との間の非類似度の算出を行い(31)、画素(P0)近傍のエッジを検出し、非類似度を算出した結果とエッジ検出の結果から、エッジ付近の微少な動きを検出した結果である調整微少動き検出信号(MATRD)を出力する微少動き検出手段(30)を備え、調整微少動き検出信号(MATRD)により、フレーム間の差分信号(Dm)を調整し、動き情報(md)を求める動き情報検出手段(15)とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像信号において、動き適応型信号処理に用いるため画像の動きを検出する映像信号処理装置及び方法に関し、さらにこの映像信号処理装置又は方法を適用した映像表示装置に関し、
一例として、飛び越し走査(インターレース)信号を順次走査(プログレッシブ)の映像信号に変換するための動き適応走査線補間処理や、動きに応じてノイズ除去の強さを制御する3次元ノイズ除去処理において、映像信号における好適な動き検出を行う映像信号処理装置及び方法、並びに映像表示装置に関するものである。
【背景技術】
【0002】
映像信号を処理し高画質で表示するため、入力映像信号から画像の動きを検出し、動き適応型信号処理(以下、動き適応処理とする)を行うことで画質を向上させることが行われている。動き適応処理は、映像信号から画像の動きを局所的に検出し、検出された動きに応じて、静止画像に適した静止画処理と動画像に適した動画処理とを適応的に切り換える映像信号処理である。テレビジョン信号である映像信号における主な動き適応処理には、動き適応YC分離処理と動き適応走査線補間処理があり、さらには、動きに応じてノイズ除去の強さを制御する3次元ノイズ除去処理(ノイズリダクションとも呼び、NRと略す)があり、いずれも画質改善に効果がある。
【0003】
動き適応YC分離処理は、動き検出された動き量に応じて、動きが小さく静止と判断した場合はフレーム間の和をとることで輝度信号(以下、Y信号とする)を、フレーム間の差をとることで色信号(以下、C信号とする)を分離して、クロスカラーやクロスルミナンス等の成分を完全に取り除くことができる。また、画像の動きが大きく動画と判断した場合にはフィールド内処理を行ってY信号とC信号を分離する適応処理を行っている。
【0004】
動き適応走査線補間処理は、インターレースのテレビジョン信号を高画質で表示する際に、インターレース信号をプログレッシブ信号に走査線変換(IP変換と呼ぶ)する処理を行い、上記と同様に動き検出された動き量に応じて、静止画と判断した場合には、時間的に隣接するフィールドの対応する走査線の画素をはめ込むことにより補間(フィールド間補間)し、ラインフリッカを除去することができる。そして、動画と判断した場合は、同一フィールド内の隣接走査線における画素により補間信号を生成する(フィールド内補間)という動き適応処理を行っている。
【0005】
また、3次元ノイズ除去処理は、1フレームもしくは数フレーム分前の信号を得て、時間軸の中でフレーム間の相関(フレーム相関)のない成分をノイズ成分として除去する処理を行い、1フレーム前のノイズ除去後の信号と現在の入力フレームの信号とのフレーム間の差分を用いて、ある一定の係数(巡回係数)を掛けたものを現在の入力フレームの信号に加減算することによりノイズ成分を除去する巡回型のノイズ除去処理(フレーム巡回型ノイズ除去処理と呼ぶ)や、入力フレームの信号をフレーム遅延して、複数フレームの信号に係数を掛けて、複数フレームの信号間でフィルタ処理することによりノイズ成分を除去する非巡回型のノイズ除去処理(非巡回型ノイズ除去処理と呼ぶ)がある。いずれも時間軸上でフレーム相関のないノイズ成分を除去でき、ノイズ除去効果が得られる一方で、動きのある部分においては、尾引きや残像、輪郭ぼけが生じる場合があり、これを防ぐため、動き検出された動き量に応じて、ノイズ除去の効果を制御(抑制)する動き適応処理を行うことができる。
【0006】
上記のような動き適応処理を行うための動き量を示す動き信号を検出する有効な手段として、現在の入力フレームの信号(現フレーム画面)と時間軸上で前のフレームの信号(前フレーム画面)とのフレーム間の差分(フレーム差分、もしくはフレーム間差分とする)により動き検出する技術がある。ここで、動き適応処理における動き検出の検出精度は、表示画像の画質に大きく影響し、フレーム差分を基にした画像の動き検出のみでは、静止画の一部を動画と判断し動画処理する場合や、動画の一部を静止画と判断し静止画処理する場合などの動きの誤検出が生じる。そこで、これらの動き検出の誤りを防ぐような動き検出処理が数多く提案されている。
【0007】
従来の映像信号処理装置における動き検出では、画面間の差分信号を基にした差分動き信号を生成するとともに、現画面と同位置を除く位置での前画面における同一ブロックの存在を検出し、差分動き信号が「静止」で、同一ブロックが存在する場合のみ差分動き信号を「動き」へ修正することで真の動き信号を得て、動き検出漏れの発生を防止する装置(例えば、特許文献1参照)や、フレーム間の差分による動き検出結果に対し、水平、垂直エッジを検出した結果を加算または減算する演算処理を行うことで動き情報を求め、その動き情報を時空間フィルタ、孤立点除去処理して動き検出するような装置(例えば、特許文献2参照)の提案がある。
【0008】
また、隣接画素の画素平均値を求め、2つのフレーム画像内で同一位置の各画素に対する平均値の差分を求め、この平均値の差分を判定閾値と比較することで静止領域を判定することで、ちらつきやぼやけを軽減する静止領域判定装置の提案もある(例えば、特許文献3参照)。
【0009】
さらには、ノイズ除去処理等での動き検出において、フレーム間の差分から動き判定を行い、この判定結果を多数決処理回路においてチェックし、判定結果のバラツキを補正し、これを動き信号として動き検出を行い、ノイズ除去を行う装置の提案もある(例えば、特許文献4参照)。
【0010】
【特許文献1】特開平6−348848号公報(図1)
【特許文献2】特開2001−204045号公報(図1、8)
【特許文献3】特開2006−324979号公報(図1、2)
【特許文献4】特開平9−81754号公報(図1)
【発明の開示】
【発明が解決しようとする課題】
【0011】
上述したように、上記従来の装置においては、フレーム間の差分による動き検出の結果に対し、同一ブロックの存在を検出した結果や水平、垂直エッジを検出した結果を用いて、修正もしくは演算を行うことで動き信号を得る構成や、画素の平均値からフレーム間の差分を得る構成、フレーム差分に対し多数決処理やフィルタ処理を施す構成により、動きの誤検出を防止して動き検出を行い、動き信号を得ていた。
また、一方では、フレーム間の差分には、前後のフレーム間での映像信号の「動き」による差分のほかに、入力映像信号中の「ノイズ」成分が含まれており、特に画像の輪郭部分であるエッジ付近での差分には、映像信号の動き成分とノイズ成分が混在し、実際には静止した画素に対しても動きと誤判定することが多い。
【0012】
そのため、微少なぶれなどの微少なゆれや緩やかな動き(以下、「微少な動き」と言う)がある画像やノイズが含まれた画像などにおいて、これら微少な動きやノイズにより生じるフレーム間の差分が動き検出に影響を与え、また、微少な動き、ノイズのために同一ブロックの存在と判定したり、エッジと検出されるなどして、静止画であるにもかかわらず部分的に動きであると判定して、動きの誤検出が発生するという問題点があった。しかも、フレーム差分に対し多数決処理やフィルタ処理を行うことにより、その誤検出による動き検出の結果が周辺の隣接画素に広がってしまうため、良好な動き検出を行えず、画像の動きを正確に検出できないという問題点があり、この動き検出での誤検出が動き適応処理の結果において、画像のちらつきやぼやけなどの弊害による画質劣化につながるという問題点があった。
【0013】
本発明は、上記の課題を解決するためになされたものであり、その目的は、微少な動き、ノイズのある画像においても、静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行うことができ、動き適応処理の結果において、画像のちらつきやぼやけなどの弊害を低減することができる映像信号処理装置及び方法、並びに映像表示装置を提供することにある。
【課題を解決するための手段】
【0014】
本発明の映像信号処理装置は、
入力映像信号と、上記入力映像信号をフレーム遅延することで得られるフレーム遅延映像信号から、映像信号における動き検出を行う映像信号処理装置であって、
上記入力映像信号と上記フレーム遅延映像信号とに基づいて同じ画素についてのフレーム間の差分を求め、該差分を表すフレーム間差分信号を出力するフレーム間差分検出手段と、
動き検出の対象としての注目画素を中心とする注目画素ブロックと、上記注目画素とは時間的に異なるフレーム内に位置し、それぞれ上記注目画素の周辺の所定の範囲内に位置する画素を中心とする複数の参照画素ブロックとの間の非類似度の算出を行うとともに、上記注目画素近傍での画像の輪郭であるエッジを検出し、上記非類似度算出の結果と上記エッジ検出の結果から、映像信号における画像の輪郭について、上記エッジ近傍での所定の大きさ以下の動きを微少な動きとして検出し、該微少な動きの検出結果に応じた値を調整微少動き検出信号として出力する微少動き検出手段と、
上記調整微少動き検出信号により、上記フレーム間差分検出手段からの上記フレーム間差分信号を調整し、画像の動き情報を求める動き情報検出手段と、
上記動き情報に対し、フィルタ処理による補正を行い、動き検出結果としての動き信号を出力するフィルタ処理手段と
を備えたこと特徴とする映像信号処理装置。
【0015】
さらに、本発明の映像表示装置は、
上記フィルタ処理手段から出力される動き信号に応じて、飛び越し走査映像信号を順次走査映像信号に変換する動き適応走査線補間処理を行う映像信号処理装置、又は上記フィルタ処理手段から出力される動き信号に応じて、ノイズ除去の効果を制御する動き適応ノイズ除去手段をさらに備える映像信号処理装置と、
映像を表示する表示手段と、
上記映像信号処理装置から出力される映像信号に応じた画像を、上記表示手段に表示させる表示処理手段と
を備えたことを特徴とする。
【発明の効果】
【0016】
本発明の映像信号処理装置及び方法によれば、エッジ付近での静止画あるいは微少な動きであると検出された画素における動き情報を、静止画方向へ(静止画との判定結果となりやすいように)調整することができるので、微少な動きやノイズのあるエッジ付近において、静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行うことができ、動き適応処理の結果において、画像のちらつきやぼやけなどの弊害を低減できるという効果がある。
【0017】
また、本発明の映像表示装置によれば、微少な動きやノイズのある画像においても、静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行い、動き適応処理の結果において、画像のちらつきやぼやけなどの弊害を低減された映像信号に基づく高品質な映像を表示することができるという効果がある。
【発明を実施するための最良の形態】
【0018】
なお、本出願において、「・・・手段」として示される構成要素は、電気回路(ハードウェア)によって実現されるもの、又はソフトウェアによって実現されるもののいずれであってもよい。
【0019】
実施の形態1.
図1は、本発明の実施の形態1の映像信号処理装置(すなわち、実施の形態1の映像信号処理方法を実施することができる装置)の構成を示すブロック図であり、
1フレーム前の信号と現在の入力フレームの信号から画像の動きを画素ごとに検出するよう構成している。
【0020】
図1において、実施の形態1の映像信号処理装置は、インターレース信号である入力映像信号(以下、「入力フレーム信号」、又は「現フレーム信号」とも呼ぶ。)Di0が順次入力されており、第1及び第2のフィールドメモリ11及び12と、動き検出手段1とを備えている。
第1及び第2のフィールドメモリは各々フィールド遅延手段としての機能を持つものであり、インターレース信号において相前後する垂直同期信号で区切られるフィールド単位で入力映像信号を順次遅延することでフィールド遅延された信号を出力する。
【0021】
動き検出手段1は、入力フレーム信号Di0と、フィールド遅延された信号D1fから映像信号における画像の動きを画素ごとに検出し、動き量を示す動き信号を出力する。
【0022】
動き検出手段1は、フレーム間差分検出手段20と、微少動き検出手段30と、動き情報検出手段15と、フィルタ処理手段16とを備えている。フレーム間差分検出手段20は、映像信号のフレーム間の差分を検出し、同じ画素についてのフレーム間の差分を表すフレーム間差分信号Dmを出力する。
【0023】
微少動き検出手段30は、入力フレーム信号と1フレーム前の信号における画素ブロック間の非類似度の算出(以下、パターンマッチングとも呼ぶ)により、エッジ付近の静止に近い所定の大きさ以下の動きを緩やかな(微少な)動きとして検出する。
【0024】
動き情報検出手段15は、フレーム間差分検出手段20からのフレーム間差分信号Dmと微少動き検出手段30からの調整微少動き検出信号MATRDから、エッジ付近の微少な動きが加味された(微少な動きを考慮に入れた)動き情報mdを生成する。
フィルタ処理手段16は、動き情報mdに対し時空間フィルタや孤立点除去などの処理を行い、動きの検出漏れを補正する。
【0025】
フレーム間差分検出手段20は、入力フレーム信号と1フレーム前の信号の間のフレーム間差分を算出する差分算出手段22と、フレーム間差分の差分絶対値を演算する絶対値演算手段23と、差分絶対値を非線形変換し動きとしての差分信号を求める差分感度変換手段24とを備えている。
【0026】
微少動き検出手段30は、非マッチング量算出手段31と、エッジ検出手段32と、変換手段(微少動き量変換手段)33とを備える。
非マッチング量算出手段31は、入力フレーム信号の、動き検出の対象としての注目画素を中心とした画素ブロックと1フレーム前の信号の所定の範囲内にある画素ブロックとの間で非類似度を計算し(パターンマッチングを行い)、注目画素での所定の範囲内における非類似度を示す値(「非マッチング量」と呼ぶ)を求める。
エッジ検出手段32は、注目画素の近傍におけるエッジの検出を行う。
変換手段33は、非マッチング量算出手段31から出力される非マッチング量とエッジ検出結果から、エッジ付近の微少な動きを検出した結果である調整微少動き検出信号を求める。調整微少動き検出信号MATRDは、動き情報検出手段15へと出力される。
【0027】
ここで、図1においては、入力映像信号がインターレース信号として第1及び第2のフィールドメモリ11及び12によりフィールド単位での遅延する場合を示しており、インターレース信号での1フレーム分の遅延は、すなわち2フィールド分の遅延である。そのため、第1及び第2のフィールドメモリ11及び12により、映像信号を1フレーム分遅延するフレーム遅延手段13を構成している。
【0028】
以下の実施の形態1では、インターレース信号入力時に入力フレーム信号と1フレーム前の信号の間での映像信号における動きを検出するものとする。
【0029】
フィールド遅延手段である第1及び第2のフィールドメモリ11及び12は、映像信号を1フィールド分遅延して出力するためのメモリであり、第1のフィールドメモリ11は、入力された入力映像信号Di0を1フィールド分遅延して1フィールド遅延信号d1fを出力する。
第2のフィールドメモリ12は、第1のフィールドメモリ11からの1フィールド遅延信号d1fを1フィールド分遅延し、2フィールド遅延信号(すなわち、1フレーム遅延信号)d2fを出力する。
第1及び第2のフィールドメモリ11及び12はフレーム遅延手段13を構成しており、フレーム遅延手段13からは、動き検出手段1で使用するフィールド遅延信号として、1フレーム前の信号である1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが得られる。
【0030】
ここで、入力映像信号Di0はインターレース信号であり、フレーム遅延手段13から出力される1フレーム遅延信号d2fは、現フレーム信号Di0の画素と同一位置にある画素の信号であり、同位相の信号となる。一方、第1のフィールドメモリ11から出力される1フィールド遅延信号d1fは、現フレーム信号Di0の画素に対し、垂直方向上又は下に1/2ラインずれた位置にある画素の信号であり、異位相の信号である。
【0031】
動き検出手段1には、入力フレーム信号(現フレーム信号)Di0と、フレーム遅延手段13からの1フレーム遅延信号d2f、及び1フィールド遅延信号d1fとが入力される。動き検出手段1は、入力フレーム信号Di0と1フレーム前の信号との間での映像信号における動きを画素ごとに検出し、検出結果から動き量を示す動き信号mdsを出力する。
【0032】
動き検出手段1では、入力フレーム信号と1フレーム前の信号とのフレーム間差分から差分信号Dmを求めるとともに、入力フレーム信号と1フレーム前の信号における画素ブロック間の非マッチング量と、エッジ検出の結果から、エッジ付近の微少な動きを検出した結果である調整微少動き検出信号MATRDを得ることにより、エッジ付近の微少な動きが加味された動き情報を求めることで、誤検出を防止した高い精度の動き検出を行って、動き量を示す動き信号mdsを生成し出力する。
【0033】
動き検出手段1の構成について、図1を参照して以下で詳細に説明する。
フレーム差分検出手段20には、現フレーム信号Di0とフレーム遅延手段13からの1フレーム遅延信号d2fが入力され、1フレーム遅延信号d2fである1フレーム前の信号と現フレーム信号Di0の同位相にある画素間の差分値を求め、この差分値から、1フレーム間差分である差分信号Dmを検出する。求められるフレーム間の差分が0の場合は、完全に静止し、ノイズ成分が含まれていない部分であり、動きもしくはノイズ成分があると、その値の絶対値は大きくなる。
【0034】
フレーム間差分検出手段20の差分感度変換手段24により得られた差分信号Dmは、1フレーム差分検出結果(フレーム間差分信号)として、動き情報検出手段15へと出力される。
【0035】
差分算出手段22には、現フレーム信号Di0と前フレーム信号である1フレーム遅延信号d2fが入力され、1フレーム遅延信号d2fと現フレーム信号Di0の減算処理を行い、現フレーム信号Di0と1フレーム遅延信号d2fのフレーム間の差分値(注目画素についてのフレーム間差分)Dnが求められる。このフレーム間差分Dnが0の場合は、完全に静止し、ノイズ成分が含まれていない部分であり、動きもしくはノイズ成分があると、その値の絶対値は大きくなる。なお、得られた差分値に対し、低域通過フィルタ(以下、LPFと略す)を施すことにより、高域周波数成分であるノイズの影響を低減したフレーム間差分Dnとして求めてもよい。
【0036】
絶対値演算手段23には、差分算出手段22からのフレーム間差分Dnが入力される。絶対値演算手段23は、フレーム間差分Dnの絶対値を演算し、フレーム間差分の差分絶対値Dabsを出力する。
【0037】
差分感度変換手段24には、絶対値演算手段23からの差分絶対値Dabsが入力される。差分感度変換手段24では、例えば差分絶対値Dabsに所定の感度倍率Tmfを乗算し、所定のオフセット値Tofを減算して、その演算結果を所定の値(例えば、0からdM)の間に値を制限することで非線形変換し、差分信号Dmとして動き情報検出手段15へ出力する。なお、非線形変換を省略し、差分絶対値Dabsのまま出力してもよい。
【0038】
図2は、差分感度変換手段24の入出力特性の一例である差分絶対値Dabs(横軸に示される入力)と出力される差分信号Dm(縦軸に示される出力)の関係を示している。図示の例では、差分絶対値DabsがTm以上の場合は、出力される差分信号Dmが一定値dMとして動きを示すものとなり、差分絶対値Dabsがオフセット値Tof以下では微小のノイズ成分として扱われ、出力される差分信号Dmが0となる。
差分絶対値DabsがTofからTmまでの範囲では、差分絶対値Dabsの増加に伴って差分信号Dmが0からdMまで次第に増加し、その値で動きもしくはノイズの量を示している。
【0039】
感度倍率Tmfを大きくすることで、差分絶対値Dabsをより大きな動き、もしくはノイズを表すものとなるように調整することとなり、差分絶対値Dabsを動き、もしくはノイズと検出しやすくすることとなる。一方、オフセット値Tofを大きくすると、その値までの差分値が微小ノイズ成分(静止部分)として検出されることとなる。よって、この感度倍率Tmfとオフセット値Tofにより動き検出の感度が調整される。
但し、上記オフセット値Tofを大きくしすぎると、全ての画素において非線形変換されるため、実際は動きがある部分もフレーム差分Dmが0として変換され、動き部分が静止画として検出してしまう、即ち動き検出漏れとなってしまう。差分信号Dmに対し、このオフセット値Tofの設定による微小ノイズ成分の考慮には、限界がある。
【0040】
動き検出手段1内の微少動き検出手段30には、現フレーム信号Di0とフレーム遅延手段13からの1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。
微少動き検出手段30では、1フレーム遅延信号d2fである1フレーム前の信号と現フレーム信号Di0の画素ブロック間で非類似度を計算し、非類似度を示す非マッチング量を得るとともに、注目画素近傍のエッジの存在を検出する。そして、得られた非マッチング量とエッジ検出の結果から、動き検出の対象である注目画素の近傍でのエッジ付近における微少な動きを検出する。
微少動き検出手段30は、上記のように、非マッチング量算出手段31と、エッジ検出手段32と、変換手段(微少動き量変換手段)33とを備え、エッジ付近の微少な動きを検出した結果として調整微少動き検出信号MATRDを求め、得られた調整微少動き検出信号を動き情報検出手段15へと出力する。
【0041】
非マッチング量算出手段31には、現フレーム信号Di0と、前フレーム信号である1フレーム遅延信号d2fが入力される。非マッチング量算出手段31は、入力フレーム信号の注目画素を中心とする画素ブロック(注目画素ブロック)と1フレーム前の信号の注目画素の周辺の所定範囲内にある画素を中心とする複数の画素ブロック(参照画素ブロック)との間における非類似度を計算し、複数の参照画素ブロックについて算出された非類似度に基づいて非マッチング量MATDを求める。得られた非マッチング量MATDは、上記所定の範囲(微少な動きの範囲)内における類似度を示すものであり、変換手段(非マッチング量変換手段)33へ出力される。
【0042】
非マッチング量算出手段31で算出される非マッチング量は、現フレーム信号Di0における注目画素P0を中心とし、その周辺の画素を含む注目画素ブロックbl0fに対し、1フレーム遅延信号d2fの同位置にある画素、あるいはその周辺の所定範囲内にある画素を中心とした参照画素ブロックの各々との間で非類似度を計算した結果から求められる。
【0043】
微少動き検出手段30で微少な動きとして検出される動きの速さ(1フレーム当たりの動き量)は、1フレーム遅延信号d2fでのパターンマッチングを行う参照画素ブロックの中心画素の範囲(注目画素を中心とする範囲)により決められ、参照画素ブロックの各々についての非類似度の計算結果(非マッチング量)を合成して、合成後の非マッチング量MATDを得る。得られる非マッチング量MATDはその大きさにより所定範囲内の画素ブロックとの非類似度を示し、これに基づいて微少な動きを示しているか否かを判定することができるものであり、注目画素P0を中心とする注目画素ブロックbl0fに対し、1フレーム遅延信号d2fの画素の範囲でのいずれかの画素ブロックとの類似性が高いほど非マッチング量MATDが0に近づき、完全に静止しているか、静止に近い微少な動き、もしくはノイズ成分によるものであることが示され(反映され)ている。また、類似性が低いほど非マッチング量MATDが大きな値となり、比較的速い動きがあることを示す。画素ブロック間のマッチングを行うので、より正確に同一ブロックの存在、すなわち微少な動きを判定できる。非マッチング量算出手段31は、例えば図3に示すように構成できる。
【0044】
図3は、非マッチング量算出手段31の一構成例を示すブロック図である。図示の非マッチング量算出手段31は、水平方向に1フレームあたり左右1画素以内の速さの動きを、静止画に近い微少な動きとして検出するものである。
図3において、非マッチング量算出手段31は、注目画素ブロック抽出手段34と、参照画素ブロック抽出手段35と、第1、第2及び第3のブロック間非マッチング量演算手段36,37、38と、合成手段(非マッチング量合成手段)39とを備える。第1、第2及び第3のブロック間非マッチング量演算手段36,37、38は同じ構成である。
【0045】
ここで、非マッチング量算出手段31でパターンマッチング行う画素ブロックは、例えば、図4に示すような注目画素P0(図中斜線で示す画素)を中心とし、水平方向に並んだ、相連続する5画素で構成されるブロックとする。すなわち、現フレーム信号Di0における注目画素P0を中心とした注目画素ブロックbl0fは、図4に示す範囲の5画素で構成され、各画素を中心としたこの同様の画素ブロックでの非マッチング量を算出する。なお、画素ブロックを構成する画素数、範囲は、図4に示した水平方向5画素で構成されるブロックに限定されるものではなく、例えば、図5(a)に示すような垂直方向3ライン、水平方向5画素の合計15画素の矩形ブロックとしても、図5(b)に示すような垂直方向3ライン、水平方向3画素の合計9画素で構成されたブロックとすることもでき、さらには、図5(c)に示すような垂直方向2ライン、水平方向4画素の合計8画素で構成されたブロックとしてもよい。画素ブロックを構成する画素の合計が大きいほど、より広い範囲での非マッチング量を算出することが可能であるため、より安定した値が得られることになる。
【0046】
図6は、現フレーム信号Di0と1フレーム遅延信号d2fの同一ラインの信号の時間的関係と水平方向(画面表示水平走査方向)の位置関係を示すものであり、非マッチング量算出手段31でパターンマッチングを行う注目画素ブロックbl0fと、対応する1フレーム遅延信号d2fのフレーム内の参照画素ブロックの位置関係を示している。
【0047】
図3の非マッチング量算出手段31では、水平方向に1フレームあたり左右1画素以内の速さの動きを微少な動きの範囲(微少な動きとして扱う範囲)とするので、図6中、注目画素P0に対して、1フレーム遅延信号d2fのフレームで、同じ位置にある画素Pp0と、その左右に隣接する画素Pp1l、Pp1rの3方向(画素Pp0、Pp1、Pp1rの、画素P0に対する相対的位置)が検出する動きの範囲となる。注目画素ブロックbl0fと、画素Pp0、Pp1l、Pp1rを中心とした参照画素ブロックbl2f1、bl2f2、bl2f3のそれぞれとの間で非類似度を計算することで、3個の非マッチング量を得て、この3個の非マッチング量を合成して、合成後の非マッチング量を得る。
【0048】
図3において、非マッチング量算出手段31へ入力された現フレーム信号Di0と1フレーム遅延信号d2fは、現フレーム信号Di0が注目画素ブロック抽出手段34へ、1フレーム遅延信号d2fが参照画素ブロック抽出手段35へと入力される。
【0049】
注目画素ブロック抽出手段34は、注目画素ブロックbl0f(図6参照)を抽出し、抽出された注目画素ブロックbl0f内の画素(P2l、P1l、P0、P1r、P2r)を第1、第2及び第3のブロック間非マッチング量演算手段36、37、38へと出力する。
【0050】
一方、参照画素ブロック抽出手段35では、1フレーム遅延信号d2fが入力され、1フレーム遅延信号d2fにおける画素Pp0、及びその左右に隣接する画素Pp1l、Pp1rをそれぞれ中心とした3方向に位置する3つの参照画素ブロックbl2f1、bl2f2、bl2f3(図6参照)を抽出する。
抽出された参照画素ブロックbl2f1内の画素(Pp3l、Pp2l、Pp1l、Pp0、Pp1r)を第1のブロック間非マッチング量演算手段36へ、参照画素ブロックbl2f2内の画素(Pp2l、Pp1l、Pp0、Pp1r、Pp2r)を第2のブロック間非マッチング量演算手段37へ、参照画素ブロックbl2f3内の画素(Pp1l、Pp0、Pp1r、Pp2r、Pp3r)を第3のブロック間非マッチング量演算手段38へ供給される。
【0051】
図7は注目画素ブロック抽出手段34の具体的な構成の一例を示す図である。図示の注目画素ブロック抽出手段34は5つの画素遅延手段401〜405を備え、現フレーム信号Di0のラインn(フレーム内の順に選択される各ライン)における画素の信号を画素遅延することで各注目画素ブロックbl0fを構成する5画素の信号を抽出する。抽出された信号は、ブロック間非マッチング量演算手段36、37、38に供給される。
【0052】
図8は、参照画素ブロック抽出手段35の具体的な構成の一例を示す図である。図示の参照画素ブロック抽出手段35は6つの画素遅延手段411〜416を備え、1フレーム遅延信号d2fのラインn(図7の注目画素ブロック抽出手段34で画素の抽出を行っているのと同じライン)における画素の信号を画素遅延することで参照画素ブロックbl2f1、bl2f2、bl2f3を構成する5画素の信号を抽出する。抽出された参照画素ブロックbl2f1、bl2f2、bl2f3の画素の信号は、それぞれブロック間非マッチング量演算手段36、37、38へ供給される。
【0053】
ブロック間非マッチング量演算手段36、37、38は、その構成は互いに同じであり、注目画素ブロックbl0fと参照画素ブロックbl2f1、bl2f2、bl2f3との間の非類似度を計算し、計算の結果としてブロック間の非マッチング量Mph1、Mph2、Mph3を求める。
【0054】
図9は、第1のブロック間非マッチング量演算手段36の一構成例を示す。図示のブロック間非マッチング量演算手段36は、注目画素ブロックbl0fと参照画素ブロックbl2f1の非類似度を計算し、パターンマッチングを行う。第2及び第3のブロック間非マッチング量演算手段37、38も同様に構成されている。
【0055】
図9において、ブロック間非マッチング量演算手段36は、差分絶対値演算手段41〜45と、平均化手段46とを備える。図6及び図9を参照して、注目画素ブロックbl0fと参照画素ブロックbl2f1の非類似度を計算する場合について以下に説明する。この場合、図6中の1フレーム遅延信号d2fのフレームの画素Pp1lから、現フレーム信号Di0のフレームの注目画素P0への方向にある微少な動きを検出することとなる。
【0056】
ブロック間非マッチング量演算手段36において、注目画素ブロックbl0f内の画素P2l、P1l、P0、P1r、P2rの信号と、参照画素ブロックbl2f1内の画素Pp3l、Pp2l、Pp1l、Pp0、Pp1rの信号は、それぞれ対応する位置にある画素ごとに差分絶対値演算手段41〜45へと入力されて、画素値の差分の絶対値が計算される。差分絶対値演算手段41〜45での演算は、注目画素ブロックbl0f内の画素と対応する位置にある参照画素ブロックbl2f1内の画素との差分の絶対値を、下記の式(1)〜(5)に従い算出する。
d1=|P2l―Pp3l| …式(1)
d2=|P1l―Pp2l| …式(2)
d3=|P0―Pp1l| …式(3)
d4=|P1r―Pp0| …式(4)
d5=|P2r―Pp1r| …式(5)
【0057】
差分絶対値演算手段41〜45で式(1)〜式(5)により計算した差分の絶対値d1〜d5は、平均化手段46へと出力される。平均化手段46では、得られた差分の絶対値d1〜d5の総和を求め、平均化を行う。すなわち、下記の式(6)により、平均化差分Mph1を求め、非マッチング量Mph1として出力する。
Mph1=(d1+d2+d3+d4+d5)/5 …式(6)
【0058】
ここで、上記式(6)で5画素の平均値を求めるよう、5分の1としたが、ハードウェアでの構成、演算処理の容易さを考慮して、4で割るようにしてもよい。
【0059】
上記式(6)に従い算出されるブロック間の非マッチング量Mph1は、注目画素ブロックbl0fと参照画素ブロックbl2f1との類似性が高いほど0に0に近づき、完全に静止しているか、静止に近い微少な動きであることを示す。また、類似性が低いほど非マッチング量Mph1は大きな値となり、比較的速い動きがあることを示す。これは、式(1)〜式(5)で画素間の差を求め、その差分の絶対値の平均化を式(6)により行っていることから、容易に理解できる。
【0060】
ブロック間非マッチング量演算手段37、38では、図9での処理と同様に、注目画素ブロックbl0fと他の参照画素ブロックbl2f2及びblf3での間のパターンマッチング、すなわち非類似度の計算を行い、各方向の画素ブロック間の非マッチング量Mph2、Mph3を得る。結果として、ブロック間非マッチング量演算手段36、37、38においては、得られた非マッチング量Mph1、Mph2、Mph3の大きさにより、注目画素ブロックbl0fと対応する画素ブロックとの間の非類似度が示され、図6中の注目画素ブロックbl0fの注目画素P0において、1フレーム遅延信号d2f上の画素Pp1l、Pp0及びPp1rの方向の範囲内の微少な動き(もしくは静止)であるか否かを判断できる。
【0061】
ブロック間非マッチング量演算手段36、37、38で算出された非マッチング量Mph1、Mph2、Mph3は、3方向にある各ブロック間の非類似度を示す結果として、図3に示される合成手段(非マッチング量合成手段)39へと出力される。
【0062】
なお、図9で示す平均化手段46において、差分の絶対値d1〜d5の総和を求め平均化を行う際に、画素ブロックの中心画素P0との差分に近い画素での差分の重みが大きく、周辺画素での重みが小さくなるように重み付け加算することで平均化を行ってもよく、例えば、式(6)に代え、下記の式(7)に従い平均化した非マッチング量Mph1とすることもできる。
Mph1=d1/8+d2/8+d3/2+d4/8+d5/8 …式(7)
【0063】
また、パターンマッチングに使用する画素ブロックを図4に示す水平5画素のブロックとして構成したが、図5に示すような、例えば図5(b)に示すような3ライン×3画素の9画素のブロックとしてもよく、この場合には、非マッチング量算出手段31内の注目画素ブロック抽出手段34、及び参照画素ブロック抽出手段35において、9画素で構成された注目画素ブロックbl0fと、参照画素ブロックbl2f1、bl2f2、bl2f3の画素ブロックが抽出され、ブロック間非マッチング量演算手段36、37、38において、9画素分の差分の絶対値の総和を求め、平均化した非マッチング量Mph1、Mph2、Mph3が得られる。
【0064】
次に、図3において、非マッチング量算出手段31内の合成手段39へは、ブロック間非マッチング量演算手段36、37、38で算出された非マッチング量Mph1、Mph2、Mph3が入力される。合成手段39では、3個の非マッチング量Mph1、Mph2、Mph3を合成して、非マッチング量MATDとして求めて出力する。この合成後の非マッチング量MATDは、注目画素P0での微少な動きを検出するための最終的な非類似度を示すものである。この合成においては、例えば、3個の非マッチング量Mph1、Mph2、Mph3を比較して、その最小値を求めて出力する。代わりに、平均値を求めることにより、合成後の非マッチング量MATDを得てもよい。
【0065】
合成手段39により得られる非マッチング量MATDは、非マッチング量Mph1、Mph2、Mph3から選択されるため、その大きさにより所定範囲内の微少な動き(もしくは静止)であるか否かが示され、注目画素ブロックbl0fに対し、1フレーム遅延信号d2fのいずれかの参照画素ブロックとの類似性が高いほど非マッチング量が0に近づき、静止しているか、微少な動きであることを示す。一方、類似性が低いほど非マッチング量が大きな値となり、比較的速い動きがあることを示す。
【0066】
以上により、図3に示される非マッチング量算出手段31においては、
現フレームDi0上の注目画素ブロックbl0fと、1フレーム遅延信号d2fのフレームの参照画素ブロックbl2f1、bl2f2、bl2f3とで構成される画素ブロック対の間での非類似度の算出から得られた非マッチング量に基づき、水平方向に1フレームあたり左右1画素以内の動きの範囲内における注目画素P0についての非マッチング量MATDが出力される。この非マッチング量MATDは、画素ブロック間のパターンマッチング(非類似度の算出)から得られているため、注目画素と対応する画素の差分のみに基づいて判定を行なうのと比較し、周囲の画素での状態も考慮することとなり、ノイズ成分の影響を低減し、より安定した値が得られている。
【0067】
なお、図3を参照して説明した例では、水平方向に1フレームあたり左右1画素以内の速さで画像が動く場合を微少な動きとし、その範囲での非マッチング量を算出することとしているが、画像の特性によりさらに早い、例えば、水平方向に1フレームあたり左右2画素以内の速さまでの動きを、微少な動きとして非マッチング量を算出するように構成してもよい。この場合は、参照画素ブロック抽出手段35において、対応する移動位置にある画素を中心とした画素ブロックを抽出し、ブロック間非マッチング量演算手段36、37、38と同様の構成でそれぞれのブロックとの非マッチング量を得て、算出した方向の複数の非マッチング量を合成(例えばそれらの最小値を選択)することで注目画素P0での合成後の非マッチング量MATDが得られればよい。
【0068】
図1に戻る。微少動き検出手段30内のエッジ検出手段32には、現フレーム信号Di0と、フレーム遅延手段13からの1フレーム遅延信号d2fと、1フィールド遅延信号d1fとが入力される。エッジ検出手段32では、現フレーム信号Di0と1フレーム遅延信号d2f、及び1フィールド遅延信号d1fの画素から、注目画素P0の近傍(例えば、当該画素P0と垂直方向上下の画素との間、また、その時間方向に同位置にある画素との間)に、画像の物体の輪郭部分であるエッジが存在するかを検出し、検出結果であるエッジ検出信号Edflを変換手段33へと出力する。
【0069】
エッジ検出手段32は、例えば図10に示すように構成される。図10に示すエッジ検出手段32は、画像の垂直方向のエッジ(すなわち、水平方向に延びた或いは水平方向の成分を有する輪郭)成分の存在を検出するものであり、現フレーム信号Di0と、1フレーム前の信号である1フレーム遅延信号d2fと、1フィールド前の信号(1フィールド遅延信号d1f)とを用いて、注目画素P0と、注目画素と同じフレーム内において、注目画素の近傍乃至周辺に位置する画素と、時間的に隣接するフレーム内において、注目画素と同じ位置にある画素、又はその近傍の位置にある画素から、垂直方向の高域周波数成分(垂直エッジ成分、もしくは垂直高域成分)を求めることで、垂直方向のエッジの存在を検出している。
【0070】
図10に示すように、エッジ検出手段32は、垂直方向の高域周波数成分である垂直エッジ成分を取り出すための垂直高域成分抽出手段50と、平滑化手段(垂直エッジ成分平滑化手段)51と、非線形変換手段(垂直エッジ成分非線形変換手段)52と、比較手段(垂直エッジ成分比較手段)53とを備える。
【0071】
垂直高域成分抽出手段50は、フレーム内のライン(走査線)間の演算により、フレーム内高域成分を抽出する第1及び第2のフレーム内垂直高域成分抽出手段54及び55と、当該フレームの信号と、その1フレーム前の信号にまたがったライン間の演算により、フレーム間垂直高域成分を抽出するフレーム間垂直高域成分抽出手段56と、フィールド成分抽出手段57と、最大値選択手段58とを備える。
【0072】
フィールド成分抽出手段57は、1フィールド遅延信号d1f内の垂直エッジ成分を抽出するとともに、1フィールド遅延信号d1fのフィールドと、当該フィールドに対し、前もしくは後にあるフィールドとの1フィールド間にまたがった垂直エッジ成分を抽出するものであり、第1及び第2のフィールド間垂直高域成分抽出手段60及び61と、フィールド内垂直高域成分抽出手段62とを備えている。
【0073】
図11は、入力映像信号がインターレース信号である場合の、現フレーム信号Di0、並びに1フレーム遅延信号d2f、及び1フィールド遅延信号d1fのフレーム相互間の時間的関係と、処理に用いられる画素の垂直走査方向(画面表示ライン上下方向)の位置関係を示す。図11で時間的に前のフレームほどより左側に示され、各フレームの画素は、画面内で上のものほど図で上に示されている。
図11において、現フレーム信号Di0を示す縦線上で、ラインn上に注目画素P0(図6の注目画素ブロックbl0fの中心画素)が示され、1フレーム遅延信号d2fのフレームを示す縦線上で、注目画素P0と同じラインn上に(注目画素と同じ縦方向位置に)画素Pp0(図6の参照画素ブロックbl2f2の中心画素)が示され、1フィールド遅延信号d1fのフレームを示す縦線上で、注目画素P0に対して1/2ライン上及び1/2ライン下に画素Pf1とPf2が示されている。
【0074】
図10及び図11を参照してエッジ検出手段32の動作を説明する。
図10に示されるエッジ検出手段32内の垂直高域成分抽出手段50には、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。垂直高域成分抽出手段50では、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fから、注目画素P0の近傍における垂直方向の高域周波数成分である垂直エッジ成分を取り出す。
【0075】
図10の垂直高域成分抽出手段50では、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fの各フレーム内で垂直方向のライン間での垂直エッジ成分(フレーム内もしくはフィールド内の垂直高域成分)と、現フレーム信号Di0のフレームと1フレーム遅延信号d2fのフレームとの1フレーム間にまたがった垂直エッジ成分(フレーム間の垂直高域成分)と、1フィールド遅延信号d1fのフィールドと、現フレーム信号Di0または1フレーム遅延信号d2fのフィールドとの1フィールド間にまたがった垂直エッジ成分(フィールド間の垂直高域成分)とを抽出する。
【0076】
垂直高域成分抽出手段50により行われるそれぞれの垂直エッジ成分の抽出は、具体的には、帯域通過フィルタ(バンドパスフィルタ、以下、BPFと略す)等により行い、ライン間の画素で垂直方向のBPF(垂直BPF)処理した後、BPF後の出力を絶対値化した値を垂直エッジ成分として求めることができる。また、絶対値化したBPF出力に対し、水平方向のLPF(水平LPF)を施す、平滑化処理するなどして、水平方向に延びた或いは水平方向の成分を有する輪郭として垂直エッジ成分を求めてもよい。
【0077】
垂直高域成分抽出手段50内の第1のフレーム内垂直高域成分抽出手段54へは現フレーム信号Di0が、第2のフレーム内垂直高域成分抽出手段55へは1フレーム遅延信号d2fがそれぞれ入力される。第1及び第2のフレーム内垂直高域成分抽出手段54及び55は同様に構成されており、第1のフレーム内垂直高域成分抽出手段54では、現フレーム信号Di0における画素P0と垂直方向上下ライン上に位置する信号(例えば、図11中のP0aとP0b)をライン遅延処理等で得て、フレーム内のライン間の画素の演算により垂直エッジ成分(例えば、垂直BPF出力を絶対値化した値)を抽出し、垂直エッジ成分Edcとする。また、第2のフレーム内垂直高域成分抽出手段55では、1フレーム遅延信号d2fにおける画素Pp0(上記画素P0と同一位置)と垂直方向上下ライン上に位置する信号(図11中のPp0aとPp0b)をライン遅延処理等で得て、フレーム内のライン間の画素の演算により垂直エッジ成分を抽出し、垂直エッジ成分Edpとする。なお、上記の処理の代わりに、画素位置P0またはPp0を中心とし、その上または下のラインに位置する1つの画素との間の演算、さらには、画素位置P0またはPp0の上下に位置する数ラインにわたる画素との間での演算により垂直エッジ成分を抽出してもよい。
【0078】
第1及び第2のフレーム内垂直高域成分抽出手段54及び55から出力される現フレーム信号Di0及び1フレーム遅延信号d2fにおけるフレーム内の垂直エッジ成分Edc及びEdpは、ともに最大値選択手段58へと出力される。
【0079】
フレーム間垂直高域成分抽出手段56へは、現フレーム信号Di0と1フレーム遅延信号d2fが入力される。フレーム間垂直高域成分抽出手段56では、現フレーム信号Di0と1フレーム遅延信号d2fの1フレーム間にまたがった垂直エッジ成分を抽出し、垂直エッジ成分Edfrとする。例えば、現フレーム信号Di0における画素P0と、1フレーム遅延信号d2fにおける画素Pp0と垂直方向上下ライン上に位置する画素(図11中のPp0aとPp0b)とを用い、フレーム間にまたがるライン間の演算(画素P0と、Pp0a,Pp0bの間の演算)を行い、垂直エッジ成分(垂直BPF出力を絶対値化した値)を抽出して、1フレーム間にまたがった垂直エッジ成分を抽出することができる。
また、1フレーム遅延信号d2fにおける画素Pp0と、現フレーム信号Di0の中心画素P0と垂直方向上下ライン上に位置する信号(図11中のP0aとP0b)との間での演算(画素Pp0と、P0a,P0bでの演算)により垂直エッジ成分を抽出してもよい。
これにより、注目画素位置P0近傍の1フレーム間にまたがった垂直エッジ成分が抽出される。フレーム間垂直高域成分抽出手段56で抽出された垂直エッジ成分Edfrは、最大値選択手段58へと出力される。
【0080】
なお、現フレーム信号Di0と1フレーム遅延信号d2fは同位相の信号であるため、上記フレーム内垂直高域成分抽出手段54、55によって抽出される垂直エッジ成分は各フレーム内の同様の位置にあるものとなり、上記フレーム内垂直高域成分抽出手段54、55によって現フレーム信号Di0と1フレーム遅延信号d2fのそれぞれにおける垂直エッジ成分が抽出されているので、このフレーム間垂直高域成分抽出手段56は、省略することも可能である。
【0081】
次に、フィールド成分抽出手段57へは、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。フィールド成分抽出手段57では、インターレース信号入力時の1フィールド遅延信号d1fを使用し、1フィールド遅延信号d1fのフィールド内にある垂直エッジ成分と、1フィールド遅延信号d1fのフィールドとその前後の1フィールドの間にまたがった垂直エッジ成分を抽出し、フィールド間の垂直エッジ成分Efl0,Efl2と、フィールド内の垂直エッジ成分Edflを最大値選択手段58へと出力する。
フィールド成分抽出手段57は、第1及び第2のフィールド間垂直高域成分抽出手段60、61と、フィールド内垂直高域成分抽出手段62を備える。
【0082】
第1のフィールド間垂直高域成分抽出手段60へは、1フィールド遅延信号d1fと現フレーム信号Di0とが入力され、第2のフィールド間垂直高域成分抽出手段61へは、1フィールド遅延信号d1fと1フレーム遅延信号d2fとが入力される。第1及び第2のフィールド間垂直高域成分抽出手段60及び61は同様に構成されている。
【0083】
第1のフィールド間垂直高域成分抽出手段60では、1フィールド遅延信号d1fと現フレーム信号Di0との1フィールド間にまたがった垂直エッジ成分を抽出し、フィールド間垂直エッジ成分Efl0として出力する。例えば、現フレーム信号Di0のフレームにおける画素P0と、1フィールド遅延信号d1fのフレームにおける1/2ライン上及び下のライン上に位置する画素(図11中のPf1とPf2)でのフィールド間にまたがるライン間の演算(画素P0と、Pf1,Pf2を用いた演算)により垂直エッジ成分(垂直BPF出力を絶対値化した値)を抽出し、1フィールド間にまたがった垂直エッジ成分を抽出することができる。
また、現フレーム信号Di0のフレームにおける画素P0とその上のラインの画素P0aと、1フィールド遅延信号d1fのフレーム内の、画素P0aとP0の間に位置するライン上の画素Pf1を用いた演算を行って、垂直エッジ成分を抽出しても良く、その他の画素P0の近傍にある現フレーム信号Di0における画素と1フィールド遅延信号d1fでの画素を用いて垂直エッジ成分を抽出してもよい。
【0084】
一方、第2のフィールド間垂直高域成分抽出手段61では、1フィールド遅延信号d1fと1フレーム遅延信号d2fとの1フィールド間にまたがった垂直エッジ成分を抽出し、垂直エッジ成分Efl2として出力する。
構成は上記と同様、例えば、1フレーム遅延信号d2fのフレームにおける画素Pp0と、1フィールド遅延信号d1fのフレームにおける、画素Pf1とPf2でのフィールド間にまたがるライン間の演算により垂直エッジ成分(垂直BPF出力を絶対値化した値)を抽出し、1フィールド間にまたがった垂直エッジ成分を抽出する。
また、第1のフィールド間垂直高域成分抽出手段60についての述べたのと同様、1フレーム遅延信号d2fのフレームにおける画素Pp0とその上ラインの画素Pp0aと、1フィールド遅延信号d1fのフレームにおける画素Pf1を用いた演算を行っても良く、その他の画素Pp0の近傍にある1フレーム遅延信号d2f及び1フィールド遅延信号d1fのフレーム内の画素を用いて垂直エッジ成分を抽出してもよい。
【0085】
フィールド内垂直高域成分抽出手段62へは、1フィールド遅延信号d1fが入力される。フィールド内垂直高域成分抽出手段62では、1フィールド遅延信号d1fにおいて垂直方向上下ライン上に位置する信号(例えば、図11中のPf1とPf2)をライン遅延処理等で得て、フィールド内のライン間の画素の演算により垂直エッジ成分(例えば、2画素の差分による垂直BPF出力を絶対値化した値)を抽出し、フィールド内の垂直エッジ成分Edflとする。なお、図11中の画素Pf1とPf2の上下に位置する数ラインにわたる画素との間での演算により垂直エッジ成分を抽出してもよい。
【0086】
最大値選択手段58へは、フレーム内垂直高域成分抽出手段54、55からの垂直エッジ成分Edc,Edpと、フレーム間垂直高域成分抽出手段56からの垂直エッジ成分Edfrと、フィールド成分抽出手段57からのフィールド間の垂直エッジ成分Efl0,Efl2と、フィールド内の垂直エッジ成分Edflとが入力される。
最大値選択手段58は、入力された各垂直エッジ成分を比較し、その最大値を選択して、抽出垂直エッジ成分vedとして出力する。すなわち、抽出垂直エッジ成分vedは、注目画素P0の近傍(図11に示される注目画素P0周辺に位置する画素)における垂直方向の高域周波数成分である垂直エッジ成分の値となり、得られた垂直高域成分のうち最大となる値として抽出される。この最大値選択手段58からの抽出垂直エッジ成分vedは、垂直高域成分抽出手段50で抽出された垂直エッジ成分vedとして、平滑化手段51へと出力される。
【0087】
平滑化手段51へは、垂直高域成分抽出手段50で抽出された抽出垂直エッジ成分vedが入力され、水平方向に隣接乃至近接する画素位置での抽出垂直エッジ成分vedを用いて、例えば水平LPFなどの処理を行い、平滑化された垂直エッジ成分avedとする。この平滑化は水平方向の3画素範囲や5画素範囲での平均値としてもよい。
【0088】
平滑化された垂直エッジ成分avedは、非線形変換手段52へと出力され、非線形変換手段52では、入力された垂直エッジ成分avedに対し非線形変換して、適切なゲイン調整を行う。例えば、垂直エッジ成分avedに所定の感度倍率(垂直エッジ成分用感度倍率)を乗算し、所定のオフセット値(垂直エッジ成分用オフセット値)を減算して、その演算結果を所定の値(例えば、0からdVe)の間に値を制限することなどで非線形変換する。非線形変換された垂直エッジ成分bvedは、比較手段53へと送られる。なお、この非線形変換手段52により、垂直エッジ成分の検出のされやすさを調整することができ、例えば、感度倍率の値を大きくすれば、抽出された垂直エッジ成分avedは、よりエッジと検出し易くなり、また、減算するオフセット値を大きくすれば、垂直エッジ成分avedのゼロとなる範囲が広がり、ノイズ等による影響をなくし、エッジと検出されにくくなる。
【0089】
比較手段53には、非線形変換手段52からの非線形変換された垂直エッジ成分bvedが入力される。比較手段53では、非線形変換手段52からの非線形変換された垂直エッジ成分bvedを所定の閾値(垂直エッジ成分用閾値)と比較し、注目画素P0に対し、その近傍にエッジ(この場合の図10では、垂直エッジ)が存在するか否かを検出し、結果として2値化した値を示すエッジ検出信号Edflを出力する。
【0090】
比較手段53において、例えば、垂直エッジ成分bvedが所定の閾値より大きければ垂直エッジが存在すると判断し、そうでない場合には、その画素を平坦な画像部分もしくは垂直方向の低域周波数成分を有する画像部分の画素であると判断し、すなわち垂直エッジに位置する画素ではないでないと判断し、2値化した値を示すエッジ検出信号Edflを出力する。エッジ検出信号Edflの値は、例えば、垂直エッジと判断された場合は値‘1’とし、エッジでない場合は値‘0’とする。なお、エッジ検出信号Edflの値は、上記したものに限るものではなく、比較により垂直エッジが存在する画素を示す値であれば、他の値であってもよい。
【0091】
以上から、比較手段53で生成されたエッジ検出信号Edflが、注目画素P0の近傍にエッジが存在するかを検出した結果として、エッジ検出手段32から変換手段33へと出力される。
【0092】
なお、図10に示すエッジ検出手段32では、垂直高域成分抽出手段50で抽出された垂直エッジ成分vedを平滑化手段51により平滑化するよう構成したが、図12に示すように、垂直高域成分抽出手段50b内で抽出される垂直エッジ成分それぞれに対しても平滑化処理とゲイン調整等の変換を行うよう構成することもできる。図12において、図10と同一又は対応する構成要素には、同じ符号を付してあり、フレーム内垂直高域成分抽出手段54、55からの垂直エッジ成分Edc,Edpと、フレーム間垂直高域成分抽出手段56からの垂直エッジ成分Edfrと、フィールド成分抽出手段57からのフィールド間の垂直エッジ成分Efl0,Efl2と、フィールド内の垂直エッジ成分Edflのそれぞれに対し、平滑化手段63〜68と、変換手段70〜75を設けて、垂直エッジ成分それぞれで平滑化処理とゲイン調整等の変換を行い、変換手段70〜75からの変換後の垂直エッジ成分が最大値選択手段58へと入力される。以下、最大値選択手段58からの抽出垂直エッジ成分vedからエッジ検出信号Edflを得るまでの構成は、上記図10と同じであるので、その詳細な説明は省略する。また、図12において、平滑化手段51では、垂直エッジ成分vedの平滑化を行わず出力してもよい。
【0093】
次に、図1に戻り、微少動き検出手段30内の変換手段33へは、非マッチング量算出手段31で非類似度の計算により求められた非マッチング量MATDと、エッジ検出手段32からの垂直エッジ成分の検出結果であるエッジ検出信号Edflとが入力される。変換手段33では、非マッチング量MATDを基に、微少な動きを検出した結果である微少動き検出信号mtrを生成し、この微少動き検出信号mtrの値をエッジ検出信号Edflにより調整することで、エッジ付近の微少な動きを検出した結果として調整微少動き検出信号MATRDを求める。そして、この調整微少動き検出信号MATRDを動き情報検出手段15へと出力する。
【0094】
変換手段33は、例えば図13に示すように構成される。図13に示す変換手段33は、倍率変換手段80と、微少動き検出信号生成手段81と、レベル比較手段82と、エッジ切換え手段83とを備える。
【0095】
図13において、倍率変換手段80には、非マッチング量算出手段31からの非マッチング量MATDが入力される。この「非マッチング量MATD」は、類似性が低いほど、大きな値を持つものである。
倍率変換手段80では、非マッチング量算出手段31からの非マッチング量MATDに所定の倍率Gmを乗算してゲイン調整を行い、変換後の非マッチング量MATD2(=Gm×MATD)を微少動き検出信号生成手段81へと出力する。この倍率変換によってゲイン調整を行うことで、非マッチング量MATDから微少な動きを検出する際の感度を調整できる。
【0096】
レベル比較手段82へも、非マッチング量算出手段31からの非マッチング量MATDが入力される。レベル比較手段82では、非マッチング量算出手段31からの非マッチング量MATDを所定の閾値cmtと比較し、非マッチング量MATDが閾値cmtより大きいか否かを検出し、結果として2値化した値を示すレベルフラグ信号MTFLを出力する。レベルフラグ信号MTFLの値は、例えば、非マッチング量MATDが閾値cmtより大きい場合は値‘1’とし、それ以外の値では値‘0’とする。なお、レベルフラグ信号MTFLの値は、上記したものに限るものではなく、比較により非マッチング量MATDが閾値cmtより大きな画素であるか否かを示す値であれば、他の値であってもよい。
【0097】
ここで、非マッチング量MATDがある程度大きい場合は、類似性が低く、比較的速い動きがあることを示し、静止または微少な動きであることを示す微少動き検出信号が生成されてしまうと、動きを静止として判断する動きの誤検出につながる可能性がある。そこで、上記レベル比較手段82において、閾値cmtの値をそれ以上の値では(静止や微少な動きではなく)「動き」と判定すべきレベルに設定し、非マッチング量MATDが閾値cmtより大きい場合を検出することで、非マッチング量に対し有効となる最大値を決め、誤検出を防止するようにする。すなわち、レベル比較手段82で得られるレベルフラグ信号MTFLは、非マッチング量MATDが所定の閾値cmt以下であるか否か、従って、倍率変換後非マッチング量MATD2が(Gm×cmt)以下であるか否か、即ち所定の有効範囲Ra内であるかどうかを示す。即ち、レベルフラグ信号MTFL=1の場合は、有効範囲Ra外であり、レベルフラグ信号MTFL=0となる場合は、有効範囲Ra内である。
【0098】
微少動き検出信号生成手段81には、倍率変換手段80からの倍率変換後の非マッチング量MATD2と、レベル比較手段82からのレベルフラグ信号MTFLが入力される。微少動き検出信号生成手段81は、レベル比較手段82から出力される、非マッチング量の範囲Ra内かどうかを示すレベルフラグ信号MTFLに応じて、倍率変換手段80からの倍率変換後の非マッチング量MATD2を変換することで、微少な動きを検出した結果である微少動き検出信号mtrを生成し、エッジ切換え手段83へと出力する。
【0099】
微少動き検出信号mtr生成手段81では、まず、倍率変換手段80からの倍率変換後の非マッチング量MATD2を所定の値aMTから減算し、減算値admを下記の式(8)に従い算出する。
adm=aMT−MATD2 …式(8)
そして、減算値admの負の値をゼロとし、減算後の値を所定の最大値clMT以下となるよう振幅制限する。
【0100】
非マッチング量は、値が小さいほど(0に近いほど)類似性が高く、静止または微少な動きであることを示すことから、この変換により、非マッチング量MATD2が0に近いほど、得られる減算値admは、大きな値(所定値aMTに近い値)となる。
そして、レベル比較手段82からのレベルフラグ信号MTFLがMTFL=1で、非マッチング量MATDが閾値cmtより大きい場合、即ち、有効範囲Ra外では、非マッチング量MATD2を変換した値(減算値admに基づいて生成される微少動き検出信号mtr)を0となるように制御する。これにより、レベルフラグ信号MTFL=0で示される有効範囲Ra内において、非マッチング量の値に応じた微少動き検出信号mtrが生成され、非マッチング量の値が小さく(0に近く)類似性が高い場合、すなわち、静止または微少な動きである場合は、微少動き検出信号mtrの値が大きくなり、微少な動きの検出結果として得られる。
【0101】
図14は、微少動き検出信号生成手段81において、倍率変換後の非マッチング量MATD2(横軸)に対する微少動き検出信号mtr(縦軸)への変換の特性を示す図であり、微少動き検出信号mtrを0から最大値clMTまでの値として出力する場合を示している。
倍率変換後非マッチング量MATD2の値が0に近づくと、微少動き検出信号mtrが最大値clMTとなる。倍率変換後非マッチング量MATD2の増大に伴い、微少動き検出信号mtrが次第に小さくなるが、倍率変換後非マッチング量MATD2が閾値Gm×cmtより大きくなると(即ち、倍率変換前のマッチング量MATDが閾値cmtより大きくなると)、微少動き検出信号mtrの値がゼロとなる。言い換えると、微少動き検出信号mtrが最大値clMTとなるのは、倍率変換後非マッチング量MATD2の値は0に近づく場合であり、これは静止または微少な動きの場合である。一方、微少動き検出信号mtrの値がゼロとなるのは、倍率変換後非マッチング量MATD2の値が大きな値となる場合であるが、これは、比較的速い動きである場合である。これにより、静止または微少な動きと判定された画素では、微少動き検出信号mtrの値が大きくなり、その値により、微少な動きとして検出すべき度合いを示すことになる。
【0102】
なお、上記微少動き検出信号生成手段81は、値aMTからの減算と、上限値cIMTによるクリップと、レベルフラグ信号MTFLによる制御とにより、微少動き検出信号mtrを生成するものであるが、倍率変換後の非マッチング量MATD2とレベルフラグ信号MTFLに基づき、ROM(Read Only Memory)などで構成されたLUT(ルックアップテーブル)で構成することで、予め得られた例えば図14に示すような変換により、微少動き検出信号mtrを生成するようにしてもよい。
また、倍率変換手段80での設定、微少動き検出信号生成手段81での減算処理時の値aMTの設定により、上記レベル比較手段82は省略することも可能である。
【0103】
変換手段33内のエッジ切換え手段83へは、微少動き検出信号生成手段81からの微少な動きを検出した結果である微少動き検出信号mtrと、エッジ検出手段32からの垂直エッジ成分の検出結果であるエッジ検出信号Edflとが入力される。エッジ切換え手段83では、エッジ検出手段32からのエッジ検出信号Edflに応じて、微少動き検出信号生成手段81からの微少動き検出信号mtrの値を調整し、調整微少動き検出信号MATRDを求める。
【0104】
微少動き検出信号生成手段81からの微少動き検出信号mtrは、微少な動きを検出した結果であり、動き検出の対象である画素の各々について非マッチング量算出手段31で算出した非マッチング量を基に生成されている。一方、画像の輪郭部分であるエッジ付近では、映像信号の動き成分とノイズ成分が混在し、実際には静止した画素に対しても動きと誤判定することが多く、特にエッジ付近の微少な動きのある部分で起こり易い。
そこで、エッジ切換え手段83では、エッジ検出信号Edflに従い、エッジが存在すると検出された画素での値を得るよう、微少動き検出信号mtrの値を調整し、エッジ付近の微少な動きを検出した画素において、動き検出の結果を静止と判定する方向へ調整するための調整微少動き検出信号MATRDとして求める。
【0105】
例えば、エッジ切換え手段83は、図15に示すような切換え手段84により構成できる。切換え手段84には、微少動き検出信号mtrと、エッジ検出信号Edflとが入力され、エッジ検出信号Edflが垂直エッジの存在を示す場合(Edfl=1の場合)は、微少動き検出信号生成手段81からの微少動き検出信号mtrをそのまま調整微少動き検出信号MATRDとして出力する。一方、エッジ検出信号Edflがエッジでないことを示す場合(Edfl=0の場合)は、調整微少動き検出信号MATRDの値を、エッジ付近の微少な動きを検出したものとはせず、静止していると判定されないで、調整が行われない値、例えば‘0’として出力する。
【0106】
これにより、垂直エッジ成分が存在するエッジ付近の画素においてのみ、微少動き検出信号mtrが調整微少動き検出信号MATRDとして出力され、それ以外のエッジでない場合は、例えば値‘0’として出力されることとなる。
よって、この調整微少動き検出信号MATRDの値により、垂直方向のエッジ付近においての微少な動き(もしくは静止)として検出される度合いが示され、垂直方向のエッジ付近の微少な動きと判定された画素で、調整微少動き検出信号MATRDの値は比較的大きな値となる。
【0107】
以上、図3の非マッチング量算出手段31では、画素ブロック対の間での非類似度の算出から、水平方向に1フレームあたり左右1画素以内の微少な動きの範囲内での非マッチング量MATDが得られ、図10に示すエッジ検出手段32では、注目画素P0の近傍に、画像の垂直方向のエッジ(すなわち、水平方向に延びたあるいは水平方向の成分を有する輪郭)が存在するかを検出したエッジ検出信号Edflを得ており、図13及び図15の変換手段33により、微少動き検出手段30からは、垂直方向のエッジ付近の水平方向に1フレームあたり左右1画素以内の微少な動きを検出した結果として、動きの検出を調整するための調整微少動き検出信号MATRDが得られ、動き情報検出手段15へと出力される。
【0108】
図1に戻り、図1の動き検出手段1内の動き情報検出手段15へは、フレーム間差分検出手段20からの差分信号Dmと、微少動き検出手段30からの調整微少動き検出信号MATRDが入力される。動き情報検出手段15では、微少動き検出手段30からの調整微少動き検出信号MATRDの値に応じて、フレーム間差分検出手段20からの差分信号Dmの値が調整され、エッジ付近の微少な動きが加味された動き情報mdを決定し、この動き情報mdをフィルタ処理手段16へと出力する。
【0109】
微少動き検出手段30からの調整微少動き検出信号MATRDは、その値により、垂直方向のエッジ付近においての微少な動きとして検出される度合いを示しており、垂直方向のエッジ付近の微少な動きと判定された画素では、調整微少動き検出信号MATRDが大きな値となっている。そこで、動き情報検出手段15では、一例として、差分信号Dmから調整微少動き検出信号MATRDを減算することで、差分信号Dmによる動き情報を調整する。エッジ付近の微少な動きと検出された画素においては、調整微少動き検出信号MATRDが大きな値となり、フレーム差分による差分信号Dmから調整微少動き検出信号MATRDを減算することで、結果として、静止画と検出される方向へ調整された動き情報mdが得られる。
【0110】
ここで、画像のエッジ付近では、実際には静止した画素に対しても、微少なゆれ、ノイズ等により動きと誤判定することが多く、特にエッジ付近の微少な動きのある部分で起こり易い。フレーム間差分検出手段20からの差分信号Dmは、フレーム間の差分値から得られているため、完全に静止した画像部分またはノイズ成分が含まれていない画像部分ではその値は0となるが、動きやノイズ成分があると、その値の大きくなる。すなわち、微少な動きやノイズが含まれている場合にも、差分信号Dmの値は大きくなる。よって、差分信号Dmから調整微少動き検出信号MATRDを減算することで、垂直方向のエッジにおいて静止画部分あるいは微少な動きを有する画像部分にあると判定された画素での動き情報が、静止画方向へ(静止画との判定結果となりやすいように)調整され、これにより、エッジ付近の微少な動きである場合を加味されるよう動き情報が調整され、動きの誤検出を低減した動き情報mdが得られる。
【0111】
なお、上記動き情報検出手段15では、一例として、差分信号Dmから調整微少動き検出信号MATRDの値を直接減算しているが、調整微少動き検出信号MATRDの値に応じて変化する演算値を設定し、その演算値を差分信号Dmから減算する構成としてもよく、また、調整微少動き検出信号MATRDの値に応じて変化する倍率係数(1倍より小さい値)により、差分信号Dmが小さくなる方向へ倍率変換してもよく、さらには、差分信号Dmの代わりに静止画であることを示す値(例えば0に近い小さな値)選択して出力することもできる。つまり、調整微少動き検出信号MATRDの値に応じて、フレーム差分を表す差分信号Dmの値を調整し、結果として、静止画と検出される方向へ調整され、エッジ付近の微少な動きを加味した動き情報mdが得られれば、同様の効果がある。
【0112】
動き検出手段1内のフィルタ処理手段16へは、動き情報検出手段15からの動き情報mdが入力される。フィルタ処理手段16では、動き情報検出手段15からの動き情報mdに対し、水平もしくは垂直方向のLPFを用いた空間フィルタや、時間方向の時間拡大処理などの時空間フィルタ処理、孤立点除去処理などのフィルタ処理を行って、動きの検出漏れを補正し、動き信号mdsとして出力する。この動き信号mdsは、動きが大きく、フレーム差分が動きと検出される場合は大きな値となり、静止画部分もしくは微少な動きが検出される場合は、0に近い小さな値となり、その値で動き検出の対象である画素での画像の動き量を示すこととなる。
【0113】
以上から、図1に示される動き検出手段1では、微少動き検出手段30において垂直方向のエッジ付近の静止に近い微少な動きを検出し、動き情報検出手段15において、垂直方向のエッジにおける微少な動きであると検出された画素での動き情報が静止画方向へ調整されており、したがって、動き検出手段1からは、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量としての動き信号mdsが得られる。
【0114】
次に、実施の形態1の映像信号処理装置において、フレーム遅延手段13によりフレーム遅延信号を得て、映像信号のフレーム間差分を求め、画素ブロック間の非マッチング量からエッジ付近の微少な動きを検出し、エッジ付近の微少な動きの検出結果を加味した動き情報を求め、動き量を示す動き信号mdsを出力する処理の手順をフローチャートを参照して説明する。
【0115】
図16は、映像信号処理装置において、画像の動きを画素ごとに検出する動き検出手段1の動作を示すフローチャートである。
【0116】
入力された現フレーム信号Di0は、フィールドメモリ11、12で構成されるフレーム遅延手段13でフレーム遅延され、1フレーム前の信号である1フレーム遅延信号d2f、及び1フィールド遅延信号d1fを得る。動き検出手段1には、現フレーム信号Di0とフレーム遅延手段13からの1フレーム遅延信号d2fと、1フィールド遅延信号d1fが入力される(ステップS101)。
【0117】
現フレーム信号Di0と1フレーム遅延信号d2fは、フレーム差分検出手段20へ入力され、フレーム差分検出手段20で、1フレーム間差分Dnを算出し、このフレーム間差分Dnの絶対値を非線形変換することで、差分信号Dmを得る(ステップS102)。
【0118】
また、現フレーム信号Di0と、1フレーム遅延信号d2fと、1フィールド遅延信号d1fは、微少動き検出手段30へ入力される。微少動き検出手段30では、1フレーム前の信号d2fと現フレーム信号Di0の画素ブロック間でパターンマッチングを行い、所定の動きの範囲内での非マッチング量を算出するとともに、画素近傍でのエッジを検出し、非マッチング量とエッジ検出の結果から、動き検出の対象である画素の近傍でのエッジ付近における微少な動きを検出し、エッジ付近の微少な動きを検出した結果として調整微少動き検出信号MATRDを求める(ステップS103〜S108)。
【0119】
具体的には、まず、非マッチング量算出手段31において、現フレーム信号Di0における注目画素P0を中心とした注目画素ブロックbl0fと、1フレーム遅延信号d2fのフレーム内で例えば、水平方向に1フレームあたり左右1画素以内の動きの範囲にある画素を中心とする参照画素ブロックbl2f1、bl2f2、bl2f3(図6参照)とでそれぞれ構成される画素ブロック対の間で、パターンマッチング(非類似度の算出)を行って非マッチング量を算出し、これらの3方向の非マッチング量の最小値を選択して注目画素P0での非マッチング量MATDを求める(ステップS103)。
【0120】
この非マッチング量MATDは、その値の大きさにより所定範囲内の微少な動き(もしくは静止)であるか否か、及びその程度を示し、注目画素ブロックbl0fに対し、1フレーム遅延信号d2fの微少な動きの範囲内にあるいずれかの参照画素ブロックとの類似性が高いほど、非マッチング量が0に近づき、静止しているか、微少な動きであることを示す。一方、類似性が低いほど非マッチング量が大きな値となり、比較的速い動きがあることを示す。
【0121】
エッジ検出手段32では、現フレーム信号Di0と1フレーム前の信号である1フレーム遅延信号d2fと、加えて1フィールド前の信号(1フィールド遅延信号d1f)を用いて、注目画素P0の近傍に、エッジが存在するかを検出し、検出結果であるエッジ検出信号Edflを求める(ステップS104)。エッジ検出手段32では、例えば、注目画素P0の近傍の画素から垂直エッジ成分を求めることで、画像の垂直方向のエッジ成分の存在を検出している。
【0122】
次に、変換手段33において、非マッチング量MATDと、エッジ検出信号Edflとから、非マッチング量MATDを基に、微少な動きを検出した結果である微少動き検出信号を生成し、この微少動き検出信号の値をエッジ検出信号Edflに応じて調整することで、エッジ付近の微少な動きを検出し、検出結果として調整微少動き検出信号MATRDを求める。
【0123】
すなわち、図13に示される倍率変換手段80で非マッチング量MATDに所定の倍率Gmを乗算してゲイン調整を行い、レベル比較手段82では非マッチング量MATDを所定の閾値cmtと比較して、有効範囲Ra内であるか否かを示すレベルフラグ信号MTFLを生成し、微少動き検出信号生成手段81では、レベルフラグ信号MTFLにより有効範囲Ra内であることが示される場合において、倍率変換手段80からの倍率変換後の非マッチング量MATD2を変換する。これにより、微少な動きを検出した結果である微少動き検出信号mtrを生成する。よって、レベルフラグ信号MTFLにより、非マッチング量が有効範囲内であることが示される場合に、非マッチング量MATDの値に応じた微少動き検出信号mtrが生成される(図14参照、ステップS105)。この微少動き検出信号mtrは、静止または微少な動きと判定された画素では値が大きくなり、(静止や微少な動きではなく、)「動きがある」と判断される画素ではその値がゼロであり、微少動き検出信号mtrの値により、微少な動きとして検出する度合いが示される。
【0124】
エッジ切換え手段83では、エッジ検出手段32からのエッジ検出信号Edflに応じて、微少動き検出信号生成手段81からの微少動き検出信号mtrの値を調整し、調整微少動き検出信号MATRDを求める(ステップS106、S107及びS108)。
【0125】
このとき、エッジ付近の微少な動きのある部分で、静止した画素を動きと誤判定するのを避けるために、エッジ検出信号Edflに従い調整微少動き検出信号MATRDを決定する(ステップS106)。即ち、エッジ検出信号Edflが垂直エッジの存在を示すEdfl=1の場合は、微少動き検出信号mtrをそのまま調整微少動き検出信号MATRDとして出力する(ステップS107)。一方、エッジ検出信号Edflがエッジでないことを示すEdfl=0の場合は、調整微少動き検出信号MATRDの値をエッジ付近の微少な動きを示すものとはせず、調整微少動き検出信号MATRDの値を固定値例えば‘0’とする(ステップS108)。
【0126】
動き情報検出手段15では、例えば、差分信号Dmから調整微少動き検出信号MATRDを減算することにより、調整微少動き検出信号MATRDの値に応じて、差分信号Dmの値を調整し、この調整後の値を動き情報mdとして出力する(ステップS109)。
【0127】
フィルタ処理手段16では、動き情報mdに対し、空間フィルタや、時空間フィルタ処理、孤立点除去処理などのフィルタ処理を行い、動きの検出漏れを補正された動き信号mdsを決定し、出力する(ステップS110)。補正後の(最終的な)動き信号mdsは、動きが大きく、動きと検出される場合は大きな値となり、静止画部分もしくは微少な動きが検出される場合は、0に近い小さな値となり、その値で動き検出の対象である画素での画像の動き量を示す。
【0128】
したがって、動き検出手段1において、垂直方向のエッジ付近の静止に近い微少な動きを検出し、垂直方向のエッジにおける静止画あるいは微少な動きであると検出された画素での動き情報を静止画方向へ調整しているので、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量としての動き信号mdsが得られる。
【0129】
以上のように、実施の形態1の映像信号処理装置によれば、フレーム間差分検出手段20において映像信号のフレーム間差分を検出して、差分信号Dmを得ており、微少動き検出手段30においては、入力フレーム信号の画素ブロックと、1フレーム前の信号における微少な動きの範囲内にある、対応する画素ブロックの間で、パターンマッチングを行って非類似度を示す非マッチング量MATDを求めるとともに、注目画素近傍の垂直方向のエッジの検出を行い、この非マッチング量MATDと垂直エッジの検出結果から、垂直方向のエッジ付近の微少な動きを検出し、調整微少動き検出信号MATRDを求めている。そして、動き情報検出手段15において、垂直方向のエッジ付近の微少な動きの検出結果である調整微少動き検出信号MATRDに応じて、差分信号Dmから調整微少動き検出信号MATRDの値又はこれに基づいて生成された値を減算することで、垂直方向のエッジが存在する箇所付近の微少な動きが加味された動き情報mdを得て、これに対してさらにフィルタ処理することで動き量としての動き信号mdsを求めている。
【0130】
よって、垂直方向のエッジ付近の静止に近い微少な動きを検出し、垂直方向のエッジ付近での静止画あるいは微少な動きであると検出された画素についての動き情報を、静止画方向へ調整することができるので、微少な動きやノイズのあるエッジ付近における動きの誤検出を低減し、高い精度で良好な動き検出を行うことができる。
【0131】
なお、実施の形態1の映像信号処理装置で用いられる、図10に示すエッジ検出手段32では、現フレーム信号Di0と1フレーム遅延信号d2f、及び1フィールド遅延信号d1fから、注目画素P0の近傍における垂直エッジ成分を抽出してエッジ検出を行っているが、図17に示すように、1フィールド遅延信号d1fを使用せず、同位相の信号となる現フレーム信号Di0と1フレーム遅延信号d2fにより垂直エッジ成分を抽出してエッジ検出を行うよう構成することもできる。
【0132】
図17に示されるエッジ検出手段32は、微少動き検出手段30の一部として用いられ、同位相のフレーム位置関係にあるフレーム遅延信号からエッジ検出を行うものである。図17おいて、図10と同一又は対応する構成要素には、同じ符号を付してある。その構成及び動作は、図10に示されたフィールド成分抽出手段57が除外され、フィールド間の垂直エッジ成分Efl0,Efl2と、フィールド内の垂直エッジ成分Edflを抽出せずにエッジ検出を行うこと以外は、先に説明した図10と同様であるので、その詳細な説明は省略する。最大値選択手段58では、フレーム内垂直高域成分抽出手段54、55からの垂直エッジ成分Edc,Edpと、フレーム間垂直高域成分抽出手段56からの垂直エッジ成分Edfrとにより、各垂直エッジ成分の最大値を抽出垂直エッジ成分vedとして出力する。このように構成しても、図10のエッジ検出手段32を用いた場合と同様の効果を奏する。
【0133】
また、実施の形態1の映像信号処理装置では、入力映像信号をインターレース信号として、入力フレーム信号と1フレーム前の信号の間での映像信号における動きを検出しているが、入力映像信号は、プログレッシブ信号であってもよく、同様に構成することで動き検出を行うことができる。なお、プログレッシブ信号入力の場合には、フレーム遅延手段13は入力された入力映像信号Di0を1フレーム分遅延して、1フレーム前の信号である1フレーム遅延信号d2fのみが出力され、異位相の信号の位置関係にある1フィールド遅延信号d1fは得られないため、微少動き検出手段30内のエッジ検出手段32として、上記の図17において示した同位相のフレーム位置関係にあるフレーム遅延信号からエッジ検出を行う構成を用いることとなる。
【0134】
また、実施の形態1の映像信号処理装置では、現フレーム信号Di0における画素P0を動き検出の対象である画素として、フレーム差分検出手段20で1フレーム間差分を検出し、微少動き検出手段30において画素ブロックの間での非マッチング量MATDを求めて垂直方向のエッジ付近の微少な動きを検出しているが、注目画素P0のあるフレームの位置は現フレーム信号Di0のフレームでなくてもよく、フィールドもしくはフレーム遅延された信号のフレームを動き検出する中心フレームとして、そのフレーム遅延信号上の画素を注目画素P0とすることもできる。この場合、フレーム差分検出手段20で検出する1フレーム間差分は、中心フレームの時間軸上前に位置するフレームとの間の差分であっても、時間軸上後ろに位置するフレームとの間の差分であってもよく、さらには、その両方向のフレームとの差分を合成し用いてもよく、中心フレームとの間のフレーム差分を検出し動き量として得られれば、実施の形態1と同様の効果が得られる。
【0135】
また、微少動き検出手段30においては、中心フレーム内の注目画素P0を中心とした画素ブロックと、異なるフレームの信号における微少な動きの範囲内にある対応する画素ブロックの間で、パターンマッチングを行って非類似度を示す非マッチング量が求められるとともに、注目画素近傍の垂直方向のエッジの検出が行え、垂直方向のエッジ付近の微少な動きを検出されればよく、同様の効果を奏する。
【0136】
さらに、上記説明においては、映像信号処理装置のフレーム遅延手段、動き検出手段1の各構成要素をハードウェアで構成するものとしているが、これらの手段或いは構成要素を、ソフトウェアにより、即ちプログラムされたコンピュータにより実現しても良い。
【0137】
実施の形態2.
実施の形態1の映像信号処理装置では、微少動き検出手段30内の非マッチング量算出手段31を図3に示すように構成し、水平方向に1フレームあたり左右1画素以内の微少な動きの範囲における非マッチング量MATDを求めるとともに、エッジ検出手段32を図10に示すように構成し、垂直方向のエッジ成分の存在を検出して、微少動き検出手段30からは、垂直方向のエッジ付近での微少な動きを検出した結果として、調整微少動き検出信号MATRDを得ることとしている。
【0138】
実施の形態2では、非マッチング量を求める微少な動きの範囲を水平方向と垂直方向の双方とし、また、エッジ検出において、画像の垂直方向のエッジと、水平方向のエッジ(すなわち、垂直方向に延びた或いは垂直方向の成分を有する輪郭)の双方を検出するように構成する。
【0139】
実施の形態2においては、微少動き検出手段30から、垂直、水平方向のエッジ付近での水平及び垂直方向の微少な動きを検出した結果を得て、エッジ近傍で静止画あるいは微少な動きであると検出された画素での動き情報を調整する。
【0140】
実施の形態2の映像信号処理装置は、実施の形態1の映像信号処理装置(図1参照)の構成において、微少動き検出手段30を構成する、図3及び図10に示す非マッチング量算出手段31及びエッジ検出手段32の代わりに、図18及び図19に示す非マッチング量算出手段31b及びエッジ検出手段32bを用い、垂直及び水平方向のエッジ付近における水平及び垂直方向の微少な動きを検出した結果に応じて、エッジにおける静止画あるいは微少な動きであると検出された画素での動き情報を調整するよう構成したものである。
【0141】
非マッチング量算出手段31b及びエッジ検出手段32b以外の構成及び動作は、実施の形態1に示されるものと同じであり、その詳細な説明は省略する。
【0142】
実施の形態2の微少動き検出手段30は、実施の形態1と同様、現フレーム信号Di0とフレーム遅延信号d2fとの画素ブロック間でパターンマッチングを行って非マッチング量を算出するとともに、動き検出の対象である画素の近傍での垂直及び水平方向のエッジを検出し、この非マッチング量とエッジ検出の結果から、エッジ付近における微少な動きを検出し、エッジ付近の微少な動きを検出した結果として調整微少動き検出信号MATRDを求め、得られた調整微少動き検出信号を動き情報検出手段15へと出力する。
【0143】
図18は、実施の形態2において、図3に示す非マッチング量算出手段31の代わりに用いられる非マッチング量算出手段31bの構成を示すブロック図である。
図示の非マッチング量算出手段31bは、水平方向に1フレームあたり左右1画素以内の速さの動きと、垂直方向に1フレームあたり上下に1ライン以内の速さの動きを微少な動きとし、水平及び垂直方向での微少な動きを検出する。
【0144】
図18において、図3の構成と同一又は対応する構成には、同じ符号を付してある。
図18に示す非マッチング量算出手段31bは図3に示す部材に加え、水平方向の動きの範囲にある画素ブロックを抽出するとともに、垂直方向の動きの範囲内の画素ブロックを抽出する参照画素ブロック抽出手段90と、ブロック間非マッチング量演算手段91及び92と、合成手段93とを備える。ブロック間非マッチング量演算手段91及び92は、ブロック間非マッチング量演算手段36、37、38と同じ構成である。
【0145】
図19は、実施の形態2において、図10に示すエッジ検出手段32の代わりに用いられるエッジ検出手段32bの構成を示すブロック図である。
図示のエッジ検出手段32bは、注目画素P0の近傍の画素から、垂直エッジ成分と、水平方向の高域周波数成分(水平エッジ成分、もしくは水平高域成分)を求めることで、画像の垂直方向のエッジと、水平方向のエッジの存在を検出する。
図19において、図10と同一又は対応する構成要素には、同じ符号を付してある。
図19に示すエッジ検出手段32bは、図10に示す構成要素に加え、
水平方向の高域周波数成分である水平エッジ成分を取り出すための水平高域成分抽出手段100と、平滑化手段(水平エッジ成分平滑化手段)95と、非線形変換手段(水平エッジ成分非線形変換手段)96と、比較手段(水平エッジ成分比較手段)97と、合成手段(エッジ検出信号合成手段)98とをさらに備える。
【0146】
水平高域成分抽出手段100は、フレーム内の水平エッジ成分を抽出するフレーム内水平高域成分抽出手段101、102と、水平フィールド成分抽出手段103と、最大値選択手段106とを備える。
【0147】
水平フィールド成分抽出手段103は、1フィールド遅延信号d1f内の水平エッジ成分を抽出するとともに、1フィールド遅延信号d1fのフィールドと、当該フィールドに対し前もしくは後にあるフィールドとにまたがった垂直方向の低域成分から、その水平エッジ成分を抽出するものであり、フィールド間垂直LPF104,105と、水平BPF106、107と、絶対値演算手段108、109と、フィールド内水平高域成分抽出手段110とを備えている。
【0148】
実施の形態2の映像信号処理装置において、フィールド遅延処理、フレーム間差分検出手段20において映像信号のフレーム間差分を検出し、差分信号Dmを得る構成、動き情報検出手段15において、エッジが存在する付近の微少な動きが加味された動き情報を求め、動き量としての動き信号mdsを得る構成と動作は、実施の形態1の映像信号処理装置と同じであり、その詳細な説明は省略する。以下では、微少動き検出手段30において、非マッチング量を算出し、エッジ検出することで、動き検出の対象である画素の近傍でのエッジ付近における微少な動きを検出し、調整微少動き検出信号MATRDを求める構成、動作について、図18及び図19により説明する。
【0149】
図18に示される非マッチング量算出手段31bには、現フレーム信号Di0と、1フレーム前の信号である1フレーム遅延信号d2fとが入力される。非マッチング量算出手段31bでは、入力フレーム信号の注目画素ブロックbl0fと1フレーム前の信号の所定範囲内にある参照画素ブロックとの間でパターンマッチングを行って非マッチング量を算出し、注目画素での非マッチング量MATDを求める。
なお、図3の場合と同様、マッチング対象の中心フレーム(注目画素を含むフレーム)は現フレーム信号Di0のフレームとし、パターンマッチングで用いられる注目画素ブロック及び参照画素ブロックは、図4に示すように、注目画素P0を中心とし、水平方向に並んだ、相連続する5画素で構成されるものとする。また、この画素ブロックとしては、図3の場合と同様、水平5画素のブロックに限らず、図5(a)〜(c)に示すような画素のブロックを用いてもよい。
【0150】
非マッチング量算出手段31bへ入力された現フレーム信号Di0と1フレーム遅延信号d2fは、現フレーム信号Di0が注目画素ブロック抽出手段34へ、1フレーム遅延信号d2fが参照画素ブロック抽出手段90へと入力される。
【0151】
注目画素ブロック抽出手段34は、実施の形態1に関して図3を参照して説明したものと同じであり、現フレーム信号Di0における注目画素P0を中心とした注目画素ブロックbl0f(図6参照)を抽出し、注目画素ブロックbl0f内の画素(P2l、P1l、P0、P1r、P2r)を出力する。
【0152】
図20は、現フレーム信号Di0及び1フレーム遅延信号d2fのフレーム相互間の時間的関係と、処理に用いられる画素の垂直走査方向(画面表示ライン上下方向)の位置関係を示す。図20で時間的に前のフレームほどより左側に示され、各フレームの画素は、画面内で上のものほど図で上に示されている。
図20において、現フレーム信号Di0を示す縦線上で、ラインn上に注目画素P0(注目画素ブロックbl0fの中心画素)が示され、1フレーム遅延信号d2fのフレームを示す縦線上で、注目画素P0に対して1ライン上及び1ライン下に(ラインn−1、ラインn+1)に、画素Pp0a、Pb0bが示されている。画素Pp0aは、参照画素ブロックbl2f4の中心画素であり、画素Pp0bは、参照画素ブロックbl2f5の中心画素である。
【0153】
図18の非マッチング量算出手段31bでは、水平方向に1フレームあたり左右1画素以内の速さの動きと、垂直方向に1フレームあたり上下に1ライン以内の速さの動きを微少な動きとして検出するので、図6中の参照画素ブロックbl2f1、bl2f2、bl2f3の水平方向での動きに加え、図20中、注目画素P0と同じ画素位置にある1フレーム遅延信号d2fのフレーム上の画素Pp0の上下のラインに位置する画素Pp0a(ラインn−1上)とPp0b(ラインn+1上)の上下2方向が、求める垂直方向の動きの範囲に含まれる。
【0154】
すなわち、垂直方向の動きを検出する画素ブロックは、図20中、1フレーム遅延信号d2f上の画素Pp0aとPp0bを中心とした参照画素ブロックbl2f4、bl2f5とする。各画素ブロックは、図6に示す参照画素ブロックと同様に、例えば、水平方向に並んだ5つの画素から成る。
そして、非マッチング量算出手段31bにおいては、注目画素ブロックbl0fと、対応する水平、垂直方向の位置にある1フレーム遅延信号d2fのフレーム上の参照画素ブロックとで構成される画素ブロック対の間で、パターンマッチングにより非類似度を示す5個の非マッチング量を得て、この5個のブロックでの非マッチング量を合成して、合成後の非マッチング量を得ることとなる。
【0155】
図18に戻り、参照画素ブロック抽出手段90では、1フレーム遅延信号d2fが入力され、1フレーム遅延信号d2fにおける画素Pp0、その左右に隣接する画素Pp1l、Pp1rを中心とした水平方向の3方向に位置する3つの参照画素ブロックbl2f1、bl2f2、bl2f3(図6参照)を抽出し、さらに、画素Pp0の上下のラインに位置する画素Pp0aとPp0bを中心とし、垂直方向の2方向に位置する2つの参照画素ブロックbl2f4、bl2f5(図20参照)を抽出する。
抽出された参照画素ブロックbl2f1〜bl2f3とbl2f4、bl2f5内の画素は、それぞれブロック間非マッチング量演算手段36、37、38、91、92へ供給される。
【0156】
図21は、参照画素ブロック抽出手段90の具体的な構成の一例を示す図である。図8の参照画素ブロック抽出手段35の構成要素と同一又は対応する構成要素には、同じ符号を付してある。
参照画素ブロック手段90は、図8の参照画素ブロック抽出手段35の構成要素に加え、ライン遅延手段410,420と、ラインn−1の画素に対する5つの画素遅延手段421〜425と、ラインn+1の画素に対する5つの画素遅延手段431〜435を備えており、1フレーム遅延信号d2fをライン遅延し、さらに各ラインの画素を画素遅延することで水平、垂直方向に位置する各画素ブロック内の5画素の信号を抽出することができる。
【0157】
非マッチング量算出手段31b内のブロック間非マッチング量演算手段36、37、38へは、現フレーム信号Di0における注目画素ブロックbl0fの画素の信号と、1フレーム遅延信号d2fの対応する水平3方向にある参照画素ブロックbl2f1、bl2f2、bl2f3の画素の信号がそれぞれ入力される。また、ブロック間非マッチング量演算手段91、92へは、注目画素ブロックbl0fの画素の信号と、1フレーム遅延信号d2fの対応する垂直2方向にある参照画素ブロックbl2f4、bl2f5の画素の信号がそれぞれ入力される。
【0158】
ブロック間非マッチング量演算手段36、37、38は実施の形態1に関して図3及び図9を参照して説明したものと同じであり、また、ブロック間非マッチング量演算手段91、92は、入力される1フレーム遅延信号d2fでの画素ブロックが異なるのみで、その構成はブロック間非マッチング量演算手段36、37、38と同様であるので、その詳しい説明は省略するが、それぞれのブロック間非マッチング量演算手段36、37、38、91、及び92では、注目画素ブロックbl0fと1フレーム遅延信号d2fの対応する参照画素ブロックとの間でパターンマッチングを行い、非類似度を計算した結果であるブロック間の非マッチング量を求める。
【0159】
結果として、ブロック間非マッチング量演算手段36、37、38により得られた注目画素ブロックbl0fと水平方向に並んだ参照画素ブロックの間の非マッチング量Mph1、Mph2、Mph3(図6参照)により、水平方向での微少な動きの範囲での非マッチング量が得られ、ブロック間非マッチング量演算手段91,92により得られた注目画素ブロックbl0fと垂直方向の異なる位置に参照画素ブロックの間の非マッチング量Mpv1、Mpv2(図20参照)により、垂直方向での微少な動きの範囲での非マッチング量が得られることとなる。
【0160】
ブロック間非マッチング量演算手段36、37、38で算出された非マッチング量Mph1、Mph2、Mph3と、ブロック間非マッチング量演算手段91,92で算出されたブロック間の非マッチング量Mpv1、Mpv2とは、水平3方向及び垂直2方向にある各ブロック間の非類似度を示すものとして、図18の合成手段93へと出力される。
【0161】
図18に戻り、非マッチング量算出手段31b内の合成手段93へは、ブロック間非マッチング量演算手段36、37、38で算出された、水平方向の動きにおける非マッチング量Mph1、Mph2、Mph3と、ブロック間非マッチング量演算手段91,92で算出された、垂直方向の動きにおける非マッチング量Mpv1、Mpv2とが入力される。
【0162】
合成手段93は、実施の形態1に関して図3を参照して説明した合成手段39と同様、入力された非マッチング量を合成して、合成後の非マッチング量MATDを求める。この合成後の非マッチング量MATDは、注目画素P0での微少な動きを検出するための最終的な非類似度を示すものである。この合成においては、例えば、非マッチング量の最小値を選択して出力する。代わりに、合成手段39と同様、入力された非マッチング量の平均値を求めることにより、合成後の非マッチング量MATDを得てもよい。
【0163】
合成手段93により得られる非マッチング量MATDは、水平方向の動きによる非マッチング量Mph1、Mph2、Mph3と、垂直方向の動きによる非マッチング量Mpv1、Mpv2から選択されるため、その大きさにより水平方向または垂直方向での所定の範囲内の微少な動き(もしくは静止)であるか否かが示され、注目画素ブロックbl0fに対し、1フレーム遅延信号d2fのいずれかの参照画素ブロックとの類似性が高いほど非マッチング量が0に近づき、静止しているか、微少な動きであることが示される。一方、類似性が低いほど非マッチング量が大きな値となり、比較的速い動きがあることが示される。
【0164】
以上により、図18の非マッチング量算出手段31bにおいては、現フレームDi0上の注目画素ブロックbl0fと、1フレーム遅延信号d2fのフレーム内で水平方向または垂直方向の所定の動きの範囲にある参照画素ブロックとで構成される画素ブロック対の間で、パターンマッチング(非類似度の算出)を行うことで非マッチング量を求め、この得られた非マッチング量に基づき、水平方向に1フレームあたり左右1画素以内で、垂直方向に1フレームあたり上下に1ライン以内の速さで動く微少な動きの範囲内の注目画素P0における非マッチング量MATDが出力される。この非マッチング量MATDは、画素ブロック間のパターンマッチングから得られているため、注目画素と対応する画素の差分のみに基づいて判定を行なうのと比較し、周囲の画素での状態も考慮することとなり、ノイズ成分の影響を低減し、より安定した値が得られている。
【0165】
なお、図18及び図20を参照して説明した例では、水平方向に1フレームあたり左右1画素以内で、垂直方向に1フレームあたり上下に1ライン以内の速さで画像が動く場合を微少な動きとしているが、画像の特性によりさらに早い、例えば、水平方向に1フレームあたり左右2画素以内の速さまでの動きを、微少な動きとして検出するように構成してもよい。また、垂直方向には、1フィールドの単位での動きを検出し、1フィールドあたり上下に1/2ライン以内の速さで画像が動く場合を検出するようにしてもよい。この場合には、参照画素ブロック抽出手段90において1フィールド遅延信号d1fが入力され、画素P0に対し上又は下に1/2ラインずれた画素Pf1とPf2(図11参照)を中心とした画素ブロックを、垂直方向に位置する2つの参照画素ブロックとして抽出し、上記と同様に垂直方向の非マッチング量を求めればよく、上記と同様の効果がある。
【0166】
また、垂直方向の上下のライン(ラインn−1とラインn+1上)においても水平方向に左右に1画素ずれた位置にある画素(例えば、図20中、1フレーム遅延信号d2fのフレーム上の画素Pp0a、Pp0bに対して水平方向に隣接する画素)を、パターンマッチングを行う画素ブロックの中心画素とし、垂直、水平方向すなわち斜め方向の動きを微少な動きの範囲とすることもできる。
【0167】
いずれの場合も、参照画素ブロック抽出手段90において、対応する動きの移動位置にある画素を中心とした画素ブロックを抽出し、ブロック間非マッチング量演算手段36、37、38と同様の構成でそれぞれのブロックとの非マッチング量を算出し、算出した方向の複数の非マッチング量を合成(例えばそれらの最小値を選択)することで注目画素P0についての、合成後の非マッチング量MATDが得られればよい。
【0168】
次に、図19において、エッジ検出手段32bには、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。図19のエッジ検出手段32bでは、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fを用いて、注目画素P0の近傍の画素から、垂直エッジ成分と、水平エッジ成分を求めることで、画像の垂直方向のエッジ及び水平方向のエッジ成分の存在を検出している。
【0169】
図19のエッジ検出手段32bにおいて、垂直エッジ成分vedは垂直高域成分抽出手段50により抽出され、平滑化手段51、非線形変換手段52及び比較手段53により、画像の垂直方向のエッジの存在を検出し、水平エッジ成分hedは、水平高域成分抽出手段100により抽出され、平滑化手段95、非線形変換手段96、及び比較手段97により、画像の水平方向のエッジの存在を検出している。
【0170】
垂直エッジ成分を取り出すための垂直高域成分抽出手段50、平滑化手段51、非線形変換手段52、及び比較手段53は、図10又は図12、及び図17を参照して説明した構成、動作と同一であるので、その詳細な説明は省略するが、垂直高域成分抽出手段50、平滑化手段51、非線形変換手段52、及び比較手段53により、図11で示された位置関係にある画素から、注目画素P0の近傍に垂直方向のエッジが存在するかを検出し、垂直方向のエッジ)の検出結果を示す垂直エッジ検出信号Edfl1が得られ、この垂直エッジ検出信号Edfl1は合成手段98へと送られる。
【0171】
以下、水平エッジ成分を抽出し、水平方向のエッジの存在を検出する処理を図19、及び図11を参照して説明する。
【0172】
図19において、エッジ検出手段32b内の水平高域成分抽出手段100には、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。水平高域成分抽出手段100では、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fから、注目画素P0の近傍における水平方向の高域周波数成分である水平エッジ成分を取り出す。
【0173】
水平エッジ成分の抽出は、垂直方向のLPF(垂直LPF)により垂直方向での低域周波数成分(垂直低域成分)を取り出した後、水平方向のBPF(水平BPF)処理を施すことにより行い、水平BPF後の出力を絶対値化した値を水平エッジ成分として求める。ここで、図19の水平高域成分抽出手段100では、図11中の現フレーム信号Di0の画素P0、1フレーム遅延信号d2fの画素Pp0、及び1フィールド遅延信号d1fの画素Pf1とPf2とを中心とした画素での水平方向のエッジ成分を抽出するものとし、各フレーム内での水平方向の画素の間の演算により求められた水平エッジ成分(フレーム内もしくはフィールド内の水平高域成分)と、現フレーム信号Di0または1フレーム遅延信号d2fと、1フィールド遅延信号d1fの1フィールド間にまたがった垂直方向の低域周波数成分での水平エッジ成分(フィールド間の水平高域成分)を抽出する。なお、フレーム内での水平エッジ成分の抽出は、所定の画素を中心とした水平BPF処理のみから求めることもできるが、上記の通り、垂直LPFにより垂直低域成分を取り出した後、水平BPF処理を施し、BPF後の出力を絶対値化し抽出するものとして、以下で説明する。
【0174】
図19において、水平高域成分抽出手段100内の第1のフレーム内水平高域成分抽出手段101へは現フレーム信号Di0が、第2のフレーム内水平高域成分抽出手段102へは1フレーム遅延信号d2fが入力される。この第1及び第2のフレーム内水平高域成分抽出手段101及び102は同様に構成されており、第1のフレーム内水平高域成分抽出手段101では、現フレーム信号Di0内において注目画素P0に対し、垂直LPFにより垂直低域成分を取り出した後、この垂直低域成分に水平方向のBPF処理を施すことで、水平エッジ成分(例えば、水平BPF出力を絶対値化した値)を抽出し、水平エッジ成分Ehcとする。
【0175】
また、第2のフレーム内水平高域成分抽出手段102では、1フレーム遅延信号d2fにおける画素Pp0(図11参照、上記画素P0と同一位置)に対し、垂直LPFにより垂直低域成分を取り出した後、この垂直低域成分に水平方向のBPF処理を施すことで、水平エッジ成分を抽出し、水平エッジ成分Ehpとする。
フレーム内水平高域成分抽出手段101及び102にから出力される現フレーム信号Di0及び1フレーム遅延信号d2fにおけるフレーム内の水平エッジ成分Ehc及びEhpは、ともに最大値選択手段106へと出力される。
【0176】
次に、水平フィールド成分抽出手段103へは、現フレーム信号Di0、1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力される。水平フィールド成分抽出手段103では、インターレース信号入力時の1フィールド遅延信号d1fを使用し、1フィールド遅延信号d1fのフィールド内と、1フィールド遅延信号d1fの前後の1フィールドの間にまたがったフィールド間にある垂直低域成分での水平エッジ成分を抽出し、フィールド内の水平エッジ成分Ehflと、フィールド間の水平エッジ成分Ehf1,Ehf2とを最大値選択手段106へと出力する。
【0177】
水平フィールド成分抽出手段103において、1フィールド遅延信号d1fと、現フレーム信号Di0との1フィールドの間にまたがったフィールド間の水平エッジ成分Ehf1は、フィールド間垂直LPF104と、水平BPF106と、絶対値演算手段108とにより抽出される。
【0178】
フィールド間垂直LPF104へは、現フレーム信号Di0と1フィールド遅延信号d1fが入力され、例えば、現フレーム信号Di0における画素P0と、1フィールド遅延信号d1fにおける画素P0に対し上下1/2ラインずれたライン上に位置する画素Pf1とPf2(図11参照)により、フィールド間にまたがるライン間の演算(画素P0と、Pf1,Pf2を用いた垂直LPF)を行い、垂直低域成分を取り出す。
【0179】
水平BPF106では、フィールド間垂直LPF104からの垂直低域成分に水平方向のBPF処理を施し、絶対値演算手段108にて水平BPF106からのBPF出力を絶対値化して、フィールド間の垂直低域成分における水平エッジ成分を抽出し、水平エッジ成分Ehf1とする。
【0180】
なお、上記フィールド間垂直LPF104においては、現フレーム信号Di0における画素P0と、その上ラインの画素P0aと、1フィールド遅延信号d1fにおける画素Pf1を用いてフィールド間にまたがるライン間の垂直LPF処理により垂直低域成分を取り出しても、その他の画素P0の近傍にある現フレーム信号Di0における画素と1フィールド遅延信号d1fでの画素を用いて垂直低域成分を取り出してもよい。
【0181】
一方、1フレーム遅延信号d2fと1フィールド遅延信号d1fの1フィールド間にまたがったフィールド間の水平エッジ成分Ehf2は、フィールド間垂直LPF105と、水平BPF107と、絶対値演算手段109とにより抽出される。
これらの構成は、上記フィールド間の水平エッジ成分Ehf1の抽出のための構成と同様であり、フィールド間垂直LPF105では1フレーム遅延信号d2fにおける画素Pp0と、1フィールド遅延信号d1fにおける図11中の画素Pf1とPf2でのフィールド間にまたがるライン間の垂直LPFにより、垂直低域成分を取り出す。水平BPF107では、フィールド間垂直LPF105からの垂直低域成分に水平BPF処理を施し、絶対値演算手段109にて水平BPF107からのBPF出力を絶対値化して、フィールド間の垂直低域成分における水平エッジ成分を抽出し、水平エッジ成分Ehf2とする。
また、上記フィールド間垂直LPF105において、1フレーム遅延信号d2fにおける画素Pp0と、その上ラインの画素Pp0aと、1フィールド遅延信号d1fにおける画素Pf1を用いて、フィールド間にまたがるライン間のLPF処理により垂直低域成分を取り出しても、その他の画素Pp0の近傍にある1フレーム遅延信号d2fにおける画素と1フィールド遅延信号d1fでの画素を用いて垂直低域成分を取り出してもよい。
【0182】
水平フィールド成分抽出手段103内のフィールド内水平高域成分抽出手段110へは、1フィールド遅延信号d1fが入力される。フィールド内水平高域成分抽出手段110では、1フィールド遅延信号d1fの画素Pf1とPf2(図11参照)に対し、垂直LPF(例えば、2画素の平均値)により垂直低域成分を取り出した後、この垂直低域成分に水平BPF処理を施すことで、フィールド内の垂直低域成分における水平エッジ成分(例えば、BPF出力を絶対値化した値)を抽出し、フィールド内の水平エッジ成分Ehflとする。なお、図11中のPf1とPf2の上下に位置する数ラインにわたる画素との間での垂直LPF処理により垂直低域成分を取り出してもよい。
【0183】
水平高域成分抽出手段100内の最大値選択手段106へは、フレーム内水平高域成分抽出手段101、102からの水平エッジ成分Ehc,Ehpと、水平フィールド成分抽出手段103からのフィールド間の水平エッジ成分Ehf1,Ehf2と、フィールド内の水平エッジ成分Ehflとが入力される。最大値選択手段106では、入力された各水平エッジ成分の最大値を選択して、抽出水平エッジ成分hedとして出力する。すなわち、抽出水平エッジ成分hedは、注目画素P0の近傍における水平方向の高域周波数成分である水平エッジ成分の値となり、図11に示される注目画素P0の周辺に位置する画素を用いて求められた水平方向の高域周波数成分のうちの最大となる値として抽出される。この最大値選択手段106からの抽出水平エッジ成分hedは、水平高域成分抽出手段100で抽出された水平エッジ成分hedとして、平滑化手段95へと出力される。
【0184】
平滑化手段95、非線形変換手段96、比較手段97の構成は、実施の形態1の平滑化手段51から比較手段53までの構成と同様であり、エッジ検出手段32b内の平滑化手段95では、水平高域成分抽出手段100で抽出された水平エッジ成分hedに対し、例えばLPFなどの処理を行い、平滑化された水平エッジ成分ahedを得る。非線形変換手段96では、平滑化された水平エッジ成分ahedに対し、所定の感度倍率(水平エッジ成分用感度倍率)を乗算し、所定のオフセット値(水平エッジ成分用オフセット値)を減算して、その演算結果を所定の値の間に値を制限することなどで非線形変換して適切なゲイン調整を行い、比較手段97では、非線形変換された水平エッジ成分bhedを所定の閾値(水平エッジ成分用閾値)と比較し、注目画素P0の近傍に、水平方向のエッジが存在するか否かを検出し、結果として2値化した値を示す水平エッジ検出信号Edfl2を出力する。
【0185】
上記比較手段97において、例えば、水平エッジ成分bhedが所定の閾値より大きければ水平エッジが存在すると判断し、それ以外の所定の閾値より小さい場合には、その画素を平坦な画像部分もしくは水平方向の低域周波数成分を有する画像部分の画素であると判断し、すなわち、水平エッジに位置する画素ではないと判断し、2値化した値を示す水平エッジ検出信号Edfl2を求める。水平エッジ検出信号Edfl2の値は、垂直エッジ検出信号Edfl1と同様、例えば、水平エッジと判断された場合は値‘1’とし、エッジでない場合は値‘0’とする。この水平エッジ検出信号Edfl2の値は、上記の2値化した値に限るものではなく、比較により水平エッジが存在する画素を示す値であれば、他の値であってもよい。比較手段97からの水平エッジ検出信号Edfl2は、合成手段98へと出力される。
【0186】
エッジ検出手段32b内の合成手段98へは、比較手段53からの垂直エッジ検出信号Edfl1と、比較手段97からの水平エッジ検出信号Edfl2とが入力される。合成手段98では、垂直エッジ検出信号Edfl1と水平エッジ検出信号Edfl2とを組み合わせることで、垂直方向のエッジもしくは水平方向のエッジ成分の存在を示すような値として合成して、注目画素P0の近傍にエッジが存在するかを検出した結果として、エッジ検出信号Edflを求め、出力する。
【0187】
例えば、垂直エッジ検出信号Edfl1と水平エッジ検出信号Edfl2のどちらかがエッジ成分の存在を示す場合(Edfl1=1またはEdfl2=1の場合)は、垂直方向または水平方向のエッジの存在を検出したことを示すよう、エッジ検出信号Edflの値を‘1’とし、どちらもエッジでない場合(Edfl1=0かつEdfl2=0の場合)は値‘0’とする。
【0188】
なお、エッジ検出信号Edflの値は、上記の値に限るものではなく、垂直エッジ検出信号Edfl1と水平エッジ検出信号Edfl2との結果が合成され、垂直方向のエッジもしくは水平方向のエッジ成分の存在を示す値であれば、他の値であってもよく、また、垂直エッジ検出信号Edfl1と水平エッジ検出信号Edfl2を連結した値とし、エッジの存在が検出されたことを示すとともに、検出されたエッジが垂直方向のエッジか、水平方向のエッジか区別できるような値としても、垂直エッジ検出信号Edfl1と水平エッジ検出信号Edfl2を1つの信号であるエッジ検出信号Edflとして出力してもよい。
【0189】
以上から、図19に示されるエッジ検出手段32bからは、注目画素P0の近傍に水平または垂直方向のエッジが存在するかを検出した結果として、エッジ検出信号Edflが変換手段33へと出力される。
【0190】
次に、非マッチング量算出手段31bからの水平、垂直方向の微少な動きの範囲における非マッチング量MATDと、エッジ検出手段32bからの水平、垂直方向のエッジ検出結果であるエッジ検出信号Edflは、図1に示す微少動き検出手段30内の変換手段33へと入力される。変換手段33は、実施の形態1と同様、図13に示すように構成され、非マッチング量MATDを基に、水平、垂直方向の微少な動きを検出した結果である微少動き検出信号を生成し、この微少動き検出信号の値をエッジ検出信号Edflにより調整することで、水平もしくは垂直方向のエッジ付近の微少な動きを検出し、検出結果として調整微少動き検出信号MATRDを求め、動き情報検出手段15へと出力する。
【0191】
この変換手段33の構成、動作は、実施の形態1に関して説明したのと同様であるので、その詳細な説明は省略するが、非マッチング量算出手段31bからの非マッチング量MATDは、倍率変換手段80でゲイン調整され、また、レベル比較手段82で所定の閾値cmtと比較され、非マッチング量MATDが有効範囲Ra内であるか否かを示すレベルフラグ信号MTFLが生成される。微少動き検出信号生成手段81では、レベル比較手段82から出力されるレベルフラグ信号MTFLに応じて、倍率変換後の非マッチング量MATD2を変換することで、微少な動きを検出した結果である微少動き検出信号mtrを生成する。ここまでの構成は、非マッチング量MATDが水平、垂直方向の動きの範囲内で求められるものであっても、実施の形態1の水平方向の動きの範囲内で求められるものでも同じである。
【0192】
変換手段33内のエッジ切換え手段83では、エッジ検出手段32bからのエッジ検出信号Edflに応じて、微少動き検出信号mtrの値を調整し、調整微少動き検出信号MATRDを求める。エッジ検出手段32bからのエッジ検出信号Edflは、垂直または水平方向のどちらかのエッジが存在するか否かを示しており、図15に示すエッジ切換え手段83では、エッジ検出信号Edflが垂直または水平方向のエッジの存在を示す場合(Edfl=1の場合)は、微少動き検出信号生成手段81からの微少動き検出信号mtrをそのまま調整微少動き検出信号MATRDとして出力する。一方、エッジ検出信号Edflがエッジでないことを示す場合(Edfl=0の場合)は、調整微少動き検出信号MATRDの値を、エッジ付近の微少な動きを検出したものとはせず、静止していると判定されないで調整が行われない値、例えば‘0’として出力する。
【0193】
これにより、垂直または水平方向のエッジ成分が存在するエッジ付近の画素において、微少動き検出信号mtrが調整微少動き検出信号MATRDとして出力され、それ以外のエッジでない場合は、例えば値‘0’として出力されることとなる。
したがって、この調整微少動き検出信号MATRDの値により、垂直または水平方向のエッジ付近においての微少な動き(もしくは静止)として検出される度合いが示され、垂直または水平方向のエッジ付近の微少な動きと判定された画素では、調整微少動き検出信号MATRDの値は比較的大きな値となる。
【0194】
なお、エッジ検出信号Edflが、エッジの存在が検出されたことを示すとともに、検出されたエッジが垂直方向のエッジか、水平方向のエッジか区別できるような値として入力された場合には、エッジ検出信号Edflの値、すなわち、垂直方向のエッジか、水平方向のエッジかの条件に応じて、垂直かつ水平方向のエッジの存在を示す場合は、微少動き検出信号mtrをそのまま調整微少動き検出信号MATRDとし、垂直方向もしくは水平方向の、一方向のエッジのみの場合は、それぞれの条件で微少動き検出信号mtrを所定の倍率で変換するなどした値とし、どちらのエッジでもないことを示す場合は、固定値‘0’として出力するように調整することもできる。この場合は、エッジの方向により、調整微少動き検出信号MATRDの値が調整されることとなる。
【0195】
以上、図18に示す非マッチング量算出手段31bでは、画素ブロック対の間でのパターンマッチング(非類似度の算出)から、水平方向に1フレームあたり左右1画素、垂直方向に1フレームあたり上下に1ライン以内の微少な動きの範囲における非マッチング量MATDが得られ、図19に示すエッジ検出手段32bでは、動き検出の対象である注目画素P0の近傍に、画像の垂直方向または水平方向のエッジが存在するかを検出したエッジ検出信号Edflを得ており、変換手段33での変換により、微少動き検出手段30からは、垂直、水平方向のエッジ付近での水平または垂直方向に動く微少な動きを検出した結果として、動きの検出を調整するための調整微少動き検出信号MATRDが得られる。
【0196】
実施の形態2の映像信号処理装置において、映像信号のフレーム間差分を求め、画素ブロック間の非マッチング量によってエッジ付近の微少な動きを検出し、エッジ付近の微少な動きの検出結果により調整された動き情報を求め、動き量を示す動き信号mdsを出力する動作については、実施の形態1に関して図16を参照して説明したのと同様である。但し、実施の形態2においては、図16中のステップS103においての非マッチング量を求める微少な動きの範囲を、水平方向と垂直方向の動きとし、ステップS104においてのエッジ検出は、画像の垂直方向のエッジと、水平方向のエッジの存在を検出することとなる。
【0197】
以上より、実施の形態2の映像信号処理装置によれば、微少動き検出手段30において、図18の非マッチング量算出手段31bでは、水平方向及び垂直方向での微少な動きの範囲内にある対応する画素ブロックの間でのパターンマッチングにより、非類似度を示す非マッチング量MATDが得られ、図19に示すエッジ検出手段32bでは、注目画素P0近傍の垂直方向または水平方向のエッジを検出したエッジ検出信号Edflを得ており、この非マッチング量MATDとエッジ検出信号Edflから、垂直及び水平方向のエッジ付近の水平、垂直方向に動く微少な動きを検出し、結果として、動きの検出を調整するために用いられる、調整微少動き検出信号MATRDを求めている。そして、動き情報検出手段15において、調整微少動き検出信号MATRDに応じて、差分信号Dmから所定の値を減算することで、エッジが存在する箇所付近の微少な動きが加味された動き情報mdを得て、これに対してさらにフィルタ処理することで動き量としての動き信号mdsを求めている。
【0198】
したがって、垂直、水平方向のエッジ付近の静止に近い微少な動きを検出し、エッジにおける静止画あるいは微少な動きであると検出された画素についての動き情報を静止画方向へ調整することができるので、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減し、高い精度で良好な動き検出を行うことができる。
【0199】
また、非マッチング量を求める微少な動きの範囲を、水平方向及び垂直方向の動きとし、エッジ検出を画像の垂直方向及び水平方向のエッジを検出するので、微少な動きやノイズのあるエッジ付近においての動きの誤検出をより確実に防止でき、誤検出することなく、高い精度で良好な動き検出を行うことができる。
【0200】
なお、実施の形態2で用いられる、図19に示すエッジ検出手段32bでは、現フレーム信号Di0と1フレーム遅延信号d2f、及び1フィールド遅延信号d1fから、注目画素P0の近傍における垂直及び水平エッジ成分を抽出してエッジ検出を行っているが、図17と同様、1フィールド遅延信号d1fを使用せず、同位相の信号となる現フレーム信号Di0と1フレーム遅延信号d2fによりエッジ検出を行うよう構成することもできる。
この場合、図19の水平高域成分抽出手段100内の水平フィールド成分抽出手段103を除外され、現フレーム信号Di0と1フレーム遅延信号d2fでエッジ検出を行うよう構成する。
【0201】
また、実施の形態2の映像信号処理装置では、入力映像信号をインターレース信号として動きを検出しているが、入力映像信号は、プログレッシブ信号であってもよく、同様に構成することで動き検出を行うことができる。プログレッシブ信号入力の場合には、微少動き検出手段30内のエッジ検出手段32bは、同位相のフレーム位置関係にあるフレーム遅延信号からエッジ検出を行う構成を用いることとなる。
【0202】
また、実施の形態2の映像信号処理装置では、図18、図19により、垂直、水平方向のエッジ付近における水平及び垂直方向の微少な動きを検出した結果により、エッジにおける静止画あるいは微少な動きであると検出された画素での動き情報を調整するよう構成したが、非マッチング量算出手段31bで水平方向及び垂直方向での微少な動きの範囲内での非マッチング量MATDを得て、エッジ検出は、図10に示す水平方向のエッジのみの検出としてもよく、または、エッジ検出手段32bで垂直、水平方向のエッジを検出し、非マッチング量の算出は図3に示す水平方向での微少な動きの範囲内での非マッチング量MATDとしてもよく、エッジにおける静止画あるいは微少な動きであると検出された画素での動き情報を調整するよう構成できれば、同様の効果を奏する。
【0203】
さらに、実施の形態2の説明においては、非マッチング量算出手段31bとエッジ検出手段32bの各構成要素をハードウェアで構成するものとしているが、これらの手段或いは構成要素を、ソフトウェアにより、即ちプログラムされたコンピュータにより実現しても良い。
【0204】
実施の形態3.
実施の形態1及び2の映像信号処理装置は、入力フレーム信号と1フレーム前の信号から画像の動きを画素ごとで検出し、フレーム間差分検出手段20において、入力フレーム信号と1フレーム前の信号の間の1フレーム間の差分を求めてフレーム差分を得るように構成されているが、図22に示す映像信号処理装置のように、入力フレーム信号と1フレーム前の信号との1フレーム間の差分に加え、入力フレーム信号と2フレーム前の信号との2フレーム離れたフレーム間の差分(2フレーム間差分)とから、フレーム間の差分信号を求め、画像の動きを画素ごとで検出するよう構成することもできる。
【0205】
図22は、本発明の実施の形態3の映像信号処理装置(すなわち、実施の形態3の映像信号処理方法を実施することができる装置)の構成を示すブロック図であり、現在の入力フレームの信号と、1フレーム前の信号及び2フレーム前の信号から画像の動きを画素ごとで検出するよう構成している。図22において、図1を参照して説明した実施の形態1における構成要素と同一又は対応する構成要素には、同じ符号を付してある。
【0206】
図22において、実施の形態3の映像信号処理装置は、入力映像信号を順次1フレーム分遅延するフレーム遅延手段13、14と、フレーム遅延された信号と入力フレームの信号から画像の動きを画素ごとで検出する動き検出手段1とを備えている。
動き検出手段2は、図1に示される動き検出手段1と概して同じであるが、図1に示される、1フレーム間の差分から差分信号Dmを求めるフレーム間差分検出手段20の代わりに、1フレーム間の差分に加え、2フレーム間のフレーム間差分を検出し、動き検出を行うための差分信号Dmを出力するフレーム間差分検出手段21が用いられている。
なお、フレーム遅延手段13は、図1に示すフレーム遅延手段13と同様に1フィールド単位の遅延を行う2個のフィールドメモリで構成でき、インターレース信号入力時には、フレーム遅延手段13から1フィールド遅延信号d1fが得られ、動き検出手段2に供給され、微少動き検出手段30へと入力されるが、図22には、その図示が省略されている。
1フィールド遅延信号d1fを省略したこと以外の点で、微少動き検出手段30と、動き情報検出手段15と、フィルタ処理手段16の構成及び動作は、実施の形態1に示されるものと同じであり、その詳細な説明は省略する。
【0207】
図22に示されるフレーム間差分検出手段21の構成要素のうち、1フレーム間差分を算出する差分算出手段22と、絶対値演算手段23と、差分感度変換手段24は、図1のフレーム間差分検出手段20におけるものと同じものである。図22のフレーム間差分検出手段21はさらに、入力フレーム信号と2フレーム前の信号の間の2フレーム間差分を算出する差分算出手段25と、2フレーム間差分の差分絶対値を演算する絶対値演算手段26と、差分感度変換手段27と、1フレーム間差分と2フレーム間差分を合成する差分合成手段28とを備えている。
【0208】
入力映像信号がインターレース信号の場合、図1と同様、フィールドメモリ11、12によりフィールド単位での遅延することになるが、図22においては、フレーム遅延手段13、14により、映像信号を1フレーム分遅延する場合を示している。
【0209】
図22を用いて、実施の形態3での動き検出について説明する。
フレーム遅延手段13、14は、映像信号を1フレーム分遅延して出力するためのメモリであり、第1のフレーム遅延手段13は、入力された入力映像信号Di0を1フレーム分遅延して1フレーム遅延信号d2fを出力し、第2のフレーム遅延手段14は、第1のフレーム遅延手段13からの1フレーム遅延信号d2fを1フレームド分遅延し、2フレーム遅延信号d4fを出力する。なお、インターレース信号入力時には、フレーム遅延手段13,14は、フィールドごとで遅延する2個のフィールドメモリで構成できるので、フレーム遅延手段13において1フィールド遅延信号d1fを得ることができる。このフレーム遅延手段13、14の構成、動作は図1でのものと同じである。
【0210】
ここで、フレーム遅延手段14から出力される2フレーム遅延信号d4fは、1フレーム遅延信号d2fと同様、現フレーム信号Di0の画素と同一位置における画素であり、同位相の信号となる
【0211】
動き検出手段2には、現フレーム信号Di0と、フレーム遅延手段13からの1フレーム遅延信号d2fと、フレーム遅延手段14からの2フレーム遅延信号d4fが入力される。なお、1フィールド遅延信号d1fを入力することも可能であるが、図22では省略する。動き検出手段2は、入力フレーム信号と1フレーム前の信号及び2フレーム前の信号から画像の動きを画素ごとで検出し、検出結果から動き量を示す動き信号mdsを出力する。動き検出手段2では、入力フレーム信号と1フレーム前の信号との1フレーム間差分に加え、入力フレーム信号と2フレーム前の信号との2フレーム間差分とから、差分信号Dmを求めるとともに、入力フレーム信号と1フレーム前の信号における画素間の非マッチング量からエッジ付近の微少な動きを検出した結果である調整微少動き検出信号を得ることにより、エッジ付近の微少な動きが加味された動き情報を求め、誤検出を防止した高い精度の動き検出を行って、動き量を示す動き信号mdsを生成し出力する。
【0212】
動き検出手段2において、微少動き検出手段30と、動き情報検出手段15と、フィルタ処理手段16の構成及び動作は、図1に示されるものと同じであり、その詳細な説明は省略し、以下では、フレーム間差分検出手段21での差分信号Dmを求める構成について、説明する。
【0213】
上記動き検出手段2内のフレーム差分検出手段21には、現フレーム信号Di0と、フレーム遅延手段13からの1フレーム遅延信号d2fと、フレーム遅延手段14からの2フレーム遅延信号d4fとが入力され、1フレーム間差分と2フレーム間差分を求め、2つのフレーム差分を合成することで、フレーム間差分である差分信号Dmを検出する。フレーム間の差分が0の場合は、完全に静止し、ノイズ成分が含まれていない部分であり、動きもしくはノイズ成分があると、その値の絶対値は大きくなる。フレーム間差分検出手段21により得られた差分信号Dmは、フレーム差分検出結果として、動き情報検出手段15へと出力される。
【0214】
フレーム間差分検出手段21において、1フレーム間差分は、差分算出手段22と、絶対値演算手段23と、差分感度変換手段24とにより算出され、差分算出手段22では、1フレーム遅延信号d2fと現フレーム信号Di0の減算処理を行い、現フレーム信号Di0と1フレーム遅延信号d2fのフレーム間の差分値(1フレーム間差分)Dnを求める。絶対値演算手段23では、差分算出手段22からの1フレーム間差分Dnの絶対値を演算し、差分感度変換手段24では、1フレーム間差分の差分絶対値Dabsに対し、例えば、所定の感度倍率の乗算、所定のオフセット値の減算により、図2に示すような特性となる非線形変換を行い、結果を1フレーム間差分信号Dm1として出力する。ここまでの構成は、図1に示されたフレーム間差分検出手段20と同じである。
【0215】
次に、フレーム差分検出手段21内の差分算出手段25には、現フレーム信号Di0と2フレーム前の信号である2フレーム遅延信号d4fが入力され、2フレーム遅延信号d4fと現フレーム信号Di0の減算処理を行い、現フレーム信号Di0と2フレーム遅延信号d4fのフレーム間の差分値(2フレーム間差分)Dn2が求められる。この2フレーム間差分Dn2が0の場合は、完全に静止し、ノイズ成分が含まれていない部分であり、動きもしくはノイズ成分があると、その値の絶対値は大きくなり、上記の1フレーム間差分Dnに比べて速い動きに対応することになる。なお、得られた差分値に対し、LPF処理を施すことにより、高域周波数成分であるノイズの影響を低減した2フレーム間差分Dn2として求めてもよい。
【0216】
絶対値演算手段26には、差分算出手段25からの2フレーム間差分Dn2が入力される。絶対値演算手段26は、2フレーム間差分Dn2の絶対値を演算し、2フレーム間差分の差分絶対値Dabs2を出力する。
【0217】
差分感度変換手段27には、絶対値演算手段26からの差分絶対値Dabs2が入力される。差分感度変換手段27では、例えば差分絶対値Dabs2に所定の感度倍率を乗算し、所定のオフセット値を減算して、その演算結果を所定の値(例えば、0からdM2)の間に値を制限することで非線形変換し、2フレーム間差分信号Dm2として出力する。なお、この非線形変換された2フレーム間差分信号Dm2は、非線形変換することなく、差分絶対値Dabs2のまま出力してもよい。
【0218】
差分感度変換手段27の入出力特性は、図2に示すような特性と同様の変換を行い、差分感度変換手段23と同様にできる。図2から、オフセット値Tofまでの値は微小のノイズ成分となり、2フレーム間差分信号Dm2=0として出力され、2フレーム間差分信号Dm2は0から値の制限値dM2までの間で出力され、その値で動きもしくはノイズの量を示している。差分感度変換手段27において感度倍率を大きくすることで、2フレーム間差分の差分絶対値Dabs2を動きと検出しやすくすることとなり、オフセット値を大きくすると、その値までの差分値が微小ノイズ成分(静止部分)として検出されることとなる。
【0219】
フレーム差分検出手段21内の差分合成手段28には、差分感度変換手段24からの1フレーム間差分信号Dm1と、差分感度変換手段27からの2フレーム間差分信号Dm2が入力される。差分合成手段28は、1フレーム間差分信号Dm1と2フレーム間差分信号Dm2の最大値を求めて合成することで、映像信号の動きを示すフレーム間差分とし、差分信号Dmを出力する。なお、合成の方法は最大値を求めることに限らず、平均値を求めるなどしてもよい。
【0220】
差分合成手段28から出力される差分信号Dmは、フレーム差分検出結果として、動き情報検出手段15へと出力される。
【0221】
図22において、動き検出手段2内の微少動き検出手段30での注目画素近傍のエッジ付近における微少な動きを検出し、調整微少動き検出信号MATRDを生成する構成、動き情報検出手段15において、調整微少動き検出信号MATRDの値に応じて、フレーム間差分検出手段21からの差分信号Dmの値を調整して、エッジ付近の微少な動きが加味された動き情報mdを決定し、フィルタ処理手段16で動き情報mdにフィルタ処理を行って、動き信号mdsとして得るまでの構成は、実施の形態1の図1に示されるものと同じであり、その詳細な説明は省略する。
【0222】
以上から、図22の動き検出手段2では、フレーム差分検出手段21において、1フレーム間差分と2フレーム間差分を求め、2つのフレーム差分を合成して、フレーム間差分である差分信号Dmを検出する。そして、微少動き検出手段30においてエッジ付近の静止に近い微少な動きを検出し、動き情報検出手段15において、エッジにおける微少な動きであると検出された画素での動き情報が静止画方向へ調整され、したがって、動き検出手段2からは、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量としての動き信号mdsが得られる。差分信号Dmを1フレーム間差分と2フレーム間差分から求めるので、画像の速い動きに対応でき、動きを静止と検出する動き検出の漏れを防止できる。
【0223】
次に、実施の形態3の映像信号処理装置において、映像信号の1フレーム間差分と2フレーム間差分を検出し、フレーム間差分と非マッチング量の検出の結果から、エッジ付近の微少な動きの検出結果により調整された動き情報を求め、動き量を示す動き信号mdsを出力する動作については、実施の形態1に関し図16を参照して説明したのと同様であり、その説明は省略するが、実施の形態3においては、図16中のステップS101においての入力されるフレーム遅延信号は、フレーム遅延手段13からの1フレーム遅延信号d2fと、フレーム遅延手段14からの2フレーム遅延信号d4fとなり、ステップS102においてのフレーム間差分が、1フレーム間差分と2フレーム間差分から求められることとなる。
【0224】
上記のステップS101、S102以外の動作は、図16で示すフローチャートによりで説明した動作と同じである。
【0225】
以上より、実施の形態3の映像信号処理装置によれば、フレーム間差分検出手段21において映像信号の1フレーム間差分と2フレーム間差分を求め、1フレーム間差分と2フレーム間差分から動き検出のための差分信号Dmを得ている。そして、動き情報検出手段15において、非マッチング量とエッジ検出の結果から得られた調整微少動き検出信号MATRDに応じて、差分信号Dmから所定の値を減算するよう調整して、エッジが存在する付近の微少な動きが加味された動き情報を得て、動き量としての動き信号mdsを求めている。
よって、差分信号Dmを1フレーム間差分と2フレーム間差分から求めるので、画像の速い動きに対応でき、動きを静止と検出する動き検出の漏れを防止できるとともに、エッジ付近の静止に近い微少な動きを検出し、エッジにおける静止画あるいは微少な動きであると検出された画素での動き情報を静止画方向へ調整することができ、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量を得て、エッジ付近において静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行うことができる。
【0226】
また、実施の形態3の映像信号処理装置では、現フレーム信号Di0における画素P0を動き検出の対象である注目画素として、フレーム差分検出手段21で1フレーム間差分、2フレーム間差分を検出しているが、注目画素P0のあるフレームの位置は現フレーム信号でなくてもよく、フィールドもしくはフレーム遅延された信号のフレームを動き検出する中心フレームとして、そのフレーム遅延信号上の画素を注目画素P0とすることもできる。この場合、フレーム差分検出手段21で検出する1フレーム間差分と2フレーム間差分は、中心フレームの時間軸上前に位置するフレームとの間の差分であっても、時間軸上後ろに位置するフレームとの間の差分であってもよく、さらには、その両方向のフレームとの差分を合成し用いてもよく、中心フレームとの間のフレーム差分を検出し動き量として得られれば、実施の形態3と同様の効果が得られる。
【0227】
さらに、実施の形態3の説明においては、映像信号処理装置のフレーム遅延手段、動き検出手段の各構成をハードウェアで構成するものとしているが、これらの手段或いは構成要素を、ソフトウェアにより、即ちプログラムされたコンピュータにより実現しても良い。
【0228】
実施の形態4.
実施の形態1〜3の映像信号処理装置を用いて行われる動き検出方法は、映像信号から画像の動きを局所的に検出し、検出された動きに応じて映像信号処理を行う動き適応処理に適用できる。
この動き適応処理の適用例として、まず、インターレース信号をプログレッシブ信号に走査線変換(IP変換)する動き適応走査線補間処理について説明する。
以下に示す実施の形態4においては、IP変換する際に、動き検出された動き量に応じて、フィールド間補間及びフィールド内補間のいずれかに切換えて補間信号を生成する映像信号処理装置であって、動き検出のために、実施の形態1の映像信号処理装置における動き検出手段1を用いるものについて説明する。
【0229】
図23は、本発明の実施の形態4の映像信号処理装置(すなわち、実施の形態4の映像信号処理方法を実施することができる装置)の構成を示すブロック図であり、映像信号のフレーム間差分に基づき動きを検出し、動き検出手段の出力に従い、動きに応じた走査線補間処理を行ってプログレッシブ信号を得る動き適応処理装置3の構成を示している。図23において、図1に示す実施の形態1における構成要素と同一又は対応する構成要素には、同じ符号を付してある。
【0230】
図23において、実施の形態4の映像信号処理装置である動き適応処理装置3は、
映像信号の動き検出を行う動き検出を、実施の形態1の映像信号処理装置(図1参照)の動き検出手段1により行なっており、フィールドメモリ11、12で構成されたフレーム遅延手段13と、動き検出手段1と、動き検出手段1の出力に従い、動きに応じた走査線補間信号を生成する動き適応補間処理手段200と、動き適応補間処理手段200から出力された走査線補間信号Iを実走査線信号Rの対応する走査線間にはめ込み、倍速変換して、プログレッシブ映像信号Doへ変換して出力する倍速変換手段201とを備えている。
【0231】
動き適応処理装置3には、インターレース信号である入力映像信号Di0が順次入力されており、動き適応処理による走査線補間処理を行い、プログレッシブ信号Doを出力する。
【0232】
フィールドメモリ11、12は、映像信号を1フィールド分遅延して出力するものであり、第1のフィールドメモリ11は、入力された入力映像信号Di0を1フィールド分遅延して1フィールド遅延信号d1fを出力し、第2のフィールドメモリ12は、第1のフィールドメモリ11からの1フィールド遅延信号d1fを1フィールド分遅延し、2フィールド遅延信号(すなわち、1フレーム遅延信号)d2fを出力する。
第1及び第2のフィールドメモリ11及び12はフレーム遅延手段13を構成しており、フレーム遅延手段13からは、1フィールド遅延信号d1fと1フレーム遅延信号d2fとが得られる。
【0233】
動き適応処理装置3における動き検出手段1には、現フレーム信号Di0、フレーム遅延手段13からの1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力され、入力フレーム信号と1フレーム前の信号との間での映像信号における動きを検出し、検出結果から動き量を示す動き信号mdsを出力する。この動き検出手段1としては、図1に示されるものを用いることができ、その構成の詳細な説明は省略するが、入力フレーム信号と1フレーム遅延信号d2fとのフレーム間差分から差分信号Dmを求めるとともに、入力フレーム信号と1フレーム前の信号における微少な動きの範囲内にある画素ブロック間の非マッチング量と注目画素近傍のエッジ検出の結果から、エッジ付近の微少な動きを検出し、エッジ付近の微少な動きが加味された動き情報を求め、誤検出を防止した高い精度の動き検出を行う。
【0234】
動き適応処理装置3における動き適応補間処理手段200には、現フレーム信号Di0と、フレーム遅延手段13からの1フレーム遅延信号d2fと1フィールド遅延信号d1fと、動き検出手段1からの動き信号mdsが入力される。ここで、図23においては、走査線補間処理を行う対象となるフィールド(補間対象フィールド)を1フィールド遅延信号d1fとする。動き検出手段1においては、動き検出を現フレーム信号Di0と1フレーム遅延信号d2fとの間で行い、動き量を示す動き信号mdsを出力しているので、補間対象フィールドを1フィールド遅延信号d1fとすると、動き検出の中心に補間信号を生成することとなる。すなわち、図11において、1フィールド遅延信号d1f上の画素Pf1とPf2の間の走査線上の画素を走査線補間信号として生成する。
【0235】
動き適応補間処理手段200では、1フィールド遅延信号d1fと現フレーム信号Di0、1フレーム遅延信号d2fとに対し、動き検出手段1から出力される動き信号mdsに基づき、動き適応補間処理を行って走査線補間信号Iを生成し、この走査線補間信号Iと、1フィールド遅延信号d1fにおける実走査線信号Rを出力する。走査線補間信号Iの生成処理は、1フィールド遅延信号d1fに対して行われ、動き適応補間処理手段200は、動き量を示す動き信号mdsの値に応じて、1フィールド遅延信号d1fに対して時間的に前の1フレーム遅延信号d2f、あるいは、時間的に後ろの現フレーム信号Di0における対応する走査線の画素をはめ込むことによるフィールド間補間、もしくは1フィールド遅延信号d1fにおける垂直方向の上下に位置する画素信号を用いたフィールド内補間処理を行い、走査線補間信号Iを生成する。
【0236】
この動き適応補間処理手段200での走査線補間信号Iの生成は、例えば、動き信号mdsの値に応じて、フィールド間補間により得られた信号と、フィールド内補間により得られた信号を混合して行う。すなわち、動き信号mdsが完全静止画(mds=0)を示す場合は、フィールド間補間を行い、1フレーム遅延信号d2fもしくは現フレーム信号Di0信号を走査線補間信号Iとする一方、動き信号mdsの値が大きく、「完全に動き」であると判定される場合は、フィールド内補間により得られた信号(垂直方向の上下に位置する画素信号を用いた補間信号)を走査線補間信号Iとする。そして、動き信号mdsの値が0と、「完全動き」を表す値との間の値である場合は、動き信号mdsの値に応じた混合比により、フィールド間補間による信号とフィールド内補間による信号を混合し走査線補間信号Iを生成する。このとき、フィールド間補間のための静止画処理時の信号を、1フレーム遅延信号d2f、あるいは、現フレーム信号Di0のどちらか一方の信号、例えば、時間的に前の1フレーム遅延信号d2fのみとしてもよい。
【0237】
なお、補間対象フィールドを1フィールド遅延信号d1fとしたが、現フレーム信号Di0や、1フレーム遅延信号d2fとすることもできる。
【0238】
次に、動き適応処理装置3における倍速変換手段201は、動き適応補間処理手段200から出力された走査線補間信号Iと実走査線信号Rが入力され、補間信号を実走査線信号の対応する走査線間にはめ込み、倍速変換して、プログレッシブ映像信号Doへ変換して出力する。そして、動き適応処理装置3からは、倍速変換手段201の出力であるプログレッシブ映像信号Doが出力される。
【0239】
以上に説明したように、実施の形態4の映像信号処理装置では、実施の形態1における動き検出手段1を用いて、エッジ付近の静止に近い微少な動きを検出し、エッジにおける微少な動きであると検出された画素での動き情報を調整して、エッジが存在する付近の微少な動きが加味された動き信号mdsを得ており、この動き信号mdsに応じて、動き適応補間処理手段200での動き適応処理による走査線補間処理を行ってプログレッシブ信号Doを得ている。
よって、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量を得て、エッジ付近での静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行うことができ、この良好な動き検出の結果を用いることで、動き適応処理による走査線補間の結果において、画像のちらつきやぼやけなどの弊害が低減されたプログレッシブ信号を得ることができる。
【0240】
なお、図23に示す実施の形態4の動き適応処理装置3では、映像信号の動き検出を図1の動き検出手段1により行う構成としたが、2フレーム遅延信号d4fを得るためのフレーム遅延手段14をさらに備えることで、実施の形態3の映像信号処理装置(図22参照)における動き検出手段2を用いて構成することもできる。この場合は、差分信号Dmを1フレーム間差分と2フレーム間差分から求めるので、画像の速い動きに対応でき、動きを静止と検出する動き検出の漏れを防止できるとともに、エッジ付近において静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行った結果により、動き適応処理による走査線補間処理を行い、プログレッシブ信号Doを得ることができる。
【0241】
また、上記説明においては、動き適応処理装置3の各構成をハードウェアで構成するものとしているが、これらの手段或いは構成要素を、ソフトウェアにより、即ちプログラムされたコンピュータにより実現しても良い。
【0242】
実施の形態5.
次に、動き適応処理の適用例として、3次元ノイズ除去において動き適応処理を行う場合について示す。
実施の形態5においては、3次元ノイズ除去を行う際に、動き検出された動き量に応じて、ノイズ除去の効果を制御する動き適応処理を行う映像信号処理装置であって、動き検出のために、実施の形態1の映像信号処理装置における動き検出手段1を用いるものについて説明する。
【0243】
図24は、本発明の実施の形態5の映像信号処理装置(すなわち、実施の形態5の映像信号処理方法を実施することができる装置)の構成を示すブロック図であり、映像信号のフレーム間差分に基づき動きを検出し、動き検出手段の出力に従い、ノイズ成分に対する巡回係数を得て、フレーム巡回型のノイズ除去処理を行う動き適応処理装置4の構成を示している。図24において、図1に示す実施の形態1における構成要素と同一又は対応する構成要素には、同じ符号を付してある。
【0244】
図24において、実施の形態5の映像信号処理装置である動き適応処理装置4は、映像信号の動き検出を行う動き検出を、実施の形態1の図1の映像信号処理装置(図1)における動き検出手段1により行なっており、フレーム遅延手段13、13bと、動き検出手段1と、動き検出手段1の出力に従いノイズ成分に対する巡回係数を得て、フレーム巡回型のノイズ除去処理を行う動き適応ノイズ除去手段300とを備えている。
動き適応ノイズ除去手段300は、ノイズ抽出手段301と、動き検出結果に応じてノイズに対する巡回係数を生成する係数生成手段302と、ノイズ抽出手段301からのノイズ成分と巡回係数を乗算しノイズの巡回量として出力する乗算手段303と、乗算手段303からのノイズ巡回量Ndと入力映像信号Di0を加算又は減算処理する演算手段304とを備えている。
【0245】
動き適応処理装置4には、インターレース信号である入力映像信号Di0が順次入力されており、動き適応処理によるノイズ除去処理を行い、ノイズ除去後の信号Dnroを出力する。
【0246】
フレーム遅延手段13、13bは、映像信号を1フレーム分遅延して出力するためのメモリであり、第1のフレーム遅延手段13は、入力された入力映像信号Di0を1フレーム分遅延して1フレーム遅延信号d2fを出力し、第2のフレーム遅延手段13bは、ノイズ除去後の信号Dnroを1フレーム分遅延して、ノイズ除去後信号の1フレーム遅延信号ln2を出力する。なお、インターレース信号入力時には、フレーム遅延手段13、13bは、1フィールド単位の遅延を行う2個のフィールドメモリで構成できるので、フレーム遅延手段13で、1フィールド遅延信号d1fが生成されて、動き検出手段1に供給されるが、図24にはその図示が省略されている。このフレーム遅延手段13及び13bの構成、動作は図1のフレーム遅延手段13と同様である。
【0247】
動き検出手段1には、現フレーム信号Di0とフレーム遅延手段13からの1フレーム遅延信号d2f、及び1フィールド遅延信号d1fが入力され、入力フレーム信号と1フレーム前の信号d2fとの間での映像信号における動きを検出し、検出結果から動き量を示す動き信号mdsを出力する。この動き検出手段1は、図1に示される動き検出手段1を適用したものであり、その構成の詳細な説明は省略するが、エッジ付近の微少な動きが加味された動き情報を求め、誤検出を防止した高い精度の動き検出を行う。
【0248】
動き適応ノイズ除去手段300には、現フレーム信号Di0と、フレーム遅延手段13bからのノイズ除去後信号の1フレーム遅延信号ln2と、動き検出手段1からの動き信号mdsが入力される。動き適応ノイズ除去手段300では、現フレーム信号Di0と1フレーム遅延信号ln2とのフレーム間の差分値からノイズ成分を抽出し、動き検出手段1からの動き信号mdsに応じてノイズ成分に対する巡回係数求め、抽出したノイズ成分と巡回係数からノイズ除去処理を行い、ノイズ除去後の信号Dnroを出力する。ノイズ除去後の信号Dnroは、現フレーム信号Di0と同じフレームの信号であり、第2のフレーム遅延手段13bへと送られる。
【0249】
動き適応ノイズ除去手段300の構成を図24により説明する。
図24において、動き適応ノイズ除去手段300内のノイズ抽出手段301へは、現フレーム信号Di0と、フレーム遅延手段13bからのノイズ除去後信号の1フレーム遅延信号ln2とが入力される。ノイズ抽出手段301では、例えば、1フレーム遅延信号ln2から現フレーム信号Di0を減算して、現フレーム信号Di0と1フレーム遅延信号ln2のフレーム差分Diffを求めた後、所定の値内(例えば、±dTh内)に振幅を制限することで、振幅制限された差分値をノイズ成分Dfnとして求める。フレーム差分Diffは、映像信号における「動き」と「ノイズ」の成分が含まれており、したがって、フレーム差分Diffから得られるノイズ成分Dfnが0の場合は、完全に静止している部分もしくはノイズ成分がない部分であり、動きもしくはノイズ成分があると、その値は大きくなる。ノイズ抽出手段301で求めたノイズ成分Dfnは、現フレーム信号Di0での画素におけるノイズ成分として、乗算手段303へと出力する。
【0250】
係数生成手段302には、動き検出手段1からの動き信号mdsが入力される。係数生成手段302は、動き信号mdsに応じたノイズに対する巡回係数Kmが生成される。ここで、係数生成手段302で生成する巡回係数Kmは、巡回型ノイズ除去を行う際のノイズの巡回値を設定するものであり、0≦Km≦1で設定される。この巡回係数Kmの値が1に近いほど、ノイズ除去を行うノイズの巡回値が大きくなり、ノイズ除去効果が高くなる。一方、巡回係数Kmの値がゼロ(Km=0)であると、ノイズの巡回値はゼロとなり、ノイズ除去は行われない。
【0251】
よって、係数生成手段302では、動き検出手段1からの動き信号mdsが示す動き量の値に対応して変化するよう、例えば乗算処理や、ROM(Read Only Memory)で構成されたLUTなどにより構成して、巡回係数Kmを生成する。すなわち、動き信号mdsの値が大きく、「完全に動き」であることを示す場合は、巡回係数Km=0とし、動き信号mdsが静止画もしくはノイズ成分であると検出されるmds=0の場合は、Km=Kmax(Kmax≦1)として、動き信号mdsで表わされる動き量の値が大きくなるにつれ、巡回係数Kmの値が小さくなるように変化させることで、動きを考慮したノイズに対する巡回係数が得られる。
【0252】
そして、動き信号mdsに対応して0≦Km≦Kmaxで変化するよう生成された係数生成手段302からの巡回係数Kmは、図24に示される動き適応ノイズ除去手段300内の乗算手段303へと出力される。
【0253】
乗算手段303へは、ノイズ抽出手段301からのノイズ成分Dfnと上記係数生成手段302からの巡回係数Kmが送られる。乗算手段302では、ノイズ抽出手段301からのノイズ成分Dfnに巡回係数Kmが乗算され、ノイズの巡回量NdをKm×Dfnとして求める。得られたノイズ巡回量Ndは、演算手段304へと出力される。
【0254】
ここで、巡回係数Kmは、動き信号mdsの値に応じて算出されており、動き信号mdsが動きを示す場合は、巡回係数Km=0として送られているので、この場合のノイズの巡回量NdはNd=0となり、ノイズ除去は行われない。一方で、静止画の画素と検出される場合は、Km=Kmaxとなっているので、ノイズ巡回量Ndは最大値に設定され、ノイズの除去効果を大きくすることができ、動き量に応じて段階的にノイズの除去効果を変化することになる。
【0255】
動き適応ノイズ除去手段300内の演算手段304には、上記乗算手段303からのノイズ巡回量Ndと入力された現フレーム信号Di0が入力される。演算手段304は、現フレーム信号Di0に対してノイズ巡回量Ndを加算または減算することで、映像信号中のノイズを除去し、ノイズ除去後の信号Dnroを得る。ここで、演算手段304の処理は、乗算手段303からのノイズ巡回量Ndの符号(正か負か)によって加算または減算処理が行われ、ノイズを除去するようにしている。
【0256】
次に、図24において、動き適応ノイズ除去手段300から出力されたノイズ除去後の信号Dnroは、入力映像信号と同じフレームの信号であり、フレーム遅延手段13bへと送られる。
【0257】
以上に説明したように、実施の形態5の映像信号処理装置では、実施の形態1における動き検出手段1を用いて、エッジ付近の静止に近い微少な動きを検出し、エッジにおける微少な動きであると検出された画素での動き情報を調整して、エッジが存在する付近の微少な動きが加味された動き信号mdsを得ており、動き適応ノイズ除去手段300において、この動き信号mdsに応じて、ノイズ成分に対する巡回係数を得てフレーム巡回型のノイズ除去処理を行い、動き検出の結果でノイズ除去の効果を制御する動き適応処理を行っている。よって、微少な動きやノイズのあるエッジ付近においての動きの誤検出を低減した動き量を得て、エッジ付近での静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行うことができ、この良好な動き検出の結果を用いることで、動き適応処理によるノイズ除去後の映像信号において、動き部分の尾引きや残像を抑え、静止画部のノイズを低減して、画像のちらつきやぼやけなどの弊害が低減されたノイズ除去された信号を得ることができる。
【0258】
なお、図24に示す実施の形態5の動き適応処理装置4では、映像信号の動き検出を図1の動き検出手段1により行う構成としたが、2フレーム遅延信号d4fを得るためのフレーム遅延手段14をさらに備えることで、実施の形態3の映像信号処理装置(図22参照)における動き検出手段2を用いて構成することもできる。この場合は、差分信号Dmを1フレーム間差分と2フレーム間差分から求めるので、画像の速い動きに対応でき、動きを静止と検出する動き検出の漏れを防止できるとともに、エッジ付近において静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行った結果により、動き検出の結果でノイズ除去の効果を制御する動き適応処理によるノイズ除去を行うことができる。
【0259】
また、実施の形態5の映像信号処理装置では、入力映像信号をインターレース信号としているが、入力映像信号はプログレッシブ信号であってもよく、同様に構成することで動き検出、ノイズ除去処理を行うことができる。なお、プログレッシブ信号入力の場合には、フレーム遅延手段13は入力された入力映像信号Di0を1フレーム分遅延して、1フレーム前の信号である1フレーム遅延信号d2fのみが出力され、異位相の信号の位置関係にある1フィールド遅延信号d1fは得られないため、動き検出手段1では、同位相のフレーム位置関係にあるフレーム遅延信号により動き検出を行う構成を用いることとなる。
【0260】
また、実施の形態5の動き適応処理装置4では、フレーム遅延手段13、13bを設け、動き検出手段1のための1フレーム遅延信号d2fと、動き適応ノイズ除去手段300のためのノイズ除去後信号の1フレーム遅延信号ln2を得るように構成したが、図25に示す動き適応処理装置4bのように、フレーム遅延手段13によりノイズ除去後の信号Dnroを1フレーム遅延し、動き検出手段1と動き適応ノイズ除去手段300で同じ1フレーム遅延信号を用いる構成としてもよい。
【0261】
また、実施の形態5の動き適応処理装置4では、動き適応ノイズ除去手段300を図24に示す構成とし、動き検出手段1で生成された動き信号mdsに応じて、係数生成手段302において動き検出結果に応じたノイズ成分に対する巡回係数を生成するが、動き適応ノイズ除去手段300の構成は図24に限らず、例えば、巡回係数を固定として所定の強さの巡回型ノイズ除去を行った信号と入力映像信号とを、動き検出手段1で生成された動き信号mdsに応じた混合比で混合することで、動きにより制御された巡回型ノイズ除去後の信号得るようにすることもでき、実施の形態5での動き適応処理装置4と同様の効果を奏する。
【0262】
さらには、実施の形態5の動き適応処理装置4では、巡回型ノイズ除去手段を備えているが、動き適応処理装置4を図26で示す構成として、複数フレームの信号間でフィルタ処理することによりノイズ成分を除去する非巡回型のノイズ除去処理に対し、動き検出結果を適用することもできる。図26において、図24及び図1、図22の構成と同一又は対応する構成には、同じ符号を付してある。図26で示す動き適応処理装置4cは、図24の動き適応ノイズ除去手段300を非巡回型ノイズ除去処理による動き適応ノイズ除去手段305とし、2フレーム遅延信号d4fを得るためのフレーム遅延手段14とをさらに備え、動き適応ノイズ除去手段305は、フィルタ手段306と、動き混合手段307とを備える。
【0263】
図26において、フレーム遅延手段13、14と、動き検出手段1の構成、動作は、実施の形態と同じであるので、説明は省略する。動き適応ノイズ除去手段305へは、現フレーム信号Di0と、フレーム遅延手段13及び14で生成される1フレーム遅延信号d2f及び2フレーム遅延信号d4fと、動き検出手段1からの動き信号mdsが入力され、現フレーム信号Di0と1フレーム遅延信号d2fと2フレーム遅延信号d4fからノイズ除去のためのフィルタ処理(例えば3つの信号の平均処理)を行い、フィルタ処理後の信号dfirと、フィルタ処理されていない例えば現フレームの信号を、動き検出手段1からの動き信号mdsに応じて混合することで、ノイズ除去後の信号Dnroを出力する。
【0264】
ノイズ除去のためのフィルタ処理は、フィルタ手段306で行われ、動き混合手段307では、動き度合い信号mdsに応じた混合比により、フィルタ処理後の信号dfirと、フィルタ処理されていない現フレーム信号Di0を混合する。動き信号mdsが動きを示す場合は、現フレーム信号Di0の混合比率を大きくし、静止画もしくはノイズ成分であると検出される動き信号mds=0の場合は、フィルタ処理後の信号dfirの比率を大きくする。そして、動き信号mdsの値が大きくなるにつれ、フィルタ処理後の信号dfirの比率が小さくなるように変化させることで、動きを考慮した非巡回型ノイズ除去後の信号Dnroが得られることになり、よって、実施の形態5と同様の効果を奏する。なお、この動き適応ノイズ除去手段305内のフィルタ手段306での各フレームに対するフィルタ係数を、動き検出手段1からの動き信号mdsに応じて変化することによっても、同様に、動きを考慮した非巡回型ノイズ除去後の信号Dnroを得ることができる。
【0265】
なお、上記説明においては、動き適応処理装置4、4b、及び4cの各構成をハードウェアで構成するものとしているが、これらの手段或いは構成要素を、ソフトウェアにより、即ちプログラムされたコンピュータにより実現しても良い。
【0266】
実施の形態6.
次に、実施の形態1乃至5においては、映像信号処理装置及び映像信号処理方法を実施することができる装置について説明したが、本発明は、入力映像信号を動き検出することで動き適応処理し、高画質で表示する映像表示装置にも適用できる。以下に示す実施の形態6においては、TV放送信号やDVD,VTR等の記録再生装置、TV放送受信装置などから入力される映像信号を処理し、実施の形態4又は5の映像信号処理装置の動き適応処理装置3又は4を用いた映像信号を表示する映像表示装置について説明する。
【0267】
図27は、本発明の実施の形態6の映像表示装置の一例を示すブロック図である。図示の映像表示装置5は、実施の形態4の動き適応処理装置3(もしくは、実施の形態5の動き適応処理装置4)のように構成された映像信号処理手段(IP変換処理又はノイズ除去処理)500を有しており、入力端子501と、入力信号処理手段502と、表示処理手段503と、表示手段504とを設け、動き適応処理による映像信号を表示するように構成したものである。これら入力端子501、入力信号処理手段502、表示処理手段503及び表示手段504に関する部分以外の構成及び動作は、実施の形態1〜5に示されるものと同じであり、その詳細な説明は省略する。
【0268】
入力端子501には、TV放送信号やDVD,VTR等の記録再生装置、TV放送受信装置等からの信号が入力される。入力端子501に入力された信号は、入力信号処理手段502へと送られる。
【0269】
入力信号処理手段502は、TV放送信号やDVD,VTR等の記録再生装置、TV放送受信装置等からの信号に対し、例えば、アナログ信号が入力される場合は、信号をデジタル信号へ変換する処理、同期信号を分離する処理などの入力信号処理や、MPEGデータを受けた場合には、MPEGデータをデコードするなどの処理を施す。そして、入力信号処理された映像信号を映像信号処理手段500へ出力する。
ここで、入力信号処理された映像信号は、インターレース信号である場合もあり、プログレッシブ信号である場合もある。
【0270】
映像信号処理手段500は、動き適応処理によるノイズ除去処理及び/又は動き適応走査線補間処理を行い、入力信号処理手段502からの映像信号をフレーム遅延して、フレーム間での差分を用いて動き検出を行うとともに、この動き検出された結果に応じて、インターレース入力時は、ノイズ除去処理と3次元IP変換を行う。
プログレッシブ信号の場合は、動き検出された結果に応じて、ノイズ除去処理を行う。
そして、動き適応処理によりノイズ除去、IP変換されたプログレッシブ信号を表示処理手段503へと出力する。この動き検出処理と、動き検出の結果を用いたノイズ除去処理及びIP変換処理の動き適応処理の構成、動作は、実施の形態1〜5と同様であるので、詳細な説明は省略する。
また、ここでの動き適応処理は、ノイズ除去処理もしくは3次元IP変換どちらか一方の処理でもよい。
【0271】
表示処理手段503には、映像信号処理手段500からの動き適応処理された映像信号が入力される。表示処理手段503は、動き適応処理された映像信号に対し、スケーリング処理や映像信号の階調を変換する階調補正処理などの表示信号へと変換するための信号処理を施し、表示手段504で表示するための表示信号として表示手段504へ出力する。
表示手段504は、表示処理手段503からの表示信号に基づき映像を表示する。
【0272】
以上に説明したように、実施の形態6の映像表示装置によれば、実施の形態1〜5の映像信号処理装置及び映像信号処理方法を用いるので、微少な動きやノイズのある画像においも、静止部分を動きと誤検出することなく、高い精度で良好な動き検出を行い、動き適応処理の結果において、画像のちらつきやぼやけなどの弊害を低減された映像信号に基づく高品質な映像を表示することができる。
【図面の簡単な説明】
【0273】
【図1】本発明の実施の形態1の映像信号処理装置の構成の一例を示すブロック図である。
【図2】実施の形態1の映像信号処理装置で用いられる差分感度変換手段24での入出力特性の一例を示す図である。
【図3】実施の形態1の映像信号処理装置で用いられる非マッチング量算出手段31の一構成例を示すブロック図である。
【図4】実施の形態1で用いられる微少動き検出手段30において、パターンマッチングで用いられる画素ブロックを構成する画素を示す図である。
【図5】(a)〜(c)は、実施の形態1で用いられる微少動き検出手段30において、パターンマッチングで用いられる、画素ブロックの互いに異なる例を示す図である。
【図6】実施の形態1における微少動き検出手段30で処理に用いられる、入力フレーム信号Di0と1フレーム遅延信号の画素の同一ラインでの時間的関係と水平方向(画面表示水平走査方向)の位置関係を示す図である。
【図7】実施の形態1で用いられる注目画素ブロック抽出手段34の一構成例を示すブロック図である。
【図8】実施の形態1で用いられる参照画素ブロック抽出手段35の一構成例を示すブロック図である。
【図9】実施の形態1で用いられるブロック間非マッチング量演算手段36の一構成例を示すブロック図である。
【図10】実施の形態1で用いられるエッジ検出手段32の一構成例を示すブロック図である。
【図11】実施の形態1の映像信号処理装置におけるインターレース信号入力時の入力フレーム信号Di0とフィールド遅延信号の画素の時間的関係と垂直走査方向(画面表示ライン上下方向)の位置関係を示す図である。
【図12】実施の形態1で用いられるエッジ検出手段32の他の構成例を示すブロック図である。
【図13】実施の形態1で用いられる微少動き検出手段30内の変換手段33の一構成例を示すブロック図である。
【図14】実施の形態1で用いられる微少動き検出手段30内の変換手段33での入出力特性の一例を示す図である。
【図15】実施の形態1で用いられる変換手段33で用いられるエッジ切換え手段83の一構成例を示すブロック図である。
【図16】実施の形態1の映像信号処理装置で用いられる動き検出手段1での動作を示すフローチャートである。
【図17】実施の形態1で用いられるエッジ検出手段32において、同位相のフレーム信号の入力のみで構成する場合の他の構成例を示すブロック図である。
【図18】実施の形態2で用いられる非マッチング量算出手段31bの一構成例を示すブロック図である。
【図19】実施の形態2で用いられるエッジ検出手段32bの一構成例を示すブロック図である。
【図20】実施の形態2で用いられる映像信号処理装置における入力フレーム信号Di0とフレーム遅延信号の画素の時間的関係と垂直走査方向(画面表示ライン上下方向)の位置関係を示す図である。
【図21】実施の形態2で用いられる参照画素ブロック抽出手段90の一構成例を示すブロック図である。
【図22】本発明の実施の形態3の映像信号処理装置の構成の一例を示すブロック図である。
【図23】本発明の実施の形態4の映像信号処理装置である動き適応処理装置3の構成の一例を示すブロック図である。
【図24】本発明の実施の形態5の映像信号処理装置である動き適応処理装置4の構成の一例を示すブロック図である。
【図25】本発明の実施の形態5の映像信号処理装置の他の構成例である動き適応処理装置4bの構成を示すブロック図である。
【図26】本発明の実施の形態5の映像信号処理装置の他の構成例である動き適応処理装置4cの構成例を示すブロック図である。
【図27】本発明の実施の形態6の映像表示装置の構成の一例を示すブロック図である。
【符号の説明】
【0274】
1、2 動き検出手段、 11、12 フィールドメモリ、 13、13b、14 フレーム遅延手段、 15 動き情報検出手段、 16 フィルタ処理手段、 20、21 フレーム間差分検出手段、 22、25 差分算出手段、 23、26 絶対値演算手段、 24、27 差分感度変換手段、 28 差分合成手段、 30 微少動き検出手段、 31、31b 非マッチング量算出手段、 32、32b エッジ検出手段、 33 変換手段、 34 注目画素ブロック抽出手段、 35、90 参照画素ブロック抽出手段、 36、37、38、91、92 ブロック間非マッチング量演算手段、 39、93 合成手段、 41〜45 差分絶対値演算手段、 46 平均化手段、 50、50b 垂直高域成分抽出手段、 51、95 平滑化手段、 52、96 非線形変換手段、 53、97 比較手段、 54、55 フレーム内垂直高域成分抽出手段、 56 フレーム間垂直高域成分抽出手段、 57 フィールド成分抽出手段、 58 最大値選択手段、 60、61 フィールド間垂直高域成分抽出手段、 62 フィールド内垂直高域成分抽出手段、 63〜68 平滑化手段、 70〜75 変換手段、 80 倍率変換手段、 81 微少動き検出信号生成手段、 82 レベル比較手段、 83 エッジ切換え手段、 84 切換え手段、 98 合成手段、 100 水平高域成分抽出手段、 101、102 フレーム内水平高域成分抽出手段、 103 水平フィールド成分抽出手段、 104、105 フィールド間垂直LPF、 106、107 水平BPF、 108、109 絶対値演算手段、 110 フィールド内水平高域成分抽出手段、 3、4、4b、4c 動き適応処理装置、 200 動き適応補間処理手段、 201 倍速変換手段、 300、305 動き適応ノイズ除去手段、 301 ノイズ抽出手段、 302 係数生成手段、 303 乗算手段、 304 演算手段、 306 フィルタ手段、 307 動き混合手段、 5 映像表示装置、 500 映像信号処理手段、 501 入力端子、 502 入力信号処理手段、 503 表示処理手段、 504 表示手段。

【特許請求の範囲】
【請求項1】
入力映像信号と、上記入力映像信号をフレーム遅延することで得られるフレーム遅延映像信号から、映像信号における動き検出を行う映像信号処理装置であって、
上記入力映像信号と上記フレーム遅延映像信号とに基づいて同じ画素についてのフレーム間の差分を求め、該差分を表すフレーム間差分信号を出力するフレーム間差分検出手段と、
動き検出の対象としての注目画素を中心とする注目画素ブロックと、上記注目画素とは時間的に異なるフレーム内に位置し、それぞれ上記注目画素の周辺の所定の範囲内に位置する画素を中心とする複数の参照画素ブロックとの間の非類似度の算出を行うとともに、上記注目画素近傍での画像の輪郭であるエッジを検出し、上記非類似度算出の結果と上記エッジ検出の結果から、映像信号における画像の輪郭について、上記エッジ近傍での所定の大きさ以下の動きを微少な動きとして検出し、該微少な動きの検出結果に応じた値を調整微少動き検出信号として出力する微少動き検出手段と、
上記調整微少動き検出信号により、上記フレーム間差分検出手段からの上記フレーム間差分信号を調整し、画像の動き情報を求める動き情報検出手段と、
上記動き情報に対し、フィルタ処理による補正を行い、動き検出結果としての動き信号を出力するフィルタ処理手段と
を備えたこと特徴とする映像信号処理装置。
【請求項2】
上記フレーム間差分検出手段は、
上記入力映像信号のフレームにおける上記注目画素の信号と上記フレーム遅延映像信号のフレームにおける、上記注目画素と同じ位置の画素の信号との差分を求め、上記注目画素についての差分信号として出力する差分算出手段と、
上記差分算出手段からの差分信号の絶対値を求める絶対値演算手段と、
上記絶対値演算手段から出力される上記差分信号の絶対値に対し、予め設定された感度倍率を乗算し、予め設定されたオフセット値を減算することにより非線形変換を行い、非線形変換された差分信号を出力する差分感度変換手段とを備え、
上記差分感度変換手段からの、上記非線形変換された差分信号を、上記フレーム間差分信号として出力することを特徴とすることを特徴とする請求項1に記載の映像信号処理装置。
【請求項3】
上記微少動き検出手段は、
上記注目画素ブロックと、上記複数の参照画素ブロックとの間の非類似度を合成し、合成結果である非マッチング量を生成する非マッチング量算出手段と、
上記注目画素とその周辺の画素、及び時間的に隣接するフレームにおける画素から、上記注目画素の近傍における高域周波数成分を抽出し、この抽出結果から画像のエッジの存在を検出し、検出結果であるエッジ検出信号を生成するエッジ検出手段と、
上記エッジ検出手段からの上記エッジ検出信号に応じて、上記非マッチング量算出手段からの上記非マッチング量を調整して、調整微少動き検出信号を生成する微少動き量変換手段とを備えることを特徴とする請求項1の映像信号処理装置。
【請求項4】
上記非マッチング量算出手段は、
上記注目画素ブロックを構成する画素を抽出する注目画素ブロック抽出手段と、
上記複数の参照画素ブロックを構成する画素を抽出する参照画素ブロック抽出手段と、
それぞれ上記複数の参照画素ブロックに対応して設けられ、上記注目画素ブロックと、対応する参照画素ブロックのうちの対応するものとの非類似度を、上記注目画素ブロック及び上記対応する参照画素ブロック内の画素の値に基づいて計算し、該計算結果を対応する参照画素ブロックについての非マッチング量として出力するブロック間非マッチング量演算手段と、
上記複数の上記ブロック間非マッチング量演算手段から出力された、それぞれの非マッチング量を合成する非マッチング量合成手段と
を備えることを特徴とする請求項3に記載の映像信号処理装置。
【請求項5】
上記複数のブロック間非マッチング量演算手段の各々は、
上記注目画素ブロック内の各画素と、上記対応する参照画素ブロックにおいて、上記注目画素ブロック内の各画素に対応する位置にある画素との差分の絶対値を、上記注目画素ブロック及び上記対応する参照画素ブロック内の全ての画素について求める差分絶対値演算手段と、
上記差分絶対値演算手段において、各参照画素ブロック内の全ての画素について求められた上記差分の絶対値を平均化して、平均化した差分絶対値を求める平均化手段を備え、
上記平均化手段で求められた、上記平均化した差分絶対値を、当該参照画素ブロックについての上記非マッチング量として出力する
ことを特徴とする請求項4に記載の映像信号処理装置。
【請求項6】
上記エッジ検出手段は、
上記注目画素とその周辺の画素、及び時間的に隣接するフレームにおける画素から、上記注目画素の近傍における垂直方向の高域周波数成分を抽出し、垂直エッジ成分として出力する垂直高域成分抽出手段と、
上記垂直高域成分抽出手段から出力される、上記注目画素についての垂直エッジ成分の値を、当該注目画素の周辺の画素についての同様の垂直エッジ成分の値を用いて平滑化し、平滑化された垂直エッジ成分を出力する垂直エッジ成分平滑化手段と、
上記垂直エッジ成分平滑化手段からの出力に対し、予め定められた垂直エッジ成分用感度倍率を乗算し、予め定められた垂直エッジ成分用オフセット値を減算することにより、非線形変換を行い、非線形変換された垂直エッジ成分を出力する垂直エッジ成分非線形変換手段と、
上記垂直エッジ成分非線形変換手段からの上記非線形変換された垂直エッジ成分を所定の垂直エッジ成分用閾値と比較し、上記垂直エッジ成分が上記垂直エッジ成分用閾値よりも大きいか否かを判定し、この判定結果を示す垂直エッジ検出信号を出力する垂直エッジ成分比較手段とを備え、
上記比較手段からの上記垂直エッジ検出信号又はこれに基づいて生成された信号を、上記注目画素の近傍におけるエッジの存在を検出した結果であるエッジ検出信号として出力することを特徴とする請求項3に記載の映像信号処理装置。
【請求項7】
上記エッジ検出手段は、
上記注目画素とその周辺の画素、及び時間的に隣接するフレームにおける画素から、上記注目画素近傍における水平方向の高域周波数成分を抽出し、水平エッジ成分として出力する水平高域成分抽出手段と、
上記水平高域成分抽出手段から出力される、上記注目画素についての水平エッジ成分の値を、当該注目画素の周辺の画素についての同様の水平エッジ成分の値を用いて平滑化し、平滑化された水平エッジ成分を出力する水平エッジ成分平滑化手段と、
上記水平エッジ成分平滑化手段からの出力に対し、予め定められた水平エッジ成分用感度倍率を乗算、予め定められた水平エッジ成分用オフセット値を減算することにより、非線形変換を行い、非線形変換された水平エッジ成分を出力する水平エッジ成分非線形変換手段と、
上記水平エッジ成分非線形変換手段からの上記非線形変換された水平エッジ成分を所定の水平エッジ成分用閾値と比較し、上記水平エッジ成分が上記水平エッジ成分用閾値よりも大きいか否かを判定し、この判定結果を示す水平エッジ検出信号を出力する水平エッジ成分比較手段と、
上記垂直エッジ検出信号と、上記水平エッジ検出信号を合成してエッジ検出信号として出力するエッジ検出信号合成手段とをさらに備え、
上記合成手段の出力を、上記注目画素の近傍におけるエッジの存在を検出した結果である上記エッジ検出信号として出力することを特徴とする請求項6に記載の映像信号処理装置。
【請求項8】
上記微少動き量変換手段は、
上記非マッチング量算出手段からの上記非マッチング量の値に基づき、上記所定の動きの範囲内における非類似度に応じて変化し、上記微少な動きとして検出されるべき度合いを示す微少動き検出信号を生成する微少動き検出信号生成手段と、
上記エッジ検出手段からの上記エッジ検出信号を受け、上記エッジ検出信号が上記注目画素におけるエッジの存在を示す場合には、上記微少動き検出信号生成手段から出力される微少動き検出信号に応じた値を出力し、エッジが存在しない場合は所定の値を出力するように切り換え、これらの値を調整微少動き検出信号として出力するエッジ切換え手段とを備え、
上記エッジ切換え手段から出力される上記調整微少動き検出信号を、エッジ近傍での微少な動きを検出した結果として出力することを特徴とする請求項3に記載の映像信号処理装置。
【請求項9】
上記微少動き量変換手段は、
上記非マッチング量算出手段からの上記非マッチング量を所定の閾値と比較し、上記所定の閾値よりも大きいかどうかを示すレベルフラグ信号を出力するレベル比較手段をさらに備え、
上記微少動き検出信号生成手段は、上記レベルフラグ信号により上記非マッチング量が上記所定の閾値よりも大きいことが示される場合には、上記微少動き検出信号として、上記微少な動きが存在しないことを示すものを出力する
ことを特徴とする請求項8に記載の映像信号処理装置。
【請求項10】
上記動き情報検出手段は、
上記調整微少動き検出信号を、上記フレーム間差分検出手段からの上記フレーム間差分信号から減算することにより、
上記動き情報を生成し、これにより、上記調整微少動き検出信号が大きいほど、静止画と判定されやすくなるようにし、
上記映像信号における画像のエッジの付近に位置し、微少な動きを持つと判定された画素での上記動き情報を調整することを特徴とする請求項1乃至3のいずれか一項に記載の映像信号処理装置。
【請求項11】
上記フィルタ処理手段から出力される動き信号に応じて、飛び越し走査映像信号を順次走査映像信号に変換する動き適応走査線補間処理を行う映像信号処理装置であって、
上記入力映像信号における画素ごとの動き検出の結果に応じて、走査線補間信号を生成する動き適応補間処理手段と、
上記動き適応補間処理手段により生成される上記走査線補間信号に基づいて、順次走査映像信号を生成する倍速変換手段とをさらに備える
ことを特徴とする請求項1乃至10のいずれか一項に記載の映像信号処理装置。
【請求項12】
上記映像信号のフレーム間の相関のないノイズ成分を除去する3次元ノイズ除去を行う映像信号処理装置であって、
上記フィルタ処理手段から出力される動き信号に応じて、ノイズ除去の効果を制御する動き適応ノイズ除去手段をさらに備えることを特徴とする請求項1乃至10のいずれか一項に記載の映像信号処理装置。
【請求項13】
請求項11又は12に記載の映像信号処理装置と、
映像を表示する表示手段と、
上記映像信号処理装置から出力される映像信号に応じた画像を、上記表示手段に表示させる表示処理手段と
を備えたことを特徴とする映像表示装置。
【請求項14】
入力映像信号と、上記入力映像信号をフレーム遅延することで得られるフレーム遅延映像信号から、映像信号における動き検出を行う映像信号処理方法であって、
上記入力映像信号と上記フレーム遅延映像信号とに基づいて同じ画素についてのフレーム間の差分を求め、該差分を表すフレーム間差分信号を出力するフレーム間差分検出ステップと、
動き検出の対象としての注目画素を中心とする注目画素ブロックと、上記注目画素とは時間的に異なるフレーム内に位置し、それぞれ上記注目画素の周辺の所定の範囲内に位置する画素を中心とする複数の参照画素ブロックとの間の非類似度の算出を行うとともに、上記注目画素近傍での画像の輪郭であるエッジを検出し、上記非類似度算出の結果と上記エッジ検出の結果から、映像信号における画像の輪郭について、上記エッジ近傍での所定の大きさ以下の動きを微少な動きとして検出し、該微少な動きの検出結果に応じた値を調整微少動き検出信号として出力する微少動き検出ステップと、
上記調整微少動き検出信号により、上記フレーム間差分検出ステップからの上記フレーム間差分信号を調整し、画像の動き情報を求める動き情報検出ステップと、
上記動き情報に対し、フィルタ処理による補正を行い、動き検出結果としての動き信号を出力するフィルタ処理ステップと
を備えたこと特徴とする映像信号処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate


【公開番号】特開2010−130155(P2010−130155A)
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願番号】特願2008−300735(P2008−300735)
【出願日】平成20年11月26日(2008.11.26)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】