映像信号処理装置及び映像信号処理方法
【課題】2つのフレームの間に補間フレームを挿入してフレーム数を増加させる映像処理において、出力される映像に乱れが生じることを抑制可能な映像信号処理装置及び映像信号処理方法を提供する
【解決手段】2つのフレームのブロックマッチングにおいて、2つのフレームのうちの前フレームの画像のブロックと後フレームの画像のブロックとの対応する画素値どうしの差分絶対値のブロック全体にわたる総和である差分絶対値和が極小となるシフト量が、ブロックマッチングのサーチ範囲内に複数ある場合、ブロックマッチングで検出される動きベクトルは信頼性が低いと判定する。フレーム全体の中に、ブロックマッチングで検出される動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、検出された動きベクトルに基づく補間フレームの画像生成を行なわず、2つのフレームの画像のいずれか一方を補間フレームの画像とする。
【解決手段】2つのフレームのブロックマッチングにおいて、2つのフレームのうちの前フレームの画像のブロックと後フレームの画像のブロックとの対応する画素値どうしの差分絶対値のブロック全体にわたる総和である差分絶対値和が極小となるシフト量が、ブロックマッチングのサーチ範囲内に複数ある場合、ブロックマッチングで検出される動きベクトルは信頼性が低いと判定する。フレーム全体の中に、ブロックマッチングで検出される動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、検出された動きベクトルに基づく補間フレームの画像生成を行なわず、2つのフレームの画像のいずれか一方を補間フレームの画像とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像信号処理装置及び映像信号処理方法に関し、特に連続する2つのフレームの画像の間に補間フレームを挿入して映像信号のフレーム数を増やす映像信号処理装置及び映像信号処理方法に関する。
【背景技術】
【0002】
入力される映像信号の連続する2つのフレームの画像から画像の動きを表す動きベクトルを検出し、動きベクトルに基づいて2つのフレームの間に挿入する補間フレームを生成し、映像信号のフレーム数を増やすフレームレート変換技術がある。
【0003】
動きベクトルを検出する方式の一つとして、ブロックマッチング法がある。ブロックマッチング法では、2つのフレームのうちの前フレーム内のブロックと後フレーム内のブロックとの相関を、両ブロックの相対位置を所定範囲内でずらしながら計算し、最も相関の高かった相対位置から動きベクトルを算出する。画像内に例えば縞模様や格子パターン等の一定周期の繰り返しパターンの領域がある場合、繰り返しパターンの周期に一致する相対位置においてもブロックマッチングの相関が高くなる。最も相関が高かった相対位置が繰り返しパターンの周期に一致するものであった場合には、本来の画像の動きとは無関係の誤った動きベクトルが検出されてしまう。このような不適切な動きベクトルに基づいて生成された補間フレームの画像を2つのフレームの間に挿入してフレーム数を増やす映像処理を行なうと、大きく乱れた映像が生成される。また、背景と前景との動きが異なる映像のように画像内に異なる動きが共存する領域がある場合、それぞれの動きに対応する相対位置においてブロックマッチングの相関が高くなり、いずれかの動きに対応する相対位置から動きベクトルが検出されることになる。その動きベクトルに基づいて生成された補間フレームの画像を2つのフレームの間に挿入してフレーム数を増やす映像処理を行なうと、その他の動きの部分が乱れが生じた映像が生成される。
【0004】
この課題を解決するために、検出された動きベクトルの信頼性を判定する技術が提案されている。例えば、特許文献1には、ブロックマッチングの第1最大相関点の周囲を除外した部分から第2最大相関点を検出し、第2最大相関点が除外した部分に接していないという条件を基に、検出された動きベクトルの信頼性を判断する技術が記載されている。また、特許文献2には、ブロックマッチングのサーチ範囲をいくつかの領域に分割し、領域ごとに最大相関点を検出し、それら相関点の各々の相関値に基づいて、検出されたベクトルの信頼性を判断する技術が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平07−050815号公報
【特許文献2】特開2008−035404号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1に記載された技術では、第1最大相関点の周囲に第1最大相関点と同程度に高い相関点がある場合には、検出された動きベクトルの信頼性は低いと判定されない場合があった。また、特許文献2に記載された技術では、分割したサーチ範囲の同一領域内に前景の動きベクトルと背景の動きベクトルの最大相関点があった場合に、検出された動きベクトルの信頼性は低いと判定されない場合があった。そのため、不適切な動きベクトルに基づいて補間フレームが生成され、生成された補間フレームを用いてフレーム数変換処
理が行なわれることにより、出力映像に乱れが生じる場合があった。
【0007】
本発明は、2つのフレームの間に補間フレームを挿入してフレーム数を増加させる映像処理において、出力される映像に乱れが生じることを抑制可能な映像信号処理装置及び映像信号処理方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明に係る映像信号処理装置は、
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理装置であって、
前記2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出手段と、
前記算出手段により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出手段と、
前記算出手段により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出手段により検出される前記動きベクトルは信頼性が低いと判定する判定手段と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出手段により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成手段と、
を備えることを特徴とする。
【0009】
また、本発明に係る映像信号処理方法は、
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理方法であって、
映像信号を入力する工程と、
前記入力される映像信号の連続する2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出工程と、
前記算出工程により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出工程と、
前記算出工程により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出工程により検出される前記動きベクトルは信頼性が低いと判定する判定工程と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性は低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出工程により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成工程と、
を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、2つの連続するフレームの画像から検出した動きベクトルに基づいて補間フレームを生成してフレーム数を増加させる処理において、出力される映像に乱れが生じることを抑制することが可能となる。
【図面の簡単な説明】
【0011】
【図1】実施例1に係るフレームレート変換装置の概略構成を示すブロック図
【図2】フレーム0の画像のブロック分割の例を説明する図
【図3】ブロックマッチングの動きベクトルのサーチ範囲の例を示す図
【図4】差分絶対値和の分布の例を示す図
【図5】動きベクトルに基づく補間フレーム画像の生成方法の例を示す図
【図6】不適切な動きベクトルが検出されやすい画像の例
【図7】差分絶対値和の分布の例を示す図
【図8】差分絶対値和の分布の例を示す図
【図9】実施例1における複数ピーク検出部の構成を示すブロック図
【図10】差分絶対値和のピークの検出方法の例を示す図
【図11】実施例2における複数ピーク検出部の構成を示すブロック図
【図12】実施例3における複数ピーク検出部の構成を示すブロック図
【図13】実施例4における複数ピーク検出部の構成を示すブロック図
【図14】実施例5における複数ピーク検出部の構成を示すブロック図
【発明を実施するための形態】
【0012】
(実施例1)
以下、本発明の実施形態を図面を参照して説明する。図1は、本発明に係る映像信号処理装置の一実施形態を示すブロック構成図である。この映像信号処理装置は、入力される映像信号の連続する2つのフレームの間に補間フレームを挿入して映像信号のフレーム数を増加させるフレームレート変換装置である。このようなフレームレート変換装置は、例えば液晶モニタやデジタルテレビにテレビジョン信号やビデオカメラで撮影した動画のような動きのある映像を表示させる際に、より滑らかな動きの表示が得られるように映像信号を処理するために用いることができる。また、このような映像表示時のリアルタイムの映像処理だけでなく、映像編集時に既存の映像をフレームレートの高い映像に変換する映像処理にも用いることができる。本実施例のフレームレート変換装置は、単位時間あたりのフレーム数を増加させる処理だけでなく、単に映像のフレーム数を増加させる処理を行なうためにも用いることが可能である。
【0013】
図1に示すように、本実施例に係るフレームレート変換装置1は、ブロックバッファ10、ブロックバッファ11、差分絶対値和計算部12、動きベクトル検出部13、複数ピーク検出部14、補間画像生成部15で構成される。フレームレート変換装置1は、連続する2つのフレームの画像の入力を受け、2つのフレームの画像から動きベクトルを検出し、動きベクトルに基づいて2つのフレームの前フレームと後フレームの間に挿入する補間フレームの画像を生成し出力する。フレームレート変換装置1の前段には、例えばフレームメモリが設けられ、フレームメモリに保持された前フレームの画像がブロックバッファ10に入力される。
【0014】
<ブロックバッファ10>
ブロックバッファ10は、連続する2つのフレームのうち前フレーム(フレーム0という)の画像の特定領域の画像をブロックとして切り出し、ブロックデータ0として出力する。以下、図2に示すように、128ドット×96ドットのフレーム0の画像を32ドット×32ドットの12個の矩形のブロックに分割し、各ブロックをブロックデータ0とし
て出力
する場合を例に説明する。後述するように、各ブロックデータ0は、動きベクトルを検出
するための単位となる画像である。以下、ブロックバッファ10から出力されるブロックデータ0(以下、BD0とも表す)を、図2に示すブロック番号(n,m)(n=0〜3、m=0〜2)を用いて、BD0n,mと表す。また、ブロックデータBD0n,m内の水平座標i、垂直座標jにおける画素データを、BD0n,m(i,j)と表す。フレーム0の画像データをFD0とし、フレーム0の画像データFD0内の座標(x,y)における画素データをFD0(x,y)と表せば、ブロックデータ0内の座標(i,j)における画素データBD0n,m(i,j)は式(1)のように表わされる。
【0015】
<ブロックバッファ11>
ブロックバッファ11は、連続する2つのフレームのうちの後フレーム(フレーム1という)の画像からブロックデータ0と同一形状のブロックを切り出し、ブロックデータ1として出力する。フレーム1の画像からブロックデータ1を切り出す位置は、フレーム画像0からブロックデータ0を切り出した位置に対する相対位置が所定の範囲(サーチ範囲という)内のシフト量で表されるような位置である。フレーム1の画像からのブロックデータ1の切り出しは、サーチ範囲内の全てのシフト量について行なわれ、順次出力される。サーチ範囲は、検出する動きベクトルの大きさに応じて定める。例えば、検出する動きベクトルの大きさが水平±24ドット、垂直±15ドットの場合、サーチ範囲を水平方向±24ドット、垂直方向±15ドットと定める。そして、フレーム0の画像においてブロックデータ0を切り出した位置に対する相対位置が水平方向に±24ドット、垂直方向に±15ドットの範囲内のシフト量で表される位置において、フレーム1の画像からのブロックデータ1の切り出しが行なわれる。なお、ブロックデータ0がフレーム0の画像の端に近い位置にある場合、対応するブロックデータ1を切り出すべき位置がフレーム1からはみ出す場合があるが、はみ出した画素の値は例えば予め定めた固定値とする。この場合、水平方向及び垂直方向のシフト量の可能な組み合わせの数は1440であり、1つのブロックデータ0に対応して1440枚のブロックデータ1が出力される。
【0016】
図3に、1つのブロックデータ0と、それに対応して出力されるブロックデータ1の存在範囲と、を示す。図3において中央に描かれた1枚のブロックデータ0に対して、外側の実線で囲まれる範囲内で水平方向又は垂直方向が1ドットずつ位置がずれた1440枚のブロックデータ1が出力される。このようなブロックデータ1が、12枚のブロックデータ0の各々に対して出力される。
【0017】
ブロックデータ0(BD0n,m)に対応するシフト量(is,js)のブロックデータ1をBD1n,m(is,js)と表す。ブロックデータBD1n,m(is,js)内の水平座標i、垂直座標jにおける画素データをBD1n,m(i,j,is,js)と表す。フレーム1の画像データをFD1とし、フレーム1の画像データFD1内の座標(x,y)における画素データをFD1(x,y)とすれば、ブロックデータ1の画素BD1n,m(i,j,is,js)は式(2)のように表わされる。
【0018】
<差分絶対値和計算部12>
差分絶対値和計算部12は、入力されたブロックデータ0と、それに対応するシフト量
(is,js)のブロックデータ1と、対応する画素値どうしの差分絶対値を計算し、該ブロック内の全画素にわって差分絶対値の総和を計算する。この総和を差分絶対値和(SAD)という。ブロックデータ0(BD0n,m)と、それに対応するシフト量(is,js)のブロックデータ1(BD1n,m(is,js))と、の差分絶対値和をSADn,m(is,js)と表せば、SADn,m(is,js)は以下の式(3)で表される。
差分絶対値和計算部12は、各ブロックデータ0について、サーチ範囲内のシフト量毎に差分絶対値和を計算する。本実施例の差分絶対値和計算部12は、本発明における「算出手段」に相当する。これにより、各ブロックデータ0について、差分絶対値和の分布が得られる。図4は、本実施例における差分絶対値和の分布例を、シフト量に対応するis−js平面上の各点において高さ方向に差分絶対値和の値をプロットすることによって可視化した図である。
【0019】
<動きベクトル検出部13>
差分絶対値和はブロックデータ0とそれに対応するブロックデータ1との相違の度合いを表す。差分絶対値和SADn,m(is,js)の値が小さいほど、ブロックデータBD0n,mとそれに対応するシフト量(is,js)のブロックデータBD1n,m(is,js)との相関は高い。差分絶対値和の分布において差分絶対値和の値が比較的小さくなっている箇所を相関点という。ブロックデータ0の位置からブロックデータ1の位置へのシフト量が、ブロックデータ0の画像とブロックデータ1の画像との間の動きベクトルに一致するとき、ブロックデータ0とブロックデータ1との相関は高くなる。そこで動きベクトル検出部13は、差分絶対値和が最小となるシフト量(is,js)に基づいて動きベクトルを検出する。本実施例では、サーチ範囲内の全てのシフト量(is,js)について差分絶対値和を求め、ブロックデータ0とブロックデータ1との相関度合が最も高くなるシフト量を探索することによりブロックマッチングが行なわれる。本実施例の動きベクトル検出部13が、本発明における「動きベクトル検出手段」に相当する。
【0020】
例えば、フレーム0の画像とフレーム1の画像との間の動きが、平行移動のような単純な動きの場合には、差分絶対値和の分布は、図4に示すように、鋭いピークを有する分布となり、このピークにおいて差分絶対値和は最小値となる。従って、動きベクトル検出部13は、このピークとなっている差分絶対値和に対応するシフト量(is,js)に基づいて動きベクトルを検出する。
【0021】
<補間画像生成部15>
補間画像生成部15は、動きベクトル検出部13から入力される動きベクトルに基づいて、フレーム0画像とフレーム1画像からそれらの中間に挿入すべき補間フレームの画像を生成し出力する。補間フレームの画像の生成方法の例を図5に基づいて説明する。図5の例では、動きベクトルを(Vx、Vy)とし、生成すべき補間フレームの画像の画素Pの座標を(x,y)とする。このとき、画素Pは、座標(x,y)に対する相対位置が(−Vx/2、―Vy/2)であるフレーム0の画素A0と、座標(x,y)に対する相対位置が(Vx/2、Vy/2)であるフレーム1画像の画素A1と、の平均値を算出することで生成する。本実施例の補間画像生成部15が、本発明における「生成手段」に相当する。
【0022】
<動きベクトルの誤検出(繰り返しパターン)>
ところで、図6の右側の領域のように繰り返しパターンがある画像では、繰り返しパタ
ーンの周期と一致するシフト量においてブロックデータ0とブロックデータ1との相関が高くなる。従って、差分絶対値和の分布において、動きベクトルに一致するシフト量だけでなく、繰り返しパターンの周期に一致するシフト量においても、差分絶対値和が小さい値となる。従って、ブロックマッチングにおいて相関が高くなるシフト量が複数現われる。上述のように、動きベクトル検出部13は、差分絶対値和の値が最小となるシフト量を動きベクトルとして検出する。そのため、繰り返しパターンの周期に対応するシフト量における差分絶対値和が、動きベクトルに対応するシフト量における差分絶対値和より小さい場合、繰り返しパターンの周期に対応するシフト量を動きベクトルとして誤検出してしまう。
【0023】
繰り返しパターンがある画像における差分絶対値和の分布例を図7に示す。図7において、相関点Aが動きベクトルに対応するシフト量における差分絶対値和を表し、相関点Bが繰り返しパターンの周期に対応するシフト量における差分絶対値和を表す。相関点Aにおける差分絶対値和よりも相関点Bにおける差分絶対値和の方が小さくなっている場合、相関点Bに対応するシフト量が動きベクトルとして検出されることになる。すなわち、繰り返しパターンの周期に対応する、本来の画像の動きとは無関係のシフト量が、動きベクトルとして誤検出される。そして、このように誤検出された動きベクトルに基づいて補間フレームの画像が生成され、生成された補間フレームがフレーム0とフレーム1との間に挿入される。
【0024】
例えば、相関点Aに対応するシフト量、すなわち本来の動きベクトルが(0,0)、相関点Bに対応するシフト量、すなわち繰り返しパターンの周期が(L,0)であるとすると、動きベクトル検出部13によって検出される動きベクトルは(L,0)となる。従って、補間フレームの画像の各画素は、その座標に対して相対位置(−L/2,0)にあるフレーム0画像の画素と、その座標に対して相対位置(L/2,0)にあるフレーム1画像の画素と、の平均値により生成される。しかしながら、画像の動きに対応する動きベクトルは(0,0)であり、この場合実際には画像に動きは無い。従って、生成された補間フレームがフレーム0とフレーム1との間に挿入されることにより、フレームレート変換後の映像は大きく乱れたものとなってしまう。
【0025】
<動きベクトルの誤検出(異なる動きの共存)>
また、図6の左側の領域のように異なる動きが画像内で共存している画像では、それぞれの動きを示す動きベクトルに対応するシフト量において、ブロックデータ0とブロックデータ1との相関が高くなる。従って、差分絶対値和の分布において、それぞれの動きベクトルに対応するシフト量において差分絶対値和が小さい値となる。そのため、ブロックマッチングにおいて相関が高くなるシフト量が複数現われる。そして、差分絶対値和の値が最小となっているシフト量が動きベクトルとして検出されることになる。
【0026】
図6の左側の領域のように、前景と背景とで動きが異なる画像における差分絶対値和の分布例を図8に示す。図8において、相関点Aが前景の動きベクトルに対応するシフト量における差分絶対値和を表し、相関点Bが背景の動きベクトルに対応するシフト量における差分絶対値和を表す。相関点Aにおける差分絶対値和が相関点Bにおける差分絶対値和より小さい場合、相関点Aに対応するシフト量が動きベクトルとして検出される。そして、この検出された動きベクトルに基づいて補間フレームの画像が生成され、生成された補間フレームがフレーム0とフレーム1との間に挿入される。このようにして生成されたフレームレート変換後の映像は、前景の動きについては滑らかに表示されるものの、背景については大きく乱れたものとなってしまう。
【0027】
<複数ピーク検出部14>
このように、フレームレート変換により乱れた映像が生成されることを抑制するための
、本実施例の映像信号処理装置に特有の構成について以下説明する。複数ピーク検出部14は、動きベクトル検出部13によって検出される動きベクトルの信頼性を判断し、検出される動きベクトルの信頼性が低いと判断される場合には、検出された動きベクトルに基づく補間フレームの画像生成を抑制する信号を出力する。図9に複数ピーク検出部14の構成図を示す。複数ピーク検出部14は、ピーク検出部16、比較部17、カウント部18、判定部19で構成される。
【0028】
<ピーク検出部16>
ピーク検出部16は、差分絶対値和計算部12からの差分絶対値和の入力を受けて、差分絶対値和の極小ピークを検出する。ピーク検出部16による差分絶対値和のピークの検出方法の例について図10に基づいて説明する。図10は、あるブロックデータ0について算出された各シフト量における差分絶対値和を、ブロックマッチングのサーチ範囲内の対応する位置に記して可視化した分布図である。サーチ範囲は、本実施例では−24≦is≦+24、−15≦js≦+15だが、図10では簡単のため−5≦is≦+5、−2≦js≦+2の範囲のみを拡大して示している。
【0029】
ピーク検出部16は、注目するシフト量における差分絶対値和と、それに隣接する8箇所のシフト量における差分絶対値和とを比較する。そして、注目するシフト量における差分絶対値和が最小であった場合に、その差分絶対値和をピークと判定する。図10に示す例では、2重線で囲まれた3箇所の差分絶対値和10、20及び75がピークと判定される。
【0030】
なお、ピークの判定方法は、差分絶対値和の分布において極小値となっている差分絶対値和(極大相関点という)を検出することができれば、上述した方法に限られない。例えば、注目するシフト量における差分絶対値和が、該シフト量に水平方向又は垂直方向に隣接する4箇所のシフト量における差分絶対値和より小さい場合に、該注目するシフト量における差分絶対値和をピークと判定しても良い。また、注目するシフト量における差分絶対値和が、該シフト量に隣接する8箇所のシフト量及びその外側にある16箇所のシフト量における差分絶対値和より小さい場合に、該注目するシフト量における差分絶対値和をピークと判定しても良い。
【0031】
<比較部17>
ブロックマッチングの相関度合が低いシフト量における差分絶対値和であっても、ピーク検出部16によってピークとして検出されることがある。このような相関度合の低いピークは、サーチ範囲内におけるブロックマッチングの相関が低い領域内でランダムに発生し得る。そこで、比較部17は、ピーク検出部16によってピークと判定された差分絶対値和の値を所定の閾値(複数ピーク検出閾値という)と比較し、複数ピーク検出閾値以下のピークを有効なピークと判定する。例えば、複数ピーク検出閾値を50とした場合、図10の例では、検出された3つのピーク(差分絶対値和10、20及び75)のうち、差分絶対値和10及び20の2つのピークが有効なピークと判定される。比較部17により、ピーク検出部16が検出したピークのうちブロックマッチングで一定以上の相関があるピークが抽出される。本実施例の複数ピーク検出閾値は、本発明における「閾値」に相当する。
【0032】
<カウント部18>
カウント部18では、サーチ範囲内に有効なピークがいくつあったかをカウントする。そして、カウント値が2以上の場合には、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。繰り返しパターンや異なる動きが共存する画像を含むブロックデータの場合、サーチ範囲内に2以上の有効なピークが検出される可能性が高いので、ブロックマッチングによって検出された動きベクトルの信
頼性は低いと判定されることになる。
【0033】
<判定部19>
判定部19は、フレーム0の画像を構成する全てのブロックデータのうちに、動きベクトル検出部13によって検出された動きベクトルは信頼性が低いと判定されたブロックデータが所定割合以上あるか否かを判定する。そして、判定部19は、検出された動きベクトルの信頼性が低いと判定されたブロックデータが所定割合以上あった場合、検出された動きベクトルに基づいて補間フレームの画像を生成することを禁止する信号を出力する。
【0034】
補間画像生成部15は、判定部19から上記禁止信号を受信した場合は、動きベクトル検出部13が検出した動きベクトルに基づく補間フレームの画像生成をせずに、フレーム0画像又はフレーム1画像を補間フレームの画像として出力する。すなわち、この場合、フレーム0とフレーム1の間に、補間フレームとして、フレーム0画像又はフレーム1画像を挿入することによって、フレームレートを増加させる処理が行なわれる。これにより、ブロックマッチングにより不適切な動きベクトルが検出される可能性が高い画像については、ブロックマッチングで検出された動きベクトルに基づく補間フレームの生成は行なわれない。従って、画像内に繰り返しパターンを含む領域や異なる複数の動きが共存する領域があるような映像信号に対しても、フレームレート変換後の映像に乱れが生じることを抑制しつつ、フレームレート変換処理を行なうことが可能となる。ブロックマッチングのサーチ範囲内に有効なピークが1つしかない場合には、当該ピークに対応するシフト量から検出される動きベクトルはブロックデータ間の画像の動きを正しく示す適切な動きベクトルであると考えられる。従って、この場合、補間画像生成部15は、上述したように、動きベクトル検出部13により検出された動きベクトル、ブロックデータ0及びブロックデータ1に基づいて補間フレームの画像を生成する。
【0035】
なお、本実施例では、サーチ範囲内に有効なピークが複数有る場合に、検出される動きベクトルの信頼性は低いと判定する例について説明したが、単にサーチ範囲内にピークが複数有る場合に、検出される動きベクトルの信頼性が低いと判定するようにしても良い。
【0036】
(実施例2)
図11は、実施例2における複数ピーク検出部14のブロック構成図である。実施例2の複数ピーク検出部14は、ピーク検出部16、比較部17、判定部19、第1最小ピーク値メモリ部20、第2最小ピーク値メモリ部21で構成される。本実施例では、ピーク検出部16で検出したピークのうち差分絶対値和の値が2番目に小さいピークの差分絶対値和の値に基づいて、動きベクトル検出部13で検出した動きベクトルの信頼性を判定する。複数ピーク検出部14以外の構成は実施例1と同じなので説明を割愛し、複数ピーク検出部14についてのみ以下説明する。
本実施例のピーク検出部16、判定部19の動作は実施例1と同じである。
【0037】
<第1最小ピーク値メモリ部20>
第1最小ピーク値メモリ部20は、サーチ範囲内に存在する全てのピークのうち、差分絶対値和が最小のピーク(第1最小ピークという)の差分絶対値和(第1最小差分絶対値和という)を記憶する。ピーク検出部16によるブロック毎のピークの検出が続けられる間、第1最小ピーク値メモリ部20に記憶される差分絶対値和は、既に検出されたピークのうち差分絶対値和が最小のピークの差分絶対値和で更新されていく。ピーク検出部16によるピークの検出が完了した時点で、第1最小ピーク値メモリ部20には、第1最小差分絶対値和が記憶されていることになる。
【0038】
<第2最小ピーク値メモリ部21>
第2最小ピーク値メモリ部21は、サーチ範囲内に存在する全てのピークのうち、差分
絶対値和が2番目に小さいピーク(第2最小ピークという)の差分絶対値和(第2最小差分絶対値和という)を記憶する。ピーク検出部16によるブロック毎のピークの検出が続けられる間、第2最小ピーク値メモリ部21に記憶される差分絶対値和は、既に検出されたピークのうち差分絶対値和が2番目に小さいピークの差分絶対値和で更新されていく。ピーク検出部16によるピークの検出が完了した時点で、第2最小ピーク値メモリ部21には、第2最小差分絶対値和が記憶されていることになる。
【0039】
具体的な処理フローを説明する。ピーク検出部16によって新たなピークが検出されると、該ピークの差分絶対値和SADnewが第1最小ピーク値メモリ部20及び第2最小ピーク値メモリ部21に入力される。そして、入力された差分絶対値和SADnewと、第1最小ピーク値メモリ部20に記憶されている差分絶対値和SADmin1と、第2最小ピーク値メモリ部21に記憶されている差分絶対値和SADmin2と、の比較が行なわれる。
(イ)入力された値が第1最小ピーク値メモリ部20の値よりも小さい場合(SADnew<SADmin1)、第2最小ピーク値メモリ部21の値が、第1最小ピーク値メモリ部20の値SADmin1で更新される。また、第1最小ピーク値メモリ部20の値が、入力された値SADnewで更新される。
(ロ)入力された値が第1最小ピーク値メモリ部20の値以上で、且つ第2最小ピーク値メモリ部21の値よりも小さい場合(SADmin1≦SADnew<SADmin2)、第2最小ピーク値メモリ部21の値が、入力された値SADnewで更新される。
【0040】
このような処理フローを繰り返すことにより、あるブロックについてピーク検出部16によるピークの検出が完了した時点で、第1最小差分絶対値和と第2最小差分絶対値和が得られる。図10の例では、第1最小差分絶対値和は10、第2最小差分絶対値和は20となる。
【0041】
<比較部17>
比較部17は、第2最小差分絶対値和を複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。図10の例では、第2最小差分絶対値和は20であり、複数ピーク検出閾値を実施例1と同様50とすれば、図10のブロックについては動きベクトル検出部13で検出される動きベクトルは信頼性が低いと判定されることになる。
なお、第2最小ピークが無かった場合には、サーチ範囲内にピークが1つしか存在しないことを意味する。従ってこの場合、比較部17は、動きベクトル検出部13によって検出される動きベクトルは信頼できると判定する。また、第1最小ピークが無かった場合は、サーチ範囲の端に差分絶対値和の最小点があることになり、それはサーチ範囲内にピークが存在しないことを意味する。従ってこの場合、比較部17は、動きベクトル検出部13によって検出される動きベクトルの信頼性は低いと判定する。
【0042】
実施例2の構成によれば、不適切な動きベクトルが誤検出される可能性が高い画像については、ブロックマッチングで検出された動きベクトルに基づく補間フレームの生成は行なわれない。従って、そのような画像を含む映像信号に対して、2つのフレームの間に補間フレームを挿入するフレームレート変換処理を行なっても、変換後の映像に乱れが生じることを精度良く抑制することが可能となる。
【0043】
(実施例3)
実施例1及び実施例2では、複数ピーク検出閾値を固定値として比較部17に入力する例を説明したが、画像により差分絶対値和のピークにおける値は異なる。例えばノイズの多い画像では、ノイズの影響でブロックマッチングの相関が全体的に低くなるため、差分
絶対値和の分布は鈍いピークを有する分布になり、ピークにおける差分絶対値和の値は平均値に近くなる。そこで実施例3では、画像に応じて複数ピーク検出閾値を適応的に設定する。複数ピーク検出部14以外の構成は実施例1と同じなので説明を割愛し、複数ピーク検出部14についてのみ以下説明する。
図12は、実施例3における複数ピーク検出部14のブロック構成図である。実施例3の複数ピーク検出部14は、実施例2における複数ピーク検出部14の構成に、閾値算出部22を追加して構成される。閾値算出部22は、第1最小ピーク値メモリ部20から第1最小差分絶対値和の入力を受け、以下の式(4)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+α(αは固定定数)・・・(4)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0044】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例3の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【0045】
(実施例4)
実施例3の様に2つのフレームの全体的な相関度合に対して適応的に複数ピーク検出閾値を設定する方法として、サーチ範囲内の最大の差分絶対値和(最大差分絶対値和という)に応じて複数ピーク検出閾値を設定しても良い。
【0046】
図13は、実施例4における複数ピーク検出部14のブロック構成図である。実施例4の複数ピーク検出部14は、実施例3における複数ピーク検出部14の構成に、最大値メモリ部23を追加して構成される。
最大値メモリ部23は、ブロック毎のブロックマッチングにおいて差分絶対値和の算出が続けられる間、既に算出された差分絶対値和のうち最大の値を記憶する。具体的な処理フローは、新たに入力された差分絶対値和の値が最大値メモリ部23に記憶されている値より大きい場合、入力された差分絶対値和によって最大値メモリ部23の値を更新する。
閾値算出部22は、最大値メモリ部23からの最大差分絶対値和の入力及び第1最小ピーク値メモリ部20からの第1最小差分絶対値和の入力を受け、以下の式(5)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+(最大差分絶対値和−第1最小差分絶対値和)×α(αは0<α<1の値)・・・(5)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0047】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例4の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【0048】
(実施例5)
実施例3の様に2つのフレームの全体的な相関度合に応じて適応的に複数ピーク検出閾値を設定する方法として、サーチ範囲内の差分絶対値和の平均値(差分絶対値和平均という)に応じて複数ピーク検出閾値を設定しても良い。
【0049】
図14は、実施例5における複数ピーク検出部14のブロック構成図である。実施例5の複数ピーク検出部14は、実施例3における複数ピーク検出部14の構成に、平均値算出部24を追加して構成される。
平均値算出部24は、サーチ範囲内の差分絶対値和の平均値を算出し出力する。
閾値算出部22は、平均値算出部24からの差分絶対値和平均の入力及び第1最小ピーク値メモリ部20からの第1最小差分絶対値和の入力を受け、以下の式(6)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+(差分絶対値和平均−第1最小差分絶対値和)×α(αは0<α<1の値)・・・(6)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0050】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例5の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【符号の説明】
【0051】
10:ブロックバッファ、11:ブロックバッファ、12:差分絶対値和計算部、13:動きベクトル検出部、14:複数ピーク検出部、15:補間画像生成部
【技術分野】
【0001】
本発明は、映像信号処理装置及び映像信号処理方法に関し、特に連続する2つのフレームの画像の間に補間フレームを挿入して映像信号のフレーム数を増やす映像信号処理装置及び映像信号処理方法に関する。
【背景技術】
【0002】
入力される映像信号の連続する2つのフレームの画像から画像の動きを表す動きベクトルを検出し、動きベクトルに基づいて2つのフレームの間に挿入する補間フレームを生成し、映像信号のフレーム数を増やすフレームレート変換技術がある。
【0003】
動きベクトルを検出する方式の一つとして、ブロックマッチング法がある。ブロックマッチング法では、2つのフレームのうちの前フレーム内のブロックと後フレーム内のブロックとの相関を、両ブロックの相対位置を所定範囲内でずらしながら計算し、最も相関の高かった相対位置から動きベクトルを算出する。画像内に例えば縞模様や格子パターン等の一定周期の繰り返しパターンの領域がある場合、繰り返しパターンの周期に一致する相対位置においてもブロックマッチングの相関が高くなる。最も相関が高かった相対位置が繰り返しパターンの周期に一致するものであった場合には、本来の画像の動きとは無関係の誤った動きベクトルが検出されてしまう。このような不適切な動きベクトルに基づいて生成された補間フレームの画像を2つのフレームの間に挿入してフレーム数を増やす映像処理を行なうと、大きく乱れた映像が生成される。また、背景と前景との動きが異なる映像のように画像内に異なる動きが共存する領域がある場合、それぞれの動きに対応する相対位置においてブロックマッチングの相関が高くなり、いずれかの動きに対応する相対位置から動きベクトルが検出されることになる。その動きベクトルに基づいて生成された補間フレームの画像を2つのフレームの間に挿入してフレーム数を増やす映像処理を行なうと、その他の動きの部分が乱れが生じた映像が生成される。
【0004】
この課題を解決するために、検出された動きベクトルの信頼性を判定する技術が提案されている。例えば、特許文献1には、ブロックマッチングの第1最大相関点の周囲を除外した部分から第2最大相関点を検出し、第2最大相関点が除外した部分に接していないという条件を基に、検出された動きベクトルの信頼性を判断する技術が記載されている。また、特許文献2には、ブロックマッチングのサーチ範囲をいくつかの領域に分割し、領域ごとに最大相関点を検出し、それら相関点の各々の相関値に基づいて、検出されたベクトルの信頼性を判断する技術が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平07−050815号公報
【特許文献2】特開2008−035404号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1に記載された技術では、第1最大相関点の周囲に第1最大相関点と同程度に高い相関点がある場合には、検出された動きベクトルの信頼性は低いと判定されない場合があった。また、特許文献2に記載された技術では、分割したサーチ範囲の同一領域内に前景の動きベクトルと背景の動きベクトルの最大相関点があった場合に、検出された動きベクトルの信頼性は低いと判定されない場合があった。そのため、不適切な動きベクトルに基づいて補間フレームが生成され、生成された補間フレームを用いてフレーム数変換処
理が行なわれることにより、出力映像に乱れが生じる場合があった。
【0007】
本発明は、2つのフレームの間に補間フレームを挿入してフレーム数を増加させる映像処理において、出力される映像に乱れが生じることを抑制可能な映像信号処理装置及び映像信号処理方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明に係る映像信号処理装置は、
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理装置であって、
前記2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出手段と、
前記算出手段により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出手段と、
前記算出手段により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出手段により検出される前記動きベクトルは信頼性が低いと判定する判定手段と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出手段により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成手段と、
を備えることを特徴とする。
【0009】
また、本発明に係る映像信号処理方法は、
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理方法であって、
映像信号を入力する工程と、
前記入力される映像信号の連続する2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出工程と、
前記算出工程により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出工程と、
前記算出工程により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出工程により検出される前記動きベクトルは信頼性が低いと判定する判定工程と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性は低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出工程により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成工程と、
を有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、2つの連続するフレームの画像から検出した動きベクトルに基づいて補間フレームを生成してフレーム数を増加させる処理において、出力される映像に乱れが生じることを抑制することが可能となる。
【図面の簡単な説明】
【0011】
【図1】実施例1に係るフレームレート変換装置の概略構成を示すブロック図
【図2】フレーム0の画像のブロック分割の例を説明する図
【図3】ブロックマッチングの動きベクトルのサーチ範囲の例を示す図
【図4】差分絶対値和の分布の例を示す図
【図5】動きベクトルに基づく補間フレーム画像の生成方法の例を示す図
【図6】不適切な動きベクトルが検出されやすい画像の例
【図7】差分絶対値和の分布の例を示す図
【図8】差分絶対値和の分布の例を示す図
【図9】実施例1における複数ピーク検出部の構成を示すブロック図
【図10】差分絶対値和のピークの検出方法の例を示す図
【図11】実施例2における複数ピーク検出部の構成を示すブロック図
【図12】実施例3における複数ピーク検出部の構成を示すブロック図
【図13】実施例4における複数ピーク検出部の構成を示すブロック図
【図14】実施例5における複数ピーク検出部の構成を示すブロック図
【発明を実施するための形態】
【0012】
(実施例1)
以下、本発明の実施形態を図面を参照して説明する。図1は、本発明に係る映像信号処理装置の一実施形態を示すブロック構成図である。この映像信号処理装置は、入力される映像信号の連続する2つのフレームの間に補間フレームを挿入して映像信号のフレーム数を増加させるフレームレート変換装置である。このようなフレームレート変換装置は、例えば液晶モニタやデジタルテレビにテレビジョン信号やビデオカメラで撮影した動画のような動きのある映像を表示させる際に、より滑らかな動きの表示が得られるように映像信号を処理するために用いることができる。また、このような映像表示時のリアルタイムの映像処理だけでなく、映像編集時に既存の映像をフレームレートの高い映像に変換する映像処理にも用いることができる。本実施例のフレームレート変換装置は、単位時間あたりのフレーム数を増加させる処理だけでなく、単に映像のフレーム数を増加させる処理を行なうためにも用いることが可能である。
【0013】
図1に示すように、本実施例に係るフレームレート変換装置1は、ブロックバッファ10、ブロックバッファ11、差分絶対値和計算部12、動きベクトル検出部13、複数ピーク検出部14、補間画像生成部15で構成される。フレームレート変換装置1は、連続する2つのフレームの画像の入力を受け、2つのフレームの画像から動きベクトルを検出し、動きベクトルに基づいて2つのフレームの前フレームと後フレームの間に挿入する補間フレームの画像を生成し出力する。フレームレート変換装置1の前段には、例えばフレームメモリが設けられ、フレームメモリに保持された前フレームの画像がブロックバッファ10に入力される。
【0014】
<ブロックバッファ10>
ブロックバッファ10は、連続する2つのフレームのうち前フレーム(フレーム0という)の画像の特定領域の画像をブロックとして切り出し、ブロックデータ0として出力する。以下、図2に示すように、128ドット×96ドットのフレーム0の画像を32ドット×32ドットの12個の矩形のブロックに分割し、各ブロックをブロックデータ0とし
て出力
する場合を例に説明する。後述するように、各ブロックデータ0は、動きベクトルを検出
するための単位となる画像である。以下、ブロックバッファ10から出力されるブロックデータ0(以下、BD0とも表す)を、図2に示すブロック番号(n,m)(n=0〜3、m=0〜2)を用いて、BD0n,mと表す。また、ブロックデータBD0n,m内の水平座標i、垂直座標jにおける画素データを、BD0n,m(i,j)と表す。フレーム0の画像データをFD0とし、フレーム0の画像データFD0内の座標(x,y)における画素データをFD0(x,y)と表せば、ブロックデータ0内の座標(i,j)における画素データBD0n,m(i,j)は式(1)のように表わされる。
【0015】
<ブロックバッファ11>
ブロックバッファ11は、連続する2つのフレームのうちの後フレーム(フレーム1という)の画像からブロックデータ0と同一形状のブロックを切り出し、ブロックデータ1として出力する。フレーム1の画像からブロックデータ1を切り出す位置は、フレーム画像0からブロックデータ0を切り出した位置に対する相対位置が所定の範囲(サーチ範囲という)内のシフト量で表されるような位置である。フレーム1の画像からのブロックデータ1の切り出しは、サーチ範囲内の全てのシフト量について行なわれ、順次出力される。サーチ範囲は、検出する動きベクトルの大きさに応じて定める。例えば、検出する動きベクトルの大きさが水平±24ドット、垂直±15ドットの場合、サーチ範囲を水平方向±24ドット、垂直方向±15ドットと定める。そして、フレーム0の画像においてブロックデータ0を切り出した位置に対する相対位置が水平方向に±24ドット、垂直方向に±15ドットの範囲内のシフト量で表される位置において、フレーム1の画像からのブロックデータ1の切り出しが行なわれる。なお、ブロックデータ0がフレーム0の画像の端に近い位置にある場合、対応するブロックデータ1を切り出すべき位置がフレーム1からはみ出す場合があるが、はみ出した画素の値は例えば予め定めた固定値とする。この場合、水平方向及び垂直方向のシフト量の可能な組み合わせの数は1440であり、1つのブロックデータ0に対応して1440枚のブロックデータ1が出力される。
【0016】
図3に、1つのブロックデータ0と、それに対応して出力されるブロックデータ1の存在範囲と、を示す。図3において中央に描かれた1枚のブロックデータ0に対して、外側の実線で囲まれる範囲内で水平方向又は垂直方向が1ドットずつ位置がずれた1440枚のブロックデータ1が出力される。このようなブロックデータ1が、12枚のブロックデータ0の各々に対して出力される。
【0017】
ブロックデータ0(BD0n,m)に対応するシフト量(is,js)のブロックデータ1をBD1n,m(is,js)と表す。ブロックデータBD1n,m(is,js)内の水平座標i、垂直座標jにおける画素データをBD1n,m(i,j,is,js)と表す。フレーム1の画像データをFD1とし、フレーム1の画像データFD1内の座標(x,y)における画素データをFD1(x,y)とすれば、ブロックデータ1の画素BD1n,m(i,j,is,js)は式(2)のように表わされる。
【0018】
<差分絶対値和計算部12>
差分絶対値和計算部12は、入力されたブロックデータ0と、それに対応するシフト量
(is,js)のブロックデータ1と、対応する画素値どうしの差分絶対値を計算し、該ブロック内の全画素にわって差分絶対値の総和を計算する。この総和を差分絶対値和(SAD)という。ブロックデータ0(BD0n,m)と、それに対応するシフト量(is,js)のブロックデータ1(BD1n,m(is,js))と、の差分絶対値和をSADn,m(is,js)と表せば、SADn,m(is,js)は以下の式(3)で表される。
差分絶対値和計算部12は、各ブロックデータ0について、サーチ範囲内のシフト量毎に差分絶対値和を計算する。本実施例の差分絶対値和計算部12は、本発明における「算出手段」に相当する。これにより、各ブロックデータ0について、差分絶対値和の分布が得られる。図4は、本実施例における差分絶対値和の分布例を、シフト量に対応するis−js平面上の各点において高さ方向に差分絶対値和の値をプロットすることによって可視化した図である。
【0019】
<動きベクトル検出部13>
差分絶対値和はブロックデータ0とそれに対応するブロックデータ1との相違の度合いを表す。差分絶対値和SADn,m(is,js)の値が小さいほど、ブロックデータBD0n,mとそれに対応するシフト量(is,js)のブロックデータBD1n,m(is,js)との相関は高い。差分絶対値和の分布において差分絶対値和の値が比較的小さくなっている箇所を相関点という。ブロックデータ0の位置からブロックデータ1の位置へのシフト量が、ブロックデータ0の画像とブロックデータ1の画像との間の動きベクトルに一致するとき、ブロックデータ0とブロックデータ1との相関は高くなる。そこで動きベクトル検出部13は、差分絶対値和が最小となるシフト量(is,js)に基づいて動きベクトルを検出する。本実施例では、サーチ範囲内の全てのシフト量(is,js)について差分絶対値和を求め、ブロックデータ0とブロックデータ1との相関度合が最も高くなるシフト量を探索することによりブロックマッチングが行なわれる。本実施例の動きベクトル検出部13が、本発明における「動きベクトル検出手段」に相当する。
【0020】
例えば、フレーム0の画像とフレーム1の画像との間の動きが、平行移動のような単純な動きの場合には、差分絶対値和の分布は、図4に示すように、鋭いピークを有する分布となり、このピークにおいて差分絶対値和は最小値となる。従って、動きベクトル検出部13は、このピークとなっている差分絶対値和に対応するシフト量(is,js)に基づいて動きベクトルを検出する。
【0021】
<補間画像生成部15>
補間画像生成部15は、動きベクトル検出部13から入力される動きベクトルに基づいて、フレーム0画像とフレーム1画像からそれらの中間に挿入すべき補間フレームの画像を生成し出力する。補間フレームの画像の生成方法の例を図5に基づいて説明する。図5の例では、動きベクトルを(Vx、Vy)とし、生成すべき補間フレームの画像の画素Pの座標を(x,y)とする。このとき、画素Pは、座標(x,y)に対する相対位置が(−Vx/2、―Vy/2)であるフレーム0の画素A0と、座標(x,y)に対する相対位置が(Vx/2、Vy/2)であるフレーム1画像の画素A1と、の平均値を算出することで生成する。本実施例の補間画像生成部15が、本発明における「生成手段」に相当する。
【0022】
<動きベクトルの誤検出(繰り返しパターン)>
ところで、図6の右側の領域のように繰り返しパターンがある画像では、繰り返しパタ
ーンの周期と一致するシフト量においてブロックデータ0とブロックデータ1との相関が高くなる。従って、差分絶対値和の分布において、動きベクトルに一致するシフト量だけでなく、繰り返しパターンの周期に一致するシフト量においても、差分絶対値和が小さい値となる。従って、ブロックマッチングにおいて相関が高くなるシフト量が複数現われる。上述のように、動きベクトル検出部13は、差分絶対値和の値が最小となるシフト量を動きベクトルとして検出する。そのため、繰り返しパターンの周期に対応するシフト量における差分絶対値和が、動きベクトルに対応するシフト量における差分絶対値和より小さい場合、繰り返しパターンの周期に対応するシフト量を動きベクトルとして誤検出してしまう。
【0023】
繰り返しパターンがある画像における差分絶対値和の分布例を図7に示す。図7において、相関点Aが動きベクトルに対応するシフト量における差分絶対値和を表し、相関点Bが繰り返しパターンの周期に対応するシフト量における差分絶対値和を表す。相関点Aにおける差分絶対値和よりも相関点Bにおける差分絶対値和の方が小さくなっている場合、相関点Bに対応するシフト量が動きベクトルとして検出されることになる。すなわち、繰り返しパターンの周期に対応する、本来の画像の動きとは無関係のシフト量が、動きベクトルとして誤検出される。そして、このように誤検出された動きベクトルに基づいて補間フレームの画像が生成され、生成された補間フレームがフレーム0とフレーム1との間に挿入される。
【0024】
例えば、相関点Aに対応するシフト量、すなわち本来の動きベクトルが(0,0)、相関点Bに対応するシフト量、すなわち繰り返しパターンの周期が(L,0)であるとすると、動きベクトル検出部13によって検出される動きベクトルは(L,0)となる。従って、補間フレームの画像の各画素は、その座標に対して相対位置(−L/2,0)にあるフレーム0画像の画素と、その座標に対して相対位置(L/2,0)にあるフレーム1画像の画素と、の平均値により生成される。しかしながら、画像の動きに対応する動きベクトルは(0,0)であり、この場合実際には画像に動きは無い。従って、生成された補間フレームがフレーム0とフレーム1との間に挿入されることにより、フレームレート変換後の映像は大きく乱れたものとなってしまう。
【0025】
<動きベクトルの誤検出(異なる動きの共存)>
また、図6の左側の領域のように異なる動きが画像内で共存している画像では、それぞれの動きを示す動きベクトルに対応するシフト量において、ブロックデータ0とブロックデータ1との相関が高くなる。従って、差分絶対値和の分布において、それぞれの動きベクトルに対応するシフト量において差分絶対値和が小さい値となる。そのため、ブロックマッチングにおいて相関が高くなるシフト量が複数現われる。そして、差分絶対値和の値が最小となっているシフト量が動きベクトルとして検出されることになる。
【0026】
図6の左側の領域のように、前景と背景とで動きが異なる画像における差分絶対値和の分布例を図8に示す。図8において、相関点Aが前景の動きベクトルに対応するシフト量における差分絶対値和を表し、相関点Bが背景の動きベクトルに対応するシフト量における差分絶対値和を表す。相関点Aにおける差分絶対値和が相関点Bにおける差分絶対値和より小さい場合、相関点Aに対応するシフト量が動きベクトルとして検出される。そして、この検出された動きベクトルに基づいて補間フレームの画像が生成され、生成された補間フレームがフレーム0とフレーム1との間に挿入される。このようにして生成されたフレームレート変換後の映像は、前景の動きについては滑らかに表示されるものの、背景については大きく乱れたものとなってしまう。
【0027】
<複数ピーク検出部14>
このように、フレームレート変換により乱れた映像が生成されることを抑制するための
、本実施例の映像信号処理装置に特有の構成について以下説明する。複数ピーク検出部14は、動きベクトル検出部13によって検出される動きベクトルの信頼性を判断し、検出される動きベクトルの信頼性が低いと判断される場合には、検出された動きベクトルに基づく補間フレームの画像生成を抑制する信号を出力する。図9に複数ピーク検出部14の構成図を示す。複数ピーク検出部14は、ピーク検出部16、比較部17、カウント部18、判定部19で構成される。
【0028】
<ピーク検出部16>
ピーク検出部16は、差分絶対値和計算部12からの差分絶対値和の入力を受けて、差分絶対値和の極小ピークを検出する。ピーク検出部16による差分絶対値和のピークの検出方法の例について図10に基づいて説明する。図10は、あるブロックデータ0について算出された各シフト量における差分絶対値和を、ブロックマッチングのサーチ範囲内の対応する位置に記して可視化した分布図である。サーチ範囲は、本実施例では−24≦is≦+24、−15≦js≦+15だが、図10では簡単のため−5≦is≦+5、−2≦js≦+2の範囲のみを拡大して示している。
【0029】
ピーク検出部16は、注目するシフト量における差分絶対値和と、それに隣接する8箇所のシフト量における差分絶対値和とを比較する。そして、注目するシフト量における差分絶対値和が最小であった場合に、その差分絶対値和をピークと判定する。図10に示す例では、2重線で囲まれた3箇所の差分絶対値和10、20及び75がピークと判定される。
【0030】
なお、ピークの判定方法は、差分絶対値和の分布において極小値となっている差分絶対値和(極大相関点という)を検出することができれば、上述した方法に限られない。例えば、注目するシフト量における差分絶対値和が、該シフト量に水平方向又は垂直方向に隣接する4箇所のシフト量における差分絶対値和より小さい場合に、該注目するシフト量における差分絶対値和をピークと判定しても良い。また、注目するシフト量における差分絶対値和が、該シフト量に隣接する8箇所のシフト量及びその外側にある16箇所のシフト量における差分絶対値和より小さい場合に、該注目するシフト量における差分絶対値和をピークと判定しても良い。
【0031】
<比較部17>
ブロックマッチングの相関度合が低いシフト量における差分絶対値和であっても、ピーク検出部16によってピークとして検出されることがある。このような相関度合の低いピークは、サーチ範囲内におけるブロックマッチングの相関が低い領域内でランダムに発生し得る。そこで、比較部17は、ピーク検出部16によってピークと判定された差分絶対値和の値を所定の閾値(複数ピーク検出閾値という)と比較し、複数ピーク検出閾値以下のピークを有効なピークと判定する。例えば、複数ピーク検出閾値を50とした場合、図10の例では、検出された3つのピーク(差分絶対値和10、20及び75)のうち、差分絶対値和10及び20の2つのピークが有効なピークと判定される。比較部17により、ピーク検出部16が検出したピークのうちブロックマッチングで一定以上の相関があるピークが抽出される。本実施例の複数ピーク検出閾値は、本発明における「閾値」に相当する。
【0032】
<カウント部18>
カウント部18では、サーチ範囲内に有効なピークがいくつあったかをカウントする。そして、カウント値が2以上の場合には、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。繰り返しパターンや異なる動きが共存する画像を含むブロックデータの場合、サーチ範囲内に2以上の有効なピークが検出される可能性が高いので、ブロックマッチングによって検出された動きベクトルの信
頼性は低いと判定されることになる。
【0033】
<判定部19>
判定部19は、フレーム0の画像を構成する全てのブロックデータのうちに、動きベクトル検出部13によって検出された動きベクトルは信頼性が低いと判定されたブロックデータが所定割合以上あるか否かを判定する。そして、判定部19は、検出された動きベクトルの信頼性が低いと判定されたブロックデータが所定割合以上あった場合、検出された動きベクトルに基づいて補間フレームの画像を生成することを禁止する信号を出力する。
【0034】
補間画像生成部15は、判定部19から上記禁止信号を受信した場合は、動きベクトル検出部13が検出した動きベクトルに基づく補間フレームの画像生成をせずに、フレーム0画像又はフレーム1画像を補間フレームの画像として出力する。すなわち、この場合、フレーム0とフレーム1の間に、補間フレームとして、フレーム0画像又はフレーム1画像を挿入することによって、フレームレートを増加させる処理が行なわれる。これにより、ブロックマッチングにより不適切な動きベクトルが検出される可能性が高い画像については、ブロックマッチングで検出された動きベクトルに基づく補間フレームの生成は行なわれない。従って、画像内に繰り返しパターンを含む領域や異なる複数の動きが共存する領域があるような映像信号に対しても、フレームレート変換後の映像に乱れが生じることを抑制しつつ、フレームレート変換処理を行なうことが可能となる。ブロックマッチングのサーチ範囲内に有効なピークが1つしかない場合には、当該ピークに対応するシフト量から検出される動きベクトルはブロックデータ間の画像の動きを正しく示す適切な動きベクトルであると考えられる。従って、この場合、補間画像生成部15は、上述したように、動きベクトル検出部13により検出された動きベクトル、ブロックデータ0及びブロックデータ1に基づいて補間フレームの画像を生成する。
【0035】
なお、本実施例では、サーチ範囲内に有効なピークが複数有る場合に、検出される動きベクトルの信頼性は低いと判定する例について説明したが、単にサーチ範囲内にピークが複数有る場合に、検出される動きベクトルの信頼性が低いと判定するようにしても良い。
【0036】
(実施例2)
図11は、実施例2における複数ピーク検出部14のブロック構成図である。実施例2の複数ピーク検出部14は、ピーク検出部16、比較部17、判定部19、第1最小ピーク値メモリ部20、第2最小ピーク値メモリ部21で構成される。本実施例では、ピーク検出部16で検出したピークのうち差分絶対値和の値が2番目に小さいピークの差分絶対値和の値に基づいて、動きベクトル検出部13で検出した動きベクトルの信頼性を判定する。複数ピーク検出部14以外の構成は実施例1と同じなので説明を割愛し、複数ピーク検出部14についてのみ以下説明する。
本実施例のピーク検出部16、判定部19の動作は実施例1と同じである。
【0037】
<第1最小ピーク値メモリ部20>
第1最小ピーク値メモリ部20は、サーチ範囲内に存在する全てのピークのうち、差分絶対値和が最小のピーク(第1最小ピークという)の差分絶対値和(第1最小差分絶対値和という)を記憶する。ピーク検出部16によるブロック毎のピークの検出が続けられる間、第1最小ピーク値メモリ部20に記憶される差分絶対値和は、既に検出されたピークのうち差分絶対値和が最小のピークの差分絶対値和で更新されていく。ピーク検出部16によるピークの検出が完了した時点で、第1最小ピーク値メモリ部20には、第1最小差分絶対値和が記憶されていることになる。
【0038】
<第2最小ピーク値メモリ部21>
第2最小ピーク値メモリ部21は、サーチ範囲内に存在する全てのピークのうち、差分
絶対値和が2番目に小さいピーク(第2最小ピークという)の差分絶対値和(第2最小差分絶対値和という)を記憶する。ピーク検出部16によるブロック毎のピークの検出が続けられる間、第2最小ピーク値メモリ部21に記憶される差分絶対値和は、既に検出されたピークのうち差分絶対値和が2番目に小さいピークの差分絶対値和で更新されていく。ピーク検出部16によるピークの検出が完了した時点で、第2最小ピーク値メモリ部21には、第2最小差分絶対値和が記憶されていることになる。
【0039】
具体的な処理フローを説明する。ピーク検出部16によって新たなピークが検出されると、該ピークの差分絶対値和SADnewが第1最小ピーク値メモリ部20及び第2最小ピーク値メモリ部21に入力される。そして、入力された差分絶対値和SADnewと、第1最小ピーク値メモリ部20に記憶されている差分絶対値和SADmin1と、第2最小ピーク値メモリ部21に記憶されている差分絶対値和SADmin2と、の比較が行なわれる。
(イ)入力された値が第1最小ピーク値メモリ部20の値よりも小さい場合(SADnew<SADmin1)、第2最小ピーク値メモリ部21の値が、第1最小ピーク値メモリ部20の値SADmin1で更新される。また、第1最小ピーク値メモリ部20の値が、入力された値SADnewで更新される。
(ロ)入力された値が第1最小ピーク値メモリ部20の値以上で、且つ第2最小ピーク値メモリ部21の値よりも小さい場合(SADmin1≦SADnew<SADmin2)、第2最小ピーク値メモリ部21の値が、入力された値SADnewで更新される。
【0040】
このような処理フローを繰り返すことにより、あるブロックについてピーク検出部16によるピークの検出が完了した時点で、第1最小差分絶対値和と第2最小差分絶対値和が得られる。図10の例では、第1最小差分絶対値和は10、第2最小差分絶対値和は20となる。
【0041】
<比較部17>
比較部17は、第2最小差分絶対値和を複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。図10の例では、第2最小差分絶対値和は20であり、複数ピーク検出閾値を実施例1と同様50とすれば、図10のブロックについては動きベクトル検出部13で検出される動きベクトルは信頼性が低いと判定されることになる。
なお、第2最小ピークが無かった場合には、サーチ範囲内にピークが1つしか存在しないことを意味する。従ってこの場合、比較部17は、動きベクトル検出部13によって検出される動きベクトルは信頼できると判定する。また、第1最小ピークが無かった場合は、サーチ範囲の端に差分絶対値和の最小点があることになり、それはサーチ範囲内にピークが存在しないことを意味する。従ってこの場合、比較部17は、動きベクトル検出部13によって検出される動きベクトルの信頼性は低いと判定する。
【0042】
実施例2の構成によれば、不適切な動きベクトルが誤検出される可能性が高い画像については、ブロックマッチングで検出された動きベクトルに基づく補間フレームの生成は行なわれない。従って、そのような画像を含む映像信号に対して、2つのフレームの間に補間フレームを挿入するフレームレート変換処理を行なっても、変換後の映像に乱れが生じることを精度良く抑制することが可能となる。
【0043】
(実施例3)
実施例1及び実施例2では、複数ピーク検出閾値を固定値として比較部17に入力する例を説明したが、画像により差分絶対値和のピークにおける値は異なる。例えばノイズの多い画像では、ノイズの影響でブロックマッチングの相関が全体的に低くなるため、差分
絶対値和の分布は鈍いピークを有する分布になり、ピークにおける差分絶対値和の値は平均値に近くなる。そこで実施例3では、画像に応じて複数ピーク検出閾値を適応的に設定する。複数ピーク検出部14以外の構成は実施例1と同じなので説明を割愛し、複数ピーク検出部14についてのみ以下説明する。
図12は、実施例3における複数ピーク検出部14のブロック構成図である。実施例3の複数ピーク検出部14は、実施例2における複数ピーク検出部14の構成に、閾値算出部22を追加して構成される。閾値算出部22は、第1最小ピーク値メモリ部20から第1最小差分絶対値和の入力を受け、以下の式(4)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+α(αは固定定数)・・・(4)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0044】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例3の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【0045】
(実施例4)
実施例3の様に2つのフレームの全体的な相関度合に対して適応的に複数ピーク検出閾値を設定する方法として、サーチ範囲内の最大の差分絶対値和(最大差分絶対値和という)に応じて複数ピーク検出閾値を設定しても良い。
【0046】
図13は、実施例4における複数ピーク検出部14のブロック構成図である。実施例4の複数ピーク検出部14は、実施例3における複数ピーク検出部14の構成に、最大値メモリ部23を追加して構成される。
最大値メモリ部23は、ブロック毎のブロックマッチングにおいて差分絶対値和の算出が続けられる間、既に算出された差分絶対値和のうち最大の値を記憶する。具体的な処理フローは、新たに入力された差分絶対値和の値が最大値メモリ部23に記憶されている値より大きい場合、入力された差分絶対値和によって最大値メモリ部23の値を更新する。
閾値算出部22は、最大値メモリ部23からの最大差分絶対値和の入力及び第1最小ピーク値メモリ部20からの第1最小差分絶対値和の入力を受け、以下の式(5)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+(最大差分絶対値和−第1最小差分絶対値和)×α(αは0<α<1の値)・・・(5)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0047】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例4の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【0048】
(実施例5)
実施例3の様に2つのフレームの全体的な相関度合に応じて適応的に複数ピーク検出閾値を設定する方法として、サーチ範囲内の差分絶対値和の平均値(差分絶対値和平均という)に応じて複数ピーク検出閾値を設定しても良い。
【0049】
図14は、実施例5における複数ピーク検出部14のブロック構成図である。実施例5の複数ピーク検出部14は、実施例3における複数ピーク検出部14の構成に、平均値算出部24を追加して構成される。
平均値算出部24は、サーチ範囲内の差分絶対値和の平均値を算出し出力する。
閾値算出部22は、平均値算出部24からの差分絶対値和平均の入力及び第1最小ピーク値メモリ部20からの第1最小差分絶対値和の入力を受け、以下の式(6)の計算式によって複数ピーク検出閾値を計算する。
複数ピーク検出閾値=第1最小差分絶対値和+(差分絶対値和平均−第1最小差分絶対値和)×α(αは0<α<1の値)・・・(6)
本実施例における閾値算出部22は、本発明における設定手段に相当する。
【0050】
比較部17は、第2最小差分絶対値和を閾値算出部22により算出された複数ピーク検出閾値と比較し、複数ピーク検出閾値以下であった場合に、動きベクトル検出部13で検出される動きベクトルの信頼性は低いと判定し、それを示す信号を出力する。
実施例5の構成によれば、入力信号のフレーム0の画像とフレーム1の画像との全体的な相関の度合いに応じて複数ピーク検出閾値を適応的に設定できるので、動きベクトルの信頼性をより精度良く判定することができる。従って、不適切な動きベクトルに基づく補間フレームの画像生成が行なわれることを抑制し、フレームレート変換後の映像に乱れが生じることを抑制することが可能となる。
【符号の説明】
【0051】
10:ブロックバッファ、11:ブロックバッファ、12:差分絶対値和計算部、13:動きベクトル検出部、14:複数ピーク検出部、15:補間画像生成部
【特許請求の範囲】
【請求項1】
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理装置であって、
前記2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出手段と、
前記算出手段により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出手段と、
前記算出手段により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出手段により検出される前記動きベクトルは信頼性が低いと判定する判定手段と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出手段により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成手段と、
を備えることを特徴とする映像信号処理装置。
【請求項2】
前記判定手段は、前記算出手段により算出される差分絶対値和が極小かつ所定の閾値以下となるシフト量が前記サーチ範囲内に2以上ある場合に、動きベクトルの信頼性は低いと判定することを特徴とする請求項1に記載の映像信号処理装置。
【請求項3】
前記判定手段は、前記算出手段により算出される差分絶対値和の極小値のうち前記サーチ範囲内で2番目に小さい極小値が所定の閾値以下である場合に、動きベクトルの信頼性は低いと判定することを特徴とする請求項1に記載の映像信号処理装置。
【請求項4】
前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項5】
前記算出手段により算出される差分絶対値和の前記サーチ範囲内での最大値と、前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値と、に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項6】
前記算出手段により算出される差分絶対値和の前記サーチ範囲内での平均値と、前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値と、に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項7】
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理方法であって、
映像信号を入力する工程と、
前記入力される映像信号の連続する2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出
する算出工程と、
前記算出工程により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出工程と、
前記算出工程により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出工程により検出される前記動きベクトルは信頼性が低いと判定する判定工程と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性は低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出工程により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成工程と、
を有することを特徴とする映像信号処理方法。
【請求項1】
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理装置であって、
前記2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出する算出手段と、
前記算出手段により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出手段と、
前記算出手段により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出手段により検出される前記動きベクトルは信頼性が低いと判定する判定手段と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性が低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出手段により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成手段と、
を備えることを特徴とする映像信号処理装置。
【請求項2】
前記判定手段は、前記算出手段により算出される差分絶対値和が極小かつ所定の閾値以下となるシフト量が前記サーチ範囲内に2以上ある場合に、動きベクトルの信頼性は低いと判定することを特徴とする請求項1に記載の映像信号処理装置。
【請求項3】
前記判定手段は、前記算出手段により算出される差分絶対値和の極小値のうち前記サーチ範囲内で2番目に小さい極小値が所定の閾値以下である場合に、動きベクトルの信頼性は低いと判定することを特徴とする請求項1に記載の映像信号処理装置。
【請求項4】
前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項5】
前記算出手段により算出される差分絶対値和の前記サーチ範囲内での最大値と、前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値と、に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項6】
前記算出手段により算出される差分絶対値和の前記サーチ範囲内での平均値と、前記算出手段により算出される差分絶対値和の極小値の前記サーチ範囲内での最小値と、に基づいて前記閾値を設定する設定手段を更に備えることを特徴とする請求項2又は3に記載の映像信号処理装置。
【請求項7】
入力される映像信号の連続する2つのフレームの間に挿入する補間フレームの画像を生成する映像信号処理方法であって、
映像信号を入力する工程と、
前記入力される映像信号の連続する2つのフレームのうちの前フレームの画像を分割して得られるブロックと、該ブロックの位置に対して所定のサーチ範囲内のシフト量で表される相対位置にある後フレームのブロックと、の対応する画素値どうしの差分絶対値の該ブロックの全体にわたる総和である差分絶対値和を、該サーチ範囲内のシフト量毎に算出
する算出工程と、
前記算出工程により算出される差分絶対値和が最小となる前記サーチ範囲内のシフト量に基づいて、前記前フレームのブロックと前記後フレームのブロックとの間の画像の動きを表す動きベクトルを検出する動きベクトル検出工程と、
前記算出工程により算出される差分絶対値和が極小となるシフト量が前記サーチ範囲内に複数ある場合に、前記動きベクトル検出工程により検出される前記動きベクトルは信頼性が低いと判定する判定工程と、
前記前フレームを構成する複数のブロックのうちに、動きベクトルの信頼性は低いと判定されたブロックが所定割合以上ある場合、前記前フレームの画像又は前記後フレームの画像のいずれかを前記補間フレームの画像とし、そうでない場合、前記動きベクトル検出工程により検出される動きベクトル、前記前フレームの画像及び前記後フレームの画像に基づいて前記補間フレームの画像を生成する生成工程と、
を有することを特徴とする映像信号処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2011−35814(P2011−35814A)
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願番号】特願2009−182350(P2009−182350)
【出願日】平成21年8月5日(2009.8.5)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願日】平成21年8月5日(2009.8.5)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]