説明

中間フレーム生成装置及びその方法

【課題】動き補償法を用いた補間フレーム生成装置において、動きベクトル検出の精度向上のために複雑な処理や回路規模の増大をすることなく高画質を実現する。
【解決手段】補間フレーム生成に使うには不適当な動きベクトルを発見する不適当ベクトル特定手段と、その情報を元に不適当な画像ブロックに対して平滑化を行う選択的平滑化手段とを備え、正確な動きベクトルを得られなかったブロックが発生しても平滑化処理により目立たなくするので、破綻した画像を表示することによる画質劣化を防止できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は2つのフレーム間の画像の動きを補う補間画像を生成する技術に関する。
【背景技術】
【0002】
近年、画像のフレーム数を増やすことにより、動画表示におけるぼやけ感やガタガタ感といった不自然な動きを改善するために、フレームレート変換を高画質化技術として適用することが一般的になってきている。そして、前記したような動画性能向上に対する明確な改善効果を得るために、精度の高い補間フレーム生成が必要となるとの認識の下、多数の発明がなされている。
【0003】
よく用いられている高度な補間方法として、現在のフレームと1フレーム前のフレームを用いて、フレーム間の動きベクトルを利用した動き補償処理を用いる方法がある。この方法では動きベクトル情報をもとにフレーム間の動きを特定し、補間フレームを生成する。
かかる方法により、精度の高い補間フレームを得るためには、動きベクトルの精度を如何に上げるかが鍵となる。
しかし、動きベクトルの精度を向上させようとするほど、演算量が飛躍的に増す。そのため、現実的な演算量に収めつつ動きベクトルの精度を向上する手法が提案されている。
【0004】
特許文献1では、フレームを複数のブロックに分割し、各ブロックの画像を隣接するフレームの探索範囲に含まれる画像と比較し、比較結果に基づいて当該ブロックの動きベクトルを検出する検出ステップにおいて、探索範囲が広い第1処理と探索範囲が狭い第2処理とをブロック毎に選択し、第2処理を選択したブロックについては、当該ブロックに隣接するブロックの既に検出された動きベクトルに基づいて探索範囲を特定することで、精度と演算量の両立を図っている。
【0005】
【特許文献1】特開2007−166050号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、動きベクトルの精度を向上させたとしても、
(1)細かく入り組んだ動きがある場合、正確な動きベクトルの算出が困難である。
(2)サーチレンジを超える動きには追従が困難である。
(3)回転や拡大縮小動作に対して動きベクトルの算出が困難である。
等の課題は完全に解決できておらず、画像の破綻を引き起こし、破綻した部分が目立つことによる画質劣化をなくすことはできていなかった。
【0007】
本発明は上記問題を鑑みてなされたものであって、発想を転換し、破綻した画像を目立たなくすることによって画質の劣化を防ぎ、コストを抑制しつつ現実的な高画質を実現することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本発明では、動き補償による補間フレーム生成装置において、更に補間フレーム生成に使うには不適当な動きベクトルを発見する不適当ベクトル特定手段と、その情報を元に不適当な画像ブロックに対して平滑化を行う選択的平滑化手段とを備える。
かかる構成により、正確な動きベクトルを得られなかったブロックが発生しても、平滑化処理により目立たなくするので、破綻した画像を表示することによる画質劣化を防止でき、結果として高画質を実現する。
【発明の効果】
【0009】
本発明によれば、動き補償法を用いた補間フレーム生成処理において、破綻したブロックを目立たなくできるため、動きベクトル検出の精度向上のために複雑な処理や回路規模の増大をすることなく、高画質を実現できる。
【図面の簡単な説明】
【0010】
【図1】本発明を適用した補間フレーム生成装置の一実施形態の構成例を示すブロック図である。
【図2】平均化フィルタのインパルス応答による選択的平滑化処理のイメージ図である。
【図3】ガウシアンフィルタのインパルス応答による選択的平滑化処理のイメージ図である。
【図4】補間フレーム生成装置の従来技術の構成例を示すブロック図である。
【図5】画素単位でベクトルのばらつきを求める場合のイメージ図である。
【符号の説明】
【0011】
(10) 補間フレーム生成装置
(11) 前フレームバッファ
(12) 後フレームバッファ
(13) 動き推定部
(14) 動き補償部
(15) 補間フレームバッファ
(16) 不適当動きベクトル特定部
(17) 選択的平滑化フィルタ
【発明を実施するための最良の形態】
【0012】
以下、本発明の実施形態について図面を参照しつつ説明する。
【0013】
図1は、本発明の第1の実施形態である補間フレーム生成装置の構成の一例を示すブロック図である。
【0014】
図1において、補間フレーム生成装置(10)は、前フレームバッファ(11)、後フレームバッファ(12)、動き推定部(13)、動き補償部(14)、補間フレームバッファ(15)、不適当動きベクトル特定部(16)、選択的平滑化フィルタ(17)を備える。
【0015】
前フレームバッファ(11)、後フレームバッファ(12)は、夫々入力映像の連続する前後フレームを保持する。
動き推定部(13)には、前フレームバッファ(11)と後フレームバッファ(12)から前後フレームデータが入力され、ブロックマッチング法等により、動きベクトルを検出する。また、検出した動きベクトルの妥当度を算出し、不適当動きベクトル特定部(16)に出力する。
動き補償部(14)は、フレームバッファ(11)(12)からのフレームデータと、動き推定部(13)で検出された動きベクトルから、中間フレームを生成する。
不適当動きベクトル特定部(16)は、動き推定部(13)から動きベクトルと動きベクトル妥当度のデータが入力され、動き推定部(13)で検出された動きベクトルが適当か否かを判断し、不適当な動きベクトルと判断されたブロックを特定し、選択的平滑化フィルタ(17)に出力する。
選択的平滑化フィルタ部(17)は、動き補償部(14)で生成された中間フレームデータのうち、不適当動きベクトル特定部で不適当と判断されたブロックに対して、平滑化を行う。
生成された補間フレームは、選択的平滑化フィルタで補正された後、フレームバッファ(15)に格納される。
【0016】
(動きベクトル妥当度)
動きベクトル推定部(13)は、ブロックマッチングにより動きベクトルを検出する過程で、1画素あたりの平均誤差であるMAD値(Mean Absolute Difference)を算出する。MAD値は以下の式にて算出される。

MAD=Σ(abs(ブロックA-ブロックB))/ブロック内の画素数

動きベクトルMVは、MAD値が最小になるよう算出される。

MV=arg min(MAD(ブロックA(位置α)),ブロックB(MV+位置α)))

上式のように、動きベクトルを求める過程で、MAD値はブロックマッチング法による探索範囲の中で最も小さいものが選ばれるが、必ずしも0ではない。大きなMAD値でマッチングしている場合は、その探索結果である動きベクトルは正しくない可能性がある。この特性を利用して、MAD値を利用して動きベクトル妥当度を判断するため、MAD値を動きベクトル妥当度データとして不適当動きベクトル特定部に出力する。
本実施例では、動きベクトル妥当度=MAD値として出力しているが、閾値と比較した後に、妥当度レベルを定めてデータとして出力してもよいし、様々な方法を取り得る。また、MADの代わりにMSD(Mean Squared Difference)を採用しても良い。
【0017】
(不適当動きベクトル特定)
不適当動きベクトル特定部(16)は、動き推定部(13)から動きベクトルと動きベクトル妥当度を受け取り、下式によりhを求める。

h=(近隣MVとのミスマッチ度)+K×(MV妥当度)

式中のMVは動きベクトル、MV妥当度はMAD値、Kは調整用の係数、近隣MVとのミスマッチ度は、

(近隣MVとのミスマッチ度)=Σ(MVi-MV) (MVi:近隣MV)

として求める。求めたhが特定の閾値を超えた場合、不適当動きベクトルと判断する。本実施例では単に固定の閾値を基準にしたが、閾値を多段にしたり、閾値を用いずにhをそのまま判断結果としてもよい。
判断結果は、選択的平滑化フィルタ(17)へ出力される。
【0018】
(画素単位で動き補償する場合の不適当動きベクトル特定)
画素単位での動き補償の場合でも、基本的な構成や処理は同じである。不適当動きベクトル特定部(16)は、動き推定部(13)から例えばオプティカルフロー等を用いて求めた画素毎の動きベクトルを受け取り、周辺画素と比較して対象画素のばらつきを算出し、一定の閾値を超えた場合、その画素の動きベクトルは不適当と判断する。
図5は、不適当ベクトル算出処理におけるイメージ図である。ここでは、対象画素S1に対し半径3画素以内の画素集合S2を用いる。動きベクトルのばらつきを下式で求め、閾値を超えた場合、不適当と判断する。

σ=ΣW(V−V (p∈S2)
(pはS2中の画素位置、Wは重み、Vはベクトル、Vは中心画素のベクトル)

通常、重みWは常に1(すなわちボックス窓)でよいが、任意のウインドウを採用してもよい。例えばガウス窓、ハミング窓などがある。また、重みWの算出に際し、不適当動きベクトル特定部で算出した多段或いは連続量の判断結果を用いてもよい。さらに、ブロック毎の不適当動きベクトル特定に対しても、ブロック内画素毎の動きベクトルの分散としても適用可能である。また、他ブロックに対して対象ブロックがブロック単位で持つ動きベクトルの分散としても適用可能である。
【0019】
(選択的平滑化)
選択的平滑化フィルタ(17)は、動き補償部(14)から動き補償された補間フレーム画像データが入力され、不適当動きベクトル特定部(16)で不適当動きベクトルと判断されたブロックに対し、平滑化処理を行う。
図2は、最も単純な3×3平均化フィルタのインパルス応答のイメージ図である。これを利用した平滑化処理の式を下記に示す。

a(x,y)=1/9×Σa(x+xi、y+yi)
(但し、xi∈{−1,0,1},yi∈{−1,0,1})

ブロック内の平均化する画素を中心として3×3=9画素データの平均値を対象画素データとする。この処理をブロック内の全ての画素データに繰り返す。
本図では一例として、対象画素を含む周辺画素3×3=9画素データを利用した例を示したが、利用する画素数はこの限りではない。本実施例では一様平均化フィルタのインパルス応答による平均化処理の例を示したが、ガウシアンフィルタのインパルス応答に置き換えてもよい(図3は3×3、σ=1のガウシアンフィルタのインパルス応答)。
また、単にブロック内の画素の平均値をとることでもよい。この場合ブロック境界が目立ちやすい等の欠点は存在する。その他、フレーム間平均化などを含め様々な平滑化手段が適用可能である。
【0020】
本実施例では、不適当動きベクトル特定部が動き推定部(13)から入力される動きベクトル妥当度データを基に不適当動きベクトルを特定する例を示したが、動き推定部(13)から全ての動きベクトルデータを受け取り、不適当動きベクトル特定部(16)で動きベクトルの分散を求めることで不適当ブロックを特定することもできる。また、不適当動きベクトル特定部(13)に直接前後フレームデータ(11)(12)を入力し、両フレームデータ間の差分の大きい部分を不適当と指定する方法もある。
【0021】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。十分に高速なCPUやプログラマブルなプロセッサを有するシステムであれば、全て乃至部分的にソフトウェアで実現できることはいうまでもない。









【特許請求の範囲】
【請求項1】
所定のフレームを用いて補間フレームを生成する装置であって、
所定のフレームからブロック毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームのブロック内の画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成装置。

【請求項2】
所定のフレームを用いて補間フレームを生成する装置であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成装置。

【請求項3】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームからブロック毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームのブロック内の画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。

【請求項4】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。

【請求項5】
所定のフレームを用いて補間フレームを生成する方法であって、
所定のフレームから画素毎に動きベクトルを生成する動きベクトル生成手段と、
前記所定のフレームの入力画像および動きベクトルを用いて動き補償を行い、前記補間
フレームの画像を生成する動き補償手段と、
前記動きベクトル生成手段にて生成された前記動きベクトルの妥当性を判断する不適当動きベクトル特定手段と、
前記不適当動きベクトル特定手段から不適当と判断された動きベクトルを持つ前記動き補償手段により生成された補間フレームの画素及びその周辺画素に対し、平滑化処理を行う選択的平滑化手段と、
を有する補間フレーム生成方法。

【請求項6】
前記所定のフレームは、連続する2つ以上のフレームであることを特徴とする請求項1乃至5に記載の補間フレーム生成装置
















【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2011−109229(P2011−109229A)
【公開日】平成23年6月2日(2011.6.2)
【国際特許分類】
【出願番号】特願2009−259788(P2009−259788)
【出願日】平成21年11月13日(2009.11.13)
【出願人】(391010116)株式会社ナナオ (160)
【Fターム(参考)】