説明

画像変換装置

【課題】映画の24Hzの映像信号を60Hzで表示する際に用いられる3:2プルダウンは、24Hzに対して不均一な間隔で表示が行われるため動きに不自然さが生じる。一方、従来のフレームレート変換を使用したフィルム・デジャダーでは映画らしさが失われてしまう。
【解決手段】24Hzの映像信号を60Hzで表示する際、24Hzの映像から動きベクトルを検出し、この動きベクトルから推定される物体の移動軌跡(=視線の移動軌跡)からのずれ幅を均等にするために、3:2プルダウンで用いられるフレームのうち、このずれ幅を超えた一部のフレームに検出した動きベクトルを用いた補間フレームを生成する。これにより3:2プルダウンの不自然さを低減しつつ、映画らしさを損なわない表示が可能となる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像信号のフレーム間の動きベクトルを検出し、検出した動きベクトルを用いて補間フレームの生成を行う画像変換装置、特に24Hzのフレーム周波数で撮影された映画素材を60Hzで表示を行う画像変換装置に関するものである。
【背景技術】
【0002】
映像信号処理技術や半導体技術の進展に伴い、映像信号から動きベクトルを検出し、この検出した動きベクトルを用いて映像信号のフレーム周波数の変換を行うことが可能となってきている。このようなフレーム周波数の変換は、例えばPAL方式(50Hz)で撮影された映像信号をNTSC方式(60Hz)に変換する場合や、映画(24Hz)をテレビの信号(60Hzまたは50Hz)に変換する際に使用することができる。
【0003】
一般的に映画は24Hzのフレームレートで撮影されており、この映像をNTSC方式(60Hz)で表示する場合、従来、3:2プルダウン方式によるフレームレートの変換(テレシネ変換)が用いられてきた。この3:2プルダウンは、映画の1枚の画像を60Hzの3フレームと2フレームで交互に表示する(図12)。この結果60Hzで表示される映像は、同じ映像が複数回表示され、また本来のフレーム周期と異なる時間間隔での表示が行われることになるため、動きのブレ(フィルム・ジャダー)が生じるとともに、動き方に不自然さが生じてしまう。
【0004】
これに対して特許文献1では、24Hzの映像から動きベクトルを検出し、この動きベクトルを用いて60Hzの表示タイミングにあわせた補間フレームを生成して表示することで、不自然さの無い、滑らかな動きの表示が可能になることが開示されている。このようなフレームレート変換はフィルム・デジャダーと呼ばれている。しかし、このような動きベクトルを用いて24Hzの映像を60Hzに変換して表示する場合、動きが滑らかになる半面、24Hzで撮影された映画とは異なる印象を受けてしまうことがあり、映画らしさが失われてしまう。また、正しい動きベクトルが検出されているかによって、動きのなめらかさに大きな差があるため、動きが大きいなどの理由によって正しい動きベクトルが検出できない場合に、大きな画質劣化生じてしまう。
【0005】
これに対して特許文献2では、補間フレームを生成する時間軸上の位置を、24Hzを均等に分割したタイミングより、入力である3:2プルダウンのタイミングに近付けることにより、フィルム・ジャダーの低減度合いを調整できることが開示されている。
【0006】
上記特許文献1や特許文献2のような補間フレームの生成に使用する動きベクトルの算出は、通常、1フレームの画像を所定の画素数(M×N画素)からなる複数のブロックに分割し、このブロック毎に連続するフレーム間で相関が最も大きくなる位置を探索するなどの方法により検出する。この時の位置の差がそのブロックに対する動きベクトルに相当する。例えば図13に示すように、フレーム(F)内の対象ブロック(1301)の動きベクトルを検出する場合、このブロックと相関が最も大きくなる位置をフレーム(F−1)内で探索し、この位置の差を動きベクトル(1302)として検出する。
【0007】
この動きベクトルを使用した補間フレームの生成は、図14に示すように、生成する補間フレームの前後のフレームの少なくとも一方の画素、もしくは画素ブロックを動きベクトルに沿って移動することによって行うことができる。このとき、補間フレームを生成する時間軸上の位置(以降、補間位相とする)は、フレーム(F−1)とフレーム(F)の間で任意に選ぶことができ、図14ではフレーム(F−1)から1/3の補間位相に生成している場合を示している。以上のように、映像信号から動きベクトルを検出し、検出した動きベクトルを使って補間フレームを生成することにより、フレーム周波数の変換が可能となる。
【0008】
フレーム周波数の変換で動きベクトルを用いる方法は、動きベクトルが連続するフレームを比較することによって検出するものであるため、物体の移動に関しては正しく検出することができるが、回転や拡大/縮小といった動きは正しく検出できない場合がある。また、動く物体の背景に隠れる領域や、背景から現れる領域、また物体の変形など、連続するフレームの一方にしか含まれない領域についても正しい動きベクトルを検出することはできない場合がある。さらに、通常動きベクトルの検出は検出を行う対象のブロックを基準として、所定の範囲を探索することで検出することが多く、この探索範囲を超える動きがある場合にも正しい動きベクトルが検出できない場合がある。
【0009】
動きベクトルを用いたフレーム周波数の変換を行う場合において、検出される動きベクトルが正確でない場合、補間生成されたフレーム、およびこれらが連続する映像において、動く物体等の周囲にハロ(Halo)と呼ばれるノイズが発生することが知られている。このハロは不正確な補間フレームが生成されることによるものであるため、表示されるフレームのうち補間フレームの割合が大きい場合や、補間フレームが表示される時間が長い場合、ハロが顕著に発生する場合がある。
【0010】
例えば60Hzの映像を120Hzに変換する場合、2フレームのうち1フレームが補間フレームであり、かつ補間フレームが表示される時間は1/120秒であるため、ハロは比較的、認識されにくい。一方、24Hzの映像を60Hzに変換しフィルム・デジャダーを実現する場合、24Hzの映像を(1)、(2)、(3)、とすると、60Hzの映像としては(1)、(1.4)、(1.8)、(2.2)、(2.6)、(3)、を出力する必要がある。ここで、(1.4)、(1.8)、(2.2)、(2.6)は生成された補間フレームであり、5フレームのうち4フレームが生成された補間フレームとなる。また一つの補間フレームは1/60秒間表示される。このためフィルム・デジャダーでは、動きベクトルが間違った場合の画質劣化への影響が大きい。
【0011】
特許文献2では、補間フレームを生成する時間軸上の位置を入力に近付けることにより、このハロが低減される効果についても開示されている。これは、補間フレームの生成位置が入力フレームに近づくことにより、同じベクトルを使用した場合の、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなることによるものである。
【先行技術文献】
【特許文献】
【0012】
【特許文献1】特開平9−172618号公報
【特許文献2】国際公開第2008/102826号
【発明の概要】
【発明が解決しようとする課題】
【0013】
特許文献2は、24Hzの映画素材を120Hzで表示する場合、すなわちフレームレートを整数倍にする場合の補間フレームの生成位置について開示している。これに対し24Hzを60Hzに変換する場合、倍率が2.5倍となるため、この方法をそのまま適用したとしても、一定の効果は得られるが、3:2プルダウンの不均一差に起因する動きの不自然さは依然として残る。また、補間フレームの生成位置を入力フレームに近付けたとしても、表示される5フレームのうち4フレームが補間生成されたフレームであることは変わらないため、間違った動きベクトルベクトルの影響を低減させる効果は十分ではない。
【0014】
本出願の発明の目的は、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することである。
【課題を解決するための手段】
【0015】
本出願の画像変換装置は、第1のフレームレートを有する第1の映像信号を第1のフレームレートより高レートな第2のフレームレートを有する第2映像信号へ変換する画像変換装置において、前記第1の映像信号の時間的に連続する少なくとも2つのフレームから動きベクトルを検出する動きベクトル検出部と、前記第1の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第1の映像信号のフレームと該補間フレームと、から第2の映像信号を生成するフレーム生成部と、前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、を備える。
【0016】
これにより、移動軌跡と第2の映像信号を構成するフレームとの位相差が生じる場合に、その位相差の大きさが略均一となるので、視聴される映像に含まれる対象物がブレる(複数の対象物が重複して表示されるような現象)を従来と比較して抑制することができる。
【0017】
なお、上記画像変換装置において、補間制御部は、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、ものであってもよい。
【0018】
これにより、移動軌跡と第2の映像信号に含まれるフレームとの位相差を全体的に小さくすることができ、よりブレの少ない映像を構成することが可能となる。
【0019】
また、上記画像変換装置において、第1の映像信号を24Hzのフレームレートの映像信号とし、第2の映像信号を60Hzのフレームレートの映像信号としてもよい。
【0020】
これにより、映画フィルム等の映像をNTSC等のTV信号へ変換することも可能となる。
【0021】
また、上記画像変換装置において、補間制御部は、前記動きベクトルにより示される移動軌跡と、生成される前記第2の映像信号のフレームと、の位相差が周期的に生じ、前記第2の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、前記フレーム生成部は、前記第1の映像のフレームと補間フレームとの比率が3対2になるように、前記第2の映像信号を生成する、ものであってもよい。
【0022】
これにより、ブレを完全に抑制できない場合でも、フィルムジャダーのような特性を持った映像を生成することができる。また、生成される第2の映像信号は、第1の映像信号のフレームと補間フレームとの構成比率が3:2となり、従来の、1:4と比較してより信頼性の高い第2の映像を、画像変換装置は生成することが可能となる。
【0023】
さらに、上記画像変換装置において、補間制御部は、補間フレームと、該補間フレームと最も近い前記第1の映像信号のフレームと、の位相差の大きさを略1/5とする、ものであってもよい。
【0024】
これにより、第2の映像信号に含まれる補間フレームは、最も位相差の小さい原フレーム(第1の映像のフレーム)との位相差が0.2(1/5)となるので、フレーム生成部が補間フレームを生成する際も、より信頼性の高いフレームを生成することが可能となる。
【発明の効果】
【0025】
以上のように本発明の画像変換装置によれば、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することが可能となる。特に、24Hzの映像を60Hzの映像に変換するケースでは、生成する補間フレームの割合を小さくし、かつベクトルによる移動量を小さくすることにより、間違った動きベクトルによる画質低下を小さくすることができる。また、この変換の場合には、映画らしさを残し、かつ3:2プルダウンの不自然な動きを改善することができる。
【図面の簡単な説明】
【0026】
【図1】本発明の実施の形態における画像変換装置の構成を示す図
【図2】本発明の実施の形態における、フィルム・デジャダー処理の入力映像と補間フレームの生成のタイミング関係を示す図
【図3】3:2プルダウンを用いて表示される映像を示す図
【図4】3:2プルダウンされた映像の見え方を示す図
【図5】フィルム・デジャダーの処理と映像の見え方を示す図
【図6】2:2プルダウンされた映像の見え方を示す図
【図7】2:2プルダウンされた映像での視線からのずれ量を示す図
【図8】3:2プルダウンされた映像での視線からのずれ量を示す図
【図9】本発明の実施の形態における、入力映像と補間フレームの生成のタイミング関係を示す図
【図10】本発明の実施の形態における、補間フレームの生成方法を示す図
【図11】本発明の実施の形態における、フレームレート変換を行った場合の視線からのずれ量を示す図
【図12】従来技術の3:2プルダウンを示す図
【図13】動きベクトルの仕組みを説明する図
【図14】動きベクトルから補間フレームの生成例を示す図
【発明を実施するための形態】
【0027】
(実施の形態1)
図1は、本発明の実施の形態における画像変換装置201の主要な構成を示すブロック図である。画像変換装置201は、映像メモリ202、ベクトル検出回路203、補間制御回路204、ベクトルメモリ205、フレーム生成回路206、を備える。なお、画像変換装置201に、表示部207を追加したものを画像表示装置として、本実施の形態で説明する発明を実現することも可能である。以下の記載では、説明を簡単にするため画像変換装置として説明する。
【0028】
画像変換装置201は、入力映像信号208から動きベクトルを検出し、この動きベクトルを使用して補間フレームを生成し、出力映像信号215を表示する。ここで入力映像信号207は、24Hzの映像信号であり、出力映像信号215は、60Hzの映像信号とする。表示部207は、この60Hzの映像信号を表示する。すなわち、画像変換装置201は、24Hzの映像信号を入力とし、フレーム周波数の変換を行って60Hzで映像表示を行う。なお表示部207は、LCDディスプレイやPDPディスプレイなど映像信号の表示が可能なものであればよく、特に制限は無い。
【0029】
まず、本実施の形態により、一般的な24Hzから60Hzへのフレームレート変換(フィルム・デジャダー)を行う場合について説明する。画像変換装置201に入力される映像信号208は、映像メモリ202、およびベクトル検出回路203に入力される。
【0030】
映像メモリ202は、入力された映像信号を少なくとも3フレーム分、記憶することが可能であり、また記憶された任意のフレームを読み出し可能なメモリである。映像メモリ202は入力された映像信号を記憶するとともに、入力映像信号208の1フレーム前の映像信号を読み出し、ベクトル検出回路203に出力する。
【0031】
ベクトル検出回路203は、入力映像信号208を8画素×8画素からなるブロックに分割し、それぞれのブロックに対して、映像メモリ202から入力される前フレーム映像信号209から相関の最も大きな位置を探索することで動きベクトルを検出する。このとき探索を行う範囲は、動きベクトルを検出するブロックを基準に、例えば水平±64画素、垂直±32ラインのような範囲であり、この範囲の中で相関の最も大きな位置を求める。また相関の値としては、ブロックに含まれる各画素の値と、比較を行う位置の画素の値の差の絶対値をブロック全体で合計したもの(SAD:Sum of Absolute Difference、差分絶対値和)を用いることができる。なおブロックの大きさはこれに限りものではなく、これよりも小さくても大きくてもかまわない。また相関の値としてSAD以外の方法を使用することも可能であり、また探索方法としても処理量を削減し、効率よく動きベクトルを検出する多くの手法が知られており、これらを使用することも可能である。ベクトル検出回路203は、入力映像信号208と前フレーム映像信号209から検出した検出動きベクトル210をベクトルメモリ205に出力する。
【0032】
補間制御回路204は、以下の制御内容について決定する。具体的には、
(1)後述するベクトルメモリ205に記憶された2フレーム分に対応する動きベクトルのうちどちらの動きベクトルを読み出すか、
(2)映像メモリ202に記憶された複数フレームの映像信号から生成する補間フレームの前後のフレームとしてどの2つのフレームを読み出すか、
(3)映像メモリ202から読み出された2つのフレームの間のどの補間位相に補間フレームを生成するか、
等の制御内容である。補間制御回路204は、上記の決定した制御内容に基づいた制御信号をそれぞれ、映像メモリ202、ベクトルメモリ205、フレーム生成回路206、へ出力する。この補間制御回路204の詳細については後述する。
【0033】
補間制御回路204は、補間に使用する2つのフレームを決定するフレーム選択信号213を映像メモリ202へ入力する。映像メモリ202は、このフレーム選択信号213で指定された2つのフレームを前後フレーム映像信号214として、フレーム生成回路206に出力する。
【0034】
ベクトルメモリ205は、ベクトル検出回路203が検出した動きベクトルを記憶するメモリであり、ベクトル検出回路203からの書き込みと、後述するフレーム生成回路206からの読み出しの時間差を吸収するためのものである。ベクトルメモリ205は、この時間差に相当する容量があればよいが、ここでは入力映像の2フレーム分に対応するベクトルを記憶できるものとする。
【0035】
補間制御回路204から補間に使用するベクトルを選択するベクトル選択信号210が入力されると、ベクトルメモリ205はベクトル選択信号210で指定されるベクトルを補間用動きベクトル211として、フレーム生成回路206へ出力する。
【0036】
補間制御回路204の制御内容の詳細について以下に説明する。図2は、入力映像信号301(208)、前フレーム映像信号302(209)、検出動きベクトル303(210)、補間用動きベクトル304(212)、前後フレーム映像信号の前フレーム305および後フレーム306(214)、およびフィルム・デジャダーを行う場合の補間位相307(補間位相制御信号215)のタイミング関係を示す図である。
【0037】
ベクトル検出回路203は、動きベクトルの検出を入力映像の24Hzの周期で行う。ベクトル検出回路203は、入力映像信号301と、前フレーム映像信号302と、の間で検出動きベクトル303を算出する。例えば、ベクトル検出回路203は、入力映像信号301としてフレーム(1)が入力されている間、前フレーム映像信号302として入力されるフレーム(0)との間で動きベクトルを検出し、算出した動きベクトルをベクトルメモリ205に書き込む。以降同様に、ベクトル検出回路203は、入力フレームと一つ前のフレームの間で動きベクトルを検出し、結果をベクトルメモリ205に書き込む。
【0038】
補間後の映像信号は、出力する映像の周波数である60Hzで行われるため、補間制御回路204からの各制御信号の出力も60Hzの周期で出力される。フィルム・デジャダーの場合、入力の映像信号をフレーム(0)、フレーム(1)、フレーム(2)、フレーム(3)、フレーム(4)、フレーム(5)とし、これを基準とした場合、出力する映像信号はフレーム(0)、フレーム(0.4)、フレーム(0.8)、フレーム(1.2)、フレーム(1.6)、フレーム(2)、フレーム(2.4)、フレーム(2.8)、フレーム(3.2)、フレーム(3.6)、フレーム(4)のようになる。このため補間制御回路204は、出力映像がフレーム(0.4)となるタイミングでは、補間用動きベクトル304としてフレーム(1)とフレーム(0)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力する。さらに補間制御回路204は、前後フレーム映像信号の前フレーム305にフレーム(0)を、前後フレーム映像信号の後フレーム306にフレーム(1)を、フレーム生成回路206へ出力するためのフレーム選択信号213を出力するとともに、補間位相307として0.4をフレーム生成回路206へ出力する。
【0039】
出力映像がフレーム(0.8)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル304としてフレーム(1)とフレーム(0)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(0)を、前後フレーム映像信号の後フレーム306にフレーム(1)を、出力するためのフレーム選択信号213を出力し、補間位相307として0.8を出力する。
【0040】
出力映像がフレーム(1.2)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル304としてフレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(1)を、前後フレーム映像信号の後フレーム306にフレーム(2)を、出力するためのフレーム選択信号213を出力し、補間位相307として0.2を出力する。
【0041】
出力映像がフレーム(1.6)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル212としてフレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(1)を、前後フレーム映像信号の後フレーム306にフレーム(2)を出力するためのフレーム選択信号213を出力し、補間位相307として0.6を出力する。
【0042】
出力映像がフレーム(0)となるタイミングでは補間は必要無いため、補間用動きベクトル212は不要であり、また前後フレーム映像信号の前フレーム305及び後フレーム306はフレーム(0)のみでよく、補間位相307として0を出力する。以降、このような出力映像で5フレーム周期の繰り返しとなる。
【0043】
補間制御回路204は、上記のように生成する補間フレームに必要となる入力フレームと、動きベクトルを適切に選択し、これらをフレーム生成回路206に入力するための制御信号を出力する。またこれにあわせて補間位相307をフレーム生成回路206に出力する。
【0044】
フレーム生成回路206は、前後フレーム映像信号として入力される前フレーム305と後フレーム306と、この2フレームの間の動きに対応する補間用動きベクトル304と、を用いて補間位相307で指定される位相位置での補間フレームを生成して出力する。
補間フレームの生成は前述(図14)のように、前フレームの画素、もしくは後フレームの画素を補間用動きベクトルに沿って移動することによって行うことができる。このとき、例えば補間位相に近い側のフレームのみを用いるなど、いずれか一方から移動した画素を用いて補間フレームを生成することも可能であり、また両フレームから移動した画素を一定の割合、または補間位相に対応する割合で混合するなどによって生成することも可能である。
【0045】
上記のようにフレーム生成回路206で生成された出力映像信号216は、表示部207で表示される。24Hzの入力映像信号301は、上記のような処理によって60Hzの映像信号に変換されて表示部207で表示されるため、フィルム・ジャダーの無い滑らかな映像として表示される。
【0046】
次に、24Hzの映像を3:2プルダウンで表示した際に、フィルム・ジャダーが生じる要因について説明する。図3は画面上をボールが横切るシーンを24Hzで撮影し、3:2プルダウンを用いて60Hzで表示する場合の例である。表示される60Hzの映像では、24Hzで撮影されたフレームが、3フレームと2フレームで交互に表示される。この60Hzの映像におけるボールの表示位置と時間との関係をグラフにすると図4に示すようになる。
【0047】
人がこの例のようにほぼ均一に動くものを見る場合、視聴者の視線は動く対象物を追いかけるように移動することが知られている。図4の例では、視聴者の視線は、表示されているボールを追いかけ、図中の視線の移動軌跡のように移動する。ここでフレーム2、およびフレーム7においては、ボールの表示位置が視線の移動軌跡と一致しているが、それ以外のフレームでは視線の移動軌跡とずれた位置にボールが表示されることとなる。フレーム1、フレーム4、フレーム6は視線が追いかけるボールの位置よりも後ろ側に、フレーム3、フレーム5、フレーム8は前側にボールがあるように見えてしまい、この結果、均一に動いているボールが前後にブレて見える。つまり、一つの対象物が複数、重複して見えるような状態となる。このような状態がフィルム・ジャダーと呼ばれている。
【0048】
上記のフィルム・ジャダーを抑制する、フィルム・デジャダーの効果を有する24Hzから60Hzへのフレームレート変換は、図5に示すようにボールを視線の移動軌跡に一致する位置に移動した補間フレームを生成していることに相当する。これによりフィルム・ジャダーが抑制された、滑らかな動きとして見ることができる。
【0049】
一方、映画館では24Hzの映像を48Hzで表示しており、2:2プルダウンに相当する表示が行われる。この場合の見え方は図6に示すようになり、フィルム・ジャダーが生じる。映画館の表示で生じるフィルム・ジャダーは、図6に示すように視線の移動軌跡に対して均等に、また交互にずれており、この状態を映画らしさと感じる場合が多い。これに対して前述のようなフィルム・デジャダーによる24Hzから60Hzへのフレームレート変換では、このようなフィルム・ジャダーが全く無くなるため、映画らしさが失われてしまう。
【0050】
一方3:2プルダウンで生じるフィルム・ジャダーは、5フレーム周期で視線の移動軌跡に対して不均一なずれ方をしているため、2:2プルダウンとは異なる見え方となり、動きのぎくしゃく感が感じられてしまう。図7に2:2プルダウンの場合の視線の移動軌跡からのずれ方の変化を、図8に3:2プルダウンの場合の視線の移動軌跡からのずれ方の変化を示す。このように3:2プルダウンでは視線の移動軌跡からのずれの大きさが不均一であるため、ぎくしゃくした不自然な動きに感じられてしまう。
【0051】
これに対して本実施の形態では、60Hzの表示において映画館に近いフィルム・ジャダーを残し、かつ3:2プルダウンで生じる不均一さを低減する表示方法を開示するものである。以下に、画像変換装置201の補間制御回路204の処理内容を説明する。
【0052】
補間制御回路204は、図9に示すように、以下のような5フレームの周期で、フレーム選択信号213、検出動きベクトル1003(210)および補間位相1007(補間位相制御信号215)を出力する。
【0053】
1)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(0)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として0をフレーム生成回路206へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル1004(212)は不要である。
【0054】
2)補間制御回路204は、前後フレーム映像信号の前フレーム1005にフレーム(0)と、後フレーム1006にフレーム(1)と、を出力するためのフレーム選択信号213を映像メモリ202へ出力する。補間制御回路204は、フレーム(1)とフレーム(0)との間で検出した動きベクトルを選択するベクトル選択信号211をベクトルメモリ205へ出力し、補間位相1007として0.2をベクトルメモリ205からフレーム生成回路206へ出力させる。
【0055】
3)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(1)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として0をフレーム生成回路206へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル1004は不要である。
【0056】
4)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(1)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として(0)をフレーム生成回路206へ出力する。この時、補間フレームの生成は必要無いため補間用動きベクトル1004は不要である。
【0057】
5)補間制御回路204は、前後フレーム映像信号の前フレーム1005にフレーム(1)を、後フレーム1006にフレーム(2)を、出力するためのフレーム選択信号213を映像メモリ202へ出力する。さらに補間制御回路204は、フレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するベクトル選択信号211をベクトルメモリ205へ出力し、補間位相1007として0.8をベクトルメモリ205からフレーム生成回路206へ出力させる。
【0058】
この結果、入力の映像信号をフレーム(0)、フレーム(1)、フレーム(2)、フレーム(3)、フレーム(4)、フレーム(5)とし、これを基準とした場合、出力する映像信号はフレーム(0)、フレーム(0.2)、フレーム(1)、フレーム(1)、フレーム(1.8)、フレーム(2)、フレーム(2.2)、フレーム(3)、フレーム(3)、フレーム(3.8)、フレーム(4)のようになる。
【0059】
上記の場合の補間の様子を図4、図5と同様の図として示すと、図10のようになる。またこの場合の視線の移動軌跡と補間された映像とのずれの大きさは図11に示すようになる。図11の例では、フレーム2、及び7は移動軌跡と映像とのずれ(位相差)の大きさが0で示されている。それ以外のフレームについては、位相差の大きさが略一定となるように公正されている。このように本実施の形態で説明した構成とすると、視線の移動軌跡からのずれの大きさが5フレーム内で均一になるように補間位相を定めているため、フィルム・ジャダーは残るものの、3:2プルダウンで生じる不均一さが低減される。つまり、移動軌跡と補間された映像との位相差の大きさが所定以上のフレームでは(図11の場合では、0より大きい位相差の場合)、補間された映像に含まれる補間フレームと移動軌跡との位相差の大きさと、補間された映像に含まれる元映像と移動軌跡との位相差の大きさと、が略同一となるように、補間フレームの位相を決定している。これにより、補間された映像のずれ(位相差)の大きさが略一定となるため、不均等なプルダウン処理時に生じやすい映像の不均一さが低減される。また、図11で示すように、視線の移動軌跡と補間された映像とのずれは、図7に示す2:2プルダウンの例の場合と同様に、周期的に生じるとともに、ずれの大きさが一定しているため、映画館に近い印象の映像を表示することが可能となる。
【0060】
また、位相差の大きさが略一定というのは、必ずしもすべての位相差が完全に同一である必要はない。例えば、上記の説明では、この位相差の大きさが0.2として説明してあるが、例えば、0.15〜0.25の範囲であったりしてもよい。この場合には、位相差の大きさにたいして前後25%の許容範囲を設けたものである。つまり、目標の位相差の大きさに対して、前後所定の範囲内で位相差の大きさが収まるものであれば良い。
【0061】
また、上記のように補間位相を制御することにより、一般的な24Hzから60Hzへのフレームレート変換(フィルム・デジャダー)では出力フレームの5フレームのうち4フレームが生成された補間フレームであるのに対し、本発明が開示する補間方法では、5フレームのうち2フレームのみが生成された補間フレームとなる。前述のように出力映像に含まれる、動きベクトルを使って生成された補間フレームの割合は、間違った動きベクトルが検出された場合の画質劣化の大きさに影響を与えるものであるため、本発明の補間方法では従来よりも画質劣化の小さいフレームレート変換が可能となる。またこの際、生成する補間フレームの数は、表示するフレームの数の半分であるため、補間フレームの生成に必要な処理量は従来のフィルム・デジャダーの半分にすることができる。
【0062】
さらに、本発明が開示する補間方法では、生成する補間フレームの補間位相として0.2と0.8のみを用いる。前述のようにフレームを生成する補間位相が入力フレームに近付くと、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなる。このため本発明が開示する補間方法では、0.4、0.6の補間位相を用いる従来のフィルム・デジャダーに比べて、間違った動きベクトルが画質に与える影響が小さい。
【0063】
以上より、本実施の形態の構成を用いれば、従来と比較して、補間フレームの割合が小さく、かつ入力フレームに近い補間位相を用いることができるため、間違った動きベクトルが検出された場合の画質劣化が小さい。
【0064】
以上のように、本発明の補間方法によれば、3:2プルダウンで生じる不均一さを低減し、映画館に近い印象のフィルム・ジャダーを残し、かつ動きベクトルに誤検出があった場合の画質低下が小さい24Hzから60Hzへのフレームレート変換が可能となる。
【0065】
なお、上記の実施の形態では、入力映像信号として24Hzの映像が入力される場合を前提とした説明を行っているが、入力映像信号が3:2プルダウンされた60Hzの映像信号であってもかまわない。3:2プルダウンされた60Hzの映像信号から、3:2プルダウンされる前の24Hzの映像信号を適切に選択することができれば、同様の処理を行うことが可能である。
【0066】
また、図9に示す入力映像信号1001と各ブロックの処理と信号のタイミング関係は一例であり、映像メモリ202およびベクトルメモリ205の容量次第では、これと異なるタイミングで処理を行うことも可能である。
【0067】
また、本実施の形態では図1で示すようなハードウェア構成を例示として説明したが、本発明はこの態様に限定されるものではない。図1で示す構成と等価なソフトウェア等によっても、本実施の形態で説明した発明を実現することは可能である。
【産業上の利用可能性】
【0068】
本発明は、映像信号から動きベクトルを検出し、検出した動きベクトルを使用してフレームレートを変換して表示する装置等に用いることができる。
【符号の説明】
【0069】
201 画像変換装置
202 映像メモリ
203 ベクトル検出回路
204 補間制御回路
205 ベクトルメモリ
206 フレーム生成回路
207 表示部
208 入力映像信号
209 前フレーム映像信号
210 検出動きベクトル
211 ベクトル選択信号
212 補間用動きベクトル
213 フレーム選択信号
214 前後フレーム映像信号
215 補間位相制御信号
216 出力映像信号
301、1001 入力映像信号
302、1002 前フレーム映像信号
303、1003 検出動きベクトル
304,1004 補間用動きベクトル
305、1005 前後フレーム映像信号の前フレーム
306、1006 前後フレーム映像信号の後フレーム
307、1007 補間位相

【特許請求の範囲】
【請求項1】
第1のフレームレートを有する第1の映像信号を第1のフレームレートより高レートな第2のフレームレートを有する第2映像信号へ変換する画像変換装置において、
前記第1の映像信号の時間的に連続する少なくとも2つのフレームから動きベクトルを検出する動きベクトル検出部と、
前記第1の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第1の映像信号のフレームと該補間フレームと、から第2の映像信号を生成するフレーム生成部と、
前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、
を備える画像変換装置。
【請求項2】
前記補間制御部は、前記補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、
請求項1に記載の画像変換装置。
【請求項3】
前記第1の映像信号は、フレームレートが24Hzの映像信号であり、
前記第2の映像信号は、フレームレートが60Hzの映像信号である、
請求項1乃至2に記載の画像変換装置。
【請求項4】
前記補間制御部は、
前記動きベクトルにより示される移動軌跡と生成される前記第2の映像信号のフレームとの位相差が周期的に生じ、前記第2の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、
前記フレーム生成部は、前記第1の映像のフレームと補間フレームとの比率が3対2になるように、前記第2の映像信号を生成する、
請求項3に記載の画像変換装置。
【請求項5】
前記補間制御部は、補間フレームと、該補間フレームと最も近い前記第1の映像信号のフレームと、の位相差の大きさを略1/5とする、
請求項4に記載の画像変換装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate