映像処理装置及び映像処理方法
【課題】
動き補償法によるフレームレート変換時の補間フレーム生成方法に関し、人間の視覚認知の特性を利用し、映像本来の情報を伝達する効果を向上させる技術を提供する。
【解決手段】
映像の動きベクトルを検出する動きベクトル検出ステップと、検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、フレームレート算出ステップでは、動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、その動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出するように構成する。
動き補償法によるフレームレート変換時の補間フレーム生成方法に関し、人間の視覚認知の特性を利用し、映像本来の情報を伝達する効果を向上させる技術を提供する。
【解決手段】
映像の動きベクトルを検出する動きベクトル検出ステップと、検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、フレームレート算出ステップでは、動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、その動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出するように構成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像処理装置に係り、特に映像信号中のフレームから補間フレームを作成してフレームレート変換を行うための技術に関する。
【背景技術】
【0002】
近年、動画表示におけるぼやけ感やカクカク感といった不自然な動きを改善するために、フレームレート変換を適用した高画質化技術が注目されている。一般的には、現在のフレームと1フレーム前のフレーム間の動きベクトル情報を元に、フレーム間の動き補償処理を用いて、補間フレームを作成し、映像のなめらかな動きを補間する方法が利用されている。
【0003】
特許文献1には、「より正確に動きベクトルを検出可能にして、高画質にフレームレート変換を行うことが可能な技術を提供すること」(特許文献1[0005]参照)を課題とし、その解決手段として「フレーム間の動きの特徴に応じて補間フレーム生成部における水平・垂直・時間方向の補間方法を適応的に切り替える」(特許文献1[0006]参照)ことが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−236098
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1の方式は、動きベクトルヒストグラム分布を利用し、検出する動きベクトルの特徴判定の精度を向上させ、補間フレーム生成方法を切替えることで、動き補償法によるフレームレート変換時の映像の破綻を抑制することができる。しかし、特許文献1には、人間の視覚認知の特性を利用した補間フレーム生成方法に関しては、記載されていない。
【0006】
本発明は、上記課題を鑑みて考えたものであり、動き補償法によるフレームレート変換時の補間フレーム生成方法に関し、人間の視覚認知の特性を利用し、映像本来の情報を伝達する効果を向上させる技術を提供することを課題とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明の一実施の態様は、例えば映像の動きベクトルを検出する動きベクトル検出ステップと、検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、フレームレート算出ステップでは、動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、その動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出するように構成する。
【発明の効果】
【0008】
上記手段によれば、映像中のオブジェクトの認識度を向上させ、映像コンテンツのストーリーやそのシーンの理解度を高める効果がある。さらには、適切なフレームレート表示に切替えることにより、省電力効果も実現できる。
【図面の簡単な説明】
【0009】
【図1】映像処理装置の構成の一例を示すブロック図である。
【図2】映像処理装置に係る、フレーム間の映像の動きの大きさがある閾値以内の場合の主観評価結果である。
【図3】映像処理装置に係る、フレーム間の映像の動きの大きさがある閾値以上の場合の主観評価結果である。
【図4】フレームレート算出部105での動きベクトルヒストグラム結果を示した例である。
【図5】フレームレート算出部105での動きベクトルヒストグラム分布の集中度を示す分布値とフレームレートの関係を示した例である。
【図6】フレームレート算出部105でのフレームレート選択処理シーケンスを示した例である。
【図7】補間フレーム生成部106での補間フレーム生成処理シーケンスを示した例である。
【図8】映像中の動きベクトルヒストグラム分散値Hの違いによる出力映像を図示した例である。
【図9】映像処理装置の構成の一例を示すブロック図である。
【図10】文字検知部900で文字を検知する範囲の例である。
【図11】文字が横スクロールした際の動きベクトル検知を示す例である。
【図12】文字検出部900での動きベクトルヒストグラム分布値とフレームレートの関係を示した例である。
【図13】文字検出部900でのフレームレート選択処理シーケンスを示した例である。
【図14】映像処理装置の構成の一例を示すブロック図である。
【図15】フレームレート算出部105での動きベクトルヒストグラム結果からエリア毎のフレームレートを算出している例を示している。
【図16】映像表示装置のハードウェア構成例である。
【発明を実施するための形態】
【0010】
以下、図面を用いて実施例を説明する。
【実施例1】
【0011】
まず、第1の実施例を、図1〜図8を参照して説明する。
【0012】
図1は、第1の実施例である映像処理装置の構成の一例を示すブロック図である。
【0013】
図1において、100は入力信号(現フレーム信号)、101は入力信号(1フレーム前信号)、102はフレーム列生成部(フレームメモリI/F)、103は画像メモリ、104は動きベクトル検出部、105はフレームレート算出部、106は補間フレーム生成部、107はタイミング制御部、108は表示部である。
【0014】
入力信号100、101としては、デコードされた映像信号源で、チューナで受信したTV映像をデコードした映像や、CDやDVD、Blu-ray Discなど、メディアに記録された映像や、ハードディスクに保存した映像や、ネット上の映像コンテンツなど様々に考えられる。
【0015】
フレーム列生成部(メモリI/F)102は、画像メモリ103から画像情報を読み出し、入力信号100のオリジナルフレームと、時間的に1フレーム前の入力信号101と、さらに補間フレームとを組合せた新たなフレーム列を生成し、タイミング制御部107に映像にて、そのフレーム列に合った周波数での映像信号を表示部108に出力する。
【0016】
画像メモリ103では、オリジナルのフレームの信号を記憶する。そして、フレーム列生成部(メモリI/F)102は画像メモリ103にアクセスしながら上記補間フレームの生成を行う。
【0017】
また、画像メモリ103は、生成した補間フレームも記憶する。そして、補間フレーム生成処理部106は画像メモリ103にアクセスしながら上記記憶されたオリジナルフレームと補間フレームとを組合せることによって、上述の新たなフレーム列の映像信号を出力する。
【0018】
動きベクトル検出部104は、入力信号100と101のフレーム間の動きベクトルを検出し、フレーム間、または、フレームに含まれる画像のオブジェクト単位の動き量を方向ベクトルとして検出する。動きベクトル検出方法としては、例えばブロックマッチング法や勾配法、位相相関法等を用いればよい。
【0019】
フレームレート算出部105は、フレーム間のベクトル検出部104の情報を用いて、映像の中で、ある方向に動いているオブジェクトを検知し、その中で、最も大きなエリアを占めているオブジェクトが、映像製作者が映像として伝えたいものであるとして、そのオブジェクトのフレーム間での動きベクトルの大きさを元に、フレームレートを算出する。
【0020】
補間フレーム生成部106は、フレームレート算出部105から算出したフレームレートに応じて、動きベクトル検出部での情報を元に、フレームとフレームの間に存在するであろう画像を推測し、補間フレームを生成する。
【0021】
タイミング制御部107では、補間フレーム生成部106で生成されたフレームレートに対応した枚数の映像フレームを、対応した周波数間隔で映像を出力するためのタイミングを調整し、所望のフレームレートでの映像を表示部108に出力する。
【0022】
本制御により、視覚特性に合わせたフレームレートの補間フレームを生成し、表示部での適切なフレームレート映像出力が可能であり、見た目の認識度の向上をユーザに提供することができる。人間が認識し易い最低限の表示方法をすることは、最終的には省エネにも繋がる。
【0023】
例えば、入力映像が60Hz(何の周波数?)の場合に、フレームレート算出部105において、動きベクトル検知部104の動きベクトル情報を元に、映像の中のメインのオブジェクトの動きベクトルの大きさを算出し、その大きさがある閾値以内であり、人間がその動きのオブジェクトを認識し易いフレームレートである240Hzを選択する。選択されたフレームレートに応じて、補間フレーム生成部106は、現フレームと前フレームの間に3枚の補間フレームを生成し、フレーム列生成部(メモリI/F)102を介して、秒間240フレームのフレーム列を生成し、タイミング制御部107において、240Hz周波数で表示装置108に出力する。その際、同時に表示装置108に対して、表示装置の240Hz駆動の動作周波数を設定する。
【0024】
上記では、動きベクトル検出部104、補間フレーム生成部106に、現フレームと前フレームを入力する例で記載しているが、さらに複数フレームを入力とする方法により、倍速周波数出力のみでなく、様々な周波数での表示装置への出力が可能としても良い。
【0025】
本構成により、人間への情報の伝達効率を向上することができる。人間が認識できる最低限のレベルでのフレームレート設定も可能となるため、従来の一定のフレームレート設定の表示装置より、低電力化を図ることも可能である。
【0026】
図2は、第1の実施例の映像処理装置に係る、フレーム間の映像の動き特徴の大きさがある閾値以内の場合の主観評価結果である。
【0027】
入力信号100と入力信号101間で映像の中のメインのオブジェクトの動きベクトルの動き特徴量Hが、ある閾値以下の場合の映像に対して、フレームレートを60Hz〜960Hzに変化させた映像を、被験者に提示して、認識度の主観評価を行った結果である。
【0028】
ここで、動きベクトルの動き特徴量Hの閾値に関しては、映像を構成する画素または、オブジェクトのフレーム間の動きベクトル量(移動量とその方向)の特徴を示す値である。その特徴の捕らえ方は様々考えられるが、眼球の随従運動は、30°/s以下という報告がある(“眼球運動の制御機構”、NHK技研(1966))。
【0029】
そこで本実験では、まず映像中の特徴を示すメインのオブジェクトの映像を眼球が滑らかに随従できる限界、つまり、眼球の随従運動30°/sの映像の特徴量をH30とし、眼球が滑らかに随従できる範囲(H1≦H30とする)30)の映像について実験を行った。
【0030】
なお、角速度から動きの特徴量を求める場合、角速度の計算に用いる回転の中心位置を考慮しなければならない。すなわち、同じ速さで動くオブジェクトであっても、そのオブジェクトから回転の中心までの距離が長い場合と短い場合とでは、短い場合の方が角速度は大きくなる。
【0031】
そこで、30°/sから映像の特徴量H30を求める場合、回転の中心、すなわちユーザの位置は、例えば各映像処理装置で推奨されるユーザの視聴位置や、映像を表示するディスプレイの大きさに応じて予め定めた位置等、所定の基準に基づいて決められればよい。
【0032】
主観評価としては、ディスプレイにある速度で横スクロールする映像を提示して、「全く認識ができなかった」、「ぎりぎり認識ができた」、「はっきり認識できた」を指標に、VAS(Visual Analog Scale)方式で被験者10名程度の人に記入してもらう形式での実験を行った。
【0033】
その結果フレームレートを向上させて、映像のぼやけ幅が減少するに従い、主観評価による認識度が向上することが確認できた。眼球が滑らかに随従できる範囲H1において、240Hz以上(240Hz、480Hz、960Hz)では、認識度にあまり差は見られなかったので、装置の駆動周波数を抑えることで省エネできる240Hzを選択することを考える。なお、本選択は、一例であり、フレームレート設定は適宜変更可能である。
【0034】
図3は、第1の実施例の映像処理装置に係る、フレーム間の映像の動き特徴の大きさがある閾値以上(眼球が滑らかに随従するには困難な範囲)の場合の主観評価結果である。
【0035】
図2と同様の実験において、入力信号100と入力信号101の動きベクトルの動き特徴量Hが、ある閾値H30以上の場合(眼球が滑らかに随従するには困難な範囲)の映像に対して、フレームレートを変化させた映像を、被験者に提示して、認識度の主観評価を行った結果である。
【0036】
その結果、フレームレートを向上させると、実際の映像のぼやけ幅は減少するが、オブジェクトの動きが速すぎて、ほとんど認識できないと答えた被験者が多かった。しかし、60Hzの映像は認識度が高かった結果だった。
【0037】
これは、フレームレートを上げると映像の動きは滑らかになり、映像が速い速度で滑らかにスクロールしているのがわかるが、それが何の映像だったかを認識できる人は少ないということを示している。
【0038】
これに関しては、上述の通り眼球の随従運動は、30°/s以下という報告もあるので、この限界を超えると、滑らかに映像を随従できないと考えられる。これに対して、随従ではなく、跳躍運動は視対象の速度に応じて動く系であり、その速度は200°/s〜600°/sに達すると言われている(“The Neurology of Eye Movement”、R.John Leight,et al.(1984))。
【0039】
つまり、動きが速く目で随従できない映像でも、跳ぶような速い動きの映像は、眼球の跳躍運動により検知できる可能性があることを示している。動きが速い映像の60Hz表示に関しては、現フレームと前フレームとの間の補間フレーム生成がなされないため、遠い距離を飛び飛びに移動している映像に見えることとなり、眼球の跳躍運動に似た視対象の追跡となり、認識度が向上したと考えられる。
【0040】
つまり、ある閾値以上の速さで動く映像に関しては、フレームレートを60Hzに落として表示させることで、映像の認識度を向上できる場合があると考えられる。
【0041】
図4は、第1の実施例の動きベクトル検出部104で検出される動きベクトルヒストグラムの結果の一例を示した図である。
【0042】
2次元映像の横方向をx方向、縦方向をy方向として、動きベクトル検出部104での動きベクトルでの動き検知の大きさは、垂直y方向ベクトル(−2、−1、0、+1、+2)、水平x方向ベクトル(−5、−4、−3、−2、−1、0、+1、+2、+3、+4、+5)とした場合を示しており、同じ成分を持つ動きベクトルの数をヒストグラム化して高さ軸方向にグラフ化したものである。この例では、x方向+4と+5の大きさの動きベクトルを持つ成分が集中していることが読取れ、フレーム間の映像が右にスクロールしている場合である。このように、動きベクトルのヒストグラム分布を用いて、映像中の動きの特徴を判定できる。
【0043】
この動きベクトルのヒストグラム分布の特徴をみることで、映像の中のメインのオブジェクトのスクロールを推測することができる。例えば、動きベクトル検出部104でのあるエリアの動きベクトルのヒストグラム分布が、図4のような特徴を持つ場合、x方向に+4の大きさ、y方向に+2の大きさを持つ動きベクトル検知数が大きいため、検知エリアの中で、あるオブジェクトがその方向に動いている映像が表現されていることが推測できる。
【0044】
すなわち、ある特徴をもつ動きベクトル情報に集中し、この動きベクトルヒストグラム分布を示す分布値を算出すれば、映像の動き特徴を検出できる。
【0045】
図5は、第1の実施例のフレームレート算出部105で用いる動きベクトルヒストグラム分布の集中度を示す分布値とフレームレートの関係を示した例である。
【0046】
フレームレート算出部105では、まず動きベクトル検出部104での動きベクトルのヒストグラム分布から動きベクトルヒストグラム分布値Hを求める。この算出方法は、例えば、統計データ処理の基本統計量で用いられる平均値、中央値、最頻値などの代表値を利用することが考えられる。動き方向と動きの大きさの分散の仕方と、ヒストグラム値(動きベクトル積算数)から、動き特徴を導き出すことができる式を利用して、分散値(動き特徴量)Hを求めることとする。
【0047】
この分散値は、あるベクトル量であり、画面全体またはメインのオブジェクトの動く大きさと方向を示し、数値が大きい場合は、1フレーム間での動き量が大きく、方向で画面上のどこからどの向きへの動きなのかを示す。例えば、画面が横スクロールする場合には、スクロール方向以外の方向への移動量も存在するが、スクロール方向の特徴量が大きく分散値としては、スクロール速度とその方向の特徴量が現れたものとなる。分散値とフレームレートとの関係は、主観評価結果を利用し、ユーザの認識度を向上させる対応付けをする。
【0048】
本手法の動き方向と動きの大きさの分散の仕方と、ヒストグラム値を用いることにより、ヒストグラム値が大きい場合には、動きベクトル検出部104での検知エリア内に同じ動きをするオブジェクトの大きさが大きいことが推測される。つまり、映像制作者が、そのオブジェクトをメインに撮影やCG合成していると考えられる。このような推測をすると、映像制作者が伝えたい情報の認識度を上げるように、映像を表現することができる。検出エリア情報のみでなく、複数のエリアの動きベクトルヒストグラム分散値を考慮することにより、さらに映像全体の特徴値を算出できる。
【0049】
また、主観評価結果と対応させて、認識度を向上させる方法としては、例えば、図2の主観評価結果から、動きの特徴量Hが、ある閾値H0以下の場合は、特に動きに特徴がない(エリア全体がばらばらな動きをしている)映像が表示されていると判断して、映像の滑らかさを重視して、240Hz設定、微小な動きの範囲H0<H≦H1では、静止画に近く、動画の滑らかさよりも省エネを考慮した60Hz、ある程度の動きの範囲H1<H≦H2、省エネと認識度を考慮して120Hz、H2<H≦H3では映像の滑らかさを優先して240Hz、ある閾値よりも大きいH>H3の場合は、図3で示した認識度の主観評価結果から60Hzという設定にする(但し、H0<H1<H2<H3)。
【0050】
なお、ここでH3は、前述した眼球の随従運動30°/sの映像の特徴量であるH30としてもよい。
【0051】
本例では、動きベクトルヒストグラム分散値をH0からH3と複数閾値を設けた例を示したが、眼球の追従運動限界である30°/sよりも高いか低いかの2種類の閾値で制御しても良い。閾値を細かく制御すると、上記の例の様に、認識度も考慮しつつ、省エネできる可能性がある。
【0052】
H>H3の場合は、240Hz可能なハードウェアを利用して、60Hz駆動するため、ハードウェア的にも余裕があるため、補間フレームを作らない代わりに、他の映像処理を追加しても良い。例えば、処理動きが速く撮影時の映像ソースの映像も、ぼやけている可能性もあるため、その場合には、超解像技術などで映像を補間してから60Hzで表示することも考えられる。超解像技術とは、一般的には、アップスケーリングされた画像拡大処理(バイリニアやバイキュービックなど)を行った場合に生じる画像のボケやエッジの粗さを改善する技術である。
【0053】
また、低解像度の複数の画像を元に推定した値を使って、高精細やクリアにする技術も含まれる。たとえば、動画データでは、時間的に近いフレーム内では、似たような画像の集まりであることが多く、1画素のフレーム間での動きを予測しやすく、元々どのような画像だったのか推測して、高精細化した画像データを作り出す技術である。
【0054】
本設定は、ユーザインタフェースを介して、ユーザが設定できるようにしても良い。その場合、ある速度のスクロール映像をフレームレート毎にユーザに提示して、その見易さをユーザに回答させ、その回答結果からそのユーザに最も適したフレームレートを算出する。これにより、そのユーザにとって、映像の認識度を向上させる映像のフレームレートを算出できるメリットがある。
【0055】
図6は、第1の実施例のフレームレート算出部105でのフレームレート選択処理シーケンスを示した例である。
【0056】
まず、動きベクトル検知104からエリア毎の動きベクトル検出結果を入手する(S600)。次に、動きベクトル毎のベクトル数をカウントし、図4に示すような動きベクトルヒストグラム分布を算出し、その動きの特徴の代表値を、動きベクトルヒストグラム分布値Hとする(S601)。
【0057】
動きベクトルヒストグラム分布値Hは、動き方向と動きの大きさの分散の仕方と、ヒストグラム値を用い、さらに、エリア毎、もしくは、複数のエリアの動きベクトルヒストグラム分散値を考慮して、映像の中のメインのオブジェクトの動きの特徴を現す指標である。
【0058】
複数のエリアの情報を考慮する場合は、動きベクトルヒストグラム分布値が同じような分散の仕方のエリアが隣り合っていれば、映像内で動いているオブジェクトが複数のエリアを跨いでいることがわかり、映像内で動いているオブジェクトの大きさ(1画面に占める割合)が推定できることになる。
【0059】
また、LEDバックライト制御により1画面を分割して別々に制御できる場合は、それぞれのエリア毎の特徴量を算出し、エリア毎に認識度を向上するようなフレームレートに制御してもよい。
【0060】
次に、動きベクトルヒストグラム分布値Hに対応したフレームレートを図5の主観評価を元に作成した動きベクトルヒストグラム分布値とフレームレートの関係を示したテーブルから参照する(S602)。
【0061】
本処理により、フレームレート算出部105において、動きベクトル検知104からエリア毎の動きベクトル検出結果を元に、動きベクトルヒストグラム分布値Hを算出し、動きベクトルヒストグラム分布値Hに対応した主観評価(認識度)が最適になるフレームレートを選択できることができる。
【0062】
図7は、第1の実施例の補間フレーム生成部106での補間フレーム生成処理シーケンスの一例を示した図である。
補間フレーム生成部106は、フレームレート算出部105から、表示する映像に最適なフレームレート情報を入手する(S700)。入力信号100、101とそのフレーム間の動きベクトル104からの結果を利用して、フレームレートに対応した補間フレームを生成する(S701)。
【0063】
例えば、入力信号が60Hzの場合に、フレームレート120Hzが選択された場合には、入力キーフレームの間に1枚の補間フレームを生成する。240Hz時は、120Hz時に生成した補間フレームと入力キーフレーム(現フレーム)の間に1枚、入力キーフレーム(前フレーム)の間に1枚の計3枚の補間フレームを生成する。
【0064】
これにより、フレームレート算出部105で算出したコンテンツの認識度を向上させるフレームレートの表示を行うために必要な枚数にフレームを生成できる。
【0065】
図8は、第1の実施例の映像中の動きベクトルヒストグラム分散値Hの違いによる出力映像を図示した例である。
【0066】
図8(1)は、入力映像のフレーム間でのメインオブジェクト(飛行機)の動きベクトルヒストグラム分散値Hが閾値H3以上の場合の例である。1フレーム間でのオブジェクトの動きが大きく、オブジェクトの認識度を向上させるために、主観評価で認識度が高かった60Hz設定での出力を示している。
【0067】
図8(2)は、H1<H≦H2の例であり、入力60Hzに対して、主観評価で認識度が高かった120Hz設定での出力を示している。
【0068】
図8(3)は、H2<H≦H3の例であり、入力60Hzに対して、主観評価で認識度が高かった240Hz設定での出力を示している。
【0069】
実施例1に示したように、映像の動きに応じてフレームレートを変化させることで、ユーザにとって認識しやすい映像を出力することが可能となり、更には装置の駆動周波数を抑えることで省エネルギー効果をもたらすことができる。
【実施例2】
【0070】
次に、第二の実施例を、図9〜図13を参照して説明する。図9は、第2の実施例の映像処理装置の構成の一例を示すブロック図である。
【0071】
図1の構成と比較して、フレームレート算出部105を、文字検出部900と入れ替えた構成である。同じ構成のモジュールは図1に記載しているので省略する。
【0072】
図1の構成では、映像の動きベクトルヒストグラム分散値を用いて、映像の動き特徴量から認識度を向上させるフレームレートを算出したが、本実施例では、文字検出部900で文字スクロール(文字テロップ)の有無を検出して、映像中の文字の認識度が最適になるように、映像のフレームレートを選択する方法について説明する。
【0073】
図10は、第2の実施例例の文字検知部900での文字を検知する範囲の例を示す図である。
【0074】
地上波や衛星、ケーブルテレビなどの放送コンテンツを始めとする映像の中で、番組の終わりに近いタイミングで、図10のような画面下部の高さ△の範囲に番組制作に係ったスタッフの名前が横スクロールで流れることがある(スタッフロール、文字テロップ等)。
【0075】
この△の部分の範囲に文字が出現することを想定する例であり、図11で示す文字スクロールの特徴を利用して、この範囲に関して、文字の検出、文字のスクロール速度を算出する。なお、全画面に対して文字のスクロール速度の算出を行ってもよいが、範囲を絞ることで、文字検知処理の高速化が図れる効果がある。
【0076】
図11は、第2の実施例の文字が横スクロールした際の動きベクトル検知を示す例で、“あいうえお”という文字が、画面の右から左に水平にスクロールしている例である。
【0077】
画素をマクロブロックで区切り、マクロブロック毎の現フレームと前フレームの差分の動きベクトルを考えると、流れる文字テロップでは、図11のように、同じ方向、同じ長さの動きベクトルになることがわかる。つまり、図10で示す△の範囲に文字が横スクロールするとし、各マクロブロックの動きベクトルを検出すると、同じ方向に、同じ大きさの動きベクトルが数多く検出できることとなる。
【0078】
この特徴を利用して、図4の動きベクトルヒストグラムを利用して、文字がスクロールしていることを推測、検知することができる。
【0079】
文字検出に関しては、文字は背景に対して、輝度のエッジが俊敏なので、エッジ検出などを利用すれば、さらに精度を上げることができる。
【0080】
図12は、第2の実施例の文字検出部900での動きベクトルヒストグラム分布値とフレームレートの関係を示した例である。
【0081】
第1の実施例のフレームレート算出部105で示した図5と同様に、図2、図3の主観評価の認識度結果から、動きベクトルヒストグラム分布値とフレームレートの関係を対応付けた例である。
【0082】
図2の主観評価結果から、動きベクトルヒストグラム分布値Hに特徴がなく、文字検出部900において△領域に文字を検出できなく、文字のない映像コンテンツ表示時は、入力信号の60Hzよりは滑らかに動画を表示でき、消費電力が抑えられる120Hzを採用する。
【0083】
図5の説明で利用した動き特徴量Hの閾値H0からH3を利用すると、H>H3の場合は、文字の動きが速く高フレームレートにすると、逆に認識度が低下してしまうので60Hz設定、△領域に文字が検出でき、H≦H3の場合には、文字の認識度の向上が期待できる240Hz設定にする。
【0084】
本設定は、ユーザインタフェースを介して、ユーザが設定できるようにしても良い。その場合、ある速度のスクロール映像をフレームレート毎にユーザに提示して、その見易さをユーザに回答させ、その回答結果からそのユーザに最も適したフレームレートを算出する。
【0085】
本処理により、文字検出部900において、動きベクトル検知104からエリア毎の動きベクトル検出結果を元に、文字テロップの動きベクトルヒストグラム分布値Hを算出し、動きベクトルヒストグラム分布値Hに対応した主観評価による文字の認識度が最適になるフレームレートを選択できることができる。
【0086】
図13は、第2の実施例である文字検出部900でのフレームレート選択処理シーケンスを示した例である。
【0087】
動きベクトル検知104から指定したエリア(△領域)に関して、動きベクトル結果を入手する(S1300)。
【0088】
次に、動きベクトル毎のベクトル数をカウントし、図4に示すような動きベクトルヒストグラム分布を算出し、その動きの特徴の代表値を、動きベクトルヒストグラム分布値Hとする(S1301)。
【0089】
次に、動きベクトルヒストグラム分布値Hに対応した文字の認識度が高いフレームレートを図12の動きベクトルヒストグラム分布値とフレームレートの関係を示したテーブルから参照する(S1302)。
【0090】
本処理により、文字検出部900において、あるエリアの文字スクロールの有無と、その動き特徴量を算出し、動き特徴量に対応した文字の主観評価(認識度)が最適になるフレームレートを選択できることができる。すなわち、文字テロップを想定した動きベクトル検出結果から、文字の有無、スクロール速度を推測し、認識度を向上させるフレームレートを選択できる。
【0091】
以下、本発明の第3の実施例を、図14〜図15を参照して説明する。
図14は、第3の実施例の映像処理装置の構成の一例を示すブロック図である。
【0092】
同じ構成のモジュールは図1に記載しているので省略する。図1の構成と比較して、液晶ディスプレイを想定したバックライト制御部1400とバックライト部1401とを追加した構成である。同じ構成のモジュールは図1に記載しているので省略する。
【0093】
液晶ディスプレイでは、液晶の応答の遅さを補う方法としてバックライト制御が考えられる。液晶の物理的特性からパネルの応答速度は決まるが、例えば、あるエリアを白から黒に変化させる場合に、バックライトの光を遮るように液晶に電圧をかけて液晶の透過率を変化させた際に、バックライトの光を消灯すれば、液晶の応答を待たずに、黒を表現できるようになるので、パネルの応答速度としては、高速化が可能となる。さらに、LEDバックライトなどを利用して、エリア毎の細かい応答の制御も可能である。
【0094】
図14の構成において、フレームレート算出部で利用したエリア毎の動きベクトルヒストグラム分散値を利用して、エリア毎に最適なフレームレートを算出可能であるので、それをバックライト制御部1400に伝達し、バックライト部をエリア毎に制御し、エリア毎の見た目の液晶応答速度を向上させることにより、さらにユーザの認識度を向上させることができる。
【0095】
フレームレート算出部で利用したエリア毎の動きベクトルヒストグラム分散値から、認識度を向上させるフレームレート算出は、実施例第一の図5で示した方法と同じ手法を利用する。
【0096】
また、原価コスト削減のために、応答の遅い液晶パネルを使用した場合には、バックライト制御1400により、エリア毎の見た目の応答速度を向上でき、見た目の認識度を低コストで向上できる効果もある。
【0097】
例えば、120Hz対応の液晶パネルを利用した場合に、そのエリアを白から黒に変化させる場合に、液晶に電圧をかけて透過率を変化させている途中で、バックライト制御部1400において、バックライトをオフに制御すると、液晶が光を遮る前にそもそものバックライトからの光がなくなるので、早めに黒に変化することができ、見た目240Hzの液晶の応答速度を実現できる。
【0098】
図15は、第3の実施例のフレームレート算出部105での動きベクトルヒストグラム結果からエリア毎のフレームレートを算出している例を示している。
【0099】
図15に示す様に、表示部がバックライト制御1400で制御可能なエリア毎に分かれている場合に、エリア毎に動きベクトルヒストグラム分散値Hを求め、その分散値を元に主観評価の認識度に合ったフレームレートを算出する例を示している。
【0100】
本処理により、エリア毎に認識度を向上させるフレームレートを設定でき、それをバックライト制御1400で、エリア毎の見た目の液晶応答速度を向上させることにより、エリア毎に見た目の認識度を向上することができる。
【0101】
本例では、エリア毎に求めた動きベクトルヒストグラム分散値を利用して、フレームレートを求めているが、複数エリアの動きベクトルヒストグラム分散値分析の結果から複数のエリアを纏めてバックライト制御しても良い。
【0102】
この場合、メインのオブジェクトの動きが複数のエリアを跨って映像の中を動く場合に、エリアの切れ目におけるオブジェクトのつなぎ目でフレームレートが変わることによる破綻がなくなると考えられる。
【0103】
図16は、各実施例の映像表示装置のハードウェア構成例である。
【0104】
図16において、1600はアンテナ、1601はチューナ、1602は入力I/F、1603は映像デコーダ回路、1604は映像処理装置部分であり、1605はフレーム処理回路、1606はフレームメモリ、1607はタイミングコントローラ、1608は表示装置である。
【0105】
アンテナ1600は、地上波デジタル放送やBS/CSなど衛星放送のアンテナ装置や、CATVなど外部からの放送波を入力する回路である。チューナ1601は、周波数同調回路であり、放送波を受信するための部品、回路である。入力I/F 1602は、DVDやBD、メモリカード、ネットワークなどに保存してある映像や音声情報の入力I/Fであり、コンポジット、D端子、HDMI端子、EtHernet(RJ-45)端子、IEEE1394端子や、IEEE802.11シリーズ、LTE、Bluetoothなど無線を介してなど様々な映像入力を受け付ける入力I/Fである。
【0106】
映像デコーダ回路1603は、一定の規則に基づいて符号化されたデータを復号する回路で、MPEGデコーダなどに相当する回路である。映像処理装置1604が、実施例1〜3に示した、フレームレート算出部、補間フレーム生成部を含む処理部が実装されている回路で構成された装置であり、映像デコーダ回路1603で映像や音声としてデコードされたフレーム単位の映像を入力信号とする。
【0107】
フレーム処理回路1605には、ベクトル検知104、フレームレート算出部105、補間フレーム生成部106、フレーム列生成部(メモリI/F)102が含まれ、画像メモリ103を含む、フレームメモリ1606を介して、補間フレームが生成される。
【0108】
タイミング制御部107を含む、タイミングコントローラ1607は、映像処理装置1604から得られたフレームレートにて出力を表示装置1608に表示するためのタイミング調整を行う。
【0109】
なお、上述した本実施形態は、本発明の説明のための例示であり、本発明の範囲を実施形態にのみ限定する趣旨ではない。当業者は、本発明の要旨を逸脱することなしに、他の様々な態様で本発明を実施できる。例えば、本実施では、文字検出部での検知エリアを画面下部の△領域としているが、映画のスタッフロールの様に、画面の縦中央部分を検知エリアとしても良い。また、実施例第三の構成でのフレームレート算出部が、実施例第二の構成の文字検出部と入れ替わっても良い。また、ユーザインタフェースを有するシステムに組み込まれた場合には、“認識度アップモード”などのモード設け、そのモードに設定された時のみ、本実施がなされるものとしても良い。
【符号の説明】
【0110】
100 入力信号(現フレーム信号)
101 入力信号(1フレーム前信号)
102 フレーム列生成部(フレームメモリI/F)
103 画像メモリ
104 動きベクトル検出部
105 フレームレート算出部
106 補間フレーム生成部
107 タイミング制御部
108 表示部
900 文字検出部
1400 バックライト制御部
1401 バックライト部
1600 アンテナ
1601 チューナ
1602 入力I/F
1603 映像デコーダ回路
1604 映像処理装置部分
1605 フレーム処理回路
1606 フレームメモリ
1607 タイミングコントローラ
1608 表示装置
【技術分野】
【0001】
本発明は、映像処理装置に係り、特に映像信号中のフレームから補間フレームを作成してフレームレート変換を行うための技術に関する。
【背景技術】
【0002】
近年、動画表示におけるぼやけ感やカクカク感といった不自然な動きを改善するために、フレームレート変換を適用した高画質化技術が注目されている。一般的には、現在のフレームと1フレーム前のフレーム間の動きベクトル情報を元に、フレーム間の動き補償処理を用いて、補間フレームを作成し、映像のなめらかな動きを補間する方法が利用されている。
【0003】
特許文献1には、「より正確に動きベクトルを検出可能にして、高画質にフレームレート変換を行うことが可能な技術を提供すること」(特許文献1[0005]参照)を課題とし、その解決手段として「フレーム間の動きの特徴に応じて補間フレーム生成部における水平・垂直・時間方向の補間方法を適応的に切り替える」(特許文献1[0006]参照)ことが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−236098
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1の方式は、動きベクトルヒストグラム分布を利用し、検出する動きベクトルの特徴判定の精度を向上させ、補間フレーム生成方法を切替えることで、動き補償法によるフレームレート変換時の映像の破綻を抑制することができる。しかし、特許文献1には、人間の視覚認知の特性を利用した補間フレーム生成方法に関しては、記載されていない。
【0006】
本発明は、上記課題を鑑みて考えたものであり、動き補償法によるフレームレート変換時の補間フレーム生成方法に関し、人間の視覚認知の特性を利用し、映像本来の情報を伝達する効果を向上させる技術を提供することを課題とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明の一実施の態様は、例えば映像の動きベクトルを検出する動きベクトル検出ステップと、検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、フレームレート算出ステップでは、動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、その動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出するように構成する。
【発明の効果】
【0008】
上記手段によれば、映像中のオブジェクトの認識度を向上させ、映像コンテンツのストーリーやそのシーンの理解度を高める効果がある。さらには、適切なフレームレート表示に切替えることにより、省電力効果も実現できる。
【図面の簡単な説明】
【0009】
【図1】映像処理装置の構成の一例を示すブロック図である。
【図2】映像処理装置に係る、フレーム間の映像の動きの大きさがある閾値以内の場合の主観評価結果である。
【図3】映像処理装置に係る、フレーム間の映像の動きの大きさがある閾値以上の場合の主観評価結果である。
【図4】フレームレート算出部105での動きベクトルヒストグラム結果を示した例である。
【図5】フレームレート算出部105での動きベクトルヒストグラム分布の集中度を示す分布値とフレームレートの関係を示した例である。
【図6】フレームレート算出部105でのフレームレート選択処理シーケンスを示した例である。
【図7】補間フレーム生成部106での補間フレーム生成処理シーケンスを示した例である。
【図8】映像中の動きベクトルヒストグラム分散値Hの違いによる出力映像を図示した例である。
【図9】映像処理装置の構成の一例を示すブロック図である。
【図10】文字検知部900で文字を検知する範囲の例である。
【図11】文字が横スクロールした際の動きベクトル検知を示す例である。
【図12】文字検出部900での動きベクトルヒストグラム分布値とフレームレートの関係を示した例である。
【図13】文字検出部900でのフレームレート選択処理シーケンスを示した例である。
【図14】映像処理装置の構成の一例を示すブロック図である。
【図15】フレームレート算出部105での動きベクトルヒストグラム結果からエリア毎のフレームレートを算出している例を示している。
【図16】映像表示装置のハードウェア構成例である。
【発明を実施するための形態】
【0010】
以下、図面を用いて実施例を説明する。
【実施例1】
【0011】
まず、第1の実施例を、図1〜図8を参照して説明する。
【0012】
図1は、第1の実施例である映像処理装置の構成の一例を示すブロック図である。
【0013】
図1において、100は入力信号(現フレーム信号)、101は入力信号(1フレーム前信号)、102はフレーム列生成部(フレームメモリI/F)、103は画像メモリ、104は動きベクトル検出部、105はフレームレート算出部、106は補間フレーム生成部、107はタイミング制御部、108は表示部である。
【0014】
入力信号100、101としては、デコードされた映像信号源で、チューナで受信したTV映像をデコードした映像や、CDやDVD、Blu-ray Discなど、メディアに記録された映像や、ハードディスクに保存した映像や、ネット上の映像コンテンツなど様々に考えられる。
【0015】
フレーム列生成部(メモリI/F)102は、画像メモリ103から画像情報を読み出し、入力信号100のオリジナルフレームと、時間的に1フレーム前の入力信号101と、さらに補間フレームとを組合せた新たなフレーム列を生成し、タイミング制御部107に映像にて、そのフレーム列に合った周波数での映像信号を表示部108に出力する。
【0016】
画像メモリ103では、オリジナルのフレームの信号を記憶する。そして、フレーム列生成部(メモリI/F)102は画像メモリ103にアクセスしながら上記補間フレームの生成を行う。
【0017】
また、画像メモリ103は、生成した補間フレームも記憶する。そして、補間フレーム生成処理部106は画像メモリ103にアクセスしながら上記記憶されたオリジナルフレームと補間フレームとを組合せることによって、上述の新たなフレーム列の映像信号を出力する。
【0018】
動きベクトル検出部104は、入力信号100と101のフレーム間の動きベクトルを検出し、フレーム間、または、フレームに含まれる画像のオブジェクト単位の動き量を方向ベクトルとして検出する。動きベクトル検出方法としては、例えばブロックマッチング法や勾配法、位相相関法等を用いればよい。
【0019】
フレームレート算出部105は、フレーム間のベクトル検出部104の情報を用いて、映像の中で、ある方向に動いているオブジェクトを検知し、その中で、最も大きなエリアを占めているオブジェクトが、映像製作者が映像として伝えたいものであるとして、そのオブジェクトのフレーム間での動きベクトルの大きさを元に、フレームレートを算出する。
【0020】
補間フレーム生成部106は、フレームレート算出部105から算出したフレームレートに応じて、動きベクトル検出部での情報を元に、フレームとフレームの間に存在するであろう画像を推測し、補間フレームを生成する。
【0021】
タイミング制御部107では、補間フレーム生成部106で生成されたフレームレートに対応した枚数の映像フレームを、対応した周波数間隔で映像を出力するためのタイミングを調整し、所望のフレームレートでの映像を表示部108に出力する。
【0022】
本制御により、視覚特性に合わせたフレームレートの補間フレームを生成し、表示部での適切なフレームレート映像出力が可能であり、見た目の認識度の向上をユーザに提供することができる。人間が認識し易い最低限の表示方法をすることは、最終的には省エネにも繋がる。
【0023】
例えば、入力映像が60Hz(何の周波数?)の場合に、フレームレート算出部105において、動きベクトル検知部104の動きベクトル情報を元に、映像の中のメインのオブジェクトの動きベクトルの大きさを算出し、その大きさがある閾値以内であり、人間がその動きのオブジェクトを認識し易いフレームレートである240Hzを選択する。選択されたフレームレートに応じて、補間フレーム生成部106は、現フレームと前フレームの間に3枚の補間フレームを生成し、フレーム列生成部(メモリI/F)102を介して、秒間240フレームのフレーム列を生成し、タイミング制御部107において、240Hz周波数で表示装置108に出力する。その際、同時に表示装置108に対して、表示装置の240Hz駆動の動作周波数を設定する。
【0024】
上記では、動きベクトル検出部104、補間フレーム生成部106に、現フレームと前フレームを入力する例で記載しているが、さらに複数フレームを入力とする方法により、倍速周波数出力のみでなく、様々な周波数での表示装置への出力が可能としても良い。
【0025】
本構成により、人間への情報の伝達効率を向上することができる。人間が認識できる最低限のレベルでのフレームレート設定も可能となるため、従来の一定のフレームレート設定の表示装置より、低電力化を図ることも可能である。
【0026】
図2は、第1の実施例の映像処理装置に係る、フレーム間の映像の動き特徴の大きさがある閾値以内の場合の主観評価結果である。
【0027】
入力信号100と入力信号101間で映像の中のメインのオブジェクトの動きベクトルの動き特徴量Hが、ある閾値以下の場合の映像に対して、フレームレートを60Hz〜960Hzに変化させた映像を、被験者に提示して、認識度の主観評価を行った結果である。
【0028】
ここで、動きベクトルの動き特徴量Hの閾値に関しては、映像を構成する画素または、オブジェクトのフレーム間の動きベクトル量(移動量とその方向)の特徴を示す値である。その特徴の捕らえ方は様々考えられるが、眼球の随従運動は、30°/s以下という報告がある(“眼球運動の制御機構”、NHK技研(1966))。
【0029】
そこで本実験では、まず映像中の特徴を示すメインのオブジェクトの映像を眼球が滑らかに随従できる限界、つまり、眼球の随従運動30°/sの映像の特徴量をH30とし、眼球が滑らかに随従できる範囲(H1≦H30とする)30)の映像について実験を行った。
【0030】
なお、角速度から動きの特徴量を求める場合、角速度の計算に用いる回転の中心位置を考慮しなければならない。すなわち、同じ速さで動くオブジェクトであっても、そのオブジェクトから回転の中心までの距離が長い場合と短い場合とでは、短い場合の方が角速度は大きくなる。
【0031】
そこで、30°/sから映像の特徴量H30を求める場合、回転の中心、すなわちユーザの位置は、例えば各映像処理装置で推奨されるユーザの視聴位置や、映像を表示するディスプレイの大きさに応じて予め定めた位置等、所定の基準に基づいて決められればよい。
【0032】
主観評価としては、ディスプレイにある速度で横スクロールする映像を提示して、「全く認識ができなかった」、「ぎりぎり認識ができた」、「はっきり認識できた」を指標に、VAS(Visual Analog Scale)方式で被験者10名程度の人に記入してもらう形式での実験を行った。
【0033】
その結果フレームレートを向上させて、映像のぼやけ幅が減少するに従い、主観評価による認識度が向上することが確認できた。眼球が滑らかに随従できる範囲H1において、240Hz以上(240Hz、480Hz、960Hz)では、認識度にあまり差は見られなかったので、装置の駆動周波数を抑えることで省エネできる240Hzを選択することを考える。なお、本選択は、一例であり、フレームレート設定は適宜変更可能である。
【0034】
図3は、第1の実施例の映像処理装置に係る、フレーム間の映像の動き特徴の大きさがある閾値以上(眼球が滑らかに随従するには困難な範囲)の場合の主観評価結果である。
【0035】
図2と同様の実験において、入力信号100と入力信号101の動きベクトルの動き特徴量Hが、ある閾値H30以上の場合(眼球が滑らかに随従するには困難な範囲)の映像に対して、フレームレートを変化させた映像を、被験者に提示して、認識度の主観評価を行った結果である。
【0036】
その結果、フレームレートを向上させると、実際の映像のぼやけ幅は減少するが、オブジェクトの動きが速すぎて、ほとんど認識できないと答えた被験者が多かった。しかし、60Hzの映像は認識度が高かった結果だった。
【0037】
これは、フレームレートを上げると映像の動きは滑らかになり、映像が速い速度で滑らかにスクロールしているのがわかるが、それが何の映像だったかを認識できる人は少ないということを示している。
【0038】
これに関しては、上述の通り眼球の随従運動は、30°/s以下という報告もあるので、この限界を超えると、滑らかに映像を随従できないと考えられる。これに対して、随従ではなく、跳躍運動は視対象の速度に応じて動く系であり、その速度は200°/s〜600°/sに達すると言われている(“The Neurology of Eye Movement”、R.John Leight,et al.(1984))。
【0039】
つまり、動きが速く目で随従できない映像でも、跳ぶような速い動きの映像は、眼球の跳躍運動により検知できる可能性があることを示している。動きが速い映像の60Hz表示に関しては、現フレームと前フレームとの間の補間フレーム生成がなされないため、遠い距離を飛び飛びに移動している映像に見えることとなり、眼球の跳躍運動に似た視対象の追跡となり、認識度が向上したと考えられる。
【0040】
つまり、ある閾値以上の速さで動く映像に関しては、フレームレートを60Hzに落として表示させることで、映像の認識度を向上できる場合があると考えられる。
【0041】
図4は、第1の実施例の動きベクトル検出部104で検出される動きベクトルヒストグラムの結果の一例を示した図である。
【0042】
2次元映像の横方向をx方向、縦方向をy方向として、動きベクトル検出部104での動きベクトルでの動き検知の大きさは、垂直y方向ベクトル(−2、−1、0、+1、+2)、水平x方向ベクトル(−5、−4、−3、−2、−1、0、+1、+2、+3、+4、+5)とした場合を示しており、同じ成分を持つ動きベクトルの数をヒストグラム化して高さ軸方向にグラフ化したものである。この例では、x方向+4と+5の大きさの動きベクトルを持つ成分が集中していることが読取れ、フレーム間の映像が右にスクロールしている場合である。このように、動きベクトルのヒストグラム分布を用いて、映像中の動きの特徴を判定できる。
【0043】
この動きベクトルのヒストグラム分布の特徴をみることで、映像の中のメインのオブジェクトのスクロールを推測することができる。例えば、動きベクトル検出部104でのあるエリアの動きベクトルのヒストグラム分布が、図4のような特徴を持つ場合、x方向に+4の大きさ、y方向に+2の大きさを持つ動きベクトル検知数が大きいため、検知エリアの中で、あるオブジェクトがその方向に動いている映像が表現されていることが推測できる。
【0044】
すなわち、ある特徴をもつ動きベクトル情報に集中し、この動きベクトルヒストグラム分布を示す分布値を算出すれば、映像の動き特徴を検出できる。
【0045】
図5は、第1の実施例のフレームレート算出部105で用いる動きベクトルヒストグラム分布の集中度を示す分布値とフレームレートの関係を示した例である。
【0046】
フレームレート算出部105では、まず動きベクトル検出部104での動きベクトルのヒストグラム分布から動きベクトルヒストグラム分布値Hを求める。この算出方法は、例えば、統計データ処理の基本統計量で用いられる平均値、中央値、最頻値などの代表値を利用することが考えられる。動き方向と動きの大きさの分散の仕方と、ヒストグラム値(動きベクトル積算数)から、動き特徴を導き出すことができる式を利用して、分散値(動き特徴量)Hを求めることとする。
【0047】
この分散値は、あるベクトル量であり、画面全体またはメインのオブジェクトの動く大きさと方向を示し、数値が大きい場合は、1フレーム間での動き量が大きく、方向で画面上のどこからどの向きへの動きなのかを示す。例えば、画面が横スクロールする場合には、スクロール方向以外の方向への移動量も存在するが、スクロール方向の特徴量が大きく分散値としては、スクロール速度とその方向の特徴量が現れたものとなる。分散値とフレームレートとの関係は、主観評価結果を利用し、ユーザの認識度を向上させる対応付けをする。
【0048】
本手法の動き方向と動きの大きさの分散の仕方と、ヒストグラム値を用いることにより、ヒストグラム値が大きい場合には、動きベクトル検出部104での検知エリア内に同じ動きをするオブジェクトの大きさが大きいことが推測される。つまり、映像制作者が、そのオブジェクトをメインに撮影やCG合成していると考えられる。このような推測をすると、映像制作者が伝えたい情報の認識度を上げるように、映像を表現することができる。検出エリア情報のみでなく、複数のエリアの動きベクトルヒストグラム分散値を考慮することにより、さらに映像全体の特徴値を算出できる。
【0049】
また、主観評価結果と対応させて、認識度を向上させる方法としては、例えば、図2の主観評価結果から、動きの特徴量Hが、ある閾値H0以下の場合は、特に動きに特徴がない(エリア全体がばらばらな動きをしている)映像が表示されていると判断して、映像の滑らかさを重視して、240Hz設定、微小な動きの範囲H0<H≦H1では、静止画に近く、動画の滑らかさよりも省エネを考慮した60Hz、ある程度の動きの範囲H1<H≦H2、省エネと認識度を考慮して120Hz、H2<H≦H3では映像の滑らかさを優先して240Hz、ある閾値よりも大きいH>H3の場合は、図3で示した認識度の主観評価結果から60Hzという設定にする(但し、H0<H1<H2<H3)。
【0050】
なお、ここでH3は、前述した眼球の随従運動30°/sの映像の特徴量であるH30としてもよい。
【0051】
本例では、動きベクトルヒストグラム分散値をH0からH3と複数閾値を設けた例を示したが、眼球の追従運動限界である30°/sよりも高いか低いかの2種類の閾値で制御しても良い。閾値を細かく制御すると、上記の例の様に、認識度も考慮しつつ、省エネできる可能性がある。
【0052】
H>H3の場合は、240Hz可能なハードウェアを利用して、60Hz駆動するため、ハードウェア的にも余裕があるため、補間フレームを作らない代わりに、他の映像処理を追加しても良い。例えば、処理動きが速く撮影時の映像ソースの映像も、ぼやけている可能性もあるため、その場合には、超解像技術などで映像を補間してから60Hzで表示することも考えられる。超解像技術とは、一般的には、アップスケーリングされた画像拡大処理(バイリニアやバイキュービックなど)を行った場合に生じる画像のボケやエッジの粗さを改善する技術である。
【0053】
また、低解像度の複数の画像を元に推定した値を使って、高精細やクリアにする技術も含まれる。たとえば、動画データでは、時間的に近いフレーム内では、似たような画像の集まりであることが多く、1画素のフレーム間での動きを予測しやすく、元々どのような画像だったのか推測して、高精細化した画像データを作り出す技術である。
【0054】
本設定は、ユーザインタフェースを介して、ユーザが設定できるようにしても良い。その場合、ある速度のスクロール映像をフレームレート毎にユーザに提示して、その見易さをユーザに回答させ、その回答結果からそのユーザに最も適したフレームレートを算出する。これにより、そのユーザにとって、映像の認識度を向上させる映像のフレームレートを算出できるメリットがある。
【0055】
図6は、第1の実施例のフレームレート算出部105でのフレームレート選択処理シーケンスを示した例である。
【0056】
まず、動きベクトル検知104からエリア毎の動きベクトル検出結果を入手する(S600)。次に、動きベクトル毎のベクトル数をカウントし、図4に示すような動きベクトルヒストグラム分布を算出し、その動きの特徴の代表値を、動きベクトルヒストグラム分布値Hとする(S601)。
【0057】
動きベクトルヒストグラム分布値Hは、動き方向と動きの大きさの分散の仕方と、ヒストグラム値を用い、さらに、エリア毎、もしくは、複数のエリアの動きベクトルヒストグラム分散値を考慮して、映像の中のメインのオブジェクトの動きの特徴を現す指標である。
【0058】
複数のエリアの情報を考慮する場合は、動きベクトルヒストグラム分布値が同じような分散の仕方のエリアが隣り合っていれば、映像内で動いているオブジェクトが複数のエリアを跨いでいることがわかり、映像内で動いているオブジェクトの大きさ(1画面に占める割合)が推定できることになる。
【0059】
また、LEDバックライト制御により1画面を分割して別々に制御できる場合は、それぞれのエリア毎の特徴量を算出し、エリア毎に認識度を向上するようなフレームレートに制御してもよい。
【0060】
次に、動きベクトルヒストグラム分布値Hに対応したフレームレートを図5の主観評価を元に作成した動きベクトルヒストグラム分布値とフレームレートの関係を示したテーブルから参照する(S602)。
【0061】
本処理により、フレームレート算出部105において、動きベクトル検知104からエリア毎の動きベクトル検出結果を元に、動きベクトルヒストグラム分布値Hを算出し、動きベクトルヒストグラム分布値Hに対応した主観評価(認識度)が最適になるフレームレートを選択できることができる。
【0062】
図7は、第1の実施例の補間フレーム生成部106での補間フレーム生成処理シーケンスの一例を示した図である。
補間フレーム生成部106は、フレームレート算出部105から、表示する映像に最適なフレームレート情報を入手する(S700)。入力信号100、101とそのフレーム間の動きベクトル104からの結果を利用して、フレームレートに対応した補間フレームを生成する(S701)。
【0063】
例えば、入力信号が60Hzの場合に、フレームレート120Hzが選択された場合には、入力キーフレームの間に1枚の補間フレームを生成する。240Hz時は、120Hz時に生成した補間フレームと入力キーフレーム(現フレーム)の間に1枚、入力キーフレーム(前フレーム)の間に1枚の計3枚の補間フレームを生成する。
【0064】
これにより、フレームレート算出部105で算出したコンテンツの認識度を向上させるフレームレートの表示を行うために必要な枚数にフレームを生成できる。
【0065】
図8は、第1の実施例の映像中の動きベクトルヒストグラム分散値Hの違いによる出力映像を図示した例である。
【0066】
図8(1)は、入力映像のフレーム間でのメインオブジェクト(飛行機)の動きベクトルヒストグラム分散値Hが閾値H3以上の場合の例である。1フレーム間でのオブジェクトの動きが大きく、オブジェクトの認識度を向上させるために、主観評価で認識度が高かった60Hz設定での出力を示している。
【0067】
図8(2)は、H1<H≦H2の例であり、入力60Hzに対して、主観評価で認識度が高かった120Hz設定での出力を示している。
【0068】
図8(3)は、H2<H≦H3の例であり、入力60Hzに対して、主観評価で認識度が高かった240Hz設定での出力を示している。
【0069】
実施例1に示したように、映像の動きに応じてフレームレートを変化させることで、ユーザにとって認識しやすい映像を出力することが可能となり、更には装置の駆動周波数を抑えることで省エネルギー効果をもたらすことができる。
【実施例2】
【0070】
次に、第二の実施例を、図9〜図13を参照して説明する。図9は、第2の実施例の映像処理装置の構成の一例を示すブロック図である。
【0071】
図1の構成と比較して、フレームレート算出部105を、文字検出部900と入れ替えた構成である。同じ構成のモジュールは図1に記載しているので省略する。
【0072】
図1の構成では、映像の動きベクトルヒストグラム分散値を用いて、映像の動き特徴量から認識度を向上させるフレームレートを算出したが、本実施例では、文字検出部900で文字スクロール(文字テロップ)の有無を検出して、映像中の文字の認識度が最適になるように、映像のフレームレートを選択する方法について説明する。
【0073】
図10は、第2の実施例例の文字検知部900での文字を検知する範囲の例を示す図である。
【0074】
地上波や衛星、ケーブルテレビなどの放送コンテンツを始めとする映像の中で、番組の終わりに近いタイミングで、図10のような画面下部の高さ△の範囲に番組制作に係ったスタッフの名前が横スクロールで流れることがある(スタッフロール、文字テロップ等)。
【0075】
この△の部分の範囲に文字が出現することを想定する例であり、図11で示す文字スクロールの特徴を利用して、この範囲に関して、文字の検出、文字のスクロール速度を算出する。なお、全画面に対して文字のスクロール速度の算出を行ってもよいが、範囲を絞ることで、文字検知処理の高速化が図れる効果がある。
【0076】
図11は、第2の実施例の文字が横スクロールした際の動きベクトル検知を示す例で、“あいうえお”という文字が、画面の右から左に水平にスクロールしている例である。
【0077】
画素をマクロブロックで区切り、マクロブロック毎の現フレームと前フレームの差分の動きベクトルを考えると、流れる文字テロップでは、図11のように、同じ方向、同じ長さの動きベクトルになることがわかる。つまり、図10で示す△の範囲に文字が横スクロールするとし、各マクロブロックの動きベクトルを検出すると、同じ方向に、同じ大きさの動きベクトルが数多く検出できることとなる。
【0078】
この特徴を利用して、図4の動きベクトルヒストグラムを利用して、文字がスクロールしていることを推測、検知することができる。
【0079】
文字検出に関しては、文字は背景に対して、輝度のエッジが俊敏なので、エッジ検出などを利用すれば、さらに精度を上げることができる。
【0080】
図12は、第2の実施例の文字検出部900での動きベクトルヒストグラム分布値とフレームレートの関係を示した例である。
【0081】
第1の実施例のフレームレート算出部105で示した図5と同様に、図2、図3の主観評価の認識度結果から、動きベクトルヒストグラム分布値とフレームレートの関係を対応付けた例である。
【0082】
図2の主観評価結果から、動きベクトルヒストグラム分布値Hに特徴がなく、文字検出部900において△領域に文字を検出できなく、文字のない映像コンテンツ表示時は、入力信号の60Hzよりは滑らかに動画を表示でき、消費電力が抑えられる120Hzを採用する。
【0083】
図5の説明で利用した動き特徴量Hの閾値H0からH3を利用すると、H>H3の場合は、文字の動きが速く高フレームレートにすると、逆に認識度が低下してしまうので60Hz設定、△領域に文字が検出でき、H≦H3の場合には、文字の認識度の向上が期待できる240Hz設定にする。
【0084】
本設定は、ユーザインタフェースを介して、ユーザが設定できるようにしても良い。その場合、ある速度のスクロール映像をフレームレート毎にユーザに提示して、その見易さをユーザに回答させ、その回答結果からそのユーザに最も適したフレームレートを算出する。
【0085】
本処理により、文字検出部900において、動きベクトル検知104からエリア毎の動きベクトル検出結果を元に、文字テロップの動きベクトルヒストグラム分布値Hを算出し、動きベクトルヒストグラム分布値Hに対応した主観評価による文字の認識度が最適になるフレームレートを選択できることができる。
【0086】
図13は、第2の実施例である文字検出部900でのフレームレート選択処理シーケンスを示した例である。
【0087】
動きベクトル検知104から指定したエリア(△領域)に関して、動きベクトル結果を入手する(S1300)。
【0088】
次に、動きベクトル毎のベクトル数をカウントし、図4に示すような動きベクトルヒストグラム分布を算出し、その動きの特徴の代表値を、動きベクトルヒストグラム分布値Hとする(S1301)。
【0089】
次に、動きベクトルヒストグラム分布値Hに対応した文字の認識度が高いフレームレートを図12の動きベクトルヒストグラム分布値とフレームレートの関係を示したテーブルから参照する(S1302)。
【0090】
本処理により、文字検出部900において、あるエリアの文字スクロールの有無と、その動き特徴量を算出し、動き特徴量に対応した文字の主観評価(認識度)が最適になるフレームレートを選択できることができる。すなわち、文字テロップを想定した動きベクトル検出結果から、文字の有無、スクロール速度を推測し、認識度を向上させるフレームレートを選択できる。
【0091】
以下、本発明の第3の実施例を、図14〜図15を参照して説明する。
図14は、第3の実施例の映像処理装置の構成の一例を示すブロック図である。
【0092】
同じ構成のモジュールは図1に記載しているので省略する。図1の構成と比較して、液晶ディスプレイを想定したバックライト制御部1400とバックライト部1401とを追加した構成である。同じ構成のモジュールは図1に記載しているので省略する。
【0093】
液晶ディスプレイでは、液晶の応答の遅さを補う方法としてバックライト制御が考えられる。液晶の物理的特性からパネルの応答速度は決まるが、例えば、あるエリアを白から黒に変化させる場合に、バックライトの光を遮るように液晶に電圧をかけて液晶の透過率を変化させた際に、バックライトの光を消灯すれば、液晶の応答を待たずに、黒を表現できるようになるので、パネルの応答速度としては、高速化が可能となる。さらに、LEDバックライトなどを利用して、エリア毎の細かい応答の制御も可能である。
【0094】
図14の構成において、フレームレート算出部で利用したエリア毎の動きベクトルヒストグラム分散値を利用して、エリア毎に最適なフレームレートを算出可能であるので、それをバックライト制御部1400に伝達し、バックライト部をエリア毎に制御し、エリア毎の見た目の液晶応答速度を向上させることにより、さらにユーザの認識度を向上させることができる。
【0095】
フレームレート算出部で利用したエリア毎の動きベクトルヒストグラム分散値から、認識度を向上させるフレームレート算出は、実施例第一の図5で示した方法と同じ手法を利用する。
【0096】
また、原価コスト削減のために、応答の遅い液晶パネルを使用した場合には、バックライト制御1400により、エリア毎の見た目の応答速度を向上でき、見た目の認識度を低コストで向上できる効果もある。
【0097】
例えば、120Hz対応の液晶パネルを利用した場合に、そのエリアを白から黒に変化させる場合に、液晶に電圧をかけて透過率を変化させている途中で、バックライト制御部1400において、バックライトをオフに制御すると、液晶が光を遮る前にそもそものバックライトからの光がなくなるので、早めに黒に変化することができ、見た目240Hzの液晶の応答速度を実現できる。
【0098】
図15は、第3の実施例のフレームレート算出部105での動きベクトルヒストグラム結果からエリア毎のフレームレートを算出している例を示している。
【0099】
図15に示す様に、表示部がバックライト制御1400で制御可能なエリア毎に分かれている場合に、エリア毎に動きベクトルヒストグラム分散値Hを求め、その分散値を元に主観評価の認識度に合ったフレームレートを算出する例を示している。
【0100】
本処理により、エリア毎に認識度を向上させるフレームレートを設定でき、それをバックライト制御1400で、エリア毎の見た目の液晶応答速度を向上させることにより、エリア毎に見た目の認識度を向上することができる。
【0101】
本例では、エリア毎に求めた動きベクトルヒストグラム分散値を利用して、フレームレートを求めているが、複数エリアの動きベクトルヒストグラム分散値分析の結果から複数のエリアを纏めてバックライト制御しても良い。
【0102】
この場合、メインのオブジェクトの動きが複数のエリアを跨って映像の中を動く場合に、エリアの切れ目におけるオブジェクトのつなぎ目でフレームレートが変わることによる破綻がなくなると考えられる。
【0103】
図16は、各実施例の映像表示装置のハードウェア構成例である。
【0104】
図16において、1600はアンテナ、1601はチューナ、1602は入力I/F、1603は映像デコーダ回路、1604は映像処理装置部分であり、1605はフレーム処理回路、1606はフレームメモリ、1607はタイミングコントローラ、1608は表示装置である。
【0105】
アンテナ1600は、地上波デジタル放送やBS/CSなど衛星放送のアンテナ装置や、CATVなど外部からの放送波を入力する回路である。チューナ1601は、周波数同調回路であり、放送波を受信するための部品、回路である。入力I/F 1602は、DVDやBD、メモリカード、ネットワークなどに保存してある映像や音声情報の入力I/Fであり、コンポジット、D端子、HDMI端子、EtHernet(RJ-45)端子、IEEE1394端子や、IEEE802.11シリーズ、LTE、Bluetoothなど無線を介してなど様々な映像入力を受け付ける入力I/Fである。
【0106】
映像デコーダ回路1603は、一定の規則に基づいて符号化されたデータを復号する回路で、MPEGデコーダなどに相当する回路である。映像処理装置1604が、実施例1〜3に示した、フレームレート算出部、補間フレーム生成部を含む処理部が実装されている回路で構成された装置であり、映像デコーダ回路1603で映像や音声としてデコードされたフレーム単位の映像を入力信号とする。
【0107】
フレーム処理回路1605には、ベクトル検知104、フレームレート算出部105、補間フレーム生成部106、フレーム列生成部(メモリI/F)102が含まれ、画像メモリ103を含む、フレームメモリ1606を介して、補間フレームが生成される。
【0108】
タイミング制御部107を含む、タイミングコントローラ1607は、映像処理装置1604から得られたフレームレートにて出力を表示装置1608に表示するためのタイミング調整を行う。
【0109】
なお、上述した本実施形態は、本発明の説明のための例示であり、本発明の範囲を実施形態にのみ限定する趣旨ではない。当業者は、本発明の要旨を逸脱することなしに、他の様々な態様で本発明を実施できる。例えば、本実施では、文字検出部での検知エリアを画面下部の△領域としているが、映画のスタッフロールの様に、画面の縦中央部分を検知エリアとしても良い。また、実施例第三の構成でのフレームレート算出部が、実施例第二の構成の文字検出部と入れ替わっても良い。また、ユーザインタフェースを有するシステムに組み込まれた場合には、“認識度アップモード”などのモード設け、そのモードに設定された時のみ、本実施がなされるものとしても良い。
【符号の説明】
【0110】
100 入力信号(現フレーム信号)
101 入力信号(1フレーム前信号)
102 フレーム列生成部(フレームメモリI/F)
103 画像メモリ
104 動きベクトル検出部
105 フレームレート算出部
106 補間フレーム生成部
107 タイミング制御部
108 表示部
900 文字検出部
1400 バックライト制御部
1401 バックライト部
1600 アンテナ
1601 チューナ
1602 入力I/F
1603 映像デコーダ回路
1604 映像処理装置部分
1605 フレーム処理回路
1606 フレームメモリ
1607 タイミングコントローラ
1608 表示装置
【特許請求の範囲】
【請求項1】
映像信号の補間フレームを生成する映像処理装置において、
映像の動きベクトルを検出する動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出部と、
前記フレームレート算出部で算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成部とを備え、
前記フレームレート算出部は、前記動きベクトル検出部で検出した動きベクトルから映像の動き特徴量を算出し、当該動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出する映像処理装置。
【請求項2】
請求項1の映像処理装置であって、
映像を表示する表示部を備え、
前記表示部は前記フレームレート算出部で算出されたフレームレートで映像を表示する映像処理装置。
【請求項3】
請求項1又は2の映像処理装置であって、
前記動きベクトル検出部は映像のエリアごとの動きベクトルヒストグラム分布値を検出し、
前記フレームレート算出部は、前記動きベクトル検出部で検出されたエリア毎の動きベクトルヒストグラム分布値を用いて映像の動き特徴量を算出する手段を有する映像処理装置及び映像処理装置。
【請求項4】
請求項3の映像処理装置であって、
前記フレームレート算出部は、前記エリア毎の動きベクトルヒストグラム分布値の平均値、中央値、最頻値のいずれかを代表値として利用する映像処理装置。
【請求項5】
請求項1〜4の映像処理装置であって、
前記動き特徴量が所定の閾値を超えた映像とは当該映像のオブジェクトの角速度が30°/秒より大きい映像で、前記動き特徴量が所定の閾値以下の映像とは当該映像のオブジェクトの角速度が30°/秒以下の映像である映像処理装置。
【請求項6】
映像信号の補間フレームを生成する映像処理装置において、
映像の動きベクトルを検出する動きベクトル検出部と、
映像の中の文字を検出し、当該検出した文字に基づいてフレームレートを算出する文字検出部と、
前記前記動きベクトル検出部で検出された映像の動きベクトルと前記文字検出部で検出された文字とに基づいて補間フレームを生成する補間フレーム生成部とを備え、
前記文字検出部は、前記動きベクトル検出部で検出した映像の動きベクトルから前記検出した文字の動き特徴量を算出し、当該文字の動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようにフレームレートを算出することを特徴とする映像処理装置。
【請求項7】
請求項6の映像処理装置であって、
映像を表示する表示部を備え、
前記表示部は前記フレームレート算出部で算出されたフレームレートで映像を表示する映像処理装置。
【請求項8】
請求項6又は7の映像処理装置であって、
前記動きベクトル検出部は映像の動きベクトルヒストグラム分布値を検出し、
前記文字検出部は、入力された映像の所定のエリアの文字を検出し、前記動きベクトル検出部で検出された前記所定のエリアの文字の動きベクトルヒストグラム分布値を用いて当該文字の動き特徴量を算出し、当該文字の動き特徴量に基づいてフレームレートを算出することを特徴とする映像処理装置。
【請求項9】
請求項8の映像処理装置であって、
前記文字検出部は、前記動きベクトル検出部で検出された動きベクトルヒストグラム分布の平均値、中央値、最頻値のいずれかを代表値として利用することを特徴とする映像処理装置。
【請求項10】
請求項8又は9の映像処理装置であって、
前記所定のエリアとは入力された映像の垂直方向下部のエリアであることを特徴とする映像処理装置。
【請求項11】
請求項6〜10のいずれかの映像処理装置であって、
前記動き特徴量が所定の閾値を超えた映像とは前記検出された文字の角速度が30°/秒より大きい映像で、前記動き特徴量が所定の閾値以下の映像とは前記検出された文字の角速度が30°/秒以下の映像である映像処理装置。
【請求項12】
請求項2又は7の映像処理装置であって、
前記表示部の裏側で発光するバックライト部と、
前記バックライト部の発光を制御するバックライト制御部とを備え、
前記バックライト制御部は、前記フレームレート算出部で算出されたフレームレートに基づいて、前記バックライト部を制御することを特徴とする映像処理装置。
【請求項13】
映像信号の補間フレームを生成する映像処理方法において、
映像の動きベクトルを検出する動きベクトル検出ステップと、
前記検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、
前記算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、
前記フレームレート算出ステップでは、前記動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、当該動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出する映像処理方法。
【請求項1】
映像信号の補間フレームを生成する映像処理装置において、
映像の動きベクトルを検出する動きベクトル検出部と、
前記動きベクトル検出部で検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出部と、
前記フレームレート算出部で算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成部とを備え、
前記フレームレート算出部は、前記動きベクトル検出部で検出した動きベクトルから映像の動き特徴量を算出し、当該動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出する映像処理装置。
【請求項2】
請求項1の映像処理装置であって、
映像を表示する表示部を備え、
前記表示部は前記フレームレート算出部で算出されたフレームレートで映像を表示する映像処理装置。
【請求項3】
請求項1又は2の映像処理装置であって、
前記動きベクトル検出部は映像のエリアごとの動きベクトルヒストグラム分布値を検出し、
前記フレームレート算出部は、前記動きベクトル検出部で検出されたエリア毎の動きベクトルヒストグラム分布値を用いて映像の動き特徴量を算出する手段を有する映像処理装置及び映像処理装置。
【請求項4】
請求項3の映像処理装置であって、
前記フレームレート算出部は、前記エリア毎の動きベクトルヒストグラム分布値の平均値、中央値、最頻値のいずれかを代表値として利用する映像処理装置。
【請求項5】
請求項1〜4の映像処理装置であって、
前記動き特徴量が所定の閾値を超えた映像とは当該映像のオブジェクトの角速度が30°/秒より大きい映像で、前記動き特徴量が所定の閾値以下の映像とは当該映像のオブジェクトの角速度が30°/秒以下の映像である映像処理装置。
【請求項6】
映像信号の補間フレームを生成する映像処理装置において、
映像の動きベクトルを検出する動きベクトル検出部と、
映像の中の文字を検出し、当該検出した文字に基づいてフレームレートを算出する文字検出部と、
前記前記動きベクトル検出部で検出された映像の動きベクトルと前記文字検出部で検出された文字とに基づいて補間フレームを生成する補間フレーム生成部とを備え、
前記文字検出部は、前記動きベクトル検出部で検出した映像の動きベクトルから前記検出した文字の動き特徴量を算出し、当該文字の動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようにフレームレートを算出することを特徴とする映像処理装置。
【請求項7】
請求項6の映像処理装置であって、
映像を表示する表示部を備え、
前記表示部は前記フレームレート算出部で算出されたフレームレートで映像を表示する映像処理装置。
【請求項8】
請求項6又は7の映像処理装置であって、
前記動きベクトル検出部は映像の動きベクトルヒストグラム分布値を検出し、
前記文字検出部は、入力された映像の所定のエリアの文字を検出し、前記動きベクトル検出部で検出された前記所定のエリアの文字の動きベクトルヒストグラム分布値を用いて当該文字の動き特徴量を算出し、当該文字の動き特徴量に基づいてフレームレートを算出することを特徴とする映像処理装置。
【請求項9】
請求項8の映像処理装置であって、
前記文字検出部は、前記動きベクトル検出部で検出された動きベクトルヒストグラム分布の平均値、中央値、最頻値のいずれかを代表値として利用することを特徴とする映像処理装置。
【請求項10】
請求項8又は9の映像処理装置であって、
前記所定のエリアとは入力された映像の垂直方向下部のエリアであることを特徴とする映像処理装置。
【請求項11】
請求項6〜10のいずれかの映像処理装置であって、
前記動き特徴量が所定の閾値を超えた映像とは前記検出された文字の角速度が30°/秒より大きい映像で、前記動き特徴量が所定の閾値以下の映像とは前記検出された文字の角速度が30°/秒以下の映像である映像処理装置。
【請求項12】
請求項2又は7の映像処理装置であって、
前記表示部の裏側で発光するバックライト部と、
前記バックライト部の発光を制御するバックライト制御部とを備え、
前記バックライト制御部は、前記フレームレート算出部で算出されたフレームレートに基づいて、前記バックライト部を制御することを特徴とする映像処理装置。
【請求項13】
映像信号の補間フレームを生成する映像処理方法において、
映像の動きベクトルを検出する動きベクトル検出ステップと、
前記検出した動きベクトルに基づいてフレームレートを算出するフレームレート算出ステップと、
前記算出したフレームレートに基づいて補間フレームを生成する補間フレーム生成ステップとを備え、
前記フレームレート算出ステップでは、前記動きベクトル検出ステップで検出した動きベクトルから映像の動き特徴量を算出し、当該動き特徴量が所定の閾値を越えた映像のフレームレートが、動き特徴量が当該所定の閾値以下の映像のフレームレートよりも低くなるようフレームレートを算出する映像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2011−35796(P2011−35796A)
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願番号】特願2009−182044(P2009−182044)
【出願日】平成21年8月5日(2009.8.5)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.ETHERNET
2.Bluetooth
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
【公開日】平成23年2月17日(2011.2.17)
【国際特許分類】
【出願日】平成21年8月5日(2009.8.5)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.ETHERNET
2.Bluetooth
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
[ Back to top ]