説明

映像評価装置、映像フレームレート決定装置、映像評価方法、映像フレームレート決定方法、映像評価プログラム及び映像フレームレート決定プログラム

【課題】映像の動き特徴量、当該映像のフレームレート及び当該映像を構成するフレーム画像における空間周波数の分析結果を考慮して、当該映像の動きの滑らかさを評価する。
【解決手段】映像評価装置10は、入力された映像を構成するフレーム画像に基づいて映像の動き特徴量を抽出する動き特徴量抽出部102と、入力された映像のフレームレートを取得するフレームレート取得部103と、入力された映像を構成するフレーム画像における空間周波数を分析する空間周波数分析部104と、前記動き特徴量と前記フレームレートと前記空間周波数の分析結果とを用いて映像の動きの滑らかさを示す評価値を算出する評価部105とを具備する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価装置、映像評価方法及び映像評価プログラムに関する。
【0002】
また、本発明は、複数のフレーム画像により構成される映像のフレームレートを決定する映像フレームレート決定装置、映像フレームレート決定方法及び映像フレームレート決定プログラムに関する。
【背景技術】
【0003】
一般的に、「映像」に対する取得、蓄積、伝送、表示、符号化及び復号化を含む処理は、1秒あたりのフレーム数が一定である状態で、すなわち、固定フレームレートで行われている。
【0004】
例えば、米国及び日本で採用されている全国テレビジョン標準委員会(National Television Standards Committee:NTSC)規格では、フレームレートは、29.97fpsと定義されており、ヨーロッパで採用されている全国テレビション標準委員会によって確立された位相交番ライン(Phase Alternating Line:PAL)規格では、フレームレートは、25fpsと定義されている(非特許文献1参照)。
【0005】
また、24fpsや15fpsの固定フレームレートで、上述の映像に対する処理が行われる場合もある。
【0006】
ここで、「映像」とは、単一の静止画像である「フレーム画像」が複数連続することにより構成されるものであり、「フレームレート」とは、1秒あたりに処理されるフレーム画像数であり、「fps(frame per second)」とは、フレームレートを表す単位である。
【0007】
固定フレームレートで処理される映像において、1秒あたりに処理されるフレーム画像数が増加すると、連続するフレーム画像の時間間隔が短くなるため、より滑らかな動きの映像として処理することが可能となる。
【0008】
例えば、30fpsのフレームレートで処理される映像は、15fpsのフレームレートで処理される映像に比べて、映像の動きを時間的により細かく表現できるため、滑らかな動きの映像となる。
【0009】
一方で、固定フレームレートで処理される映像において、1秒あたりに処理されるフレーム画像数が増加すると、単位時間あたりの処理量、処理に伴うデータ量及び電力消費量が増加する。
【0010】
例えば、映像の取得においては、フレームレートが増加することにより、単位時間あたりに取得すべきフレーム画像数が増加し、単位時間あたりの処理量及び処理に伴う電力消費量が増加する。
【0011】
また、映像の蓄積においては、フレームレートが増加することにより、単位時間あたりに蓄積すべきフレーム数が増加し、単位時間あたりの処理に伴うデータ量が増加する。
【0012】
また、映像の処理量やデータ量に応じて、フレームレートを可変にする映像処理方法が存在する。
【0013】
例えば、映像の符号化においては、符号化すべきデータ量が多い場合には、符号化時のバッファメモリの占有量が規定値を超えてしまうため、フレームレートを削減して、単位時間あたりに符号化するフレーム数を削減する(特許文献1参照)。
【非特許文献1】Recommendation ITU-R BT.470-6、Conventional Televisional Systems
【特許文献1】特開平11-205791号公報
【発明の開示】
【発明が解決しようとする課題】
【0014】
しかしながら、固定フレームレートで、映像に対する処理を行う場合、滑らかな動きを実現するために、処理を行うためのフレームレートを高くすると、処理量、処理に伴うデータ量及び電力消費量が増加するという問題点があった。
【0015】
逆に、固定フレームレートで、映像に対する処理を行う場合に、処理量、処理に伴うデータ量及び電力消費量を低減するために、フレームレートを低くすると、映像の動きの滑らかさが低下し、ギクシャクした動きの映像となってしまうという問題点があった。
【0016】
また、可変フレームレートで、映像に対する処理を行う場合にも、映像の動きの滑らかさを考慮せずに、処理量や処理に伴うデータ量のみに応じて、フレームレート(処理を行うフレームの時間間隔)を変化させると、同様に、映像の動きの滑らかさが低下し、ギクシャクした動きの映像となってしまうという問題点があった。
【0017】
ここで、映像の動きの滑らかさは、映像の持つ特徴に関係がある。例えば、映像の動きが全く無い場合や、映像の動きが非常に小さい場合は、フレームレートを低くしても、動きの滑らかさは低下しない。
【0018】
また、一般的に、映像における空間周波数が高い場合、その動きを正確に把握するには、フレームレートを高くする必要があり、フレームレートを低くすると、動きの滑らかさが低下する。
【0019】
そこで、本発明は、上述の課題に鑑みてなされたものであり、映像の動き特徴量、当該映像のフレームレート及び当該映像を構成するフレーム画像における空間周波数の分析結果を考慮して、当該映像の動きの滑らかさを評価することによって、当該映像の特徴に応じた、より高い精度の動きの滑らかさの評価を行うことができる映像評価装置、映像評価方法及び映像評価プログラムを提供することを目的とする。
【0020】
また、本発明は、動きの滑らかさを示す評価値を一定以上に保つフレームレートを決定する映像フレームレート決定装置、映像フレームレート決定方法及び映像フレームレート決定プログラムを提供することを目的とする。
【課題を解決するための手段】
【0021】
本発明の第1の特徴は、複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価装置であって、入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する動き特徴量抽出部と、入力された前記映像のフレームレートを取得するフレームレート取得部と、入力された前記映像を構成するフレーム画像における空間周波数を分析する空間周波数分析部と、抽出された前記動き特徴量と、取得された前記フレームレートと、前記空間周波数の分析結果とを用いて、前記映像の動きの滑らかさを示す評価値を算出する評価部とを具備することを要旨とする。
【0022】
本発明の第2の特徴は、複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価装置であって、入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する動き特徴量抽出部と、入力された前記映像のフレームレートを取得するフレームレート取得部と、抽出された前記動き特徴量と、取得された前記フレームレートとを用いて、前記映像の評価の対象となる空間周波数範囲を決定する空間周波数範囲決定部と、入力された前記映像を構成するフレーム画像における前記空間周波数範囲内の信号強度値と所定閾値との比較結果に基づいて、前記映像の動きの滑らかさを示す評価値を算出する評価部とを具備することを要旨とする。
【0023】
本発明の第2の特徴において、前記空間周波数決定部は、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きを正しく表示できる空間周波数の限界値を示すナイキスト境界線と、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す映像品質境界線とを用いて、前記空間周波数範囲を決定してもよい。
【0024】
本発明の第3の特徴は、本発明の第1又は第2の特徴に係る映像評価装置を具備しており、複数のフレーム画像により構成される映像のフレームレートを決定する映像フレームレート決定装置であって、前記映像を蓄積する蓄積部と、前記映像の第1のフレームレートを発生するフレームレート発生部と、前記蓄積部に蓄積されている前記映像と、前記フレームレート発生部により発生された前記第1のフレームレートとを含む映像信号を生成する映像信号生成部と、前記映像評価装置により算出された前記評価値を用いて、前記映像の第2のフレームレートを決定するフレームレート決定部とを具備することを要旨とする。
【0025】
本発明の第4の特徴は、複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価方法であって、入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する工程と、入力された前記映像のフレームレートを取得する工程と、入力された前記映像を構成するフレーム画像における空間周波数を分析する工程と、抽出された前記動き特徴量と、取得された前記フレームレートと、前記空間周波数の分析結果とを用いて、前記映像の動きの滑らかさを示す評価値を算出する工程とを有することを要旨とする。
【0026】
本発明の第5の特徴は、複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価方法であって、入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する工程と、入力された前記映像のフレームレートを取得する工程と、抽出された前記動き特徴量と、取得された前記フレームレートとを用いて、前記映像の評価の対象となる空間周波数範囲を決定する工程と、入力された前記映像を構成するフレーム画像における前記空間周波数範囲内の信号強度値と所定閾値との比較結果に基づいて、前記映像の動きの滑らかさを示す評価値を算出する工程とを有することを要旨とする。
【0027】
本発明の第5の特徴において、前記空間周波数範囲を決定する工程において、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きを正しく表示できる空間周波数の限界値を示すナイキスト境界線と、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す映像品質境界線とを用いて、前記空間周波数範囲を決定してもよい。
【0028】
本発明の第6の特徴は、本発明の第4又は第5の特徴に係る映像評価方法を有しており、複数のフレーム画像により構成される映像のフレームレートを決定する映像フレームレート決定方法であって、前記映像の第1のフレームレートを発生する工程と、蓄積部に蓄積されている前記映像と、前記フレームレートを発生する工程において発生された前記第1のフレームレートとを含む映像信号を生成する工程と、前記映像評価方法により算出された前記評価値を用いて、前記映像の第2のフレームレートを決定する工程とを有することを要旨とする。
【0029】
本発明の第7の特徴は、コンピュータを、本発明の第1又は第2の特徴に係る映像評価装置として機能させる映像評価装置であることを要旨とする。
【0030】
本発明の第8の特徴は、コンピュータを、本発明の第3の特徴に係る映像フレームレート決定装置として機能させる映像フレームレート決定プログラムであることを要旨とする。
【発明の効果】
【0031】
以上説明したように、本発明によれば、映像の動き特徴量、当該映像のフレームレート及び当該映像を構成するフレーム画像における空間周波数の分析結果を考慮して、当該映像の動きの滑らかさを評価することによって、当該映像の特徴に応じた、より高い精度の動きの滑らかさの評価を行うことができる映像評価装置、映像評価方法及び映像評価プログラムを提供することができる。
【0032】
また、本発明によれば、動きの滑らかさを示す評価値を一定以上に保つフレームレートを決定する映像フレームレート決定装置、映像フレームレート決定方法及び映像フレームレート決定プログラムを提供するができる。
【発明を実施するための最良の形態】
【0033】
(本発明の第1の実施形態に係る映像評価装置)
図1乃至図8を参照して、本発明の第1の実施形態に係る映像評価装置10の構成について説明する。
【0034】
本実施形態に係る映像評価装置10は、複数のフレーム画像により構成される映像の動きの滑らかさを評価するように構成されている。
【0035】
映像評価装置10は、物理的には、CPU(中央処理装置)や、メモリ等の記憶装置や、通信装置等を備えるコンピュータにより実現されていてもよい。また、映像評価装置10は、携帯電話等の移動体通信端末により実現されていてもよい。すなわち、映像評価装置10には、情報処理を行うことが可能な装置が、広く適用され得る。
【0036】
図1に示すように、映像評価装置10は、その機能的な構成要素として、入力部101と、動き特徴量抽出部102と、フレームレート取得部103と、空間周波数分析部104と、評価部105とを備えている。
【0037】
入力部101は、外部から入力された映像信号107を取得するように構成されている。
【0038】
なお、映像信号107は、単一の静止画像であるフレーム画像が複数連続することにより構成される映像と、当該映像のフレームレートに関する情報を含む信号である。
【0039】
入力部101は、外部から入力された映像信号107の中から抽出した映像を複数のフレーム画像108に分解し、分解したフレーム画像108を動き特徴量抽出部102へ出力するように構成されている。
【0040】
また、入力部101は、外部から入力された映像信号107の中から抽出したフレームレートに関する情報109をフレームレート取得部103へ出力するように構成されている。
【0041】
また、入力部101は、外部から入力された映像信号107の中から抽出した映像を複数のフレーム画像110に分解し、分解したフレーム画像110を空間周波数分析部104へ出力するように構成されている。
【0042】
動き特徴量抽出部102は、入力部101により入力されたフレーム画像108に基づいて、当該映像の動き特徴量111を抽出し、抽出した当該映像の動き特徴量111を評価部105へ出力するように構成されている。
【0043】
具体的には、第1に、動き特徴量抽出部102は、入力部101から、連続する2枚のフレーム画像を読み込む。説明のため、この連続する2枚のフレーム画像を、順に、フレーム画像P0、フレーム画像P1と名付ける。
【0044】
第2に、動き特徴量抽出部102は、入力部101から読み込んだフレーム画像P1を、一定の大きさ(8画素x8画素)のブロックに分割する。
【0045】
第3に、動き特徴量抽出部102は、フレーム画像P1のフレーム画像の各ブロックについて、フレーム画像P0の所定の探索範囲内で類似する画像信号パターンを、ブロックマッチングによって探索する。
【0046】
第4に、動き特徴量抽出部102は、フレーム画像P1におけるブロックの画像信号パターンと、当該画像信号パターンに最も類似するフレーム画像P0における画像信号パターンとの間の空間的な変位量である動きベクトルを検出する。図2は、ブロックマッチングによる動きベクトルの探索の様子を表す図である。
【0047】
第5に、動き特徴量抽出部102は、フレーム画像P1の各ブロックの動きベクトルを用いて、フレーム画像P1の各ブロックのx方向及びy方向の動きの大きさを計算する。
【0048】
図2では、フレーム画像P1の当該ブロックの動きベクトルは、(MVx、MVy)であり、当該ブロックのx方向及びy方向の動きの大きさは、それぞれ、|MVx|、|MVy|(||は、絶対値を算出する記号とする)となる。
【0049】
第6に、動き特徴量抽出部102は、フレーム画像P1における全てのブロックのx方向及びy方向の動きの大きさの中で、x方向及びy方向それぞれの動きの大きさの最大値|MVx|max及び|MVy|maxを、動き特徴量111として評価部105へ出力する。
【0050】
フレームレート取得部103は、入力部101により入力されたフレームレートに関する情報109から、上述の映像のフレームレート112を取得して、評価部105へ出力するように構成されている。
【0051】
具体的には、入力部101により入力されたフレームレートに関する情報109が、フレームレートの値そのものである場合、フレームレート取得部103は、当該フレームレートの値fを、フレームレート112として評価部105へ出力するように構成されている。
【0052】
また、入力部101により入力されたフレームレートに関する情報109が、連続するフレーム画像の時間間隔である場合、フレームレート取得部103は、連続するフレーム画像の時間間隔から計算したフレームレートを、フレームレート112として評価部105へ出力するように構成されている。
【0053】
なお、連続するフレームの時間間隔が、s秒である場合、フレームレートの値fは、1/s(fps)によって計算される。
【0054】
また、フレームレート取得部103が、入力部101により入力されたフレームレートに関する情報109からフレームレートを計算する方法は、上記の方法には限定されない。
【0055】
空間周波数分析部104は、入力部101により入力されたフレーム画像110における空間周波数を分析するように構成されている。
【0056】
具体的には、空間周波数分析部104は、入力部101により入力されたフレーム画像110内で各空間周波数における電力の累積値を算出し、算出した電力の累積値を、空間周波数特徴量113(空間周波数の分析結果)として評価部105へ出力するように構成されている。
【0057】
図3を用いて、空間周波数分析部104の機能について具体的に説明する。図3に示すように、空間周波数分析部104は、2次元フーリエ変換部1041と、累積値算出部1042とを具備する。
【0058】
2次元フーリエ変換部1041が、入力部101により入力されたフレーム画像P1(1041)に対して2次元フーリエ変換処理を施すことによって、各周波数における電力1043を計算して、累積値算出部1042へ出力する用に構成されている。
【0059】
図4(a)は、入力部101により入力されたフレーム画像P1を示し、図4(b)は、当該フレーム画像P1に対して2次元フーリエ変換処理を施すことによって各周波数における電力1043の計算結果を含む2次元フーリエ変換画像F1を示す。
【0060】
累積値算出部1042は、2次元フーリエ変換部1041により入力された各周波数における電力1043を用いて、図4(c)に示すように、水平方向(x方向)の空間周波数μにおけるν方向の全ての電力を足し合わせ、空間周波数μにおける電力の累積値であるμ成分累積値を算出するように構成されている。
【0061】
また、累積値算出部1042は、2次元フーリエ変換部1041により入力された各周波数における電力1043を用いて、図4(d)に示すように、垂直方向(y方向)の空間周波数νにおけるμ方向の全ての電力を足し合わせ、空間周波数νにおける電力の累積値であるν成分累積値を算出するように構成されている。
【0062】
また、累積値算出部1042は、算出したμ成分累積値及びν成分累積値を、空間周波数特徴量113(空間周波数の分析結果)として評価部105へ出力するように構成されている。
【0063】
評価部105は、動き特徴量抽出部102により抽出された動き特徴量と、フレームレート取得部103により取得されたフレームレートと、空間周波数分析部104からの空間周波数特徴量113(空間周波数の分析結果)とを用いて、入力された映像の動きの滑らかさを示す評価値114を算出して出力するように構成されている。
【0064】
具体的には、評価部105は、動き特徴量抽出部102から入力されたx方向の動きの大きさ|MVx|max及びy方向の動きの大きさ|MVy|maxと、フレームレート取得部103から入力されたフレームレートの値fと、空間周波数分析部104から入力されたμ成分累積値及びν成分累積値とを用いて、評価値114を算出するように構成されている。
【0065】
図5を用いて、評価部105の機能について詳細に説明する。図5に示すように、評価部105は、メモリ10501と、μ方向空間周波数範囲決定部10502と、x方向動きの滑らかさ値算出部10503と、ν方向空間周波数範囲決定部10504と、y方向動きの滑らかさ値算出部10505と、評価値算出部10506とを具備している。
【0066】
μ方向空間周波数範囲決定部10502は、動き特徴量抽出部102から入力された動き特徴量111の中から抽出されたx方向の動きの大きさ(速さ)|MVx|maxと、フレームレート取得部103から入力されたフレームレートの値f(112)とを用いて、μ方向空間周波数範囲情報10507を取得して、x方向動きの滑らかさ値算出部10503へ出力するように構成されている。
【0067】
具体的には、μ方向空間周波数範囲決定部10502は、メモリ10501内に予め蓄積されている「x方向のナイキスト境界線情報」に基づいて、図6に示すように、フレームレートfにおけるx方向のナイキスト境界線上で、x方向の動きの大きさ|MVx|maxにおける点の空間周波数μ1を取得する。
【0068】
また、μ方向空間周波数範囲決定部10502は、メモリ10501内に予め蓄積されている「動きの滑らかさ境界線情報」に基づいて、図6に示すように、フレームレートfにおけるx方向の動きの滑らかさ境界線上で、x方向の動きの大きさ|MVx|maxにおける点の空間周波数μ0を取得する。
【0069】
そして、μ方向空間周波数範囲決定部10502は、取得したμ0及びμ1を、μ方向空間周波数範囲情報10507としてx方向動きの滑らかさ値算出部10503へ出力する。
【0070】
ここで、「フレームレートfにおけるx方向のナイキスト境界線」は、所定のフレームレートfにおいて、映像のx方向の動きを正しく表示できる境界を示すものである。
【0071】
例えば、「フレームレートfにおけるx方向のナイキスト境界線」は、所定のフレームレートfにおいて所定の動き特徴量(|MVx|max)を有する映像の動きを正しく表示できる空間周波数の限界値μ1を示す。
【0072】
すなわち、「フレームレートfにおけるx方向のナイキスト境界線」は、水平方向(x方向)に空間周波数μを持ち、かつ、x方向の動きの大きさが|MVx|である映像を、フレームレートfで表示した場合に、当該映像のx方向の見かけ上の動きの大きさが|MVx|に保たれる境界である。
【0073】
なお、映像は、かかる境界線より上部の領域では、静止して見えたり、逆方向に動いて見えたり、|MVx|とは異なる動きの大きさで動いて見えたりする。
【0074】
また、「フレームレートfにおけるx方向の動きの滑らかさ境界線」は、x方向の動きの滑らかさに関する映像品質境界線であり、所定のフレームレートfにおいて、映像のx方向の動きが滑らかと感じられる限界の動きの大きさと空間周波数との関係を示すものである。
【0075】
例えば、「フレームレートfにおけるx方向の動きの滑らかさ境界線」は、所定のフレームレートfにおいて所定の動き特徴量(|MVx|max)を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す。
【0076】
なお、かかる境界線より上部では、x方向の映像の動きがギクシャクして見える。
【0077】
また、「フレームレートfにおけるx方向の動きの滑らかさ境界線」は、フレームレートfにおいて、水平方向(x方向)に空間周波数μを持つ映像のx方向の動きの大きさを変化させた場合に、映像の動きがギクシャクして見えるかどうかについて判断する主観評価で予め決定される。
【0078】
メモリ10501内には、各フレームレートにおけるx方向のナイキスト境界線及び動きの滑らかさ境界線が、それぞれx方向のナイキスト境界線情報及び動きの滑らかさ境界線情報として予め蓄積されている。
【0079】
同様に、ν方向空間周波数範囲決定部10504は、動き特徴量抽出部102から入力された動き特徴量111の中から抽出されたy方向の動きの大きさ(速さ)|MVy|maxと、フレームレート取得部103から入力されたフレームレートの値f(112)とを用いて、ν方向空間周波数範囲情報10508を取得して、y方向動きの滑らかさ値算出部10505へ出力するように構成されている。
【0080】
具体的には、ν方向空間周波数範囲決定部10504は、メモリ10501内に予め蓄積されている「y方向のナイキスト境界線情報」に基づいて、図7に示すように、フレームレートfにおけるy方向のナイキスト境界線上で、y方向の動きの大きさ|MVy|maxにおける点の空間周波数ν1を取得する。
【0081】
また、ν方向空間周波数範囲決定部10504は、メモリ10501内に予め蓄積されている「動きの滑らかさ境界線情報」に基づいて、図7に示すように、フレームレートfにおけるy方向の動きの滑らかさ境界線上で、y方向の動きの大きさ|MVy|maxにおける点の空間周波数ν0を取得する。
【0082】
そして、ν方向空間周波数範囲決定部10504は、取得したν0及びν1を、ν方向空間周波数範囲情報10508としてy方向動きの滑らかさ値算出部10505へ出力する。
【0083】
ここで、「フレームレートfにおけるy方向のナイキスト境界線」は、所定のフレームレートfにおいて、映像のy方向の動きを正しく表示できる境界を示すものである。
【0084】
例えば、「フレームレートfにおけるy方向のナイキスト境界線」は、所定のフレームレートfにおいて所定の動き特徴量(|MVy|max)を有する映像の動きを正しく表示できる空間周波数の限界値ν1を示す。
【0085】
すなわち、「フレームレートfにおけるy方向のナイキスト境界線」は、垂直方向(y方向)に空間周波数νを持ち、かつ、y方向の動きの大きさが|MVy|である映像を、フレームレートfで表示した場合に、当該映像のy方向の見かけ上の動きの大きさが|MVy|に保たれる境界である。
【0086】
なお、映像は、かかる境界線より上部の領域では、静止して見えたり、逆方向に動いて見えたり、|MVy|とは異なる動きの大きさで動いて見えたりする。
【0087】
また、「フレームレートfにおけるy方向の動きの滑らかさ境界線」は、y方向の動きの滑らかさに関する映像品質境界線であり、所定のフレームレートfにおいて、映像のy方向の動きが滑らかと感じられる限界の動きの大きさと空間周波数との関係を示すものである。
【0088】
例えば、「フレームレートfにおけるy方向の動きの滑らかさ境界線」は、所定のフレームレートfにおいて所定の動き特徴量(|MVy|max)を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す。
【0089】
なお、かかる境界線より上部では、y方向の映像の動きがギクシャクして見える。
【0090】
また、「フレームレートfにおけるy方向の動きの滑らかさ境界線」は、フレームレートfにおいて、垂直方向(y方向)に空間周波数νを持つ映像のy方向の動きの大きさを変化させた場合に、映像の動きがギクシャクして見えるかどうかについて判断する主観評価で予め決定される。
【0091】
メモリ10501内には、各フレームレートにおけるy方向のナイキスト境界線及び動きの滑らかさ境界線が、それぞれy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報として予め蓄積されている。
【0092】
x方向動きの滑らかさ値算出部10503は、空間周波数分析部104から入力された空間周波数特徴量113の中から抽出したμ成分累積値と、μ方向空間周波数範囲決定部1052から入力されたμ方向空間周波数範囲情報10507とを用いて、μ0からμ1の間のμ方向空間周波数範囲内のμ成分累積値を全て加算することによって、x方向の動きの滑らかさ値Sx(10509)を算出して、評価値算出部10506へ出力するように構成されている。
【0093】
また、y方向動きの滑らかさ値算出部10505は、空間周波数分析部104から入力された空間周波数特徴量113の中から抽出したν成分累積値と、ν方向空間周波数範囲決定部10504から入力されたν方向空間周波数範囲情報10508とを用いて、ν0からν1の間のν方向空間周波数範囲内のν成分累積値を全て加算することによって、y方向の動きの滑らかさ値(Sy)10510を算出して、評価値算出部10506へ出力するように構成されている。
【0094】
図8(a)は、x方向の動きの滑らかさ値Sxを算出するために加算する累積値の領域を示す図であり、図8(b)は、y方向の動きの滑らかさ値Syを算出するために加算する累積値の領域を示す図である。
【0095】
評価値算出部10506は、x方向動きの滑らかさ値算出部10503から入力されたx方向の動きの滑らかさ値10509と、y方向動きの滑らかさ値算出部10505から入力されたy方向の動きの滑らかさ値10510とを比較し、大きい方を当該フレーム画像における動きの滑らかさ値Sとするように構成されている。
【0096】
また、評価値算出部10506は、動きの滑らかさ値Sと所定閾値とを比較し、当該フレーム画像における動きの滑らかさの評価値Eを算出するように構成されている。
【0097】
具体的には、評価値算出部1053は、所定のフレーム画像における動きの滑らかさ値(信号強度値)を「S」とし、所定閾値を「T」とする場合、動きの滑らかさを示す評価値を「E」を「T−S」によって算出するように構成されている。
【0098】
さらに、評価値算出部10506は、全てのフレーム画像における動きの滑らかさを示す評価値Eの平均値を算出して、動きの滑らかさを示す評価値114として出力する。
【0099】
(本発明の第1の実施形態に係る映像評価方法)
以下、図9乃至図11を参照して、本実施形態に係る映像評価方法について説明する。
【0100】
第1に、図9を参照して、本実施形態に係る映像評価方法の全体動作について説明する。
【0101】
図9に示すように、ステップS901において、入力部101が、外部から入力された映像と、当該映像のフレームレートに関する情報を読み込む。
【0102】
ステップS902において、動き特徴量抽出部101が、当該映像の動き特徴量を抽出する。
【0103】
ステップS903において、フレームレート取得部103が、入力されたフレームレートに関する情報から、当該映像のフレームレートを取得する。
【0104】
ステップS904において、空間周波数分析部104が、当該映像を構成するフレーム画像における空間周波数特徴量について分析する。
【0105】
ステップS905において、評価部105が、当該映像の動き特徴量と、当該空間周波数特徴量と、当該映像のフレームレートとを用いて、入力された映像の動きの滑らかさについて評価する。
【0106】
第2に、図10を参照して、空間周波数分析部104の処理方法について説明する。
【0107】
図10に示すように、ステップS1001において、2次元フーリエ変換部1041が、入力された映像に対して2次元フーリエ変換処理を施すことによって、各周波数における電力を計算する。
【0108】
ステップS10021において、累積値算出部1042が、各周波数における電力を用いて、水平方向の空間周波数μにおけるν方向の全ての電力を足し合わせることによって空間周波数μにおける電力の累積値であるμ成分累積値を算出する。
【0109】
また、ステップS10022において、累積値算出部1042が、垂直方向の空間周波数νにおけるμ方向の全ての電力を足し合わせることによって空間周波数νにおける電力の累積値であるν成分累積値を算出する。
【0110】
ここで、ステップS10021とステップS10022を合わせて、ステップS1002とする。
【0111】
第3に、図11を参照して、評価部105の処理方法について説明する。
【0112】
図11に示すように、ステップS11011において、μ方向空間周波数範囲決定部10502が、映像のx方向の動きの大きさ|MVx|maxと、フレームレートfとを用いて、メモリ10501内に予め蓄積されているx方向のナイキスト境界線情報及び動きの滑らかさ境界線情報を取得する。
【0113】
ステップS11012において、μ方向空間周波数範囲決定部10502が、取得した「ナイキスト境界線情報」に基づいて、図6に示すように、フレームレートfにおけるx方向のナイキスト境界線上で、x方向の動きの大きさ|MVx|maxにおける点の空間周波数μ1を取得する。
【0114】
また、ステップS11013において、μ方向空間周波数範囲決定部10502が、取得した「動きの滑らかさ境界線情報」に基づいて、図6に示すように、フレームレートfにおけるx方向の動きの滑らかさ境界線上で、x方向の動きの大きさ|MVx|maxにおける点の空間周波数μ0を取得する。
【0115】
ステップS11014において、μ方向空間周波数範囲決定部10502が、μ方向空間周波数範囲をμ0からμ1に決定する。
【0116】
ここで、ステップS11011〜ステップS11014をまとめてステップS1101とする。
【0117】
ステップS11021において、ν方向空間周波数範囲決定部10504が、映像のy方向の動きの大きさ|MVy|maxと、フレームレートfとを用いて、メモリ10501内に予め蓄積されているy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報を取得する。
【0118】
ステップS11022において、ν方向空間周波数範囲決定部10504が、取得した「ナイキスト境界線情報」に基づいて、図7に示すように、フレームレートfにおけるy方向のナイキスト境界線上で、y方向の動きの大きさ|MVy|maxにおける点の空間周波数ν1を取得する。
【0119】
また、ステップS11023において、ν方向空間周波数範囲決定部10504が、取得した「動きの滑らかさ境界線情報」に基づいて、図7に示すように、フレームレートfにおけるy方向の動きの滑らかさ境界線上で、y方向の動きの大きさ|MVy|maxにおける点の空間周波数ν0を取得する。
【0120】
ステップS11024において、ν方向空間周波数範囲決定部10504が、ν方向空間周波数範囲をν0からν1に決定する。
【0121】
ここで、ステップS11021〜ステップS11024をまとめてステップS1102とする。
【0122】
ステップS1103において、x方向動きの滑らかさ値算出部10503が、μ0からμ1の間のμ方向空間周波数範囲内のμ成分累積値を全て加算することによってx方向の動きの滑らかさ値Sxを算出する。
【0123】
また、ステップS1104において、y方向動きの滑らかさ値算出部10505が、ν0からν1の間のν方向空間周波数範囲内のν成分累積値を全て加算することによってy方向の動きの滑らかさ値Syを算出する。
【0124】
ステップS11051において、評価値算出部10506が、x方向の動きの滑らかさ値Sxとy方向の動きの滑らかさ値Syとを比較する。
【0125】
x方向の動きの滑らかさ値Sxが、y方向の動きの滑らかさ値Syより大きい場合は、ステップS11052において、評価値算出部10506が、当該フレーム画像における動きの滑らかさ値Sを、x方向の動きの滑らかさ値Sxとする。
【0126】
それ以外の場合は、ステップS11053において、評価値算出部10506が、当該フレーム画像における動きの滑らかさ値Sを、y方向の動きの滑らかさ値Syとする。
【0127】
ステップS11054において、評価値算出部10506が、当該フレーム画像における動きの滑らかさを示す評価値Eを、所定閾値Tを用いて、「S−T」によって算出する。
【0128】
ステップS11055において、評価値算出部10506が、全てのフレーム画像における動きの滑らかさをします評価値Eの平均値を算出する)。
【0129】
ここで、ステップS11051〜S11055をまとめてステップS1105とする。
【0130】
(本発明の第1の実施形態に係る映像評価プログラム)
図12を参照して、コンピュータを、上述した本実施形態に係る映像評価装置10として機能させるための映像評価プログラム50について説明する。
【0131】
図12に示すように、映像評価プログラム50は、処理を統括するメインモジュールプログラム1201と、入力ジュール1202と、動き特徴量抽出モジュール1203と、フレームレート取得モジュール1204と、空間周波数分析モジュール1205と、評価モジュール1206とを備える。
【0132】
入力ジュール1202、動き特徴量抽出モジュール1203、フレームレート取得モジュール1204、空間周波数分析モジュール1205及び評価モジュール1206がコンピュータに行わせる機能は、それぞれ対応する入力部101、動き特徴量抽出部102、フレームレート取得部103、空間周波数分析部104、評価部105の機能と同様である。
【0133】
なお、映像評価プログラム50は、例えば、CD−ROM、DVD或いはROM等の記憶媒体又は半導体メモリによって提供される。
【0134】
また、映像評価プログラム40は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0135】
(本発明の第1の実施形態に係る映像評価装置の作用・効果)
本実施形態に係る映像評価装置10によれば、入力部101が、外部から入力された映像信号の中から抽出した映像を複数のフレーム画像及びフレームレートに関する情報に分離して出力し、動き特徴量抽出部102が、入力されたフレーム画像に基づいて当該映像の動き特徴量を抽出し、フレームレート取得部103が、入力されたフレームレートに関する情報からフレームレートを取得し、空間周波数分析部104が、入力されたフレーム画像における空間周波数特徴量を算出し、評価部105が、動き特徴量と空間周波数特徴量とフレームレートから、入力された当該映像の動きの滑らかさを評価するので、映像の動き特徴量、フレームレート及び空間周波数を考慮して、より高い精度の動きの滑らかさの評価を行うことができる。
【0136】
(変更例1)
なお、映像信号107は、複数のフレーム画像により構成される映像や、当該映像のフレームレートに関する情報の他に、当該映像の動きに関する情報や、当該映像の空間周波数に関する情報を含む信号であってもよい。
【0137】
かかる場合、動き特徴量抽出部102は、入力部101により入力された当該映像の動きに関する情報から、直接、動き特徴量を算出して評価部105へ出力するように構成されていてもよい。
【0138】
また、空間周波数分析部104は、入力部101により入力された当該映像の空間周波数に関する情報から、直接、空間周波数特徴量を算出して評価部105へ出力するように構成されていてもよい。
【0139】
また、動き特徴量抽出部102は、必ずしも、8画素x8画素のブロック単位で、動きベクトルの検出を行うように構成されている必要はなく、任意の大きさのブロック単位で、動きベクトルの検出を行うように構成されていてもよい。
【0140】
また、動き特徴量抽出部102は、必ずしも、ブロック単位で、動きベクトルの検出を行うように構成されている必要はない。
【0141】
例えば、動き特徴量抽出部102は、フレーム画像全体で、動き探索を行って、フレーム画像ごとに、1つの動きベクトルを検出するように構成されていてもよい。
【0142】
また、動き特徴量抽出部102は、フレーム画像内の1画素ごとに、動きベクトルを検出するように構成されていてもよい。
【0143】
また、動き特徴量抽出部102は、フレーム画像を、当該フレーム画像内のオブジェクト領域ごとに分割し、オブジェクト領域ごとに、動きベクトルを検出するように構成されていてもよい。
【0144】
また、動き特徴量抽出部102は、動き探索の方法として、必ずしもブロックマッチングを用いる必要はなく、濃度勾配法やその他のあらゆる映像の動きの変位量を検出する方法を用いることができる。
【0145】
また、動き特徴量抽出部102によって出力される動き特徴量は、各フレーム画像の各ブロックのx方向及びy方向の動きベクトルの大きさの最大値には限らず、平均値、中間値、最小値又は最頻値であってもよい。
【0146】
また、動き特徴量抽出部102によって出力される動き特徴量は、各フレーム画像単位で検出された1つの動きベクトルのx方向及びy方向の大きさであってもよい。
【0147】
また、動き特徴量抽出部102によって出力される動き特徴量は、各フレーム画像を、当該フレーム画像内のオブジェクト領域ごとに分割し、オブジェクト領域ごとに検出した動きベクトルのx方向及びy方向の大きさの最大値、平均値、中間値、最小値又は最頻値であってもよい。
【0148】
また、動き特徴量抽出部102によって出力される動き特徴量は、必ずしも、フレーム画像単位で、x方向及びy方向にそれぞれ1つである必要はなく、ブロック単位又はオブジェクト単位で、x方向及びy方向にそれぞれ1つであってもよい。
【0149】
かかる場合、空間周波数分析部104によって出力される空間周波数特徴量は、それぞれ、各フレーム画像のブロックごとに分析した空間周波数特徴量であってもよいし、各フレーム画像を当該フレーム画像内のオブジェクト領域に分割し、オブジェクト領域ごとに分析した空間周波数特徴量であってもよい。
【0150】
さらに、かかる場合、評価部105によって算出されるx方向及びy方向の動きの滑らかさ値は、それぞれ、ブロック単位又はオブジェクト単位ごとに1つであってもよい。
【0151】
かかる場合、評価部105は、あるフレーム画像におけるブロック単位又はオブジェクト単位ごとに1つ算出されたx方向及びy方向の動きの滑らかさ値の中での最大の動きの滑らかさ値を、当該フレーム画像における動きの滑らかさ値Sとしてもよい。
【0152】
また、特徴量抽出部102によって出力される動き特徴量は、必ずしも、x方向及びy方向でそれぞれ1つである必要はなく、任意の直交する2つの方向にそれぞれ1つであってもよい。
【0153】
かかる場合、空間周波数分析部104によって出力される空間周波数特徴量は、必ずしも、μ方向及びν方向である必要はなく、特徴量抽出部102で動き特徴量を抽出した任意の直交する2つの方向について分析した空間周波数特徴量であってもよい。
【0154】
また、かかる場合、評価部105によって算出される動きの滑らかさ値は、必ずしも、x方向及びy方向である必要はなく、特徴量抽出部102で動き特徴量を抽出した任意の直交する2つの方向について算出してもよい。
【0155】
また、空間周波数分析部104によって算出される各周波数における電力は、必ずしも、2次元フーリエ画像を用いて算出する必要はなく、フレーム画像の各周波数における電力量を算出するあらゆる方法を用いることができる。
【0156】
また、評価部105によってメモリ内に予め蓄積されているx方向及びy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報を取得する方法は、ルックアップテーブルを参照する方法であってもよいし、ナイキスト境界線情報及び動きの滑らかさ境界線情報を表す数式を保持しておき、その数式から導き出してもよい。
【0157】
また、評価部105によって算出される動きの滑らかさ値は、必ずしも、x方向の動きの滑らかさ値及びy方向の動きの滑らかさ値のうちの大きい方の値である必要はなく、x方向の動きの滑らかさ値とy方向の動きの滑らかさ値との和又は平均値、或いは、x方向の動きの滑らかさ値及びy方向の動きの滑らかさ値のうちの小さい方の値であってもよい。
【0158】
また、評価部105によって算出される各フレーム画像の動きの滑らかさを示す評価値Eは、必ずしも、動きの滑らかさ値Sと所定閾値Tとを用いて、「S−T」により算出しなくてもよい。
【0159】
評価部105によって算出される各フレーム画像における動きの滑らかさを示す評価値Eは、動きの滑らかさ値Sが大きくなるほど、当該評価値Eが小さくなるあらゆる関数を用いてもよい。
【0160】
また、評価部105によって算出される各フレーム画像の動きの滑らかさを示す評価値Eは、動きの滑らかさ値Sと所定閾値Tとを比較し、その大小関係によって一定値に決定してもよい。
【0161】
また、評価部105によって出力される評価値は、入力された映像信号に含まれる全てのフレーム画像における動きの滑らかさを示す評価値Eの平均値には限らず、入力された映像信号に含まれる全てのフレーム画像における動きの滑らかさを示す評価値Eの最大値、中間値、最小値又は最頻値であってもよい。
【0162】
また、評価部105によって出力される評価値は、必ずしも、入力された映像信号に含まれる全てのフレーム画像を通して1つの評価値である必要はなく、何枚かのフレーム画像、1枚ごとのフレーム画像、各フレーム画像のブロック単位又は各フレーム画像のオブジェクト単位に、1つの評価値であってもよい。
【0163】
(本発明の第2の実施形態に係る映像評価装置)
図13乃至図16を参照して、本発明の第2の実施形態に係る映像評価装置20について説明する。以下、本実施形態に係る映像評価装置20について、上述の第1の実施形態に係る映像評価装置10との相違点に着目して説明する。
【0164】
図13に示すように、映像評価装置20は、その機能的な構成要素として、入力部1301と、動き特徴量抽出部1302と、フレームレート取得部1303と、空間周波数範囲決定部1304と、評価部1305とを備えている。
【0165】
入力部1301は、外部から入力された映像信号1306の中から抽出した映像を複数のフレーム画像1307に分解して、動き特徴量抽出部1302へ出力するように構成されている。
【0166】
また、入力部1301は、外部から入力された映像信号1306の中から抽出した映像を複数のフレーム画像1308に分解して、評価部1305へ出力するように構成されている。
【0167】
また、入力部1301は、外部から入力された映像信号1306の中から抽出したフレームレートに関する情報1309をフレームレート取得部1303へ出力するように構成されている。
【0168】
動き特徴量抽出部1302は、入力部1301により入力されたフレーム画像1307に基づいて、入力された映像の動き特徴量を抽出し、動き特徴量1310として空間周波数範囲決定部1304へ出力するように構成されている。
【0169】
具体的には、動き特徴量抽出部1302は、上述の動き特徴量抽出部102と同様の方法で、入力された映像の動き特徴量を抽出するように構成されている。
【0170】
フレームレート取得部1303は、入力部1301により入力されたフレームレートに関する情報1309から、入力された映像のフレームレート1311を取得し、空間周波数範囲決定部1304へ出力するように構成されている。
【0171】
具体的には、フレームレート取得部1303は、上述のフレームレート取得部103と同様の方法で、入力された映像のフレームレート1311を取得するように構成されている。
【0172】
空間周波数範囲決定部1304は、動き特徴量抽出部1302から入力された動き特徴量1310と、フレームレート取得部1303から入力されたフレームレート1311とを用いて、映像の動きの滑らかさについての評価の対象となる空間周波数範囲を決定し、決定した空間周波数範囲を示す空間周波数範囲情報1312を評価部1305へ出力するように構成されている。
【0173】
図14を参照して、空間周波数範囲決定部1304が空間周波数範囲情報1312を決定する方法について具体的に説明する。
【0174】
図14に示すように、空間周波数範囲決定部1304は、メモリ13041と、ナイキスト境界周波数検出部13042と、動きの滑らかさ境界周波数検出部13043と、空間周波数範囲情報決定部13044とを具備している。
【0175】
メモリ13041には、各フレームレートにおけるx方向及びy方向のナイキスト境界線情報と、動きの滑らかさ境界線(動きの滑らかさに関する映像品質境界)情報とが保存されている。
【0176】
かかる各フレームレートにおけるx方向及びy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報は、上述の第1の実施形態における評価部105のメモリ10501内に予め蓄積されているx方向及びy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報と同一である。
【0177】
ナイキスト境界周波数検出部13042は、動き特徴量抽出部1302から入力された動き特徴量1310と、フレームレート取得部1303から入力されたフレームレート1311とを用いて、動き特徴量1310に対応する「フレームレートfにおけるx方向及びy方向のナイキスト境界線」上の空間周波数をメモリ13041から取得し、ナイキスト境界周波数13045として空間周波数範囲情報決定部13044へ出力するように構成されている。
【0178】
すなわち、ナイキスト境界周波数検出部13042は、フレームレートfにおけるx方向の動きの大きさが|MVx|maxである場合、図6に示すように、「フレームレートfにおけるx方向のナイキスト境界線」上の空間周波数μ1をメモリ13041から取得するように構成されている。
【0179】
また、ナイキスト境界周波数検出部13042は、フレームレートfにおけるy方向の動きの大きさが|MVy|maxである場合、図7に示すように、「フレームレートfにおけるy方向のナイキスト境界線」上の空間周波数ν1をメモリ13041から取得するように構成されている。
【0180】
ナイキスト境界周波数検出部13042は、空間周波数μ1及びν1を、ナイキスト境界周波数13045として空間周波数範囲情報決定部13044へ出力するように構成されている。
【0181】
動きの滑らかさ境界周波数検出部13043は、動き特徴量抽出部1302から入力された動き特徴量1310と、フレームレート取得部1303から入力されたフレームレート1311とを用いて、動き特徴量1310に対応する「フレームレートfにおけるx方向及びy方向の動きの滑らかさ境界線」上の空間周波数をメモリ13041から取得し、動きの滑らかさ境界周波数13046として空間周波数範囲情報決定部13044へ出力するように構成されている。
【0182】
すなわち、動きの滑らかさ周波数検出部13043は、フレームレートfにおけるx方向の動きの大きさが|MVx|maxである場合、図6に示すように、「フレームレートfにおけるx方向の動きの滑らかさ境界線」上の空間周波数μ0をメモリ13041から取得するように構成されている。
【0183】
また、動きの滑らかさ境界周波数検出部13043は、フレームレートfにおけるy方向の動きの大きさが|MVy|maxである場合、図7に示すように、「フレームレートfにおけるy方向の動きの滑らかさ境界線」上の空間周波数ν0をメモリ13041から取得するように構成されている。
【0184】
動きの滑らかさ境界周波数検出部13043は、空間周波数μ0及びν0を、動きの滑らかさ境界周波数13046として空間周波数範囲情報決定部13044へ出力するように構成されている。
【0185】
空間周波数範囲情報決定部13044は、ナイキスト境界周波数検出部13042から入力されたナイキスト境界周波数13045と、動きの滑らかさ境界周波数検出部13043から入力された動きの滑らかさ境界周波数13046とを用いて、空間周波数範囲情報1312を決定し、空間周波数範囲決定部1304の出力として出力するように構成されている。
【0186】
すなわち、図6に示すように、x方向のナイキスト境界線周波数がμ1であり、x方向の動きの滑らかさ境界線周波数がμ0であった場合、空間周波数範囲情報決定部13044は、x方向の空間周波数範囲情報をμ0≦μ≦μ1と決定する。
【0187】
また、図7に示すように、y方向のナイキスト境界線周波数がν1であり、y方向の動きの滑らかさ境界線周波数がν0であった場合、空間周波数範囲情報決定部13044は、y方向の空間周波数範囲情報をν0≦ν≦ν1と決定する。
【0188】
評価部1305は、入力部1301により入力されたフレーム画像1308と、空間周波数範囲決定部1304により入力された空間周波数範囲情報1312とに基づいて、入力された前記映像を構成するフレーム画像における空間周波数範囲内の信号強度値を算出し、かかる信号強度値と所定閾値との比較結果に基づいて、当該映像の動きの滑らかさを示す評価値を算出して、評価装置20の出力として評価値1314を出力するように構成されている。
【0189】
図15に示すように、評価部1305は、2次元フーリエ変換部13051と、信号強度値算出部13052と、評価値算出部13053とを具備している。
【0190】
2次元フーリエ変換部13051は、入力部1301により入力されたフレーム画像1308に対して2次元フーリエ変換処理を施して、各周波数における電力を含む2次元フーリエ画像13054を作成し、信号強度値算出部13052へ出力するように構成されている。
【0191】
信号強度値算出部13052は、2次元フーリエ変換部13051により入力された2次元フーリエ画像13054と、空間周波数範囲決定部1304により入力された空間周波数範囲情報1312とを用いて、信号強度値13055を算出し、評価値算出部13053へ出力するように構成されている。
【0192】
図16を用いて、信号強度値算出部13052による信号強度値の算出方法について具体的に説明する。
【0193】
図16(a)は、x方向の信号強度値の算出方法を説明するための図であり、図16(b)は、y方向の信号強度値の算出方法を説明するための図である。
【0194】
第1に、信号強度値算出部13052は、2次元フーリエ画像13054の各周波数成分の電力について、x方向の空間周波数μにおけるν方向の全ての電力を足し合わせることによって、空間周波数μにおける電力の累積値であるμ成分累積値を算出する。
【0195】
第2に、信号強度値算出部13052は、空間周波数範囲情報1312を用いて、x方向の空間周波数範囲であるμ0≦μ≦μ1におけるμ成分累積値(図16(a)における破線斜線部)を足し合わせることによって、x方向の信号強度値を算出する。
【0196】
第3に、信号強度値算出部13052は、2次元フーリエ画像13054の各周波数成分の電力について、y方向の空間周波数νにおけるμ方向の全ての電力を足し合わせすることによって、空間周波数νにおける電力の累積値であるν成分累積値を算出する。
【0197】
第4に、信号強度値算出部13052は、空間周波数範囲情報1312を用いて、y方向の空間周波数範囲であるν0≦ν≦ν1においてν成分累積値(図16(b)における実線斜線部)を足し合わせることによって、y方向の信号強度値を算出する。
【0198】
第5に、信号強度値算出部13052は、x方向の信号強度とy方向の信号強度とを比較し、大きい方の値を信号強度値13055として評価値算出部13053へ出力する。
【0199】
評価値算出部13053は、信号強度値算出部13052から入力された信号強度値13055と所定閾値との比較結果を、評価値1314を出力するように構成されている。
【0200】
具体的には、評価値算出部13053は、あるフレーム画像における信号強度値を「S」とし、所定閾値を「T」とする場合、動きの滑らかさの評価値Eを「T−S」により算出するように構成されている。
【0201】
さらに、評価値算出部13053は、全てのフレーム画像における動きの滑らかさを示す評価値Eの平均値を算出し、動きの滑らかさの評価値1314として出力するように構成されている。
【0202】
(本発明の第2の実施形態に係る映像評価方法)
以下、図17乃至図19を参照して、本実施形態に係る映像評価方法について説明する。
【0203】
第1に、図17を参照して、本実施形態に係る映像評価方法の全体動作について説明する。
【0204】
図17に示すように、ステップS1801において、入力部1301が、外部から入力された映像と、当該映像のフレームレートに関する情報を読み込む。
【0205】
ステップS1802において、動き特徴量抽出部1302が、当該映像の動き特徴量を抽出する。
【0206】
ステップS1803において、フレームレート取得部1303が、入力されたフレームレートに関する情報に基づいて、当該映像のフレームレートを取得する。
【0207】
ステップS1804において、空間周波数範囲決定部1304が、当該映像の動きの滑らかさを評価する対象となる空間周波数範囲を決定する。
【0208】
ステップS1805において、評価部1305が、当該映像の動きの滑らかさについて評価する。
【0209】
第2に、図18を参照して、空間周波数範囲決定部1304の処理方法について説明する。
【0210】
図18に示すように、ステップS1901において、空間周波数範囲決定部1304は、入力された映像の動き特徴量及びフレームレートを読み込む。
【0211】
ステップS1902において、ナイキスト境界周波数検出部13042が、当該フレームレートにおける動き特徴量に対応するナイキスト境界周波数を、メモリ13041から検出する。
【0212】
ステップS1903において、動きの滑らかさ境界周波数検出部13043が、当該フレームレートにおける当該動き特徴量に対応する動きの滑らかさ境界周波数を、メモリ13041から検出する。
【0213】
ステップS1904において、空間周波数範囲情報決定部13044が、ナイキスト境界周波数と動きの滑らかさ境界周波数との間の空間周波数範囲を示す空間周波数範囲情報として決定する。
【0214】
第3に、図19を参照して、評価部1305の処理方法について説明する。
【0215】
図19に示すように、ステップS2001において、2次元フーリエ変換部13051が、入力されたフレーム画像に対して2次元フーリエ変換処理を施す。
【0216】
ステップS20021において、信号強度値算出部13052が、上述の空間周波数範囲内における2次元フーリエ画像の各周波数成分の電力を累積して、電力の累積値を算出する。
【0217】
ステップS20022において、信号強度値算出部13052が、空間周波数範囲内における電力の累積値を全て足し合わせることによって信号強度値を算出する。
【0218】
ここで、ステップ20021とステップ20022をあわせてステップS2002とする。
【0219】
ステップS20031において、評価値算出部13053が、算出した信号強度値と所定の閾値との比較結果に基づいて、各フレーム画像における評価値を算出する。
【0220】
ステップS20032において、評価値算出部13053が、全てのフレーム画像における動きの滑らかさを示す評価値の平均値を算出し、動きの滑らかさを示す評価値として出力する。
【0221】
ここで、ステップS20321とステップS20322をあわせてステップS2032とする。
【0222】
(本発明の第2の実施形態に係る映像評価プログラム)
図20を参照して、コンピュータを、上述した本実施形態に係る映像評価装置20として機能させるための映像評価プログラム60について説明する。
【0223】
図20に示すように、映像評価プログラム60は、処理を統括するメインモジュールプログラム2101と、入力モジュール2102と、動き特徴量抽出モジュール2103と、フレームレート取得モジュール2104と、空間周波数範囲決定モジュール2105と、評価モジュール2106とを備える。
【0224】
入力モジュール2102、動き特徴量抽出モジュール2103、フレームレート取得モジュール2104、空間周波数範囲決定モジュール2105及び評価モジュール2106が、コンピュータに行わせる機能は、それぞれ対応の入力部1301、動き特徴量抽出部1302、フレームレート取得部1303、空間周波数範囲決定部1304及び評価部1305の機能と同様である。
【0225】
なお、映像評価プログラム60は、例えば、CD−ROM、DVD或いはROM等の記憶媒体又は半導体メモリによって提供される。
【0226】
また、映像評価プログラム60は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0227】
(本発明の第2の実施形態に係る映像評価装置の作用・効果)
本実施形態に係る映像評価装置20によれば、入力部1301が、外部から入力された映像信号の中から抽出された映像を複数のフレーム画像及びフレームレートに関する情報を出力し、動き特徴量抽出部1302が、入力されたフレーム画像に基づいて当該映像の動き特徴量を抽出し、フレームレート取得部1303が、入力されたフレームレートに関する情報に基づいて当該映像のフレームレートを取得し、空間周波数範囲決定部1304が、当該映像の動きの滑らかさを評価する対象となる空間周波数範囲を決定し、評価部1305が、フレーム画像における当該空間周波数範囲内の信号強度値を算出し、かかる信号強度値と所定の閾値とを比較することによって、当該映像の動きに関する品質を評価するので、当該映像のフレームレートと当該映像の動き特徴量と空間周波数情報とに応じた、より高い精度の動きの滑らかさについて評価を行うことができる。
【0228】
また、本実施形態に係る映像評価装置20によれば、空間周波数範囲決定部1304が、映像の動きを正しく表示できる境界であるナイキスト境界線と、当該映像の動きに関する品質が一定以上に保たれる境界である動きの滑らかさ境界線を用いて、当該映像の評価の対象となる空間周波数範囲を決定するので、当該映像の動きの滑らかさに関係する空間周波数の範囲に着目した評価を行うことができる。
【0229】
(変更例2)
なお、映像信号1306は、複数のフレーム画像により構成される映像や、当該映像のフレームレートに関する情報の他に、当該映像の動きに関する情報を含む信号であってもよい。
【0230】
かかる場合、動き特徴量抽出部1302は、入力部1301により入力された当該映像の動きに関する情報から、直接、動き特徴量を算出して空間周波数範囲決定部1304へ出力するように構成されていてもよい。
【0231】
また、動き特徴量抽出部1302は、必ずしも、8画素x8画素のブロック単位で、動きベクトルの検出を行うように構成されている必要はなく、任意の大きさのブロック単位で、動きベクトルの検出を行うように構成されていてもよい。
【0232】
また、動き特徴量抽出部1302は、必ずしも、ブロック単位で、動きベクトルの検出を行うように構成されている必要はない。
【0233】
例えば、動き特徴量抽出部1302は、フレーム画像全体で、動き探索を行って、フレーム画像ごとに、1つの動きベクトルを検出するように構成されていてもよい。
【0234】
また、動き特徴量抽出部1302は、フレーム画像内の1画素ごとに、動きベクトルを検出するように構成されていてもよい。
【0235】
また、動き特徴量抽出部1302は、フレーム画像を、当該フレーム画像内のオブジェクト領域ごとに分割し、オブジェクト領域ごとに、動きベクトルを検出するように構成されていてもよい。
【0236】
また、動き特徴量抽出部1302は、動き探索の方法として、必ずしもブロックマッチングを用いる必要はなく、濃度勾配法やその他のあらゆる映像の動きの変位量を検出する方法を用いることができる。
【0237】
また、動き特徴量抽出部1302によって出力される動き特徴量は、各フレーム画像の各ブロックのx方向及びy方向の動きベクトルの大きさの最大値には限らず、平均値、中間値、最小値又は最頻値であってもよい。
【0238】
また、動き特徴量抽出部1302によって出力される動き特徴量は、各フレーム画像単位で検出された1つの動きベクトルのx方向及びy方向の大きさであってもよい。
【0239】
また、動き特徴量抽出部1302によって出力される動き特徴量は、各フレーム画像を、当該フレーム画像内のオブジェクト領域ごとに分割し、オブジェクト領域ごとに検出した動きベクトルのx方向及びy方向の大きさの最大値、平均値、中間値、最小値又は最頻値であってもよい。
【0240】
また、動き特徴量抽出部1302によって出力される動き特徴量は、必ずしも、フレーム画像単位で、x方向及びy方向にそれぞれ1つである必要はなく、ブロック単位又はオブジェクト単位で、x方向及びy方向にそれぞれ1つであってもよい。
【0241】
かかる場合、空間周波数範囲決定部1304によって出力される空間周波数範囲情報は、それぞれ、各フレーム画像のブロックごとに決定した空間周波数範囲情報であってもよいし、各フレーム画像を当該フレーム画像内のオブジェクト領域に分割し、オブジェクト領域ごとに決定した空間周波数範囲情報であってもよい。
【0242】
さらに、かかる場合、評価部1305によって算出されるx方向及びy方向の信号強度値は、それぞれ、ブロック単位又はオブジェクト単位ごとに1つであってもよい。
【0243】
かかる場合、評価部1305は、あるフレーム画像におけるブロック単位又はオブジェクト単位ごとに1つ算出されたx方向及びy方向の信号強度値の中での最大の信号強度値を、当該フレーム画像における信号強度値としてもよい。
【0244】
また、動き特徴量抽出部1302によって出力される動き特徴量は、必ずしも、x方向及びy方向でそれぞれ1つである必要はなく、任意の直交する2つの方向にそれぞれ1つであってもよい。
【0245】

かかる場合、空間周波数範囲決定部1304によって出力される空間周波数範囲情報は、必ずしも、x方向及びy方向である必要はなく、動き特徴量抽出部1302で動き特徴量を抽出した任意の直交する2つの方向について決定した空間周波数範囲情報であってもよい。
【0246】
また、かかる場合、評価部1305によって算出される信号強度値は、必ずしも、x方向及びy方向である必要はなく、動き特徴量抽出部1302で動き特徴量を抽出した任意の直交する2つの方向について算出してもよい。
【0247】
また、空間周波数範囲決定部1304によってメモリ内に予め蓄積されているx方向及びy方向のナイキスト境界線情報及び動きの滑らかさ境界線情報を取得する方法は、ルックアップテーブルを参照する方法であってもよいし、ナイキスト境界線情報及び動きの滑らかさ境界線情報を表す数式を保持しておき、その数式から導き出してもよい。
【0248】
また、評価部1305によって算出される信号強度値は、必ずしも、2次元フーリエ画像を用いて算出する必要はなく、フレーム画像の各周波数における電力量を算出するあらゆる方法を用いることができる。
【0249】
また、評価部1305によって算出される信号強度値は、必ずしも、x方向の信号強度値及びy方向の信号強度値のうちの大きい方の値である必要はなく、x方向の信号強度値とy方向の信号強度値との和又は平均値、或いは、x方向の信号強度値及びy方向の信号強度値のうちの小さい方の値であってもよい。
【0250】
また、評価部1305によって算出される各フレーム画像の動きの滑らかさを示す評価値Eは、必ずしも、信号強度値Sと所定閾値Tとを用いて、「S−T」により算出しなくてもよい。
【0251】
評価部1305によって算出される各フレーム画像における動きの滑らかさを示す評価値Eは、信号強度値Sが大きくなるほど、当該評価値Eが小さくなるあらゆる関数を用いてもよい。
【0252】
また、評価部1305によって算出される各フレーム画像の動きの滑らかさの評価値Eは、信号強度値Sと所定閾値Tとを比較し、その大小関係によって一定値に決定してもよい。
【0253】
また、評価部1305によって出力される評価値は、入力された映像信号に含まれる全てのフレーム画像における動きの滑らかさを示す評価値Eの平均値には限らず、入力された映像信号に含まれる全てのフレーム画像における動きの滑らかさを示す評価値Eの最大値、中間値、最小値又は最頻値であってもよい。
【0254】
また、評価部1305によって出力される評価値は、必ずしも、入力された映像信号に含まれる全てのフレーム画像を通して1つの評価値である必要はなく、何枚かのフレーム画像、1枚ごとのフレーム画像、各フレーム画像のブロック単位又は各フレーム画像のオブジェクト単位に、1つの評価値であってもよい。
【0255】
(本発明の第3の実施形態に係る映像フレームレート決定装置)
図21を参照して、本発明の第3の実施形態に係る映像フレームレート決定装置220について説明する。
【0256】
本実施形態に係る映像フレームレート決定装置220は、物理的には、CPU(中央処理装置)や、メモリといった記憶装置や、通信装置等を備えるコンピュータにより実現されていてもよい。
【0257】
また、映像フレームレート決定装置220は、携帯電話といった移動体通信端末により実現されていてもよい。すなわち、映像フレームレート決定装置220には、情報処理可能な装置が広く適用され得る。
【0258】
図21に示すように、映像フレームレート決定装置220は、機能的に、蓄積部2201と、フレームレート発生部2202と、映像信号生成部2203と、映像信号評価部2204と、フレームレート決定部2205とを備えている。
【0259】
なお、映像フレームレート決定装置220は、複数のフレーム画像2208により構成される映像2206のフレームレート2211を決定するように構成されている。
【0260】
蓄積部2201は、フレームレート2211を決定すべき対象である映像2206を取得して蓄積するように構成されている。
【0261】
また、蓄積部2201は、フレームレート発生部2202から入力されるフレームレート2207に応じて、蓄積されている映像2206を構成する複数のフレーム画像2208を抽出して、映像信号生成部2203へ出力するように構成されている。
【0262】
フレームレート発生部2202は、動きの滑らかさについて評価するための対象である第1のフレームレート2207を発生し、蓄積部2201と映像信号生成部2203とフレームレート決定部2205とに出力するように構成されている。
【0263】
映像信号生成部2203は、蓄積部2201から入力されたフレーム画像2208(蓄積部2201に蓄積されている映像2206)と、フレームレート発生部2202から入力されたフレームレート2207とを含む映像信号2209を生成して、映像信号評価部2204に出力するように構成されている。
【0264】
映像信号評価部2204は、映像信号生成部2203から入力された映像信号2209を用いて、当該映像信号2209に含まれている映像の動きの滑らかさについて評価することによって、上述の評価値2210を算出してフレームレート決定部2205へ出力するように構成されている。
【0265】
なお、映像信号評価部2204は、上述の第1の実施形態に係る映像評価装置10又は第2の実施形態に係る映像評価装置20の機能と同一の機能を有しているものとする。
【0266】
フレームレート決定部2205は、フレームレート発生部2202から入力されたフレームレート2207と、映像信号評価部2204から入力された評価値2210とを用いて、上述の映像に対する処理を行う第2のフレームレートであるフレームレート2211を決定して出力するように構成されている。
【0267】
具体的には、フレームレート決定部2205は、フレームレート発生部2202から入力されたフレームレート2207と、映像信号評価部2204から入力された評価値2210とある一定値との関係とを用いて、第2のフレームレート2211を決定するように構成されている。
【0268】
フレームレート決定部2205は、映像信号評価部2204から入力された評価値2210が、ある一定値より大きくなる場合は、第2のフレームレート2211を、第1のフレームレート2207とある一定値との差に比例して小さくして出力する。
【0269】
また、フレームレート決定部2205は、映像信号評価部2204から入力された評価値2210が、ある一定値より小さくなる場合は、第2のフレームレート2211を、第1のフレームレート2207とある一定値との差に比例して大きくして出力する。
【0270】
また、本実施形態に係る映像フレームレート決定装置220において、フレームレート発生部2202が、多様な値の第1のフレームレート2207を発生し、映像信号評価部2204において算出した評価値2210が、上述のある一定値と一致した場合、フレームレート決定部2205が、第2のフレームレート2211として、第1のフレームレート2207と同一のフレームレートを出力するようにしてもよい。
【0271】
なお、フレームレート決定部2205における比較に用いられる上述のある一定値は、予め決定されておいてもよいし、外部から与えられてもよい。
【0272】
また、フレームレート発生部2202により発生される第1のフレームレート2207は、予め決定されておいてもよいし、外部から与えられてもよい。
【0273】
また、フレームレート発生部2202は、予め決定されておいた複数のフレームレートの中から、1つ以上のフレームレートを選択して発生するように構成されていてもよい。
【0274】
(本発明の第3の実施形態に係る映像フレームレート決定方法)
図22を参照して、本実施形態に係る映像フレームレート決定方法について説明する。
【0275】
図22に示すように、ステップS2301において、フレームレート発生部2102が、第1のフレームレートを発生する。
【0276】
ステップS2302において、蓄積部2201が、かかる第1のフレームレートで、蓄積されているフレーム画像を抽出する。
【0277】
ステップS2303において、映像信号生成部2203が、蓄積部2201から抽出した複数のフレーム画像を用いて映像を生成し、生成した映像及び当該映像の滑らかさを評価するための第1のフレームレートを含む映像信号を生成する。
【0278】
ステップS2304において、映像信号評価部2204が、かかる映像信号に含まれる映像の動きの滑らかさについて評価する。
【0279】
ステップS2305において、フレームレート決定部2205が、フレームレート発生部2202から入力された第1のフレームレートと、映像信号評価部2204から入力された評価値Eとを用いて、当該映像に対する処理を行う第2のフレームレートを決定する。
【0280】
(本発明の第3の実施形態に係る映像フレームレート決定プログラム)
図23を参照して、コンピュータを、上述の第3の実施形態に係る映像フレームレート決定装置220として機能させるための映像フレームレート決定プログラム240について説明する。
【0281】
図24に示すように、映像フレームレート決定プログラム240は、処理を統括するメインモジュールプログラム2401と、蓄積モジュール2402と、フレームレート発生モジュール2403と、映像信号生成モジュール2404と、映像信号評価モジュール2405と、フレームレート決定モジュール2406とを備える。
【0282】
蓄積モジュール2402、フレームレート発生モジュール2403、映像信号生成モジュール2404、映像信号評価モジュール2405及びフレームレート決定モジュール2406が、コンピュータに行わせる機能は、それぞれ対応する蓄積部2201、フレームレート発生部2202、映像信号生成部2203、映像信号評価部2204及びフレームレート決定部2205の機能と同様である。
【0283】
なお、映像フレームレート決定プログラム240は、例えば、CD−ROMやDVD或いはROM等の記憶媒体又は半導体メモリによって提供される。
【0284】
また、映像フレームレート決定プログラム240は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0285】
(本発明の第3の実施形態に係る映像フレームレート決定装置の作用・効果)
本実施形態に係る映像フレームレート決定装置22によれば、映像信号評価部2204が、フレームレート発生部2202により発生された第1のフレームレートにおける映像の滑らかさについて評価し、第2のフレームレート2211を決定するため、映像の動きの滑らかさを示す評価値を用いて、当該映像の動きの滑らかさがある一定値(評価値)となるように、当該映像のフレームレートを決定することができる。
【図面の簡単な説明】
【0286】
【図1】本発明の第1の実施形態に係る映像評価装置の構成を示す機能ブロック図である。
【図2】ブロックマッチングによる動きベクトルの探索の様子を表す図である。
【図3】本発明の第1の実施形態に係る映像評価装置の空間周波数分析部の構成を示す機能ブロック図である。
【図4】(a)は、本発明の第1の実施形態に係る映像評価装置の空間周波数分析部に入力されたフレーム画像の一例を示す図であり、(b)は、本発明の第1の実施形態に係る映像評価装置の空間周波数分析部に入力されたフレーム画像を2次元フーリエ変換することによって得られた2次元フーリエ変換画像の一例を示す図であり、(c)は、本発明の第1の実施形態に係る映像評価装置の空間周波数分析部において、水平方向(x方向)の空間周波数μにおける2次元フーリエ変換画像の電力の累積値であるμ成分累積値を算出する方法を表す図であり、(d)は、本発明の第1の実施形態に係る映像評価装置の空間周波数分析部において、垂直方向(y方向)の空間周波数νにおける2次元フーリエ変換画像の電力の累積値であるν成分累積値を算出する方法を表す図である。
【図5】本発明の第1の実施形態に係る映像評価装置の評価部の構成を示す機能ブロック図である。
【図6】本発明の第1の実施形態に係る映像評価装置の評価部において、x方向のナイキスト境界線情報及び動きの滑らかさ境界線情報から、μ方向空間周波数範囲情報を取得する方法を表す図である。
【図7】本発明の第1の実施形態に係る映像評価装置の評価部において、y方向のナイキスト境界線情報及び動きの滑らかさ境界線情報から、ν方向空間周波数範囲情報を取得する方法を表す図である。
【図8】(a)は、本発明の第1の実施形態に係る映像評価装置の評価部において、x方向の動きの滑らかさ値Sxを算出するために加算する累積値の領域を示す図であり、(b)は、本発明の第1の実施形態に係る映像評価装置の評価部において、y方向の動きの滑らかさ値Syを算出するために加算する累積値の領域を示す図であり、
【図9】本発明の第1の実施形態に係る映像評価方法を説明するフローチャートである。
【図10】本発明の第1の実施形態に係る映像評価方法における空間周波数分析部の処理方法を説明するフローチャートである。
【図11】本発明の第1の実施形態に係る映像評価方法における評価部の処理方法を説明するフローチャートである。
【図12】本発明の第1の実施形態に係る映像評価プログラムを示す図である。
【図13】本発明の第2の実施形態に係る映像評価装置の構成を示す機能ブロック図である。
【図14】本発明の第2の実施形態に係る映像評価装置の空間周波数範囲決定部の構成を示す機能ブロック図である。
【図15】本発明の第2の実施形態に係る映像評価装置の評価部の構成を示す機能ブロック図である。
【図16】(a)は、本発明の第2の実施形態に係る映像評価装置の評価部において、x方向の信号強度値を算出するために加算する累積値の領域を示す図であり、(b)は、本発明の第2の実施形態に係る映像評価装置の評価部において、y方向の信号強度値を算出するために加算する累積値の領域を示す図である。
【図17】本発明の第2の実施形態に係る映像評価方法を説明するフローチャートである。
【図18】本発明の第2の実施形態に係る映像評価方法における空間周波数範囲決定部の処理方法を説明するフローチャートである。
【図19】本発明の第2の実施形態に係る映像評価方法における評価部の処理方法を説明するフローチャートである。
【図20】本発明の第2の実施形態に係る映像評価プログラムを示す図である。
【図21】本発明の第3の実施形態に係る映像フレームレート決定装置の構成を示す機能ブロック図である。
【図22】本発明の第3の実施形態に係る映像フレームレート決定方法を説明するフローチャートである。
【図23】本発明の第3の実施形態に係る映像フレームレート決定プログラムを示す図である。
【符号の説明】
【0287】
10、20…映像評価装置
101、1301…入力部
102、1302…動き特徴量抽出部
103、1303…フレームレート取得部
104…空間周波数分析部
1041、13051…2次元フーリエ変換部
1042…累積値算出部
1304…空間周波数範囲決定部
13042…ナイキスト境界周波数検出部
13043…動きの滑らかさ境界周波数検出部
13044…周波数範囲情報決定部
105、1305…評価部
10501、13041…メモリ
10502…μ方向空間周波数範囲決定部
10503…x方向動きの滑らかさ値算出部
10504…ν方向空間周波数範囲決定部
10505…y方向動きの滑らかさ値算出部
10506、13053…評価値算出部
13052…信号強度値算出部
220…映像フレームレート決定装置
2201…蓄積部
2202…フレームレート発生部
2203…映像信号生成部
2204…映像信号評価部
2205…フレームレート決定部
50、60…映像評価プログラム
1201、2101、2401…メインモジュール
1202、2102…入力モジュール
1203、2103…動き特徴量抽出モジュール
1204、2104…フレームレート取得モジュール
1205…空間周波数分析モジュール
1206、2106…評価モジュール
2105…空間周波数範囲決定モジュール
240…映像フレームレート決定プログラム
2402…蓄積モジュール
2403…フレームレート発生モジュール
2404…映像信号生成モジュール
2405…映像信号評価モジュール
2406…フレームレート決定モジュール

【特許請求の範囲】
【請求項1】
複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価装置であって、
入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する動き特徴量抽出部と、
入力された前記映像のフレームレートを取得するフレームレート取得部と、
入力された前記映像を構成するフレーム画像における空間周波数を分析する空間周波数分析部と、
抽出された前記動き特徴量と、取得された前記フレームレートと、前記空間周波数の分析結果とを用いて、前記映像の動きの滑らかさを示す評価値を算出する評価部とを具備することを特徴とする映像評価装置。
【請求項2】
複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価装置であって、
入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する動き特徴量抽出部と、
入力された前記映像のフレームレートを取得するフレームレート取得部と、
抽出された前記動き特徴量と、取得された前記フレームレートとを用いて、前記映像の評価の対象となる空間周波数範囲を決定する空間周波数範囲決定部と、
入力された前記映像を構成するフレーム画像における前記空間周波数範囲内の信号強度値と所定閾値との比較結果に基づいて、前記映像の動きの滑らかさを示す評価値を算出する評価部とを具備することを特徴とする映像評価装置。
【請求項3】
前記空間周波数決定部は、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きを正しく表示できる空間周波数の限界値を示すナイキスト境界線と、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す映像品質境界線とを用いて、前記空間周波数範囲を決定することを特徴とする請求項2に記載の映像評価装置。
【請求項4】
請求項1乃至3のいずれか一項に記載の映像評価装置を具備しており、複数のフレーム画像により構成される映像のフレームレートを決定する映像フレームレート決定装置であって、
前記映像を蓄積する蓄積部と、
前記映像の第1のフレームレートを発生するフレームレート発生部と、
前記蓄積部に蓄積されている前記映像と、前記フレームレート発生部により発生された前記第1のフレームレートとを含む映像信号を生成する映像信号生成部と、
前記映像評価装置により算出された前記評価値を用いて、前記映像の第2のフレームレートを決定するフレームレート決定部とを具備することを特徴とする映像フレームレート決定装置。
【請求項5】
複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価方法であって、
入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する工程と、
入力された前記映像のフレームレートを取得する工程と、
入力された前記映像を構成するフレーム画像における空間周波数を分析する工程と、
抽出された前記動き特徴量と、取得された前記フレームレートと、前記空間周波数の分析結果とを用いて、前記映像の動きの滑らかさを示す評価値を算出する工程とを有することを特徴とする映像評価方法。
【請求項6】
複数のフレーム画像により構成される映像の動きの滑らかさを評価する映像評価方法であって、
入力された前記映像を構成するフレーム画像に基づいて、該映像の動き特徴量を抽出する工程と、
入力された前記映像のフレームレートを取得する工程と、
抽出された前記動き特徴量と、取得された前記フレームレートとを用いて、前記映像の評価の対象となる空間周波数範囲を決定する工程と、
入力された前記映像を構成するフレーム画像における前記空間周波数範囲内の信号強度値と所定閾値との比較結果に基づいて、前記映像の動きの滑らかさを示す評価値を算出する工程とを有することを特徴とする映像評価方法。
【請求項7】
前記空間周波数範囲を決定する工程において、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きを正しく表示できる空間周波数の限界値を示すナイキスト境界線と、所定のフレームレートにおいて所定の動き特徴量を有する映像の動きに関する品質が一定以上に保たれる空間周波数の限界値を示す映像品質境界線とを用いて、前記空間周波数範囲を決定することを特徴とする請求項6に記載の映像評価方法。
【請求項8】
請求項5乃至7のいずれか一項に記載の映像評価方法を有しており、複数のフレーム画像により構成される映像のフレームレートを決定する映像フレームレート決定方法であって、
前記映像の第1のフレームレートを発生する工程と、
蓄積部に蓄積されている前記映像と、前記フレームレートを発生する工程において発生された前記第1のフレームレートとを含む映像信号を生成する工程と、
前記映像評価方法により算出された前記評価値を用いて、前記映像の第2のフレームレートを決定する工程とを有することを特徴とする映像フレームレート決定方法。
【請求項9】
コンピュータを、
請求項1乃至3のいずれか一項に記載の映像評価装置として機能させることを特徴とする映像評価プログラム。
【請求項10】
コンピュータを、
請求項4に記載の映像フレームレート決定装置として機能させることを特徴とする映像フレームレート決定プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate


【公開番号】特開2008−72665(P2008−72665A)
【公開日】平成20年3月27日(2008.3.27)
【国際特許分類】
【出願番号】特願2006−251779(P2006−251779)
【出願日】平成18年9月15日(2006.9.15)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【出願人】(803000115)学校法人東京理科大学 (545)
【Fターム(参考)】