映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、および映像評価プログラム
【課題】映像の動きの滑らかさに応じてフレームレートを決定させる。
【解決手段】変化量検出部1401は、外部から動画像信号として入力された入力映像信号1403に含まれる複数のフレーム画像に基づいて、変化量を抽出し、この変化量1405を評価値算出部1402に出力する。評価値算出部1402は、変化量1405とフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における時間変化量を割り出し、この時間変化量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。この評価値がフレームレートを決定させる要素として外部に出力される。
【解決手段】変化量検出部1401は、外部から動画像信号として入力された入力映像信号1403に含まれる複数のフレーム画像に基づいて、変化量を抽出し、この変化量1405を評価値算出部1402に出力する。評価値算出部1402は、変化量1405とフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における時間変化量を割り出し、この時間変化量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。この評価値がフレームレートを決定させる要素として外部に出力される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、および映像評価プログラムに関する。
【背景技術】
【0002】
映像の取得、蓄積、伝送、表示、符号化、復号化等を含む映像処理は、一般に、固定フレームレートによって処理が行われている。ここで、フレームレートとは、1秒あたりに処理されるフレーム数のことをいう。また、固定フレームレートとは、1秒あたりに処理されるフレーム数を一定にしたフレームレートのことをいう。固定フレームレートの具体例としては、例えば、米国や日本で採用されている全国テレビジョン標準委員会(National Television Standards Committee:NTSC)規格では、29.97fps(frame per second)に定義されている。また、ヨーロッパで採用されている全国テレビション標準委員会による位相交番ライン(Phase Alternating Line:PAL)規格では、25fpsに定義されている。さらに、15fpsや24fpsの固定フレームレートが用いられる場合もある。なお、「映像」とは個々の静止画像である「フレーム画像」を連続させることにより構成されるものである。
【0003】
固定フレームレートで映像処理を行う場合に、フレームレートを増加させると、連続するフレームの時間間隔が短くなる。これによって、より滑らかな動きの映像を処理することが可能となる。例えば、30fpsのフレームレートで処理される映像は、15fpsのフレームレートで処理される映像よりも、単位時間当たりのフレーム数が多いために映像の動きがより細かく表現され、全体としてより滑らかな動きで表現される。
【0004】
また、上述した固定フレームレートによる映像処理の他に、可変フレームレートによる映像処理も行われている。この可変フレームレートによる映像処理は、映像の処理量やデータ量に応じてフレームレートを可変にするものである。例えば、映像を符号化する場合に、符号化するデータ量が多いと判断した場合には、フレームレートを減少させて単位時間当たりに符号化するフレーム数を削減させる。これは、データ量が増加すると映像処理にかかる時間が増加するためである。ここで、可変フレームレートにおいて、連続するフレーム画像の時間間隔をTとした場合に、2枚のフレーム画像間におけるフレームレートは1/Tとなる。
【0005】
このようなフレームレートを変更するための技術は、例えば、特許文献1に開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−112940号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、固定フレームレートで映像を処理する場合に、滑らかな動きを実現するためにフレームレートを増加させると、映像処理に伴う処理量、データ量および電力消費量が増大してしまう。具体的に説明すると、例えば、映像を取得する場合には、単位時間当たりに取得すべきフレーム数が増加することによって、処理量および処理に伴う電力消費量が増大してしまう。また、映像を蓄積する場合には、単位時間あたりに蓄積すべきフレーム数が増加することによって、データ量が増大してしまう。
【0008】
一方、映像の処理に伴う処理量、データ量および電力消費量を低減するために、フレームレートを減少させると、映像の動きの滑らかさが低下してしまい、ぎくしゃくした動きの映像になってしまう。
【0009】
また、可変フレームレートで映像を処理する場合に、映像の処理量やデータ量のみに応じてフレームレートを変化させると、映像の動きの滑らかさが低下してしまい、ぎくしゃくした動きの映像になってしまう。
【0010】
このように、映像の動きの特徴を考慮することなくフレームレートを変化させると、不必要に多くの処理量、データ量および電力消費量を要してしまうことや、ぎくしゃくした動きの映像になってしまうという問題がある。
【0011】
そこで、本発明は、上述した課題を解決するために、映像の動きの滑らかさに応じてフレームレートを決定させる映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明の映像評価装置は、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、を備えることを特徴とする。
【0013】
また、本発明の映像評価方法は、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップと、を備えることを特徴とする。
【0014】
さらに、本発明の映像評価プログラムは、コンピュータを、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として機能させることを特徴とする。
【0015】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および入力映像信号の各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力された入力映像信号の変化量に応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0016】
本発明の映像評価装置において、上記評価値算出手段は、変化量および各フレーム画像間の時間間隔に基づいて、変化量および各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて評価値を算出することが好ましい。このようにすれば、変化量および各フレーム画像間の時間間隔に応じて割り出される時間変化量を考慮した評価値を算出させることができる。
【0017】
本発明の映像評価装置において、上記変化量は、各フレーム画像間における輝度値の差に基づく値であること、または、各フレーム画像間における動きベクトルであることが好ましい。このようにすれば、各フレーム画像間における輝度値の差、または、各フレーム画像間における動きベクトルに基づいて評価値を算出させることができる。
【0018】
本発明の映像評価装置において、上記変化量に基づいて、入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、上記評価値算出手段は、動き特徴値および各フレーム画像間の時間間隔に基づいて、評価値を算出することが好ましい。このようにすれば、入力映像信号の動きの特徴を示す動き特徴値を考慮した評価値を算出させることができる。
【0019】
本発明の映像評価装置において、上記評価値算出手段は、動き特徴値および各フレーム画像間の時間間隔に基づいて、変化量および各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて評価値を算出することが好ましい。このようにすれば、変化量および各フレーム画像間の時間間隔に応じた時間変化量を考慮した評価値を算出させることができる。
【0020】
本発明の映像評価装置において、上記変化量は、各フレーム画像間における動きベクトルであり、上記動き特徴値は、動きベクトルの大きさに基づいて算出される値であることが好ましい。このようにすれば、各フレーム間の動きベクトルの大きさに基づいて評価値を算出させることができる。
【0021】
本発明のフレームレート決定装置は、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、を備えることを特徴とする。
【0022】
また、本発明のフレームレート決定方法は、第1のフレームレートを発生するフレームレート発生ステップと、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出ステップと、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定ステップと、を備えることを特徴とする。
【0023】
さらに、本発明のフレームレート決定プログラムは、コンピュータを、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段として機能させることを特徴とする。
【0024】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。したがって、映像の動きの滑らかさの評価に応じて決定された第2のフレームレートにより入力映像信号を読み込むことができる。すなわち、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0025】
本発明のフレームレート決定装置において、上記フレームレート決定手段は、評価値を、所定の規定値と比較して、評価値が規定値よりも大きい場合には、第2のフレームレートを、第1のフレームレートよりも小さくし、評価値が規定値よりも小さい場合には、第2のフレームレートを、第1のフレームレートよりも大きくすることが好ましい。このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準に収まるように考慮された第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。
【0026】
本発明の映像処理装置は、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段と、を備えることを特徴とする。
【0027】
また、本発明の映像処理方法は、入力映像信号を記憶するバッファステップと、第1のフレームレートを発生するフレームレート発生ステップと、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出ステップと、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定ステップと、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理ステップと、を備えることを特徴とする。
【0028】
さらに、本発明の映像処理プログラムは、コンピュータを、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段として機能させることを特徴とする。
【0029】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。また、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。また、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【0030】
[その他の実施態様]
【0031】
本発明の映像評価装置は、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して出力する評価値算出手段と、を備えることを特徴とする。
【0032】
また、本発明の映像評価方法は、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する動き変位量検出ステップと、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して出力する評価値算出ステップと、を備えることを特徴とする。
【0033】
さらに、本発明の映像評価プログラムは、コンピュータを、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して外部に出力する評価値算出手段として機能させることを特徴とする。
【0034】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0035】
本発明の映像評価装置において、上記動き変位量に基づいて、入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、上記評価値算出手段は、動き特徴値および入力映像信号のフレームレートに基づいて、評価値を算出することが好ましい。このようにすれば、入力映像信号の動きの特徴を示す動き特徴値を考慮した評価値を算出させることができる。
【0036】
本発明の映像評価装置において、上記評価値算出手段は、動き変位量および入力映像信号のフレームレートに基づいて、各フレーム間の動きの度合いを示す動き量を割り出し、当該動き量を用いて評価値を算出することが好ましい。また、上記評価値算出手段は、動き特徴値および入力映像信号のフレームレートに基づいて、各フレーム間の動きの度合いを示す動き量を割り出し、当該動き量を用いて評価値を算出することが好ましい。このようにすれば、各フレーム間の動きの度合いを示す動き量を考慮した評価値を算出させることができる。
【0037】
本発明の映像評価装置において、上記動き変位量は、動きベクトルであり、上記動き特徴値は、動きベクトルの大きさに基づいて算出される値であることが好ましい。このようにすれば、各フレーム間の動きベクトルの大きさに基づいて評価値を算出させることができる。
【0038】
本発明のフレームレート決定装置は、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、を備えることを特徴とする。
【0039】
この発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。したがって、映像の動きの滑らかさの評価に応じて決定された第2のフレームレートにより入力映像信号を読み込むことができる。すなわち、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0040】
本発明のフレームレート決定装置において、上記フレームレート決定手段は、評価値を、所定の規定値と比較して、評価値が規定値よりも大きい場合には、第2のフレームレートを、第1のフレームレートよりも小さくし、評価値が規定値よりも小さい場合には、第2のフレームレートを、第1のフレームレートよりも大きくすることが好ましい。このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準に収まるように考慮された第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。
【0041】
本発明の映像処理装置は、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている入力映像信号を読み込んで映像処理を行う映像処理手段と、を備えることを特徴とする。
【0042】
この発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。また、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。また、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【発明の効果】
【0043】
本発明に係る映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムによれば、映像の動きの滑らかさに応じてフレームレートを決定させることができるため、処理量、データ量および電力消費量を節減しつつ、滑らかな動きの映像を提供することが可能となる。
【図面の簡単な説明】
【0044】
【図1】第1実施形態の変形例における映像評価装置の機能構成を例示す図である。
【図2】変位量を検出する方法を説明するための図である。(a)はフレーム画像P0を示し、(b)はフレーム画像P1を示す図である。
【図3】動きの滑らかさを評価する方法を説明するための図である。(a)はフレーム間動き量を割り出す方法を説明するための図であり、(b)はフレーム間動き量に基づいて評価値を算出する方法を説明するための図である。
【図4】第1実施形態の変形例における映像評価処理の流れを示すフローチャートである。
【図5】各動きベクトルの大きさと方向に基づいて求められる範囲を説明するための図である。
【図6】第1実施形態の変形例における映像評価プログラムのモジュール構成を例示する図である。
【図7】第2実施形態におけるフレームレート決定装置の機能構成を例示す図である。
【図8】(a)は第1のフレームレートを例示し、(b)は入力映像信号のサンプリングレートを例示する図である。
【図9】第2実施形態におけるフレームレート決定処理の流れを示すフローチャートである。
【図10】第2実施形態におけるフレームレート決定プログラムのモジュール構成を例示する図である。
【図11】第3実施形態における映像処理装置の機能構成を例示す図である。
【図12】第3実施形態における映像処理の流れを示すフローチャートである。
【図13】第3実施形態における映像処理プログラムのモジュール構成を例示する図である。
【図14】第1実施形態における映像評価装置の機能構成を例示す図である。
【図15】変化量を検出する方法を説明するための図である。
【図16】動きの滑らかさを評価する方法を説明するための図である。(a)は時間変化量を割り出す方法を説明するための図であり、(b)は時間変化量に基づいて評価値を算出する方法を説明するための図である。
【図17】第1実施形態における映像評価処理の流れを示すフローチャートである。
【図18】第1実施形態における映像評価プログラムのモジュール構成を例示する図である。
【発明を実施するための形態】
【0045】
以下、本発明に係る映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムの各実施形態を図面に基づき説明する。なお、各図において、同一要素には同一符号を付して重複する説明を省略する。
【0046】
[第1実施形態]
【0047】
まず、本発明の第1実施形態について説明する。図14は、第1実施形態における映像評価装置140の機能構成を例示する図である。
【0048】
ここで、映像評価装置140は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像評価装置140は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像評価装置140としては、情報処理可能な装置が広く適用され得る。
【0049】
図14を参照して映像評価装置140の機能構成について説明する。図14に示すように、映像評価装置140は、変化量検出部1401と、評価値算出部1402とを有する。
【0050】
変化量検出部1401は、外部から動画像信号として入力された入力映像信号1403を、フレーム画像に分解する。変化量検出部1401は、分解した複数のフレーム画像に基づいて、入力映像信号の各フレーム画像間における変化の度合いを示す変化量を検出する。変化量検出部1401は、検出した変化量1405を評価値算出部1402に出力する。
【0051】
ここで、図15を参照して、変化量1405を検出する方法について具体的に説明する。変化量検出部1401は、入力映像信号1403から分解された連続する2枚のフレーム画像を順次読み込む。ここで、説明の便宜のため、連続する2枚のフレーム画像を、読み込む順に、フレーム画像P0、フレーム画像P1として説明する。変化量検出部1401は、読み込んだフレーム画像P1とフレーム画像P0においてそれぞれ同一の座標に位置する画素間の輝度値の差を求め、この差の2乗値を、フレーム画像全体に含まれる画素ごとに算出していく。変化量検出部1401は、画素ごとに算出した上記2乗値の平均値を算出することによって、変化量1405を検出する。したがって、算出した平均値が、変化量1405として評価値算出部1402に出力される。
【0052】
評価値算出部1402は、変化量検出部1401から受信した変化量1405と、外部から受信したフレームレート情報1404に基づくフレーム画像間の時間間隔とに基づいて、変化量1405および各フレーム画像間の時間間隔に応じた時間変化量を割り出す。評価値算出部1402は、割り出した時間変化量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。評価値算出部1402は、算出した評価値1406を外部に出力する。ここで、外部としては、例えば、評価値1406に基づいて、入力映像信号1403の映像処理をするための最適なフレームレートを決定する装置等が該当する。このような外部装置に評価値1406を出力することによって、入力映像信号1403による映像の動きの滑らかさに応じたフレームレートを決定させることが可能となる。
【0053】
ここで、図16を参照して、動きの滑らかさを評価する方法について具体的に説明する。まず、図16(a)を参照して、例えば、時刻T1における時間変化量S1を割り出す方法について説明する。評価値算出部1402は、フレームレート情報1404に基づくフレーム画像P0の時刻T0とフレーム画像P1の時刻T1との時間間隔Δt1、および変化量Δc1に基づいて、時間変化量S1を割り出す。なお、時刻T0と時刻T1の時間間隔Δt1は、例えば、時刻T1におけるフレームレート情報1404のフレームレートが、F1fpsである場合には、1/F1秒となる。
【0054】
時間変化量を割り出す方法について、より具体的に説明する。図16(a)に示すように、時刻T1における時間変化量S1は、例えば、時刻T0と時刻T1の時間間隔をΔt1とし、時刻T1における変化量をΔc1とした場合には、Δt1・Δc1(図16(a)に示す斜線部分S1の面積)となる。同様にして、時刻T2における時間変化量S2は、例えば、時刻T1と時刻T2の時間間隔をΔt2とし、時刻T2における変化量をΔc2とした場合には、Δt2・Δc2(図16(a)に示す斜線部分S2の面積)となる。
【0055】
次に、図16(b)を参照して、時間変化量に基づいて評価値を算出する方法ついて説明する。評価値算出部1402は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tn(n:正の整数。以下同様)における動きの滑らかさの評価値を算出する。具体的に説明すると、評価値算出部1402は、各フレーム画像の時刻Tnにおける時間変化量Snを用いて、時刻Tnにおける動きの滑らかさの評価値を算出する。より具体的に説明すると、評価値算出部1402は、例えば、時間変化量Snを用いた次式、α/Sn(αは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出する。また、評価値算出部1402は、例えば、時間変化量Snを用いた次式、a×exp−bSn+c(a,b,cは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出してもよい。評価値算出部1402は、算出した各評価値に基づいて、入力映像のすべての時刻における動きの滑らかさの評価値の平均値を算出する。この平均値が、入力映像の最終的な評価値1406として外部に出力される。
【0056】
次に、図17を参照して第1実施形態の映像評価装置140における映像評価処理の流れについて説明する。
【0057】
まず、変化量検出部1401は、入力映像信号1403から分解された連続する2枚のフレーム画像(フレーム画像P0,フレーム画像P1)を順次読み込む(ステップS1701)。
【0058】
次に、変化量検出部1401は、読み込んだフレーム画像P1とフレーム画像P0においてそれぞれ同一の座標に位置する画素間の輝度値の差を求め、この差の2乗値を、フレーム画像全体に含まれる画素ごとに算出していく。(ステップS1702)。
【0059】
次に、変化量検出部1401は、画素ごとに算出した上記2乗値の平均値を算出する(ステップS1703)。この算出された平均値が、変化量1405として評価値算出部1402に出力される。
【0060】
次に、評価値算出部1402は、変化量検出部1401から受信した変化量1405と、外部から受信したフレームレート情報1404に基づくフレーム画像間の時間間隔とに基づいて、変化量1405および各フレーム画像間の時間間隔に応じた時間変化量を算出する(ステップ1704)。
【0061】
次に、評価値算出部1402は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tnにおける動きの滑らかさの評価値を、時間変化量を用いて算出する(ステップS1705)。
【0062】
次に、評価値算出部1402は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する(ステップS1706)。
【0063】
次に、評価値算出部1402は、算出した平均値を、入力映像信号1403全体に対する動きの滑らかさの評価値1406として外部に出力する(ステップ1707)。
【0064】
以上のように、第1実施形態における映像評価装置140によれば、入力映像信号に含まれる複数のフレーム画像の各フレーム間における輝度値の差の2乗値に基づいて変化量が算出される。また、この変化量および入力映像信号のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力される入力映像信号の輝度値の変化量に基づいて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを外部で決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0065】
なお、上述した変化量検出部1401による変化量検出の単位は、上述したフレーム画像全体には限られない。例えば、ブロック単位、1画素単位、オブジェクト領域単位等であってもよい。
【0066】
また、変化量検出部1401による変化量検出の方法は、上述したフレーム画像に含まれる画素ごとに算出した上記2乗値の平均値を用いることには限られない。例えば、画素ごとに算出した上記2乗値の最大値、中間値または最小値を用いてもよいし、上記2乗値の最大値、中間値または最小値の平方根の値を用いてもよいし、上記2乗値のフレーム画像全体における分散値を用いてもよい。
【0067】
また、変化量検出部1401による変化量検出の方法は、上述した各フレームの同一座標に位置する画素間の輝度値の差の2乗値を用いることには限られない。例えば、各フレームの同一座標に位置する画素間の輝度値の差の値、またはこの差の絶対値を用いてもよい。
【0068】
また、変化量検出部1401による変化量検出の方法には、上述した各値の他にも、例えば、入力映像信号のフレーム画像間における動きベクトル等、フレーム間における入力映像信号の変化を表すあらゆる値を用いることができる。
【0069】
また、評価値算出部1402による時間変化量の割り出し方法は、上述した式(例えば、Δt1・Δc1)を用いた方法には限られず、変化量とフレームレート情報に基づくフレーム画像間の時間間隔とに基づいて割り出すことができればよい。
【0070】
また、評価値算出部1402によって割り出される時間変化量は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位、オブジェクト単位に1つであってもよい。
【0071】
また、評価値算出部1402によって算出される入力映像の最終的な評価値1406は、上述した入力映像の全ての時刻における動きの滑らかさの評価値の平均値には限られない。例えば、入力映像の全ての時刻における動きの滑らかさの評価値の最大値、中間値または最小値であってもよい。
【0072】
また、評価値算出部1402によって算出される入力映像の最終的な評価値1406は、必ずしも入力映像信号に含まれる全てのフレーム画像に対して1つである必要はない。例えば、何枚かのフレーム画像、1枚のフレーム画像、ブロック、ピクセル、オブジェクトごとに1つであってもよい。
【0073】
最後に、図18を参照して、コンピュータを上述した映像評価装置140として機能させるための映像評価プログラム180について説明する。
【0074】
図18に示すように、映像評価プログラム140は、処理を統括するメインモジュールプログラム1801と、変化量検出モジュール1802と、評価値算出モジュール1803とを有する。変化量検出モジュール1802および評価値算出モジュール1803がコンピュータに行わせる機能は、それぞれ上述した変化量検出部1401および評価値算出部1402が有する機能と同様である。
【0075】
なお、映像評価プログラム180は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像評価プログラム180は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0076】
[第1実施形態の変形例]
【0077】
次に、上述した第1実施形態の変形例について説明する。図1は、第1実施形態の変形例における映像評価装置10の機能構成を例示する図である。
【0078】
ここで、映像評価装置10は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像評価装置10は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像評価装置10としては、情報処理可能な装置が広く適用され得る。
【0079】
図1を参照して映像評価装置10の機能構成について説明する。図1に示すように、映像評価装置10は、変位量検出部101と、特徴値算出部102と、評価値算出部103とを有する。
【0080】
変位量検出部101は、外部から動画像信号として入力された入力映像信号104を、フレーム画像に分解する。変位量検出部101は、分解した複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す変位量(動き変位量)を検出する。変位量検出部101は、検出した変位量106を特徴値算出部102に出力する。
【0081】
なお、変位量は、入力映像信号の動きの変位の度合いを示すものには限られず、入力映像信号の各フレーム画像間における変化の度合いを示すものであればよい。
【0082】
ここで、図2を参照して、変位量106を検出する方法について具体的に説明する。変位量検出部101は、入力映像信号104から分解された連続する2枚のフレーム画像を順次読み込む。ここで、説明の便宜のため、連続する2枚のフレーム画像を、読み込む順に、フレーム画像P0(図2(a)参照)、フレーム画像P1(図2(b)参照)として説明する。変位量検出部101は、読み込んだフレーム画像P1を、所定の大きさのブロックに分割する。変位量検出部101は、フレーム画像P1の各ブロックについて、当該各ブロックの画像信号パターンに最も類似する画像信号パターンをフレーム画像P0から探索する。この探索は、例えば、図2に示されるブロックマッチング(相関法)による探索処理を用いることによって実現可能である。変位量検出部101は、探索処理によって最も類似すると判断された両画像の信号パターンに基づいて、両画像の信号パターン間における空間的な変位量である動きベクトルV(MVx,MVy)を検出する。この動きベクトルVが、変位量106として特徴値算出部102に出力される。
【0083】
特徴値算出部102は、変位量検出部101から受信した変位量106に基づいて、入力映像信号の動きの特徴を示す動き特徴値107を算出する。特徴値算出部102は、算出した動き特徴値107を評価値算出部103に出力する。
【0084】
ここで、動き特徴値を算出する方法について具体的に説明する。特徴値算出部102は、変位量106として受信されたフレーム画像P1の各ブロックの動きベクトルを用いて、フレーム画像P1の各ブロックの動きベクトルの大きさを求める。この動きベクトルの大きさは、例えば、フレーム画像P1上の任意のブロックの動きベクトルのx成分、y成分をそれぞれMVx、MVyとした場合には、(MVx2+MVy2)1/2により求められる。特徴値算出部102は、各動きベクトルの大きさに基づいて、フレーム画像P1の特徴となる値を算出する。この算出された値が、動き特徴値107として評価値算出部103に出力される。特徴値算出部102によって算出される値(動き特徴値107)としては、例えば、フレーム画像に含まれるブロックごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値が該当する。
【0085】
評価値算出部103は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における動きの度合いを示すフレーム間動き量を割り出す。評価値算出部103は、割り出したフレーム間動き量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。評価値算出部103は、算出した評価値108を外部に出力する。ここで、外部としては、例えば、評価値108に基づいて、入力映像信号104の映像処理をするための最適なフレームレートを決定する装置等が該当する。このような外部装置に評価値108を出力することによって、入力映像信号104による映像の動きの滑らかさに応じたフレームレートを決定さることが可能となる。
【0086】
なお、評価値を算出する際に、必ずしもフレーム間動き量に基づいて算出する必要はない。例えば、変位量106および各フレーム画像間の時間間隔に応じた時間変化量に基づいて、評価値を算出してもよい。この時間変化量は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、割り出すことができる。
【0087】
ここで、図3を参照して、動きの滑らかさを評価する方法について具体的に説明する。まず、図3(a)を参照して、例えば、時刻T1におけるフレーム間動き量S1を割り出す方法について説明する。評価値算出部103は、フレームレート情報105に基づくフレーム画像P0の時刻T0とフレーム画像P1の時刻T1との時間間隔Δt1、およびフレーム画像P1の動き特徴値Δd1に基づいて、フレーム間動き量S1を割り出す。なお、時刻T0と時刻T1の時間間隔Δt1は、例えば、時刻T1におけるフレームレート情報105のフレームレートが、F1fpsである場合には、1/F1秒となる。
【0088】
フレーム間動き量を割り出す方法について、より具体的に説明する。図3(a)に示すように、時刻T1におけるフレーム間動き量S1は、例えば、時刻T0と時刻T1の時間間隔をΔt1とし、時刻T1における動き特徴値をΔd1とした場合には、Δt1・Δd1/2(図3(a)に示す斜線部分S1の面積)となる。同様にして、時刻T2におけるフレーム間動き量S2は、例えば、時刻T1と時刻T2の時間間隔をΔt2とし、時刻T2における動き特徴値をΔd2とした場合には、Δt2・Δd2/2(図3(a)に示す斜線部分S2の面積)となる。
【0089】
次に、図3(b)を参照して、フレーム間動き量に基づいて評価値を算出する方法ついて説明する。評価値算出部103は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tn(n:正の整数。以下同様)における動きの滑らかさの評価値を算出する。具体的に説明すると、評価値算出部103は、各フレーム画像の時刻Tnにおけるフレーム間動き量Snを用いて、時刻Tnにおける動きの滑らかさの評価値を算出する。より具体的に説明すると、評価値算出部103は、例えば、フレーム間動き量Snを用いた次式、α/Sn(αは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出する。また、評価値算出部103は、例えば、フレーム間動き量Snを用いた次式、a×exp−bSn+c(a,b,cは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出してもよい。評価値算出部103は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する。この平均値が、入力映像の最終的な評価値108として外部に出力される。
【0090】
次に、図4を参照して第1実施形態の変形例の映像評価装置10における映像評価処理の流れについて説明する。
【0091】
まず、変位量検出部101は、入力映像信号104から分解された連続する2枚のフレーム画像(フレーム画像P0,フレーム画像P1)を順次読み込む(ステップS401)。
【0092】
次に、変位量検出部101は、読み込んだフレーム画像P1を、所定の大きさのブロックに分割する(ステップS402)。
【0093】
次に、変位量検出部101は、フレーム画像P1の各ブロックについて、当該各ブロックの画像信号パターンに最も類似する画像信号パターンをフレーム画像P0から探索する(ステップS403)。
【0094】
次に、変位量検出部101は、探索によって最も類似すると判断された両画像の信号パターンに基づいて、当該画像信号パターン間における空間的な変位量である動きベクトル(MVx,MVy)を検出する(ステップS404)。この検出された動きベクトルが、変位量106として特徴値算出部102に出力される。
【0095】
次に、特徴値算出部102は、変位量106に含まれるフレーム画像P1の各ブロックの動きベクトルを用いて、フレーム画像P1の各ブロックの動きベクトルの大きさを求める(ステップS405)。
【0096】
次に、特徴値算出部102は、各動きベクトルの大きさに基づいて、フレーム画像P1の特徴となる値を算出する(ステップS406)。この算出された値が、動き特徴値107として評価値算出部103に出力される。
【0097】
次に、評価値算出部103は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における動き量であるフレーム間動き量を算出する(ステップ407)。
【0098】
次に、評価値算出部103は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tnにおける動きの滑らかさの評価値を、フレーム間動き量を用いて算出する(ステップS408)。
【0099】
次に、評価値算出部103は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する(ステップS409)。
【0100】
次に、評価値算出部103は、算出した平均値を、入力映像信号104全体に対する動きの滑らかさの評価値108として外部に出力する(ステップ410)。
【0101】
以上のように、第1実施形態の変形例における映像評価装置10によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。また、この動き特徴値および入力映像信号のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力される入力映像信号の動きベクトルの大きさに応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを外部で決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0102】
なお、上述した変位量検出部101による画像信号パターンの探索単位は、上述したブロック単位には限られない。例えば、フレーム単位、1画素単位、オブジェクト領域単位等であってもよい。また、変位量検出部101による探索処理の方法は、上述したブロックマッチングには限られない。例えば、濃度勾配法等であってもよい。
【0103】
また、変位量検出部101は、上述した入力映像信号104として、映像の動きベクトルを含んだ入力映像信号104を読み込むこととしてもよい。この場合に、変位量検出部101は、外部から受信した入力映像信号104から動きベクトルを検出し、この検出した動きベクトルを変位量106として特徴値算出部102に出力する。
【0104】
また、特徴値算出部102によって算出される動き特徴値107は、上述したブロックごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値には限られない。例えば、フレーム画像ごとに求められる1つの動きベクトルの大きさであってもよいし、フレーム画像内の1画素ごとまたはオブジェクト領域ごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値であってもよい。
【0105】
また、特徴値算出部102によって算出される動き特徴値107は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位またはオブジェクト単位に1つであってもよい。また、動き特徴値107は、ブロック単位、ピクセル単位またはオブジェクト単位に求められる動きベクトルの分布に対して、図5に示される原点を中心にした複数の円と原点から放射状に伸びる複数の線とで区切られる範囲R(例えば、R1,R2,R3)単位に1つであってもよい。
【0106】
ここで、図5を参照して、動き特徴値107を、上記範囲R単位に算出する方法について、1つのフレーム画像を9つのブロックに分割する場合を例にして具体的に説明する。まず、分割された9つのブロック単位に1つの動きベクトルを求める。この求められた各動きベクトルを、動きベクトルV1〜V9とする。次に、各動きベクトルV1〜V9を図5に示すグラフ上に投影する。例えば、動きベクトルV1〜V4が図5に示す範囲R1に含まれ、動きベクトルV5,V6が図5に示す範囲R2に含まれ、動きベクトルV7〜V9が図5に示す範囲R3に含まれるとする。この場合には、例えば、動きベクトルV1〜V4の平均値として算出される動きベクトルVR1が、範囲R1の動き特徴値107として求められ、動きベクトルV5,V6の平均値として算出される動きベクトルVR2が、範囲R2の動き特徴値107として求められ、動きベクトルV7〜V9の平均値として算出される動きベクトルVR3が、範囲R3の動き特徴値107として求められることとなる。なお、動きベクトルを求める方法は、例示したブロック単位に限られず、例えば、ピクセル単位またはオブジェクト単位であってもよい。
【0107】
また、評価値算出部103によるフレーム間動き量の割り出し方法は、上述した式(例えば、Δt1・Δd1/2)を用いた方法には限られない。例えば、変位量106である動きベクトル(MVx,MVy)とフレームレート情報105に基づくフレーム画像間の時間間隔とを用いて表される次式、β・MVx・Δt1/2+γ・MVy・Δt1/2(β、γは定数)により割り出してもよい。
【0108】
また、評価値算出部103によって割り出されるフレーム間動き量は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位、オブジェクト単位または上述した範囲R(図5参照)単位に1つであってもよい。
【0109】
また、評価値算出部103によって算出される各フレーム画像の時刻Tnにおける動きの滑らかさの評価値は、上述したα/Sn(αは定数)またはa×exp−bSn+c(a,b,cは定数)により算出することには限られない。例えば、変位量106である動きベクトル(MVx,MVy)とフレームレート情報105に基づくフレーム画像間の時間間隔とを用いた関数により算出してもよい。
【0110】
また、評価値算出部103によって算出される入力映像の最終的な評価値108は、上述した入力映像の全ての時刻における動きの滑らかさの評価値の平均値には限られない。例えば、入力映像の全ての時刻における動きの滑らかさの評価値の最大値、中間値または最小値であってもよい。
【0111】
また、評価値算出部103によって算出される入力映像の最終的な評価値108は、必ずしも入力映像信号に含まれる全てのフレーム画像に対して1つである必要はない。例えば、何枚かのフレーム画像、1枚のフレーム画像、ブロック、ピクセル、オブジェクトまたは上述した範囲R(図5参照)ごとに1つであってもよい。
【0112】
最後に、図6を参照して、コンピュータを上述した映像評価装置10として機能させるための映像評価プログラム50について説明する。
【0113】
図6に示すように、映像評価プログラム50は、処理を統括するメインモジュールプログラム501と、変位量検出モジュール502と、特徴値算出モジュール503と、評価値算出モジュール504とを有する。変位量検出モジュール502、特徴値算出モジュール503および評価値算出モジュール504がコンピュータに行わせる機能は、それぞれ上述した変位量検出部101、特徴値算出部102および評価値算出部103が有する機能と同様である。
【0114】
なお、映像評価プログラム50は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像評価プログラム50は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0115】
また、第1実施形態の変形例における映像評価装置10は、変位量検出部101および特徴値算出部102をまとめて、あらたに変化量検出部とすることによって、第1実施形態における映像評価装置140が有する機能構成と同一の機能構成にすることができる。
【0116】
[第2実施形態]
【0117】
次に、本発明の第2実施形態について説明する。図7は、第2実施形態におけるフレームレート決定装置70の機能構成を例示する図である。
【0118】
ここで、フレームレート決定装置70は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、フレームレート決定装置70は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、フレームレート決定装置70としては、情報処理可能な装置が広く適用され得る。
【0119】
図7を参照してフレームレート決定装置70の機能構成について説明する。図7に示すように、フレームレート決定装置70は、フレームレート発生部701と、映像評価部702と、フレームレート決定部703とを有する。
【0120】
フレームレート発生部701は、第1のフレームレート705を発生させる。フレームレート発生部701は、発生させた第1のフレームレート705を、映像評価部702およびフレームレート決定部703に出力する。
【0121】
映像評価部702は、上述した第1実施形態に記載された映像評価装置140が有する機能、または第1実施形態の変形例に記載された映像評価装置10が有する機能と同様の機能を有する。すなわち、映像評価部702は、上述した変化量検出部1401および評価値算出部1402が有する機能、または変位量検出部101、特徴値算出部102および評価値算出部103が有する機能と同様の機能を有する。
【0122】
映像評価部702は、外部から動画像信号として入力された入力映像信号704から、第1のフレームレート705に応じた時間間隔でフレーム画像を読み込み、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する。映像評価部702は、算出した動きの滑らかさの評価値706を、フレームレート決定部703に出力する。
【0123】
ここで、第1のフレームレート705は、入力映像信号704のサンプリングレートと異なっていても特に問題はない。例えば、図8(a)に示される第1のフレームレート705は、1/15秒であるのに対し、図8(b)に示される入力映像信号704のサンプリングレートは、1/30秒である。
【0124】
フレームレート決定部703は、映像評価部702から受信した評価値706と、フレームレート発生部701から受信した第1のフレームレート705とに基づいて、第2のフレームレート707を決定する。フレームレート決定部703は、決定した第2のフレームレート707を、入力映像信号704の処理を行うためのフレームレートとして、フレームレート決定装置70に出力する。
【0125】
具体的に説明すると、フレームレート決定部703は、例えば、評価値706が所定の規定値よりも大きい場合には、第2のフレームレート707を、第1のフレームレート705よりも小さくする。また、フレームレート決定部703は、例えば、評価値706が所定の規定値よりも小さい場合には、第2のフレームレート707を、第1のフレームレート705よりも大きくする。また、フレームレート決定装置70は、例えば、評価値706が所定の規定値と一致する場合には、第2のフレームレート707を、第1のフレームレート705と同一のフレームレートにする。
【0126】
このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準の範囲内に収まるような第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。なお、上述した所定の規定値は、予め設定されたものであってもよいし、外部から与えられたものであってもよい。
【0127】
次に、図9を参照して第2実施形態のフレームレート決定装置70におけるフレームレート決定処理の流れについて説明する。
【0128】
まず、フレームレート発生部701は、第1のフレームレート705を発生させる(ステップS901)。
【0129】
次に、映像評価部702は、入力映像信号704から第1のフレームレート705に応じた時間間隔でフレーム画像を読み込む(ステップ902)。
【0130】
次に、映像評価部702は、各フレーム画像に基づいて、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する(ステップ903)。すなわち、各フレーム画像に基づいて、上述した第1実施形態において説明したステップS1701〜S1707までの映像評価処理(図17参照)、または上述した第1実施形態の変形例において説明したステップS401〜S410までの映像評価処理(図4参照)を行うことによって、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する。
【0131】
次に、フレームレート決定部703は、映像評価部702から受信した評価値706と、フレームレート発生部701から受信した第1のフレームレート705とに基づいて、第2のフレームレート707を決定する(ステップ904)。
【0132】
次に、フレームレート決定部703は、第2のフレームレート707を、入力映像信号704の処理を行うためのフレームレートとして外部に出力する(ステップ905)。
【0133】
以上のように、第2実施形態におけるフレームレート決定装置70によれば、入力映像信号の変化量および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。
【0134】
また、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。そして、この動き特徴値および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの特徴量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。
【0135】
したがって、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させることができるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0136】
最後に、図10を参照して、コンピュータを上述したフレームレート決定装置70として機能させるためのフレームレート決定プログラム100について説明する。
【0137】
図10に示すように、フレームレート決定プログラム100は、処理を統括するメインモジュールプログラム1001と、フレームレート発生モジュール1002と、映像評価モジュール1003と、フレームレート決定モジュール1004とを有する。フレームレート発生モジュール1002、映像評価モジュール1003およびフレームレート決定モジュール1004がコンピュータに行わせる機能は、それぞれ上述したフレームレート発生部701、映像評価部702およびフレームレート決定部703が有する機能と同様である。
【0138】
なお、フレームレート決定プログラム100は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、フレームレート決定プログラム100は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0139】
[第3実施形態]
【0140】
次に、本発明の第3実施形態について説明する。図11は、第3実施形態における映像処理装置110の機能構成を例示する図である。
【0141】
ここで、映像処理装置110は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像処理装置110は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像処理装置110としては、情報処理可能な装置が広く適用され得る。
【0142】
図11を参照して映像処理装置110の機能構成について説明する。図11に示すように、映像処理装置110は、バッファ部1101と、フレームレート決定部1102と、映像処理部1103とを有する。
【0143】
バッファ部1101は、外部から動画像信号として入力された入力映像信号1104を、メモリ上のバッファに一時的に保存する。バッファ部1101は、入力映像信号1104を、フレームレート決定部1102に出力する。なお、バッファに一時的に保存された入力映像信号1104は、後述する映像処理部1103によって、処理映像信号1106として読み込まれる。
【0144】
フレームレート決定部1102は、上述した第2実施形態に記載されたフレームレート決定装置70が有する機能と同様の機能を有する。すなわち、フレームレート決定部1102は、上述したフレームレート発生部701、映像評価部702およびフレームレート決定部703が有する機能と同様の機能を有する。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、上述した第2のフレームレート707に該当する映像処理フレームレート1105を算出する。フレームレート決定部1102は、算出した映像処理フレームレート1105を、映像処理部1103に出力する。
【0145】
映像処理部1103は、映像処理フレームレート1105に応じた時間間隔でバッファ部1101から処理映像信号1106を読み込み、この処理映像信号1106に基づいて映像処理を行う。具体的に説明すると、映像処理部1103は、バッファ部1101に保存された処理映像信号1106に含まれるフレーム画像のうち、フレームレート決定部1102から受信した映像処理フレームレート1105に対応する時刻のフレーム画像のみを読み込んで、映像処理を行う。映像処理部1103は、映像処理により生成された映像を外部に出力する。なお、映像処理部1103によって行われる映像処理は、例えば、映像の取得、蓄積、伝送、符号化、復号化が該当する。
【0146】
次に、図12を参照して第3実施形態の映像処理装置110における映像処理の流れについて説明する。
【0147】
まず、バッファ部1101は、外部から動画像信号として入力された入力映像信号1104を、フレームレート決定部1102に出力するとともに、当該入力映像信号1104を、メモリ上のバッファに一時的に保存する(ステップS1201)。
【0148】
次に、フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像処理フレームレート1105を算出する(ステップ1202)。すなわち、入力映像信号1104を用いて、上述した第2実施形態において説明したステップS901〜S905までのフレームレート決定処理(図9参照)を行うことによって、第2のフレームレートである映像処理フレームレート1105を算出する。
【0149】
次に、映像処理部1103は、映像処理フレームレート1105に応じた時間間隔でバッファ部1101から処理映像信号1106を読み込み、この処理映像信号1106に基づいて映像処理を行う(ステップ1203)
【0150】
次に、映像処理部1103は、映像処理により生成された映像を外部に出力する(ステップ1204)。
【0151】
以上のように、第3実施形態における映像処理装置110によれば、入力映像信号の変化量および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。そして、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。そして、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。
【0152】
また、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。そして、この動き特徴値および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。さらに、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの特徴値に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。そして、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。
【0153】
したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【0154】
なお、上述した映像処理装置110は、例えば、映像取得装置(例えばカメラ)、映像伝送装置、映像符号化装置、または映像復号装置に適用可能である。
【0155】
まず、映像処理装置110を、映像取得装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像取得装置が映像を取得する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により取得する。
【0156】
また、映像処理装置110を、映像記憶装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像記憶装置が映像を蓄積する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により蓄積する。
【0157】
また、映像処理装置110を、映像伝送装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像伝送装置が映像を伝送する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により伝送する。
【0158】
また、映像処理装置110を、映像符号化装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像符号化装置が映像を符号化する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により符号化する。
【0159】
また、映像処理装置110を、映像復号装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像復号装置が映像を復号化する際に最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により復号する。
【0160】
最後に、図13を参照して、コンピュータを上述した映像処理装置110として機能させるための映像処理プログラム130について説明する。
【0161】
図13に示すように、映像処理プログラム130は、処理を統括するメインモジュールプログラム1301と、バッファモジュール1302と、フレームレート決定モジュール1303と、映像処理モジュール1304とを有する。バッファモジュール1302、フレームレート決定モジュール1303および映像処理モジュール1304がコンピュータに行わせる機能は、それぞれ上述したバッファ部1101、フレームレート決定部1102および映像処理部1103が有する機能と同様である。
【0162】
なお、映像処理プログラム130は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像処理プログラム130は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0163】
(本発明の多面性について)
なお、本発明の技術的思想は、以下のように多面的に表される。
(1) 入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、
を備えることを特徴とする映像評価装置。
(2) 前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項1記載の映像評価装置。
(3) 前記変化量は、前記各フレーム画像間における輝度値の差に基づく値であることを特徴とする請求項1または2に記載の映像評価装置。
(4) 前記変化量は、前記各フレーム画像間における動きベクトルであることを特徴とする請求項1または2に記載の映像評価装置。
(5) 前記変化量に基づいて、前記入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記評価値を算出することを特徴とする請求項1記載の映像評価装置。
(6) 前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項5記載の映像評価装置。
(7) 前記変化量は、前記各フレーム画像間における動きベクトルであり、
前記動き特徴値は、前記動きベクトルの大きさに基づいて算出される値であることを特徴とする請求項5または6に記載の映像評価装置。
(8) 第1のフレームレートを発生するフレームレート発生手段と、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、
を備えることを特徴とするフレームレート決定装置。
(9) 前記フレームレート決定手段は、前記評価値を、所定の規定値と比較して、前記評価値が前記規定値よりも大きい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも小さくし、前記評価値が前記規定値よりも小さい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも大きくすることを特徴とする請求項8記載のフレームレート決定装置。
(10) 入力映像信号を記憶するバッファ手段と、
第1のフレームレートを発生するフレームレート発生手段と、
前記入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、
前記第2のフレームレートを用いて、前記バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段と、
を備えることを特徴とする映像処理装置。
(11) 入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップと、
を備えることを特徴とする映像評価方法。
(12) コンピュータを、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として
機能させるための映像評価プログラム。
【符号の説明】
【0164】
10・・・映像評価装置、101・・・変位量検出部、102・・・特徴値算出部、103・・・評価値算出部、104・・・入力映像信号、105・・・フレームレート情報、106・・・変位量、107・・・動き特徴値、108・・・評価値、50・・・映像評価プログラム、502・・・変位量検出モジュール、503・・・特徴値算出モジュール、504・・・評価値算出モジュール、70・・・フレームレート決定装置、701・・・フレームレート発生部、702・・・映像評価部、703・・・フレームレート決定部、704・・・入力映像信号、705・・・第1のフレームレート、706・・・評価値、707・・・第2のフレームレート、100・・・フレームレート決定プログラム、1002・・・フレームレート発生モジュール、1003・・・映像評価モジュール、1004・・・フレームレート決定モジュール、110・・・映像処理装置、1101・・・バッファ部、1102・・・フレームレート決定部、1103・・・映像処理部、1104・・・入力映像信号、1105・・・映像処理フレームレート、1106・・・処理映像信号、1107・・・映像、130・・・映像処理プログラム、1302・・・バッファモジュール、1303・・・フレームレート決定モジュール、1304・・・映像処理モジュール、140・・・映像評価装置、1401・・・変化量検出部、1402・・・評価値算出部、1403・・・入力映像信号、1404・・・フレームレート情報、1405・・・変化量、1406・・・評価値、180・・・映像評価プログラム、1802・・・変化量検出モジュール、1803・・・評価値算出モジュール。
【技術分野】
【0001】
本発明は、映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、および映像評価プログラムに関する。
【背景技術】
【0002】
映像の取得、蓄積、伝送、表示、符号化、復号化等を含む映像処理は、一般に、固定フレームレートによって処理が行われている。ここで、フレームレートとは、1秒あたりに処理されるフレーム数のことをいう。また、固定フレームレートとは、1秒あたりに処理されるフレーム数を一定にしたフレームレートのことをいう。固定フレームレートの具体例としては、例えば、米国や日本で採用されている全国テレビジョン標準委員会(National Television Standards Committee:NTSC)規格では、29.97fps(frame per second)に定義されている。また、ヨーロッパで採用されている全国テレビション標準委員会による位相交番ライン(Phase Alternating Line:PAL)規格では、25fpsに定義されている。さらに、15fpsや24fpsの固定フレームレートが用いられる場合もある。なお、「映像」とは個々の静止画像である「フレーム画像」を連続させることにより構成されるものである。
【0003】
固定フレームレートで映像処理を行う場合に、フレームレートを増加させると、連続するフレームの時間間隔が短くなる。これによって、より滑らかな動きの映像を処理することが可能となる。例えば、30fpsのフレームレートで処理される映像は、15fpsのフレームレートで処理される映像よりも、単位時間当たりのフレーム数が多いために映像の動きがより細かく表現され、全体としてより滑らかな動きで表現される。
【0004】
また、上述した固定フレームレートによる映像処理の他に、可変フレームレートによる映像処理も行われている。この可変フレームレートによる映像処理は、映像の処理量やデータ量に応じてフレームレートを可変にするものである。例えば、映像を符号化する場合に、符号化するデータ量が多いと判断した場合には、フレームレートを減少させて単位時間当たりに符号化するフレーム数を削減させる。これは、データ量が増加すると映像処理にかかる時間が増加するためである。ここで、可変フレームレートにおいて、連続するフレーム画像の時間間隔をTとした場合に、2枚のフレーム画像間におけるフレームレートは1/Tとなる。
【0005】
このようなフレームレートを変更するための技術は、例えば、特許文献1に開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−112940号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、固定フレームレートで映像を処理する場合に、滑らかな動きを実現するためにフレームレートを増加させると、映像処理に伴う処理量、データ量および電力消費量が増大してしまう。具体的に説明すると、例えば、映像を取得する場合には、単位時間当たりに取得すべきフレーム数が増加することによって、処理量および処理に伴う電力消費量が増大してしまう。また、映像を蓄積する場合には、単位時間あたりに蓄積すべきフレーム数が増加することによって、データ量が増大してしまう。
【0008】
一方、映像の処理に伴う処理量、データ量および電力消費量を低減するために、フレームレートを減少させると、映像の動きの滑らかさが低下してしまい、ぎくしゃくした動きの映像になってしまう。
【0009】
また、可変フレームレートで映像を処理する場合に、映像の処理量やデータ量のみに応じてフレームレートを変化させると、映像の動きの滑らかさが低下してしまい、ぎくしゃくした動きの映像になってしまう。
【0010】
このように、映像の動きの特徴を考慮することなくフレームレートを変化させると、不必要に多くの処理量、データ量および電力消費量を要してしまうことや、ぎくしゃくした動きの映像になってしまうという問題がある。
【0011】
そこで、本発明は、上述した課題を解決するために、映像の動きの滑らかさに応じてフレームレートを決定させる映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明の映像評価装置は、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、を備えることを特徴とする。
【0013】
また、本発明の映像評価方法は、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップと、を備えることを特徴とする。
【0014】
さらに、本発明の映像評価プログラムは、コンピュータを、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として機能させることを特徴とする。
【0015】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および入力映像信号の各フレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力された入力映像信号の変化量に応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0016】
本発明の映像評価装置において、上記評価値算出手段は、変化量および各フレーム画像間の時間間隔に基づいて、変化量および各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて評価値を算出することが好ましい。このようにすれば、変化量および各フレーム画像間の時間間隔に応じて割り出される時間変化量を考慮した評価値を算出させることができる。
【0017】
本発明の映像評価装置において、上記変化量は、各フレーム画像間における輝度値の差に基づく値であること、または、各フレーム画像間における動きベクトルであることが好ましい。このようにすれば、各フレーム画像間における輝度値の差、または、各フレーム画像間における動きベクトルに基づいて評価値を算出させることができる。
【0018】
本発明の映像評価装置において、上記変化量に基づいて、入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、上記評価値算出手段は、動き特徴値および各フレーム画像間の時間間隔に基づいて、評価値を算出することが好ましい。このようにすれば、入力映像信号の動きの特徴を示す動き特徴値を考慮した評価値を算出させることができる。
【0019】
本発明の映像評価装置において、上記評価値算出手段は、動き特徴値および各フレーム画像間の時間間隔に基づいて、変化量および各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて評価値を算出することが好ましい。このようにすれば、変化量および各フレーム画像間の時間間隔に応じた時間変化量を考慮した評価値を算出させることができる。
【0020】
本発明の映像評価装置において、上記変化量は、各フレーム画像間における動きベクトルであり、上記動き特徴値は、動きベクトルの大きさに基づいて算出される値であることが好ましい。このようにすれば、各フレーム間の動きベクトルの大きさに基づいて評価値を算出させることができる。
【0021】
本発明のフレームレート決定装置は、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、を備えることを特徴とする。
【0022】
また、本発明のフレームレート決定方法は、第1のフレームレートを発生するフレームレート発生ステップと、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出ステップと、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定ステップと、を備えることを特徴とする。
【0023】
さらに、本発明のフレームレート決定プログラムは、コンピュータを、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段として機能させることを特徴とする。
【0024】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。したがって、映像の動きの滑らかさの評価に応じて決定された第2のフレームレートにより入力映像信号を読み込むことができる。すなわち、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0025】
本発明のフレームレート決定装置において、上記フレームレート決定手段は、評価値を、所定の規定値と比較して、評価値が規定値よりも大きい場合には、第2のフレームレートを、第1のフレームレートよりも小さくし、評価値が規定値よりも小さい場合には、第2のフレームレートを、第1のフレームレートよりも大きくすることが好ましい。このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準に収まるように考慮された第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。
【0026】
本発明の映像処理装置は、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段と、を備えることを特徴とする。
【0027】
また、本発明の映像処理方法は、入力映像信号を記憶するバッファステップと、第1のフレームレートを発生するフレームレート発生ステップと、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出ステップと、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定ステップと、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理ステップと、を備えることを特徴とする。
【0028】
さらに、本発明の映像処理プログラムは、コンピュータを、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段として機能させることを特徴とする。
【0029】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて変化量が検出され、この変化量および第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。また、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。また、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【0030】
[その他の実施態様]
【0031】
本発明の映像評価装置は、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して出力する評価値算出手段と、を備えることを特徴とする。
【0032】
また、本発明の映像評価方法は、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する動き変位量検出ステップと、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して出力する評価値算出ステップと、を備えることを特徴とする。
【0033】
さらに、本発明の映像評価プログラムは、コンピュータを、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出して外部に出力する評価値算出手段として機能させることを特徴とする。
【0034】
これらの発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および入力映像信号のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0035】
本発明の映像評価装置において、上記動き変位量に基づいて、入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、上記評価値算出手段は、動き特徴値および入力映像信号のフレームレートに基づいて、評価値を算出することが好ましい。このようにすれば、入力映像信号の動きの特徴を示す動き特徴値を考慮した評価値を算出させることができる。
【0036】
本発明の映像評価装置において、上記評価値算出手段は、動き変位量および入力映像信号のフレームレートに基づいて、各フレーム間の動きの度合いを示す動き量を割り出し、当該動き量を用いて評価値を算出することが好ましい。また、上記評価値算出手段は、動き特徴値および入力映像信号のフレームレートに基づいて、各フレーム間の動きの度合いを示す動き量を割り出し、当該動き量を用いて評価値を算出することが好ましい。このようにすれば、各フレーム間の動きの度合いを示す動き量を考慮した評価値を算出させることができる。
【0037】
本発明の映像評価装置において、上記動き変位量は、動きベクトルであり、上記動き特徴値は、動きベクトルの大きさに基づいて算出される値であることが好ましい。このようにすれば、各フレーム間の動きベクトルの大きさに基づいて評価値を算出させることができる。
【0038】
本発明のフレームレート決定装置は、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、を備えることを特徴とする。
【0039】
この発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。したがって、映像の動きの滑らかさの評価に応じて決定された第2のフレームレートにより入力映像信号を読み込むことができる。すなわち、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0040】
本発明のフレームレート決定装置において、上記フレームレート決定手段は、評価値を、所定の規定値と比較して、評価値が規定値よりも大きい場合には、第2のフレームレートを、第1のフレームレートよりも小さくし、評価値が規定値よりも小さい場合には、第2のフレームレートを、第1のフレームレートよりも大きくすることが好ましい。このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準に収まるように考慮された第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。
【0041】
本発明の映像処理装置は、入力映像信号を記憶するバッファ手段と、第1のフレームレートを発生するフレームレート発生手段と、入力映像信号に含まれる複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す動き変位量を検出する変位量検出手段と、動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値を算出する評価値算出手段と、評価値を用いて、入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、第2のフレームレートを用いて、バッファ手段により記憶されている入力映像信号を読み込んで映像処理を行う映像処理手段と、を備えることを特徴とする。
【0042】
この発明によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動き変位量が検出され、この動き変位量および第1のフレームレートに基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。また、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの変位量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。また、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【発明の効果】
【0043】
本発明に係る映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムによれば、映像の動きの滑らかさに応じてフレームレートを決定させることができるため、処理量、データ量および電力消費量を節減しつつ、滑らかな動きの映像を提供することが可能となる。
【図面の簡単な説明】
【0044】
【図1】第1実施形態の変形例における映像評価装置の機能構成を例示す図である。
【図2】変位量を検出する方法を説明するための図である。(a)はフレーム画像P0を示し、(b)はフレーム画像P1を示す図である。
【図3】動きの滑らかさを評価する方法を説明するための図である。(a)はフレーム間動き量を割り出す方法を説明するための図であり、(b)はフレーム間動き量に基づいて評価値を算出する方法を説明するための図である。
【図4】第1実施形態の変形例における映像評価処理の流れを示すフローチャートである。
【図5】各動きベクトルの大きさと方向に基づいて求められる範囲を説明するための図である。
【図6】第1実施形態の変形例における映像評価プログラムのモジュール構成を例示する図である。
【図7】第2実施形態におけるフレームレート決定装置の機能構成を例示す図である。
【図8】(a)は第1のフレームレートを例示し、(b)は入力映像信号のサンプリングレートを例示する図である。
【図9】第2実施形態におけるフレームレート決定処理の流れを示すフローチャートである。
【図10】第2実施形態におけるフレームレート決定プログラムのモジュール構成を例示する図である。
【図11】第3実施形態における映像処理装置の機能構成を例示す図である。
【図12】第3実施形態における映像処理の流れを示すフローチャートである。
【図13】第3実施形態における映像処理プログラムのモジュール構成を例示する図である。
【図14】第1実施形態における映像評価装置の機能構成を例示す図である。
【図15】変化量を検出する方法を説明するための図である。
【図16】動きの滑らかさを評価する方法を説明するための図である。(a)は時間変化量を割り出す方法を説明するための図であり、(b)は時間変化量に基づいて評価値を算出する方法を説明するための図である。
【図17】第1実施形態における映像評価処理の流れを示すフローチャートである。
【図18】第1実施形態における映像評価プログラムのモジュール構成を例示する図である。
【発明を実施するための形態】
【0045】
以下、本発明に係る映像評価装置、フレームレート決定装置、映像処理装置、映像評価方法、フレームレート決定方法、映像処理方法、映像評価プログラム、フレームレート決定プログラム、および映像処理プログラムの各実施形態を図面に基づき説明する。なお、各図において、同一要素には同一符号を付して重複する説明を省略する。
【0046】
[第1実施形態]
【0047】
まず、本発明の第1実施形態について説明する。図14は、第1実施形態における映像評価装置140の機能構成を例示する図である。
【0048】
ここで、映像評価装置140は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像評価装置140は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像評価装置140としては、情報処理可能な装置が広く適用され得る。
【0049】
図14を参照して映像評価装置140の機能構成について説明する。図14に示すように、映像評価装置140は、変化量検出部1401と、評価値算出部1402とを有する。
【0050】
変化量検出部1401は、外部から動画像信号として入力された入力映像信号1403を、フレーム画像に分解する。変化量検出部1401は、分解した複数のフレーム画像に基づいて、入力映像信号の各フレーム画像間における変化の度合いを示す変化量を検出する。変化量検出部1401は、検出した変化量1405を評価値算出部1402に出力する。
【0051】
ここで、図15を参照して、変化量1405を検出する方法について具体的に説明する。変化量検出部1401は、入力映像信号1403から分解された連続する2枚のフレーム画像を順次読み込む。ここで、説明の便宜のため、連続する2枚のフレーム画像を、読み込む順に、フレーム画像P0、フレーム画像P1として説明する。変化量検出部1401は、読み込んだフレーム画像P1とフレーム画像P0においてそれぞれ同一の座標に位置する画素間の輝度値の差を求め、この差の2乗値を、フレーム画像全体に含まれる画素ごとに算出していく。変化量検出部1401は、画素ごとに算出した上記2乗値の平均値を算出することによって、変化量1405を検出する。したがって、算出した平均値が、変化量1405として評価値算出部1402に出力される。
【0052】
評価値算出部1402は、変化量検出部1401から受信した変化量1405と、外部から受信したフレームレート情報1404に基づくフレーム画像間の時間間隔とに基づいて、変化量1405および各フレーム画像間の時間間隔に応じた時間変化量を割り出す。評価値算出部1402は、割り出した時間変化量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。評価値算出部1402は、算出した評価値1406を外部に出力する。ここで、外部としては、例えば、評価値1406に基づいて、入力映像信号1403の映像処理をするための最適なフレームレートを決定する装置等が該当する。このような外部装置に評価値1406を出力することによって、入力映像信号1403による映像の動きの滑らかさに応じたフレームレートを決定させることが可能となる。
【0053】
ここで、図16を参照して、動きの滑らかさを評価する方法について具体的に説明する。まず、図16(a)を参照して、例えば、時刻T1における時間変化量S1を割り出す方法について説明する。評価値算出部1402は、フレームレート情報1404に基づくフレーム画像P0の時刻T0とフレーム画像P1の時刻T1との時間間隔Δt1、および変化量Δc1に基づいて、時間変化量S1を割り出す。なお、時刻T0と時刻T1の時間間隔Δt1は、例えば、時刻T1におけるフレームレート情報1404のフレームレートが、F1fpsである場合には、1/F1秒となる。
【0054】
時間変化量を割り出す方法について、より具体的に説明する。図16(a)に示すように、時刻T1における時間変化量S1は、例えば、時刻T0と時刻T1の時間間隔をΔt1とし、時刻T1における変化量をΔc1とした場合には、Δt1・Δc1(図16(a)に示す斜線部分S1の面積)となる。同様にして、時刻T2における時間変化量S2は、例えば、時刻T1と時刻T2の時間間隔をΔt2とし、時刻T2における変化量をΔc2とした場合には、Δt2・Δc2(図16(a)に示す斜線部分S2の面積)となる。
【0055】
次に、図16(b)を参照して、時間変化量に基づいて評価値を算出する方法ついて説明する。評価値算出部1402は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tn(n:正の整数。以下同様)における動きの滑らかさの評価値を算出する。具体的に説明すると、評価値算出部1402は、各フレーム画像の時刻Tnにおける時間変化量Snを用いて、時刻Tnにおける動きの滑らかさの評価値を算出する。より具体的に説明すると、評価値算出部1402は、例えば、時間変化量Snを用いた次式、α/Sn(αは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出する。また、評価値算出部1402は、例えば、時間変化量Snを用いた次式、a×exp−bSn+c(a,b,cは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出してもよい。評価値算出部1402は、算出した各評価値に基づいて、入力映像のすべての時刻における動きの滑らかさの評価値の平均値を算出する。この平均値が、入力映像の最終的な評価値1406として外部に出力される。
【0056】
次に、図17を参照して第1実施形態の映像評価装置140における映像評価処理の流れについて説明する。
【0057】
まず、変化量検出部1401は、入力映像信号1403から分解された連続する2枚のフレーム画像(フレーム画像P0,フレーム画像P1)を順次読み込む(ステップS1701)。
【0058】
次に、変化量検出部1401は、読み込んだフレーム画像P1とフレーム画像P0においてそれぞれ同一の座標に位置する画素間の輝度値の差を求め、この差の2乗値を、フレーム画像全体に含まれる画素ごとに算出していく。(ステップS1702)。
【0059】
次に、変化量検出部1401は、画素ごとに算出した上記2乗値の平均値を算出する(ステップS1703)。この算出された平均値が、変化量1405として評価値算出部1402に出力される。
【0060】
次に、評価値算出部1402は、変化量検出部1401から受信した変化量1405と、外部から受信したフレームレート情報1404に基づくフレーム画像間の時間間隔とに基づいて、変化量1405および各フレーム画像間の時間間隔に応じた時間変化量を算出する(ステップ1704)。
【0061】
次に、評価値算出部1402は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tnにおける動きの滑らかさの評価値を、時間変化量を用いて算出する(ステップS1705)。
【0062】
次に、評価値算出部1402は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する(ステップS1706)。
【0063】
次に、評価値算出部1402は、算出した平均値を、入力映像信号1403全体に対する動きの滑らかさの評価値1406として外部に出力する(ステップ1707)。
【0064】
以上のように、第1実施形態における映像評価装置140によれば、入力映像信号に含まれる複数のフレーム画像の各フレーム間における輝度値の差の2乗値に基づいて変化量が算出される。また、この変化量および入力映像信号のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力される入力映像信号の輝度値の変化量に基づいて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを外部で決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0065】
なお、上述した変化量検出部1401による変化量検出の単位は、上述したフレーム画像全体には限られない。例えば、ブロック単位、1画素単位、オブジェクト領域単位等であってもよい。
【0066】
また、変化量検出部1401による変化量検出の方法は、上述したフレーム画像に含まれる画素ごとに算出した上記2乗値の平均値を用いることには限られない。例えば、画素ごとに算出した上記2乗値の最大値、中間値または最小値を用いてもよいし、上記2乗値の最大値、中間値または最小値の平方根の値を用いてもよいし、上記2乗値のフレーム画像全体における分散値を用いてもよい。
【0067】
また、変化量検出部1401による変化量検出の方法は、上述した各フレームの同一座標に位置する画素間の輝度値の差の2乗値を用いることには限られない。例えば、各フレームの同一座標に位置する画素間の輝度値の差の値、またはこの差の絶対値を用いてもよい。
【0068】
また、変化量検出部1401による変化量検出の方法には、上述した各値の他にも、例えば、入力映像信号のフレーム画像間における動きベクトル等、フレーム間における入力映像信号の変化を表すあらゆる値を用いることができる。
【0069】
また、評価値算出部1402による時間変化量の割り出し方法は、上述した式(例えば、Δt1・Δc1)を用いた方法には限られず、変化量とフレームレート情報に基づくフレーム画像間の時間間隔とに基づいて割り出すことができればよい。
【0070】
また、評価値算出部1402によって割り出される時間変化量は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位、オブジェクト単位に1つであってもよい。
【0071】
また、評価値算出部1402によって算出される入力映像の最終的な評価値1406は、上述した入力映像の全ての時刻における動きの滑らかさの評価値の平均値には限られない。例えば、入力映像の全ての時刻における動きの滑らかさの評価値の最大値、中間値または最小値であってもよい。
【0072】
また、評価値算出部1402によって算出される入力映像の最終的な評価値1406は、必ずしも入力映像信号に含まれる全てのフレーム画像に対して1つである必要はない。例えば、何枚かのフレーム画像、1枚のフレーム画像、ブロック、ピクセル、オブジェクトごとに1つであってもよい。
【0073】
最後に、図18を参照して、コンピュータを上述した映像評価装置140として機能させるための映像評価プログラム180について説明する。
【0074】
図18に示すように、映像評価プログラム140は、処理を統括するメインモジュールプログラム1801と、変化量検出モジュール1802と、評価値算出モジュール1803とを有する。変化量検出モジュール1802および評価値算出モジュール1803がコンピュータに行わせる機能は、それぞれ上述した変化量検出部1401および評価値算出部1402が有する機能と同様である。
【0075】
なお、映像評価プログラム180は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像評価プログラム180は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0076】
[第1実施形態の変形例]
【0077】
次に、上述した第1実施形態の変形例について説明する。図1は、第1実施形態の変形例における映像評価装置10の機能構成を例示する図である。
【0078】
ここで、映像評価装置10は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像評価装置10は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像評価装置10としては、情報処理可能な装置が広く適用され得る。
【0079】
図1を参照して映像評価装置10の機能構成について説明する。図1に示すように、映像評価装置10は、変位量検出部101と、特徴値算出部102と、評価値算出部103とを有する。
【0080】
変位量検出部101は、外部から動画像信号として入力された入力映像信号104を、フレーム画像に分解する。変位量検出部101は、分解した複数のフレーム画像に基づいて、入力映像信号の動きの変位の度合いを示す変位量(動き変位量)を検出する。変位量検出部101は、検出した変位量106を特徴値算出部102に出力する。
【0081】
なお、変位量は、入力映像信号の動きの変位の度合いを示すものには限られず、入力映像信号の各フレーム画像間における変化の度合いを示すものであればよい。
【0082】
ここで、図2を参照して、変位量106を検出する方法について具体的に説明する。変位量検出部101は、入力映像信号104から分解された連続する2枚のフレーム画像を順次読み込む。ここで、説明の便宜のため、連続する2枚のフレーム画像を、読み込む順に、フレーム画像P0(図2(a)参照)、フレーム画像P1(図2(b)参照)として説明する。変位量検出部101は、読み込んだフレーム画像P1を、所定の大きさのブロックに分割する。変位量検出部101は、フレーム画像P1の各ブロックについて、当該各ブロックの画像信号パターンに最も類似する画像信号パターンをフレーム画像P0から探索する。この探索は、例えば、図2に示されるブロックマッチング(相関法)による探索処理を用いることによって実現可能である。変位量検出部101は、探索処理によって最も類似すると判断された両画像の信号パターンに基づいて、両画像の信号パターン間における空間的な変位量である動きベクトルV(MVx,MVy)を検出する。この動きベクトルVが、変位量106として特徴値算出部102に出力される。
【0083】
特徴値算出部102は、変位量検出部101から受信した変位量106に基づいて、入力映像信号の動きの特徴を示す動き特徴値107を算出する。特徴値算出部102は、算出した動き特徴値107を評価値算出部103に出力する。
【0084】
ここで、動き特徴値を算出する方法について具体的に説明する。特徴値算出部102は、変位量106として受信されたフレーム画像P1の各ブロックの動きベクトルを用いて、フレーム画像P1の各ブロックの動きベクトルの大きさを求める。この動きベクトルの大きさは、例えば、フレーム画像P1上の任意のブロックの動きベクトルのx成分、y成分をそれぞれMVx、MVyとした場合には、(MVx2+MVy2)1/2により求められる。特徴値算出部102は、各動きベクトルの大きさに基づいて、フレーム画像P1の特徴となる値を算出する。この算出された値が、動き特徴値107として評価値算出部103に出力される。特徴値算出部102によって算出される値(動き特徴値107)としては、例えば、フレーム画像に含まれるブロックごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値が該当する。
【0085】
評価値算出部103は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における動きの度合いを示すフレーム間動き量を割り出す。評価値算出部103は、割り出したフレーム間動き量に基づいて、入力映像の動きの滑らかさを評価するための評価値を算出する。評価値算出部103は、算出した評価値108を外部に出力する。ここで、外部としては、例えば、評価値108に基づいて、入力映像信号104の映像処理をするための最適なフレームレートを決定する装置等が該当する。このような外部装置に評価値108を出力することによって、入力映像信号104による映像の動きの滑らかさに応じたフレームレートを決定さることが可能となる。
【0086】
なお、評価値を算出する際に、必ずしもフレーム間動き量に基づいて算出する必要はない。例えば、変位量106および各フレーム画像間の時間間隔に応じた時間変化量に基づいて、評価値を算出してもよい。この時間変化量は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、割り出すことができる。
【0087】
ここで、図3を参照して、動きの滑らかさを評価する方法について具体的に説明する。まず、図3(a)を参照して、例えば、時刻T1におけるフレーム間動き量S1を割り出す方法について説明する。評価値算出部103は、フレームレート情報105に基づくフレーム画像P0の時刻T0とフレーム画像P1の時刻T1との時間間隔Δt1、およびフレーム画像P1の動き特徴値Δd1に基づいて、フレーム間動き量S1を割り出す。なお、時刻T0と時刻T1の時間間隔Δt1は、例えば、時刻T1におけるフレームレート情報105のフレームレートが、F1fpsである場合には、1/F1秒となる。
【0088】
フレーム間動き量を割り出す方法について、より具体的に説明する。図3(a)に示すように、時刻T1におけるフレーム間動き量S1は、例えば、時刻T0と時刻T1の時間間隔をΔt1とし、時刻T1における動き特徴値をΔd1とした場合には、Δt1・Δd1/2(図3(a)に示す斜線部分S1の面積)となる。同様にして、時刻T2におけるフレーム間動き量S2は、例えば、時刻T1と時刻T2の時間間隔をΔt2とし、時刻T2における動き特徴値をΔd2とした場合には、Δt2・Δd2/2(図3(a)に示す斜線部分S2の面積)となる。
【0089】
次に、図3(b)を参照して、フレーム間動き量に基づいて評価値を算出する方法ついて説明する。評価値算出部103は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tn(n:正の整数。以下同様)における動きの滑らかさの評価値を算出する。具体的に説明すると、評価値算出部103は、各フレーム画像の時刻Tnにおけるフレーム間動き量Snを用いて、時刻Tnにおける動きの滑らかさの評価値を算出する。より具体的に説明すると、評価値算出部103は、例えば、フレーム間動き量Snを用いた次式、α/Sn(αは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出する。また、評価値算出部103は、例えば、フレーム間動き量Snを用いた次式、a×exp−bSn+c(a,b,cは定数)により、時刻Tnにおける動きの滑らかさの評価値を算出してもよい。評価値算出部103は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する。この平均値が、入力映像の最終的な評価値108として外部に出力される。
【0090】
次に、図4を参照して第1実施形態の変形例の映像評価装置10における映像評価処理の流れについて説明する。
【0091】
まず、変位量検出部101は、入力映像信号104から分解された連続する2枚のフレーム画像(フレーム画像P0,フレーム画像P1)を順次読み込む(ステップS401)。
【0092】
次に、変位量検出部101は、読み込んだフレーム画像P1を、所定の大きさのブロックに分割する(ステップS402)。
【0093】
次に、変位量検出部101は、フレーム画像P1の各ブロックについて、当該各ブロックの画像信号パターンに最も類似する画像信号パターンをフレーム画像P0から探索する(ステップS403)。
【0094】
次に、変位量検出部101は、探索によって最も類似すると判断された両画像の信号パターンに基づいて、当該画像信号パターン間における空間的な変位量である動きベクトル(MVx,MVy)を検出する(ステップS404)。この検出された動きベクトルが、変位量106として特徴値算出部102に出力される。
【0095】
次に、特徴値算出部102は、変位量106に含まれるフレーム画像P1の各ブロックの動きベクトルを用いて、フレーム画像P1の各ブロックの動きベクトルの大きさを求める(ステップS405)。
【0096】
次に、特徴値算出部102は、各動きベクトルの大きさに基づいて、フレーム画像P1の特徴となる値を算出する(ステップS406)。この算出された値が、動き特徴値107として評価値算出部103に出力される。
【0097】
次に、評価値算出部103は、特徴値算出部102から受信した動き特徴値107と、外部から受信したフレームレート情報105に基づくフレーム画像間の時間間隔とに基づいて、各フレーム画像間における動き量であるフレーム間動き量を算出する(ステップ407)。
【0098】
次に、評価値算出部103は、入力映像信号に含まれる全てのフレーム画像について、各フレーム画像の時刻Tnにおける動きの滑らかさの評価値を、フレーム間動き量を用いて算出する(ステップS408)。
【0099】
次に、評価値算出部103は、算出した各評価値に基づいて、入力映像の全ての時刻における動きの滑らかさの評価値の平均値を算出する(ステップS409)。
【0100】
次に、評価値算出部103は、算出した平均値を、入力映像信号104全体に対する動きの滑らかさの評価値108として外部に出力する(ステップ410)。
【0101】
以上のように、第1実施形態の変形例における映像評価装置10によれば、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。また、この動き特徴値および入力映像信号のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出される。したがって、所定のフレームレートにしたがって入力される入力映像信号の動きベクトルの大きさに応じて、映像処理時のフレームレートにおける映像の動きの滑らかさを評価することができる。また、この評価により得られた評価値を外部に出力するため、この評価値に基づいてフレームレートを外部で決定させることが可能となる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させることができる。
【0102】
なお、上述した変位量検出部101による画像信号パターンの探索単位は、上述したブロック単位には限られない。例えば、フレーム単位、1画素単位、オブジェクト領域単位等であってもよい。また、変位量検出部101による探索処理の方法は、上述したブロックマッチングには限られない。例えば、濃度勾配法等であってもよい。
【0103】
また、変位量検出部101は、上述した入力映像信号104として、映像の動きベクトルを含んだ入力映像信号104を読み込むこととしてもよい。この場合に、変位量検出部101は、外部から受信した入力映像信号104から動きベクトルを検出し、この検出した動きベクトルを変位量106として特徴値算出部102に出力する。
【0104】
また、特徴値算出部102によって算出される動き特徴値107は、上述したブロックごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値には限られない。例えば、フレーム画像ごとに求められる1つの動きベクトルの大きさであってもよいし、フレーム画像内の1画素ごとまたはオブジェクト領域ごとに求められる動きベクトルの大きさの最大値、平均値、中間値または最小値であってもよい。
【0105】
また、特徴値算出部102によって算出される動き特徴値107は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位またはオブジェクト単位に1つであってもよい。また、動き特徴値107は、ブロック単位、ピクセル単位またはオブジェクト単位に求められる動きベクトルの分布に対して、図5に示される原点を中心にした複数の円と原点から放射状に伸びる複数の線とで区切られる範囲R(例えば、R1,R2,R3)単位に1つであってもよい。
【0106】
ここで、図5を参照して、動き特徴値107を、上記範囲R単位に算出する方法について、1つのフレーム画像を9つのブロックに分割する場合を例にして具体的に説明する。まず、分割された9つのブロック単位に1つの動きベクトルを求める。この求められた各動きベクトルを、動きベクトルV1〜V9とする。次に、各動きベクトルV1〜V9を図5に示すグラフ上に投影する。例えば、動きベクトルV1〜V4が図5に示す範囲R1に含まれ、動きベクトルV5,V6が図5に示す範囲R2に含まれ、動きベクトルV7〜V9が図5に示す範囲R3に含まれるとする。この場合には、例えば、動きベクトルV1〜V4の平均値として算出される動きベクトルVR1が、範囲R1の動き特徴値107として求められ、動きベクトルV5,V6の平均値として算出される動きベクトルVR2が、範囲R2の動き特徴値107として求められ、動きベクトルV7〜V9の平均値として算出される動きベクトルVR3が、範囲R3の動き特徴値107として求められることとなる。なお、動きベクトルを求める方法は、例示したブロック単位に限られず、例えば、ピクセル単位またはオブジェクト単位であってもよい。
【0107】
また、評価値算出部103によるフレーム間動き量の割り出し方法は、上述した式(例えば、Δt1・Δd1/2)を用いた方法には限られない。例えば、変位量106である動きベクトル(MVx,MVy)とフレームレート情報105に基づくフレーム画像間の時間間隔とを用いて表される次式、β・MVx・Δt1/2+γ・MVy・Δt1/2(β、γは定数)により割り出してもよい。
【0108】
また、評価値算出部103によって割り出されるフレーム間動き量は、必ずしもフレーム単位に1つである必要はない。例えば、ブロック単位、ピクセル単位、オブジェクト単位または上述した範囲R(図5参照)単位に1つであってもよい。
【0109】
また、評価値算出部103によって算出される各フレーム画像の時刻Tnにおける動きの滑らかさの評価値は、上述したα/Sn(αは定数)またはa×exp−bSn+c(a,b,cは定数)により算出することには限られない。例えば、変位量106である動きベクトル(MVx,MVy)とフレームレート情報105に基づくフレーム画像間の時間間隔とを用いた関数により算出してもよい。
【0110】
また、評価値算出部103によって算出される入力映像の最終的な評価値108は、上述した入力映像の全ての時刻における動きの滑らかさの評価値の平均値には限られない。例えば、入力映像の全ての時刻における動きの滑らかさの評価値の最大値、中間値または最小値であってもよい。
【0111】
また、評価値算出部103によって算出される入力映像の最終的な評価値108は、必ずしも入力映像信号に含まれる全てのフレーム画像に対して1つである必要はない。例えば、何枚かのフレーム画像、1枚のフレーム画像、ブロック、ピクセル、オブジェクトまたは上述した範囲R(図5参照)ごとに1つであってもよい。
【0112】
最後に、図6を参照して、コンピュータを上述した映像評価装置10として機能させるための映像評価プログラム50について説明する。
【0113】
図6に示すように、映像評価プログラム50は、処理を統括するメインモジュールプログラム501と、変位量検出モジュール502と、特徴値算出モジュール503と、評価値算出モジュール504とを有する。変位量検出モジュール502、特徴値算出モジュール503および評価値算出モジュール504がコンピュータに行わせる機能は、それぞれ上述した変位量検出部101、特徴値算出部102および評価値算出部103が有する機能と同様である。
【0114】
なお、映像評価プログラム50は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像評価プログラム50は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0115】
また、第1実施形態の変形例における映像評価装置10は、変位量検出部101および特徴値算出部102をまとめて、あらたに変化量検出部とすることによって、第1実施形態における映像評価装置140が有する機能構成と同一の機能構成にすることができる。
【0116】
[第2実施形態]
【0117】
次に、本発明の第2実施形態について説明する。図7は、第2実施形態におけるフレームレート決定装置70の機能構成を例示する図である。
【0118】
ここで、フレームレート決定装置70は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、フレームレート決定装置70は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、フレームレート決定装置70としては、情報処理可能な装置が広く適用され得る。
【0119】
図7を参照してフレームレート決定装置70の機能構成について説明する。図7に示すように、フレームレート決定装置70は、フレームレート発生部701と、映像評価部702と、フレームレート決定部703とを有する。
【0120】
フレームレート発生部701は、第1のフレームレート705を発生させる。フレームレート発生部701は、発生させた第1のフレームレート705を、映像評価部702およびフレームレート決定部703に出力する。
【0121】
映像評価部702は、上述した第1実施形態に記載された映像評価装置140が有する機能、または第1実施形態の変形例に記載された映像評価装置10が有する機能と同様の機能を有する。すなわち、映像評価部702は、上述した変化量検出部1401および評価値算出部1402が有する機能、または変位量検出部101、特徴値算出部102および評価値算出部103が有する機能と同様の機能を有する。
【0122】
映像評価部702は、外部から動画像信号として入力された入力映像信号704から、第1のフレームレート705に応じた時間間隔でフレーム画像を読み込み、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する。映像評価部702は、算出した動きの滑らかさの評価値706を、フレームレート決定部703に出力する。
【0123】
ここで、第1のフレームレート705は、入力映像信号704のサンプリングレートと異なっていても特に問題はない。例えば、図8(a)に示される第1のフレームレート705は、1/15秒であるのに対し、図8(b)に示される入力映像信号704のサンプリングレートは、1/30秒である。
【0124】
フレームレート決定部703は、映像評価部702から受信した評価値706と、フレームレート発生部701から受信した第1のフレームレート705とに基づいて、第2のフレームレート707を決定する。フレームレート決定部703は、決定した第2のフレームレート707を、入力映像信号704の処理を行うためのフレームレートとして、フレームレート決定装置70に出力する。
【0125】
具体的に説明すると、フレームレート決定部703は、例えば、評価値706が所定の規定値よりも大きい場合には、第2のフレームレート707を、第1のフレームレート705よりも小さくする。また、フレームレート決定部703は、例えば、評価値706が所定の規定値よりも小さい場合には、第2のフレームレート707を、第1のフレームレート705よりも大きくする。また、フレームレート決定装置70は、例えば、評価値706が所定の規定値と一致する場合には、第2のフレームレート707を、第1のフレームレート705と同一のフレームレートにする。
【0126】
このようにすれば、映像の動きの滑らかさを評価するための評価値が所定の評価基準の範囲内に収まるような第2のフレームレートを決定させることができる。すなわち、映像の動きの滑らかさを所定の基準範囲内に保ちながら入力映像信号を読み込ませることができる。なお、上述した所定の規定値は、予め設定されたものであってもよいし、外部から与えられたものであってもよい。
【0127】
次に、図9を参照して第2実施形態のフレームレート決定装置70におけるフレームレート決定処理の流れについて説明する。
【0128】
まず、フレームレート発生部701は、第1のフレームレート705を発生させる(ステップS901)。
【0129】
次に、映像評価部702は、入力映像信号704から第1のフレームレート705に応じた時間間隔でフレーム画像を読み込む(ステップ902)。
【0130】
次に、映像評価部702は、各フレーム画像に基づいて、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する(ステップ903)。すなわち、各フレーム画像に基づいて、上述した第1実施形態において説明したステップS1701〜S1707までの映像評価処理(図17参照)、または上述した第1実施形態の変形例において説明したステップS401〜S410までの映像評価処理(図4参照)を行うことによって、入力映像信号704全体に対する動きの滑らかさの評価値706を算出する。
【0131】
次に、フレームレート決定部703は、映像評価部702から受信した評価値706と、フレームレート発生部701から受信した第1のフレームレート705とに基づいて、第2のフレームレート707を決定する(ステップ904)。
【0132】
次に、フレームレート決定部703は、第2のフレームレート707を、入力映像信号704の処理を行うためのフレームレートとして外部に出力する(ステップ905)。
【0133】
以上のように、第2実施形態におけるフレームレート決定装置70によれば、入力映像信号の変化量および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。
【0134】
また、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。そして、この動き特徴値および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの特徴量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。
【0135】
したがって、映像の動きの滑らかさに応じて入力映像信号のフレームレートを決定させることができるとともに、映像の動きの滑らかさを保ちながら入力映像信号を読み込ませることができる。
【0136】
最後に、図10を参照して、コンピュータを上述したフレームレート決定装置70として機能させるためのフレームレート決定プログラム100について説明する。
【0137】
図10に示すように、フレームレート決定プログラム100は、処理を統括するメインモジュールプログラム1001と、フレームレート発生モジュール1002と、映像評価モジュール1003と、フレームレート決定モジュール1004とを有する。フレームレート発生モジュール1002、映像評価モジュール1003およびフレームレート決定モジュール1004がコンピュータに行わせる機能は、それぞれ上述したフレームレート発生部701、映像評価部702およびフレームレート決定部703が有する機能と同様である。
【0138】
なお、フレームレート決定プログラム100は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、フレームレート決定プログラム100は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0139】
[第3実施形態]
【0140】
次に、本発明の第3実施形態について説明する。図11は、第3実施形態における映像処理装置110の機能構成を例示する図である。
【0141】
ここで、映像処理装置110は、物理的には、CPU(中央処理装置)、メモリ等の記憶装置、および通信装置等を備えるコンピュータである。したがって、映像処理装置110は、PC端末等の固定通信端末であってもよいし、携帯電話機等の移動通信端末であってもよい。すなわち、映像処理装置110としては、情報処理可能な装置が広く適用され得る。
【0142】
図11を参照して映像処理装置110の機能構成について説明する。図11に示すように、映像処理装置110は、バッファ部1101と、フレームレート決定部1102と、映像処理部1103とを有する。
【0143】
バッファ部1101は、外部から動画像信号として入力された入力映像信号1104を、メモリ上のバッファに一時的に保存する。バッファ部1101は、入力映像信号1104を、フレームレート決定部1102に出力する。なお、バッファに一時的に保存された入力映像信号1104は、後述する映像処理部1103によって、処理映像信号1106として読み込まれる。
【0144】
フレームレート決定部1102は、上述した第2実施形態に記載されたフレームレート決定装置70が有する機能と同様の機能を有する。すなわち、フレームレート決定部1102は、上述したフレームレート発生部701、映像評価部702およびフレームレート決定部703が有する機能と同様の機能を有する。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、上述した第2のフレームレート707に該当する映像処理フレームレート1105を算出する。フレームレート決定部1102は、算出した映像処理フレームレート1105を、映像処理部1103に出力する。
【0145】
映像処理部1103は、映像処理フレームレート1105に応じた時間間隔でバッファ部1101から処理映像信号1106を読み込み、この処理映像信号1106に基づいて映像処理を行う。具体的に説明すると、映像処理部1103は、バッファ部1101に保存された処理映像信号1106に含まれるフレーム画像のうち、フレームレート決定部1102から受信した映像処理フレームレート1105に対応する時刻のフレーム画像のみを読み込んで、映像処理を行う。映像処理部1103は、映像処理により生成された映像を外部に出力する。なお、映像処理部1103によって行われる映像処理は、例えば、映像の取得、蓄積、伝送、符号化、復号化が該当する。
【0146】
次に、図12を参照して第3実施形態の映像処理装置110における映像処理の流れについて説明する。
【0147】
まず、バッファ部1101は、外部から動画像信号として入力された入力映像信号1104を、フレームレート決定部1102に出力するとともに、当該入力映像信号1104を、メモリ上のバッファに一時的に保存する(ステップS1201)。
【0148】
次に、フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像処理フレームレート1105を算出する(ステップ1202)。すなわち、入力映像信号1104を用いて、上述した第2実施形態において説明したステップS901〜S905までのフレームレート決定処理(図9参照)を行うことによって、第2のフレームレートである映像処理フレームレート1105を算出する。
【0149】
次に、映像処理部1103は、映像処理フレームレート1105に応じた時間間隔でバッファ部1101から処理映像信号1106を読み込み、この処理映像信号1106に基づいて映像処理を行う(ステップ1203)
【0150】
次に、映像処理部1103は、映像処理により生成された映像を外部に出力する(ステップ1204)。
【0151】
以上のように、第3実施形態における映像処理装置110によれば、入力映像信号の変化量および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。そして、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の変化量に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。そして、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。
【0152】
また、入力映像信号に含まれる複数のフレーム画像に基づいて動きベクトルが検出され、この動きベクトルの大きさに基づいて動き特徴値が算出される。そして、この動き特徴値および第1のフレームレートに基づくフレーム画像間の時間間隔に基づいて、入力映像信号の動きの滑らかさを評価するための評価値が算出され、この評価値を利用して入力映像信号の処理を行う第2のフレームレートが決定される。さらに、この第2のフレームレートを用いて入力映像信号の映像処理が行われる。すなわち、第1のフレームレートにしたがって入力された入力映像信号の動きの特徴値に応じて、第1のフレームレートにおける映像の動きの滑らかさが評価されるとともに、この評価を用いて第2のフレームレートが決定される。そして、入力映像信号に対する評価値に基づいて決定された第2のフレームレートを用いて、入力映像信号の映像処理が行われる。
【0153】
したがって、動きの滑らかさの評価に応じて決定された第2のフレームレートに基づいて、入力映像信号の映像処理を行うことができる。すなわち、映像の動きの滑らかさに応じてフレームレートを決定させるとともに、映像の動きの滑らかさを保ちながら入力映像信号の映像処理を行うことができる。
【0154】
なお、上述した映像処理装置110は、例えば、映像取得装置(例えばカメラ)、映像伝送装置、映像符号化装置、または映像復号装置に適用可能である。
【0155】
まず、映像処理装置110を、映像取得装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像取得装置が映像を取得する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により取得する。
【0156】
また、映像処理装置110を、映像記憶装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像記憶装置が映像を蓄積する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により蓄積する。
【0157】
また、映像処理装置110を、映像伝送装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像伝送装置が映像を伝送する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により伝送する。
【0158】
また、映像処理装置110を、映像符号化装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像符号化装置が映像を符号化する際の最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により符号化する。
【0159】
また、映像処理装置110を、映像復号装置に適用した場合には、上述した各機能は以下に記載するように機能する。バッファ部1101は、サンプリングレート(例えば、30fps)で入力された入力映像信号1104をバッファする。フレームレート決定部1102は、バッファ部1101から受信した入力映像信号1104を用いて、映像復号装置が映像を復号化する際に最適な映像処理フレームレート1105(例えば、15fps)を算出し、映像処理部1103に出力する。映像処理部1103は、フレームレート決定部1102から受信した映像処理フレームレート1105(例えば、15fps)を用いて、バッファ部1101に保存されている入力映像信号1104をサンプリングする。映像処理部1103は、このサンプリングにより得られた処理映像信号1106を、映像処理フレームレート1105(例えば、15fps)により復号する。
【0160】
最後に、図13を参照して、コンピュータを上述した映像処理装置110として機能させるための映像処理プログラム130について説明する。
【0161】
図13に示すように、映像処理プログラム130は、処理を統括するメインモジュールプログラム1301と、バッファモジュール1302と、フレームレート決定モジュール1303と、映像処理モジュール1304とを有する。バッファモジュール1302、フレームレート決定モジュール1303および映像処理モジュール1304がコンピュータに行わせる機能は、それぞれ上述したバッファ部1101、フレームレート決定部1102および映像処理部1103が有する機能と同様である。
【0162】
なお、映像処理プログラム130は、例えば、CD−ROM、DVDもしくはROM等の記憶媒体または半導体メモリによって提供される。また、映像処理プログラム130は、搬送波に重畳されたコンピュータデータ信号としてネットワークを介して提供されるものであってもよい。
【0163】
(本発明の多面性について)
なお、本発明の技術的思想は、以下のように多面的に表される。
(1) 入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、
を備えることを特徴とする映像評価装置。
(2) 前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項1記載の映像評価装置。
(3) 前記変化量は、前記各フレーム画像間における輝度値の差に基づく値であることを特徴とする請求項1または2に記載の映像評価装置。
(4) 前記変化量は、前記各フレーム画像間における動きベクトルであることを特徴とする請求項1または2に記載の映像評価装置。
(5) 前記変化量に基づいて、前記入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記評価値を算出することを特徴とする請求項1記載の映像評価装置。
(6) 前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項5記載の映像評価装置。
(7) 前記変化量は、前記各フレーム画像間における動きベクトルであり、
前記動き特徴値は、前記動きベクトルの大きさに基づいて算出される値であることを特徴とする請求項5または6に記載の映像評価装置。
(8) 第1のフレームレートを発生するフレームレート発生手段と、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段と、
を備えることを特徴とするフレームレート決定装置。
(9) 前記フレームレート決定手段は、前記評価値を、所定の規定値と比較して、前記評価値が前記規定値よりも大きい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも小さくし、前記評価値が前記規定値よりも小さい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも大きくすることを特徴とする請求項8記載のフレームレート決定装置。
(10) 入力映像信号を記憶するバッファ手段と、
第1のフレームレートを発生するフレームレート発生手段と、
前記入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、
前記第2のフレームレートを用いて、前記バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段と、
を備えることを特徴とする映像処理装置。
(11) 入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップと、
を備えることを特徴とする映像評価方法。
(12) コンピュータを、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として
機能させるための映像評価プログラム。
【符号の説明】
【0164】
10・・・映像評価装置、101・・・変位量検出部、102・・・特徴値算出部、103・・・評価値算出部、104・・・入力映像信号、105・・・フレームレート情報、106・・・変位量、107・・・動き特徴値、108・・・評価値、50・・・映像評価プログラム、502・・・変位量検出モジュール、503・・・特徴値算出モジュール、504・・・評価値算出モジュール、70・・・フレームレート決定装置、701・・・フレームレート発生部、702・・・映像評価部、703・・・フレームレート決定部、704・・・入力映像信号、705・・・第1のフレームレート、706・・・評価値、707・・・第2のフレームレート、100・・・フレームレート決定プログラム、1002・・・フレームレート発生モジュール、1003・・・映像評価モジュール、1004・・・フレームレート決定モジュール、110・・・映像処理装置、1101・・・バッファ部、1102・・・フレームレート決定部、1103・・・映像処理部、1104・・・入力映像信号、1105・・・映像処理フレームレート、1106・・・処理映像信号、1107・・・映像、130・・・映像処理プログラム、1302・・・バッファモジュール、1303・・・フレームレート決定モジュール、1304・・・映像処理モジュール、140・・・映像評価装置、1401・・・変化量検出部、1402・・・評価値算出部、1403・・・入力映像信号、1404・・・フレームレート情報、1405・・・変化量、1406・・・評価値、180・・・映像評価プログラム、1802・・・変化量検出モジュール、1803・・・評価値算出モジュール。
【特許請求の範囲】
【請求項1】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価装置。
【請求項2】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、動きベクトルに基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価装置。
【請求項3】
前記変化量に基づいて、前記入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記評価値を算出することを特徴とする請求項1または2に記載の映像評価装置。
【請求項4】
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項3記載の映像評価装置。
【請求項5】
前記変化量は、前記各フレーム画像間における動きベクトルであり、
前記動き特徴値は、前記動きベクトルの大きさに基づいて算出される値であることを特徴とする請求項3または4に記載の映像評価装置。
【請求項6】
第1のフレームレートを発生するフレームレート発生手段と、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及び前記第1のフレームレートに基づき算出される
ことを特徴とするフレームレート決定装置。
【請求項7】
前記フレームレート決定手段は、前記評価値を、所定の規定値と比較して、前記評価値が前記規定値よりも大きい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも小さくし、前記評価値が前記規定値よりも小さい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも大きくすることを特徴とする請求項6記載のフレームレート決定装置。
【請求項8】
入力映像信号を記憶するバッファ手段と、
第1のフレームレートを発生するフレームレート発生手段と、
前記入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、
前記第2のフレームレートを用いて、前記バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及び前記第1のフレームレートに基づき算出される
ことを特徴とする映像処理装置。
【請求項9】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップとを有し、
前記評価値算出ステップでは、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価方法。
【請求項10】
コンピュータを、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として機能させ、
前記評価値算出手段では、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される、
映像評価プログラム。
【請求項11】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、
を備えることを特徴とする映像評価装置。
【請求項1】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価装置。
【請求項2】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、動きベクトルに基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価装置。
【請求項3】
前記変化量に基づいて、前記入力映像信号の動きの特徴を示す動き特徴値を算出する特徴値算出手段をさらに備え、
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記評価値を算出することを特徴とする請求項1または2に記載の映像評価装置。
【請求項4】
前記評価値算出手段は、前記動き特徴値および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出することを特徴とする請求項3記載の映像評価装置。
【請求項5】
前記変化量は、前記各フレーム画像間における動きベクトルであり、
前記動き特徴値は、前記動きベクトルの大きさに基づいて算出される値であることを特徴とする請求項3または4に記載の映像評価装置。
【請求項6】
第1のフレームレートを発生するフレームレート発生手段と、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定して外部に出力するフレームレート決定手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及び前記第1のフレームレートに基づき算出される
ことを特徴とするフレームレート決定装置。
【請求項7】
前記フレームレート決定手段は、前記評価値を、所定の規定値と比較して、前記評価値が前記規定値よりも大きい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも小さくし、前記評価値が前記規定値よりも小さい場合には、前記第2のフレームレートを、前記第1のフレームレートよりも大きくすることを特徴とする請求項6記載のフレームレート決定装置。
【請求項8】
入力映像信号を記憶するバッファ手段と、
第1のフレームレートを発生するフレームレート発生手段と、
前記入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記第1のフレームレートに対応するフレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出する評価値算出手段と、
前記評価値を用いて、前記入力映像信号の処理を行う第2のフレームレートを決定するフレームレート決定手段と、
前記第2のフレームレートを用いて、前記バッファ手段により記憶されている前記入力映像信号を読み込んで映像処理を行う映像処理手段とを備え、
前記評価値算出手段は、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及び前記第1のフレームレートに基づき算出される
ことを特徴とする映像処理装置。
【請求項9】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出ステップと、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出ステップとを有し、
前記評価値算出ステップでは、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される
ことを特徴とする映像評価方法。
【請求項10】
コンピュータを、
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段として機能させ、
前記評価値算出手段では、前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記変化量および前記各フレーム画像間の時間間隔に応じた時間変化量を割り出し、当該時間変化量を用いて前記評価値を算出し、
前記変化量は、連続する前記各フレーム画像間における、対応する画素間の輝度値の差に基づき算出される値であり、
前記時間変化量は、前記変化量及びフレームレートに基づき算出される、
映像評価プログラム。
【請求項11】
入力映像信号に含まれる複数のフレーム画像に基づいて、前記各フレーム画像間における変化の度合いを示す変化量を検出する変化量検出手段と、
前記変化量および前記各フレーム画像間の時間間隔に基づいて、前記入力映像信号の動きの滑らかさに関する評価値を算出して外部に出力する評価値算出手段と、
を備えることを特徴とする映像評価装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2010−268525(P2010−268525A)
【公開日】平成22年11月25日(2010.11.25)
【国際特許分類】
【出願番号】特願2010−192609(P2010−192609)
【出願日】平成22年8月30日(2010.8.30)
【分割の表示】特願2005−229618(P2005−229618)の分割
【原出願日】平成17年8月8日(2005.8.8)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
【公開日】平成22年11月25日(2010.11.25)
【国際特許分類】
【出願日】平成22年8月30日(2010.8.30)
【分割の表示】特願2005−229618(P2005−229618)の分割
【原出願日】平成17年8月8日(2005.8.8)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
[ Back to top ]