画像処理装置、画像処理方法、及びプログラム
【課題】画像上のオブジェクトの自然な動きを維持したまま、フレームレートを向上させる。
【解決手段】動きベクトル検出部は、複数の画像のうち、第1の画像と、第1の画像とは異なる第2の画像に基づいて、第1の画像上のオブジェクトに対する、第2の画像上のオブジェクトの動きを表す動きベクトルを検出し、補間処理部は、複数の動きベクトルに基づいて、画像上のオブジェクトの加速度を算出し、算出した加速度に基づいて、複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出し、算出したオブジェクト位置にオブジェクトが描画された補間画像を補間する。本開示は、例えば、動画像に対して補間画像を補間する画像処理装置等に適用できる。
【解決手段】動きベクトル検出部は、複数の画像のうち、第1の画像と、第1の画像とは異なる第2の画像に基づいて、第1の画像上のオブジェクトに対する、第2の画像上のオブジェクトの動きを表す動きベクトルを検出し、補間処理部は、複数の動きベクトルに基づいて、画像上のオブジェクトの加速度を算出し、算出した加速度に基づいて、複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出し、算出したオブジェクト位置にオブジェクトが描画された補間画像を補間する。本開示は、例えば、動画像に対して補間画像を補間する画像処理装置等に適用できる。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、画像処理方法、及びプログラムに関し、特に、例えば、画像上のオブジェクトの自然な動きを維持したまま、フレームレート(又はフィールドレート)を向上させるようにした画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
複数のフレーム(又はフィールド)により構成される動画像に、新たなフレームを補間してフレームレートを向上させるフレーム補間処理が存在する(例えば、特許文献1参照)。
【0003】
このフレーム補間処理では、例えば、動画像を構成する各フレームのうち、第1のフレーム上のオブジェクトに対する、第2のフレーム上のオブジェクトの動きを表す動きベクトルを検出する。なお、第2のフレームは、第1のフレームに連続する次のフレームを表す。
【0004】
また、フレーム補間処理では、検出した動きベクトルに基づいて、図1に示されるように、第1のフレーム上のオブジェクトの位置P(x1,yc)と、第2のフレーム上のオブジェクトの位置P(x2,yc)との中間位置P((x1+x2)/2,yc)を算出する。
【0005】
そして、算出した中間位置P((x1+x2)/2,yc)にオブジェクトを表示するフレームを、補間フレームとして、第1のフレームと第2のフレームとの間に補間し、フレームレートを向上させるようにしている。
【0006】
なお、第2のフレームと、第2のフレームに連続する次のフレームを表す第3のフレームとの間には、中間位置P((x2+x3)/2,yc)にオブジェクトを表示する補間フレームが補間される。ここで、中間位置P((x2+x3)/2,yc)とは、第2のフレーム上のオブジェクトの位置P(x2,yc)と、第3のフレーム上のオブジェクトの位置P(x3,yc)との中間位置を表す。
【0007】
また、第3のフレームと、第3のフレームに連続する次のフレームを表す第4のフレームとの間には、中間位置P((x3+x4)/2,yc)にオブジェクトを表示する補間フレームが補間される。ここで、中間位置P((x3+x4)/2,yc)とは、第3のフレーム上のオブジェクトの位置P(x3,yc)と、第4のフレーム上のオブジェクトの位置P(x4,yc)との中間位置を表す。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2007−288681号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
上述のフレーム補間処理では、オブジェクトの動きに拘らず、例えば、第1のフレームと第2のフレームとの間に補間される補間フレーム上のオブジェクトの位置を、単純に中間位置P((x1+x2)/2,yc)としている。
【0010】
このため、例えば、オブジェクトが加速度a(≠0)で等加速度運動をしている場合には、実際にオブジェクトがあるべき自然法則上の位置と、フレーム補間処理において算出される補間フレーム上のオブジェクトの位置とが異なるものになる。
【0011】
したがって、フレーム補間処理後の動画像において、画像上のオブジェクトの動きが非常に不自然なものとなってしまう。
【0012】
本開示は、このような状況に鑑みてなされたものであり、画像上のオブジェクトの自然な動きを維持したまま、フレームレートを向上させるようにするものである。
【課題を解決するための手段】
【0013】
本開示の一側面の画像処理装置は、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部とを含む画像処理装置である。
【0014】
前記第2の算出部には、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出させることができる。
【0015】
前記第1の算出部には、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出させ、前記第2の算出部には、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出させることができる。
【0016】
前記第1の算出部には、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出させることができる。
【0017】
本開示の一側面の画像処理方法は、時間方向に隣接する各画像の間に補間画像を補間する画像処理装置の画像処理方法であって、前記画像処理装置による、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出ステップと、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出ステップと、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出ステップと、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理ステップとを含む画像処理方法である。
【0018】
本開示の一側面のプログラムは、コンピュータを、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部として機能させるためのプログラムである。
【0019】
本開示によれば、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルが検出され、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度が算出され、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置が算出され、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像が補間される。
【発明の効果】
【0020】
本開示によれば、画像上のオブジェクトの自然な動きを維持したまま、フレームレートを向上させることが可能となる。
【図面の簡単な説明】
【0021】
【図1】従来のフレーム補間処理を説明するための図である。
【図2】本開示における画像処理装置の構成例を示すブロック図である。
【図3】初速度及び加速度を算出する算出方法の一例を説明するための図である。
【図4】補間フレームに表示されるオブジェクトの位置を決定する決定方法の一例を示す図である。
【図5】画像処理装置が行う補間処理を説明するためのフローチャートである。
【図6】X軸方向及びY軸方向のいずれの位置も変化するオブジェクトの一例を示す図である。
【図7】オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合の一例を示す図である。
【図8】オブジェクトの動きに応じて、オブジェクトの位置を決定する場合の一例を示す図である。
【図9】加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線の一例を示す図である。
【図10】加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線L(a≠0)の一例を示す図である。
【図11】加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線M(a≠0)の一例を示す図である。
【図12】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【0022】
以下、本開示における実施の形態(以下、本実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.本実施の形態(画像上のオブジェクトの加速度に応じて、補間される補間フレーム上のオブジェクトの位置を算出する場合の一例)
2.変形例
【0023】
<1.本実施の形態>
[画像処理装置21の構成例]
図2は、本開示における画像処理装置21の構成例を示している。
【0024】
なお、この画像処理装置21は、例えば、画像上のオブジェクトの自然な動きを維持したままフレームレートを向上させるものである。
【0025】
画像処理装置21は、フレームメモリ41、動きベクトル検出部42、補間処理部43、制御部44、及び操作部45から構成される。
【0026】
画像処理装置21には、外部から、複数のフレーム(又はフィールド)により構成される動画像が入力される。すなわち、フレームメモリ41、動きベクトル検出部42、及び補間処理部43には、適宜、外部からn番目に入力されたフレームnが供給される。
【0027】
フレームメモリ41は、外部からのフレームnを、1フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。また、フレームメモリ41は、外部からのフレームnを、2フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0028】
すなわち、例えば、動きベクトル検出部42及び補間処理部43に対して、外部からのフレームnが供給されるときに、フレームメモリ41は、フレームn-1及びフレームn-2を、動きベクトル検出部42及び補間処理部43に供給する。
【0029】
動きベクトル検出部42は、例えば、フレームメモリ41からのフレームn-1及びフレームn-2に基づいて、ブロックマッチング等により、フレームn-2上のオブジェクトに対する、フレームn-1上のオブジェクトの動きを表す動きベクトルMV(n-2,n-1)を検出する。
【0030】
また、例えば、動きベクトル検出部42は、外部からのフレームn、及びフレームメモリ41からのフレームn-1に基づいて、ブロックマッチング等により、フレームn-1上のオブジェクトに対する、フレームn上のオブジェクトの動きを表す動きベクトルMV(n-1,n)を検出する。
【0031】
そして、動きベクトル検出部42は、検出した動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)を、補間処理部43に供給する。
【0032】
補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)に基づいて、フレームn上のオブジェクトの初速度v0及び加速度aを算出する。
【0033】
なお、フレームnにおいて、水平方向をX方向とし、垂直方向をY方向とした場合、初速度v0は、X成分としてのv0xと、Y成分としてのv0yとに分解される。また、加速度aは、X成分としてのaxと、Y成分としてのayとに分解される。
【0034】
補間処理部43は、算出した初速度v0x及び加速度axを、次式(1)に適用して、フレームn-1とフレームnとの間に補間されて時刻tで表示される補間フレームf(n-1,n)上のオブジェクトの変位量dxを算出する。
dx = v0x×t + ax/2×t2 ・・・(1)
【0035】
ここで、変位量dxとは、例えば、時刻t=0におけるフレーム上のオブジェクトの位置(x0,y0)のx0を基準位置x0とした場合、基準位置x0に対する、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)におけるxの変位量(変化量)をいう。
【0036】
補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のx(=x0+dx)を算出する。
【0037】
また、同様にして、補間処理部43は、算出した初速度v0y及び加速度ayを、次式(2)に適用して、フレームn-1とフレームnとの間に補間されて時刻tで表示される補間フレームf(n-1,n)上のオブジェクトの変位量dyを算出する。
dy = v0y×t + ay/2×t2 ・・・(2)
【0038】
ここで、変位量dyとは、例えば、時刻t=0におけるフレーム上のオブジェクトの位置(x0,y0)のy0を基準位置y0とした場合、基準位置y0に対する、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)におけるyの変位量(変化量)をいう。
【0039】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のy(=y0+dy)を算出する。
【0040】
また、補間処理部43は、外部からのフレームnと、フレームメモリ41からのフレームn-1に基づいて、式(1)及び式(2)により算出した位置(x,y)にオブジェクトが表示(描画)される補間フレームf(n-1,n)を生成する。そして、補間処理部43は、生成した補間フレームf(n-1,n)を、フレームn-1とフレームnとの間に補間する。
【0041】
補間処理部43は、補間フレームf(n-1,n)を生成した補間した場合と同様にして、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、補間フレームf(n-2,n-1)を生成し、フレームn-2とフレームn-1との間に補間する。
【0042】
補間処理部43は、補間フレームを補間後の動画像を出力する。
【0043】
制御部44は、例えば、操作部45からの操作信号に応じて、フレームメモリ41、動きベクトル検出部42、及び補間処理部43を制御する。
【0044】
操作部45は、例えば操作ボタン等からなり、ユーザに操作されたことに対応して、対応する操作信号を制御部44に供給する。
【0045】
[初速度v0及び加速度aの算出方法]
次に、図3を参照して、初速度v0及び加速度aを算出する算出方法の一例を説明する。
【0046】
図3Aには、位置P(x1,yc)にオブジェクトが表示されるフレームn-2が示されている。なお、位置P(x1,yc)は、フレームn-2における左下の位置を原点(0,0)とし、水平方向をX軸とし、垂直方向をY軸としたXY軸により表される。このことは、図3B乃至図3D及び図4の他、後述する図6乃至図8についても同様である。
【0047】
また、図3Aに示されるフレームn-2が表示される時刻tは、式(1)及び(2)において0とされる。すなわち、フレームn-2上のオブジェクトの位置P(x1,yc)が基準位置、つまり、X軸方向の基準位置x0=x1とされ、X軸方向の基準位置y0=ycとされる。
【0048】
図3Bには、位置P(x2,yc)にオブジェクトが表示されるフレームn-1が示されている。図3Cには、位置P(x3,yc)にオブジェクトが表示されるフレームnが示されている。図3Dには、位置P(x4,yc)にオブジェクトが表示されるフレームn+1が示されている。
【0049】
動きベクトル検出部42は、図3A及び図3Bに示されるように、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、位置P(x1,yc)を始点とし、位置P(x2,yc)を終点とする動きベクトルMV(n-2,n-1)を検出して、補間処理部43に供給する。
【0050】
また、動きベクトル検出部42は、図3B及び図3Cに示されるように、フレームメモリ41からのフレームn-1、及び外部からのフレームnに基づいて、位置P(x2,yc)を始点とし、位置P(x3,yc)を終点とする動きベクトルMV(n-1,n)を検出して、補間処理部43に供給する。
【0051】
補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)に基づいて、始点としての位置P(x1,yc)から、終点としての位置P(x2,yc)までの距離として、例えば、X軸方向の距離Dx(n-2,n-1)(=|x1-x2|)及びY軸方向の距離Dy(n-2,n-1)(=|yc-yc|)を算出する。
【0052】
そして、補間処理部43は、算出した距離Dx(n-2,n-1)を、予め決められた時間Tで除算して、フレームn-1上のオブジェクトにおけるX軸方向の速度v0x(=Dx(n-2,n-1)/T)を、初速度v0のX成分として算出する。
【0053】
ここで、時間Tとは、外部から入力される動画像において、フレーム(例えば、フレームn-2)を表示したときから次のフレーム(例えば、フレームn-1)を表示するまでに要する時間をいう。
【0054】
また、補間処理部43は、算出した距離Dy(n-2,n-1)を、予め決められた時間Tで除算して、フレームn-1上のオブジェクトにおけるY軸方向の速度v0y(=Dy(n-2,n-1)/T)を、初速度v0のY成分として算出する。
【0055】
さらに、補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-1,n)に基づいて、始点としての位置P(x2,yc)から、終点としての位置P(x3,yc)までの距離として、例えば、X軸方向の距離Dx(n-1,n)(=|x2-x3|)及びY軸方向の距離Dy(n-1,n)(=|yc-yc|)を算出する。
【0056】
そして、補間処理部43は、同様にして、フレームn上のオブジェクトにおける速度v1として、X軸方向の速度v1x(=Dx(n-1,n)/T)及びY軸方向の速度v1y(=Dy(n-1,n)/T)を算出する。
【0057】
補間処理部43は、算出した速度v0及び速度v1と、予め決められた時間Tに基づいて、オブジェクトの加速度a(=(v1-v0)/T)を算出する。すなわち、例えば、補間処理部43は、加速度aとして、X軸方向の加速度ax(=(v1x-v0x)/T)及びY軸方向の加速度ay(=(v1y-v0y)/T)を算出する。ここで、例えば、図3に示されるように、Y軸方向におけるオブジェクトの位置ycが一定である場合、補間フレーム上のオブジェクトにおけるY軸方向の位置は位置ycとなる。したがって、この場合、Y軸方向の位置はすでに決定されているので、例えば、補間処理部43は、X軸方向の加速度ax(=(v1x-v0x)/T)のみを算出して、算出した加速度axから、X軸方向のオブジェクトの位置を決定するようにしてもよい。
【0058】
なお、補間処理部43は、上述のように、動きベクトル検出部42からの動きベクトルMV(n-1,n)及び動きベクトルMV(n-2,n-1)に基づいて、初速度v0及び加速度aを算出するようにした。
【0059】
しかしながら、その他、例えば、動きベクトル検出部42において、図3Dに示されるようなフレームn+1も用いるようにして動きベクトルMV(n,n+1)を検出し、補間処理部43において、動きベクトルMV(n,n+1)も用いるようにして、初速度v0及び加速度aの算出精度を向上させるようにしてもよい。
【0060】
この場合、フレームメモリ41は、外部からのフレームを、1フレーム分及び2フレーム分だけ遅延させる他、3フレーム分だけ遅延させて出力することとなる。
【0061】
[オブジェクトの位置の決定方法]
次に、図4は、補間フレームf(n-1,n)に表示されるオブジェクトの位置を決定する決定方法の一例を示している。
【0062】
補間処理部43は、補間フレームf(n-2,n-1)上のオブジェクトの位置として、例えば、図4Aに示されるように、フレームn-2上のオブジェクトの位置P(x1,yc)と、フレームn-1上のオブジェクトの位置P(x2,yc)との中間位置P((x1+x2)/2,yc)を算出することはしない。
【0063】
すなわち、例えば、補間処理部43は、図4Bに示されるように、オブジェクトの加速度aに応じた位置を、補間フレーム上のオブジェクトの位置に決定する。
【0064】
具体的には、例えば、補間処理部43は、算出した初速度v0X及び加速度aXを、式(1)に適用して、補間フレームf(n-2,n-1)上のオブジェクトの変位量dxを算出する。
【0065】
補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-2,n-1)上のオブジェクトのX軸方向の位置X1(=x0+dx)を算出する。
【0066】
また、例えば、補間処理部43は、算出した初速度v0y及び加速度ayを、式(2)に適用して、補間フレームf(n-2,n-1)上のオブジェクトの変位量dyを算出する。
【0067】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-2,n-1)上のオブジェクトのY軸方向の位置yc(=y0+dy)を算出する。
【0068】
そして、補間処理部43は、算出したX軸方向の位置X1及びY軸方向の位置ycからなる位置P(X1,yc)を、補間フレームf(n-2,n-1)上のオブジェクトの位置に決定する。
【0069】
補間処理部43は、同様にして、補間フレームf(n-1,n)上のオブジェクトの位置P(X2,yc)、及び補間フレームf(n,n+1)上のオブジェクトの位置P(X3,yc)を決定する。
【0070】
これにより、本実施の形態では、図4Aに示されるように、単純に、フレーム上のオブジェクトの位置を中間位置とする場合とは異なり、図4Bに示されるように、オブジェクトの位置が、オブジェクトの加速度aに応じた自然な位置とされる。つまり、フレーム上のオブジェクトの位置は、自然法則にしたがって移動するオブジェクトの位置とされる。
【0071】
[画像処理装置21の動作説明]
次に、図5のフローチャートを参照して、画像処理装置21が行う補間処理について説明する。
【0072】
この補間処理は、例えば、外部から画像処理装置21に対して、動画像(を構成するフレーム)が入力されたときに開始される。
【0073】
ステップS21において、フレームメモリ41は、外部からのフレームnを1フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0074】
ステップS22において、フレームメモリ41は、外部からのフレームnを2フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0075】
すなわち、例えば、動きベクトル検出部42及び補間処理部43に、外部からフレームnが供給される場合、ステップS21及びステップS22の処理において、フレームメモリ41から動きベクトル検出部42及び補間処理部43に対して、フレームn-2及びフレームn-1が供給される。
【0076】
ステップS23において、動きベクトル検出部42は、フレームメモリ41からのフレームn-1及びフレームn-2に基づいて、ブロックマッチング等により、フレームn-2上のオブジェクトに対する、フレームn-1上のオブジェクトの動きを表す動きベクトルMV(n-2,n-1)を検出する。
【0077】
また、動きベクトル検出部42は、外部からのフレームn、及びフレームメモリ41からのフレームn-1に基づいて、ブロックマッチング等により、フレームn-1上のオブジェクトに対する、フレームn上のオブジェクトの動きを表す動きベクトルMV(n-1,n)を検出する。
【0078】
そして、動きベクトル検出部42は、検出した動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)を、補間処理部43に供給する。
【0079】
ステップS24において、補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)に基づいて、フレームn上のオブジェクトの初速度v0及び加速度aを算出する。
【0080】
なお、初速度v0は、X成分であるv0xとY成分であるv0yとに分解される。また、加速度aは、X成分であるaxとY成分であるayとに分解される。
【0081】
ステップS25では、補間処理部43は、算出した初速度v0x及び加速度axに式(1)を適用して、補間フレームf(n-1,n)上のオブジェクトの変位量dxを算出する。
【0082】
そして、補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のx(=x0+dx)を算出する。
【0083】
また、同様にして、補間処理部43は、算出した初速度v0y及び加速度ayを、次式(2)に適用して、補間フレームf(n-1,n)上のオブジェクトの変位量dyを算出する。
【0084】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のy(=y0+dy)を算出する。
【0085】
ステップS26では、補間処理部43は、外部からのフレームnと、フレームメモリ41からのフレームn-1に基づいて、式(1)及び式(2)により算出した位置(x,y)にオブジェクトが表示(描画)される補間フレームf(n-1,n)を生成する。そして、補間処理部43は、生成した補間フレームf(n-1,n)を、フレームn-1とフレームnとの間に補間する。
【0086】
なお、補間処理部43は、ステップS25及びステップS26において、補間フレームf(n-1,n)を生成して補間した場合と同様にして、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、補間フレームf(n-2,n-1)を生成し、フレームn-2とフレームn-1との間に補間する。
【0087】
補間処理部43は、補間フレームを補間後の動画像を出力する。そして、補間処理部43において、外部から入力された動画像を構成する各フレーム全てに対して処理が行われた後、補間処理は終了される。
【0088】
以上説明したように、補間処理では、オブジェクトの加速度aに応じた位置を算出し、その位置にオブジェクトを表示する補間フレームを生成するようにした。
【0089】
このため、補間処理では、オブジェクトの自然な動きを維持したまま、フレームレートを向上させることが可能となる。
【0090】
次に、図6乃至図8を参照して、X軸方向及びY軸方向のいずれの位置も変化するオブジェクトを対象として、補間フレーム上のオブジェクトの位置を決定する場合について説明する。
【0091】
図6は、X軸方向及びY軸方向のいずれの位置も変化するオブジェクトの一例を示している。図6において、位置P(x1,y1)は、フレームn-2上のオブジェクトの位置を、位置P(x2,y2)は、フレームn-1上のオブジェクトの位置を、位置P(x3,y3)は、フレームn上のオブジェクトの位置を、位置P(x4,y4)は、フレームn+1上のオブジェクトの位置をそれぞれ表している。
【0092】
次に、図7及び図8を参照して、補間フレーム上のオブジェクトの位置を、単純に中間位置に決定した場合と、オブジェクトの加速度aに応じて決定した場合との違いを説明する。
【0093】
図7は、従来のように、オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合の一例を示している。
【0094】
図7Aには、動画像を構成する各フレーム上のオブジェクトの位置P(x1,y1),P(x2,y2),P(x3,y3),P(x4,y4)から算出される中間位置(図7Aにおいて点線で示される丸印)を、補間フレーム上のオブジェクトの位置に決定する様子の一例が示されている。
【0095】
図7Bは、動画像を構成する各フレーム上のオブジェクトの位置P(x2,y2)と位置P(x3,y3)との中間位置P((x2+x3)/2,(y2+y3)/2)の一例を示している。
【0096】
図8は、オブジェクトの加速度aに応じて、オブジェクトの位置を決定する場合の一例を示している。
【0097】
図8Aには、式(1)及び式(2)等を用いて算出される位置(図8Aにおいて点線で示される丸印)を、補間フレーム上のオブジェクトの位置に決定する様子の一例が示されている。
【0098】
図8Bは、動画像を構成する各フレーム上のオブジェクトの位置P(x2,y2)と位置P(x3,y3)との間の位置として、式(1)及び式(2)等を用いて算出される位置P(X,Y)の一例を示している。この位置P(X,Y)は、自然法則にしたがって放物線を描くオブジェクトの動きに応じた位置とされる。
【0099】
図7に示されるように、オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合、オブジェクトの軌道が正しく補間されず、不自然なものとなる。
【0100】
これに対して、図8に示されるように、オブジェクトの動きに応じて、オブジェクトの位置を決定する場合には、オブジェクトの軌道が、オブジェクトの加速度aに従って補間されるため、自然なものとなる。
【0101】
<2.変形例>
本実施の形態では、動きベクトル検出部42は、1フレーム分だけ異なる2フレームを用いて、動きベクトルを検出するようにしたが、その他、例えば、複数のフレーム分だけ異なる2フレームを用いて、動きベクトルを検出するようにしてもよい。
【0102】
具体的には、例えば、動きベクトル検出部42は、フレームn-2とフレームnとを用いて、動きベクトルMV(n-2,n)を算出し、フレームnとフレームn+2とを用いて、動きベクトルMV(n,n+2)を算出するようにしてもよい。
【0103】
この場合、補間処理部43において、動きベクトルMV(n-2,n)と動きベクトルMV(n,n+2)とを用いて、初速度v0及び加速度aが算出され、算出された初速度v0及び加速度aに基づいて、補間フレーム上のオブジェクトの位置が決定される。
【0104】
本実施の形態では、補間処理部43は、算出した初速度v0及び加速度aを、式(1)及び式(2)に適用するようにして、補間フレーム上のオブジェクトの位置を決定するようにした。しかしながら、その他、例えば、補間処理部43は、予め決められた複数の補間曲線のうち、算出した加速度aに対応する補間曲線を用いて、補間フレーム上のオブジェクトの位置を決定するようにしてもよい。
【0105】
なお、複数の補間曲線は、異なる加速度毎に、例えば、補間処理部43が内蔵する図示せぬメモリ等に予め保持されているものとする。
【0106】
[補間曲線の一例]
次に、図9乃至図11を参照して、補間フレーム上のオブジェクトの位置を決定する際に用いる補間曲線の一例を示している。
【0107】
図9は、加速度a=0でX軸方向に等加速度運動(等速直線運動)をするオブジェクトの位置を表す補間曲線の一例を示している。
【0108】
なお、図9において、横軸はフレームが表示されるときの時刻を表し、縦軸はフレーム上のオブジェクトのX軸方向の位置を表す。
【0109】
補間曲線L(a=0)は、図9に示されるように、フレームAとフレームBとの間に補間される補間フレームf1,f2,f3,f4上のオブジェクトの位置P1,P2,P3,P4を示している。
【0110】
この位置P1,P2,P3,P4は、フレームA上のオブジェクトの位置P0と、フレームB上のオブジェクトの位置P5により相対的に決定されるものであり、加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を示している。
【0111】
補間曲線L(a=0)は、フレームAからフレームBまでの間において、オブジェクトの動きをより滑らかにするために、補間フレームf1乃至f4を補間する際に用いられる。
【0112】
補間曲線M(a=0)は、図9に示されるように、フレームAとフレームBとの間に補間される補間フレームf1,f2,f3,f4上のオブジェクトの位置P1',P2',P3',P4'を示している。
【0113】
この位置P1',P2',P3',P4'は、フレームA上のオブジェクトの位置P0と、フレームB上のオブジェクトの位置P5により相対的に決定されるものであり、加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を示している。
【0114】
補間曲線M(a=0)は、フレームAからフレームBまでの間において、オブジェクトの動きにジャダーを生じさせるようにして、補間フレームf1乃至f4を補間する際に用いられる。なお、補間曲線M(a=0)は、例えば、元のフレームA,Bに生じているジャダーを残すようにして、補間フレームを補間する場合に用いられる。
【0115】
次に、図10は、加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線L(a≠0)の一例を示している。
【0116】
補間処理部43は、図示せぬ内蔵のメモリ等に、例えば、図10に示されるような複数の補間曲線を、異なる加速度aそれぞれに対応付けて保持している。
【0117】
なお、図10では、右方向に記載の補間曲線Lほど、より大きな加速度aに対応付けられており、左方向に記載の補間曲線Lほど、より小さな加速度aに対応付けられているものとする。また、図10において、補間曲線Lは、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示している。
【0118】
したがって、例えば、補間処理部43は、算出した加速度aが大である程に、図中、右方向の補間曲線L(a>0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0119】
また、例えば、補間処理部43は、加速度aが小となる程に、図中、左方向の補間曲線L(a<0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置(x,y)を決定することとなる。
【0120】
なお、図10では、補間曲線Lにおいて、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示すようにしている。しかしながら、その他、例えば、加速度ax毎に、加速度axに対応するオブジェクトの位置xを示す第1の補間曲線Lと、加速度ay毎に、加速度ayに対応するオブジェクトの位置yを示す第2の補間曲線Lとを用意するようにしてもよい。
【0121】
この場合、補間処理部43は、X軸方向の加速度axを用いて、第1の補間曲線Lにより、オブジェクトの位置xを決定し、Y軸方向の加速度ayを用いて、第2の補間曲線Lにより、オブジェクトの位置yを決定することとなる。なお、このことは、後述する図11においても同様のことが言える。
【0122】
次に、図11は、加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線M(a≠0)の一例を示している。
【0123】
補間処理部43は、図示せぬ内蔵のメモリ等に、例えば、図11に示されるような複数の補間曲線を、異なる加速度aそれぞれに対応付けて保持している。
【0124】
なお、図11では、右方向に記載の補間曲線Mほど、より大きな加速度aに対応付けられており、左方向に記載の補間曲線Mほど、より小さな加速度aに対応付けられているものとする。また、図11において、補間曲線Mは、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示している。
【0125】
したがって、例えば、補間処理部43は、算出した加速度aが大である程に、図中、右方向の補間曲線M(a>0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0126】
また、例えば、補間処理部43は、加速度aが小となる程に、図中、左方向の補間曲線M(a<0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0127】
補間処理部43は、図9乃至図11を参照して説明したようにして、補間フレームf1乃至f4上のオブジェクトの位置を決定する場合には、式(1)及び式(2)等による計算をする必要がない。このため、より迅速に、補間フレームf1乃至f4上のオブジェクトの位置を決定することが可能となる。
【0128】
なお、画像処理装置21は、例えば、テレビジョン受像機やハードディスクレコーダ等として機能させることができる。
【0129】
また、本技術は以下のような構成もとることができる。
(1)複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部とを含む画像処理装置。
(2)前記第2の算出部は、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出する前記(1)に記載の画像処理装置。
(3)前記第1の算出部は、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出し、前記第2の算出部は、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出する前記(1)に記載の画像処理装置。
(4)前記第1の算出部は、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出する前記(1)乃至(3)に記載の画像処理装置。
【0130】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、プログラム記録媒体からインストールされる。
【0131】
[コンピュータの構成例]
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0132】
CPU(Central Processing Unit)201は、ROM(Read Only Memory)202、又は記憶部208に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)203には、CPU201が実行するプログラムやデータ等が適宜記憶される。これらのCPU201、ROM202、及びRAM203は、バス204により相互に接続されている。
【0133】
CPU201にはまた、バス204を介して入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207が接続されている。CPU201は、入力部206から入力される指令に対応して各種の処理を実行する。そして、CPU201は、処理の結果を出力部207に出力する。
【0134】
入出力インタフェース205に接続されている記憶部208は、例えばハードディスクからなり、CPU201が実行するプログラムや各種のデータを記憶する。通信部209は、インタネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
【0135】
また、通信部209を介してプログラムを取得し、記憶部208に記憶してもよい。
【0136】
入出力インタフェース205に接続されているドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部208に転送され、記憶される。
【0137】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図12に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア211、又は、プログラムが一時的もしくは永続的に格納されるROM202や、記憶部208を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部209を介して、ローカルエリアネットワーク、インタネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
【0138】
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0139】
また、本開示は、上述した本実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0140】
21 画像処理装置, 41 フレームメモリ, 42 動きベクトル検出部, 43 補間処理部, 44 制御部, 45 操作部
【技術分野】
【0001】
本開示は、画像処理装置、画像処理方法、及びプログラムに関し、特に、例えば、画像上のオブジェクトの自然な動きを維持したまま、フレームレート(又はフィールドレート)を向上させるようにした画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
複数のフレーム(又はフィールド)により構成される動画像に、新たなフレームを補間してフレームレートを向上させるフレーム補間処理が存在する(例えば、特許文献1参照)。
【0003】
このフレーム補間処理では、例えば、動画像を構成する各フレームのうち、第1のフレーム上のオブジェクトに対する、第2のフレーム上のオブジェクトの動きを表す動きベクトルを検出する。なお、第2のフレームは、第1のフレームに連続する次のフレームを表す。
【0004】
また、フレーム補間処理では、検出した動きベクトルに基づいて、図1に示されるように、第1のフレーム上のオブジェクトの位置P(x1,yc)と、第2のフレーム上のオブジェクトの位置P(x2,yc)との中間位置P((x1+x2)/2,yc)を算出する。
【0005】
そして、算出した中間位置P((x1+x2)/2,yc)にオブジェクトを表示するフレームを、補間フレームとして、第1のフレームと第2のフレームとの間に補間し、フレームレートを向上させるようにしている。
【0006】
なお、第2のフレームと、第2のフレームに連続する次のフレームを表す第3のフレームとの間には、中間位置P((x2+x3)/2,yc)にオブジェクトを表示する補間フレームが補間される。ここで、中間位置P((x2+x3)/2,yc)とは、第2のフレーム上のオブジェクトの位置P(x2,yc)と、第3のフレーム上のオブジェクトの位置P(x3,yc)との中間位置を表す。
【0007】
また、第3のフレームと、第3のフレームに連続する次のフレームを表す第4のフレームとの間には、中間位置P((x3+x4)/2,yc)にオブジェクトを表示する補間フレームが補間される。ここで、中間位置P((x3+x4)/2,yc)とは、第3のフレーム上のオブジェクトの位置P(x3,yc)と、第4のフレーム上のオブジェクトの位置P(x4,yc)との中間位置を表す。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2007−288681号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
上述のフレーム補間処理では、オブジェクトの動きに拘らず、例えば、第1のフレームと第2のフレームとの間に補間される補間フレーム上のオブジェクトの位置を、単純に中間位置P((x1+x2)/2,yc)としている。
【0010】
このため、例えば、オブジェクトが加速度a(≠0)で等加速度運動をしている場合には、実際にオブジェクトがあるべき自然法則上の位置と、フレーム補間処理において算出される補間フレーム上のオブジェクトの位置とが異なるものになる。
【0011】
したがって、フレーム補間処理後の動画像において、画像上のオブジェクトの動きが非常に不自然なものとなってしまう。
【0012】
本開示は、このような状況に鑑みてなされたものであり、画像上のオブジェクトの自然な動きを維持したまま、フレームレートを向上させるようにするものである。
【課題を解決するための手段】
【0013】
本開示の一側面の画像処理装置は、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部とを含む画像処理装置である。
【0014】
前記第2の算出部には、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出させることができる。
【0015】
前記第1の算出部には、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出させ、前記第2の算出部には、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出させることができる。
【0016】
前記第1の算出部には、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出させることができる。
【0017】
本開示の一側面の画像処理方法は、時間方向に隣接する各画像の間に補間画像を補間する画像処理装置の画像処理方法であって、前記画像処理装置による、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出ステップと、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出ステップと、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出ステップと、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理ステップとを含む画像処理方法である。
【0018】
本開示の一側面のプログラムは、コンピュータを、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部として機能させるためのプログラムである。
【0019】
本開示によれば、複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルが検出され、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度が算出され、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置が算出され、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像が補間される。
【発明の効果】
【0020】
本開示によれば、画像上のオブジェクトの自然な動きを維持したまま、フレームレートを向上させることが可能となる。
【図面の簡単な説明】
【0021】
【図1】従来のフレーム補間処理を説明するための図である。
【図2】本開示における画像処理装置の構成例を示すブロック図である。
【図3】初速度及び加速度を算出する算出方法の一例を説明するための図である。
【図4】補間フレームに表示されるオブジェクトの位置を決定する決定方法の一例を示す図である。
【図5】画像処理装置が行う補間処理を説明するためのフローチャートである。
【図6】X軸方向及びY軸方向のいずれの位置も変化するオブジェクトの一例を示す図である。
【図7】オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合の一例を示す図である。
【図8】オブジェクトの動きに応じて、オブジェクトの位置を決定する場合の一例を示す図である。
【図9】加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線の一例を示す図である。
【図10】加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線L(a≠0)の一例を示す図である。
【図11】加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線M(a≠0)の一例を示す図である。
【図12】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【0022】
以下、本開示における実施の形態(以下、本実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.本実施の形態(画像上のオブジェクトの加速度に応じて、補間される補間フレーム上のオブジェクトの位置を算出する場合の一例)
2.変形例
【0023】
<1.本実施の形態>
[画像処理装置21の構成例]
図2は、本開示における画像処理装置21の構成例を示している。
【0024】
なお、この画像処理装置21は、例えば、画像上のオブジェクトの自然な動きを維持したままフレームレートを向上させるものである。
【0025】
画像処理装置21は、フレームメモリ41、動きベクトル検出部42、補間処理部43、制御部44、及び操作部45から構成される。
【0026】
画像処理装置21には、外部から、複数のフレーム(又はフィールド)により構成される動画像が入力される。すなわち、フレームメモリ41、動きベクトル検出部42、及び補間処理部43には、適宜、外部からn番目に入力されたフレームnが供給される。
【0027】
フレームメモリ41は、外部からのフレームnを、1フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。また、フレームメモリ41は、外部からのフレームnを、2フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0028】
すなわち、例えば、動きベクトル検出部42及び補間処理部43に対して、外部からのフレームnが供給されるときに、フレームメモリ41は、フレームn-1及びフレームn-2を、動きベクトル検出部42及び補間処理部43に供給する。
【0029】
動きベクトル検出部42は、例えば、フレームメモリ41からのフレームn-1及びフレームn-2に基づいて、ブロックマッチング等により、フレームn-2上のオブジェクトに対する、フレームn-1上のオブジェクトの動きを表す動きベクトルMV(n-2,n-1)を検出する。
【0030】
また、例えば、動きベクトル検出部42は、外部からのフレームn、及びフレームメモリ41からのフレームn-1に基づいて、ブロックマッチング等により、フレームn-1上のオブジェクトに対する、フレームn上のオブジェクトの動きを表す動きベクトルMV(n-1,n)を検出する。
【0031】
そして、動きベクトル検出部42は、検出した動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)を、補間処理部43に供給する。
【0032】
補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)に基づいて、フレームn上のオブジェクトの初速度v0及び加速度aを算出する。
【0033】
なお、フレームnにおいて、水平方向をX方向とし、垂直方向をY方向とした場合、初速度v0は、X成分としてのv0xと、Y成分としてのv0yとに分解される。また、加速度aは、X成分としてのaxと、Y成分としてのayとに分解される。
【0034】
補間処理部43は、算出した初速度v0x及び加速度axを、次式(1)に適用して、フレームn-1とフレームnとの間に補間されて時刻tで表示される補間フレームf(n-1,n)上のオブジェクトの変位量dxを算出する。
dx = v0x×t + ax/2×t2 ・・・(1)
【0035】
ここで、変位量dxとは、例えば、時刻t=0におけるフレーム上のオブジェクトの位置(x0,y0)のx0を基準位置x0とした場合、基準位置x0に対する、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)におけるxの変位量(変化量)をいう。
【0036】
補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のx(=x0+dx)を算出する。
【0037】
また、同様にして、補間処理部43は、算出した初速度v0y及び加速度ayを、次式(2)に適用して、フレームn-1とフレームnとの間に補間されて時刻tで表示される補間フレームf(n-1,n)上のオブジェクトの変位量dyを算出する。
dy = v0y×t + ay/2×t2 ・・・(2)
【0038】
ここで、変位量dyとは、例えば、時刻t=0におけるフレーム上のオブジェクトの位置(x0,y0)のy0を基準位置y0とした場合、基準位置y0に対する、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)におけるyの変位量(変化量)をいう。
【0039】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のy(=y0+dy)を算出する。
【0040】
また、補間処理部43は、外部からのフレームnと、フレームメモリ41からのフレームn-1に基づいて、式(1)及び式(2)により算出した位置(x,y)にオブジェクトが表示(描画)される補間フレームf(n-1,n)を生成する。そして、補間処理部43は、生成した補間フレームf(n-1,n)を、フレームn-1とフレームnとの間に補間する。
【0041】
補間処理部43は、補間フレームf(n-1,n)を生成した補間した場合と同様にして、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、補間フレームf(n-2,n-1)を生成し、フレームn-2とフレームn-1との間に補間する。
【0042】
補間処理部43は、補間フレームを補間後の動画像を出力する。
【0043】
制御部44は、例えば、操作部45からの操作信号に応じて、フレームメモリ41、動きベクトル検出部42、及び補間処理部43を制御する。
【0044】
操作部45は、例えば操作ボタン等からなり、ユーザに操作されたことに対応して、対応する操作信号を制御部44に供給する。
【0045】
[初速度v0及び加速度aの算出方法]
次に、図3を参照して、初速度v0及び加速度aを算出する算出方法の一例を説明する。
【0046】
図3Aには、位置P(x1,yc)にオブジェクトが表示されるフレームn-2が示されている。なお、位置P(x1,yc)は、フレームn-2における左下の位置を原点(0,0)とし、水平方向をX軸とし、垂直方向をY軸としたXY軸により表される。このことは、図3B乃至図3D及び図4の他、後述する図6乃至図8についても同様である。
【0047】
また、図3Aに示されるフレームn-2が表示される時刻tは、式(1)及び(2)において0とされる。すなわち、フレームn-2上のオブジェクトの位置P(x1,yc)が基準位置、つまり、X軸方向の基準位置x0=x1とされ、X軸方向の基準位置y0=ycとされる。
【0048】
図3Bには、位置P(x2,yc)にオブジェクトが表示されるフレームn-1が示されている。図3Cには、位置P(x3,yc)にオブジェクトが表示されるフレームnが示されている。図3Dには、位置P(x4,yc)にオブジェクトが表示されるフレームn+1が示されている。
【0049】
動きベクトル検出部42は、図3A及び図3Bに示されるように、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、位置P(x1,yc)を始点とし、位置P(x2,yc)を終点とする動きベクトルMV(n-2,n-1)を検出して、補間処理部43に供給する。
【0050】
また、動きベクトル検出部42は、図3B及び図3Cに示されるように、フレームメモリ41からのフレームn-1、及び外部からのフレームnに基づいて、位置P(x2,yc)を始点とし、位置P(x3,yc)を終点とする動きベクトルMV(n-1,n)を検出して、補間処理部43に供給する。
【0051】
補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)に基づいて、始点としての位置P(x1,yc)から、終点としての位置P(x2,yc)までの距離として、例えば、X軸方向の距離Dx(n-2,n-1)(=|x1-x2|)及びY軸方向の距離Dy(n-2,n-1)(=|yc-yc|)を算出する。
【0052】
そして、補間処理部43は、算出した距離Dx(n-2,n-1)を、予め決められた時間Tで除算して、フレームn-1上のオブジェクトにおけるX軸方向の速度v0x(=Dx(n-2,n-1)/T)を、初速度v0のX成分として算出する。
【0053】
ここで、時間Tとは、外部から入力される動画像において、フレーム(例えば、フレームn-2)を表示したときから次のフレーム(例えば、フレームn-1)を表示するまでに要する時間をいう。
【0054】
また、補間処理部43は、算出した距離Dy(n-2,n-1)を、予め決められた時間Tで除算して、フレームn-1上のオブジェクトにおけるY軸方向の速度v0y(=Dy(n-2,n-1)/T)を、初速度v0のY成分として算出する。
【0055】
さらに、補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-1,n)に基づいて、始点としての位置P(x2,yc)から、終点としての位置P(x3,yc)までの距離として、例えば、X軸方向の距離Dx(n-1,n)(=|x2-x3|)及びY軸方向の距離Dy(n-1,n)(=|yc-yc|)を算出する。
【0056】
そして、補間処理部43は、同様にして、フレームn上のオブジェクトにおける速度v1として、X軸方向の速度v1x(=Dx(n-1,n)/T)及びY軸方向の速度v1y(=Dy(n-1,n)/T)を算出する。
【0057】
補間処理部43は、算出した速度v0及び速度v1と、予め決められた時間Tに基づいて、オブジェクトの加速度a(=(v1-v0)/T)を算出する。すなわち、例えば、補間処理部43は、加速度aとして、X軸方向の加速度ax(=(v1x-v0x)/T)及びY軸方向の加速度ay(=(v1y-v0y)/T)を算出する。ここで、例えば、図3に示されるように、Y軸方向におけるオブジェクトの位置ycが一定である場合、補間フレーム上のオブジェクトにおけるY軸方向の位置は位置ycとなる。したがって、この場合、Y軸方向の位置はすでに決定されているので、例えば、補間処理部43は、X軸方向の加速度ax(=(v1x-v0x)/T)のみを算出して、算出した加速度axから、X軸方向のオブジェクトの位置を決定するようにしてもよい。
【0058】
なお、補間処理部43は、上述のように、動きベクトル検出部42からの動きベクトルMV(n-1,n)及び動きベクトルMV(n-2,n-1)に基づいて、初速度v0及び加速度aを算出するようにした。
【0059】
しかしながら、その他、例えば、動きベクトル検出部42において、図3Dに示されるようなフレームn+1も用いるようにして動きベクトルMV(n,n+1)を検出し、補間処理部43において、動きベクトルMV(n,n+1)も用いるようにして、初速度v0及び加速度aの算出精度を向上させるようにしてもよい。
【0060】
この場合、フレームメモリ41は、外部からのフレームを、1フレーム分及び2フレーム分だけ遅延させる他、3フレーム分だけ遅延させて出力することとなる。
【0061】
[オブジェクトの位置の決定方法]
次に、図4は、補間フレームf(n-1,n)に表示されるオブジェクトの位置を決定する決定方法の一例を示している。
【0062】
補間処理部43は、補間フレームf(n-2,n-1)上のオブジェクトの位置として、例えば、図4Aに示されるように、フレームn-2上のオブジェクトの位置P(x1,yc)と、フレームn-1上のオブジェクトの位置P(x2,yc)との中間位置P((x1+x2)/2,yc)を算出することはしない。
【0063】
すなわち、例えば、補間処理部43は、図4Bに示されるように、オブジェクトの加速度aに応じた位置を、補間フレーム上のオブジェクトの位置に決定する。
【0064】
具体的には、例えば、補間処理部43は、算出した初速度v0X及び加速度aXを、式(1)に適用して、補間フレームf(n-2,n-1)上のオブジェクトの変位量dxを算出する。
【0065】
補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-2,n-1)上のオブジェクトのX軸方向の位置X1(=x0+dx)を算出する。
【0066】
また、例えば、補間処理部43は、算出した初速度v0y及び加速度ayを、式(2)に適用して、補間フレームf(n-2,n-1)上のオブジェクトの変位量dyを算出する。
【0067】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-2,n-1)上のオブジェクトのY軸方向の位置yc(=y0+dy)を算出する。
【0068】
そして、補間処理部43は、算出したX軸方向の位置X1及びY軸方向の位置ycからなる位置P(X1,yc)を、補間フレームf(n-2,n-1)上のオブジェクトの位置に決定する。
【0069】
補間処理部43は、同様にして、補間フレームf(n-1,n)上のオブジェクトの位置P(X2,yc)、及び補間フレームf(n,n+1)上のオブジェクトの位置P(X3,yc)を決定する。
【0070】
これにより、本実施の形態では、図4Aに示されるように、単純に、フレーム上のオブジェクトの位置を中間位置とする場合とは異なり、図4Bに示されるように、オブジェクトの位置が、オブジェクトの加速度aに応じた自然な位置とされる。つまり、フレーム上のオブジェクトの位置は、自然法則にしたがって移動するオブジェクトの位置とされる。
【0071】
[画像処理装置21の動作説明]
次に、図5のフローチャートを参照して、画像処理装置21が行う補間処理について説明する。
【0072】
この補間処理は、例えば、外部から画像処理装置21に対して、動画像(を構成するフレーム)が入力されたときに開始される。
【0073】
ステップS21において、フレームメモリ41は、外部からのフレームnを1フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0074】
ステップS22において、フレームメモリ41は、外部からのフレームnを2フレーム分だけ遅延させて、動きベクトル検出部42及び補間処理部43に供給する。
【0075】
すなわち、例えば、動きベクトル検出部42及び補間処理部43に、外部からフレームnが供給される場合、ステップS21及びステップS22の処理において、フレームメモリ41から動きベクトル検出部42及び補間処理部43に対して、フレームn-2及びフレームn-1が供給される。
【0076】
ステップS23において、動きベクトル検出部42は、フレームメモリ41からのフレームn-1及びフレームn-2に基づいて、ブロックマッチング等により、フレームn-2上のオブジェクトに対する、フレームn-1上のオブジェクトの動きを表す動きベクトルMV(n-2,n-1)を検出する。
【0077】
また、動きベクトル検出部42は、外部からのフレームn、及びフレームメモリ41からのフレームn-1に基づいて、ブロックマッチング等により、フレームn-1上のオブジェクトに対する、フレームn上のオブジェクトの動きを表す動きベクトルMV(n-1,n)を検出する。
【0078】
そして、動きベクトル検出部42は、検出した動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)を、補間処理部43に供給する。
【0079】
ステップS24において、補間処理部43は、動きベクトル検出部42からの動きベクトルMV(n-2,n-1)及び動きベクトルMV(n-1,n)に基づいて、フレームn上のオブジェクトの初速度v0及び加速度aを算出する。
【0080】
なお、初速度v0は、X成分であるv0xとY成分であるv0yとに分解される。また、加速度aは、X成分であるaxとY成分であるayとに分解される。
【0081】
ステップS25では、補間処理部43は、算出した初速度v0x及び加速度axに式(1)を適用して、補間フレームf(n-1,n)上のオブジェクトの変位量dxを算出する。
【0082】
そして、補間処理部43は、式(1)を用いて算出される変位量dxと基準位置x0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のx(=x0+dx)を算出する。
【0083】
また、同様にして、補間処理部43は、算出した初速度v0y及び加速度ayを、次式(2)に適用して、補間フレームf(n-1,n)上のオブジェクトの変位量dyを算出する。
【0084】
補間処理部43は、式(2)を用いて算出される変位量dyと基準位置y0とに基づいて、補間フレームf(n-1,n)上のオブジェクトの位置(x,y)のy(=y0+dy)を算出する。
【0085】
ステップS26では、補間処理部43は、外部からのフレームnと、フレームメモリ41からのフレームn-1に基づいて、式(1)及び式(2)により算出した位置(x,y)にオブジェクトが表示(描画)される補間フレームf(n-1,n)を生成する。そして、補間処理部43は、生成した補間フレームf(n-1,n)を、フレームn-1とフレームnとの間に補間する。
【0086】
なお、補間処理部43は、ステップS25及びステップS26において、補間フレームf(n-1,n)を生成して補間した場合と同様にして、フレームメモリ41からのフレームn-2及びフレームn-1に基づいて、補間フレームf(n-2,n-1)を生成し、フレームn-2とフレームn-1との間に補間する。
【0087】
補間処理部43は、補間フレームを補間後の動画像を出力する。そして、補間処理部43において、外部から入力された動画像を構成する各フレーム全てに対して処理が行われた後、補間処理は終了される。
【0088】
以上説明したように、補間処理では、オブジェクトの加速度aに応じた位置を算出し、その位置にオブジェクトを表示する補間フレームを生成するようにした。
【0089】
このため、補間処理では、オブジェクトの自然な動きを維持したまま、フレームレートを向上させることが可能となる。
【0090】
次に、図6乃至図8を参照して、X軸方向及びY軸方向のいずれの位置も変化するオブジェクトを対象として、補間フレーム上のオブジェクトの位置を決定する場合について説明する。
【0091】
図6は、X軸方向及びY軸方向のいずれの位置も変化するオブジェクトの一例を示している。図6において、位置P(x1,y1)は、フレームn-2上のオブジェクトの位置を、位置P(x2,y2)は、フレームn-1上のオブジェクトの位置を、位置P(x3,y3)は、フレームn上のオブジェクトの位置を、位置P(x4,y4)は、フレームn+1上のオブジェクトの位置をそれぞれ表している。
【0092】
次に、図7及び図8を参照して、補間フレーム上のオブジェクトの位置を、単純に中間位置に決定した場合と、オブジェクトの加速度aに応じて決定した場合との違いを説明する。
【0093】
図7は、従来のように、オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合の一例を示している。
【0094】
図7Aには、動画像を構成する各フレーム上のオブジェクトの位置P(x1,y1),P(x2,y2),P(x3,y3),P(x4,y4)から算出される中間位置(図7Aにおいて点線で示される丸印)を、補間フレーム上のオブジェクトの位置に決定する様子の一例が示されている。
【0095】
図7Bは、動画像を構成する各フレーム上のオブジェクトの位置P(x2,y2)と位置P(x3,y3)との中間位置P((x2+x3)/2,(y2+y3)/2)の一例を示している。
【0096】
図8は、オブジェクトの加速度aに応じて、オブジェクトの位置を決定する場合の一例を示している。
【0097】
図8Aには、式(1)及び式(2)等を用いて算出される位置(図8Aにおいて点線で示される丸印)を、補間フレーム上のオブジェクトの位置に決定する様子の一例が示されている。
【0098】
図8Bは、動画像を構成する各フレーム上のオブジェクトの位置P(x2,y2)と位置P(x3,y3)との間の位置として、式(1)及び式(2)等を用いて算出される位置P(X,Y)の一例を示している。この位置P(X,Y)は、自然法則にしたがって放物線を描くオブジェクトの動きに応じた位置とされる。
【0099】
図7に示されるように、オブジェクトの動きに拘わらず、オブジェクトの位置を中間位置に決定する場合、オブジェクトの軌道が正しく補間されず、不自然なものとなる。
【0100】
これに対して、図8に示されるように、オブジェクトの動きに応じて、オブジェクトの位置を決定する場合には、オブジェクトの軌道が、オブジェクトの加速度aに従って補間されるため、自然なものとなる。
【0101】
<2.変形例>
本実施の形態では、動きベクトル検出部42は、1フレーム分だけ異なる2フレームを用いて、動きベクトルを検出するようにしたが、その他、例えば、複数のフレーム分だけ異なる2フレームを用いて、動きベクトルを検出するようにしてもよい。
【0102】
具体的には、例えば、動きベクトル検出部42は、フレームn-2とフレームnとを用いて、動きベクトルMV(n-2,n)を算出し、フレームnとフレームn+2とを用いて、動きベクトルMV(n,n+2)を算出するようにしてもよい。
【0103】
この場合、補間処理部43において、動きベクトルMV(n-2,n)と動きベクトルMV(n,n+2)とを用いて、初速度v0及び加速度aが算出され、算出された初速度v0及び加速度aに基づいて、補間フレーム上のオブジェクトの位置が決定される。
【0104】
本実施の形態では、補間処理部43は、算出した初速度v0及び加速度aを、式(1)及び式(2)に適用するようにして、補間フレーム上のオブジェクトの位置を決定するようにした。しかしながら、その他、例えば、補間処理部43は、予め決められた複数の補間曲線のうち、算出した加速度aに対応する補間曲線を用いて、補間フレーム上のオブジェクトの位置を決定するようにしてもよい。
【0105】
なお、複数の補間曲線は、異なる加速度毎に、例えば、補間処理部43が内蔵する図示せぬメモリ等に予め保持されているものとする。
【0106】
[補間曲線の一例]
次に、図9乃至図11を参照して、補間フレーム上のオブジェクトの位置を決定する際に用いる補間曲線の一例を示している。
【0107】
図9は、加速度a=0でX軸方向に等加速度運動(等速直線運動)をするオブジェクトの位置を表す補間曲線の一例を示している。
【0108】
なお、図9において、横軸はフレームが表示されるときの時刻を表し、縦軸はフレーム上のオブジェクトのX軸方向の位置を表す。
【0109】
補間曲線L(a=0)は、図9に示されるように、フレームAとフレームBとの間に補間される補間フレームf1,f2,f3,f4上のオブジェクトの位置P1,P2,P3,P4を示している。
【0110】
この位置P1,P2,P3,P4は、フレームA上のオブジェクトの位置P0と、フレームB上のオブジェクトの位置P5により相対的に決定されるものであり、加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を示している。
【0111】
補間曲線L(a=0)は、フレームAからフレームBまでの間において、オブジェクトの動きをより滑らかにするために、補間フレームf1乃至f4を補間する際に用いられる。
【0112】
補間曲線M(a=0)は、図9に示されるように、フレームAとフレームBとの間に補間される補間フレームf1,f2,f3,f4上のオブジェクトの位置P1',P2',P3',P4'を示している。
【0113】
この位置P1',P2',P3',P4'は、フレームA上のオブジェクトの位置P0と、フレームB上のオブジェクトの位置P5により相対的に決定されるものであり、加速度a=0でX軸方向に等加速度運動をするオブジェクトの位置を示している。
【0114】
補間曲線M(a=0)は、フレームAからフレームBまでの間において、オブジェクトの動きにジャダーを生じさせるようにして、補間フレームf1乃至f4を補間する際に用いられる。なお、補間曲線M(a=0)は、例えば、元のフレームA,Bに生じているジャダーを残すようにして、補間フレームを補間する場合に用いられる。
【0115】
次に、図10は、加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線L(a≠0)の一例を示している。
【0116】
補間処理部43は、図示せぬ内蔵のメモリ等に、例えば、図10に示されるような複数の補間曲線を、異なる加速度aそれぞれに対応付けて保持している。
【0117】
なお、図10では、右方向に記載の補間曲線Lほど、より大きな加速度aに対応付けられており、左方向に記載の補間曲線Lほど、より小さな加速度aに対応付けられているものとする。また、図10において、補間曲線Lは、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示している。
【0118】
したがって、例えば、補間処理部43は、算出した加速度aが大である程に、図中、右方向の補間曲線L(a>0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0119】
また、例えば、補間処理部43は、加速度aが小となる程に、図中、左方向の補間曲線L(a<0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置(x,y)を決定することとなる。
【0120】
なお、図10では、補間曲線Lにおいて、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示すようにしている。しかしながら、その他、例えば、加速度ax毎に、加速度axに対応するオブジェクトの位置xを示す第1の補間曲線Lと、加速度ay毎に、加速度ayに対応するオブジェクトの位置yを示す第2の補間曲線Lとを用意するようにしてもよい。
【0121】
この場合、補間処理部43は、X軸方向の加速度axを用いて、第1の補間曲線Lにより、オブジェクトの位置xを決定し、Y軸方向の加速度ayを用いて、第2の補間曲線Lにより、オブジェクトの位置yを決定することとなる。なお、このことは、後述する図11においても同様のことが言える。
【0122】
次に、図11は、加速度a≠0でX軸方向に等加速度運動をするオブジェクトの位置を表す補間曲線M(a≠0)の一例を示している。
【0123】
補間処理部43は、図示せぬ内蔵のメモリ等に、例えば、図11に示されるような複数の補間曲線を、異なる加速度aそれぞれに対応付けて保持している。
【0124】
なお、図11では、右方向に記載の補間曲線Mほど、より大きな加速度aに対応付けられており、左方向に記載の補間曲線Mほど、より小さな加速度aに対応付けられているものとする。また、図11において、補間曲線Mは、異なる加速度a毎に、加速度aに対応するオブジェクトの位置(x,y)を示している。
【0125】
したがって、例えば、補間処理部43は、算出した加速度aが大である程に、図中、右方向の補間曲線M(a>0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0126】
また、例えば、補間処理部43は、加速度aが小となる程に、図中、左方向の補間曲線M(a<0)を用いて、補間フレームf1乃至f4上のオブジェクトの位置を決定することとなる。
【0127】
補間処理部43は、図9乃至図11を参照して説明したようにして、補間フレームf1乃至f4上のオブジェクトの位置を決定する場合には、式(1)及び式(2)等による計算をする必要がない。このため、より迅速に、補間フレームf1乃至f4上のオブジェクトの位置を決定することが可能となる。
【0128】
なお、画像処理装置21は、例えば、テレビジョン受像機やハードディスクレコーダ等として機能させることができる。
【0129】
また、本技術は以下のような構成もとることができる。
(1)複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部とを含む画像処理装置。
(2)前記第2の算出部は、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出する前記(1)に記載の画像処理装置。
(3)前記第1の算出部は、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出し、前記第2の算出部は、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出する前記(1)に記載の画像処理装置。
(4)前記第1の算出部は、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出する前記(1)乃至(3)に記載の画像処理装置。
【0130】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、又は、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、プログラム記録媒体からインストールされる。
【0131】
[コンピュータの構成例]
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0132】
CPU(Central Processing Unit)201は、ROM(Read Only Memory)202、又は記憶部208に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)203には、CPU201が実行するプログラムやデータ等が適宜記憶される。これらのCPU201、ROM202、及びRAM203は、バス204により相互に接続されている。
【0133】
CPU201にはまた、バス204を介して入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207が接続されている。CPU201は、入力部206から入力される指令に対応して各種の処理を実行する。そして、CPU201は、処理の結果を出力部207に出力する。
【0134】
入出力インタフェース205に接続されている記憶部208は、例えばハードディスクからなり、CPU201が実行するプログラムや各種のデータを記憶する。通信部209は、インタネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
【0135】
また、通信部209を介してプログラムを取得し、記憶部208に記憶してもよい。
【0136】
入出力インタフェース205に接続されているドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部208に転送され、記憶される。
【0137】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図12に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア211、又は、プログラムが一時的もしくは永続的に格納されるROM202や、記憶部208を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部209を介して、ローカルエリアネットワーク、インタネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
【0138】
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0139】
また、本開示は、上述した本実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0140】
21 画像処理装置, 41 フレームメモリ, 42 動きベクトル検出部, 43 補間処理部, 44 制御部, 45 操作部
【特許請求の範囲】
【請求項1】
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部と
を含む画像処理装置。
【請求項2】
前記第2の算出部は、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出する
請求項1に記載の画像処理装置。
【請求項3】
前記第1の算出部は、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出し、
前記第2の算出部は、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出する
請求項1に記載の画像処理装置。
【請求項4】
前記第1の算出部は、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出する
請求項1に記載の画像処理装置。
【請求項5】
時間方向に隣接する各画像の間に補間画像を補間する画像処理装置の画像処理方法において、
前記画像処理装置による、
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出ステップと、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出ステップと、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出ステップと、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理ステップと
を含む画像処理方法。
【請求項6】
コンピュータを、
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部と
して機能させるためのプログラム。
【請求項1】
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部と
を含む画像処理装置。
【請求項2】
前記第2の算出部は、前記補間画像上の前記オブジェクト位置をそれぞれ表す複数の補間曲線のうち、前記加速度に対応する補間曲線に基づいて、前記オブジェクト位置を算出する
請求項1に記載の画像処理装置。
【請求項3】
前記第1の算出部は、前記動きベクトルに基づいて、前記画像上のオブジェクトの初速度も算出し、
前記第2の算出部は、前記加速度及び前記初速度に基づいて、前記補間画像上の前記オブジェクト位置を算出する
請求項1に記載の画像処理装置。
【請求項4】
前記第1の算出部は、前記複数の動きベクトルに基づいて、水平方向又は垂直方向の少なくとも一方の前記加速度を算出する
請求項1に記載の画像処理装置。
【請求項5】
時間方向に隣接する各画像の間に補間画像を補間する画像処理装置の画像処理方法において、
前記画像処理装置による、
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出ステップと、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出ステップと、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出ステップと、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理ステップと
を含む画像処理方法。
【請求項6】
コンピュータを、
複数の画像のうち、第1の画像と、前記第1の画像とは異なる第2の画像に基づいて、前記第1の画像上のオブジェクトに対する、前記第2の画像上のオブジェクトの動きを表す動きベクトルを検出する動きベクトル検出部と、
複数の前記動きベクトルに基づいて、前記画像上のオブジェクトの加速度を算出する第1の算出部と、
前記加速度に基づいて、前記複数の画像のうち、時間方向に隣接する各画像の間に補間される補間画像上のオブジェクトの位置を表すオブジェクト位置を算出する第2の算出部と、
前記オブジェクト位置に前記オブジェクトが描画された前記補間画像を補間する補間処理部と
して機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2012−253492(P2012−253492A)
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願番号】特願2011−123371(P2011−123371)
【出願日】平成23年6月1日(2011.6.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願日】平成23年6月1日(2011.6.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]