動きベクトル検出装置及び方法、並びに、映像信号処理装置及び方法
【課題】プルダウン変換された3D映像信号であっても、動きベクトルを高精度に検出することできる動きベクトル検出装置を提供する。
【解決手段】プルダウン検出部1は、3D映像信号F0がプルダウン変換された映像信号であるか否かを検出する。LR分離部3は、同じ画像内容のそれぞれのフレームにおける左右の映像信号とを分離してLR分離信号Me0を出力する。フレーム遅延LR分離部2は、1繰り返し期間前のフレームにおける左右の映像信号とを分離したフレーム遅延LR分離信号Me1を出力する。動きベクトル検出部MVDは、左右の映像信号の動きベクトルMV1を検出する。LR結合部8は、左右の映像信号の動きベクトルMV1を結合して動きベクトルMVとして出力する。
【解決手段】プルダウン検出部1は、3D映像信号F0がプルダウン変換された映像信号であるか否かを検出する。LR分離部3は、同じ画像内容のそれぞれのフレームにおける左右の映像信号とを分離してLR分離信号Me0を出力する。フレーム遅延LR分離部2は、1繰り返し期間前のフレームにおける左右の映像信号とを分離したフレーム遅延LR分離信号Me1を出力する。動きベクトル検出部MVDは、左右の映像信号の動きベクトルMV1を検出する。LR結合部8は、左右の映像信号の動きベクトルMV1を結合して動きベクトルMVとして出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の動きベクトルを検出する動きベクトル検出装置及び方法、並びに、動きベクトルを用いて動き補償フレームを生成する映像信号処理装置及び方法に関する。
【背景技術】
【0002】
液晶パネルを用いた画像表示装置で動画像を表示すると残像が生じやすい。そこで、残像を低減させて動画特性を向上させるために、映像信号の実フレーム間に補間フレームを内挿してフレーム数を増大させ、例えば垂直周波数60Hzのフレームレートを2倍の120Hzまたはそれ以上のフレームレートに変換して画像表示することが行われている。映像信号のフレームレートを変換するフレームレート変換装置においては、画像の動きベクトルを検出し、動きベクトルを用いて各補間画素を生成し、実フレーム間に内挿する動き補償フレームとしての補間フレームを生成する。
【0003】
映像信号の中には、映画のフィルム映像のように毎秒24コマ(24Hz)のフレームを毎秒60フレームに変換した映像信号がある。この場合、フィルム映像の1コマを3フレーム連続させ、次の1コマを2フレーム連続させ、さらにその次の1コマを3フレーム連続させるように順次繰り返して60フレームに変換する2−3プルダウンと称される変換方法が用いられる。従って、2−3プルダウンによって垂直周波数60Hzに変換された映像信号は動きが滑らかでない。フィルム映像を垂直周波数60Hzの映像信号に変換した場合の動きが滑らかでない状態をフィルムジャダと称している。
【0004】
そこで、複数の実フレーム及び動きベクトルを用いて動き補償フレームを生成し、実フレームを動き補償フレームに差し替えることによってフィルムジャダを除去して動きが滑らかな映像信号とするフィルムジャダ除去装置が用いられている。フィルムジャダ除去装置によってフィルムジャダを除去し、さらに、フレームレート変換装置によってフレームレートを増大させることも行われている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2009−200802号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
近年、立体映像(3D映像)が普及し始めており、フレームレート変換装置やフィルムジャダ除去装置等の映像信号処理装置に対して、3D映像信号が供給されるようになってきた。3D映像信号のフォーマットとして、1フレーム内に左目用画像と右目用画像とを圧縮して並べて水平方向または垂直方向に配置するフォーマットがある。この場合、左目用画像の映像信号と右目用画像の映像信号はそれぞれ水平方向または垂直方向に1/2に圧縮されているので、動きベクトルの検出精度が悪化することになる。3D映像信号がプルダウン変換された映像信号である場合には、1フレームで画像が動く距離が大きくなるので、動きベクトルの検出精度はさらに悪化することになる。
【0007】
このように、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号の場合には、動きベクトルを高精度に検出することが難しい。従って、動き補償フレームを生成する映像信号処理装置では、誤補間が発生しやすく、動き補償フレームの画質を悪化させてしまうという問題点があった。
【0008】
本発明はこのような問題点に鑑み、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することできる動きベクトル検出装置及び方法を提供することを目的とする。また、本発明は、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することができる映像信号処理装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出するプルダウン検出部(1)と、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したLR分離信号を出力するLR分離部(3)と、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を出力するフレーム遅延LR分離部(2)と、前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出する動きベクトル検出部(MVD)と、前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルとして出力するLR結合部(8)とを備えることを特徴とする動きベクトル検出装置を提供する。
【0010】
上記の動きベクトル検出装置において、前記動きベクトル検出部は、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0011】
上記の動きベクトル検出装置において、前記動きベクトル検出部は、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0012】
上記の動きベクトル検出装置において、前記3D映像信号が2−3プルダウン変換された映像信号の場合には、前記LR分離部は、同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することが好ましい。
【0013】
上記の動きベクトル検出装置において、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、前記LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せずそれぞれのフレームを出力し、前記フレーム遅延LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、前記LR分離部が出力するそれぞれのフレームの1フレーム前のフレームを出力し、前記動きベクトル検出部は、前記LR分離部より出力されたフレームの映像信号と前記フレーム遅延LR分離部より出力されたフレームの映像信号とを用いて、それぞれのフレームの動きベクトルを検出することが好ましい。
【0014】
また、本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出し、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離してLR分離信号を生成し、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を生成し、前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出し、前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルを生成することを特徴とする動きベクトル検出方法を提供する。
【0015】
上記の動きベクトル検出方法において、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0016】
上記の動きベクトル検出方法において、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0017】
上記の動きベクトル検出方法において、前記3D映像信号が2−3プルダウン変換された映像信号の場合には、同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することが好ましい。
【0018】
上記の動きベクトル検出方法において、前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、互いに1フレーム期間ずれた2つのフレームを対として順次生成し、前記2つのフレームの映像信号を用いて、それぞれのフレームの動きベクトルを検出することが好ましい。
【0019】
さらに、本発明は、上述した従来の技術の課題を解決するため、上記の動きベクトル検出装置と、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記3D映像信号と前記動きベクトル検出装置によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える動き補償フレーム生成部(10)とを備えることを特徴とする映像信号処理装置を提供する。
【0020】
さらにまた、本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置され、プルダウン変換された3D映像信号と、上記の動きベクトル検出方法によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替えることを特徴とする映像信号処理方法を提供する。
【発明の効果】
【0021】
本発明の動きベクトル検出装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することが可能となる。また、本発明の映像信号処理装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することが可能となる。
【図面の簡単な説明】
【0022】
【図1】本発明の動きベクトル検出装置の一実施形態を示すブロック図である。
【図2】2−3プルダウン及び2−2プルダウンを説明するための図である。
【図3】3D映像信号のフォーマットの例を説明するための図である。
【図4】図1に示す一実施形態の動きベクトル検出装置にプルダウン変換された映像信号が入力された場合の動作を説明するための図である。
【図5】図1における動きベクトル検出部MVDの動作を説明するための図である。
【図6】画素が間引かれた状態の左目用画像の映像信号を概念的に示す図である。
【図7】図1に示す一実施形態の動きベクトル検出装置にプルダウン変換された映像信号ではない通常の映像信号が入力された場合の動作を説明するための図である。
【図8】本発明の映像信号処理装置の一実施形態を示すブロック図である。
【図9】図8の動作を説明するための図である。
【図10】図8に示す一実施形態の映像信号処理装置によるフィルムジャダ除去動作を説明するための図である。
【発明を実施するための形態】
【0023】
以下、本発明の動きベクトル検出装置及び方法、並びに、映像信号処理装置及び方法の各実施形態について、添付図面を参照して説明する。
【0024】
<動きベクトル検出装置及び方法の一実施形態>
図1において、映像信号の各画素データは、プルダウン検出部1,フレーム遅延LR分離部2,LR分離部3に順次入力される。プルダウン検出部1,フレーム遅延LR分離部2,LR分離部3に入力される映像信号を映像信号F0と称することとする。プルダウン検出部1は、映像信号F0のフレームの繰り返し周期を検出することによって、映像信号F0がプルダウン変換された映像信号であるか否かを検出する。
【0025】
図2(A)は、上述した2−3プルダウンによって変換された映像信号を示しており、A,B,C,D,E…はそれぞれのフレームの画像内容を示している。図2(A)に示すように、同じ画像内容が3フレーム、2フレーム、3フレームと順次繰り返す。図2(B)は、毎秒30コマ(30Hz)のフレームを毎秒60フレームに変換した映像信号を示している。図2(B)においても、A,B,C,D,E,F…はそれぞれのフレームの画像内容を示している。1コマを2フレームずつ連続させて60フレームに変換する変換方法を2−2プルダウンと称する。
【0026】
プルダウン検出部1は、好ましくは、映像信号F0がプルダウン変換された映像信号であることを検出した場合、2−3プルダウンによって変換された映像信号であるのか、2−2プルダウンによって変換された映像信号であるのかも併せて検出する。プルダウン検出部1は、プルダウン変換された映像信号であるか否か、プルダウン変換された映像信号の場合に2−3プルダウンであるか2−2プルダウンであるかを示すモード検出信号Spdmを生成して出力する。
【0027】
また、プルダウン検出部1は、プルダウンの繰り返し周期であるプルダウンシーケンスに対して番号を割り振ったシーケンス管理番号Spdnを生成して出力する。図2(A),(B)には、それぞれのフレームに、シーケンス管理番号Spdnが示す番号を併せて示している。2−3プルダウンでは、図2(A)に示すように、同じ画像内容の3フレームと同じ画像内容の2フレームとの計5フレームを1周期とし、シーケンス管理番号Spdnとして0〜4の番号を割り振る。2−2プルダウンでは、図2(B)に示すように、同じ画像内容の2フレームを1周期とし、シーケンス管理番号Spdnとして0,1の番号を割り振る。
【0028】
プルダウン検出部1より出力されたモード検出信号Spdmは、フレーム遅延LR分離部2,LR分離部3,シフト量設定部7,LR結合部8に入力される。プルダウン検出部1より出力されたシーケンス管理番号Spdnは、フレーム遅延LR分離部2,LR分離部3,LR結合部8に入力される。以下、映像信号F0が図2(A)に示す2−3プルダウンによって変換された映像信号である場合を例にして説明する。
【0029】
フレーム遅延LR分離部2及びLR分離部3に入力される映像信号F0は3D映像信号(以下、3D映像信号F0と称する)である。3D映像信号のフォーマットは、一例として、図3(A)に示すように、Lで示す左目用画像の映像信号とRで示す右目用画像の映像信号とを水平方向に1/2に圧縮してフレームf内に水平方向に並べて配置するいわゆるサイド・バイ・サイド方式である。また、3D映像信号のフォーマットは、他の例として、図3(B)に示すように、Lで示す左目用画像の映像信号とRで示す右目用画像の映像信号とを垂直方向に1/2に圧縮してフレームf内に垂直方向に並べて配置するいわゆるトップ・アンド・ボトム方式である。以下、3D映像信号F0のフォーマットをサイド・バイ・サイド方式である場合を例にして説明する。
【0030】
図4を用いてフレーム遅延LR分離部2及びLR分離部3の動作について説明する。図4において、(B)は3D映像信号F0のそれぞれのフレームを示しており、(A)はプルダウン検出部1より出力されるシーケンス管理番号Spdnを示している。フレームLR1-1,LR1-2,LR1-3は同じ画像内容のフレームである。フレームLR2-1,LR2-2は同じ画像内容のフレームである。フレームLR3-1,LR3-2,LR3-3は同じ画像内容のフレームである。
【0031】
フレーム遅延LR分離部2は2フレーム分のフレームメモリを備えている。フレーム遅延LR分離部2は、フレームLR1-1の直前のフレームLR0-2を1フレーム期間遅延させ、図4(C)に示すように、フレームLR1-1のタイミングで、図3(A)で説明した左目用画像の映像信号Lに相当する映像信号L0-2を分離してフレーム遅延LR分離信号Me1として出力する。また、フレーム遅延LR分離部2は、フレームLR0-2を2フレーム期間遅延させ、図4(C)に示すように、フレームLR1-2のタイミングで、図3(A)で説明した右目用画像の映像信号Rに相当する映像信号R0-2を分離してフレーム遅延LR分離信号Me1として出力する。
【0032】
LR分離部3は、図4(D)に示すように、フレームLR1-1のタイミングで、フレームLR1-1から左目用画像の映像信号Lに相当する映像信号L1-2を分離し、フレームLR1-2のタイミングで、フレームLR1-2から右目用画像の映像信号Rに相当する映像信号R1-2を分離して、LR分離信号Me0として順次出力する。フレームLR1-3のタイミングでは、フレーム遅延LR分離信号Me1及びLR分離信号Me0は出力されない。
【0033】
同様にして、フレーム遅延LR分離部2は、フレームLR1-3を1フレーム期間遅延させ、図4(C)に示すように、フレームLR2-1のタイミングで映像信号L1-3を分離し、フレームLR2-2のタイミングで映像信号R1-3を分離して、フレーム遅延LR分離信号Me1として順次出力する。LR分離部3は、図4(D)に示すように、フレームLR2-1のタイミングで映像信号L2-1を分離し、フレームLR2-2のタイミングで映像信号R2-2を分離して、LR分離信号Me0として順次出力する。フレームLR3-1以降のタイミングでも同様の動作を繰り返す。
【0034】
シーケンス管理番号Spdnは、フレーム遅延LR分離部2,LR分離部3において、フレーム遅延LR分離信号Me1,LR分離信号Me0をそれぞれどのように分離するかを判断するために必要となる。モード検出信号Spdmは、フレーム遅延LR分離部2,LR分離部3において、図4に示すようなプルダウン変換された信号特有の分離動作を行うか否かを切り換えるために必要となる。
【0035】
以上の説明より分かるように、フレーム遅延LR分離部2からは、フレーム遅延させた3D映像信号F0の左目用画像の映像信号Lを構成する各画素データと、右目用画像の映像信号Rを構成する各画素データとが、フレーム期間毎にフレーム遅延LR分離信号Me1として順次出力される。また、LR分離部3からは、入力されたそれぞれのフレームの3D映像信号F0の左目用画像の映像信号Lを構成する各画素データと、右目用画像の映像信号Rを構成する各画素データとが、LR分離信号Me0として順次出力される。なお、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離する順番は図4と逆でもよい。
【0036】
LR分離部3は、プルダウン検出部1によって3D映像信号F0がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号Lと右目用画像の映像信号Rとをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離したLR分離信号Me0を出力する。
【0037】
フレーム遅延LR分離部2は、プルダウン検出部1によって3D映像信号F0がプルダウン変換された映像信号であることが検出されたとき、LR分離信号Me0の左目用画像の映像信号Lと右目用画像の映像信号Rとに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離したフレーム遅延LR分離信号Me1を出力する。1繰り返し期間前のフレームとは、プルダウン変換する前の元のフィルム映像における1フレーム前ということである。
【0038】
フレーム遅延LR分離信号Me1とLR分離信号Me0は、動きベクトル検出部MVD内の画素ブロック指定部4に入力される。画素ブロック指定部4は、複数のラインメモリと複数の画素遅延器を備えている。画素ブロック指定部4が、フレーム遅延LR分離信号Me1内の画素データを基点として動きベクトルを検出する場合には、複数のラインメモリと複数の画素遅延器によってLR分離信号Me0を順次遅延させて、水平方向及び垂直方向それぞれ所定の範囲の画素データを生成する。水平方向及び垂直方向それぞれ所定の範囲は動きベクトルの探索範囲である。
【0039】
図5(A)は、フレーム遅延LR分離信号Me1内の画素P1を基点とした場合に、動きベクトル検出部MVDにおいて行われる動きベクトルの探索動作を概念的に示している。ここでは簡略化のため、動きベクトルの探索範囲を水平方向のみ示し、水平方向の探索範囲を5画素分としている。実際には水平方向及び垂直方向の平面的な所定の範囲が探索範囲であり、さらに多くの画素数が探索範囲となる。
【0040】
画素ブロック指定部4が、LR分離信号Me0内の画素P1を基点として動きベクトルを検出する場合には、複数のラインメモリと複数の画素遅延器によってフレーム遅延LR分離信号Me1を順次遅延させて、水平方向及び垂直方向それぞれ所定の範囲の画素を示す画素データを生成する。図5(B)は、LR分離信号Me0内の画素P0を基点とした場合に、動きベクトル検出部MVDにおいて行われる動きベクトルの探索動作を概念的に示している。図5(A)と図5(B)とのどちらを用いてもよいし、動きベクトルの検出精度を向上させるために図5(A)と図5(B)との双方を用いて動きベクトルを検出してもよい。
【0041】
画素ブロック指定部4は、図5(A),(B)に示すような動きベクトル候補MVcを生成するための画素ブロックを指定する。動きベクトルを画素単位で検出してもよいし、複数の画素であるブロック単位で検出してもよい。画素ブロックとは1画素を含むものとする。画素ブロック指定部4は、LR分離信号Me0とフレーム遅延LR分離信号Me1との内の一方の基点となる画素ブロックと、LR分離信号Me0とフレーム遅延LR分離信号Me1との内の他方の探索範囲内の画素ブロックとを対にして動きベクトル検出部MVD内のブロックマッチング計算部(BM計算部)51〜5nに供給する。
【0042】
BM計算部51〜5nは、例えば、基点となる画素ブロック内の画素データと探索範囲内の画素ブロック内の画素データとの差分絶対値和をブロックマッチング誤差値として求めて、それぞれの動きベクトル候補MVcに対応させて、動きベクトル検出部MVD内の動きベクトル決定部6に供給する。
【0043】
動きベクトル決定部6は、ブロックマッチング誤差値が最も小さい動きベクトル候補MVcを動きベクトルMV1として出力する。ブロックマッチング誤差値が最も小さい動きベクトル候補MVcが最も相関が高い。
【0044】
図4(E)は、動きベクトル決定部6より出力される動きベクトルMV1を示している。図4(C),(D)より分かるように、それぞれのフレーム期間において出力されるフレーム遅延LR分離信号Me1とLR分離信号Me0は、左目用画像の映像信号Lのみ、または、右目用画像の映像信号Rのみである。図4(E)に示すように、動きベクトル検出部MVDは、フレームLR1-1のタイミングで左目用画像の映像信号Lの動きベクトルvL01を動きベクトルMV1として出力し、フレームLR1-2のタイミングで右目用画像の映像信号Rの動きベクトルvR01を動きベクトルMV1として出力する。
【0045】
動きベクトル検出部MVDは、フレームLR2-1のタイミングで動きベクトルvL12を動きベクトルMV1として出力し、フレームLR2-2のタイミングのタイミングで動きベクトルvR12を動きベクトルMV1として出力する。動きベクトル検出部MVDは、フレームLR3-1のタイミングで動きベクトルvL23を動きベクトルMV1として出力し、フレームLR3-2のタイミングのタイミングで動きベクトルvR23を動きベクトルMV1として出力する。
【0046】
動きベクトルMV1はLR結合部8に入力される。LR結合部8はフレームメモリを備えており、図4(F)に示すように、動きベクトルMV1を1フレーム期間遅延させる。即ち、LR結合部8は、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1との一方を遅延させて両者のフレームのタイミングを合わせる。
【0047】
LR結合部8は、図4(E)に示す動きベクトルMV1と図4(F)に示す1フレーム前の動きベクトルMV1とをフレームメモリに書き込んで読み出すことにより、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1とを結合(合成)する。映像信号L,Rの動きベクトルMV1の合成は、フレームメモリに対する書き込みアドレス制御で実現してもよいし、読み出しアドレス制御で実現してもよい。
【0048】
LR結合部8は、モード検出信号Spdmがプルダウン変換を示すモードの場合に、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1とを合成した動きベクトルMVを出力する。LR結合部8は、図4(G)に示すように、動きベクトルvL01,vR01を合成して動きベクトルvLR01を生成して出力し、シーケンス管理番号Spdnを参照して、動きベクトルvLR01を次の2フレームの期間も連続して出力する。また、LR結合部8は、動きベクトルvL12,vR12を合成して動きベクトルvLR12を生成して出力し、シーケンス管理番号Spdnを参照して、次の1フレームの期間も連続して出力する。
【0049】
以上のようにして、本実施形態によれば、プルダウン変換された3D映像信号における左目用画像の映像信号Lと右目用画像の映像信号Rそれぞれの動きを的確に推定した動きベクトルMVを検出することができる。
【0050】
ところで、動きベクトル検出装置の回路規模を少なくするため、動きベクトル検出装置に入力する3D映像信号F0の画素を水平方向及び垂直方向に間引くことがある。図6は、画素が間引かれた状態の左目用画像の映像信号Lを概念的に示している。図6において、実線で示す画素Paは実在の画素であり、破線で示す画素Pneは間引かれて存在していない画素である。上述した動きベクトルMVの検出処理は、図6に示す1水平期間の半分の期間THLで行うことが可能であり、残りの半分の期間THRは処理期間として余っていることになる。
【0051】
そこで、本実施形態においては、より好ましい構成として、モード検出信号Spdmがプルダウン変換を示すモードの場合には、シフト量設定部7が、画素ブロック指定部4に対して、間引かれた画素Pneを補間して生成(復元)するよう指示する。左目用画像の映像信号L及び右目用画像の映像信号Rの画素数を増大させれば、動きベクトル候補MVcを増やすことができ、動きベクトルMVの検出精度を向上させることができる。
【0052】
仮に、1水平期間の半分の期間THLまたはTHRが処理期間として余っていない場合に、画素数を増大させてより多くの動きベクトル候補MVcを生成しようとすると、動きベクトル検出装置の回路規模を大幅に増大させなければならない。本実施形態においては、1水平期間の半分の期間THLまたはTHRが処理期間として余っているので、わずかな回路規模の増大で動きベクトルMVの検出精度を向上させることが可能となる。水平方向または垂直方向に隣接する画素Paを平均化して補間画素を生成するための平均化回路が必要になる程度である。
【0053】
また、動きベクトル検出装置に入力する3D映像信号F0の画素を水平方向及び垂直方向に間引かれていない場合には、より好ましい構成として、モード検出信号Spdmがプルダウン変換を示すモードの場合には、シフト量設定部7が、画素ブロック指定部4に対して、3D映像信号F0における存在しない画素を補間して生成することによって画素数を増大させるよう指示する。3D映像信号F0における存在しない画素とは、いわゆるサブピクセルと称されるものである。サブピクセルを生成して、左目用画像の映像信号L及び右目用画像の映像信号Rの画素数を増大させれば、動きベクトル候補MVcを増やすことができ、動きベクトルMVの検出精度を向上させることができる。
【0054】
次に、3D映像信号F0としてプルダウン変換された映像信号ではない通常の映像信号が入力され、モード検出信号Spdmが通常の映像信号を示す場合の図1の動作について簡単に説明する。3D映像信号F0が通常の映像信号の場合には、図1の動きベクトル検出装置は、通常の動きベクトル検出装置と同様の動作によって動きベクトルMVを検出する。
【0055】
図7(A)は、3D映像信号F0の各フレームを示している。プルダウン変換された映像信号ではないため、フレームLR0,LR1,LR3,LR4…とそれぞれ異なる画像内容のフレームが続いている。フレーム遅延LR分離部2は、2フレーム分のフレームメモリの内の1フレーム分のフレームメモリによって、図7(B)に示すように、それぞれのフレームLR0,LR1,LR3,LR4…を1フレーム期間遅延させて、フレーム遅延信号Me11として出力する。フレーム遅延LR分離部2は、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離しない。
【0056】
LR分離部3も、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せず、図7(C)に示すように、それぞれのフレームLR0,LR1,LR3,LR4…をそのまま映像信号Me00として出力する。動きベクトル検出部MVDは、現在フレームの映像信号である映像信号Me00と1フレーム過去のフレーム遅延信号Me11とを用いて、図7(D)に示すように、動きベクトルMV1を生成する。この場合、動きベクトル検出部MVDより出力される動きベクトルMV1は1フレーム期間全体の動きベクトルとなる。LR結合部8は、図7(E)に示すように、動きベクトルMV1をそのまま動きベクトルMVとして出力する。
【0057】
以上のように、本実施形態の動きベクトル検出装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することできる。動きベクトル検出部MVDが、3D映像信号F0における間引かれている画素を補間して画素数を増大させて、動きベクトルMV1を検出したり、存在しない画素を補間して画素数を増大させて、動きベクトルMV1を検出したりすれば、動きベクトルをさらに高精度に検出することできる。
【0058】
また、本実施形態の動きベクトル検出装置及び方法によれば、3D映像信号F0がプルダウン変換された映像信号ではないことが検出されたときには、LR分離部3が、それぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せずそれぞれのフレームを出力し、フレーム遅延LR分離部2が、それぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せず、LR分離部3が出力するそれぞれのフレームの1フレーム前のフレームを出力するので、動きベクトル検出部MVDは通常の動きベクトルの検出動作を行うことができる。
【0059】
<映像信号処理装置及び方法の一実施形態>
図8に示す映像信号処理装置は、図1に示す本実施形態の動きベクトル検出装置を用いて構成したフィルムジャダ除去装置を搭載した3D表示装置を示している。図8において、図1と同一部分には同一符号を付し、その説明を適宜省略する。
【0060】
図8において、2フレームメモリ9には、3D映像信号F0とモード検出信号Spdmとシーケンス管理番号Spdnが入力される。補間フレーム生成部(動き補償フレーム生成部)10には、LR結合部8より出力された動きベクトルMVと、モード検出信号Spdmと、シーケンス管理番号Spdnと、2フレームメモリ9より出力された後述する映像信号F01,F12とが入力される。図9(A)に示すように、動きベクトルMVは、3フレーム期間連続する動きベクトルvLR01、2フレーム期間連続する動きベクトルvLR12、3フレーム期間連続する動きベクトルvLR23のように、3フレーム期間同一の動きベクトルと2フレーム期間同一の動きベクトルとを交互に繰り返す。図9(B)は、シーケンス管理番号Spdnを示している。
【0061】
モード検出信号Spdmがプルダウンモードを示す場合、2フレームメモリ9は、3D映像信号F0を1フレーム期間遅延させて映像信号F01として出力する。映像信号F01は、図9(D)に示すように、フレームLR1-1,LR1-2,LR1-3…となる。また、モード検出信号Spdmがプルダウンモードを示す場合、2フレームメモリ9は、3D映像信号F0を2フレーム期間遅延させ、2フレーム期間遅延させた信号をシーケンス管理番号Spdnに従って適宜繰り返し、映像信号F12として出力する。映像信号F12は、図9(C)に示すように、フレームLR0-2が3フレーム期間連続し、フレームLR1-3が2フレーム期間連続し、フレームLR2-2が3フレーム期間連続する。
【0062】
モード検出信号Spdmがプルダウンモードを示す場合、補間フレーム生成部10は、シーケンス管理番号Spdnが3のとき以外では、動きベクトルMVに基づいて、図9(C)の映像信号F12の画素データと図9(D)の映像信号F01の画素データとを混合して補間フレーム(動き補償フレーム)を生成し、シーケンス管理番号Spdnが3のときには、図9(D)の映像信号F01を原画のまま出力する。補間フレーム生成部10の出力を動き補償フレーム信号Fmcとする。
【0063】
具体的には、補間フレーム生成部10は、図9(E)に示すように、映像信号F12のフレームLR0-2と映像信号F01のフレームLR1-1とで補間フレームLR0.2を生成する。補間フレーム生成部10は、映像信号F12のフレームLR0-2と映像信号F01のフレームLR1-2とで補間フレームLR0.6を生成する。補間フレーム生成部10は、映像信号F01のフレームLR1-3をそのままフレームLR1とする。
【0064】
さらに、補間フレーム生成部10は、映像信号F12のフレームLR1-3と映像信号F01のフレームLR2-1とで補間フレームLR1.4を生成し、映像信号F12のフレームLR1-3と映像信号F01のフレームLR2-2とで補間フレームLR1.8を生成する。補間フレーム生成部10は、映像信号F12のフレームLR2-2と映像信号F01のフレームLR3-1とで補間フレームLR2.2を生成し、映像信号F12のフレームLR2-2と映像信号F01のフレームLR3-2とで補間フレームLR2.6を生成する。補間フレーム生成部10は、映像信号F01のフレームLR3-3をそのままフレームLR3とする。補間フレーム生成部10は、これらのフレームを動き補償フレーム信号Fmcとして出力する。
【0065】
図10は、映像信号F01と補間フレーム生成部10より出力された動き補償フレーム信号Fmcとを示している。映像信号F01は、2−3プルダウンによって変換された映像信号であるので、図10(A)に示すように、動きが滑らかでない。図10(A)におけるフレームLR1-1は、図10(B)に示すように補間フレームLR0.2に差し替えられ、図10(A)におけるフレームLR1-2は、図10(B)に示すように補間フレームLR0.6に差し替えられている。図10(A)におけるフレームLR1-3は、そのまま図10(B)に示すフレームLR1となっている。
【0066】
図10(A)におけるフレームLR2-1,LR2-2,LR3-1,LR3-2は、図10(B)に示すように補間フレームLR1.4,LR1.8,LR2.2,LR2.6に差し替えられている。図10(A)におけるフレームLR4-1は、そのまま図10(B)に示すフレームLR3となっている。図10(A)におけるフレームLR4-1は、図10(B)に示すように補間フレームLR3.4に差し替えられている。図10(B)に示すように、動き補償フレーム信号Fmcは、フィルムジャダが除去されて動きが滑らかとなっている。
【0067】
図8に戻り、動き補償フレーム信号Fmcは3D表示用LR分離部11に入力される。3D表示用LR分離部11は、図9(F)に示すように、動き補償フレーム信号Fmcの各フレームLR0.2,LR0.6,LR1,LR1.4…を、左目用画像の映像信号Lに相当するL0.2,L0.6,L1,L1.4…と右目用画像の映像信号Rに相当するR0.2,R0.6,R1,R1.4…とに分離し、1/120秒ずつのタイミングでLR分離信号Flrとして出力する。LR分離信号Flrはスケーラ12に入力される。
【0068】
LR分離信号Flrの左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…は、水平方向に1/2に圧縮された信号であるので、スケーラ12は、左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…とを水平方向に2倍に伸張させる。スケーラ12は、水平方向に伸張させた3D表示用映像信号F3Dを3D映像表示部13に供給する。3D表示用映像信号F3Dは、図9(G)に示すように、左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…とを水平方向に伸張させた左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…と右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…である。
【0069】
3D映像表示部13は、左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…と右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…とを1/120秒ずつ交互に表示する。視聴者は、例えば液晶シャッタ眼鏡を装着して、3D映像表示部13に表示された3D表示用映像信号F3Dを見る。左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…が表示されているタイミングでは左目の液晶シャッタを閉じ、右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…が表示されているタイミングでは右目の液晶シャッタを閉じるよう、3D映像表示部13での3D表示用映像信号F3Dの表示と液晶シャッタ眼鏡との駆動タイミングを同期させる。これによって、視聴者は、3D映像を視認することができる。
【0070】
以上のように、本実施形態の映像信号処理装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することができる。本実施形態の映像信号処理装置及び方法によれば、フィルムジャダを効果的に除去することができる。
【0071】
本発明は以上説明した各実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。
【符号の説明】
【0072】
1 プルダウン検出部
2 フレーム遅延LR分離部
3 LR分離部
4 画素ブロック指定部
51〜5n ブロックマッチング計算部
6 動きベクトル決定部
7 シフト量設定部
8 LR結合部
9 2フレームメモリ
10 補間フレーム生成部(動き補償フレーム生成部)
11 3D表示用LR分離部
12 スケーラ
13 3D映像表示部
MVD 動きベクトル検出部
【技術分野】
【0001】
本発明は、画像の動きベクトルを検出する動きベクトル検出装置及び方法、並びに、動きベクトルを用いて動き補償フレームを生成する映像信号処理装置及び方法に関する。
【背景技術】
【0002】
液晶パネルを用いた画像表示装置で動画像を表示すると残像が生じやすい。そこで、残像を低減させて動画特性を向上させるために、映像信号の実フレーム間に補間フレームを内挿してフレーム数を増大させ、例えば垂直周波数60Hzのフレームレートを2倍の120Hzまたはそれ以上のフレームレートに変換して画像表示することが行われている。映像信号のフレームレートを変換するフレームレート変換装置においては、画像の動きベクトルを検出し、動きベクトルを用いて各補間画素を生成し、実フレーム間に内挿する動き補償フレームとしての補間フレームを生成する。
【0003】
映像信号の中には、映画のフィルム映像のように毎秒24コマ(24Hz)のフレームを毎秒60フレームに変換した映像信号がある。この場合、フィルム映像の1コマを3フレーム連続させ、次の1コマを2フレーム連続させ、さらにその次の1コマを3フレーム連続させるように順次繰り返して60フレームに変換する2−3プルダウンと称される変換方法が用いられる。従って、2−3プルダウンによって垂直周波数60Hzに変換された映像信号は動きが滑らかでない。フィルム映像を垂直周波数60Hzの映像信号に変換した場合の動きが滑らかでない状態をフィルムジャダと称している。
【0004】
そこで、複数の実フレーム及び動きベクトルを用いて動き補償フレームを生成し、実フレームを動き補償フレームに差し替えることによってフィルムジャダを除去して動きが滑らかな映像信号とするフィルムジャダ除去装置が用いられている。フィルムジャダ除去装置によってフィルムジャダを除去し、さらに、フレームレート変換装置によってフレームレートを増大させることも行われている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2009−200802号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
近年、立体映像(3D映像)が普及し始めており、フレームレート変換装置やフィルムジャダ除去装置等の映像信号処理装置に対して、3D映像信号が供給されるようになってきた。3D映像信号のフォーマットとして、1フレーム内に左目用画像と右目用画像とを圧縮して並べて水平方向または垂直方向に配置するフォーマットがある。この場合、左目用画像の映像信号と右目用画像の映像信号はそれぞれ水平方向または垂直方向に1/2に圧縮されているので、動きベクトルの検出精度が悪化することになる。3D映像信号がプルダウン変換された映像信号である場合には、1フレームで画像が動く距離が大きくなるので、動きベクトルの検出精度はさらに悪化することになる。
【0007】
このように、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号の場合には、動きベクトルを高精度に検出することが難しい。従って、動き補償フレームを生成する映像信号処理装置では、誤補間が発生しやすく、動き補償フレームの画質を悪化させてしまうという問題点があった。
【0008】
本発明はこのような問題点に鑑み、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することできる動きベクトル検出装置及び方法を提供することを目的とする。また、本発明は、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することができる映像信号処理装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出するプルダウン検出部(1)と、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したLR分離信号を出力するLR分離部(3)と、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を出力するフレーム遅延LR分離部(2)と、前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出する動きベクトル検出部(MVD)と、前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルとして出力するLR結合部(8)とを備えることを特徴とする動きベクトル検出装置を提供する。
【0010】
上記の動きベクトル検出装置において、前記動きベクトル検出部は、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0011】
上記の動きベクトル検出装置において、前記動きベクトル検出部は、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0012】
上記の動きベクトル検出装置において、前記3D映像信号が2−3プルダウン変換された映像信号の場合には、前記LR分離部は、同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することが好ましい。
【0013】
上記の動きベクトル検出装置において、前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、前記LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せずそれぞれのフレームを出力し、前記フレーム遅延LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、前記LR分離部が出力するそれぞれのフレームの1フレーム前のフレームを出力し、前記動きベクトル検出部は、前記LR分離部より出力されたフレームの映像信号と前記フレーム遅延LR分離部より出力されたフレームの映像信号とを用いて、それぞれのフレームの動きベクトルを検出することが好ましい。
【0014】
また、本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出し、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離してLR分離信号を生成し、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を生成し、前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出し、前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルを生成することを特徴とする動きベクトル検出方法を提供する。
【0015】
上記の動きベクトル検出方法において、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0016】
上記の動きベクトル検出方法において、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することが好ましい。
【0017】
上記の動きベクトル検出方法において、前記3D映像信号が2−3プルダウン変換された映像信号の場合には、同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することが好ましい。
【0018】
上記の動きベクトル検出方法において、前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、互いに1フレーム期間ずれた2つのフレームを対として順次生成し、前記2つのフレームの映像信号を用いて、それぞれのフレームの動きベクトルを検出することが好ましい。
【0019】
さらに、本発明は、上述した従来の技術の課題を解決するため、上記の動きベクトル検出装置と、前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記3D映像信号と前記動きベクトル検出装置によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える動き補償フレーム生成部(10)とを備えることを特徴とする映像信号処理装置を提供する。
【0020】
さらにまた、本発明は、上述した従来の技術の課題を解決するため、左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置され、プルダウン変換された3D映像信号と、上記の動きベクトル検出方法によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替えることを特徴とする映像信号処理方法を提供する。
【発明の効果】
【0021】
本発明の動きベクトル検出装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することが可能となる。また、本発明の映像信号処理装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することが可能となる。
【図面の簡単な説明】
【0022】
【図1】本発明の動きベクトル検出装置の一実施形態を示すブロック図である。
【図2】2−3プルダウン及び2−2プルダウンを説明するための図である。
【図3】3D映像信号のフォーマットの例を説明するための図である。
【図4】図1に示す一実施形態の動きベクトル検出装置にプルダウン変換された映像信号が入力された場合の動作を説明するための図である。
【図5】図1における動きベクトル検出部MVDの動作を説明するための図である。
【図6】画素が間引かれた状態の左目用画像の映像信号を概念的に示す図である。
【図7】図1に示す一実施形態の動きベクトル検出装置にプルダウン変換された映像信号ではない通常の映像信号が入力された場合の動作を説明するための図である。
【図8】本発明の映像信号処理装置の一実施形態を示すブロック図である。
【図9】図8の動作を説明するための図である。
【図10】図8に示す一実施形態の映像信号処理装置によるフィルムジャダ除去動作を説明するための図である。
【発明を実施するための形態】
【0023】
以下、本発明の動きベクトル検出装置及び方法、並びに、映像信号処理装置及び方法の各実施形態について、添付図面を参照して説明する。
【0024】
<動きベクトル検出装置及び方法の一実施形態>
図1において、映像信号の各画素データは、プルダウン検出部1,フレーム遅延LR分離部2,LR分離部3に順次入力される。プルダウン検出部1,フレーム遅延LR分離部2,LR分離部3に入力される映像信号を映像信号F0と称することとする。プルダウン検出部1は、映像信号F0のフレームの繰り返し周期を検出することによって、映像信号F0がプルダウン変換された映像信号であるか否かを検出する。
【0025】
図2(A)は、上述した2−3プルダウンによって変換された映像信号を示しており、A,B,C,D,E…はそれぞれのフレームの画像内容を示している。図2(A)に示すように、同じ画像内容が3フレーム、2フレーム、3フレームと順次繰り返す。図2(B)は、毎秒30コマ(30Hz)のフレームを毎秒60フレームに変換した映像信号を示している。図2(B)においても、A,B,C,D,E,F…はそれぞれのフレームの画像内容を示している。1コマを2フレームずつ連続させて60フレームに変換する変換方法を2−2プルダウンと称する。
【0026】
プルダウン検出部1は、好ましくは、映像信号F0がプルダウン変換された映像信号であることを検出した場合、2−3プルダウンによって変換された映像信号であるのか、2−2プルダウンによって変換された映像信号であるのかも併せて検出する。プルダウン検出部1は、プルダウン変換された映像信号であるか否か、プルダウン変換された映像信号の場合に2−3プルダウンであるか2−2プルダウンであるかを示すモード検出信号Spdmを生成して出力する。
【0027】
また、プルダウン検出部1は、プルダウンの繰り返し周期であるプルダウンシーケンスに対して番号を割り振ったシーケンス管理番号Spdnを生成して出力する。図2(A),(B)には、それぞれのフレームに、シーケンス管理番号Spdnが示す番号を併せて示している。2−3プルダウンでは、図2(A)に示すように、同じ画像内容の3フレームと同じ画像内容の2フレームとの計5フレームを1周期とし、シーケンス管理番号Spdnとして0〜4の番号を割り振る。2−2プルダウンでは、図2(B)に示すように、同じ画像内容の2フレームを1周期とし、シーケンス管理番号Spdnとして0,1の番号を割り振る。
【0028】
プルダウン検出部1より出力されたモード検出信号Spdmは、フレーム遅延LR分離部2,LR分離部3,シフト量設定部7,LR結合部8に入力される。プルダウン検出部1より出力されたシーケンス管理番号Spdnは、フレーム遅延LR分離部2,LR分離部3,LR結合部8に入力される。以下、映像信号F0が図2(A)に示す2−3プルダウンによって変換された映像信号である場合を例にして説明する。
【0029】
フレーム遅延LR分離部2及びLR分離部3に入力される映像信号F0は3D映像信号(以下、3D映像信号F0と称する)である。3D映像信号のフォーマットは、一例として、図3(A)に示すように、Lで示す左目用画像の映像信号とRで示す右目用画像の映像信号とを水平方向に1/2に圧縮してフレームf内に水平方向に並べて配置するいわゆるサイド・バイ・サイド方式である。また、3D映像信号のフォーマットは、他の例として、図3(B)に示すように、Lで示す左目用画像の映像信号とRで示す右目用画像の映像信号とを垂直方向に1/2に圧縮してフレームf内に垂直方向に並べて配置するいわゆるトップ・アンド・ボトム方式である。以下、3D映像信号F0のフォーマットをサイド・バイ・サイド方式である場合を例にして説明する。
【0030】
図4を用いてフレーム遅延LR分離部2及びLR分離部3の動作について説明する。図4において、(B)は3D映像信号F0のそれぞれのフレームを示しており、(A)はプルダウン検出部1より出力されるシーケンス管理番号Spdnを示している。フレームLR1-1,LR1-2,LR1-3は同じ画像内容のフレームである。フレームLR2-1,LR2-2は同じ画像内容のフレームである。フレームLR3-1,LR3-2,LR3-3は同じ画像内容のフレームである。
【0031】
フレーム遅延LR分離部2は2フレーム分のフレームメモリを備えている。フレーム遅延LR分離部2は、フレームLR1-1の直前のフレームLR0-2を1フレーム期間遅延させ、図4(C)に示すように、フレームLR1-1のタイミングで、図3(A)で説明した左目用画像の映像信号Lに相当する映像信号L0-2を分離してフレーム遅延LR分離信号Me1として出力する。また、フレーム遅延LR分離部2は、フレームLR0-2を2フレーム期間遅延させ、図4(C)に示すように、フレームLR1-2のタイミングで、図3(A)で説明した右目用画像の映像信号Rに相当する映像信号R0-2を分離してフレーム遅延LR分離信号Me1として出力する。
【0032】
LR分離部3は、図4(D)に示すように、フレームLR1-1のタイミングで、フレームLR1-1から左目用画像の映像信号Lに相当する映像信号L1-2を分離し、フレームLR1-2のタイミングで、フレームLR1-2から右目用画像の映像信号Rに相当する映像信号R1-2を分離して、LR分離信号Me0として順次出力する。フレームLR1-3のタイミングでは、フレーム遅延LR分離信号Me1及びLR分離信号Me0は出力されない。
【0033】
同様にして、フレーム遅延LR分離部2は、フレームLR1-3を1フレーム期間遅延させ、図4(C)に示すように、フレームLR2-1のタイミングで映像信号L1-3を分離し、フレームLR2-2のタイミングで映像信号R1-3を分離して、フレーム遅延LR分離信号Me1として順次出力する。LR分離部3は、図4(D)に示すように、フレームLR2-1のタイミングで映像信号L2-1を分離し、フレームLR2-2のタイミングで映像信号R2-2を分離して、LR分離信号Me0として順次出力する。フレームLR3-1以降のタイミングでも同様の動作を繰り返す。
【0034】
シーケンス管理番号Spdnは、フレーム遅延LR分離部2,LR分離部3において、フレーム遅延LR分離信号Me1,LR分離信号Me0をそれぞれどのように分離するかを判断するために必要となる。モード検出信号Spdmは、フレーム遅延LR分離部2,LR分離部3において、図4に示すようなプルダウン変換された信号特有の分離動作を行うか否かを切り換えるために必要となる。
【0035】
以上の説明より分かるように、フレーム遅延LR分離部2からは、フレーム遅延させた3D映像信号F0の左目用画像の映像信号Lを構成する各画素データと、右目用画像の映像信号Rを構成する各画素データとが、フレーム期間毎にフレーム遅延LR分離信号Me1として順次出力される。また、LR分離部3からは、入力されたそれぞれのフレームの3D映像信号F0の左目用画像の映像信号Lを構成する各画素データと、右目用画像の映像信号Rを構成する各画素データとが、LR分離信号Me0として順次出力される。なお、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離する順番は図4と逆でもよい。
【0036】
LR分離部3は、プルダウン検出部1によって3D映像信号F0がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号Lと右目用画像の映像信号Rとをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離したLR分離信号Me0を出力する。
【0037】
フレーム遅延LR分離部2は、プルダウン検出部1によって3D映像信号F0がプルダウン変換された映像信号であることが検出されたとき、LR分離信号Me0の左目用画像の映像信号Lと右目用画像の映像信号Rとに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離したフレーム遅延LR分離信号Me1を出力する。1繰り返し期間前のフレームとは、プルダウン変換する前の元のフィルム映像における1フレーム前ということである。
【0038】
フレーム遅延LR分離信号Me1とLR分離信号Me0は、動きベクトル検出部MVD内の画素ブロック指定部4に入力される。画素ブロック指定部4は、複数のラインメモリと複数の画素遅延器を備えている。画素ブロック指定部4が、フレーム遅延LR分離信号Me1内の画素データを基点として動きベクトルを検出する場合には、複数のラインメモリと複数の画素遅延器によってLR分離信号Me0を順次遅延させて、水平方向及び垂直方向それぞれ所定の範囲の画素データを生成する。水平方向及び垂直方向それぞれ所定の範囲は動きベクトルの探索範囲である。
【0039】
図5(A)は、フレーム遅延LR分離信号Me1内の画素P1を基点とした場合に、動きベクトル検出部MVDにおいて行われる動きベクトルの探索動作を概念的に示している。ここでは簡略化のため、動きベクトルの探索範囲を水平方向のみ示し、水平方向の探索範囲を5画素分としている。実際には水平方向及び垂直方向の平面的な所定の範囲が探索範囲であり、さらに多くの画素数が探索範囲となる。
【0040】
画素ブロック指定部4が、LR分離信号Me0内の画素P1を基点として動きベクトルを検出する場合には、複数のラインメモリと複数の画素遅延器によってフレーム遅延LR分離信号Me1を順次遅延させて、水平方向及び垂直方向それぞれ所定の範囲の画素を示す画素データを生成する。図5(B)は、LR分離信号Me0内の画素P0を基点とした場合に、動きベクトル検出部MVDにおいて行われる動きベクトルの探索動作を概念的に示している。図5(A)と図5(B)とのどちらを用いてもよいし、動きベクトルの検出精度を向上させるために図5(A)と図5(B)との双方を用いて動きベクトルを検出してもよい。
【0041】
画素ブロック指定部4は、図5(A),(B)に示すような動きベクトル候補MVcを生成するための画素ブロックを指定する。動きベクトルを画素単位で検出してもよいし、複数の画素であるブロック単位で検出してもよい。画素ブロックとは1画素を含むものとする。画素ブロック指定部4は、LR分離信号Me0とフレーム遅延LR分離信号Me1との内の一方の基点となる画素ブロックと、LR分離信号Me0とフレーム遅延LR分離信号Me1との内の他方の探索範囲内の画素ブロックとを対にして動きベクトル検出部MVD内のブロックマッチング計算部(BM計算部)51〜5nに供給する。
【0042】
BM計算部51〜5nは、例えば、基点となる画素ブロック内の画素データと探索範囲内の画素ブロック内の画素データとの差分絶対値和をブロックマッチング誤差値として求めて、それぞれの動きベクトル候補MVcに対応させて、動きベクトル検出部MVD内の動きベクトル決定部6に供給する。
【0043】
動きベクトル決定部6は、ブロックマッチング誤差値が最も小さい動きベクトル候補MVcを動きベクトルMV1として出力する。ブロックマッチング誤差値が最も小さい動きベクトル候補MVcが最も相関が高い。
【0044】
図4(E)は、動きベクトル決定部6より出力される動きベクトルMV1を示している。図4(C),(D)より分かるように、それぞれのフレーム期間において出力されるフレーム遅延LR分離信号Me1とLR分離信号Me0は、左目用画像の映像信号Lのみ、または、右目用画像の映像信号Rのみである。図4(E)に示すように、動きベクトル検出部MVDは、フレームLR1-1のタイミングで左目用画像の映像信号Lの動きベクトルvL01を動きベクトルMV1として出力し、フレームLR1-2のタイミングで右目用画像の映像信号Rの動きベクトルvR01を動きベクトルMV1として出力する。
【0045】
動きベクトル検出部MVDは、フレームLR2-1のタイミングで動きベクトルvL12を動きベクトルMV1として出力し、フレームLR2-2のタイミングのタイミングで動きベクトルvR12を動きベクトルMV1として出力する。動きベクトル検出部MVDは、フレームLR3-1のタイミングで動きベクトルvL23を動きベクトルMV1として出力し、フレームLR3-2のタイミングのタイミングで動きベクトルvR23を動きベクトルMV1として出力する。
【0046】
動きベクトルMV1はLR結合部8に入力される。LR結合部8はフレームメモリを備えており、図4(F)に示すように、動きベクトルMV1を1フレーム期間遅延させる。即ち、LR結合部8は、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1との一方を遅延させて両者のフレームのタイミングを合わせる。
【0047】
LR結合部8は、図4(E)に示す動きベクトルMV1と図4(F)に示す1フレーム前の動きベクトルMV1とをフレームメモリに書き込んで読み出すことにより、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1とを結合(合成)する。映像信号L,Rの動きベクトルMV1の合成は、フレームメモリに対する書き込みアドレス制御で実現してもよいし、読み出しアドレス制御で実現してもよい。
【0048】
LR結合部8は、モード検出信号Spdmがプルダウン変換を示すモードの場合に、左目用画像の映像信号Lの動きベクトルMV1と右目用画像の映像信号Rの動きベクトルMV1とを合成した動きベクトルMVを出力する。LR結合部8は、図4(G)に示すように、動きベクトルvL01,vR01を合成して動きベクトルvLR01を生成して出力し、シーケンス管理番号Spdnを参照して、動きベクトルvLR01を次の2フレームの期間も連続して出力する。また、LR結合部8は、動きベクトルvL12,vR12を合成して動きベクトルvLR12を生成して出力し、シーケンス管理番号Spdnを参照して、次の1フレームの期間も連続して出力する。
【0049】
以上のようにして、本実施形態によれば、プルダウン変換された3D映像信号における左目用画像の映像信号Lと右目用画像の映像信号Rそれぞれの動きを的確に推定した動きベクトルMVを検出することができる。
【0050】
ところで、動きベクトル検出装置の回路規模を少なくするため、動きベクトル検出装置に入力する3D映像信号F0の画素を水平方向及び垂直方向に間引くことがある。図6は、画素が間引かれた状態の左目用画像の映像信号Lを概念的に示している。図6において、実線で示す画素Paは実在の画素であり、破線で示す画素Pneは間引かれて存在していない画素である。上述した動きベクトルMVの検出処理は、図6に示す1水平期間の半分の期間THLで行うことが可能であり、残りの半分の期間THRは処理期間として余っていることになる。
【0051】
そこで、本実施形態においては、より好ましい構成として、モード検出信号Spdmがプルダウン変換を示すモードの場合には、シフト量設定部7が、画素ブロック指定部4に対して、間引かれた画素Pneを補間して生成(復元)するよう指示する。左目用画像の映像信号L及び右目用画像の映像信号Rの画素数を増大させれば、動きベクトル候補MVcを増やすことができ、動きベクトルMVの検出精度を向上させることができる。
【0052】
仮に、1水平期間の半分の期間THLまたはTHRが処理期間として余っていない場合に、画素数を増大させてより多くの動きベクトル候補MVcを生成しようとすると、動きベクトル検出装置の回路規模を大幅に増大させなければならない。本実施形態においては、1水平期間の半分の期間THLまたはTHRが処理期間として余っているので、わずかな回路規模の増大で動きベクトルMVの検出精度を向上させることが可能となる。水平方向または垂直方向に隣接する画素Paを平均化して補間画素を生成するための平均化回路が必要になる程度である。
【0053】
また、動きベクトル検出装置に入力する3D映像信号F0の画素を水平方向及び垂直方向に間引かれていない場合には、より好ましい構成として、モード検出信号Spdmがプルダウン変換を示すモードの場合には、シフト量設定部7が、画素ブロック指定部4に対して、3D映像信号F0における存在しない画素を補間して生成することによって画素数を増大させるよう指示する。3D映像信号F0における存在しない画素とは、いわゆるサブピクセルと称されるものである。サブピクセルを生成して、左目用画像の映像信号L及び右目用画像の映像信号Rの画素数を増大させれば、動きベクトル候補MVcを増やすことができ、動きベクトルMVの検出精度を向上させることができる。
【0054】
次に、3D映像信号F0としてプルダウン変換された映像信号ではない通常の映像信号が入力され、モード検出信号Spdmが通常の映像信号を示す場合の図1の動作について簡単に説明する。3D映像信号F0が通常の映像信号の場合には、図1の動きベクトル検出装置は、通常の動きベクトル検出装置と同様の動作によって動きベクトルMVを検出する。
【0055】
図7(A)は、3D映像信号F0の各フレームを示している。プルダウン変換された映像信号ではないため、フレームLR0,LR1,LR3,LR4…とそれぞれ異なる画像内容のフレームが続いている。フレーム遅延LR分離部2は、2フレーム分のフレームメモリの内の1フレーム分のフレームメモリによって、図7(B)に示すように、それぞれのフレームLR0,LR1,LR3,LR4…を1フレーム期間遅延させて、フレーム遅延信号Me11として出力する。フレーム遅延LR分離部2は、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離しない。
【0056】
LR分離部3も、左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せず、図7(C)に示すように、それぞれのフレームLR0,LR1,LR3,LR4…をそのまま映像信号Me00として出力する。動きベクトル検出部MVDは、現在フレームの映像信号である映像信号Me00と1フレーム過去のフレーム遅延信号Me11とを用いて、図7(D)に示すように、動きベクトルMV1を生成する。この場合、動きベクトル検出部MVDより出力される動きベクトルMV1は1フレーム期間全体の動きベクトルとなる。LR結合部8は、図7(E)に示すように、動きベクトルMV1をそのまま動きベクトルMVとして出力する。
【0057】
以上のように、本実施形態の動きベクトル検出装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することできる。動きベクトル検出部MVDが、3D映像信号F0における間引かれている画素を補間して画素数を増大させて、動きベクトルMV1を検出したり、存在しない画素を補間して画素数を増大させて、動きベクトルMV1を検出したりすれば、動きベクトルをさらに高精度に検出することできる。
【0058】
また、本実施形態の動きベクトル検出装置及び方法によれば、3D映像信号F0がプルダウン変換された映像信号ではないことが検出されたときには、LR分離部3が、それぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せずそれぞれのフレームを出力し、フレーム遅延LR分離部2が、それぞれのフレームにおける左目用画像の映像信号Lと右目用画像の映像信号Rとを分離せず、LR分離部3が出力するそれぞれのフレームの1フレーム前のフレームを出力するので、動きベクトル検出部MVDは通常の動きベクトルの検出動作を行うことができる。
【0059】
<映像信号処理装置及び方法の一実施形態>
図8に示す映像信号処理装置は、図1に示す本実施形態の動きベクトル検出装置を用いて構成したフィルムジャダ除去装置を搭載した3D表示装置を示している。図8において、図1と同一部分には同一符号を付し、その説明を適宜省略する。
【0060】
図8において、2フレームメモリ9には、3D映像信号F0とモード検出信号Spdmとシーケンス管理番号Spdnが入力される。補間フレーム生成部(動き補償フレーム生成部)10には、LR結合部8より出力された動きベクトルMVと、モード検出信号Spdmと、シーケンス管理番号Spdnと、2フレームメモリ9より出力された後述する映像信号F01,F12とが入力される。図9(A)に示すように、動きベクトルMVは、3フレーム期間連続する動きベクトルvLR01、2フレーム期間連続する動きベクトルvLR12、3フレーム期間連続する動きベクトルvLR23のように、3フレーム期間同一の動きベクトルと2フレーム期間同一の動きベクトルとを交互に繰り返す。図9(B)は、シーケンス管理番号Spdnを示している。
【0061】
モード検出信号Spdmがプルダウンモードを示す場合、2フレームメモリ9は、3D映像信号F0を1フレーム期間遅延させて映像信号F01として出力する。映像信号F01は、図9(D)に示すように、フレームLR1-1,LR1-2,LR1-3…となる。また、モード検出信号Spdmがプルダウンモードを示す場合、2フレームメモリ9は、3D映像信号F0を2フレーム期間遅延させ、2フレーム期間遅延させた信号をシーケンス管理番号Spdnに従って適宜繰り返し、映像信号F12として出力する。映像信号F12は、図9(C)に示すように、フレームLR0-2が3フレーム期間連続し、フレームLR1-3が2フレーム期間連続し、フレームLR2-2が3フレーム期間連続する。
【0062】
モード検出信号Spdmがプルダウンモードを示す場合、補間フレーム生成部10は、シーケンス管理番号Spdnが3のとき以外では、動きベクトルMVに基づいて、図9(C)の映像信号F12の画素データと図9(D)の映像信号F01の画素データとを混合して補間フレーム(動き補償フレーム)を生成し、シーケンス管理番号Spdnが3のときには、図9(D)の映像信号F01を原画のまま出力する。補間フレーム生成部10の出力を動き補償フレーム信号Fmcとする。
【0063】
具体的には、補間フレーム生成部10は、図9(E)に示すように、映像信号F12のフレームLR0-2と映像信号F01のフレームLR1-1とで補間フレームLR0.2を生成する。補間フレーム生成部10は、映像信号F12のフレームLR0-2と映像信号F01のフレームLR1-2とで補間フレームLR0.6を生成する。補間フレーム生成部10は、映像信号F01のフレームLR1-3をそのままフレームLR1とする。
【0064】
さらに、補間フレーム生成部10は、映像信号F12のフレームLR1-3と映像信号F01のフレームLR2-1とで補間フレームLR1.4を生成し、映像信号F12のフレームLR1-3と映像信号F01のフレームLR2-2とで補間フレームLR1.8を生成する。補間フレーム生成部10は、映像信号F12のフレームLR2-2と映像信号F01のフレームLR3-1とで補間フレームLR2.2を生成し、映像信号F12のフレームLR2-2と映像信号F01のフレームLR3-2とで補間フレームLR2.6を生成する。補間フレーム生成部10は、映像信号F01のフレームLR3-3をそのままフレームLR3とする。補間フレーム生成部10は、これらのフレームを動き補償フレーム信号Fmcとして出力する。
【0065】
図10は、映像信号F01と補間フレーム生成部10より出力された動き補償フレーム信号Fmcとを示している。映像信号F01は、2−3プルダウンによって変換された映像信号であるので、図10(A)に示すように、動きが滑らかでない。図10(A)におけるフレームLR1-1は、図10(B)に示すように補間フレームLR0.2に差し替えられ、図10(A)におけるフレームLR1-2は、図10(B)に示すように補間フレームLR0.6に差し替えられている。図10(A)におけるフレームLR1-3は、そのまま図10(B)に示すフレームLR1となっている。
【0066】
図10(A)におけるフレームLR2-1,LR2-2,LR3-1,LR3-2は、図10(B)に示すように補間フレームLR1.4,LR1.8,LR2.2,LR2.6に差し替えられている。図10(A)におけるフレームLR4-1は、そのまま図10(B)に示すフレームLR3となっている。図10(A)におけるフレームLR4-1は、図10(B)に示すように補間フレームLR3.4に差し替えられている。図10(B)に示すように、動き補償フレーム信号Fmcは、フィルムジャダが除去されて動きが滑らかとなっている。
【0067】
図8に戻り、動き補償フレーム信号Fmcは3D表示用LR分離部11に入力される。3D表示用LR分離部11は、図9(F)に示すように、動き補償フレーム信号Fmcの各フレームLR0.2,LR0.6,LR1,LR1.4…を、左目用画像の映像信号Lに相当するL0.2,L0.6,L1,L1.4…と右目用画像の映像信号Rに相当するR0.2,R0.6,R1,R1.4…とに分離し、1/120秒ずつのタイミングでLR分離信号Flrとして出力する。LR分離信号Flrはスケーラ12に入力される。
【0068】
LR分離信号Flrの左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…は、水平方向に1/2に圧縮された信号であるので、スケーラ12は、左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…とを水平方向に2倍に伸張させる。スケーラ12は、水平方向に伸張させた3D表示用映像信号F3Dを3D映像表示部13に供給する。3D表示用映像信号F3Dは、図9(G)に示すように、左目用画像の映像信号L0.2,L0.6,L1,L1.4…と右目用画像の映像信号R0.2,R0.6,R1,R1.4…とを水平方向に伸張させた左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…と右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…である。
【0069】
3D映像表示部13は、左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…と右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…とを1/120秒ずつ交互に表示する。視聴者は、例えば液晶シャッタ眼鏡を装着して、3D映像表示部13に表示された3D表示用映像信号F3Dを見る。左目用画像の映像信号L0.2s,L0.6s,L1s,L1.4s…が表示されているタイミングでは左目の液晶シャッタを閉じ、右目用画像の映像信号R0.2s,R0.6s,R1s,R1.4s…が表示されているタイミングでは右目の液晶シャッタを閉じるよう、3D映像表示部13での3D表示用映像信号F3Dの表示と液晶シャッタ眼鏡との駆動タイミングを同期させる。これによって、視聴者は、3D映像を視認することができる。
【0070】
以上のように、本実施形態の映像信号処理装置及び方法によれば、映像信号が3D映像信号であり、かつ、プルダウン変換された映像信号であっても、動きベクトルを高精度に検出することでき、高画質の動き補償フレームを生成することができる。本実施形態の映像信号処理装置及び方法によれば、フィルムジャダを効果的に除去することができる。
【0071】
本発明は以上説明した各実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。
【符号の説明】
【0072】
1 プルダウン検出部
2 フレーム遅延LR分離部
3 LR分離部
4 画素ブロック指定部
51〜5n ブロックマッチング計算部
6 動きベクトル決定部
7 シフト量設定部
8 LR結合部
9 2フレームメモリ
10 補間フレーム生成部(動き補償フレーム生成部)
11 3D表示用LR分離部
12 スケーラ
13 3D映像表示部
MVD 動きベクトル検出部
【特許請求の範囲】
【請求項1】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出するプルダウン検出部と、
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したLR分離信号を出力するLR分離部と、
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を出力するフレーム遅延LR分離部と、
前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出する動きベクトル検出部と、
前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルとして出力するLR結合部と、
を備えることを特徴とする動きベクトル検出装置。
【請求項2】
前記動きベクトル検出部は、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項1記載の動きベクトル検出装置。
【請求項3】
前記動きベクトル検出部は、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項1記載の動きベクトル検出装置。
【請求項4】
前記3D映像信号は2−3プルダウン変換された映像信号であり、
前記LR分離部は、
同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、
同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離する
ことを特徴とする請求項1〜3のいずれか1項に記載の動きベクトル検出装置。
【請求項5】
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、
前記LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せずそれぞれのフレームを出力し、
前記フレーム遅延LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、前記LR分離部が出力するそれぞれのフレームの1フレーム前のフレームを出力し、
前記動きベクトル検出部は、前記LR分離部より出力されたフレームの映像信号と前記フレーム遅延LR分離部より出力されたフレームの映像信号とを用いて、それぞれのフレームの動きベクトルを検出する
ことを特徴とする請求項1〜4のいずれか1項に記載の動きベクトル検出装置。
【請求項6】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出し、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離してLR分離信号を生成し、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を生成し、
前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、
前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出し、
前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルを生成する
ことを特徴とする動きベクトル検出方法。
【請求項7】
前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項6記載の動きベクトル検出方法。
【請求項8】
前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項6記載の動きベクトル検出方法。
【請求項9】
前記3D映像信号は2−3プルダウン変換された映像信号であり、
同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、
同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離する
ことを特徴とする請求項6〜8のいずれか1項に記載の動きベクトル検出方法。
【請求項10】
前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、
それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、互いに1フレーム期間ずれた2つのフレームを対として順次生成し、
前記2つのフレームの映像信号を用いて、それぞれのフレームの動きベクトルを検出する
ことを特徴とする請求項6〜9のいずれか1項に記載の動きベクトル検出方法。
【請求項11】
請求項1〜5のいずれか1項に記載の動きベクトル検出装置と、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記3D映像信号と前記動きベクトル検出装置によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える動き補償フレーム生成部と、
を備えることを特徴とする映像信号処理装置。
【請求項12】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置され、プルダウン変換された3D映像信号と、請求項6〜10のいずれか1項に記載の動きベクトル検出方法によって検出された動きベクトルとを用いて動き補償フレームを生成し、
前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える
ことを特徴とする映像信号処理方法。
【請求項1】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出するプルダウン検出部と、
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したLR分離信号を出力するLR分離部と、
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を出力するフレーム遅延LR分離部と、
前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出する動きベクトル検出部と、
前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルとして出力するLR結合部と、
を備えることを特徴とする動きベクトル検出装置。
【請求項2】
前記動きベクトル検出部は、前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項1記載の動きベクトル検出装置。
【請求項3】
前記動きベクトル検出部は、前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項1記載の動きベクトル検出装置。
【請求項4】
前記3D映像信号は2−3プルダウン変換された映像信号であり、
前記LR分離部は、
同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、
同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離する
ことを特徴とする請求項1〜3のいずれか1項に記載の動きベクトル検出装置。
【請求項5】
前記プルダウン検出部によって前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、
前記LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せずそれぞれのフレームを出力し、
前記フレーム遅延LR分離部は、それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、前記LR分離部が出力するそれぞれのフレームの1フレーム前のフレームを出力し、
前記動きベクトル検出部は、前記LR分離部より出力されたフレームの映像信号と前記フレーム遅延LR分離部より出力されたフレームの映像信号とを用いて、それぞれのフレームの動きベクトルを検出する
ことを特徴とする請求項1〜4のいずれか1項に記載の動きベクトル検出装置。
【請求項6】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置された3D映像信号がプルダウン変換された映像信号であるか否かを検出し、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、同じ画像内容のフレームを繰り返す繰り返し期間内で、1フレーム毎に左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離することによって、同じ画像内容のそれぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離してLR分離信号を生成し、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記LR分離信号の左目用画像の映像信号と右目用画像の映像信号とに対応させて、1繰り返し期間前のフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離したフレーム遅延LR分離信号を生成し、
前記LR分離信号の左目用画像の映像信号と前記フレーム遅延LR分離信号の左目用画像の映像信号とによって左目用画像の映像信号の第1の動きベクトルを検出し、
前記LR分離信号の右目用画像の映像信号と前記フレーム遅延LR分離信号の右目用画像の映像信号とによって右目用画像の映像信号の第2の動きベクトルを検出し、
前記第1の動きベクトルと前記第2の動きベクトルとの一方を遅延させて両者のフレームのタイミングを合わせ、フレーム単位で前記第1の動きベクトルと前記第2の動きベクトルとを結合させて、それぞれのフレームの動きベクトルを生成する
ことを特徴とする動きベクトル検出方法。
【請求項7】
前記3D映像信号における間引かれている画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項6記載の動きベクトル検出方法。
【請求項8】
前記3D映像信号における存在しない画素を補間して画素数を増大させて、前記第1及び第2の動きベクトルを検出することを特徴とする請求項6記載の動きベクトル検出方法。
【請求項9】
前記3D映像信号は2−3プルダウン変換された映像信号であり、
同じ画像内容のフレームを3フレーム繰り返す第1の繰り返し期間内では、3フレームの内の最初のフレームとその次のフレームとで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離し、
同じ画像内容のフレームを2フレーム繰り返す第2の繰り返し期間内では、2フレームで左目用画像の映像信号と右目用画像の映像信号とをいずれかの順で順次分離する
ことを特徴とする請求項6〜8のいずれか1項に記載の動きベクトル検出方法。
【請求項10】
前記3D映像信号がプルダウン変換された映像信号ではないことが検出されたとき、
それぞれのフレームにおける左目用画像の映像信号と右目用画像の映像信号とを分離せず、互いに1フレーム期間ずれた2つのフレームを対として順次生成し、
前記2つのフレームの映像信号を用いて、それぞれのフレームの動きベクトルを検出する
ことを特徴とする請求項6〜9のいずれか1項に記載の動きベクトル検出方法。
【請求項11】
請求項1〜5のいずれか1項に記載の動きベクトル検出装置と、
前記3D映像信号がプルダウン変換された映像信号であることが検出されたとき、前記3D映像信号と前記動きベクトル検出装置によって検出された動きベクトルとを用いて動き補償フレームを生成し、前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える動き補償フレーム生成部と、
を備えることを特徴とする映像信号処理装置。
【請求項12】
左目用画像の映像信号と右目用画像の映像信号とが1フレーム内に圧縮して配置され、プルダウン変換された3D映像信号と、請求項6〜10のいずれか1項に記載の動きベクトル検出方法によって検出された動きベクトルとを用いて動き補償フレームを生成し、
前記3D映像信号における実フレームを少なくとも部分的に前記動き補償フレームに差し替える
ことを特徴とする映像信号処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2013−74404(P2013−74404A)
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願番号】特願2011−211000(P2011−211000)
【出願日】平成23年9月27日(2011.9.27)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願日】平成23年9月27日(2011.9.27)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
[ Back to top ]