説明

映像変換装置

【課題】3−2プルダウン変換により生成された60フィールド/秒のインタレース映像を、30フレーム/秒のプログレッシブ映像に変換して配信した場合において、映像の動きを自然にした映像変換装置を提供する。
【解決手段】入力された4:2:2:2形式の映像データは、1つの元画像から生成された4つのフィールド、次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールド、及びさらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データであり、映像変換装置は、入力された4:2:2:2形式の映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置に関する。
【背景技術】
【0002】
表示デバイスとして、液晶ディスプレイ及びプラズマディスプレイなどのフラットパネルディスプレイが存在する。これらのディスプレイは、一般に走査方式としてプログレッシブ方式を採用している。そのため、入力された映像データの走査方式が表示デバイスの利用可能な方式と異なる場合、走査変換が必要となる場合がある。例えば、入力された映像がインタレース方式の映像データ(以下、「インタレース映像データ」という)である場合はプログレッシブ方式の映像データ(以下、「プログレッシブ映像データ」という)に走査変換し、表示を行う。
【0003】
走査方式の変換の例として、24フレーム/秒(23.976フレーム/秒を含む)の映画フィルムの映像コンテンツ(プログレッシブ形式の映像データ。以下、適宜「映画フィルムの映像データ」という)を変換する場合について説明する。放送局や、オーサリングスタジオなどでは、テレシネ装置を用いて、24フレーム/秒の映画フィルムの映像データから、3−2プルダウン変換により60フィールド/秒のインタレース映像データへ走査変換が行われている。得られた60フィールド/秒のインタレース映像データは、動画像エンコーダに入力され、エンコード(圧縮)が行われ、映像ストリームが生成される。
【0004】
「3−2プルダウン変換」とは、フィルムソースの連続した2フレームのうち、最初のフレームをインタレース映像の2フィールド分とし、次のフレームをインタレース映像の3フィールド分とする動作を、フィルムソースの全フレームについて繰り返す変換であり、一般に広く用いられている。この変換方式では、3フィールド分のインタレース映像の映像データのうち2フィールド分は同じフィールド(映像データ)となる。そのため、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像には同一のフィールド(映像データ)が重複して含まれていることになる。
【0005】
動画像エンコーダでエンコードされた映像ストリームは、放送局の基地局から放送用電波により放送されたり、BDやDVDなどのディスクメディアに記録して配布されたり、インターネットなどの通信ネットワークを介して配信されたりする。
【0006】
受信機器は、上記の通信インフラを介して配布または配信される圧縮された映像ストリームをデコードする。受信機器がプログレッシブ映像データを出力する場合は、60フィールド/秒のインタレース映像データを、60フレーム/秒のプログレッシブ映像データに走査変換する。たとえば特許文献1および2は、そのための走査変換方法を提案している。具体的には、受信機器は、3−2プルダウン変換により生成された映像データの規則性を検出して、3−2プルダウン変換によって形成された画像信号区間を特定する。
【0007】
この規則性とは、3−2プルダウン変換により生成された映像データにおいては、5フィールド周期で、その5フィールドのうちの所定番目のフィールドとその所定番目のフィールドから2フィールド後のフィールドとが同内容のフィールドとなるというものである。特定された画像信号区間に対し、映像変換装置は、3−2プルダウン変換される前の同一フレームを構成する奇数フィールドおよび偶数フィールドの映像データ同士を組み合わせる。これにより、60フィールド/秒のインタレース映像データから60フレーム/秒のプログレッシブ映像データへの走査変換が実現される。
【0008】
図14は、入力されたインタレース映像データが3−2プルダウン変換により生成された映像データであることを検出する処理(以下適宜「3−2プルダウン検出処理」という)を示す図である。図14(a)は、24フレーム/秒の映画フィルムの映像データ(24フレーム/秒のプログレッシブ映像データ)を示す。図14(b)は、図14(a)の24フレーム/秒の映画フィルムの映像データから3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを示す。このインタレース映像データは、映像変換装置へ入力された映像データである。図14(c)は、図14(b)の映像変換装置へ入力された映像データを2フィールド遅延させた映像データである。映像変換装置は、図14(b)の映像データと図14(c)の映像データとの差分(フィールド差分)を演算する。図14(d)に、演算により得られたフィールド差分を示す。画像が一致した場合にフィールド差分の値が0、そうでない場合は1とすると、5フィールドごとに同じフィールド同士の差分の値が0になるという規則性がある。この規則性を用いて、重複するフィールドが周期的に現れるかを検出することにより、インタレース映像データが3−2プルダウン変換により生成された映像データであるか否かを検出できる。図14(e)は、上記プログレッシブ映像データ、インタレース映像データ、2フィールド遅延させた映像データの一例を示す図である。
【0009】
図15は、3−2プルダウン変換により生成された映像データから60フレーム/秒のプログレッシブ映像データへの走査変換の処理を示す図である。図15(a)は、24フレーム/秒のフィルム映像(24フレーム/秒のプログレッシブ映像)の映像データを示す。図15(b)は、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを示す。3−2プルダウン変換により生成された映像データは放送局においてエンコードされ、放送波で搬送された後、受信機器によってデコード処理される。図15(c)は、走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。
【0010】
図15(b)の60フィールド/秒のインタレース映像データを構成するフィールドのうち奇数フィールドb1と偶数フィールドb2を組み合わせて図15(c)の60フィールド/秒のプログレッシブ映像データのフレームc1、c2を生成する。また図15(b)の60フィールド/秒のインタレース映像データを構成するフィールドのうち奇数フィールドb3と偶数フィールドb4を組み合わせて図15(c)の60フレーム/秒のプログレッシブ映像データのフレームc3、c4を生成する。また、図15(b)の60フィールド/秒のインタレース映像データを構成するフィールドのうち奇数フィールドb5と偶数フィールドb4を組み合わせて図15(c)の60フィールド/秒のプログレッシブ映像データのフレームc5を生成する。
【0011】
以降、同様の処理を繰り返すことによって、図15(c)の3:2形式の60フレーム/秒のプログレッシブ映像が得られる。
【先行技術文献】
【特許文献】
【0012】
【特許文献1】特開2002−330311号公報
【特許文献2】特開平3−250881号公報
【発明の概要】
【発明が解決しようとする課題】
【0013】
近年、インターネットの普及により、インターネットを通じた映像データの配信が普及している。インターネットでの通信速度は混雑状況に応じ変化し、安定しない。したがって、インターネットを通じて配信される映像データのデータ容量は、放送波(電波)により配信される映像データのデータ容量に比べ小さくされている。例えば、インターネットを通じて配信される映像データのフレームレートは、放送波で使用される60フィールド/秒ではなく、30フレーム/秒とされている。また、インターネットを通じて配信される映像データの映像形式は、パソコンでの映像データの再生との親和性を考慮し、インタレース映像形式ではなく、プログレッシブ映像形式とすることが多い。
【0014】
3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを上述のように、30フレーム/秒のプログレッシブ映像データに変換して配信した場合、この映像データを映像再生装置で受信して再生したときに、映像の動きが不自然になる場合がある。
【0015】
本発明は、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像を上述のように30フレーム/秒のプログレッシブ映像に変換して配信した場合において、この30フレーム/秒のプログレッシブ映像を映像再生装置で受信して再生したときに映像の動きが不自然になる等の問題を解決可能な映像変換装置を提供することを目的とする。
【課題を解決するための手段】
【0016】
本願発明者は、特に、配信された30フレーム/秒のプログレッシブ映像データを、60フレーム/秒のプログレッシブ映像データに走査変換して表示した場合に、上記の課題が発生し得ることを発見した。以下、これを具体的に説明する。
【0017】
まず、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データをインターネットを通じて配信を行う場合に行われる映像処理について説明する。図16にその映像処理の流れを示す。図16(a)は24フレーム/秒のプログレッシブ映像データ(映画フィルム)から3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データ、図16(b)は、図16(a)の60フィールド/秒のインタレース映像データから生成された60フレーム/秒のプログレッシブ映像データ、図16(c)は図16(b)の60フレーム/秒のプログレッシブ映像データから生成された30フレーム/秒のプログレッシブ映像データを示す。まず、図16(a)の60フィールド/秒のインタレース映像データが、3−2プルダウン変換により生成された映像データであるか否かが、図14を参照して説明した規則性に基づき検出される。3−2プルダウン変換により生成された映像データであることが検出されると、図16(a)の60フィールド/秒のインタレース映像データを構成する奇数フィールドの映像データと偶数フィールドの映像データを組み合わせることにより、図16(b)に示すプログレッシブ映像の映像データを得る。つまり、走査変換を行う。そして、このようにして生成された図16(b)のプログレッシブ映像データから、1フレームおきに映像データを間引くことにより、図16(c)の30フレーム/秒のプログレッシブ映像データを得る。そして、このようにして得られた30フレーム/秒のプログレッシブ映像データを動画エンコーダにより圧縮し、映像ストリームとしてインターネット上に配信する。
【0018】
配信された映像ストリームは、受信側のBDプレーヤやDVDプレーヤなどの再生装置により受信され再生される。具体的には、BDプレーヤやDVDプレーヤなどの再生装置は、インターネットを通じて取得した映像ストリームを、デコーダ回路によりデコードする。BDプレーヤなどの再生装置では、インタレース映像データにデコードされることが多い。例えば、再生装置において、図16(c)に示すデコードされた映像データを受信した場合、図16(d)に示すように一般には60フィールド/秒のインタレース映像データとなる。
【0019】
この60フィールド/秒のインタレース映像データを走査変換する場合、元の映像データが30フレーム/秒のプログレッシブ映像データであることを検出し、図16(e)に示す60フレーム/秒のプログレッシブ映像データに変換する。
【0020】
一般に、3−2プルダウン変換により生成されたインタレース映像データは、フィルムソースの連続した2コマ(フレーム)のうち最初のコマ(フレーム)を映像データ(ビデオ信号)の2フィールドとして、次のコマ(フレーム)を3フィールドとして表示される。インターネット上への配信の過程で30フレーム/秒に間引いて伝送されたプログレッシブ映像データをデコードした場合、図16(e)のように、第1の画像から生成された4フィールド、第2の画像から生成された2フィールド、第3の画像から生成された2フィールド、第4の画像から生成された2フィールド、第5の画像から生成された4フィールド、第6の画像から生成された2フィールド、第7の画像から生成された2フィールド、第8の画像から生成された2フィールド…というように、同一の画像から生成された画像が、4フィールド、2フィールド、2フィールド、2フィールドというように10フィールド周期であらわれる(以降このような映像データを、「4:2:2:2形式の映像データ」とよぶ)。このような映像データでは、3−2プルダウン変換により生成された3:2形式の映像データに比べて映像の動きが不自然になるという課題がある(第1の課題)。
【0021】
また、24フレーム/秒の映像データを3:2プルダウン変換することにより生成された60フィールド/秒のインタレース映像データを60フィールド/秒のプログレッシブ映像データに走査変換する過程において、3−2プルダウン検出を行わずに間引きされる場合がある。この場合の一例を図17に示す。
【0022】
図17(a)に示す60フィールド/秒のインタレース映像データは、図15を用いて説明した方法により生成される。本例では、図17(b)に示すプログレッシブ映像データは、図17(a)の60フィールド/秒のインタレース映像データを構成する隣接する奇数及び偶数フィールドの1対の映像データ同士を組み合わせることにより得られる。その結果、例えば、異なるフレームを構成するフィールドのインタレース映像データ(例えばT0とB1)が組み合わされてプログレッシブ映像データが生成される場合がある。異なるフレームを構成するフィールドのインタレース映像データを組み合わせて生成した映像データによる映像は、視聴されたときに滲んで見える映像となり、また組合せ処理の際のフィルタ処理等により、以後の処理においてフィールド映像データT0及びB1と同一のフィールド映像データに分離不可能なプログレッシブ映像データTa/Baに変化する。生成された図17(b)のプログレッシブ映像データから、1フレームおきに映像データを間引くことにより、図17(c)の30フレーム/秒のプログレッシブデータ映像データが得られる。そして、このようにして得られた30フレーム/秒のプログレッシブデータ映像データは動画エンコーダにより圧縮され、映像ストリームとしてインターネット上に配信される。なお、上記配信された30フレーム/秒のプログレッシブ映像データにおいては、図17(c)のように、2つの映像データが組み合わされて生成された映像データが、5フィールド周期で、連続する2フィールドずつあらわれる。以降、このような映像データを、「1:1:1:1:1形式の映像データ」とよぶ。
【0023】
配信された30フレーム/秒のプログレッシブデータ映像データは、受信側において、図16の場合と同様の処理が施されることにより、図17(d)に示すように、60フィールド/秒のインタレース映像データに変換され、図17(e)に示すように、60フレーム/秒のプログレッシブ映像データに変換される。このようにして得られた図17(e)のプログレッシブ映像データは、図17(b)に示す映像データと同じものであり、したがって、この映像データによる映像は、視聴されたときに2重にあるいは滲んで見えることとなるという課題がある(第2の課題)。なお、上記配信された30フレーム/秒のプログレッシブ映像データをデコードした場合、図17(d)のように、同一の画像を構成するフィールドが、2フィールドずつあらわれ、また、上記のように2つの映像データが組み合わされて生成された映像データが、10フィールド周期で、連続する4フィールドずつあらわれる。以降、このような映像データを、「2:2:2:2:2形式の映像データ」とよぶ。
【0024】
なお、映像変換装置において、配信された映像データが図17(a)、(b)、(c)のような手順で生成された30フィールド/秒の前記1:1:1:1:1形式のプログレッシブ映像データ(図17(c))を、図17(d)のような60フィールド/秒のインタレース映像データに変換することなく直接、図17(e)のような60フレーム/秒のプログレッシブ映像データに変換する場合がある。この60フレーム/秒のプログレッシブ映像データにおいても、2つの映像データが組み合わされて生成された映像データが含まれることとなる。そのため、第2の課題同様の、視聴されたときに2重にあるいは滲んで見えることとなるという課題が存在する(第3の課題)。
【0025】
また、BDプレーヤなどの再生装置で映像データを走査変換する場合にも問題がある。例えば、BDプレーヤなどの再生装置では、2:1:1:1形式(詳細は後述)の30フレーム/秒のプログレッシブ映像データを入力して、この映像データを、60フィールド/秒のインタレース映像データに走査変換することなく、直接60フレーム/秒のプログレッシブ映像データに走査変換するが、この場合においても、生成された60フレーム/秒のプログレッシブ映像データは4:2:2:2形式の映像データになる。したがって、上記のように30フレーム/秒のプログレッシブ映像データを60フレーム/秒のプログレッシブ映像データに直接走査変換する場合においても、第1の課題同様の、映像の動きが不自然になるという課題がある(第4の課題)。
【0026】
以上のように、インターネットを介して配信される映像データは3−2プルダウン変換等を経て、フレームレートを落として配信されることにより、映像の動きが不自然になるという課題がある。また,インターネットの配信に限らず,PCで作成された映像データや,処理能力の低いデジタルスチルカメラなどで撮影された映像データにおいても、フレームレートの変換を行った場合、同様の問題が発生する可能性がある。
【0027】
本発明は上記課題に鑑みてなされたものであり、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを上述のように、30フレーム/秒のプログレッシブ映像データに変換して配信した場合における問題を解決可能な映像変換装置を提供することを目的とする。
【0028】
本発明の第1〜5の態様において、入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置が提供される。
【0029】
具体的には、第1の態様は第1の課題に対応するものである。第1の態様において、入力された所定の走査形式の映像データは、60フィールド/秒の4:2:2:2形式の映像データである。1つの元画像から生成された4つのフィールド、次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールド、及びさらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データである。映像変換装置は、前記入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する変換部を備える。
【0030】
第2の態様は第1の課題に対応するものである。第2の態様において、入力された所定の走査形式の映像データは、60フィールド/秒の4:2:2:2形式の映像データである。1つの元画像から生成された4つのフィールド、次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールド、及びさらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データである。映像変換装置は、入力された映像データを24フレーム/秒の映像データに変換して出力する。
【0031】
第3の態様は第4の課題に対応するものである。第3の態様において、入力された所定の走査形式の映像データは、30フレーム/秒の2:1:1:1形式の映像データである。2:1:1:1形式の映像データは、1つの元画像から生成された2つのフレーム、次の元画像から生成された1つのフレーム、さらに次の元画像から生成された1つのフレーム、及びさらに次の元画像から生成された1つのフレームがこの順で周期的に現れる形式の映像データである。映像変換装置は、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。
【0032】
第4の態様は第2の課題に対応するものである。第4の態様において、入力された所定の走査形式の映像データは、60フィールド/秒の2:2:2:2:2形式の映像データである。2:2:2:2:2形式の映像データは、1つの元画像から生成された2つのフィールド、次の元画像から生成された2つのフィールド、前記次の元画像及びさらに次の元画像から生成された2つのフィールド、前記さらに次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データである。映像変換装置は、入力された映像データを、前記入力された映像データのうち前記次の元画像及び前記さらに次の元画像から生成された2つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。
【0033】
第5の態様は第3の課題に対応するものである。第5の態様において、前記入力された所定の走査形式の映像データは、30フレーム/秒の1:1:1:1:1形式の映像データである。1:1:1:1:1形式の映像データは、1つの元画像から生成された1つのフィールド、次の元画像から生成された1つのフィールド、前記次の元画像及びさらに次の元画像から生成された1つのフィールド、前記さらに次の元画像から生成された1つのフィールド、さらに次の元画像から生成された1つのフィールドがこの順で周期的に現れる形式の映像データである。映像変換装置は、入力された映像データを、前記入力された映像データのうち前記次の元画像及び前記さらに次の元画像から生成された1つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。
【0034】
なお、本明細書においては、4:2:2:2形式の映像データを構成する画像は、24フレーム/秒のフィルムソースにおける連続した4フレームを構成する画像に基づき作成される。その4フレームを、時系列順に第1フレーム、第2フレーム、第3フレーム、第4フレームと呼ぶ場合に、4枚(第1の組)の画像は第1フレームの画像から作成される。次の2枚(第2の組)の画像は第2フレームの画像から作成される。さらに次の2枚(第3の組)の画像は第3フレームの画像から作成される。さらに次の2枚(第4の組)の画像は第4フレームの画像から作成される。このように24フレーム/秒のフィルムソースの各フレームから、各組の画像が作成される。言い換えれば、各組の画像は同一フレームの画像から作成される。
【0035】
なお、4:2:2:2形式の映像データはインタレース映像データであってもよいし、プログレッシブ映像データであっても良い。
【0036】
また、本明細書においては、2:1:1:1形式の映像データを構成する画像は、24フレーム/秒のフィルムソースにおける連続した4フレームを構成する画像に基づき作成される。その4フレームを、時系列順に第1フレーム、第2フレーム、第3フレーム、第4フレームと呼ぶ場合に、2枚(第1の組)の画像は第1フレームの画像から作成される。次の1枚(第2の組)の画像は第2フレームの画像から作成される。さらに次の1枚(第3の組)の画像は第3フレームの画像から作成される。さらに次の1枚(第4の組)の画像は第4フレームの画像から作成される。このように24フレーム/秒のフィルムソースの各フレームから、各組の画像が作成される。言い換えれば、各組の画像は同一フレームの画像から作成される。
【0037】
なお、2:1:1:1形式の映像データは、30フレーム/秒のプログレッシブ映像データであることが好ましい。
【0038】
また、本明細書においては、2:2:2:2:2形式の映像データを構成する画像は、24フレーム/秒のフィルムソースにおける連続した4フレームを構成する画像に基づき作成される。その4フレームを、時系列順に第1フレーム、第2フレーム、第3フレーム、第4フレームと呼ぶ場合に、2枚(第1の組)の画像は第1フレームの画像から作成される。次の2枚(第2の組)の画像は第1フレームの画像と第2フレームの画像から作成される。さらに次の2枚(第3の組)の画像は第2フレームの画像と第3フレームの画像から作成される。さらに次の2枚(第4の組)の画像は第3フレームの画像から作成される。さらに次の2枚(第5の組)の画像は第4フレームの画像から作成される。このように、第1の組の画像、第4の組の画像、及び第5の組の画像は1つのフレームから作成される。しかし、第2の組の画像、及び第3の組の画像は2つのフレームから作成される。そのため、第2の組の画像、及び第3の組の画像は、視認したときに二重にあるいは滲んで見える画像となる。
【0039】
また、本明細書においては、1:1:1:1:1形式の映像データを構成する画像は、24フレーム/秒のフィルムソースにおける連続した4フレームを構成する画像に基づき作成される。その4フレームを、時系列順に第1フレーム、第2フレーム、第3フレーム、第4フレームと呼ぶ場合に、1枚(第1)の画像は第1フレームの画像から作成される。次の1枚(第2)の画像は第1フレームの画像と第2フレームの画像から作成される。さらに次の1枚(第3)の画像は第2フレームの画像と第3フレームの画像から作成される。さらに次の1枚(第4)の画像は第3フレームの画像から作成される。さらに次の1枚(第5)の画像は第4フレームの画像から作成される。このように、第1の画像、第4の画像、及び第5の画像は一つのフレームから作成される。しかし、第2の画像、及び第3の画像は2つのフレームから作成される。そのため、第2の画像、及び第3の画像は、視認したときに二重にあるいは滲んで見える画像となる。
【発明の効果】
【0040】
第1の態様の映像変換装置によれば、第1の課題が解決される。すなわち、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データである場合、つまりユーザが視認したときに映像の動きが不自然になる映像データである場合は、入力された映像データが3:2プルダウン形式の60フレーム/秒の映像データに変換して出力される。したがって、ユーザが視認したときに映像の動きが不自然になるのが解消される。
【0041】
第2の態様の映像変換装置によれば、第1の課題が解決される。すなわち、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データである場合、つまりユーザが視認したときに映像の動きが不自然になる映像データである場合は、入力された映像データが、当該映像データの生成の基礎の、全てのフレームが異なる24フレーム/秒の映像データに変換して出力される。したがって、ユーザが視認したときに映像の動きが不自然になるのが解消される。
【0042】
第3の態様の映像変換装置によれば、第4の課題が解決される。すなわち、入力された映像データが2:1:1:1形式の30フレーム/秒の映像データである場合、つまりユーザが視認したときに映像の動きが不自然になる映像データである場合は、入力された映像データが3:2プルダウン形式の60フレーム/秒の映像データに変換して出力される。したがって、ユーザが視認したときに映像の動きが不自然になるのが解消される。
【0043】
第4の態様の映像変換装置によれば、第2の課題が解決される。すなわち、入力された映像データが2:2:2:2:2形式の60フィールド/秒の映像データである場合、つまりユーザが視認したときに二重にあるいは滲んで見える映像データである場合は、入力された映像データは、入力された映像データのうち2つの元画像から生成された1つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力される。したがって、視認したときに二重にあるいは滲んで見える画像となるのが解消される。
【0044】
第5の態様の映像変換装置によれば、第3の課題が解決される。すなわち、入力された映像データが1:1:1:1:1形式の30フレーム/秒の映像データである場合、つまりユーザが視認したときに二重にあるいは滲んで見える映像データである場合は、入力された映像データを、入力された映像データのうち2つの元画像から生成された1つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力される。したがって、視認したときに二重にあるいは滲んで見える画像となるのが解消される。
【図面の簡単な説明】
【0045】
【図1】本発明に係る映像変換装置が適用されるシステムの一例を示す図
【図2】実施形態1の映像再生装置の構成を示す図である。
【図3】実施形態1の映像再生装置のLSIの一部の構成を示す図である。
【図4】実施形態1の映像再生装置の処理を示す図である。具体的には、(a)はAV入出力回路184に入力された60フィールド/秒のインタレース映像の映像データを示す。(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。(e)はシーケンスカウンタの値を示す。(f)は、映像走査変換回路1841により走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。
【図5】(a)は2フィールド差分の推移を説明するための図、(b)は1フィールド差分の推移を説明するための図である。
【図6】実施形態2および実施形態3の映像再生装置の構成を示す図である。
【図7】実施形態2の映像再生装置の処理を示す図である。具体的には、(a)はAV入出力回路184に入力された60フィールド/秒のインタレース映像データを示す。(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。(e)はシーケンスカウンタの値を示す。(f)は、映像走査変換回路1841により走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。(g)は、バッファメモリ17から出力される24フレーム/秒のプログレッシブ映像データを示す。
【図8】実施形態3の映像再生装置の処理を示す図である。具体的には、(a)はAV入出力回路184に入力された30フレーム/秒のプログレッシブ映像データを示す。(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。(e)はシーケンスカウンタの値を示す。(f)は、映像走査変換回路1841から出力される30フレーム/秒のプログレッシブ映像データを示す。(g)は、バッファメモリ17から出力される60フレーム/秒のプログレッシブ映像データを示す。
【図9】実施形態4の映像再生装置の構成を示す図である。
【図10】実施形態4の映像再生装置の処理を示す図である。具体的には、(a)はAV入出力回路184に入力された60フィールド/秒のインタレース映像データを示す。(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。(e)はシーケンスカウンタの値を示す。(f)は、映像走査変換回路1841により走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。
【図11】(a)は2フィールド差分の推移を説明するための図、(b)は1フィールド差分の推移を説明するための図である。
【図12】実施形態5の映像再生装置の構成を示す図である。
【図13】実施形態5の映像再生装置の処理を示す図である。具体的には、(a)はAV入出力回路184に入力された30フレーム/秒のプログレッシブ映像データを示す。(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。(e)はシーケンスカウンタの値を示す。(f)は、映像走査変換回路1841により走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。(g)は、バッファメモリ17から出力される24フレーム/秒のプログレッシブ映像データを示す。
【図14】インタレース映像が3−2プルダウン変換により生成された映像データであることを検出する処理を示す図である。具体的には、(a)は、24フレーム/秒の映画フィルムの映像データ(24フレーム/秒のプログレッシブ映像データ)を示す。(b)は、(a)の24フレーム/秒の映画フィルムの映像データから3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを示す。(c)は、(b)の映像データを2フィールド遅延させた映像データである。(d)は、演算により得られたフィールド差分を示す。(e)は、上記プログレッシブ映像データ、インタレース映像データ、2フィールド遅延させた映像データの一例を示す図である。
【図15】3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データをプログレッシブ映像データへ走査変換を行うための処理を示す図である。具体的には、(a)は、24フレーム/秒のフィルム映像(24フレーム/秒のプログレッシブ映像)の映像データを示す。(b)は、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを示す。(c)は、走査変換が行われた60フレーム/秒のプログレッシブデータ映像データを示す。
【図16】3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データを30フレーム/秒のプログレッシブ映像データに変換してインターネットを通じて配信を行う場合に生じる問題を説明した図である。具体的には、(a)は24フレーム/秒のプログレッシブ映像データ(映画フィルム)から3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データ、(b)は、(a)の60フィールド/秒のインタレース映像データから生成された60フレーム/秒のプログレッシブ映像データ、(c)は(b)の60フレーム/秒のプログレッシブ映像データから生成された30フレーム/秒のプログレッシブ映像データを示す。(d)は、受信側においてデコードされた60フィールド/秒のインタレース映像データ、(e)は、走査変換された60フレーム/秒のプログレッシブ映像データである。
【図17】3−2プルダウンを用いずに生成された60フィールド/秒のインタレース映像データを30フレーム/秒のプログレッシブ映像データに変換してインターネットを通じて配信を行う場合に生じる問題を説明した図である。具体的には、(a)は24フレーム/秒のプログレッシブ映像データ(映画フィルム)から3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データ、(b)は、(a)の60フィールド/秒のインタレース映像データから生成された60フレーム/秒のプログレッシブ映像データ、(c)は(b)の60フレーム/秒のプログレッシブ映像データから生成された30フレーム/秒のプログレッシブ映像データを示す。(d)は、受信側においてデコードされた60フィールド/秒のインタレース映像データ、(e)は、走査変換された60フレーム/秒のプログレッシブ映像データである。
【発明を実施するための形態】
【0046】
本発明による映像変換装置の実施形態を説明する。
【0047】
図1は、本発明による映像変換装置が適用されるシステムの一例を示す。このシステムは、映像再生装置1、TV(映像表示装置)2、及びサーバ3を含む。本発明による映像変換装置は、映像再生装置1に適用されている。サーバ3は、インターネット500を通じて映像データを配信する。映像再生装置1は、インターネット500に接続可能であり、インターネット500を介してサーバ3から映像データを受信し、走査変換した映像データをTV2に出力する。TV2は、映像再生装置1から出力された映像データに基づく映像を表示する。
【0048】
サーバ3からインターネット500を通じて配信される映像データは、通常、30フレーム/秒の映像データである。この映像データは、図15等を用いて説明したように、以下の手順で生成される。24フレーム/秒(23.976フレーム/秒を含む)の映画フィルムから、3−2プルダウン変換により60フィールド/秒のインタレース映像データを生成する。次に、この60フィールド/秒のインタレース映像データを60フレーム/秒のプログレッシブ映像データに変換する。次に、この60フレーム/秒のプログレッシブ映像データを、1フレームおきに間引くことにより30フレーム/秒のプログレッシブ映像データを生成する。サーバ3は、このようにして生成された30フレーム/秒のプログレッシブ映像データをMPEG等の映像ストリームの形式で送信する。
【0049】
図2に、映像再生装置1の構成を示す。映像再生装置1は、ディスクドライブ11、チューナ12、ネットワーク通信インターフェース13、メモリデバイスインターフェース14、データ伝送インターフェース15、バッファメモリ(フレームメモリ)16、HDドライブ17、フラッシュメモリ19及びLSI18を備える。ここで、LSI18は、本発明による映像変換装置の一例である。
【0050】
ディスクドライブ11は、光ピックアップを含み、光ディスク4から映像ストリームを読み出す。ディスクドライブ11は、LSI18と接続されており、光ディスク4から読み出した映像ストリームをLSI18に送信する。ディスクドライブ11は、LSI18からの指示に応じて、光ディスク4から映像ストリームを読み出し、LSI18に送信する。
【0051】
チューナ12は、アンテナ5で受信した放送波に含まれる映像ストリームを取得する。チューナ12は、取得した放送波から、LSI18によって指定されたチャンネルの映像ストリームを取り出す。チューナ12はLSI18に接続されており、取り出した映像ストリームをLSI18に送信する。
【0052】
ネットワーク通信インターフェース13は、インターネット500を介してサーバ3と接続可能である。ネットワーク通信インターフェース13は、サーバ3から送信された映像ストリームを取得する。この映像ストリームは、30フレーム/秒のプログレッシブ映像(図16(c)または図17(c)に示す映像)の映像ストリームである。
【0053】
メモリデバイスインターフェース14は、メモリカードを装着可能であり、装着されたメモリカードに記録された映像ストリームを読み出す。メモリデバイスインターフェース14は、メモリカードから読み出した映像ストリームを、LSI18に送信する。
【0054】
HDドライブ17は、ハードディスクなどの記録媒体を内蔵している。HDドライブ17は、内蔵記録媒体からデータを読み出し、読み出したデータをLSI18に送信する。また、HDドライブ17は、LSI18から受信したデータを内蔵記録媒体に記録する。
【0055】
データ伝送インターフェース15は、LSI18から送信されたデータを、外部のTV2に送信するためのインターフェースである。LSI18は、データ信号及びコントロール信号を、データ伝送インターフェース15を介して、TV2との間で送受信し、TV2を制御することができる。データ伝送インターフェース15は、例えば、HDMI(High−Definition Multimedia Interface)で実現可能である。HDMIケーブルは、データ線とコントロール線とを含む。なお、データ伝送インターフェース15は、データ信号をTV2に送信できれば、どのような構成であってもかまわない。
【0056】
バッファメモリ16は、LSI18が処理を行う際に、ワークメモリとして機能する。バッファメモリ16は、例えば、DRAMやSRAMなどで実現可能である。
【0057】
LSI18は、映像変換装置1の各部を制御するシステムコントローラである。LSI18は、マイクロコンピュータで実現してもよく、ハードワイヤードな回路で実現してもよい。LSI18の内部には、CPU181、ストリームコントローラ182、デコーダ183、AV入出力回路184、システムバス185及びメモリコントローラ186が実装されている。
【0058】
フラッシュメモリ19には、LSI18を制御するための制御プログラムが記憶されている。また、フラッシュメモリ19には、チャンネルの情報、音量の情報、ネットワークの通信に必要なMACアドレスやIPアドレスなどの情報、映像再生装置の画質を調整するための情報などが記憶されている。
【0059】
CPU181は、映像再生装置1全体を制御するためのシステムコントローラである。LSI18の各部は、CPU181からの制御に基づいて各種制御を行なう。また、CPU181は外部との通信も制御する。
【0060】
例えば、CPU181は、サーバ3、光ディスク4、アンテナ5及びメモリカード6等から映像ストリームを取得する際、ディスクドライブ11、チューナ12、ネットワーク通信インターフェース13、及びメモリデバイスインターフェース14等に制御信号を送信する。これによってディスクドライブ11、チューナ12、ネットワーク通信インターフェース13、及びメモリデバイスインターフェース14は、映像ストリームを取得することができる。
【0061】
ストリームコントローラ182は、サーバ3、光ディスク4、アンテナ5、及びメモリカード6と、LSI18を構成する各部等との間のデータの送受信を制御する。例えば、ストリームコントローラ182は、サーバ3から取得した映像ストリームを、メモリコントローラ186に送信する。メモリコントローラ186は、LSI18の各部から送信されたデータを、バッファメモリ16に書き込む。また、メモリコントローラ186は、ストリームコントローラ182から取得した映像ストリームを、バッファメモリ16に記録する。また、メモリコントローラ186は、バッファメモリ16に記録されたデータを読み出し、読み出したデータをLSI18の各部に送信する。
【0062】
デコーダ183は、メモリコントローラ186からデータを取得すると、取得したデータをデコードする。デコーダ183へは、CPU181の制御に基づいてデータが入力される。具体的には、CPU181は、メモリコントローラ186を制御して、バッファメモリ16に記録された映像ストリームを読み出させる。そして、CPU181は、読み出した映像ストリームをデコーダ183に送信するようメモリコントローラ186を制御する。これによって、メモリコントローラ186からデコーダ183に映像ストリームが入力される。
【0063】
デコーダ183は、入力された映像ストリームを、圧縮符号化されたデータ(映像情報、音声情報、データ情報)と、ヘッダ情報とに分離する。デコーダ183は、分離したヘッダ情報をバッファメモリ16に記録する。
【0064】
また、デコーダ183は、ヘッダ情報に含まれるデコード情報に基づいて、圧縮符号化されたデータをデコードする。なお、デコーダ183は、デコードした情報(映像情報、音声情報、データ情報)をメモリコントローラ186に送信する。デコーダ183でデコードされて出力される映像データは、60フレーム/秒のインタレース映像データ(図16(d)または図17(d)に示す映像データ)である。メモリコントローラ186は、デコーダ183から取得した情報を、バッファメモリ16に記録する。
【0065】
AV入出力回路184は、デコードしたデータ及びヘッダ情報をバッファメモリ16から読み出し、TV2に表示させるための映像データを生成する。AV入出力回路184は、デコードされた60フィールド/秒の映像データを60フレーム/秒の映像データに走査変換する。AV入出力回路184は、変換された映像データを、データ伝送インターフェース15を介してTV2に送信する。以下、映像再生装置1の種々の実施形態について説明する。
【0066】
(実施形態1)
実施形態1は、前記第1の課題を解決するためのものである。すなわち、図16のような手順で生成されてサーバ3から配信された30フレーム/秒のプログレッシブ映像データを60フレーム/秒のプログレッシブ映像データに走査変換した場合、この映像データは4:2:2:2形式の映像データになる。この4:2:2:2形式の映像データをもとに60フレーム/秒のプログレッシブ映像データを生成して再生した場合、映像の動きが不自然になる。実施形態1はこの問題を解決する映像再生装置1の構成を説明する。
【0067】
図3に、実施形態1の映像再生装置1の要部の構成を示す。入力端子10には、MPEG等の映像ストリームが入力される。デコーダ183は、入力された30フレーム/秒のプログレッシブ映像の映像ストリームをデコードする。デコードにより生成される映像データは、60フレーム/秒のインタレース映像データである。バッファメモリ16は、デコーダ183により得られた、過去3フィールド分の映像データを保持する。すなわち、バッファメモリ16は、1フィールド遅延された映像データを格納するメモリと、2フィールド遅延された映像データを格納するメモリと、3フィールド遅延された映像データを格納するメモリとを有する。
【0068】
AV入出力回路184は、走査変換回路1841と、フィルム映像検出回路1842を有する。
【0069】
フィルム映像検出回路1842は、デコーダ183により得られた映像データとバッファメモリ16に記憶されている1フィールド遅延させた映像データとの差分、及びデコーダ183により得られた映像データと2フィールド遅延させた映像データとの差分に基づいて、処理対象の映像データが、3−2プルダウン変換により生成された60フィールド/秒のインタレース映像データであるかどうかを検出する。
【0070】
走査変換回路1841は、デコーダ183が出力する1フィールド、および、バッファメモリ16が保持する過去3フィールドの合計4フィールドの映像データの中から、2つのフィールドの映像データを組み合わせることにより、3−2プルダウン形式のプログレッシブ映像データへ変換する。この変換処理は、フィルム映像検出回路1842によって得られる情報に基づいて行われる。
【0071】
出力端子20から、AV入出力回路184による上記の走査変換により生成されるプログレッシブ映像データが出力される。
【0072】
以上のように構成された映像再生装置1による処理を、図4を用いて説明する。図4(a)は、デコーダ183によってデコードされ、AV入出力回路184に入力された60フィールド/秒のインタレース映像データを示す。Tn(nは0以上の整数)およびBn(nは0以上の整数)は、24フレーム/秒の映画フィルムの映像データ(プログレッシブ映像)中の同一フレームを構成する一対のフィールド(インタレース映像データ)である。インタレース映像データTn、Bnは、ほぼ同じ絵柄の映像を示す映像データである。図4(b)、(c)、(d)は、バッファメモリ16が保持している1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データを示す。図4(e)はシーケンスカウンタの値を示す。図4(f)は、図3の映像走査変換回路1841により走査変換が行われた60フレーム/秒のプログレッシブ映像データを示す。
【0073】
フィルム映像検出回路1842は、4:2:2:2形式を検出する。デコーダ183から出力される映像データと、バッファメモリ16からの1フィールド遅延された映像データとの差分(以下、適宜「1フィールド差分」という)を計算する。また、フィルム映像検出回路1842は、デコーダ183から出力される映像データと、バッファメモリ16からの2フィールド遅延された映像データとの差分(以下、適宜「2フィールド差分」という)を計算する。フィールド差分とは、対比する画像において、対応する各画素ごとに映像の輝度レベルの差分の絶対値を算出し、算出した絶対値を全画素分加算した合計値である。
【0074】
図5(a)に2フィールド差分の時間推移、図5(b)に1フィールド差分の時間推移を示す。図5(a)、(b)を見ると、1フィールド差分及び2フィールド差分の値は10フィールドごとに周期的に変動していることがわかる。例えば、2フィールド差分の値が閾値以上の状態を1、そうでない状態を0で表現すると、10フィールド中に2フィールド連続して0となる区間が存在することがわかる。フィルム映像検出回路1842は、フィールド差分のこのような周期的な変動を検出することにより、入力データが4:2:2:2形式であることを検出する。
【0075】
フィルム映像検出回路1842は、図5(a)、(b)に示すようなフィールド差分の周期的な変動を連続して検出すると、入力映像データが前述した4:2:2:2形式のインタレース映像データであると判定する。なお、映像データの検出には、1フィールド差分と2フィールド差分の両方を使用して検出してもよいし、いずれか一方のみを使用してもよい。
【0076】
フィルム映像検出回路1842は、4:2:2:2形式の映像データの検出有無を示す検出結果と、検出結果に基づいて設定されるシーケンスカウンタの値を走査変換回路1841に伝える。シーケンスカウンタは、4:2:2:2形式を構成する各映像データが、4:2:2:2形式を構成する10フィールド分の映像データにおける何番目のデータであるかを示すカウンタであり、0〜9のいずれかの値を示す。
【0077】
走査変換回路1841は、フィルム映像検出回路1842での4:2:2:2形式の映像データの検出有無を示す検出結果とシーケンスカウンタの値(図4(f)参照)に基づいて、上記合計4フィールドの映像データ(デコーダ183から出力される映像データ(走査変換回路1841への入力映像)とバッファメモリ16が保持する過去3フィールドの映像データ(1フィールド遅延された映像データ、2フィールド遅延された映像データ、及び3フィールド遅延された映像データ))のうち所定の2個の映像データを組み合わせることでプログレッシブ映像データを生成する。具体的には、走査変換回路1841は、フィルム映像検出回路1842の検出結果が4:2:2:2形式の映像データを検出したことを示すものである場合、シーケンスカウンタの値(図4(f)参照)に基づいて、走査変換回路1841の出力が元の3−2プルダウン変換により生成された映像データと同じになるように上記合計4フィールドの映像データ(図4の(a)、(b)、(c)、(d))のうち所定の2個のインタレース映像データを組み合わせることで図4(e)に示すプログレッシブ映像データを生成する。
【0078】
図4を参照して、映像再生装置1の動作を具体的に説明する。例えば、シーケンスカウンタの値が2のときは、1フィールド遅延されたインタレース映像データ(B0)と2フィールド遅延されたインタレース映像データ(T0)を組み合わせることでプログレッシブ映像データ(出力映像データ)(T0/B0)を生成する。シーケンスカウンタの値が3のときは、2フィールド遅延されたインタレース映像データB0と3フィールド遅延されたインタレース映像データT0を組み合わせることでプログレッシブ映像データ(T0/B0)を生成する。シーケンスカウンタの値が4のときは、2フィールド遅延されたインタレース映像データ(T0)と1フィールド遅延されたインタレース映像データ(B0)を組み合わせることでプログレッシブ映像データ(T0/B0)を生成する。シーケンスカウンタの値が5のときは、走査変換回路1841への入力映像データB1と1フィールド遅延された映像データT1を組み合わせることでプログレッシブ方式のプログレッシブ映像データT0/B0を生成する。シーケンスカウンタの値が6のときには、1フィールド遅延されたインタレース映像データ(B1)と2フィールド遅延されたインタレース映像データ(T1)を組み合わせることでプログレッシブ映像データT1/B1を生成する。このように組み合わせることで、シーケンスカウンタの値が2、3、4のときに、同一のプログレッシブ映像データ(T0/B0)が得られ、シーケンスカウンタの値が5、6のときに、同一のプログレッシブ映像データ(T1/B1)が得られる。以後においても、図4に示すように組み合わせることで、同一の映像が3フレーム、2フレーム、3フレーム…と繰り返す3−2プルダウン映像が得られる。なお、シーケンスカウンタの各値における上記組合せは一例である。例えば、シーケンスカウンタの値が3のときに、1フィールド遅延された映像データ(T0)と2フィールド遅延された映像データ(BO)を組み合わせてもよく、走査変換回路1841への入力映像データと1フィールド遅延された映像データ(T0)を組み合わせてもよい。要は、3−2プルダウン形式のプログレッシブ映像データ(T0/B0)が得られるように、合計4フィールドのインタレース映像データのうち2フィールドのインタレース映像データを組み合わせればよい。また、シーケンスカウンタの値が5、6のときには、プログレッシブ映像データ(T1/B1)が得られるように、合計4フィールドのインタレース映像データのうち2フィールドのインタレース映像データを組み合わせればよい。
【0079】
以上のように、実施形態1の映像再生装置1は、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データである場合、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。これにより、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データであっても、ユーザが視認したときに映像の動きが不自然になるという問題を解消できる。
【0080】
(実施形態2)
実施形態2は、前記第1の課題を解決するための、実施形態1とは異なる構成を説明する。
【0081】
実施形態1では、映像再生装置1が60フレーム/秒のプログレッシブ映像データを出力する場合について説明を行った。実施形態2では24フレーム/秒のプログレッシブ映像データを出力する場合の構成について図6、図7を用いて説明する。図6は、実施形態2の映像再生装置1の構成を示す図である。図7は、実施形態2の映像再生装置1の処理を示す図である。実施形態2の映像再生装置1は、図3に示す実施形態1の映像再生装置1の構成要素に加え、走査変換回路1841の後段にバッファメモリ17を備える。
【0082】
バッファメモリ17は少なくとも2以上のフレームメモリを備えており、フレームレートの変換を行う。走査変換回路1841から出力された60フレーム/秒のプログレッシブ映像データは、バッファメモリ17に入力される。バッファメモリ17は、走査変換回路1841から入力された60フレーム/秒のプログレッシブ映像データの出力タイミングを、フィルム映像検出回路1842から得られた検出結果とシーケンスカウンタの値に基づいて調整することにより、3−2プルダウンされる前の24フレーム/秒のプログレッシブ映像データを出力する。
【0083】
例えば、図7(g)に示すように、バッファメモリ17は、シーケンスカウンタの値が2のときに走査変換回路1841から出力されたプログレッシブ映像データ(T0/B0)を、シーケンスカウンタの値が2になってから第1所定時間T1経過した後、シーケンスカウンタの値が5になってから第2所定時間T2経過するまでの第3所定時間T3(1/24秒)の間、出力する。また、バッファメモリ17は、シーケンスカウンタの値が5のときに走査変換回路1841から出力されたプログレッシブ映像データ(T1/B1)を、シーケンスカウンタの値が5になってから第4所定時間T4経過した後、シーケンスカウンタの値が7になってから第5所定時間T5経過するまでの第6所定時間T6(1/24秒)の間、出力する。以後、同様にシーケンスカウンタの値に基づいて、走査変換回路1841から出力されたプログレッシブ映像データ(T1/B1)を所定時間(1/24秒)出力することにより、3−2プルダウン変換される前と同内容の24フレーム/秒のプログレッシブ映像データを出力する。
【0084】
以上のように、実施形態2の映像再生装置1は、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データである場合、入力された映像データを、当該映像データの生成の基礎の、全てのフレームが異なる24フレーム/秒の映像データに変換して出力する。これにより、入力された映像データが4:2:2:2形式の60フィールド/秒の映像データであっても、ユーザが視認したときに映像の動きが不自然になるという問題を解消できる。
【0085】
(実施形態3)
実施形態3は、前記第4の課題を解決するためのものである。すなわち、図16のような手順で生成されてサーバ3から配信された30フレーム/秒のプログレッシブ映像データは、2:1:1:1形式となっている。この30フレーム/秒の2:1:1:1形式のプログレッシブ映像データを、60フレーム/秒のプログレッシブ映像データに走査変換した場合、走査変換により生成された映像データは4:2:2:2形式の映像データになる。この4:2:2:2形式の映像データを再生した場合、映像の動きが不自然になる。実施形態3はこの問題を解決する映像再生装置1の構成を説明する。
【0086】
実施形態1では、映像再生装置1のデコーダ183の出力が60フィールド/秒のインタレース映像データの場合について説明を行った。実施形態3では、デコーダ183の出力が30フレーム/秒のプログレッシブ映像データである場合の構成について、図8を用いて説明する。映像再生装置1の構成は、実施形態2で説明した図6に示す映像再生装置1と同じ構成である。デコーダ183によりデコードされた30フレーム/秒の映像データは、図8(a)に示されるように2フレーム、1フレーム、1フレーム、1フレームという周期で繰り返される2:1:1:1形式のプログレッシブ映像データである。図6に示すフィルム映像検出回路1842は、4:2:2:2形式のインタレース映像データの検出と同様に、フレーム差分の周期的な変動を検出することで、2:1:1:1形式のプログレッシブ映像データであることを検出する。
【0087】
バッファメモリ17は少なくとも2以上のフレームメモリを備えており、フレームレートの変換を行う。走査変換回路1841からの30フレーム/秒のプログレッシブ映像データの出力は、バッファメモリ17に入力される。バッファメモリ17は、走査変換回路1841から入力された30フレーム/秒のプログレッシブ映像データの出力タイミングを、フィルム映像検出回路1842から得られた検出結果とシーケンスカウンタの値(図8(f))に基づいて調整することにより、60フレーム/秒のプログレッシブ映像データを出力する。
【0088】
例えば、図8に示すように、バッファメモリ17は、シーケンスカウンタの値が1のときに走査変換回路1841から入力されたプログレッシブ映像データ(T0/B0)を、1/60秒の周期で3回連続して出力する。また、バッファメモリ17は、シーケンスカウンタの値が2のときに走査変換回路1841から入力されたプログレッシブ映像データ(T1/B1)を、3個目のプログレッシブ映像データ(T0/B0)の出力後、1/60秒の周期で2回連続して出力する。バッファメモリ17は、シーケンスカウンタの値が3のときに走査変換回路1841から入力されたプログレッシブ映像データ(T2/B2)を、2個目のプログレッシブ映像データ(T1/B1)の出力後、1/60秒の周期で2回連続して出力する。以後、シーケンスカウンタの値に基づいて、走査変換回路1841から入力されたプログレッシブ映像データを出力することにより、3−2プルダウン形式の60フレーム/秒のプログレッシブ映像データを出力する。
【0089】
以上のように、実施形態3の映像再生装置1は、入力された映像データが2:1:1:1形式の30フレーム/秒の映像データである場合、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。これにより、入力された映像データが2:1:1:1形式の30フレーム/秒の映像データであっても、ユーザが視認したときに映像の動きが不自然になるという問題を解消できる。
【0090】
(実施形態4)
実施形態4は、前記第2の課題を解決するためのものである。すなわち、2:2:2:2:2形式の60フィールド/秒のインタレース映像データ(異なる2つの画像を組み合わせて生成されたフレームが含まれる映像データ)を、60フレーム/秒のプログレッシブ映像データに変換した場合、この60フレーム/秒のプログレッシブ映像データにも異なる画像を組み合わせて生成されたフレームが含まれることとなる。そのため、この60フレーム/秒のプログレッシブ映像データによる映像を視聴したきに2重にあるいは滲んで見えるという問題がある。実施形態4は、この問題を解決する映像再生装置1の構成を説明する。

【0091】
図9は、実施形態4の映像再生装置1の構成を示す図である。実施形態4の映像再生装置1は、実施形態1の映像再生装置1に加え、乗算器31、減算器32、第1セレクタ33、第2セレクタ34、及びスイッチ35を有する。実施形態1と同じ部分についての説明は省略する。
【0092】
乗算器31は、デコーダ183からの出力を2倍して出力する。
【0093】
セレクタ33は、デコーダ183からの出力と、乗算器31からの出力とのいずれか一方を選択的に出力する。
【0094】
セレクタ34は、バッファメモリ16からの1フィールド遅延された映像データと、2フィールド遅延された映像データとのいずれか一方を選択的に出力する。
【0095】
スイッチ34は、開閉してセレクタ35の出力と減算器32の−入力とを断接する。
【0096】
減算器32は、セレクタ33の出力からセレクタ34の出力を減算し、減算した結果をバッファメモリ16に出力する。
【0097】
CPU181は、走査変換回路1841へ入力される映像データが60フィールド/秒のインタレース映像データであるときは、セレクタ34から、バッファメモリ16からの2フィールド遅延された映像データを出力させる。一方、走査変換回路1841へ入力される映像データが30フレーム/秒のプログレッシブ映像データであるときは、CPU181は、セレクタ34から、バッファメモリ16からの1フィールド遅延された映像データを出力させる。
【0098】
また、CPU181は、シーケンスカウンタの値が所定の値のときに、乗算器31の出力が出力されるようにセレクタ33を制御する。例えば、走査変換回路1841へ入力される映像データが60フィールド/秒のインタレース映像データである場合、CPU181は、シーケンスカウンタの値が3及び4のときに、セレクタ33から乗算器31の出力を出力させる。また、走査変換回路1841へ入力される映像データが30フレーム/秒のプログレッシブ映像データである場合、CPU181は、シーケンスカウンタの値が2のときに、セレクタ33から乗算器31の出力を出力させる。
【0099】
また、CPU181は、シーケンスカウンタの値が所定の値のときに、スイッチ35を閉に制御する。例えば、CPU181は、走査変換回路1841へ入力される映像データが60フィールド/秒のインタレース映像データである場合、シーケンスカウンタの値が3及び4のときに、スイッチ35を閉に制御する。また、CPU181は、走査変換回路1841へ入力される映像データが30フレーム/秒のプログレッシブ映像データである場合、シーケンスカウンタの値が2のときに、スイッチ35を閉に制御する。
【0100】
また、CPU181は、シーケンスカウンタの値が5の場合、シーケンスカウンタの値が4のときにおける、バッファメモリ16からの2フィールド遅延された出力をバッファメモリ16のメモリ(1)に1フィールド遅延された映像データとして上書きする。
【0101】
このような構成によれば、図10に示すように、シーケンスカウンタの値が3のときに、シーケンスカウンタの値が2のときの走査変換回路1841へ入力された映像データTaを2倍した映像データ2Taから、シーケンスカウンタの値が2のときの2フィールド遅延された映像データT0が減算される。これにより、映像データT1が生成され、この映像データT1が、シーケンスカウンタの値が3のときの、1フィールド遅延されたメモリ出力の映像データとして上書きされる。
【0102】
また、シーケンスカウンタの値が4のときに、シーケンスカウンタの値が3のときの走査変換回路1841へ入力された映像データBaを2倍した映像データから、バッファメモリ16からの2フィールド遅延された出力の映像データB0が減算される。これにより、映像データT1が生成される。この映像データT1が、シーケンスカウンタの値が4のときの1フィールド遅延された出力の映像データとして上書きされる。
【0103】
また、シーケンスカウンタの値が5のときに、シーケンスカウンタの値が4のときの、バッファメモリ16における2フィールド遅延された出力の映像データT1が、シーケンスカウンタの値が5のときの1フィールド遅延された出力の映像データとして上書きされる。
【0104】
なお、図5の場合と同様、図17(e)に示すような、視聴されたときに2重にあるいは滲んで見えることとなる2:2:2:2:2形式の映像データは、以下のようにして判別することができる。
【0105】
図11(a)に2フィールド差分の時間推移、図11(b)に1フィールド差分の時間推移を示す。図11(a)、(b)を見ると、1フィールド差分及び2フィールド差分の値は10フィールドごとに周期的に変動していることがわかる。例えば、図11(a)の2フィールド差分に対して、適切な閾値を設け、差分値が閾値以上であれば1、そうでなければ0としてフィールド差分の値を1と0で表現すると、10フィールド中に2フィールド連続して0となる区間が2つ存在することがわかる。また、図11(b)の1フィールド差分においては、フィールド差分の値は1と0で交互に出現することがわかる。フィルム映像検出回路1842は、フィールド差分のこのような周期的な変動を検出することで、2:2:2:2:2形式の映像データを検出できる。
【0106】
なお、シーケンスカウンタの値が2のとき、入力された映像データT1から2フィールド遅延された映像データT0を減算するようにしたが、1フィールド遅延された映像データB0を減算に使用してもよい。また、いずれの映像データを使用するかを、デコーダ183でデコードされた映像データが示す映像の状態に応じて適応的に変更してもよい。
【0107】
実施形態4の映像再生装置1は、走査変換回路1841に入力された映像データが2:2:2:2:2形式の60フレーム/秒の映像データである場合、入力された映像データを、当該映像データの入力前に入力された映像データを用いて補正した後、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。これにより、入力された映像データが2:2:2:2:2形式の60フレーム/秒の映像データであっても、視認したときに二重にあるいは滲んで見える映像となるのが解消される。
【0108】
(実施形態5)
実施形態5は、前記第3の課題を解決するためのものである。すなわち、1:1:1:1:1形式の30フレーム/秒のプログレッシブ映像データ(異なる2つの画像を組み合わせて生成されたフレームが含まれる映像データ)を、60フレーム/秒のプログレッシブ映像データに変換した場合、この60フレーム/秒のプログレッシブ映像データにも異なる画像を組み合わせて生成されたフレームが含まれることとなる。そのため、この60フレーム/秒のプログレッシブ映像を視聴したきに2重にあるいは滲んで見えるという問題がある。実施形態5では、この問題を解決する映像再生装置1の構成を説明する。
【0109】
以下、実施形態5の映像再生装置について図12、14を用いて説明する。実施形態5の映像再生装置は、実施形態4(図9)に記載のものにおいて、さらにバッファメモリ17を備えている。
【0110】
バッファメモリ17は少なくとも2以上のフレームメモリを備えており、フレームレートの変換を行う。走査変換回路1841から出力される30フレーム/秒のプログレッシブ映像データは、バッファメモリ17に入力される。バッファメモリ17は、走査変換回路1841から入力された30フレーム/秒のプログレッシブ映像データの出力タイミングを、フィルム映像検出回路1842から得られた検出結果とシーケンスカウンタの値に基づいて調整することにより、3:2プルダウン形式での60フレーム/秒のプログレッシブ映像データを出力する。
【0111】
また、CPU181は、シーケンスカウンタの値が所定の値のときに、セレクタ33から乗算器31の出力を出力させる。例えば、CPU181は、入力される映像データが30フレーム/秒のプログレッシブ映像データである場合、シーケンスカウンタの値が2のときに、セレクタ33から乗算器31の出力を出力させる。
【0112】
また、CPU181は、シーケンスカウンタの値が所定の値のときに、スイッチ35を閉に制御する。例えば、CPU181は、入力される映像データが30フレーム/秒のプログレッシブ映像データである場合、シーケンスカウンタの値が2のときに、スイッチ35を閉に制御する。
【0113】
このような構成によれば、図13に示すように、シーケンスカウンタの値が2のときに、シーケンスカウンタの値が1のときの走査変換回路1841への入力映像データTa/Baから、バッファメモリ16からの1フィールド遅延された映像データT0/B0が減算される。これにより、映像が混合される前の映像データT1が生成される。この映像データT1が、シーケンスカウンタの値が2のときに、バッファメモリ16における1フィールド遅延された映像データとして重ね書きされる。
【0114】
実施形態5の映像再生装置1は、入力された映像データが1:1:1:1:1形式の30フレーム/秒の映像データである場合、入力された映像データを、当該映像データの入力前に入力された映像データを用いて補正した後、入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する。これにより、入力された映像データが1:1:1:1:1形式の30フレーム/秒の映像データであっても、視認したときに二重にあるいは滲んで見える映像となるのが解消される。
【0115】
(その他の実施形態)
上述の実施形態1〜5の説明では、インターネットから映像データを受信して再生する場合について説明した。しかし、これは一例である。たとえば、録画されたデジタル放送番組やDVDなどを再生する場合にも、適用することができる。
【0116】
上述の実施形態の説明では、フィルム映像検出回路1842により、3−2プルダウン変換により生成された映像データであることをフィールド差分の規則性を利用して検出する。しかしながら、この処理は必須ではない。たとえばデジタル放送のストリーム(MPEG2トランスポートストリーム)には種々の制御情報が含まれており、そのうちの、RFF(Repeat First Flag)と呼ばれる識別子は、そのデータストリームが3−2プルダウン変換によって生成されたか否かを示す。映像再生装置1のCPU181は、フィールド差分検出処理の規則性の検出に代えて、その識別子を検出する処理を行ってもよい。
【0117】
上記各実施形態では、映像再生装置1を構成するCPU181、ストリームコントローラ182、デコーダ183、AV入出力回路184、バス185、及びメモリコントローラ186は、1つの半導体チップLSI18により構成した。しかしながら、これは一例である。これらの構成要素は、2つ以上のチップから構成されてもよいし、各構成要素がそれぞれ異なるチップやメモリモジュールとして実現されてもよい。
【0118】
本実施形態では、本発明の映像変換装置は、映像再生装置1に組み込まれている。しかし、LSI18は、TV2に組み込むことも可能である。さらに、本発明の映像変換装置は、インターネット500を通じて映像ストリームを受信して映像を再生する機能を有する機器であれば、広く組み込むことが可能である。例えば、インターネット500上の映像ストリームを受信し、デコードして再生するレコーダおよびプレーヤに内蔵することができる。また、図示されないPC(パーソナル・コンピュータ)、携帯電話、携帯型メディアプレーヤー、PDA、カーナビゲーションシステムに内蔵することもできる。また、上記各実施形態で説明した映像変換機能を有する映像変換装置単体としても実現可能である。
【0119】
上述の各実施形態の映像再生装置1は、コンピュータプログラムに基づいて動作する。たとえば、実施形態1による映像再生装置1は、図4等に示す手順が記述されたコンピュータプログラムに基づいて動作する。そのようなコンピュータプログラムは、光ディスクやフラッシュメモリカードに記録され得る。またはネットワークを通じて伝送され得る。
【産業上の利用可能性】
【0120】
本発明に係る映像変換装置は3−2プルダウン変換により生成された映像データに対して走査変換を行うものであり、映像表示装置や映像再生装置に好適に用いられる。
【符号の説明】
【0121】
1 映像再生装置
2 TV
3 サーバ
10 入力端子
11 ディスクドライブ
12 チューナ
13 ネットワーク通信インタフェース
14 メモリデバイスインタフェース
15 データ伝送インタフェース
16 バッファメモリ
17 HDドライブ
18 システムコントローラ
19 フラッシュメモリ
20 出力端子
181 CPU
182 ストリームコントローラ
183 デコーダ
184 AV入出力回路
1841 走査変換回路
1842 フィルム映像検出回路
186 メモリコントローラ

【特許請求の範囲】
【請求項1】
入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置であって、
前記入力された所定の走査形式の映像データは、60フィールド/秒の4:2:2:2形式の映像データであり、
前記4:2:2:2形式の映像データは、1つの元画像から生成された4つのフィールド、次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールド、及びさらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データであり、
前記入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する変換部を備える、
映像変換装置。
【請求項2】
入力された映像データが4:2:2:2形式の60フィールド/秒の映像データであるか否かを検出する検出部と、
前記入力された映像データを記憶する記憶部と、を備え、
前記変換部は、前記検出部が前記入力された映像データが前記4:2:2:2形式の60フィールド/秒の映像データであると判断した場合に、前記記憶部に記憶された映像データを読み出し、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する、
を備えた請求項1に記載の映像変換装置。
【請求項3】
前記検出部は、前記記憶部に記憶された映像データの所定フィールドのデータと、前記所定フィールドから2フィールド遅延させた映像データとの差分を検出することにより、前記4:2:2:2形式の60フィールド/秒の映像データであることを検出する、請求項2に記載の映像変換装置。
【請求項4】
前記検出部は、前記記憶部に記憶された映像データの所定フィールドのデータと、前記所定フィールドから1フィールド遅延させた映像データとの差分を検出することにより、前記4:2:2:2形式の60フィールド/秒の映像データであることを検出する、請求項3に記載の映像変換装置。
【請求項5】
入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置であって、
前記入力された所定の走査形式の映像データは、60フィールド/秒の4:2:2:2形式の映像データであり、
前記4:2:2:2形式の映像データは、1つの元画像から生成された4つのフィールド、次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールド、及びさらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データであり、
前記入力された映像データを、当該映像データの生成の基礎の、全てのフレームが異なる24フレーム/秒の映像データに変換して出力する変換部を備える、
映像変換装置。
【請求項6】
入力された映像データが4:2:2:2形式の60フィールド/秒の映像データであるか否かを検出する検出部と、
前記入力された映像データを記憶する記憶部と、を備え、
前記変換部は、前記検出部が前記入力された映像データが4:2:2:2形式の60フィールド/秒の映像データであると判断した場合に、前記記憶部に記憶された映像データを読み出し、24フレーム/秒の映像データに変換して出力する、
を備えた請求項5に記載の映像変換装置。
【請求項7】
入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置であって、
前記入力された所定の走査形式の映像データは、30フレーム/秒の2:1:1:1形式の映像データであり、
前記2:1:1:1形式の映像データは、1つの元画像から生成された2つのフレーム、次の元画像から生成された1つのフレーム、さらに次の元画像から生成された1つのフレーム、及びさらに次の元画像から生成された1つのフレームがこの順で周期的に現れる形式の映像データであり、
前記入力された映像データを3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する変換部を備える、
映像変換装置。
【請求項8】
入力された映像データが2:1:1:1形式の30フレーム/秒の映像データであるか否かを検出する検出部と、
前記入力された映像データを記憶する記憶部と、を備え、
前記変換部は、前記検出部が前記入力された映像データが2:1:1:1形式の30フレーム/秒の映像データであると判断した場合に、前記記憶部に記憶された映像データを読み出し、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する、
を備えた請求項7に記載の映像変換装置。
【請求項9】
入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置であって、
前記入力された所定の走査形式の映像データは、60フィールド/秒の2:2:2:2:2形式の映像データであり、
前記2:2:2:2:2形式の映像データは、1つの元画像から生成された2つのフィールド、次の元画像から生成された2つのフィールド、前記次の元画像及びさらに次の元画像から生成された2つのフィールド、前記さらに次の元画像から生成された2つのフィールド、さらに次の元画像から生成された2つのフィールドがこの順で周期的に現れる形式の映像データであり、
前記入力された映像データを、前記入力された映像データのうち前記次の元画像及び前記さらに次の元画像から生成された2つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する変換部を備える、
映像変換装置。
【請求項10】
入力された映像データが2:2:2:2:2形式の60フィールド/秒の映像データであるか否かを検出する検出部と、
前記入力された映像データを記憶する第1記憶部と、
前記映像データが入力される直前に入力された映像データを記憶する第2記憶部と、を備え、
前記変換部は、前記検出部が前記入力された映像データが2:2:2:2:2形式の60フィールド/秒の映像データであると判断した場合に、前記第1記憶部及び前記第2記憶部に記憶された映像データをそれぞれ読み出し、前記第1記憶部から読み出した映像データを、前記第2記憶部から読み出した映像データを用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する、
を備えた請求項9に記載の映像変換装置。
【請求項11】
入力された所定の走査形式の映像データを他の走査形式の映像データに変換可能な映像変換装置であって、
前記入力された所定の走査形式の映像データは、30フレーム/秒の1:1:1:1:1形式の映像データであり、
前記1:1:1:1:1形式の映像データは、1つの元画像から生成された1つのフィールド、次の元画像から生成された1つのフィールド、前記次の元画像及びさらに次の元画像から生成された1つのフィールド、前記さらに次の元画像から生成された1つのフィールド、さらに次の元画像から生成された1つのフィールドがこの順で周期的に現れる形式の映像データであり、
前記入力された映像データを、前記入力された映像データのうち前記次の元画像及び前記さらに次の元画像から生成された1つのフィールドについては他フィールドの生成に用いられた元画像を用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する変換部を備える、
映像変換装置。
【請求項12】
入力された映像データが1:1:1:1:1形式の30フレーム/秒の映像データであるか否かを検出する検出部と、
前記入力された映像データを記憶する第1記憶部と、
前記映像データが入力される直前に入力された映像データを記憶する第2記憶部と、を備え、
前記変換部は、前記検出部が前記入力された映像データが1:1:1:1:1形式の30フレーム/秒の映像データであると判断した場合に、前記第1記憶部及び前記第2記憶部に記憶された映像データをそれぞれ読み出し、前記第1記憶部から読み出した映像データを、前記第2記憶部から読み出した映像データを用いて補正した後、3:2プルダウン形式の60フレーム/秒の映像データに変換して出力する、
を備えた請求項11に記載の映像変換装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図5】
image rotate

【図6】
image rotate

【図9】
image rotate

【図11】
image rotate

【図12】
image rotate

【図14】
image rotate

【図15】
image rotate

【図4】
image rotate

【図7】
image rotate

【図8】
image rotate

【図10】
image rotate

【図13】
image rotate

【図16】
image rotate

【図17】
image rotate


【公開番号】特開2012−151835(P2012−151835A)
【公開日】平成24年8月9日(2012.8.9)
【国際特許分類】
【出願番号】特願2011−285763(P2011−285763)
【出願日】平成23年12月27日(2011.12.27)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】