説明

画像処理装置、及び画像処理方法

【課題】 ブロックマッチング法により動きベクトルから補間フレームを作成して入力よりも高いフレームレートで表示する画像表示装置において、2画面表示などを行う場合、ウィンドウのサイズや位置により、ブロック内に映像領域と非映像領域が混在すると、正確な動きベクトルが求め難くなる。
【解決手段】 本発明は、複数の映像信号を合成してマルチ画面映像信号を出力するマルチ画面合成部と、前記マルチ画面合成部より出力された前記マルチ画面映像信号をブロックマッチング法によって検出した動きベクトルに従って補間画像を生成し、フレームレート変換するフレームレート変換部とを備えた画像処理装置であって、前記マルチ画面合成部は、フレームレート変換部において補間画像を生成する子画面のサイズを前記フレームレート変換部における前記ブロックマッチング法で用いられるブロックのサイズの整数倍に設定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動きベクトルを検出して補間フレームを作成し、入力よりも高いフレームレートの出力画像を生成する画像処理装置に関するものである。
【背景技術】
【0002】
近年、画像表示装置において入力された映像信号のフレームレートよりも高いフレームレートで表示することが行われている。この際、入力された複数のフレームから動きベクトルを求め、その動きベクトルに基づいて補間フレームを生成する技術が用いられるようになっている。
【0003】
動きベクトルを求める方法として、一般的に行われている方法としてブロックマッチング法がある。ブロックマッチング法は映像信号の1フレームを格子状のブロックに分割し、ブロックごとにそのフレームとは時間位置の異なるフレームにおける探索範囲内の画像データとの相関を取ることにより動きベクトルを求めるものである。
【0004】
また、近年のテレビ受像機においては、2種類の入力の映像を同時に表示する2画面表示を行うこともよく行われている。映像が重ならないような2画面表示を行うと画面内には映像の表示される部分と映像の表示されない余白部分が生じる。このような表示状態の時に、動きベクトルを求めようとして通常の画面表示と同様のブロック分割を行うと分割されたブロック内に映像の表示されている領域と、映像の表示されていない領域が混在する場合がある。(図9)
ブロック内に映像の表示されている領域と、表示されていない領域が混在していると正しいブロックマッチングを行うことが困難になり、高品位な補間フレームを作成できなくなる。
【0005】
このため、特許文献1には、画面を補間に適する補間好適領域と補間に適さない補間不適領域に分け、補間好適領域のみを均等にブロック分割するという方法が記載されている。
【特許文献1】特開2005−006275号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら上記の従来技術の場合、補間好適領域に対して均等にブロック分割するとしているが、表示している画面のサイズを変えた場合に対応して、均等に分割しようとするとブロックサイズを可変にしなければならなくなる。
【0007】
ブロックサイズを可変にするとハードウェアが複雑になり回路規模の増大を招く。
【0008】
そこで本発明は、ブロックサイズを可変としなくても2画面表示などを行った場合に表示領域に対して均等にブロックを割り振ることのできる画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の課題を解決するために、本発明は、
複数の映像信号を合成してマルチ画面映像信号を出力するマルチ画面合成部と、
前記マルチ画面合成部より出力された前記マルチ画面映像信号をブロックマッチング法によって検出した動きベクトルに従って補間画像を生成し、フレームレート変換するフレームレート変換部とを備えた画像処理装置であって、
前記マルチ画面合成部は、フレームレート変換部において補間画像を生成する子画面のサイズを前記フレームレート変換部における前記ブロックマッチング法で用いられるブロックのサイズの整数倍に設定することを特徴とする。
【発明の効果】
【0010】
本発明は、ブロックサイズを可変としなくても2画面表示などを行った場合に表示領域に対して均等にブロックを割り振ることができ、低コストで高品位な画像表示装置を構成することが可能になる。
【発明を実施するための最良の形態】
【0011】
次に、本発明の詳細を実施例の記述に従って説明する。
【実施例1】
【0012】
図1は本発明の第1実施例の構成を示すブロック図である。
【0013】
このブロック図に従って本実施例の動作を説明する。
【0014】
入力選択部1は、入力される複数の映像信号入力から2つの信号を選択してマルチ画面合成部2に出力する。この例においては入力A、入力B、入力Cの3つから2つを選択し、選択信号A、選択信号Bとしている。また、入力選択部1は選択した各信号の画像サイズ情報をマルチ画面合成部2に出力する。
【0015】
マルチ画面合成部2は、スケーリング部4、及びスケーリング部5、レイアウト制御部6、画面合成部7から構成される。
【0016】
レイアウト制御部6は、入力選択部1から取得した画像サイズ情報と、図示しない制御信号とに基づき、選択信号Aおよび選択信号Bをそれぞれどのようなサイズに変更するかをスケーリング部4、スケーリング部5に指示する。
【0017】
また、サイズ変更された各選択信号を1画面内にどのように配置するかを画面合成部7に指示する。
【0018】
スケーリング部4及びスケーリング部5はレイアウト制御部6からの指示に従い選択信号Aおよび選択信号Bをサイズ変更(スケーリング及びトリミング)し、子画面信号A、子画面信号Bとして出力する。
【0019】
画面合成部7はレイアウト制御部6の指示に従ってスケーリング部4及びスケーリング部5からの信号を合成して1画面とし、フレームレート変換部3に出力する。
【0020】
フレームレート変換部3はフレームメモリを持ち、現在入力されたフレームよりも前のフレームのデータを保持している。入力された映像信号の1フレームを所定のサイズのブロックに分割して、ブロックマッチング法により、保持された前のフレームのデータを探索して動きベクトルを得る。得られた動きベクトルに基づき補間フレームを生成し、入力よりも高いフレームレートで映像信号を出力する。
【0021】
この時、レイアウト制御部6は子画面信号A及び子画面信号Bのサイズがフレームレート変換部3で動きベクトル探索に用いられるブロックのサイズの整数倍となるようにスケーリング部4およびスケーリング部5に指示を出す。また、画面合成部7に配置の指示を出す時に子画面の位置が1画面を前記ブロックのサイズで均等に分割した格子点に一致するように指示を出す。
【0022】
このようにレイアウト制御部6が子画面のサイズと位置を制御することにより、フレームレート変換部3でブロック分割した時に、それぞれの子画面は図2に示すように分割されたブロック内に、余白が無く収まる。このため、映像領域と非映像領域を混合して含むブロックが生じることが無く子画面全体に対して動きベクトルを求めることができ、子画面の高品位な補間フレームを生成することができる。
【0023】
なお、本実施例は2画面の場合について示したが、3画面以上の表示の場合であっても同様に、それぞれの子画面のサイズを前記ブロックのサイズの整数倍とすることで高品位な補間フレームを得ることができる。
【実施例2】
【0024】
図3は本発明の第2実施例の構成を示すブロック図である。本例の構成は第1実施例とほぼ同じであり、第1実施例と異なるのは、マルチ画面合成部2内のレイアウト制御部6からフレームレート変換部3に対してレイアウト情報が出力されている点だけである。
【0025】
第2実施例の動作として、第1実施例と異なる点を説明する。
【0026】
本例においても、レイアウト制御部6は子画面のサイズをフレームレート変換部3で用いられるブロックマッチング法におけるブロックのサイズの整数倍になるようにスケーリング部4及びスケーリング部5に指示する。しかし、画面合成部7での配置は、1画面を前記ブロックのサイズで均等に分割した位置に限定せずに自由に配置する。
【0027】
その上で子画面をどこに配置したかというレイアウト情報をフレームレート変換部3に出力する。
【0028】
フレームレート変換部3はそのレイアウト情報を参照して、図4に示すように子画面を前記ブロックのサイズで均等に分割する。
【0029】
本実施例においても子画面は映像領域と非映像領域が混在することなくブロック分割されるため、子画面全体で動きベクトルが求められる。
【0030】
なお、本実施例では、レイアウト情報をレイアウト制御部6からフレームレート変換部3に出力していたが、この情報を伝達せずに、フレームレート変換部3内で映像領域を検出するようにしても良い。この場合も検出される映像領域が前記ブロックのサイズの整数倍になっているため、子画面全体で動きベクトルを求めることができる。
【実施例3】
【0031】
図5は本発明の第3実施例の構成を示すブロック図である。本例の構成は第1実施例とほぼ同じであり、第1実施例と異なるのは、マルチ画面合成部2内のレイアウト制御部6に入力選択部1から画像サイズ情報だけでなく、画像種別情報が入力されている点である。
【0032】
第3実施例の動作として、第1実施例と異なる点を説明する。
【0033】
本例では、レイアウト制御部6は画像種別に応じてスケーリング部4或いはスケーリング部5に対するサイズ指示を変更する。
【0034】
子画面Aが通常の動画映像であり子画面Bがウェブブラウザの画面であるような場合で説明する。ウェブブラウザの画面は静止画が多いため動きベクトルを求めて補間フレームを生成する必要がない。従って、ウェブブラウザの画面はフレームレート変換部3でブロック分割した時に、ブロック内に映像領域と非映像領域が混在しても良い。
【0035】
このため、レイアウト制御部6は通常の動画映像である子画面Aはそのサイズがフレームレート変換部3で動きベクトル探索時に用いられるブロックのサイズの整数倍になるようにスケーリング部4に指示をする。また画面合成部7に対しては子画面Aの位置が、1画面を前記ブロックのサイズで均等に分割した格子位置と一致するように配置するように指示を出す。
【0036】
一方、ウェブブラウザの画面である子画面Bについては画像サイズが前記ブロックのサイズの整数倍であるという制限、配置位置が1画面を前記ブロックのサイズで均等に分割した格子位置と一致するという制限、のいずれも受けない状態でサイズ設定、配置を行う。
【0037】
フレームレート変換部3は、上記のように構成された合成画面を入力とし、図6に示すように前記ブロックのサイズで1画面を均等に分割し、ブロックごとに動きベクトルを求めて補間フレームを作成する。
【0038】
動画の含まれる子画面Aは映像全体で適切に動きベクトルが求められるため高品位な補間フレームを得ることができ、一方、ウェブブラウザ画面は画面サイズ、レイアウトの制限を受けないため自由度の高い表示を行うことができる。
【0039】
なお、本実施例は実施例1のようにフレームレート変換部で1画面を均等にブロック分割しているが、実施例2のようにレイアウト情報をフレームレート変換部3に送ることで、動画を表示している子画面Aの配置位置が1画面を前記ブロックサイズで均等に分割した格子位置と無関係に配置できる構成にすることもできる。
【実施例4】
【0040】
図7は本発明の第4実施例の構成を示すブロック図である。本実施例の構成は第1実施例とほぼ同じであり、第1実施例と異なるのは、マルチ画面合成部2内に有効画像領域検出部8があり、その検出情報がレイアウト制御部6に入力されている点である。
【0041】
第4実施例の動作として、第1実施例と異なる点を説明する。
【0042】
子画面Aがレターボックスサイズの映画ソースを含むような動画映像であり、子画面Bは通常の動画映像であるような場合で説明する。有効画像領域検出部8は子画面Aに対応する選択信号Aの中でレターボックスの余白のような映像の存在しない部分を検出し、画面の中で映像の存在している部分すなわち有効画像領域のサイズと位置を検出する。そして、この情報をレイアウト制御部6に入力する。
【0043】
子画面Bに対応する選択信号Bについても同様に有効画像領域の検出が行われ、情報がレイアウト制御部6に送られるが、この場合、元の映像サイズと一致する。
【0044】
レイアウト制御部6はこの情報を元に、有効画像領域がフレームレート変換部3で用いられるブロックのサイズの整数倍となるようにスケーリング部4にサイズ変更の指示を出す。また、画面合成部7には子画面Aのうち有効画像領域が1画面を前記ブロックのサイズで均等に分割した格子位置に一致するように配置位置の指示を出す。
【0045】
フレームレート変換部3は、上記のように構成された合成画面を入力とし、図8に示すように前記ブロックのサイズで1画面を均等に分割し、ブロックごとに動きベクトルを求めて補間フレームを作成する。
【0046】
レターボックス画像の含まれる子画面Aは画面中の有効な映像領域で適切に動きベクトルが求められるため高品位な補間フレームを得ることができる。
【0047】
なお、本実施例の場合も、実施例2のようにレイアウト情報をフレームレート変換部3に送ることで、子画面の配置位置が1画面を前記ブロックサイズで均等に分割した格子位置と無関係に配置できる構成にすることもできる。
【図面の簡単な説明】
【0048】
【図1】本発明の実施例1の構成を示すブロック図である。
【図2】本発明の実施例1における子画面の配置を説明する図である。
【図3】本発明の実施例2の構成を示すブロック図である。
【図4】本発明の実施例2における子画面の配置を説明する図である。
【図5】本発明の実施例3の構成を示すブロック図である。
【図6】本発明の実施例3における子画面の配置を説明する図である。
【図7】本発明の実施例4の構成を示すブロック図である。
【図8】本発明の実施例4における子画面の配置を説明する図である。
【図9】課題を説明する図である。
【符号の説明】
【0049】
1 入力選択部
2 マルチ画面合成部
3 フレームレート変換部
4、5 スケーリング部
6 レイアウト制御部
7 画面合成部
8 有効画像領域検出部

【特許請求の範囲】
【請求項1】
複数の映像信号を合成してマルチ画面映像信号を出力するマルチ画面合成部と、
前記マルチ画面合成部より出力された前記マルチ画面映像信号をブロックマッチング法によって検出した動きベクトルに従って補間画像を生成し、フレームレート変換するフレームレート変換部とを備えた画像処理装置であって、
前記マルチ画面合成部は、フレームレート変換部において補間画像を生成する子画面のサイズを前記フレームレート変換部における前記ブロックマッチング法で用いられるブロックのサイズの整数倍に設定することを特徴とする画像処理装置。
【請求項2】
前記マルチ画面合成部は、合成する複数の映像信号の種別を判別し、補間画像を生成する子画面と、補間画像を生成しない子画面とに分類して合成を行うことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記マルチ画面合成部は、合成する映像信号のうちの有効画像領域を検出する有効画像領域検出部を備え、前記フレームレート変換部において補間画像を生成する子画面のサイズを、子画面中の有効画像領域が前記ブロックのサイズの整数倍となるサイズに設定することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記マルチ画面合成部は、合成する各画面を、1画面を前記ブロックのサイズで均等に分割した格子点に一致するように配置することを特徴とする請求項1〜請求項3のいずれかに記載の画像処理装置。
【請求項5】
前記マルチ画面合成部は、合成する各画面の配置位置情報を前記フレームレート変換部に送り、前記フレームレート変換部は各画面の配置位置情報を元に各画面を均等にブロックに分割して、動きベクトルを求め、補間画像を生成することを特徴とする請求項1〜請求項3のいずれかに記載の画像処理装置。
【請求項6】
複数の映像信号を合成してマルチ画面映像信号を出力するマルチ画面合成ステップと、
前記マルチ画面合成ステップより出力された前記マルチ画面映像信号をブロックマッチング法によって検出した動きベクトルに従って補間画像を生成し、フレームレート変換するフレームレート変換ステップとを備えた画像処理方法であって、
前記マルチ画面合成ステップは、前記フレームレート変換ステップにおいて補間画像を生成する子画面のサイズを前記フレームレート変換ステップにおける動きベクトル検出で用いられるブロックのサイズの整数倍に設定することを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2009−267612(P2009−267612A)
【公開日】平成21年11月12日(2009.11.12)
【国際特許分類】
【出願番号】特願2008−112634(P2008−112634)
【出願日】平成20年4月23日(2008.4.23)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】