画像処理装置及び画像処理方法
【課題】画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフレーム内補間のジャギーの軽減という改善効果を残しつつ、かつ、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供する。
【解決手段】入力画像の拡大処理を実行する際に、フレーム内補間処理部は前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力し、エッジ検出部は前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、混合処理部は前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合して前記フレーム内補間処理を実行する。
【解決手段】入力画像の拡大処理を実行する際に、フレーム内補間処理部は前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力し、エッジ検出部は前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、混合処理部は前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合して前記フレーム内補間処理を実行する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力された画像を拡大処理し、液晶、PDP、有機ELなどのパネルに表示する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
近年、画像の高解像化に伴い、表示装置(液晶、PDP、有機ELなど)の表示解像度も高くなっている。但し、ハイビジョン放送などにより放送されるテレビ信号(インターレース信号)等の入力画像は、表示装置の表示解像度に合っていない場合があり、表示装置内で入力画像の解像度を表示解像度まで拡大する必要がある。
【0003】
しかし、単純に線形補間等の手法で拡大処理してしまうと、輪郭にぼやけが生じたり、斜め線でジャギーが発生したりしてしまう。そこで、入力画像を縦横に拡大する際に、インターレース・プログレッシブ変換(IP変換)時に用いるフレーム内補間処理を、縦方向及び横方向に適用することにより、斜め方向のエッジが滑らかな補間画素を生成することが可能となる。
【0004】
I/P変換とは、インターレース信号において間引かれている走査線を、各フィールドの情報をそれぞれ用いて補間信号を生成し、プログレッシブ信号に変換するものである。一般に、インターレース方式の画像をプログレッシブ方式の画像に変換する場合、インターレース画像が静止画像である場合には、一方のフィールド走査線を隣接する他方のフィールド走査線の間にはめ込むことにより補間走査線(以下、補間ラインという)を生成するフィールド間補間が行われ、またインターレース画像が動画像である場合には、同一フィールド内の隣接走査線上の画素を用いて補間ラインを生成するフィールド内補間が行われる。
【0005】
フィールド内の補間処理でインターレースnラインとインターレースn+1ライン間に補間ラインを生成するにあたっては、補間ライン上の画素Aとして、その上下の走査線n,n+1上の画素U,Dを加算して平均値(=(U+D)/2)を得る方法が簡単である。しかしながら、この上下方向の補間方法を適用した場合、絵柄によっては斜め線がギザギザして見える、いわゆるジャギーが目立つ画像となる場合がある。
【0006】
また、インターレース画像をプログレッシブ画像に変換する技術として、動き適応型プログレッシブ変換がある。この技術は、画素単位もしくは画素ブロック単位で動き検出を行い、フィールド内補間処理結果とフィールド間補間処理結果を、動き検出結果に応じた混合比で混合処理する、という技術である。動き検出としては、1フレーム間の同一位置の画素同士の信号レベルの差分等から推定する。
【0007】
しかし、動き適応型プログレッシブ変換処理では、フィールド内補間処理として上下画素平均値を使用すると、垂直方向の解像感が低くなり、斜め線がギザギザに見える問題がある。一方、このような問題を解決する方法として、斜め補間という方法が知られている。斜め補間処理は、補間画素Aを生成するにあたり、その上下の走査線n,n+1から、補間ライン上の画素Aを中心として点対称となる画素のペアを一組選択し、そのペアの画素値の平均値を補間画素値として用いる方法である。
【0008】
補間方向の選択の方法の例として、ペアの画素間の絶対差分値が最小のものを使用する方法がある。例えば、補間しようとしている画素を中心とする上下及び斜め方向の一対の画素間の差分をとり、多数の斜め差分信号を用いて、斜め相関の高い方向を判定し、補間画素を作成するものである。斜め補間に関する従来技術としては、例えば、特許文献1、特許文献2に記載のものがある。
【0009】
以上を踏まえて、拡大処理を行なうと、例えば、縦方向に2倍にする場合、まず、補間画素位置を挟むようにした上下の複数ラインから、補間画素位置を中心とした周辺画素を用い相関値を計算する。次に、その相関値から最適な補間方向を選択し、その補間方向から補間画素値を生成する。これによって、斜め方向に関してはジャギーがなくなる。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2003−230109号公報
【特許文献2】特開2009−77293号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかし、縦方向に急峻に変化する水平ライン(このような画像の代表例としては、文字などが挙げられる。)のような画像の場合、相関がどの方向も同じとなるため、対象画素の上下方向に線形補間を行うことになる。その結果、補間値は上下画素値の平均値となってしまう。そのため、元々はっきりしていた文字などは、ぼやけた表示になってしまい、見づらい低品質な表示になるという問題が発生する。このような縦方向に急峻に変化する水平ラインのような画像に対しては、上記従来の画素補間処理では対応できないという課題があった。このような課題を有する従来の画素補間処理の具体例について、以下に説明する。
【0012】
図1は、上記補間画素を中心として点対称となる画素のペアを選択して行なう斜め補間処理の一例を示す図である。この場合、図中の右斜め方向に相関が高い画素が存在するため、その中央位置に配置された補間画素は滑らかに補間されている。一方、図2も同様に斜め補間処理の一例を示す図である。しかし、このように各オリジナルラインの水平方向にのみ相関が強く、補間画素を中心とした点対称となる画素間の相関がいずれの方向でも同じとなる場合には、結局上下画素値の平均値を補間画素値として生成してしまう。図3は、この図2の場合に斜め補間処理を行なった補間結果を示した図である。よって、このような場合に従来の斜め補間をそのまま行なうと、元々はっきりとしていたものがぼやけた表示となってしまい、見づらい低品質な表示になってしまう。
【0013】
本発明は、上記の問題に鑑み、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフィールド内補間のジャギーの軽減という改善効果を残しつつ、かつ、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
本願発明の一実施形態に係る画像処理装置は、入力画像の拡大処理を実行する画像処理装置において、前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理部と、前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力するエッジ検出部と、前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合して前記フレーム内補間処理を実行する混合処理部と、を備えることを特徴とする。この画像処理装置によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能となる。
【0015】
また、前記エッジ検出部は、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジ検出が可能となる。
【0016】
また、前記エッジ検出部は、前記第1の累積結果と第3の閾値との比較結果及び前記第2の累積結果と第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と第3の閾値との比較結果及び前記第2の累積結果と第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジの検出が可能となり、かつ、エッジの有無に応じて出力すべき補間画素を選択することが可能となるので、入力画像の特徴に応じた最良の補間画素を出力することが可能となる。
【0017】
また、前記フレーム内補間処理部は、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、前記混合処理部は、前記フレーム内補間処理部から出力される前記補間方向が垂直方向であり、前記エッジ検出部から出力される前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理部から出力される前記補間方向が垂直方向ではなく、前記エッジ検出部から出力される前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行してもよい。フレーム内補間処理部が斜め方向の補間をしている場合に上記混合画素を出力してしまうと、拡大後にはジャギーの多い斜線となってしまうところ、この画像処理装置によれば、上記混合画素を出力すべき場合のみを判別しうるので、上記フレーム内補間処理部の補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻なエッジ部分を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能になる。
【0018】
また、前記混合処理部は、前記補間画素と前記原画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記原画素の混合処理を実行してもよい。この画像処理装置によれば、混合割合を調節することが可能となるので、原画像のエッジを保持したより高品位な画像を出力することが可能となる。
【0019】
本発明の一実施の形態に係る画像処理方法は、入力画像の拡大処理を実行する画像処理方法において、前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理を実行し、前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、前記エッジ判定結果に基づいて、前記フレーム内補間処理により出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行すること、を含むことを特徴とする。この画像処理方法によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能となる。
【0020】
また、前記エッジの有無の判定において、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と前記第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と前記第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定してもよい。この画像処理方法によれば、入力画像の特徴に応じたエッジ検出が可能となる。
【0021】
また、前記エッジの有無の判定において、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジの検出が可能となり、かつ、エッジの有無に応じて出力すべき補間画素を選択することが可能となるので、入力画像の特徴に応じた最良の補間画素を出力することが可能となる。
【0022】
また、前記フレーム内補間処理において、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、前記フレーム内補間処理において、前記フレーム内補間処理により出力される前記補間方向が垂直方向であり、前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理により出力される前記補間方向が垂直方向ではなく、前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行することを含んでもよい。ここで、前記フレーム内補間処理が斜め方向の補間をしている場合に前記補間画素と当該補間画素に対応する原画素とを混合した画素を出力してしまうと、拡大後にはジャギーの多い斜線となってしまう。しかし、この画像処理方法によれば、上記混合画素を出力すべき場合のみを判別しうるので、上記フレーム内補間処理の補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻なエッジ部分を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能になる。
【0023】
また、前記フレーム内補間処理において、前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行してもよい。この画像処理方法によれば、混合割合を調節することが可能となるので、原画像のエッジを保持したより高品位な画像を出力することが可能となる。
【発明の効果】
【0024】
本発明によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【0025】
【図1】従来の斜め補間処理の一例を示す図である。
【図2】従来の斜め補間処理の図1とは異なる一例を示す図である。
【図3】図2の画像に斜め補間処理を行なった場合の補間結果を示す図である。
【図4】本発明の一実施の形態に係る画像処理装置の構成を示すブロック図である。
【図5】本発明の一実施の形態に係るフレーム内補間処理部の補間処理の詳細を説明するためのフローチャートである。
【図6】原画素を、その位置における座標と、その座標における画素値とを定義する例を示す図である。
【図7】本発明の一実施の形態に係る水平及び垂直方向のエッジ検出処理の一例を示す図である。
【図8】本発明の一実施の形態に係る左右斜め方向のエッジ検出処理の一例を示す図である。
【図9】本発明の一実施の形態に係るエッジ検出処理の具体例を説明するための画像を例示した図である。
【図10】本発明の一実施の形態に係るエッジ検出処理の具体例を説明するための画像を例示した図である。
【図11】本発明の一実施の形態に係るエッジ検出部の検出処理の詳細を説明するフローチャートである。
【図12】本発明の一実施の形態に係る混合処理部の混合処理の詳細を説明するフローチャートである。
【図13】(a)に示すベタの背景に横線がある原画像を垂直方向に拡大処理する際に、(b)〜(d)に示す3通りの補間処理を行った場合の画像処理結果を示す図である。
【図14】(a)は画素値の高低を縦軸とし、走査線に垂直な方向に沿った画素の位置を横軸として、図13において行った3通りの画像処理の結果を示したグラフ、(b)は(a)のグラフの横軸と画像中の画素との対応関係を示した図である。
【図15】(a)に示すベタの背景に斜線がある画像を垂直方向に拡大する際に、(b)に示す補間画素として原画素を出力する補間処理と、(c)に示す本実施形態における混合処理を行った場合の各画像処理結果を示す図である。
【図16】本発明の一実施の形態に係る液晶表示装置の構成例を示す図である。
【発明を実施するための形態】
【0026】
(発明に至る経緯)
2011年7月、現行の地上アナログ放送がデジタル放送に完全移行されることに伴い、放送画質も現行のスタンダード画質からハイビジョン画質への高画質化が本格化する。そのハイビジョンの更なる高画質化を目指して、NHK放送技術研究所(以下、NHK技研)では、スーパーハイビジョン(以下、SHV)放送の実用化へ向けた研究開発が進められている。SHVとは、次世代テレビ向けフォーマットであり、7680×4320画素の解像度を持つ超高精細映像のことである。これは、縦横共に現行のフルハイビジョンの4倍で、計16倍の解像度となる。そこで、SHV放送の実用化を想定し、SHVに対応した表示装置が必要となる。また、これに伴って地上デジタル放送でSHVを放送ないし受信するための技術も開発中である。
【0027】
しかし、伝送容量を拡大するための技術の向上の必要性や、電波の送受信のためのアンテナも専用のものが必要になるなど、すぐに地上波放送で導入することは難しい。このため、全ての放送が完全にSHV放送へ移行することは未だ困難であり、過渡期にはフルハイビジョン放送である状況が続くことが予想される。したがって、表示装置が放送フォーマットより高解像度の場合は、表示装置に合わせた映像の拡大処理が必要になる。
【0028】
このような背景のもと、拡大処理を行なっても原画像の品質を保持した状態で高品位な表示が可能となるような画像の補間処理技術が求められる。
【0029】
そこで、本発明は、I/P変換時に用いるフィールド内補間処理を、解像度を2倍にするフレーム内補間処理として利用し、急峻なエッジ検出処理と混合処理とを組み合わせることにより、上記の課題を克服する画像補間処理装置を提供するものである。以下の実施の形態では、画像の微小な変化と大きな変化の両方を検出するエッジ検出処理、及び垂直方向の補間かつ急峻なエッジである場合のみ補間画素に原画素を混合する混合処理とを組み合わせて、画像拡大処理時のぼやけ等を低減する画像処理装置について説明する。なお、本発明において「エッジ」とは、隣接する原画素間の画素値の絶対差分値が設定された閾値以上の場合、その隣接画素間の変化の大きい部分を示すものである。
【0030】
以下、図面を参照して本発明に係る拡大処理時にぼやけを低減する画像処理装置について説明する。ただし、本発明の装置は多くの異なる態様で実施することが可能であり、以下に示す多数の実施の形態の記載内容に限定して解釈されるものではない。
【0031】
図4は、本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。図4に示すように、本発明の一実施形態に係る画像処理装置100は、補間画素を生成するI/P変換処理のフレーム内補間処理部101(以下、フレーム内補間処理部101という)と、原画像が急峻なエッジを持つ画像か否かを判断するエッジ検出部102と、混合処理部103と、を有する。
【0032】
フレーム内補間処理部101は、原画像のフレーム毎にフレーム内補間処理を実行して原画像の補間画素を作成して、原画像の拡大に伴う補間処理を行なう。従来の補間処理は、補間画素Pint_ipを生成する際に、その上下の走査線n,n+1から、補間ライン上の画素Pint_ipを中心として点対称となる画素のペアを一組選択し、その平均値を補間画素値として用いる補間処理方法である。
【0033】
再度、図1から図2を参照して、従来の補間処理方法を説明する。図1は、上記補間画素を中心として点対称となる画素のペアを選択して行なう補間処理の一例を示す図である。補間しようとしている画素を中心とする垂直及び左右斜め方向の一対の画素間の画素値の絶対差分値を取り、各方向の絶対差分値の中で最も小さいものを相関の高い方向と判定し、その方向のペアの各原画素値をもとに線形補間を行い、補間画素Pint_ipを作成する。図1を参照すると、図中の補間画素を中心とした右斜め方向に相関が高い画素が存在するため、その中央位置に配置された補間画素はその方向に隣接する原画素の画素値をもとに線形補間される。
【0034】
図2も同様に補間処理の一例を示す図である。図2に示す原画像は、各オリジナルラインの水平方向にのみ相関が強く、補間画素を中心とした点対称となる画素間の相関がいずれの方向でも同じとなる。この場合には、垂直方向を相関の強いペアとして選択し、そのペアの各画素値をもとに線形補間して、補間画素を生成する。
【0035】
以上の従来の補間処理に対して、フレーム内補間処理部101は、補間方向が斜めの場合には、補間方向結果correlation_vとして「0」を、上下方向の場合には補間方向結果correlation_vとして「1」を混合処理部103に出力する。
【0036】
次に、上記補間処理の詳細について、図5に示すフローチャートを参照して説明する。図5を参照すると、ステップS5001において、フレーム内補間処理部101は補間画素を中心として点対称となる画素のペアの画素間の絶対差分値が最小のものを検出して相関の強さを判定して、相関の強いペアの存在する方向を決定する。次いで、ステップS5002において、フレーム内補間処理部101は、決定した方向で線形補間を行い、補間画素Pint_ipを生成する。次いで、S5003において、フレーム内補間処理部101は、生成した補間画素Pint_ipを混合処理部103に出力する。
【0037】
また、ステップS5004において、フレーム内補間処理部101は、補間方向が斜めか否かを判断する。補間方向が斜めであれば、ステップS5005においてcorrelation_v=0とする。補間方向が斜めでなければ、ステップS5006においてcorrelation_v=1とする。次いで、ステップS5007において、フレーム内補間処理部101は、correlation_vを混合処理部103へ出力する。なお、ステップS5004〜ステップS5007の処理は、ステップS5002〜ステップS5003の処理と並行して行ってもよいし、順次行ってもよい。
【0038】
エッジ検出部102は、垂直水平及び左右斜め方向に隣接する原画素間の画素値の差などから原画像が急峻なエッジを持つ画像か否かを判断する。この判断は、例えば、ベタの背景上に文字があるような場合のみを検出するために行なわれるものである。この検出においては、このような画像が通常二つの特徴を有することに着目する。一つは、(1)背景上の文字が認識しやすいように、背景と文字の間の画素値に大きな差を持っていることが多い(画素間の相関が比較的低い)という特徴である。この大きな画素値の差を「エッジ」と呼ぶ。もう一つは、(2)文字内は単一色の場合が多い(画素間の相関が比較的高い)という特徴である。この(2)の特徴を、本実施の形態では「同一性」と呼ぶことにする。エッジ検出部102は、これらの特徴を抽出し、急峻なエッジを持つ画像か否かを判断する。具体的には、垂直水平及び左右斜め方向に隣接する画素値の絶対差分値Δpを用いて、次のように計算する。
【0039】
まず、(1)の特徴を抽出するため、隣接画素間のエッジを検出する閾値px_threshold_maxを設定し、隣接画素間の画素値の絶対差分値Δpが閾値px_threshold_max(第2の閾値)以上となる隣接画素の組の数をカウントする。そのカウント値をエッジ部分のカウント値edge_count_max(第2の累積結果)とする。同様にして、(2)の特徴を抽出するため、隣接画素間の同一性を検出する閾値px_threshold_min(第1の閾値)を設定し、絶対差分値Δpが閾値px_threshold_min以下となる隣接画素の組の数をカウントする。そのカウント値を同一な部分のカウント値edge_count_min(第1の累積結果)とする。
【0040】
そして、(1)及び(2)の特徴を備えた急峻なエッジを含む画像であることを検出する条件として、エッジ部分のカウント値に対応する閾値count_threshold_max(第4の閾値)と、同一な部分のカウント値に対応する閾値count_threshold_min(第3の閾値)を用いて、「edge_count_max≧count_threshold_max(第2の条件)かつpx_threshold_min≧count_threshold_min(第1の条件)」を設定する。この条件を、本実施の形態では「エッジ条件」と呼ぶことにする。
【0041】
エッジ検出部102は、エッジ条件を満たす場合は、エッジ検出結果edge_detectionとして「1」を、エッジ条件を満たさない場合は、エッジ検出結果edge_detectionとして「0」を混合処理部103に出力する。
【0042】
次に、図6から図10を用いて、上記エッジ検出処理をより詳細に説明する。図6は、円で表される原画素を、その位置する座標(x,y)と、その座標における画素値p(x,y)と、により定義する例を示す図である。図7の(a)は、水平方向のエッジ検出処理を例示した図である。図6に従って、図7の(a)のように水平方向に隣接する画素値の絶対差分値Δpを定義すると、Δp(x,y)=|p(x,y)−p(x+1,y)|(x=1〜2,y=0〜2)となる。エッジ検出部102は、水平方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、水平方向の絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、水平方向の隣接画素間に同一な部分が存在するか否かを判断するため、絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、水平方向の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、水平方向のエッジ部分のカウント値edge_h_maxを出力する。また、エッジ検出部102は、水平方向の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、水平方向の同一な部分のカウント値edge_h_minを出力する。
【0043】
図7の(b)は垂直方向のエッジ検出処理の一例を示す図、図8の(a)は右斜め方向のエッジ検出処理の一例を示す図、図8の(b)は左斜め方向のエッジ検出処理の一例を示す図である。図7の(a)における水平方向のエッジ検出と同様に、垂直方向、右斜め方向、左斜め方向に隣接する原画素間の絶対差分値Δpを求め、設定した閾値(px_threshold_max,px_threshold_min)と比較することで、エッジ部分及び同一な部分を検出する。
【0044】
すなわち、垂直方向のエッジ検出処理では、エッジ検出部102は、垂直方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、垂直方向の絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、垂直方向の隣接画素間に同一な部分が存在するか否かを判断するため、絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、垂直方向の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、edge_v_maxを出力する。また、エッジ検出部102は、垂直方向の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、edge_v_minを出力する。
【0045】
また、左右斜め方向のエッジ検出処理では、エッジ検出部102は、左右斜め方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、左右斜め方向の各絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、左右斜め方向の隣接画素間に同一な部分が存在するか否かを判断するため、左右斜め方向の各絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、左右斜め方向の一方又は双方の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、edge_r_max及び/又はedge_l_maxを出力する。また、エッジ検出部102は、左右斜め方向の一方又は双方の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、edge_r_min及び/又はedge_l_minを出力する。
【0046】
次に、エッジ検出部102は、上述の各方向で検出した隣接画素間のエッジ部分の各カウント数(edge_h_max,edge_v_max,edge_r_max,edge_l_max)を加算し、その加算結果をedge_count_maxとして出力する。すなわち、edge_count_max=edge_h_max+edge_v_max+edge_r_max+edge_l_maxである。また、エッジ検出部102は、上述の各方向で検出した隣接画素間の同一な部分の各カウント数(edge_h_min,edge_v_min,edge_r_min,edge_l_min)を加算し、その結果をedge_count_minとして出力する。すなわち、edge_count_min=edge_h_min+edge_v_min+edge_r_min+edge_l_minである。そして、エッジ検出部102は、edge_count_maxとエッジ部分のカウント数の閾値count_threshold_maxを比較し、edge_count_minと同一な部分のカウント数の閾値count_threshold_minを比較して、エッジ条件を満たすか否かを判断する。この場合、エッジ条件は、edge_count_max≧count_threshold_max、及びedge_count_min≧count_threshold_minである。
【0047】
次に、上記エッジ検出処理の具体例について図9を参照して説明する。図9は、上記エッジ検出処理の具体例を説明するための画像を例示した図である。なお、図9に示す各画像において、高い相関を示す方向は破線矢印で示し、低い相関を示す方向は太線矢印で示す。ここで、高い相関を示す方向は、上述の隣接画素間に同一な部分が存在する方向を示し、低い相関を示す方向は、上述の隣接画素間にエッジが存在する方向を示す。なお、以下の具体例では、仮に、上記エッジのカウント数の閾値count_threshold_maxを8、同一な部分のカウント数の閾値count_threshold_minを6と設定する。
【0048】
図9において、(a1)〜(a4)はベタの背景にある横線の画像を示している。この横線の画像は、水平方向の相関が高い画像である。しかし、他の方向(垂直方向、左右斜め方向)は相関が低くなる。エッジ検出部102は、この横線の画像の(a1)〜(a4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この横線の画像の(a1)〜(a4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=6、edge_count_max=18である。
【0049】
次いで、エッジ検出部102は、edge_count_min=6と、予め外部より設定した閾値count_threshold_min=6とを比較し、上記エッジ条件の一つであるedge_count_min≧count_threshold_minを満たすか否かを判別する。この場合、edge_count_min=6はエッジ条件の一方を満たしている。また、エッジ検出部102は、edge_count_max=18と、予め外部より設定した閾値count_threshold_max=8とを比較し、上記エッジ条件の一つであるedge_count_max≧count_threshold_maxを満たすか否かを判別する。この場合、edge_count_max=18はエッジ条件の他方を満たしている。したがって、この横線の画像は急峻なエッジを持つ画像と判定される。
【0050】
図9において、(b1)〜(b4)はベタの背景にある縦線の画像を示している。この縦線の画像は、垂直方向の相関が高い画像である。しかし、他の方向(水平方向、左右斜め方向)は相関が低くなる。エッジ検出部102は、この縦線の画像の(b1)〜(b4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この縦線の画像の(b1)〜(b4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=10、edge_count_max=14である。よって、edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この縦線の画像は急峻なエッジを持つ画像と判定される。
【0051】
図9において、(c1)〜(c4)は、ベタの背景にある点を示している。この画像は、点を示す画素とその周辺の画素との間の相関が低く、点を示す画素以外の他の画素の間の相関が高い画像である。エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=16、edge_count_max=8である。よって、edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0052】
図9において、(d1)〜(d4)は、ベタの背景にある斜線の画像を示している。この画像は、斜線の向きである右斜め方向の相関が高い画像である。しかし、他の方向(水平方向、垂直方向、左斜め方向)は相関が低くなる。エッジ検出部102は、この斜線の画像の(d1)〜(d4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この斜線の画像の(d1)〜(d4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=14、edge_count_max=10である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0053】
次に、上記エッジ検出処理の具体例について図10を参照して説明する。図10は、上記エッジ検出処理を説明するための一例を示したものである。なお、図10に示す各画像において、高い相関を示す方向は破線矢印で示し、低い相関を示す方向は太線矢印で示し、中程度の相関は実線矢印で示す。ここで、高い相関を示す方向は、上述の隣接画素間に同一な部分が存在する方向を示す。低い相関を示す方向は、上述の隣接画素間にエッジが存在する方向を示す。中程度の相関を示す方向は、上述の隣接画素間の画素値の絶対差分値Δpがエッジの閾値px_threshold_max及び同一性の閾値px_threshold_minの間にある方向を示す。なお、以下の具体例では、仮に、隣接画素間のエッジのカウント数の閾値count_threshold_maxを8、隣接画素間の同一な部分の数の閾値count_threshold_minを6と設定する。なお、図10において、円の中の縦線の疎密は画素値の高低を示し、縦線が密であるほど画素値が低く、縦線が疎であるほど画素値が高いことを示す。
【0054】
図10において、(a1)〜(a4)はグラデーションの背景に横線がある画像を示している。この画像は、背景が垂直方向に緩やかに変化しており、ベタの背景を示す画素の垂直方向の相関に対して、グラデーションの背景を示す画素の垂直方向の相関の方が比較的低くなっている。エッジ検出部102は、この画像の(a1)〜(a4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(a1)〜(a4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=6、edge_count_max=18である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0055】
図10において、(b1)〜(b4)はグラデーションの背景に縦線がある画像を表している。エッジ検出部102は、この画像の(b1)〜(b4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(b1)〜(b4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=10、edge_count_max=14である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0056】
図10の(a1)〜(a4)及び(b1)〜(b4)のように、背景にグラデーションなどの小さな変化があっても、その小さな変化を同一とみなせることによって、急峻なエッジのある画像と判断できる。これは、同一性の閾値px_threshold_minを比較的大きめに取ることにより、グラデーションなどの小さな変化も同一とみなせるので、ベタの背景に縦線または横線がある画像と認識でき、急峻なエッジを持つ画像であると判定がすることが可能となっているからである。
【0057】
図10において、(c1)から(c4)は葉の間から光がさしているような画像を示している。この画像は、差し込む光を示す画素とその周辺の画素との間の相関が低い。しかし、差し込む光を示す画素以外のその周辺の画素の間の相関は比較的高い。エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=4、edge_count_max=12である。edge_count_min<6、及びedge_count_max≧8であり、上記のエッジ条件を満たさないため、この画像は急峻なエッジを持つ画像ではないと判定される。
【0058】
図10において、(d1)から(d4)は明るい空の背景に電線があるような場合を表している。この画像は、電線を示す画素とその周辺の明るい空を示す画素との間の相関が低い。しかし、それ以外の画素の組(例えば、明るい空を示す画素どうし、または電線を示す画素どうし)の相関は比較的高い。エッジ検出部102は、この画像の(d1)〜(d4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(d1)〜(d4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=2、edge_count_max=16である。edge_count_min<6、及びedge_count_max≧8であり、上記のエッジ条件を満たさないため、この画像は急峻なエッジを持つ画像ではないと判定される。
【0059】
図10の(c1)〜(c4)及び(d1)〜(d4)のように、自然画を示す画像においては、その画像中にエッジと判定される部分があっても、中程度の相関が増加した結果同一と判定される部分が減少するため、上記エッジ条件を満たさない。よって、混合検出部103によって急峻なエッジと判定されない。
【0060】
次に、上記エッジ検出処理の詳細について、図11の示すフローチャートを参照して説明する。図11を参照すると、まず、エッジ検出部102は、S11001において垂直方向に、S11002において水平方向に、S12003において右斜め方向に、S11004において左斜め方向に、それぞれエッジ検出処理を行う。なお、ステップS11001〜ステップS11004の各処理は、並行して行ってもよいし、順次行ってもよい。
【0061】
次に、ステップS11005において、エッジ検出部102は、ステップS11001〜ステップS11004の各処理において検出した隣接画素間の同一な部分の組のカウント数を、垂直方向、水平方向、左右斜め方向の各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minとして各々出力し、これらの加算結果として同一な部分のカウント数edge_count_minを出力する。また、ステップS11006において、エッジ検出部102は、ステップS11001〜ステップS11004の各処理において検出した隣接画素間のエッジ部分の組のカウント数を、垂直方向、水平方向、左右斜め方向の各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxとして各々出力し、これらの加算結果としてエッジ部分のカウント数edge_count_maxを出力する。なお、ステップS11005とステップS11006の各処理は、並行して行ってもよいし、順次行ってもよい。
【0062】
次いで、ステップS11007において、エッジ検出部102は、上記エッジ条件について判定する。上記エッジ条件を満たした場合は、S11008において、エッジ検出部102はエッジ検出結果edge_detectionとして「1」を出力する。上記エッジ条件を満たさない場合には、エッジ検出部102は、S11009において、エッジ検出結果edge_detectionとして「0」を出力する。
【0063】
次いで、S11010において、エッジ検出部102は、エッジ検出結果edge_detectionの値を混合処理部103へ出力する。
【0064】
混合処理部103は、混合処理として、エッジ検出部102のエッジ検出結果edge_detectionおよびフレーム内補間処理部101で行なわれた補間の補間方向結果correlation_vに応じて、いかなる補間画素を混合画素Pint_mixとして最終的に出力するかを判断する。
【0065】
具体的には、入力された原画像が、例えばベタの背景上に文字があるような場合、すなわち急峻なエッジが存在し(edge_detection=1)かつ補間方向が垂直に選択される場合(correlation_v=1)、混合画素Pint_mixとして、原画像に対応した原画素Porgと補間画素Pint_ipとを混合したtemporary混合画素Pint_tmpを出力する。上記の条件にあてはまらない場合は、混合画素Pint_mixとして補間画素Pint_ipを出力する。ここで、temporary混合画素は、Pint_tmp=α×Porg+(1−α)×Pint_ipであり、「α」は予め外部から設定される混合の割合を決定するBlending係数(0≦α≦1)である。
【0066】
次に、上記混合処理の詳細について、図12の示すフローチャートを参照して説明する。図12を参照すると、ステップS12001において、混合処理部103は、原画素Porgとフレーム内補間処理部101から出力された補間画素Pint_ipとを用いて、temporary混合画素Pint_tmpを生成する。また、ステップS12002において、混合処理部103は、フレーム内補間処理部101から出力された補間方向結果correlation_vと、エッジ検出部から出力されたエッジ検出結果edge_detectionとを合わせて、混合信号flag_mixを次のように生成する。すなわち、エッジ検出結果edge_detection=1、かつ、補間方向結果correlation_v=1ならば、混合信号flag_mixとして「1」を、そうでなければ混合信号flag_mixとして「0」を出力する。なお、ステップS12002はステップS12001と並行して行ってもよいし、順次に行ってもよい。
【0067】
次いで、ステップS12003において、混合処理部103は、この混合信号flag_mixの値を判断し、混合画素Pint_mixとして出力する画素を決定する。すなわち、混合信号flag_mix=1ならば、ステップS12004において混合画素Pint_mix=temporary混合画素Pint_tmpとする。また、混合信号flag_mix=0ならば、ステップS12005において混合画素Pint_mix=temporary混合画素Pint_ipとする。
【0068】
次いで、ステップS12006において、混合処理部103は、決定された混合画素Pint_mixを最終的な補間画素として出力する。
【0069】
次に、上記画像処理を経て補間された結果について図13及び図14を参照して説明する。
【0070】
図13はベタの背景に横線がある画像を垂直方向に拡大する場合の上記画像処理結果について説明するための図である。図13において、(a)はベタの背景に横線がある原画像を示している。(a)中のa1は画素値の高い画素を示し、a2は画素値の低い画素を示している。ベタの背景を示す画素がa1に対応し、横線を示す画素がa2に対応する。この画像は、垂直方向及び左右斜め方向に相関が低く、水平方向に相関が高い。垂直方向及び左右斜め方向の相関の低さは著しく、急峻な変化が生じており、この画像は上記の急峻なエッジを持つ画像に当たる。
【0071】
図13において、(b)は、画像処理として、垂直方向に線形補間処理を行った結果を示している。(c)は、画像処理として、上記Blending係数αを0.5に設定して上記混合処理を行った結果を示している。(d)は、画像処理として、単に補間画素に原画素を出力する処理を行った結果を示している。この(d)は、画像を単に垂直方向に引き伸ばしたことに対応する。
【0072】
図14において(a)は、画素値の高低を縦軸として、走査線に垂直な方向に沿った画素の位置を横軸として、図13において行った画像処理の結果をグラフに示している。このグラフにおいて、画素値の高低を示す縦軸に並行で等間隔に並べられた実線及び点線は、それぞれ走査線及び補間画素のある補間ラインを示す。また、図14において(b)は、(a)のグラフの横軸と、画像中の画素との対応関係を示す。
【0073】
図14において、(a)のa1は画素値の高い原画素を示し、a2は画素値の低い原画素を示している。これらの円で示された画素は、図13の(a)における、画素値の高い画素a1と低い画素a2にそれぞれ対応する。図14において、(a)のa3は、垂直方向に線形補間した補間画素を示している。これは、図13の(b)における、補間画素に対応する。図14において、(a)のa4は、補間処理として上記混合処理を行った補間画素を示している。これは、図13の(c)における補間画素に対応する。図14において、(a)のa5は、補間処理として原画素を出力する処理を行った補間画素を示している。これは、図13の(d)における補間画素に対応する。
【0074】
図14の(a)において、画素位置n−1にある原画素と画素位置nにある原画素を結ぶ線分の傾きは、画素間の画素値の差に対応する。すなわち、傾きが急であれば画素値の差は大きいことを示す。また、これはその隣接する画素間には上記エッジが存在することを示す。他方、傾きが緩やかであれば画素間の画素値の差は小さいことを示す。
【0075】
図14の(a)を参照すると、原画像を拡大する際に原画素間の平均値による補間処理を行った結果、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間の急峻なエッジは緩やかなものとなる。同様に、画素位置nにある原画素と画素位置n+1の間にあった急峻なエッジも緩やかなものとなる。これは、ベタの背景にある横線の画像を拡大する際に平均値による補間を行うと、横線の輪郭がぼやけてしまうことを示す。
【0076】
これに対して、図14の(a)を参照すると、原画像を拡大する際に補間画素として上記混合画素を出力する補間処理を行った結果、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間のエッジは、平均値による補間処理を行った場合よりも急になっていることがわかる。このことは、単に平均値による補間処理を行った場合よりも、原画像の急峻なエッジを保持できていることを示す。同様に、画素位置nにある原画素と画素位置n+1の間にあったエッジも、平均値による補間処理を行った場合より急になっている。このことは、単に平均値による補間処理を行った場合よりも、原画像の急峻なエッジを保持できていることを示す。
【0077】
また、図14の(a)を参照すると、原画像を拡大する際に補間位置に原画素を出力する補間処理を行うと、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間の急峻なエッジは維持されていることがわかる。同様に、画素位置nにある原画素と画素位置n+1の間にあった急峻なエッジも維持されていることがわかる。図14の(a)を参照すると、上記混合画素による補間処理を行った場合よりも、上記原画素を出力する補間を行った場合の方が、より原画素間の急峻なエッジが保持されていることがわかる。しかし、以下で詳細に説明するように、両者にはその補間方法の違いから、斜線の画像の拡大処理においてがたつき(ジャギー)が生じてしまう。そのため、急峻なエッジを持つ画像を拡大する際には、上記混合画素による補間処理を行う方が課題の解決という点において優れている。
【0078】
次に、上記混合画素による補間処理と、上記原画素を出力する補間処理との違いを、図15を参照して詳細に説明する。
【0079】
図15はベタの背景に右斜め方向の斜線がある画像を垂直方向に拡大する場合の上記画像処理結果について説明するためのものである。図15において、(a)はベタの背景に右斜め方向の斜線がある原画像を示している。(a)中の黒く塗りつぶされた円は画素値の低い画素を示し、白抜きの円は画素値の高い画素を示している。ベタの背景を示す画素が白抜きの円に対応し、横線を示す画素が黒く塗りつぶされた円に対応する。この画像は、右斜め方向に相関が高く、その他の方向(垂直、水平、左斜め方向)に相関が低い。また、垂直及び水平及び左斜め方向の相関の低さは著しく、急峻な変化が生じており、この部分は上記のエッジ部分に当たる。
【0080】
また、図15において、(b)は、補間画素として原画素を出力する補間処理を行った結果を示している。(c)は、画像処理として上記Blending係数αを0.5に設定して上記混合処理を行った結果を示している。
【0081】
図15の(b)を参照すると、右斜め方向の斜線を垂直方向に拡大する際に補間画素として原画素を出力する補間処理を行った場合、がたつき(ジャギー)の多い斜線となってしまうことがわかる。これに対し、図15の(c)を参照すると、右斜め方向の斜線を垂直方向に拡大する際に補間画素として上記混合画素を出力する上記混合処理を行った場合には、図15の(b)の場合に比べ、ジャギーが軽減されていることがわかる。
【0082】
以上より、補間画素として原画素を出力する補間処理及び上記混合画素を出力する上記混合処理のいずれも、ベタの背景に横線がある画像を垂直方向に拡大する場合には原画像の急峻なエッジを保持しうる。しかし、ベタの背景に斜線がある画像を垂直方向に拡大する場合には、補間画素として原画素を出力する補間処理は斜め方向にジャギーを生じてしまう。したがって、本発明にかかる上記混合画素を出力する上記混合処理は、原画像の垂直方向の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない補間処理として優れている。なお、本実施の形態においては垂直方向の拡大のみを扱ったが、水平方向の拡大においても反時計回りに90度回転させることで垂直方向の拡大と同等に扱える。それゆえ、垂直及び水平方向の拡大において、本発明にかかる上記混合画素を出力する上記混合処理は、原画像の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない補間処理として優れている。
【0083】
次に、上記画像処理装置100を利用した液晶表示装置の一例について図16を参照して説明する。図16において、液晶表示装置200は、画像処理装置100と液晶パネル201により構成される。画像処理装置100は、上述の図4に示したものと同一である。液晶パネル201は、薄膜トランジスタ(以下、TFTという)基板、TFT基板に対向して結合されるカラーフィルタ基板及び両基板の間に介在されて液晶等を含む。液晶パネル201は、画像処理装置100からフレーム毎に入力される補間画素により画像を表示する。液晶パネル201の解像度が、入力されるフルハイビジョン画像の縦横2倍である場合、画像処理装置100は、入力されるフルハイビジョン画像を縦横2倍に拡大するように上記画像補間処理を実行する。これにより、拡大後も原画像の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない高品位な画像表示が可能になる。なお、本実施の形態では、画像処理装置を液晶表示装置に用いた場合を示したが、液晶表示装置に限定するものではなく、例えば、PDP、有機ELなどの表示装置にも適用可能である。
【符号の説明】
【0084】
100…画像処理装置
101…フレーム内補間処理部
102…エッジ検出部
103…混合処理部
200…液晶表示装置
201…液晶パネル
【技術分野】
【0001】
本発明は、入力された画像を拡大処理し、液晶、PDP、有機ELなどのパネルに表示する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
近年、画像の高解像化に伴い、表示装置(液晶、PDP、有機ELなど)の表示解像度も高くなっている。但し、ハイビジョン放送などにより放送されるテレビ信号(インターレース信号)等の入力画像は、表示装置の表示解像度に合っていない場合があり、表示装置内で入力画像の解像度を表示解像度まで拡大する必要がある。
【0003】
しかし、単純に線形補間等の手法で拡大処理してしまうと、輪郭にぼやけが生じたり、斜め線でジャギーが発生したりしてしまう。そこで、入力画像を縦横に拡大する際に、インターレース・プログレッシブ変換(IP変換)時に用いるフレーム内補間処理を、縦方向及び横方向に適用することにより、斜め方向のエッジが滑らかな補間画素を生成することが可能となる。
【0004】
I/P変換とは、インターレース信号において間引かれている走査線を、各フィールドの情報をそれぞれ用いて補間信号を生成し、プログレッシブ信号に変換するものである。一般に、インターレース方式の画像をプログレッシブ方式の画像に変換する場合、インターレース画像が静止画像である場合には、一方のフィールド走査線を隣接する他方のフィールド走査線の間にはめ込むことにより補間走査線(以下、補間ラインという)を生成するフィールド間補間が行われ、またインターレース画像が動画像である場合には、同一フィールド内の隣接走査線上の画素を用いて補間ラインを生成するフィールド内補間が行われる。
【0005】
フィールド内の補間処理でインターレースnラインとインターレースn+1ライン間に補間ラインを生成するにあたっては、補間ライン上の画素Aとして、その上下の走査線n,n+1上の画素U,Dを加算して平均値(=(U+D)/2)を得る方法が簡単である。しかしながら、この上下方向の補間方法を適用した場合、絵柄によっては斜め線がギザギザして見える、いわゆるジャギーが目立つ画像となる場合がある。
【0006】
また、インターレース画像をプログレッシブ画像に変換する技術として、動き適応型プログレッシブ変換がある。この技術は、画素単位もしくは画素ブロック単位で動き検出を行い、フィールド内補間処理結果とフィールド間補間処理結果を、動き検出結果に応じた混合比で混合処理する、という技術である。動き検出としては、1フレーム間の同一位置の画素同士の信号レベルの差分等から推定する。
【0007】
しかし、動き適応型プログレッシブ変換処理では、フィールド内補間処理として上下画素平均値を使用すると、垂直方向の解像感が低くなり、斜め線がギザギザに見える問題がある。一方、このような問題を解決する方法として、斜め補間という方法が知られている。斜め補間処理は、補間画素Aを生成するにあたり、その上下の走査線n,n+1から、補間ライン上の画素Aを中心として点対称となる画素のペアを一組選択し、そのペアの画素値の平均値を補間画素値として用いる方法である。
【0008】
補間方向の選択の方法の例として、ペアの画素間の絶対差分値が最小のものを使用する方法がある。例えば、補間しようとしている画素を中心とする上下及び斜め方向の一対の画素間の差分をとり、多数の斜め差分信号を用いて、斜め相関の高い方向を判定し、補間画素を作成するものである。斜め補間に関する従来技術としては、例えば、特許文献1、特許文献2に記載のものがある。
【0009】
以上を踏まえて、拡大処理を行なうと、例えば、縦方向に2倍にする場合、まず、補間画素位置を挟むようにした上下の複数ラインから、補間画素位置を中心とした周辺画素を用い相関値を計算する。次に、その相関値から最適な補間方向を選択し、その補間方向から補間画素値を生成する。これによって、斜め方向に関してはジャギーがなくなる。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2003−230109号公報
【特許文献2】特開2009−77293号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかし、縦方向に急峻に変化する水平ライン(このような画像の代表例としては、文字などが挙げられる。)のような画像の場合、相関がどの方向も同じとなるため、対象画素の上下方向に線形補間を行うことになる。その結果、補間値は上下画素値の平均値となってしまう。そのため、元々はっきりしていた文字などは、ぼやけた表示になってしまい、見づらい低品質な表示になるという問題が発生する。このような縦方向に急峻に変化する水平ラインのような画像に対しては、上記従来の画素補間処理では対応できないという課題があった。このような課題を有する従来の画素補間処理の具体例について、以下に説明する。
【0012】
図1は、上記補間画素を中心として点対称となる画素のペアを選択して行なう斜め補間処理の一例を示す図である。この場合、図中の右斜め方向に相関が高い画素が存在するため、その中央位置に配置された補間画素は滑らかに補間されている。一方、図2も同様に斜め補間処理の一例を示す図である。しかし、このように各オリジナルラインの水平方向にのみ相関が強く、補間画素を中心とした点対称となる画素間の相関がいずれの方向でも同じとなる場合には、結局上下画素値の平均値を補間画素値として生成してしまう。図3は、この図2の場合に斜め補間処理を行なった補間結果を示した図である。よって、このような場合に従来の斜め補間をそのまま行なうと、元々はっきりとしていたものがぼやけた表示となってしまい、見づらい低品質な表示になってしまう。
【0013】
本発明は、上記の問題に鑑み、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフィールド内補間のジャギーの軽減という改善効果を残しつつ、かつ、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0014】
本願発明の一実施形態に係る画像処理装置は、入力画像の拡大処理を実行する画像処理装置において、前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理部と、前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力するエッジ検出部と、前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合して前記フレーム内補間処理を実行する混合処理部と、を備えることを特徴とする。この画像処理装置によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能となる。
【0015】
また、前記エッジ検出部は、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジ検出が可能となる。
【0016】
また、前記エッジ検出部は、前記第1の累積結果と第3の閾値との比較結果及び前記第2の累積結果と第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と第3の閾値との比較結果及び前記第2の累積結果と第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジの検出が可能となり、かつ、エッジの有無に応じて出力すべき補間画素を選択することが可能となるので、入力画像の特徴に応じた最良の補間画素を出力することが可能となる。
【0017】
また、前記フレーム内補間処理部は、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、前記混合処理部は、前記フレーム内補間処理部から出力される前記補間方向が垂直方向であり、前記エッジ検出部から出力される前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理部から出力される前記補間方向が垂直方向ではなく、前記エッジ検出部から出力される前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行してもよい。フレーム内補間処理部が斜め方向の補間をしている場合に上記混合画素を出力してしまうと、拡大後にはジャギーの多い斜線となってしまうところ、この画像処理装置によれば、上記混合画素を出力すべき場合のみを判別しうるので、上記フレーム内補間処理部の補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻なエッジ部分を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能になる。
【0018】
また、前記混合処理部は、前記補間画素と前記原画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記原画素の混合処理を実行してもよい。この画像処理装置によれば、混合割合を調節することが可能となるので、原画像のエッジを保持したより高品位な画像を出力することが可能となる。
【0019】
本発明の一実施の形態に係る画像処理方法は、入力画像の拡大処理を実行する画像処理方法において、前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理を実行し、前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、前記エッジ判定結果に基づいて、前記フレーム内補間処理により出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行すること、を含むことを特徴とする。この画像処理方法によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能となる。
【0020】
また、前記エッジの有無の判定において、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と前記第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と前記第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定してもよい。この画像処理方法によれば、入力画像の特徴に応じたエッジ検出が可能となる。
【0021】
また、前記エッジの有無の判定において、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力してもよい。この画像処理装置によれば、入力画像の特徴に応じたエッジの検出が可能となり、かつ、エッジの有無に応じて出力すべき補間画素を選択することが可能となるので、入力画像の特徴に応じた最良の補間画素を出力することが可能となる。
【0022】
また、前記フレーム内補間処理において、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、前記フレーム内補間処理において、前記フレーム内補間処理により出力される前記補間方向が垂直方向であり、前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理により出力される前記補間方向が垂直方向ではなく、前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行することを含んでもよい。ここで、前記フレーム内補間処理が斜め方向の補間をしている場合に前記補間画素と当該補間画素に対応する原画素とを混合した画素を出力してしまうと、拡大後にはジャギーの多い斜線となってしまう。しかし、この画像処理方法によれば、上記混合画素を出力すべき場合のみを判別しうるので、上記フレーム内補間処理の補間処理によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻なエッジ部分を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示が可能になる。
【0023】
また、前記フレーム内補間処理において、前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行してもよい。この画像処理方法によれば、混合割合を調節することが可能となるので、原画像のエッジを保持したより高品位な画像を出力することが可能となる。
【発明の効果】
【0024】
本発明によれば、画像中に急峻な画素値の変化をもつ画像を拡大する際に、斜め補間によるフレーム内補間時のジャギーを軽減しながら、原画像の急峻な変化を拡大後も保持することができ、原画像の品質を保持したままより高品位な表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【0025】
【図1】従来の斜め補間処理の一例を示す図である。
【図2】従来の斜め補間処理の図1とは異なる一例を示す図である。
【図3】図2の画像に斜め補間処理を行なった場合の補間結果を示す図である。
【図4】本発明の一実施の形態に係る画像処理装置の構成を示すブロック図である。
【図5】本発明の一実施の形態に係るフレーム内補間処理部の補間処理の詳細を説明するためのフローチャートである。
【図6】原画素を、その位置における座標と、その座標における画素値とを定義する例を示す図である。
【図7】本発明の一実施の形態に係る水平及び垂直方向のエッジ検出処理の一例を示す図である。
【図8】本発明の一実施の形態に係る左右斜め方向のエッジ検出処理の一例を示す図である。
【図9】本発明の一実施の形態に係るエッジ検出処理の具体例を説明するための画像を例示した図である。
【図10】本発明の一実施の形態に係るエッジ検出処理の具体例を説明するための画像を例示した図である。
【図11】本発明の一実施の形態に係るエッジ検出部の検出処理の詳細を説明するフローチャートである。
【図12】本発明の一実施の形態に係る混合処理部の混合処理の詳細を説明するフローチャートである。
【図13】(a)に示すベタの背景に横線がある原画像を垂直方向に拡大処理する際に、(b)〜(d)に示す3通りの補間処理を行った場合の画像処理結果を示す図である。
【図14】(a)は画素値の高低を縦軸とし、走査線に垂直な方向に沿った画素の位置を横軸として、図13において行った3通りの画像処理の結果を示したグラフ、(b)は(a)のグラフの横軸と画像中の画素との対応関係を示した図である。
【図15】(a)に示すベタの背景に斜線がある画像を垂直方向に拡大する際に、(b)に示す補間画素として原画素を出力する補間処理と、(c)に示す本実施形態における混合処理を行った場合の各画像処理結果を示す図である。
【図16】本発明の一実施の形態に係る液晶表示装置の構成例を示す図である。
【発明を実施するための形態】
【0026】
(発明に至る経緯)
2011年7月、現行の地上アナログ放送がデジタル放送に完全移行されることに伴い、放送画質も現行のスタンダード画質からハイビジョン画質への高画質化が本格化する。そのハイビジョンの更なる高画質化を目指して、NHK放送技術研究所(以下、NHK技研)では、スーパーハイビジョン(以下、SHV)放送の実用化へ向けた研究開発が進められている。SHVとは、次世代テレビ向けフォーマットであり、7680×4320画素の解像度を持つ超高精細映像のことである。これは、縦横共に現行のフルハイビジョンの4倍で、計16倍の解像度となる。そこで、SHV放送の実用化を想定し、SHVに対応した表示装置が必要となる。また、これに伴って地上デジタル放送でSHVを放送ないし受信するための技術も開発中である。
【0027】
しかし、伝送容量を拡大するための技術の向上の必要性や、電波の送受信のためのアンテナも専用のものが必要になるなど、すぐに地上波放送で導入することは難しい。このため、全ての放送が完全にSHV放送へ移行することは未だ困難であり、過渡期にはフルハイビジョン放送である状況が続くことが予想される。したがって、表示装置が放送フォーマットより高解像度の場合は、表示装置に合わせた映像の拡大処理が必要になる。
【0028】
このような背景のもと、拡大処理を行なっても原画像の品質を保持した状態で高品位な表示が可能となるような画像の補間処理技術が求められる。
【0029】
そこで、本発明は、I/P変換時に用いるフィールド内補間処理を、解像度を2倍にするフレーム内補間処理として利用し、急峻なエッジ検出処理と混合処理とを組み合わせることにより、上記の課題を克服する画像補間処理装置を提供するものである。以下の実施の形態では、画像の微小な変化と大きな変化の両方を検出するエッジ検出処理、及び垂直方向の補間かつ急峻なエッジである場合のみ補間画素に原画素を混合する混合処理とを組み合わせて、画像拡大処理時のぼやけ等を低減する画像処理装置について説明する。なお、本発明において「エッジ」とは、隣接する原画素間の画素値の絶対差分値が設定された閾値以上の場合、その隣接画素間の変化の大きい部分を示すものである。
【0030】
以下、図面を参照して本発明に係る拡大処理時にぼやけを低減する画像処理装置について説明する。ただし、本発明の装置は多くの異なる態様で実施することが可能であり、以下に示す多数の実施の形態の記載内容に限定して解釈されるものではない。
【0031】
図4は、本発明の実施の形態に係る画像処理装置の構成を示すブロック図である。図4に示すように、本発明の一実施形態に係る画像処理装置100は、補間画素を生成するI/P変換処理のフレーム内補間処理部101(以下、フレーム内補間処理部101という)と、原画像が急峻なエッジを持つ画像か否かを判断するエッジ検出部102と、混合処理部103と、を有する。
【0032】
フレーム内補間処理部101は、原画像のフレーム毎にフレーム内補間処理を実行して原画像の補間画素を作成して、原画像の拡大に伴う補間処理を行なう。従来の補間処理は、補間画素Pint_ipを生成する際に、その上下の走査線n,n+1から、補間ライン上の画素Pint_ipを中心として点対称となる画素のペアを一組選択し、その平均値を補間画素値として用いる補間処理方法である。
【0033】
再度、図1から図2を参照して、従来の補間処理方法を説明する。図1は、上記補間画素を中心として点対称となる画素のペアを選択して行なう補間処理の一例を示す図である。補間しようとしている画素を中心とする垂直及び左右斜め方向の一対の画素間の画素値の絶対差分値を取り、各方向の絶対差分値の中で最も小さいものを相関の高い方向と判定し、その方向のペアの各原画素値をもとに線形補間を行い、補間画素Pint_ipを作成する。図1を参照すると、図中の補間画素を中心とした右斜め方向に相関が高い画素が存在するため、その中央位置に配置された補間画素はその方向に隣接する原画素の画素値をもとに線形補間される。
【0034】
図2も同様に補間処理の一例を示す図である。図2に示す原画像は、各オリジナルラインの水平方向にのみ相関が強く、補間画素を中心とした点対称となる画素間の相関がいずれの方向でも同じとなる。この場合には、垂直方向を相関の強いペアとして選択し、そのペアの各画素値をもとに線形補間して、補間画素を生成する。
【0035】
以上の従来の補間処理に対して、フレーム内補間処理部101は、補間方向が斜めの場合には、補間方向結果correlation_vとして「0」を、上下方向の場合には補間方向結果correlation_vとして「1」を混合処理部103に出力する。
【0036】
次に、上記補間処理の詳細について、図5に示すフローチャートを参照して説明する。図5を参照すると、ステップS5001において、フレーム内補間処理部101は補間画素を中心として点対称となる画素のペアの画素間の絶対差分値が最小のものを検出して相関の強さを判定して、相関の強いペアの存在する方向を決定する。次いで、ステップS5002において、フレーム内補間処理部101は、決定した方向で線形補間を行い、補間画素Pint_ipを生成する。次いで、S5003において、フレーム内補間処理部101は、生成した補間画素Pint_ipを混合処理部103に出力する。
【0037】
また、ステップS5004において、フレーム内補間処理部101は、補間方向が斜めか否かを判断する。補間方向が斜めであれば、ステップS5005においてcorrelation_v=0とする。補間方向が斜めでなければ、ステップS5006においてcorrelation_v=1とする。次いで、ステップS5007において、フレーム内補間処理部101は、correlation_vを混合処理部103へ出力する。なお、ステップS5004〜ステップS5007の処理は、ステップS5002〜ステップS5003の処理と並行して行ってもよいし、順次行ってもよい。
【0038】
エッジ検出部102は、垂直水平及び左右斜め方向に隣接する原画素間の画素値の差などから原画像が急峻なエッジを持つ画像か否かを判断する。この判断は、例えば、ベタの背景上に文字があるような場合のみを検出するために行なわれるものである。この検出においては、このような画像が通常二つの特徴を有することに着目する。一つは、(1)背景上の文字が認識しやすいように、背景と文字の間の画素値に大きな差を持っていることが多い(画素間の相関が比較的低い)という特徴である。この大きな画素値の差を「エッジ」と呼ぶ。もう一つは、(2)文字内は単一色の場合が多い(画素間の相関が比較的高い)という特徴である。この(2)の特徴を、本実施の形態では「同一性」と呼ぶことにする。エッジ検出部102は、これらの特徴を抽出し、急峻なエッジを持つ画像か否かを判断する。具体的には、垂直水平及び左右斜め方向に隣接する画素値の絶対差分値Δpを用いて、次のように計算する。
【0039】
まず、(1)の特徴を抽出するため、隣接画素間のエッジを検出する閾値px_threshold_maxを設定し、隣接画素間の画素値の絶対差分値Δpが閾値px_threshold_max(第2の閾値)以上となる隣接画素の組の数をカウントする。そのカウント値をエッジ部分のカウント値edge_count_max(第2の累積結果)とする。同様にして、(2)の特徴を抽出するため、隣接画素間の同一性を検出する閾値px_threshold_min(第1の閾値)を設定し、絶対差分値Δpが閾値px_threshold_min以下となる隣接画素の組の数をカウントする。そのカウント値を同一な部分のカウント値edge_count_min(第1の累積結果)とする。
【0040】
そして、(1)及び(2)の特徴を備えた急峻なエッジを含む画像であることを検出する条件として、エッジ部分のカウント値に対応する閾値count_threshold_max(第4の閾値)と、同一な部分のカウント値に対応する閾値count_threshold_min(第3の閾値)を用いて、「edge_count_max≧count_threshold_max(第2の条件)かつpx_threshold_min≧count_threshold_min(第1の条件)」を設定する。この条件を、本実施の形態では「エッジ条件」と呼ぶことにする。
【0041】
エッジ検出部102は、エッジ条件を満たす場合は、エッジ検出結果edge_detectionとして「1」を、エッジ条件を満たさない場合は、エッジ検出結果edge_detectionとして「0」を混合処理部103に出力する。
【0042】
次に、図6から図10を用いて、上記エッジ検出処理をより詳細に説明する。図6は、円で表される原画素を、その位置する座標(x,y)と、その座標における画素値p(x,y)と、により定義する例を示す図である。図7の(a)は、水平方向のエッジ検出処理を例示した図である。図6に従って、図7の(a)のように水平方向に隣接する画素値の絶対差分値Δpを定義すると、Δp(x,y)=|p(x,y)−p(x+1,y)|(x=1〜2,y=0〜2)となる。エッジ検出部102は、水平方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、水平方向の絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、水平方向の隣接画素間に同一な部分が存在するか否かを判断するため、絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、水平方向の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、水平方向のエッジ部分のカウント値edge_h_maxを出力する。また、エッジ検出部102は、水平方向の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、水平方向の同一な部分のカウント値edge_h_minを出力する。
【0043】
図7の(b)は垂直方向のエッジ検出処理の一例を示す図、図8の(a)は右斜め方向のエッジ検出処理の一例を示す図、図8の(b)は左斜め方向のエッジ検出処理の一例を示す図である。図7の(a)における水平方向のエッジ検出と同様に、垂直方向、右斜め方向、左斜め方向に隣接する原画素間の絶対差分値Δpを求め、設定した閾値(px_threshold_max,px_threshold_min)と比較することで、エッジ部分及び同一な部分を検出する。
【0044】
すなわち、垂直方向のエッジ検出処理では、エッジ検出部102は、垂直方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、垂直方向の絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、垂直方向の隣接画素間に同一な部分が存在するか否かを判断するため、絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、垂直方向の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、edge_v_maxを出力する。また、エッジ検出部102は、垂直方向の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、edge_v_minを出力する。
【0045】
また、左右斜め方向のエッジ検出処理では、エッジ検出部102は、左右斜め方向に隣接する画素間に急峻なエッジが存在するか否かを判断するため、左右斜め方向の各絶対差分値Δp(x,y)と予め外部より設定する閾値px_threshold_maxを比較し、Δp(x,y)≧px_threshold_maxの条件を満たすか否かを判断する。また、エッジ検出部102は、左右斜め方向の隣接画素間に同一な部分が存在するか否かを判断するため、左右斜め方向の各絶対差分値Δpと予め外部より設定する閾値px_threshold_minを比較し、Δp(x,y)≦px_threshold_minの条件を満たすか否かを判断する。エッジ検出部102は、左右斜め方向の一方又は双方の絶対差分値Δp(x,y)がΔp(x,y)≧px_threshold_maxの条件を満たす場合は、その隣接画素の組をカウントするため、edge_r_max及び/又はedge_l_maxを出力する。また、エッジ検出部102は、左右斜め方向の一方又は双方の絶対差分値Δp(x,y)がΔp(x,y)≦px_threshold_minの条件を満たす場合は、その隣接画素の組をカウントするため、edge_r_min及び/又はedge_l_minを出力する。
【0046】
次に、エッジ検出部102は、上述の各方向で検出した隣接画素間のエッジ部分の各カウント数(edge_h_max,edge_v_max,edge_r_max,edge_l_max)を加算し、その加算結果をedge_count_maxとして出力する。すなわち、edge_count_max=edge_h_max+edge_v_max+edge_r_max+edge_l_maxである。また、エッジ検出部102は、上述の各方向で検出した隣接画素間の同一な部分の各カウント数(edge_h_min,edge_v_min,edge_r_min,edge_l_min)を加算し、その結果をedge_count_minとして出力する。すなわち、edge_count_min=edge_h_min+edge_v_min+edge_r_min+edge_l_minである。そして、エッジ検出部102は、edge_count_maxとエッジ部分のカウント数の閾値count_threshold_maxを比較し、edge_count_minと同一な部分のカウント数の閾値count_threshold_minを比較して、エッジ条件を満たすか否かを判断する。この場合、エッジ条件は、edge_count_max≧count_threshold_max、及びedge_count_min≧count_threshold_minである。
【0047】
次に、上記エッジ検出処理の具体例について図9を参照して説明する。図9は、上記エッジ検出処理の具体例を説明するための画像を例示した図である。なお、図9に示す各画像において、高い相関を示す方向は破線矢印で示し、低い相関を示す方向は太線矢印で示す。ここで、高い相関を示す方向は、上述の隣接画素間に同一な部分が存在する方向を示し、低い相関を示す方向は、上述の隣接画素間にエッジが存在する方向を示す。なお、以下の具体例では、仮に、上記エッジのカウント数の閾値count_threshold_maxを8、同一な部分のカウント数の閾値count_threshold_minを6と設定する。
【0048】
図9において、(a1)〜(a4)はベタの背景にある横線の画像を示している。この横線の画像は、水平方向の相関が高い画像である。しかし、他の方向(垂直方向、左右斜め方向)は相関が低くなる。エッジ検出部102は、この横線の画像の(a1)〜(a4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この横線の画像の(a1)〜(a4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=6、edge_count_max=18である。
【0049】
次いで、エッジ検出部102は、edge_count_min=6と、予め外部より設定した閾値count_threshold_min=6とを比較し、上記エッジ条件の一つであるedge_count_min≧count_threshold_minを満たすか否かを判別する。この場合、edge_count_min=6はエッジ条件の一方を満たしている。また、エッジ検出部102は、edge_count_max=18と、予め外部より設定した閾値count_threshold_max=8とを比較し、上記エッジ条件の一つであるedge_count_max≧count_threshold_maxを満たすか否かを判別する。この場合、edge_count_max=18はエッジ条件の他方を満たしている。したがって、この横線の画像は急峻なエッジを持つ画像と判定される。
【0050】
図9において、(b1)〜(b4)はベタの背景にある縦線の画像を示している。この縦線の画像は、垂直方向の相関が高い画像である。しかし、他の方向(水平方向、左右斜め方向)は相関が低くなる。エッジ検出部102は、この縦線の画像の(b1)〜(b4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この縦線の画像の(b1)〜(b4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=10、edge_count_max=14である。よって、edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この縦線の画像は急峻なエッジを持つ画像と判定される。
【0051】
図9において、(c1)〜(c4)は、ベタの背景にある点を示している。この画像は、点を示す画素とその周辺の画素との間の相関が低く、点を示す画素以外の他の画素の間の相関が高い画像である。エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=16、edge_count_max=8である。よって、edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0052】
図9において、(d1)〜(d4)は、ベタの背景にある斜線の画像を示している。この画像は、斜線の向きである右斜め方向の相関が高い画像である。しかし、他の方向(水平方向、垂直方向、左斜め方向)は相関が低くなる。エッジ検出部102は、この斜線の画像の(d1)〜(d4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この斜線の画像の(d1)〜(d4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=14、edge_count_max=10である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0053】
次に、上記エッジ検出処理の具体例について図10を参照して説明する。図10は、上記エッジ検出処理を説明するための一例を示したものである。なお、図10に示す各画像において、高い相関を示す方向は破線矢印で示し、低い相関を示す方向は太線矢印で示し、中程度の相関は実線矢印で示す。ここで、高い相関を示す方向は、上述の隣接画素間に同一な部分が存在する方向を示す。低い相関を示す方向は、上述の隣接画素間にエッジが存在する方向を示す。中程度の相関を示す方向は、上述の隣接画素間の画素値の絶対差分値Δpがエッジの閾値px_threshold_max及び同一性の閾値px_threshold_minの間にある方向を示す。なお、以下の具体例では、仮に、隣接画素間のエッジのカウント数の閾値count_threshold_maxを8、隣接画素間の同一な部分の数の閾値count_threshold_minを6と設定する。なお、図10において、円の中の縦線の疎密は画素値の高低を示し、縦線が密であるほど画素値が低く、縦線が疎であるほど画素値が高いことを示す。
【0054】
図10において、(a1)〜(a4)はグラデーションの背景に横線がある画像を示している。この画像は、背景が垂直方向に緩やかに変化しており、ベタの背景を示す画素の垂直方向の相関に対して、グラデーションの背景を示す画素の垂直方向の相関の方が比較的低くなっている。エッジ検出部102は、この画像の(a1)〜(a4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(a1)〜(a4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=6、edge_count_max=18である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0055】
図10において、(b1)〜(b4)はグラデーションの背景に縦線がある画像を表している。エッジ検出部102は、この画像の(b1)〜(b4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(b1)〜(b4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=10、edge_count_max=14である。edge_count_min≧6、及びedge_count_max≧8であり、上記のエッジ条件を満たすため、この画像は急峻なエッジを持つ画像と判定される。
【0056】
図10の(a1)〜(a4)及び(b1)〜(b4)のように、背景にグラデーションなどの小さな変化があっても、その小さな変化を同一とみなせることによって、急峻なエッジのある画像と判断できる。これは、同一性の閾値px_threshold_minを比較的大きめに取ることにより、グラデーションなどの小さな変化も同一とみなせるので、ベタの背景に縦線または横線がある画像と認識でき、急峻なエッジを持つ画像であると判定がすることが可能となっているからである。
【0057】
図10において、(c1)から(c4)は葉の間から光がさしているような画像を示している。この画像は、差し込む光を示す画素とその周辺の画素との間の相関が低い。しかし、差し込む光を示す画素以外のその周辺の画素の間の相関は比較的高い。エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(c1)〜(c4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=4、edge_count_max=12である。edge_count_min<6、及びedge_count_max≧8であり、上記のエッジ条件を満たさないため、この画像は急峻なエッジを持つ画像ではないと判定される。
【0058】
図10において、(d1)から(d4)は明るい空の背景に電線があるような場合を表している。この画像は、電線を示す画素とその周辺の明るい空を示す画素との間の相関が低い。しかし、それ以外の画素の組(例えば、明るい空を示す画素どうし、または電線を示す画素どうし)の相関は比較的高い。エッジ検出部102は、この画像の(d1)〜(d4)に示す各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minを各々カウントし、これらの加算結果としてedge_count_minを出力する。また、エッジ検出部102は、この画像の(d1)〜(d4)に示す各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxの数を各々カウントし、これらの加算結果としてedge_count_maxを出力する。この場合、edge_count_min=2、edge_count_max=16である。edge_count_min<6、及びedge_count_max≧8であり、上記のエッジ条件を満たさないため、この画像は急峻なエッジを持つ画像ではないと判定される。
【0059】
図10の(c1)〜(c4)及び(d1)〜(d4)のように、自然画を示す画像においては、その画像中にエッジと判定される部分があっても、中程度の相関が増加した結果同一と判定される部分が減少するため、上記エッジ条件を満たさない。よって、混合検出部103によって急峻なエッジと判定されない。
【0060】
次に、上記エッジ検出処理の詳細について、図11の示すフローチャートを参照して説明する。図11を参照すると、まず、エッジ検出部102は、S11001において垂直方向に、S11002において水平方向に、S12003において右斜め方向に、S11004において左斜め方向に、それぞれエッジ検出処理を行う。なお、ステップS11001〜ステップS11004の各処理は、並行して行ってもよいし、順次行ってもよい。
【0061】
次に、ステップS11005において、エッジ検出部102は、ステップS11001〜ステップS11004の各処理において検出した隣接画素間の同一な部分の組のカウント数を、垂直方向、水平方向、左右斜め方向の各方向に対して、高い相関に対応する上記edge_h_min,edge_v_min,edge_r_min,edge_l_minとして各々出力し、これらの加算結果として同一な部分のカウント数edge_count_minを出力する。また、ステップS11006において、エッジ検出部102は、ステップS11001〜ステップS11004の各処理において検出した隣接画素間のエッジ部分の組のカウント数を、垂直方向、水平方向、左右斜め方向の各方向に対して、低い相関に対応する上記edge_h_max,edge_v_max,edge_r_max,edge_l_maxとして各々出力し、これらの加算結果としてエッジ部分のカウント数edge_count_maxを出力する。なお、ステップS11005とステップS11006の各処理は、並行して行ってもよいし、順次行ってもよい。
【0062】
次いで、ステップS11007において、エッジ検出部102は、上記エッジ条件について判定する。上記エッジ条件を満たした場合は、S11008において、エッジ検出部102はエッジ検出結果edge_detectionとして「1」を出力する。上記エッジ条件を満たさない場合には、エッジ検出部102は、S11009において、エッジ検出結果edge_detectionとして「0」を出力する。
【0063】
次いで、S11010において、エッジ検出部102は、エッジ検出結果edge_detectionの値を混合処理部103へ出力する。
【0064】
混合処理部103は、混合処理として、エッジ検出部102のエッジ検出結果edge_detectionおよびフレーム内補間処理部101で行なわれた補間の補間方向結果correlation_vに応じて、いかなる補間画素を混合画素Pint_mixとして最終的に出力するかを判断する。
【0065】
具体的には、入力された原画像が、例えばベタの背景上に文字があるような場合、すなわち急峻なエッジが存在し(edge_detection=1)かつ補間方向が垂直に選択される場合(correlation_v=1)、混合画素Pint_mixとして、原画像に対応した原画素Porgと補間画素Pint_ipとを混合したtemporary混合画素Pint_tmpを出力する。上記の条件にあてはまらない場合は、混合画素Pint_mixとして補間画素Pint_ipを出力する。ここで、temporary混合画素は、Pint_tmp=α×Porg+(1−α)×Pint_ipであり、「α」は予め外部から設定される混合の割合を決定するBlending係数(0≦α≦1)である。
【0066】
次に、上記混合処理の詳細について、図12の示すフローチャートを参照して説明する。図12を参照すると、ステップS12001において、混合処理部103は、原画素Porgとフレーム内補間処理部101から出力された補間画素Pint_ipとを用いて、temporary混合画素Pint_tmpを生成する。また、ステップS12002において、混合処理部103は、フレーム内補間処理部101から出力された補間方向結果correlation_vと、エッジ検出部から出力されたエッジ検出結果edge_detectionとを合わせて、混合信号flag_mixを次のように生成する。すなわち、エッジ検出結果edge_detection=1、かつ、補間方向結果correlation_v=1ならば、混合信号flag_mixとして「1」を、そうでなければ混合信号flag_mixとして「0」を出力する。なお、ステップS12002はステップS12001と並行して行ってもよいし、順次に行ってもよい。
【0067】
次いで、ステップS12003において、混合処理部103は、この混合信号flag_mixの値を判断し、混合画素Pint_mixとして出力する画素を決定する。すなわち、混合信号flag_mix=1ならば、ステップS12004において混合画素Pint_mix=temporary混合画素Pint_tmpとする。また、混合信号flag_mix=0ならば、ステップS12005において混合画素Pint_mix=temporary混合画素Pint_ipとする。
【0068】
次いで、ステップS12006において、混合処理部103は、決定された混合画素Pint_mixを最終的な補間画素として出力する。
【0069】
次に、上記画像処理を経て補間された結果について図13及び図14を参照して説明する。
【0070】
図13はベタの背景に横線がある画像を垂直方向に拡大する場合の上記画像処理結果について説明するための図である。図13において、(a)はベタの背景に横線がある原画像を示している。(a)中のa1は画素値の高い画素を示し、a2は画素値の低い画素を示している。ベタの背景を示す画素がa1に対応し、横線を示す画素がa2に対応する。この画像は、垂直方向及び左右斜め方向に相関が低く、水平方向に相関が高い。垂直方向及び左右斜め方向の相関の低さは著しく、急峻な変化が生じており、この画像は上記の急峻なエッジを持つ画像に当たる。
【0071】
図13において、(b)は、画像処理として、垂直方向に線形補間処理を行った結果を示している。(c)は、画像処理として、上記Blending係数αを0.5に設定して上記混合処理を行った結果を示している。(d)は、画像処理として、単に補間画素に原画素を出力する処理を行った結果を示している。この(d)は、画像を単に垂直方向に引き伸ばしたことに対応する。
【0072】
図14において(a)は、画素値の高低を縦軸として、走査線に垂直な方向に沿った画素の位置を横軸として、図13において行った画像処理の結果をグラフに示している。このグラフにおいて、画素値の高低を示す縦軸に並行で等間隔に並べられた実線及び点線は、それぞれ走査線及び補間画素のある補間ラインを示す。また、図14において(b)は、(a)のグラフの横軸と、画像中の画素との対応関係を示す。
【0073】
図14において、(a)のa1は画素値の高い原画素を示し、a2は画素値の低い原画素を示している。これらの円で示された画素は、図13の(a)における、画素値の高い画素a1と低い画素a2にそれぞれ対応する。図14において、(a)のa3は、垂直方向に線形補間した補間画素を示している。これは、図13の(b)における、補間画素に対応する。図14において、(a)のa4は、補間処理として上記混合処理を行った補間画素を示している。これは、図13の(c)における補間画素に対応する。図14において、(a)のa5は、補間処理として原画素を出力する処理を行った補間画素を示している。これは、図13の(d)における補間画素に対応する。
【0074】
図14の(a)において、画素位置n−1にある原画素と画素位置nにある原画素を結ぶ線分の傾きは、画素間の画素値の差に対応する。すなわち、傾きが急であれば画素値の差は大きいことを示す。また、これはその隣接する画素間には上記エッジが存在することを示す。他方、傾きが緩やかであれば画素間の画素値の差は小さいことを示す。
【0075】
図14の(a)を参照すると、原画像を拡大する際に原画素間の平均値による補間処理を行った結果、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間の急峻なエッジは緩やかなものとなる。同様に、画素位置nにある原画素と画素位置n+1の間にあった急峻なエッジも緩やかなものとなる。これは、ベタの背景にある横線の画像を拡大する際に平均値による補間を行うと、横線の輪郭がぼやけてしまうことを示す。
【0076】
これに対して、図14の(a)を参照すると、原画像を拡大する際に補間画素として上記混合画素を出力する補間処理を行った結果、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間のエッジは、平均値による補間処理を行った場合よりも急になっていることがわかる。このことは、単に平均値による補間処理を行った場合よりも、原画像の急峻なエッジを保持できていることを示す。同様に、画素位置nにある原画素と画素位置n+1の間にあったエッジも、平均値による補間処理を行った場合より急になっている。このことは、単に平均値による補間処理を行った場合よりも、原画像の急峻なエッジを保持できていることを示す。
【0077】
また、図14の(a)を参照すると、原画像を拡大する際に補間位置に原画素を出力する補間処理を行うと、原画素中に存在していた画素位置n−1にある原画素と画素位置nの間の急峻なエッジは維持されていることがわかる。同様に、画素位置nにある原画素と画素位置n+1の間にあった急峻なエッジも維持されていることがわかる。図14の(a)を参照すると、上記混合画素による補間処理を行った場合よりも、上記原画素を出力する補間を行った場合の方が、より原画素間の急峻なエッジが保持されていることがわかる。しかし、以下で詳細に説明するように、両者にはその補間方法の違いから、斜線の画像の拡大処理においてがたつき(ジャギー)が生じてしまう。そのため、急峻なエッジを持つ画像を拡大する際には、上記混合画素による補間処理を行う方が課題の解決という点において優れている。
【0078】
次に、上記混合画素による補間処理と、上記原画素を出力する補間処理との違いを、図15を参照して詳細に説明する。
【0079】
図15はベタの背景に右斜め方向の斜線がある画像を垂直方向に拡大する場合の上記画像処理結果について説明するためのものである。図15において、(a)はベタの背景に右斜め方向の斜線がある原画像を示している。(a)中の黒く塗りつぶされた円は画素値の低い画素を示し、白抜きの円は画素値の高い画素を示している。ベタの背景を示す画素が白抜きの円に対応し、横線を示す画素が黒く塗りつぶされた円に対応する。この画像は、右斜め方向に相関が高く、その他の方向(垂直、水平、左斜め方向)に相関が低い。また、垂直及び水平及び左斜め方向の相関の低さは著しく、急峻な変化が生じており、この部分は上記のエッジ部分に当たる。
【0080】
また、図15において、(b)は、補間画素として原画素を出力する補間処理を行った結果を示している。(c)は、画像処理として上記Blending係数αを0.5に設定して上記混合処理を行った結果を示している。
【0081】
図15の(b)を参照すると、右斜め方向の斜線を垂直方向に拡大する際に補間画素として原画素を出力する補間処理を行った場合、がたつき(ジャギー)の多い斜線となってしまうことがわかる。これに対し、図15の(c)を参照すると、右斜め方向の斜線を垂直方向に拡大する際に補間画素として上記混合画素を出力する上記混合処理を行った場合には、図15の(b)の場合に比べ、ジャギーが軽減されていることがわかる。
【0082】
以上より、補間画素として原画素を出力する補間処理及び上記混合画素を出力する上記混合処理のいずれも、ベタの背景に横線がある画像を垂直方向に拡大する場合には原画像の急峻なエッジを保持しうる。しかし、ベタの背景に斜線がある画像を垂直方向に拡大する場合には、補間画素として原画素を出力する補間処理は斜め方向にジャギーを生じてしまう。したがって、本発明にかかる上記混合画素を出力する上記混合処理は、原画像の垂直方向の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない補間処理として優れている。なお、本実施の形態においては垂直方向の拡大のみを扱ったが、水平方向の拡大においても反時計回りに90度回転させることで垂直方向の拡大と同等に扱える。それゆえ、垂直及び水平方向の拡大において、本発明にかかる上記混合画素を出力する上記混合処理は、原画像の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない補間処理として優れている。
【0083】
次に、上記画像処理装置100を利用した液晶表示装置の一例について図16を参照して説明する。図16において、液晶表示装置200は、画像処理装置100と液晶パネル201により構成される。画像処理装置100は、上述の図4に示したものと同一である。液晶パネル201は、薄膜トランジスタ(以下、TFTという)基板、TFT基板に対向して結合されるカラーフィルタ基板及び両基板の間に介在されて液晶等を含む。液晶パネル201は、画像処理装置100からフレーム毎に入力される補間画素により画像を表示する。液晶パネル201の解像度が、入力されるフルハイビジョン画像の縦横2倍である場合、画像処理装置100は、入力されるフルハイビジョン画像を縦横2倍に拡大するように上記画像補間処理を実行する。これにより、拡大後も原画像の急峻なエッジを保持しつつ、斜め方向にジャギーを生じさせない高品位な画像表示が可能になる。なお、本実施の形態では、画像処理装置を液晶表示装置に用いた場合を示したが、液晶表示装置に限定するものではなく、例えば、PDP、有機ELなどの表示装置にも適用可能である。
【符号の説明】
【0084】
100…画像処理装置
101…フレーム内補間処理部
102…エッジ検出部
103…混合処理部
200…液晶表示装置
201…液晶パネル
【特許請求の範囲】
【請求項1】
入力画像の拡大処理を実行する画像処理装置において、
前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理部と、
前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力するエッジ検出部と、
前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行する混合処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記エッジ検出部は、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記エッジ検出部は、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力することを特徴とする請求項2記載の画像処理装置。
【請求項4】
前記フレーム内補間処理部は、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、
前記混合処理部は、前記フレーム内補間処理部から出力される前記補間方向が垂直方向であり、前記エッジ検出部から出力される前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理部から出力される前記補間方向が垂直方向ではなく、前記エッジ検出部から出力される前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行することを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
【請求項5】
前記混合処理部は、前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行することを特徴とする請求項4記載の画像処理装置。
【請求項6】
入力画像の拡大処理を実行する画像処理方法において、
前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理を実行し、
前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、
前記エッジ判定結果に基づいて、前記フレーム内補間処理により出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行すること、を含むことを特徴とする画像処理方法。
【請求項7】
前記エッジの有無の判定において、
前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、
各方向別の差分を第1の閾値及び第2の閾値と比較し、
前記第1の閾値以下の差分を累積して第1の累積結果を出力し、
前記第2の閾値以上の差分を累積して第2の累積結果を出力し、
前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定すること、を含むことを特徴とする請求項6記載の画像処理方法。
【請求項8】
前記エッジの有無の判定において、
前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、
前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力すること、を含むことを特徴とする請求項7記載の画像処理方法。
【請求項9】
前記フレーム内補間処理において、
前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力すること、を含み、
前記フレーム内補間処理において、
前記フレーム内補間処理により出力される前記補間方向が垂直方向であり、前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、
前記フレーム内補間処理により出力される前記補間方向が垂直方向ではなく、前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行すること、を含むことを特徴とする請求項6乃至8の何れか一項に記載の画像処理方法。
【請求項10】
前記フレーム内補間処理において、
前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項11】
請求項1乃至請求項5記載の何れか一項に記載の画像処理装置を備えることを特徴とする表示装置。
【請求項1】
入力画像の拡大処理を実行する画像処理装置において、
前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理部と、
前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力するエッジ検出部と、
前記エッジ検出部による前記エッジ判定結果に基づいて、前記フレーム内補間処理部から出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行する混合処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記エッジ検出部は、前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、各方向別の差分を第1の閾値及び第2の閾値と比較し、前記第1の閾値以下の差分を累積して第1の累積結果を出力し、前記第2の閾値以上の差分を累積して第2の累積結果を出力し、前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記エッジ検出部は、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力することを特徴とする請求項2記載の画像処理装置。
【請求項4】
前記フレーム内補間処理部は、前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力し、
前記混合処理部は、前記フレーム内補間処理部から出力される前記補間方向が垂直方向であり、前記エッジ検出部から出力される前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、前記フレーム内補間処理部から出力される前記補間方向が垂直方向ではなく、前記エッジ検出部から出力される前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行することを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
【請求項5】
前記混合処理部は、前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行することを特徴とする請求項4記載の画像処理装置。
【請求項6】
入力画像の拡大処理を実行する画像処理方法において、
前記入力画像のフレーム毎に前記入力画像の補間画素を作成して出力するフレーム内補間処理を実行し、
前記入力画像のフレーム内で検出対象領域毎に画素間の変化を検出し、前記画素間の変化によりエッジの有無を判定してエッジ判定結果を出力し、
前記エッジ判定結果に基づいて、前記フレーム内補間処理により出力される補間画素に対して前記入力画像に含まれる原画素を選択的に混合してフレーム内補間処理を実行すること、を含むことを特徴とする画像処理方法。
【請求項7】
前記エッジの有無の判定において、
前記入力画像のフレーム内で検出対象画素毎に複数の方向の周辺画素との間で方向別の差分を各々求め、
各方向別の差分を第1の閾値及び第2の閾値と比較し、
前記第1の閾値以下の差分を累積して第1の累積結果を出力し、
前記第2の閾値以上の差分を累積して第2の累積結果を出力し、
前記第1の累積結果と第3の閾値との比較結果が第1の条件を満たすか否か、且つ、前記第2の累積結果と第4の閾値との比較結果が第2の条件を満たすか否かにより前記エッジの有無を判定すること、を含むことを特徴とする請求項6記載の画像処理方法。
【請求項8】
前記エッジの有無の判定において、
前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の一方または双方を満たさない場合は、前記フレーム内に同一の隣接画素が存在することを示す第1の情報を出力し、
前記第1の累積結果と前記第3の閾値との比較結果及び前記第2の累積結果と前記第4の閾値との比較結果が前記第1の条件及び前記第2の条件の双方を満たす場合は、前記入力画像のフレーム内で検出対象領域にエッジが存在することを示す第2の情報を出力すること、を含むことを特徴とする請求項7記載の画像処理方法。
【請求項9】
前記フレーム内補間処理において、
前記入力画像のフレーム内で補間対象画素毎に複数の方向の周辺画素との間で相関値を求め、該相関値により生成した前記補間画素を出力するとともに前記補間画素の補間方向を出力すること、を含み、
前記フレーム内補間処理において、
前記フレーム内補間処理により出力される前記補間方向が垂直方向であり、前記エッジ判定結果がエッジ有りである場合は、前記補間画素と当該補間画素に対応する原画素とを混合して前記フレーム内補間処理を実行し、
前記フレーム内補間処理により出力される前記補間方向が垂直方向ではなく、前記エッジ判定結果がエッジ無しである場合は、前記補間画素により前記フレーム内補間処理を実行すること、を含むことを特徴とする請求項6乃至8の何れか一項に記載の画像処理方法。
【請求項10】
前記フレーム内補間処理において、
前記補間画素と前記現画素を混合する割合を示す係数を設定し、前記係数を用いて前記補間画素と前記現画素の混合処理を実行すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項11】
請求項1乃至請求項5記載の何れか一項に記載の画像処理装置を備えることを特徴とする表示装置。
【図4】
【図5】
【図11】
【図12】
【図16】
【図1】
【図2】
【図3】
【図6】
【図7】
【図8】
【図9】
【図10】
【図13】
【図14】
【図15】
【図5】
【図11】
【図12】
【図16】
【図1】
【図2】
【図3】
【図6】
【図7】
【図8】
【図9】
【図10】
【図13】
【図14】
【図15】
【公開番号】特開2012−114687(P2012−114687A)
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願番号】特願2010−262150(P2010−262150)
【出願日】平成22年11月25日(2010.11.25)
【出願人】(598045058)株式会社サムスン横浜研究所 (294)
【Fターム(参考)】
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願日】平成22年11月25日(2010.11.25)
【出願人】(598045058)株式会社サムスン横浜研究所 (294)
【Fターム(参考)】
[ Back to top ]