画像処理装置及び画像処理方法
【課題】斜め線の画素補間性能と十字線の画素補間性能を両立する画像処理装置及び画像処理方法を提供する。
【解決手段】画像処理装置は、入力画素に対する上下画素間の補間値及び垂直方向相関値を算出する垂直相関処理部と、前記入力画素に対する右斜め方向の最終相関値を算出する右斜め方向相関処理部と、前記入力画素に対する左斜め方向の最終相関値を算出する左斜め方向相関処理部と、前記右斜め方向の最終相関値及び前記左斜め方向の最終相関値から斜め方向の最終相関値を選択し、前記垂直方向相関値及び前記斜め方向の最終相関値から最終補間方向を選択し、前記最終補間方向に基づき前記上下画素間の補間値及び前記斜め方向の最終補間値から出力補間値を決定する補間値算出処理部と、を備える。
【解決手段】画像処理装置は、入力画素に対する上下画素間の補間値及び垂直方向相関値を算出する垂直相関処理部と、前記入力画素に対する右斜め方向の最終相関値を算出する右斜め方向相関処理部と、前記入力画素に対する左斜め方向の最終相関値を算出する左斜め方向相関処理部と、前記右斜め方向の最終相関値及び前記左斜め方向の最終相関値から斜め方向の最終相関値を選択し、前記垂直方向相関値及び前記斜め方向の最終相関値から最終補間方向を選択し、前記最終補間方向に基づき前記上下画素間の補間値及び前記斜め方向の最終補間値から出力補間値を決定する補間値算出処理部と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力された画像を拡大処理し、液晶、PDP、有機ELなどのパネルに表示する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
近年、画像の高解像化に伴い、表示装置(液晶、PDP、有機ELなど)の表示解像度も高くなっている。但し、ハイビジョン放送などにより放送されるテレビ信号(インターレース信号)等の入力画像は、表示装置の表示解像度に合っていない場合があり、表示装置内で入力画像の解像度を表示解像度まで拡大する必要がある。
【0003】
しかし、単純に線形補間等の手法で拡大処理してしまうと、輪郭にぼやけが生じたり、斜め線でジャギーが発生したりしてしまう。そこで、入力画像を縦横に拡大する際に、インターレース・プログレッシブ変換(IP変換)時に用いるフレーム内補間処理を、縦方向及び横方向に適用することにより、斜め方向のエッジが滑らかな補間画素を生成することが可能となる。
【0004】
I/P変換とは、インターレース信号において間引かれている走査線を、各フィールドの情報をそれぞれ用いて補間信号を生成し、プログレッシブ信号に変換するものである。一般に、インターレース方式の画像をプログレッシブ方式の画像に変換する場合、インターレース画像が静止画像である場合には、一方のフィールド走査線を隣接する他方のフィールド走査線の間にはめ込むことにより補間走査線(以下、補間ラインという)を生成するフィールド間補間が行われ、またインターレース画像が動画像である場合には、同一フィールド内の隣接走査線上の画素を用いて補間ラインを生成するフィールド内補間が行われる。
【0005】
フィールド内の補間処理でインターレースnラインとインターレースn+1ライン間に補間ラインを生成するにあたっては、補間ライン上の画素Aとして、その上下の走査線n,n+1上の画素U,Dを加算して平均値(=(U+D)/2)を得る方法が簡単である。しかしながら、この上下方向の補間方法を適用した場合、絵柄によっては斜め線がギザギザして見える、いわゆるジャギーが目立つ画像となる場合がある。
【0006】
また、インターレース画像をプログレッシブ画像に変換する技術として、動き適応型プログレッシブ変換がある。この技術は、画素単位もしくは画素ブロック単位で動き検出を行い、フィールド内補間処理結果とフィールド間補間処理結果を、動き検出結果に応じた混合比で混合処理する、という技術である。動き検出としては、1フレーム間の同一位置の画素同士の信号レベルの差分等から推定する。
【0007】
しかし、動き適応型プログレッシブ変換処理では、フィールド内補間処理として上下画素平均値を使用すると、垂直方向の解像感が低くなり、斜め線がギザギザに見える問題がある。一方、このような問題を解決する方法として、斜め補間という方法が知られている。斜め補間処理は、補間画素Aを生成するにあたり、その上下の走査線n,n+1から、補間ライン上の画素Aを中心として点対称となる画素のペアを一組選択し、そのペアの画素値の平均値を補間画素値として用いる方法である。
【0008】
補間方向の選択の方法の例として、ペアの画素間の絶対差分値が最小のものを使用する方法がある。例えば、補間しようとしている画素を中心とする上下及び斜め方向の一対の画素間の差分をとり、多数の斜め差分信号を用いて、斜め相関の高い方向を判定し、補間画素を作成するものである。斜め補間に関する従来技術としては、例えば、特許文献1、特許文献2に記載のものがある。
【0009】
以上を踏まえて、拡大処理を行なうと、例えば、縦方向に2倍にする場合、まず、補間画素位置を挟むようにした上下の複数ラインから、補間画素位置を中心とした周辺画素を用いて相関値を計算する。次に、その相関値から最適な補間方向を選択し、その補間方向から補間画素値を生成する。これによって、斜め方向に関してはジャギーがなくなる。
【0010】
また、I/P変換で用いられるフィールド内補間処理(縦方向を2倍にする処理)する従来技術として、例えば、特許文献3、特許文献4に記載のものがある。特許文献3に記載された順次走査変換装置では、垂直、斜め方向の相関を算出し、最も相関が高い方向で画素を補間することが提案されている。この順次走査変換装置において実行される補間画素生成処理について図31〜図33を参照して説明する。
【0011】
図31において、補間画素pは、原ライン(yライン)及び原ライン(y+1ライン)の画素間a−n、b−m、c−l、d−k、e−j、f−i、g−hの差分を求め、これらの画素間の差分のうち最小値の画素の組に基づいて補間画素を生成している。但し、最小値の画素の組が複数存在した場合には、相関する画素の方向を特定できないため、既に処理が終了している隣接画素の補間画素の方向を参照して補間画素の方向を決定している。例えば、図32に示すような斜め線の入力の場合、図中の画素p3の補間値は、画素の組c−l、e−jなどから算出するが、これらの相関値は同じ値(=0)になり、この情報だけでは画素の組を決定できないため、隣接画素p2の補間方向の結果(d−i)を参照し、相関画素としてe−jを選択するようにしている。
【0012】
しかし、この順次走査変換装置では、図33に示すような十字線の画像が入力された場合、補間画素のp0〜p6には誤補間が生じてしまう。すなわち、十字線のように直線が直交している場合には、図中に矢印で示す斜め方向の画素に対する相関が高くなるため、本来、垂直方向に対する補間が望ましい場合にも、斜め方向に画素を補間してしまうという問題がある。
【0013】
一方、特許文献4に記載された走査線変換装置では、十字線に強い補間方式が提案されている。この走査線変換装置において実行される補間画素生成処理について図34及び図35を参照して説明する。例えば、図34に示すような十字線の入力画像に対して、図35に示すような理想的な補間が行われている。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開2003−230109号公報
【特許文献2】特開2009−77293号公報
【特許文献3】特開8−163511号公報
【特許文献4】特開2003−230109号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
しかし、上記特許文献4に記載された走査線変換装置では、図36に示すような斜め線の画像が入力された場合、補間画素xには画素N、E、c、hと同じ色の補間値が期待されることに対して、垂直方向(画素D−d方向)が最も高いと判定し、(D+d)/2=100の値が出力されて、斜め線がギザギザに見える問題が発生する。すなわち、特許文献4に記載された走査線変換装置では、十字線に対する補間性能と斜め線に対する補間性能を両立することは困難であった。このことは、上記特許文献3に記載された順次走査変換装置においても同様である。
【0016】
本発明は、上記の問題に鑑み、斜め線の画素補間性能と十字線の画素補間性能を両立する画像処理装置及び画像処理方法提供することを目的とする。
【課題を解決するための手段】
【0017】
本願発明の一実施形態に係る画像処理装置は、入力画像の拡大処理を実行する画像処理装置であって、前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力する垂直相関処理部と、前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づいて選択された右斜め方向の最終補間値を出力する右斜め方向相関処理部と、前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づいて選択された左斜め方向の最終補間値を出力する左斜め方向相関処理部と、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記第1の最小値に基づいて斜め方向の最終補間値を選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向基づいて前記入力画素に対する補間値を選択する補間値算出処理部と、を備えることを特徴とする。この画像処理装置によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。
【0018】
また、前記垂直相関処理部は、前記上下画素間の相関値から前記上下相関値を減算して前記垂直方向相関値を算出してもよい。この画像処理装置によれば、原画像に対する垂直方向相関値の精度よく算出することができる。
【0019】
また、前記右斜め方向相関処理部は、前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出してもよい。この画像処理装置によれば、原画像に対する右斜め方向の補間値を精度良く算出することができる。
【0020】
また、前記左斜め方向相関処理部は、前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出してもよい。この画像処理装置によれば、原画像に対する左斜め方向の補間値を精度良く算出することができる。
【0021】
また、前記右斜め方向相関処理部は、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき、前記右斜め方向の最終補間値を選択してもよい。
【0022】
また、前記左斜め方向相関処理部は、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき、前記右斜め方向の最終補間値を選択してもよい。
【0023】
また、前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、垂直方向に近い斜め方向の補間値を選択してもよい。前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を補間値としてもよい。前記垂直相関値と、前記最小の右斜め方向相関値、もしくは前記最小の左斜め方向相関値が同一の場合、垂直方向の補間値を選択してもよい。
【0024】
本発明の一実施の形態に係る画像処理方法は、入力画像の拡大処理を実行する画像処理方法において、前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力し、前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力し、前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力し、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づいて補間値を出力すること、を含むことを特徴とする。この画像処理方法によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。
【0025】
また、前記垂直方向相関値は、前記上下画素間の相関値から前記上下相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する垂直方向相関値の精度よく算出することができる。
【0026】
また、前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する右斜め方向の補間値を精度良く算出することができる。
【0027】
また、前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する左斜め方向の補間値を精度良く算出することができる。
【0028】
また、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき最終補間値を選択してもよい。
【0029】
また、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき最終補間値を選択してもよい。
【0030】
また、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、垂直方向に近い斜め方向の補間値を選択してもよい。前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を補間値としてもよい。前記垂直相関値と、前記最小の右斜め方向相関値、もしくは前記最小の左斜め方向相関値が同一の場合、垂直方向の補間値を選択してもよい。
【発明の効果】
【0031】
本発明によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【0032】
【図1】本発明の一実施形態に係る画像処理装置の構成を示すブロック図である。
【図2】図1の垂直相関処理部において実行される垂直方向相関値算出処理の一例を示すフローチャートである。
【図3】入力される原画素の一例を示す図である。
【図4】垂直方向相関値算出処理の対象となる画素の一例を示す図である。
【図5】図1の右斜め相関処理部において実行される右斜め方向相関値算出処理の一例を示すフローチャートである。
【図6】図1の左斜め相関処理部において実行される左斜め方向相関値算出処理の一例を示すフローチャートである。
【図7】図1のマルチプレクサにおいて実行される補間値算出処理の一例を示すフローチャートである。
【図8】具体例1に係る右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図9】具体例1に係る左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図10】具体例1に係る右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図11】具体例1に係る左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図12】具体例2に係る右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図13】具体例2に係る左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図14】具体例2に係る右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図15】具体例2に係る左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図16】具体例3に係る右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図17】具体例3に係る左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図18】具体例3に係る右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図19】具体例3に係る左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図20】具体例4に係る右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図21】具体例4に係る左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図22】具体例4に係る右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図23】具体例4に係る左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図24】具体例5に係る右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図25】具体例5に係る左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図26】具体例5に係る右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図27】具体例5に係る左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図28】具体例1により斜め線(傾き右1)を補間した結果を示す図である。
【図29】具体例3により十字線を補間した結果を示す図である。
【図30】図1の画像処理装置を利用した液晶表示装置の概略構成を示すブロック図である。
【図31】従来のフィールド内補間処理の一例を示す図である。
【図32】従来の斜め線の入力に対する画素補間処理の一例を示す図である。
【図33】従来の十字線の入力に対する画素補間処理の一例を示す図である。
【図34】従来の十字線の入力に対する画素補間処理の一例を示す図である。
【図35】図34の十字線の入力に対する画素補間処理の結果を示す図である。
【図36】従来の斜め線の入力に対する画素補間処理の一例を示す図である。
【発明を実施するための形態】
【0033】
(発明に至る経緯)
2011年7月、現行の地上アナログ放送がデジタル放送に完全移行されることに伴い、放送画質も現行のスタンダード画質からハイビジョン画質への高画質化が本格化する。そのハイビジョンの更なる高画質化を目指して、NHK放送技術研究所(以下、NHK技研)では、スーパーハイビジョン(以下、SHV)放送の実用化へ向けた研究開発が進められている。SHVとは、次世代テレビ向けフォーマットであり、7680×4320画素の解像度を持つ超高精細映像のことである。これは、縦横共に現行のフルハイビジョンの4倍で、計16倍の解像度となる。そこで、SHV放送の実用化を想定し、SHVに対応した表示装置が必要となる。また、これに伴って地上デジタル放送でSHVを放送ないし受信するための技術も開発中である。
【0034】
しかし、伝送容量を拡大するための技術の向上の必要性や、電波の送受信のためのアンテナも専用のものが必要になるなど、すぐに地上波放送で導入することは難しい。このため、全ての放送が完全にSHV放送へ移行することは未だ困難であり、過渡期にはフルハイビジョン放送である状況が続くことが予想される。したがって、表示装置が放送フォーマットより高解像度の場合は、表示装置に合わせた映像の拡大処理が必要になる。
【0035】
このような背景のもと、拡大処理を行なっても原画像の品質を保持した状態で高品位な表示が可能となるような画像の補間処理技術が求められる。
【0036】
以下、図面を参照して本発明に係る画像処理装置について説明する。ただし、本発明の装置は多くの異なる態様で実施することが可能であり、以下に示す多数の実施の形態の記載内容に限定して解釈されるものではない。
【0037】
図1は、本発明の一実施形態に係る画像処理装置の構成を示すブロック図である。図1において、画像処理装置100は、垂直相関処理部101と、右斜め相関処理部102と、左斜め相関処理部103と、マルチプレクサ(補間値算出処理部)104と、を有する。画像処理装置100は、RGB画素をYUV画素に変換し、Y画素を入力画素として補間画素を生成する処理を実行してもよい。この時、UとVの補間値は、以下に示す実施形態の処理結果に関係なく、UとVの入力画素の上下方向(垂直方向)を用い、それぞれ平均値を算出するのでもよい。この場合、画像処理装置100は、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104をY画素に対する1系統分だけ備えればよく、回路規模を縮小することができるとともに、製造コストを低減できる。
【0038】
垂直相関処理部101は、入力画像のフィールド毎に入力画素に対する上下画素間の相関値(rel_v)、入力画素に対する垂直周波数を考慮した上下相関値(rel_vv)、及び、入力画素に対する上下画素間の補間値(int_v)を各々算出し、上下画素間の相関値(rel_v)及び上下相関値(rel_vv)に基づいて垂直方向相関値(cor_v)を算出し、上下画素間の補間値(int_v)はマルチプレクサ104に出力し、垂直方向相関値(cor_v)は右斜め相関処理部102、左斜め相関処理部103及びセマルチプレクサ104に出力する。
【0039】
右斜め相関処理部102は、入力画素に対する右斜め方向画素間の相関値(rel_r[n]、nは算出する相関値の位置情報を表しており、例えば、図3を例に説明すると、n=1の場合は、補間位置に対して右に1傾いたm1[1]とp1[−1]と、補間位置に対して左に1傾いたm1[−1]とp1[1]の位置を表し、n=2の場合は、補間位置に対して右に2傾いたm1[2]とp1[−2]と、補間位置に対して左に2傾いたm1[−2]とp1[2]の位置を表す)、入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])、及び、入力画素に対する右斜め方向の補間値(int_r[n])を各々算出する。続いて、右斜め相関処理部102は、上記垂直方向相関値(cor_v)、右斜め方向画素間の相関値(rel_r[n])及び水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値(cor_r[n])を算出する。続いて、右斜め相関処理部102は、複数の右斜め方向相関値(cor_r[n])から最小の右斜め方向相関値(min_cor_r)を選択し、最小の右斜め方向相関値(min_cor_r)に基づき右斜め方向の最終補間値(int_r)を選択し、最小の右斜め方向相関値(min_cor_r)及び右斜め方向の最終補間値(int_r)及び相関位置情報(len_r)をマルチプレクサ104に出力する。また、右斜め相関処理部102は、同一の値の右斜め方向相関値(cor_r[n])が複数存在する場合は、垂直方向に近い方の右斜め方向の最終補間値(int_r)及び相関位置情報(len_r)を選択する。
【0040】
左斜め相関処理部103は、入力画素に対する左斜め方向画素間の相関値(rel_l[n]、nは中心画素に対して相関する画素を探索する方向の画素数を表す)、入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])、及び、入力画素に対する右斜め方向の補間値(int_l[n])を各々算出する。続いて、左斜め相関処理部103は、上記垂直方向相関値(cor_v)、左斜め方向画素間の相関値(rel_l[n])及び水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値(cor_l[n])を算出する。続いて、左斜め相関処理部103は、複数の左斜め方向相関値(cor_l[n])から最小の左斜め方向相関値(min_cor_l)を選択し、最小の左斜め方向相関値(min_cor_l)に基づき左斜め方向の最終補間値(int_l)を選択し、最小の左斜め方向相関値(min_cor_l)及び左斜め方向の最終補間値(int_l)及び相関位置情報(len_l)をマルチプレクサ104に出力する。また、左斜め相関処理部103は、同一の値の左斜め方向相関値(cor_l[n])が複数存在する場合は、垂直方向に近い方の左斜め方向の最終補間値(int_l)及び相関位置情報(len_l)を選択する。
【0041】
マルチプレクサ104は、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)のうち値が小さい方を第1の最小値(dia_min_cor)として選択し、第1の最小値(dia_min_cor)に基づき最終補間値(int_d)を選択する。続いて、マルチプレクサ104は、上記垂直方向相関値(cor_v)及び第1の最小値(dia_min_cor)のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づき補間値を出力する。
【0042】
次に、垂直相関処理部101において実行される垂直方向相関値算出処理について図2に示すフローチャートを参照して説明する。また、垂直方向相関値算出処理の具体例について図3及び図4を参照して説明する。
【0043】
図2において、垂直相関処理部101は、画素が入力されると(ステップS101)、その入力画素に対する上下画素間の相関値(rel_v)を算出する(ステップS102)。
【0044】
ここで、図3及び図4を参照して、上下画素間の相関値(rel_v)の具体例について説明する。図3は、入力される原画素の一例を示す図であり、中心画素m1[0],m2[0],p1[0],p2[0]に加えて左方向に2n+1、右方向に2n+1の原画素をそれぞれ5画素分配置している。ここでは、nの最大値が2である場合を示す。左方向の各行に配置された画素は、m1[−1]〜m1[−5],m2[−1]〜m2[−5],p1[−1]〜p1[−5],p2[−1]〜p2[−5]であり、右方向の各行に配置された画素は、m1[1]〜m1[5],m2[1]〜m2[5],p1[1]〜p1[5],p2[1]〜p2[5]である。この場合、左方向の各行に配置された画素には便宜上(−)を付している。また、中心画素m1[0]及びp1[0]の間に補間画素が配置されるものとする。また、図4の画素値は、m2[3],m1[1],p1[−1],p2[−3]が0、その他の画素値は100であるものとする。
【0045】
上下画素間の相関値(rel_v)は、以下の数式(1)により算出される。
rel_v=|m1[0]−p1[0]|・・・・・(1)
この数式(1)により上下画素間の相関値(rel_v)は0になる。
【0046】
図2に戻り、次いで、垂直相関処理部101は、垂直周波数を考慮した上下相関値(rel_vv)として、上下相関値(rel_vv1)と上下相関値(rel_vv2)を算出する(ステップS103)。ここで、図4において、上下相関値(rel_vv1)は、中心画素m1[0],m2[0],p1[0]の各画素値を用いて以下に示す数式(2)により算出され、上下相関値(rel_vv2)は中心画素m1[0],p1[0],p2[0]の各画素値を用いて以下に示す数式(3)により算出される。
【0047】
rel_vv1=lpf_m1[0]*2−(lpf_m2[0]+lpf_p1[0])・・・・・(2)
rel_vv2=lpf_p1[0]*2−(lpf_m1[0]+lpf_p2[0])・・・・・(3)
但し、lpf_*は、水平方向に加重平均した値であり、例えば、図4のm1ラインの場合、lpf_m1[X]=(m1[X−1]+m1[X]*2+m1[X+1])/4となる。
【0048】
rel_vv1=150−175=−25となり、rel_vv2=150−175=−25となる。ここで、min(|A|,|B|)処理を定義する。前記min(|A|,|B|)処理は、AとBの符号(±)が同じ時、AとBの絶対値が小さい方を選択し、符号(±)が異なる時、0を出力するものとする。・・・・・(定義1)
本実施形態では、すなわち、rel_vv=min(|rel_vv1|,|rel_vv2|)となり、rel_vv1とrel_vv2の符号(±)が同じ時、絶対値の小さい方が選択され、符号(±)が異なる時、rel_vv=0となる。図4の場合、rel_vv=min(|rel_vv1|,|rel_vv2|)=25となる。
【0049】
図2に戻り、次いで、垂直相関処理部101は、上下画素間の補間値(int_v)を算出する(ステップS104)。この場合、int_v=(m1[0]+p1[0])/2=100となる。
【0050】
次いで、垂直相関処理部101は、上下画素間の相関値(rel_v)と上下相関値(rel_vv)を用いて、以下の数式(4)により垂直方向相関値(cor_v)を算出する(ステップS105)。
【0051】
cor_v=rel_v−rel_vv*gain_v・・・・・(4)
但し、gain_vは、外部から設定可能なパラメータであり、以下では1として計算する。
この場合、cor_v=0−25=−25となる。
【0052】
次いで、垂直相関処理部101は、算出した垂直方向相関値(cor_v)及び上下画素間の補間値(int_v)をマルチプレクサ104に出力して、本処理を終了する。
【0053】
次に、右斜め相関処理部102において実行される右斜め方向相関値算出処理について図5に示すフローチャートを参照して説明する。なお、右斜め方向相関値算出処理の具体例については後述する。
【0054】
図5において、右斜め相関処理部102は、画素が入力されると(ステップS201)、その入力画素に対する右斜め方向画素間の相関値(rel_r[n])を算出する(ステップS202)。次いで、右斜め相関処理部102は、水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])を算出する(ステップS203)。次いで、右斜め相関処理部102は、右斜め方向の補間値(int_r[n])を算出する(ステップS204)。
【0055】
次いで、右斜め相関処理部102は、右斜め方向画素間の相関値(rel_r[n])、右斜め方向の相関値(rel_rv[n])及び垂直方向相関値(cor_v)を用いて、以下の数式(5)により、右斜め方向に探索する位置情報数[n]分のn個の右斜め方向相関値(cor_r[n])を算出する(ステップS205)。
【0056】
cor_r[n]=rel_r[n]*(2n+1)+cor_v−rel_rv[n]*gain_d・・・・・(5)
但し、gain_dは、外部から設定可能なパラメータであり、以下では1として計算する。
【0057】
次いで、右斜め相関処理部102は、n個の右斜め方向相関値(cor_r[n])の算出結果から最小の右斜め方向相関値(min_cor_r)を選択するが(ステップS206)、もし、複数の最小値が存在する場合(ステップS207:YES)、垂直方向に近い相関値の方を選択し、相関位置情報(len_r)と最小の右斜め方向相関値(min_cor_r)と最終補間値(int_r)をマルチプレクサ104に出力する(ステップS208)。
【0058】
次いで、右斜め相関処理部102は、複数の最小値が存在しない場合(ステップS207:NO)、最小の右斜め方向相関値(min_cor_r)に基づき、相関位置情報(len_r)と最小の右斜め方向相関値(min_cor_r)と最終補間値(int_r)をマルチプレクサ104に出力する(ステップS209)。
【0059】
次に、左斜め相関処理部103において実行される左斜め方向相関値算出処理について図6に示すフローチャートを参照して説明する。なお、左斜め方向相関値算出処理の具体例については後述する。
【0060】
図6において、左斜め相関処理部103は、画素が入力されると(ステップS301)、その入力画素に対する左斜め方向画素間の相関値(rel_l[n])を算出する(ステップS302)。次いで、左斜め相関処理部103は、水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])を算出する(ステップS303)。次いで、左斜め相関処理部103は、左斜め方向の補間値(int_l[n])を算出する(ステップS304)。
【0061】
次いで、左斜め相関処理部103は、左斜め方向画素間の相関値(rel_l[n])、左斜め方向の相関値(rel_lv[n])及び垂直方向相関値(cor_v)を用いて、以下の数式(6)により、左斜め方向に探索する位置情報数[n]分のn個の左斜め方向相関値(cor_l[n])を算出する(ステップS305)。
【0062】
cor_l[n]=rel_l[n]*(2n+1)+cor_v−rel_lv[n]*gain_d・・・・・(6)
但し、gain_dは、外部から設定可能なパラメータであり、以下では1として計算する。
【0063】
次いで、左斜め相関処理部103は、n個の左斜め方向相関値(cor_l[n])の算出結果から最小の左斜め方向相関値(min_cor_l)を選択するが(ステップS306)、もし、複数の最小値が存在する場合(ステップS307:YES)、垂直方向に近い相関値の方を選択し、相関位置情報(len_l)と最小の左斜め方向相関値(min_cor_l)と最終補間値(int_l)をマルチプレクサ104に出力する(ステップS308)。
【0064】
次いで、左斜め相関処理部103は、複数の最小値が存在しない場合(ステップS307:NO)、最小の右斜め方向相関値(min_cor_l)に基づき、相関位置情報(len_l)と最小の右斜め方向相関値(min_cor_l)と最終補間値(int_l)をマルチプレクサ104に出力する(ステップS309)
【0065】
次に、マルチプレクサ104において実行される補間値算出処理について図7に示すフローチャートを参照して説明する。なお、補間値算出処理の具体例については後述する。
【0066】
図7において、マルチプレクサ104は、右斜め相関処理部102及び左斜め相関処理部103から入力された最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)から最小値(dia_min_cor)を選択するが(ステップS401)、もし、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)が同一の場合(ステップS402:YES)、さらに、右斜め相関処理部102及び左斜め相関処理部103から入力された相関位置情報(len_rとlen_l)が同一か確認する(ステップS405)。この結果、同一でない場合(ステップS405:NO)、垂直方向に近い傾きの方を斜め方向の最終補間値(int_d)とする(ステップS406)。
【0067】
相関位置情報(len_rとlen_l)も同一の場合(ステップS405:YES)、右斜め方向の最終補間値(int_r)及び左斜め方向の最終補間値(int_l)の平均値を斜め方向の最終補間値(int_d)とする(ステップS407)。
【0068】
最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)の各値が同一でない場合(ステップS402:NO)、マルチプレクサ104は、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)のうち値が小さい方を第1の最小値(dia_min_cor)として選択する(ステップS402)。
【0069】
次いで、マルチプレクサ104は、垂直相関処理部101から入力された垂直相関値(cor_v)及び第1の最小値(dia_min_cor)のうち値が小さい方を最終補間方向として選択する(ステップS403)。ただし、cor_vとdia_min_corが同一の値の場合には、最終補間方向として垂直方向を選択する。
【0070】
次いで、マルチプレクサ104は、ステップS403の結果に基づき、垂直相関処理部101から入力された上下画素間の補間値(int_v)、斜め方向の最終補間値(int_d)から選択して出力する(ステップS404)。
【0071】
(具体例1)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例1について図8、図9、図10、図11を参照して説明する。図8は、右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図9は、左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図10は、右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図11は、左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。なお、図8、図9、図10、図11において、四角は相関画素を探索する範囲を示している。
【0072】
まず、図8、図9、図10、図11を参照して斜め線の傾き右1の画素配置に対して右斜め方向相関値算出処理及び左斜め方向相関値算出処理を実行する具体例を説明する。図8及び図9では、傾き右1の斜め線(原画素m1[1],m2[3],p1[−1],p2[−3])に対する右斜め方向相関値をcor_r[n]とし、左斜め方向相関値をcor_l[n]とした時、補間画素を中心とした点対称の位置にある原画素間から算出する右斜め方向画素間の相関値をrel_r[n]とし、左斜め方向画素間の相関値をrel_l[n]とする。これらの右斜め方向画素間の相関値及び左斜め方向画素間の相関値を求めている斜めの角度と平行な位置にある画素の水平・垂直周波数を考慮した右斜め方向の相関値をrel_rv[n]とし、左斜め方向の相関値をrel_lv[n]とする。この場合、右斜め方向相関値cor_r[n]及び左斜め方向相関値cor_l[n]は、補間画素を中心とした点対称の位置にある原画素から算出する右斜め方向画素間の相関値(rel_r[n])及び左斜め方向画素間の相関値(rel_l[n])に斜めの角度に応じた定数を乗算し、垂直方向相関値(cor_v)を加算し、右斜め方向相関値及び左斜め方向相関値を求めている斜めの角度と平行な位置の水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])及び左斜め方向の相関値(rel_lv[n])を減算することにより算出する。すなわち、上記数式(5)及び(6)を用いる。
【0073】
右斜め方向画素間の相関値rel_r[n],左斜め方向画素間の相関値rel_r[n]は以下に示す数式(7)及び(8)により算出される。
【0074】
rel_r[n]=|m1[n]−p1[−n]|・・・・・(7)
rel_l[n]=|m1[−n]−p1[n]|・・・・・(8)
図8及び図9の場合、n=1のため、rel_r[1]=0、rel_l[1]=0となる。
【0075】
また、水平・垂直周波数を考慮した右斜め方向の相関値rel_rv[1],rel_rv[2]は以下に示す数式(9)及び(10)により算出される。また、水平・垂直周波数を考慮した左斜め方向の相関値rel_lv[1],rel_lv[2]は以下に示す数式(11)及び(12)により算出される。ここで、xは水平方向の画素位置を表す変数で、x=0からx=2nまで算出する。例えば、n=1であればx=0、1、2となり、x=2であれば、x=0、1、2、3、4となる。
【0076】
rel_rv1[x]=lpf_m1[x]*2−(lpf_m2[x]+lpf_p1[x])・・・・・(9)
rel_rv2[x]=lpf_p1[x−2n]*2−(lpf_m1[x−2n]+lpf_p2[x−2n])・・・・・(10)
rel_lv1[x]=lpf_m1[−x]*2−(lpf_m2[−x]+lpf_p1[−x])・・・・・(11)
rel_lv2[x]=lpf_p1[−x+2n]*2−(lpf_m1[−x+2n]+lpf_p2[−x+2n])・・・・・(12)
【0077】
図8は、本実施形態のn=1(cor_r[1])の場合で、(定義1)に基づき、以下に示す数式(13)によりrel_rv[1]を算出する。
【数1】
【0078】
図9は、本実施形態のn=1(cor_l[1])の場合で、(定義1)に基づき、以下に示す数式(14)によりrel_lv[1]を算出する。
【数2】
【0079】
上記数式(7)〜(14)を上記数式(5)及び(6)に適用してcor_r[1]及びcor_l[1]を算出すると、以下の結果になる。
cor_r[1]=0*3+(−25)−(25+100+25)=−175
cor_l[1]=0*3+(−25)−(0+50+0)=−75
【0080】
したがって、図8及び図9に示した傾き右1の斜め線に対する右斜め方向相関値cor_r[1]は−175となり、左斜め方向相関値cor_l[1]は−75となる。
【0081】
図10は、本実施形態のn=2(cor_r[2])の場合で、(定義1)に基づき、以下に示す数式(15)によりrel_rv[2]を算出する。
【数3】
【0082】
図11は、本実施形態のn=2(cor_l[2])の場合で、(定義1)に基づき、以下に示す数式(16)によりrel_lv[2]を算出する。
【数4】
【0083】
上記数式(7)〜(12)、(15)、(16)を上記数式(5)及び(6)に適用してcor_r[2]及びcor_l[2]を算出すると、以下の結果になる。
cor_r[2]=0*5+(−25)−(0+0+25+0+0)=−50
cor_l[2]=0*5+(−25)−(0+0+25+0+0)=−50
【0084】
したがって、図10及び図11に示した傾き右1の斜め線に対する右斜め方向相関値cor_r[2]は−50となり、左斜め方向相関値cor_l[2]は−50となる。したがって、cor_v=−25、cor_r[1]=−175、cor_l[1]=−75、cor_r[2]=−50、cor_l[2]=−50となり、最終相関値はcor_r[1]の−175となり、補間値はcor_r[1]で求めた方向の画素の組の平均値(m1[1]+p1[−1])/2=0となり、ジャギーレスの補間値が得られる。
【0085】
(具体例2)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例2について図12〜図15を参照して説明する。図12は、右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図13は、左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図14は、右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図15は、左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。なお、図12〜図15において、四角は相関画素を探索する範囲を示している。
【0086】
本具体例2では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=0−0=0
cor_r[1]=0*3+0−(0+50+0)=−50
cor_l[1]=0*3+0−(0+25+0)=−25
cor_r[2]=0*3+0−(0+50+100+50+0)=−200
cor_l[2]=0*3+0−(0+25+50+25+0)=−100
【0087】
以上の結果により、cor_v=0、cor_r[1]=−50、cor_l[1]=−25、cor_r[2]=−200、cor_l[2]=−100となり、最終相関値はcor_r[2]の−200となり、補間値はcor_r[2]で求めた方向の画素の組の平均値(m1[2]+p1[−2])/2=0となり、ジャギーレスの補間値が得られる。
【0088】
(具体例3)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例3について図16〜図19を参照して説明する。図16は、右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図17は、左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図18は、右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図19は、左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。なお、図16〜図19において、四角は相関画素を探索する範囲を示している。
【0089】
本具体例3では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=100−0=100
cor_r[1]=0*3+100−(0+0+0)=100
cor_l[1]=100*3+100−(0+0+0)=400
cor_r[2]=100*3+100−(0+0+0+0+0)=400
cor_l[2]=100*3+100−(0+0+0+0+0)=400
【0090】
以上の結果により、cor_v=100と斜め方向の最小相関値cor_r[1]=100が同一である場合は、垂直方向相関値(cor_v)を優先して選択し、最終相関値は垂直方向相関値(cor_v)となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、理想的な補間値が得られる。
【0091】
(具体例4)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例4について図20〜図23を参照して説明する。図20は、右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図21は、左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図22は、右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図23は、左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。なお、図20〜図23において、四角は相関画素を探索する範囲を示している。
【0092】
本具体例4では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=100−0=100
cor_r[1]=0*3+100−(0+0+0)=100
cor_l[1]=100*3+100−(0+0+0)=400
cor_r[2]=0*3+100−(0+0+0+0+0)=100
cor_l[2]=100*3+100−(0+0+0+0+0)=400
【0093】
以上の結果により、cor_v=100と斜め方向の最小相関値cor_r[1]=100及びcor_r[2]=100が同一であるため、垂直方向相関値(cor_v)を優先して選択し、最終相関値は垂直方向相関値(cor_v)となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、理想的な補間値が得られる。
【0094】
(具体例5)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例5について図24〜図27を参照して説明する。図24は、右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図25は、左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図26は、右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図27は、左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。なお、図24〜図27において、四角は相関画素を探索する範囲を示している。
【0095】
本具体例5では、上記具体例1で説明した数式(5)〜(20)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=0−0=0
cor_r[1]=100*3+0−(0+0+0)=300
cor_l[1]=100*3+0−(0+0+0)=300
cor_r[2]=100*3+0−(0+0+0+0+0)=300
cor_l[2]=100*3+0−(0+0+0+0+0)=300
【0096】
以上の結果により、最終相関値は垂直方向相関値cor_v=0となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、ジャギーレスの補間値が得られる。
【0097】
上記具体例1と具体例2、及び同様の処理結果により斜め線(傾き右1)を補間した結果を図28に示す。本実施形態の右斜め方向相関値算出処理及び左斜め方向相関値算出処理を斜め線(傾き右1)に適用して補間画素を生成することにより、ジャギーレスの斜め線補間が可能になる。また、上記具体例3、具体例4、具体例5、及び同様の処理結果により十字線を補間した結果を図29に示す。本実施形態の右斜め方向相関値算出処理及び左斜め方向相関値算出処理を十字線に適用して補間画素を生成することにより、十字線に対しても理想的な補間が可能になる。したがって、本実施形態の画像処理装置100によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができる。
【0098】
ここまでは、n=1、n=2までを例に説明してきたが、n=3以上に拡張する場合は、(1)〜(12)、(17)、(18)を使用すればよい。
【数5】
【数6】
【0099】
次に、上記画像処理装置100を利用した液晶表示装置の一例について図30を参照して説明する。図30において、液晶表示装置200は、画像処理装置100と液晶パネル201により構成される。画像処理装置100は、上述の図1に示したものと同一である。液晶パネル201は、薄膜トランジスタ(以下、TFTという)基板、TFT基板に対向して結合されるカラーフィルタ基板及び両基板の間に介在されて液晶等を含む。液晶パネル201は、画像処理装置100からフレーム毎に入力される補間画素により画像を表示する。液晶パネル201の解像度が、入力されるフルハイビジョン画像の縦横2倍である場合、画像処理装置100は、入力されるフルハイビジョン画像を縦横2倍に拡大するように上記画像補間処理を実行する。これにより、拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。なお、本実施の形態では、画像処理装置を液晶表示装置に用いた場合を示したが、液晶表示装置に限定するものではなく、例えば、PDP、有機ELなどの表示装置にも適用可能である。
【0100】
なお、上記実施形態では、画像処理装置100は、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104を、Y画素など1系統分だけ備える構成例を示したが、この構成に限定するものではなく、RGBの画素毎に補間画素を生成するように、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104を3系統備えるようにしてもよい。
【符号の説明】
【0101】
100…画像処理装置
101…垂直方向相関処理部
102…右斜め相関処理部
103…左斜め相関処理部
104…マルチプレクサ
200…液晶表示装置
201…液晶パネル
【技術分野】
【0001】
本発明は、入力された画像を拡大処理し、液晶、PDP、有機ELなどのパネルに表示する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
近年、画像の高解像化に伴い、表示装置(液晶、PDP、有機ELなど)の表示解像度も高くなっている。但し、ハイビジョン放送などにより放送されるテレビ信号(インターレース信号)等の入力画像は、表示装置の表示解像度に合っていない場合があり、表示装置内で入力画像の解像度を表示解像度まで拡大する必要がある。
【0003】
しかし、単純に線形補間等の手法で拡大処理してしまうと、輪郭にぼやけが生じたり、斜め線でジャギーが発生したりしてしまう。そこで、入力画像を縦横に拡大する際に、インターレース・プログレッシブ変換(IP変換)時に用いるフレーム内補間処理を、縦方向及び横方向に適用することにより、斜め方向のエッジが滑らかな補間画素を生成することが可能となる。
【0004】
I/P変換とは、インターレース信号において間引かれている走査線を、各フィールドの情報をそれぞれ用いて補間信号を生成し、プログレッシブ信号に変換するものである。一般に、インターレース方式の画像をプログレッシブ方式の画像に変換する場合、インターレース画像が静止画像である場合には、一方のフィールド走査線を隣接する他方のフィールド走査線の間にはめ込むことにより補間走査線(以下、補間ラインという)を生成するフィールド間補間が行われ、またインターレース画像が動画像である場合には、同一フィールド内の隣接走査線上の画素を用いて補間ラインを生成するフィールド内補間が行われる。
【0005】
フィールド内の補間処理でインターレースnラインとインターレースn+1ライン間に補間ラインを生成するにあたっては、補間ライン上の画素Aとして、その上下の走査線n,n+1上の画素U,Dを加算して平均値(=(U+D)/2)を得る方法が簡単である。しかしながら、この上下方向の補間方法を適用した場合、絵柄によっては斜め線がギザギザして見える、いわゆるジャギーが目立つ画像となる場合がある。
【0006】
また、インターレース画像をプログレッシブ画像に変換する技術として、動き適応型プログレッシブ変換がある。この技術は、画素単位もしくは画素ブロック単位で動き検出を行い、フィールド内補間処理結果とフィールド間補間処理結果を、動き検出結果に応じた混合比で混合処理する、という技術である。動き検出としては、1フレーム間の同一位置の画素同士の信号レベルの差分等から推定する。
【0007】
しかし、動き適応型プログレッシブ変換処理では、フィールド内補間処理として上下画素平均値を使用すると、垂直方向の解像感が低くなり、斜め線がギザギザに見える問題がある。一方、このような問題を解決する方法として、斜め補間という方法が知られている。斜め補間処理は、補間画素Aを生成するにあたり、その上下の走査線n,n+1から、補間ライン上の画素Aを中心として点対称となる画素のペアを一組選択し、そのペアの画素値の平均値を補間画素値として用いる方法である。
【0008】
補間方向の選択の方法の例として、ペアの画素間の絶対差分値が最小のものを使用する方法がある。例えば、補間しようとしている画素を中心とする上下及び斜め方向の一対の画素間の差分をとり、多数の斜め差分信号を用いて、斜め相関の高い方向を判定し、補間画素を作成するものである。斜め補間に関する従来技術としては、例えば、特許文献1、特許文献2に記載のものがある。
【0009】
以上を踏まえて、拡大処理を行なうと、例えば、縦方向に2倍にする場合、まず、補間画素位置を挟むようにした上下の複数ラインから、補間画素位置を中心とした周辺画素を用いて相関値を計算する。次に、その相関値から最適な補間方向を選択し、その補間方向から補間画素値を生成する。これによって、斜め方向に関してはジャギーがなくなる。
【0010】
また、I/P変換で用いられるフィールド内補間処理(縦方向を2倍にする処理)する従来技術として、例えば、特許文献3、特許文献4に記載のものがある。特許文献3に記載された順次走査変換装置では、垂直、斜め方向の相関を算出し、最も相関が高い方向で画素を補間することが提案されている。この順次走査変換装置において実行される補間画素生成処理について図31〜図33を参照して説明する。
【0011】
図31において、補間画素pは、原ライン(yライン)及び原ライン(y+1ライン)の画素間a−n、b−m、c−l、d−k、e−j、f−i、g−hの差分を求め、これらの画素間の差分のうち最小値の画素の組に基づいて補間画素を生成している。但し、最小値の画素の組が複数存在した場合には、相関する画素の方向を特定できないため、既に処理が終了している隣接画素の補間画素の方向を参照して補間画素の方向を決定している。例えば、図32に示すような斜め線の入力の場合、図中の画素p3の補間値は、画素の組c−l、e−jなどから算出するが、これらの相関値は同じ値(=0)になり、この情報だけでは画素の組を決定できないため、隣接画素p2の補間方向の結果(d−i)を参照し、相関画素としてe−jを選択するようにしている。
【0012】
しかし、この順次走査変換装置では、図33に示すような十字線の画像が入力された場合、補間画素のp0〜p6には誤補間が生じてしまう。すなわち、十字線のように直線が直交している場合には、図中に矢印で示す斜め方向の画素に対する相関が高くなるため、本来、垂直方向に対する補間が望ましい場合にも、斜め方向に画素を補間してしまうという問題がある。
【0013】
一方、特許文献4に記載された走査線変換装置では、十字線に強い補間方式が提案されている。この走査線変換装置において実行される補間画素生成処理について図34及び図35を参照して説明する。例えば、図34に示すような十字線の入力画像に対して、図35に示すような理想的な補間が行われている。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開2003−230109号公報
【特許文献2】特開2009−77293号公報
【特許文献3】特開8−163511号公報
【特許文献4】特開2003−230109号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
しかし、上記特許文献4に記載された走査線変換装置では、図36に示すような斜め線の画像が入力された場合、補間画素xには画素N、E、c、hと同じ色の補間値が期待されることに対して、垂直方向(画素D−d方向)が最も高いと判定し、(D+d)/2=100の値が出力されて、斜め線がギザギザに見える問題が発生する。すなわち、特許文献4に記載された走査線変換装置では、十字線に対する補間性能と斜め線に対する補間性能を両立することは困難であった。このことは、上記特許文献3に記載された順次走査変換装置においても同様である。
【0016】
本発明は、上記の問題に鑑み、斜め線の画素補間性能と十字線の画素補間性能を両立する画像処理装置及び画像処理方法提供することを目的とする。
【課題を解決するための手段】
【0017】
本願発明の一実施形態に係る画像処理装置は、入力画像の拡大処理を実行する画像処理装置であって、前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力する垂直相関処理部と、前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づいて選択された右斜め方向の最終補間値を出力する右斜め方向相関処理部と、前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づいて選択された左斜め方向の最終補間値を出力する左斜め方向相関処理部と、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記第1の最小値に基づいて斜め方向の最終補間値を選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向基づいて前記入力画素に対する補間値を選択する補間値算出処理部と、を備えることを特徴とする。この画像処理装置によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。
【0018】
また、前記垂直相関処理部は、前記上下画素間の相関値から前記上下相関値を減算して前記垂直方向相関値を算出してもよい。この画像処理装置によれば、原画像に対する垂直方向相関値の精度よく算出することができる。
【0019】
また、前記右斜め方向相関処理部は、前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出してもよい。この画像処理装置によれば、原画像に対する右斜め方向の補間値を精度良く算出することができる。
【0020】
また、前記左斜め方向相関処理部は、前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出してもよい。この画像処理装置によれば、原画像に対する左斜め方向の補間値を精度良く算出することができる。
【0021】
また、前記右斜め方向相関処理部は、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき、前記右斜め方向の最終補間値を選択してもよい。
【0022】
また、前記左斜め方向相関処理部は、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき、前記右斜め方向の最終補間値を選択してもよい。
【0023】
また、前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、垂直方向に近い斜め方向の補間値を選択してもよい。前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を補間値としてもよい。前記垂直相関値と、前記最小の右斜め方向相関値、もしくは前記最小の左斜め方向相関値が同一の場合、垂直方向の補間値を選択してもよい。
【0024】
本発明の一実施の形態に係る画像処理方法は、入力画像の拡大処理を実行する画像処理方法において、前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力し、前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力し、前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力し、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づいて補間値を出力すること、を含むことを特徴とする。この画像処理方法によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。
【0025】
また、前記垂直方向相関値は、前記上下画素間の相関値から前記上下相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する垂直方向相関値の精度よく算出することができる。
【0026】
また、前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する右斜め方向の補間値を精度良く算出することができる。
【0027】
また、前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出してもよい。この画像処理方法によれば、原画像に対する左斜め方向の補間値を精度良く算出することができる。
【0028】
また、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき最終補間値を選択してもよい。
【0029】
また、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき最終補間値を選択してもよい。
【0030】
また、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、垂直方向に近い斜め方向の補間値を選択してもよい。前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を補間値としてもよい。前記垂直相関値と、前記最小の右斜め方向相関値、もしくは前記最小の左斜め方向相関値が同一の場合、垂直方向の補間値を選択してもよい。
【発明の効果】
【0031】
本発明によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができ、画像拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示を可能にする画素補間処理を実現する画像処理装置及び画像処理方法を提供することができる。
【図面の簡単な説明】
【0032】
【図1】本発明の一実施形態に係る画像処理装置の構成を示すブロック図である。
【図2】図1の垂直相関処理部において実行される垂直方向相関値算出処理の一例を示すフローチャートである。
【図3】入力される原画素の一例を示す図である。
【図4】垂直方向相関値算出処理の対象となる画素の一例を示す図である。
【図5】図1の右斜め相関処理部において実行される右斜め方向相関値算出処理の一例を示すフローチャートである。
【図6】図1の左斜め相関処理部において実行される左斜め方向相関値算出処理の一例を示すフローチャートである。
【図7】図1のマルチプレクサにおいて実行される補間値算出処理の一例を示すフローチャートである。
【図8】具体例1に係る右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図9】具体例1に係る左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図10】具体例1に係る右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図11】具体例1に係る左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。
【図12】具体例2に係る右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図13】具体例2に係る左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図14】具体例2に係る右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図15】具体例2に係る左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。
【図16】具体例3に係る右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図17】具体例3に係る左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図18】具体例3に係る右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図19】具体例3に係る左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。
【図20】具体例4に係る右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図21】具体例4に係る左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図22】具体例4に係る右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図23】具体例4に係る左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。
【図24】具体例5に係る右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図25】具体例5に係る左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図26】具体例5に係る右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図27】具体例5に係る左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。
【図28】具体例1により斜め線(傾き右1)を補間した結果を示す図である。
【図29】具体例3により十字線を補間した結果を示す図である。
【図30】図1の画像処理装置を利用した液晶表示装置の概略構成を示すブロック図である。
【図31】従来のフィールド内補間処理の一例を示す図である。
【図32】従来の斜め線の入力に対する画素補間処理の一例を示す図である。
【図33】従来の十字線の入力に対する画素補間処理の一例を示す図である。
【図34】従来の十字線の入力に対する画素補間処理の一例を示す図である。
【図35】図34の十字線の入力に対する画素補間処理の結果を示す図である。
【図36】従来の斜め線の入力に対する画素補間処理の一例を示す図である。
【発明を実施するための形態】
【0033】
(発明に至る経緯)
2011年7月、現行の地上アナログ放送がデジタル放送に完全移行されることに伴い、放送画質も現行のスタンダード画質からハイビジョン画質への高画質化が本格化する。そのハイビジョンの更なる高画質化を目指して、NHK放送技術研究所(以下、NHK技研)では、スーパーハイビジョン(以下、SHV)放送の実用化へ向けた研究開発が進められている。SHVとは、次世代テレビ向けフォーマットであり、7680×4320画素の解像度を持つ超高精細映像のことである。これは、縦横共に現行のフルハイビジョンの4倍で、計16倍の解像度となる。そこで、SHV放送の実用化を想定し、SHVに対応した表示装置が必要となる。また、これに伴って地上デジタル放送でSHVを放送ないし受信するための技術も開発中である。
【0034】
しかし、伝送容量を拡大するための技術の向上の必要性や、電波の送受信のためのアンテナも専用のものが必要になるなど、すぐに地上波放送で導入することは難しい。このため、全ての放送が完全にSHV放送へ移行することは未だ困難であり、過渡期にはフルハイビジョン放送である状況が続くことが予想される。したがって、表示装置が放送フォーマットより高解像度の場合は、表示装置に合わせた映像の拡大処理が必要になる。
【0035】
このような背景のもと、拡大処理を行なっても原画像の品質を保持した状態で高品位な表示が可能となるような画像の補間処理技術が求められる。
【0036】
以下、図面を参照して本発明に係る画像処理装置について説明する。ただし、本発明の装置は多くの異なる態様で実施することが可能であり、以下に示す多数の実施の形態の記載内容に限定して解釈されるものではない。
【0037】
図1は、本発明の一実施形態に係る画像処理装置の構成を示すブロック図である。図1において、画像処理装置100は、垂直相関処理部101と、右斜め相関処理部102と、左斜め相関処理部103と、マルチプレクサ(補間値算出処理部)104と、を有する。画像処理装置100は、RGB画素をYUV画素に変換し、Y画素を入力画素として補間画素を生成する処理を実行してもよい。この時、UとVの補間値は、以下に示す実施形態の処理結果に関係なく、UとVの入力画素の上下方向(垂直方向)を用い、それぞれ平均値を算出するのでもよい。この場合、画像処理装置100は、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104をY画素に対する1系統分だけ備えればよく、回路規模を縮小することができるとともに、製造コストを低減できる。
【0038】
垂直相関処理部101は、入力画像のフィールド毎に入力画素に対する上下画素間の相関値(rel_v)、入力画素に対する垂直周波数を考慮した上下相関値(rel_vv)、及び、入力画素に対する上下画素間の補間値(int_v)を各々算出し、上下画素間の相関値(rel_v)及び上下相関値(rel_vv)に基づいて垂直方向相関値(cor_v)を算出し、上下画素間の補間値(int_v)はマルチプレクサ104に出力し、垂直方向相関値(cor_v)は右斜め相関処理部102、左斜め相関処理部103及びセマルチプレクサ104に出力する。
【0039】
右斜め相関処理部102は、入力画素に対する右斜め方向画素間の相関値(rel_r[n]、nは算出する相関値の位置情報を表しており、例えば、図3を例に説明すると、n=1の場合は、補間位置に対して右に1傾いたm1[1]とp1[−1]と、補間位置に対して左に1傾いたm1[−1]とp1[1]の位置を表し、n=2の場合は、補間位置に対して右に2傾いたm1[2]とp1[−2]と、補間位置に対して左に2傾いたm1[−2]とp1[2]の位置を表す)、入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])、及び、入力画素に対する右斜め方向の補間値(int_r[n])を各々算出する。続いて、右斜め相関処理部102は、上記垂直方向相関値(cor_v)、右斜め方向画素間の相関値(rel_r[n])及び水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値(cor_r[n])を算出する。続いて、右斜め相関処理部102は、複数の右斜め方向相関値(cor_r[n])から最小の右斜め方向相関値(min_cor_r)を選択し、最小の右斜め方向相関値(min_cor_r)に基づき右斜め方向の最終補間値(int_r)を選択し、最小の右斜め方向相関値(min_cor_r)及び右斜め方向の最終補間値(int_r)及び相関位置情報(len_r)をマルチプレクサ104に出力する。また、右斜め相関処理部102は、同一の値の右斜め方向相関値(cor_r[n])が複数存在する場合は、垂直方向に近い方の右斜め方向の最終補間値(int_r)及び相関位置情報(len_r)を選択する。
【0040】
左斜め相関処理部103は、入力画素に対する左斜め方向画素間の相関値(rel_l[n]、nは中心画素に対して相関する画素を探索する方向の画素数を表す)、入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])、及び、入力画素に対する右斜め方向の補間値(int_l[n])を各々算出する。続いて、左斜め相関処理部103は、上記垂直方向相関値(cor_v)、左斜め方向画素間の相関値(rel_l[n])及び水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値(cor_l[n])を算出する。続いて、左斜め相関処理部103は、複数の左斜め方向相関値(cor_l[n])から最小の左斜め方向相関値(min_cor_l)を選択し、最小の左斜め方向相関値(min_cor_l)に基づき左斜め方向の最終補間値(int_l)を選択し、最小の左斜め方向相関値(min_cor_l)及び左斜め方向の最終補間値(int_l)及び相関位置情報(len_l)をマルチプレクサ104に出力する。また、左斜め相関処理部103は、同一の値の左斜め方向相関値(cor_l[n])が複数存在する場合は、垂直方向に近い方の左斜め方向の最終補間値(int_l)及び相関位置情報(len_l)を選択する。
【0041】
マルチプレクサ104は、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)のうち値が小さい方を第1の最小値(dia_min_cor)として選択し、第1の最小値(dia_min_cor)に基づき最終補間値(int_d)を選択する。続いて、マルチプレクサ104は、上記垂直方向相関値(cor_v)及び第1の最小値(dia_min_cor)のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づき補間値を出力する。
【0042】
次に、垂直相関処理部101において実行される垂直方向相関値算出処理について図2に示すフローチャートを参照して説明する。また、垂直方向相関値算出処理の具体例について図3及び図4を参照して説明する。
【0043】
図2において、垂直相関処理部101は、画素が入力されると(ステップS101)、その入力画素に対する上下画素間の相関値(rel_v)を算出する(ステップS102)。
【0044】
ここで、図3及び図4を参照して、上下画素間の相関値(rel_v)の具体例について説明する。図3は、入力される原画素の一例を示す図であり、中心画素m1[0],m2[0],p1[0],p2[0]に加えて左方向に2n+1、右方向に2n+1の原画素をそれぞれ5画素分配置している。ここでは、nの最大値が2である場合を示す。左方向の各行に配置された画素は、m1[−1]〜m1[−5],m2[−1]〜m2[−5],p1[−1]〜p1[−5],p2[−1]〜p2[−5]であり、右方向の各行に配置された画素は、m1[1]〜m1[5],m2[1]〜m2[5],p1[1]〜p1[5],p2[1]〜p2[5]である。この場合、左方向の各行に配置された画素には便宜上(−)を付している。また、中心画素m1[0]及びp1[0]の間に補間画素が配置されるものとする。また、図4の画素値は、m2[3],m1[1],p1[−1],p2[−3]が0、その他の画素値は100であるものとする。
【0045】
上下画素間の相関値(rel_v)は、以下の数式(1)により算出される。
rel_v=|m1[0]−p1[0]|・・・・・(1)
この数式(1)により上下画素間の相関値(rel_v)は0になる。
【0046】
図2に戻り、次いで、垂直相関処理部101は、垂直周波数を考慮した上下相関値(rel_vv)として、上下相関値(rel_vv1)と上下相関値(rel_vv2)を算出する(ステップS103)。ここで、図4において、上下相関値(rel_vv1)は、中心画素m1[0],m2[0],p1[0]の各画素値を用いて以下に示す数式(2)により算出され、上下相関値(rel_vv2)は中心画素m1[0],p1[0],p2[0]の各画素値を用いて以下に示す数式(3)により算出される。
【0047】
rel_vv1=lpf_m1[0]*2−(lpf_m2[0]+lpf_p1[0])・・・・・(2)
rel_vv2=lpf_p1[0]*2−(lpf_m1[0]+lpf_p2[0])・・・・・(3)
但し、lpf_*は、水平方向に加重平均した値であり、例えば、図4のm1ラインの場合、lpf_m1[X]=(m1[X−1]+m1[X]*2+m1[X+1])/4となる。
【0048】
rel_vv1=150−175=−25となり、rel_vv2=150−175=−25となる。ここで、min(|A|,|B|)処理を定義する。前記min(|A|,|B|)処理は、AとBの符号(±)が同じ時、AとBの絶対値が小さい方を選択し、符号(±)が異なる時、0を出力するものとする。・・・・・(定義1)
本実施形態では、すなわち、rel_vv=min(|rel_vv1|,|rel_vv2|)となり、rel_vv1とrel_vv2の符号(±)が同じ時、絶対値の小さい方が選択され、符号(±)が異なる時、rel_vv=0となる。図4の場合、rel_vv=min(|rel_vv1|,|rel_vv2|)=25となる。
【0049】
図2に戻り、次いで、垂直相関処理部101は、上下画素間の補間値(int_v)を算出する(ステップS104)。この場合、int_v=(m1[0]+p1[0])/2=100となる。
【0050】
次いで、垂直相関処理部101は、上下画素間の相関値(rel_v)と上下相関値(rel_vv)を用いて、以下の数式(4)により垂直方向相関値(cor_v)を算出する(ステップS105)。
【0051】
cor_v=rel_v−rel_vv*gain_v・・・・・(4)
但し、gain_vは、外部から設定可能なパラメータであり、以下では1として計算する。
この場合、cor_v=0−25=−25となる。
【0052】
次いで、垂直相関処理部101は、算出した垂直方向相関値(cor_v)及び上下画素間の補間値(int_v)をマルチプレクサ104に出力して、本処理を終了する。
【0053】
次に、右斜め相関処理部102において実行される右斜め方向相関値算出処理について図5に示すフローチャートを参照して説明する。なお、右斜め方向相関値算出処理の具体例については後述する。
【0054】
図5において、右斜め相関処理部102は、画素が入力されると(ステップS201)、その入力画素に対する右斜め方向画素間の相関値(rel_r[n])を算出する(ステップS202)。次いで、右斜め相関処理部102は、水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])を算出する(ステップS203)。次いで、右斜め相関処理部102は、右斜め方向の補間値(int_r[n])を算出する(ステップS204)。
【0055】
次いで、右斜め相関処理部102は、右斜め方向画素間の相関値(rel_r[n])、右斜め方向の相関値(rel_rv[n])及び垂直方向相関値(cor_v)を用いて、以下の数式(5)により、右斜め方向に探索する位置情報数[n]分のn個の右斜め方向相関値(cor_r[n])を算出する(ステップS205)。
【0056】
cor_r[n]=rel_r[n]*(2n+1)+cor_v−rel_rv[n]*gain_d・・・・・(5)
但し、gain_dは、外部から設定可能なパラメータであり、以下では1として計算する。
【0057】
次いで、右斜め相関処理部102は、n個の右斜め方向相関値(cor_r[n])の算出結果から最小の右斜め方向相関値(min_cor_r)を選択するが(ステップS206)、もし、複数の最小値が存在する場合(ステップS207:YES)、垂直方向に近い相関値の方を選択し、相関位置情報(len_r)と最小の右斜め方向相関値(min_cor_r)と最終補間値(int_r)をマルチプレクサ104に出力する(ステップS208)。
【0058】
次いで、右斜め相関処理部102は、複数の最小値が存在しない場合(ステップS207:NO)、最小の右斜め方向相関値(min_cor_r)に基づき、相関位置情報(len_r)と最小の右斜め方向相関値(min_cor_r)と最終補間値(int_r)をマルチプレクサ104に出力する(ステップS209)。
【0059】
次に、左斜め相関処理部103において実行される左斜め方向相関値算出処理について図6に示すフローチャートを参照して説明する。なお、左斜め方向相関値算出処理の具体例については後述する。
【0060】
図6において、左斜め相関処理部103は、画素が入力されると(ステップS301)、その入力画素に対する左斜め方向画素間の相関値(rel_l[n])を算出する(ステップS302)。次いで、左斜め相関処理部103は、水平・垂直周波数を考慮した左斜め方向の相関値(rel_lv[n])を算出する(ステップS303)。次いで、左斜め相関処理部103は、左斜め方向の補間値(int_l[n])を算出する(ステップS304)。
【0061】
次いで、左斜め相関処理部103は、左斜め方向画素間の相関値(rel_l[n])、左斜め方向の相関値(rel_lv[n])及び垂直方向相関値(cor_v)を用いて、以下の数式(6)により、左斜め方向に探索する位置情報数[n]分のn個の左斜め方向相関値(cor_l[n])を算出する(ステップS305)。
【0062】
cor_l[n]=rel_l[n]*(2n+1)+cor_v−rel_lv[n]*gain_d・・・・・(6)
但し、gain_dは、外部から設定可能なパラメータであり、以下では1として計算する。
【0063】
次いで、左斜め相関処理部103は、n個の左斜め方向相関値(cor_l[n])の算出結果から最小の左斜め方向相関値(min_cor_l)を選択するが(ステップS306)、もし、複数の最小値が存在する場合(ステップS307:YES)、垂直方向に近い相関値の方を選択し、相関位置情報(len_l)と最小の左斜め方向相関値(min_cor_l)と最終補間値(int_l)をマルチプレクサ104に出力する(ステップS308)。
【0064】
次いで、左斜め相関処理部103は、複数の最小値が存在しない場合(ステップS307:NO)、最小の右斜め方向相関値(min_cor_l)に基づき、相関位置情報(len_l)と最小の右斜め方向相関値(min_cor_l)と最終補間値(int_l)をマルチプレクサ104に出力する(ステップS309)
【0065】
次に、マルチプレクサ104において実行される補間値算出処理について図7に示すフローチャートを参照して説明する。なお、補間値算出処理の具体例については後述する。
【0066】
図7において、マルチプレクサ104は、右斜め相関処理部102及び左斜め相関処理部103から入力された最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)から最小値(dia_min_cor)を選択するが(ステップS401)、もし、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)が同一の場合(ステップS402:YES)、さらに、右斜め相関処理部102及び左斜め相関処理部103から入力された相関位置情報(len_rとlen_l)が同一か確認する(ステップS405)。この結果、同一でない場合(ステップS405:NO)、垂直方向に近い傾きの方を斜め方向の最終補間値(int_d)とする(ステップS406)。
【0067】
相関位置情報(len_rとlen_l)も同一の場合(ステップS405:YES)、右斜め方向の最終補間値(int_r)及び左斜め方向の最終補間値(int_l)の平均値を斜め方向の最終補間値(int_d)とする(ステップS407)。
【0068】
最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)の各値が同一でない場合(ステップS402:NO)、マルチプレクサ104は、最小の右斜め方向相関値(min_cor_r)及び最小の左斜め方向相関値(min_cor_l)のうち値が小さい方を第1の最小値(dia_min_cor)として選択する(ステップS402)。
【0069】
次いで、マルチプレクサ104は、垂直相関処理部101から入力された垂直相関値(cor_v)及び第1の最小値(dia_min_cor)のうち値が小さい方を最終補間方向として選択する(ステップS403)。ただし、cor_vとdia_min_corが同一の値の場合には、最終補間方向として垂直方向を選択する。
【0070】
次いで、マルチプレクサ104は、ステップS403の結果に基づき、垂直相関処理部101から入力された上下画素間の補間値(int_v)、斜め方向の最終補間値(int_d)から選択して出力する(ステップS404)。
【0071】
(具体例1)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例1について図8、図9、図10、図11を参照して説明する。図8は、右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図9は、左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図10は、右斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。図11は、左斜め方向相関値算出処理を適用する斜め線の傾き右1の画素配置の一例を示す図である。なお、図8、図9、図10、図11において、四角は相関画素を探索する範囲を示している。
【0072】
まず、図8、図9、図10、図11を参照して斜め線の傾き右1の画素配置に対して右斜め方向相関値算出処理及び左斜め方向相関値算出処理を実行する具体例を説明する。図8及び図9では、傾き右1の斜め線(原画素m1[1],m2[3],p1[−1],p2[−3])に対する右斜め方向相関値をcor_r[n]とし、左斜め方向相関値をcor_l[n]とした時、補間画素を中心とした点対称の位置にある原画素間から算出する右斜め方向画素間の相関値をrel_r[n]とし、左斜め方向画素間の相関値をrel_l[n]とする。これらの右斜め方向画素間の相関値及び左斜め方向画素間の相関値を求めている斜めの角度と平行な位置にある画素の水平・垂直周波数を考慮した右斜め方向の相関値をrel_rv[n]とし、左斜め方向の相関値をrel_lv[n]とする。この場合、右斜め方向相関値cor_r[n]及び左斜め方向相関値cor_l[n]は、補間画素を中心とした点対称の位置にある原画素から算出する右斜め方向画素間の相関値(rel_r[n])及び左斜め方向画素間の相関値(rel_l[n])に斜めの角度に応じた定数を乗算し、垂直方向相関値(cor_v)を加算し、右斜め方向相関値及び左斜め方向相関値を求めている斜めの角度と平行な位置の水平・垂直周波数を考慮した右斜め方向の相関値(rel_rv[n])及び左斜め方向の相関値(rel_lv[n])を減算することにより算出する。すなわち、上記数式(5)及び(6)を用いる。
【0073】
右斜め方向画素間の相関値rel_r[n],左斜め方向画素間の相関値rel_r[n]は以下に示す数式(7)及び(8)により算出される。
【0074】
rel_r[n]=|m1[n]−p1[−n]|・・・・・(7)
rel_l[n]=|m1[−n]−p1[n]|・・・・・(8)
図8及び図9の場合、n=1のため、rel_r[1]=0、rel_l[1]=0となる。
【0075】
また、水平・垂直周波数を考慮した右斜め方向の相関値rel_rv[1],rel_rv[2]は以下に示す数式(9)及び(10)により算出される。また、水平・垂直周波数を考慮した左斜め方向の相関値rel_lv[1],rel_lv[2]は以下に示す数式(11)及び(12)により算出される。ここで、xは水平方向の画素位置を表す変数で、x=0からx=2nまで算出する。例えば、n=1であればx=0、1、2となり、x=2であれば、x=0、1、2、3、4となる。
【0076】
rel_rv1[x]=lpf_m1[x]*2−(lpf_m2[x]+lpf_p1[x])・・・・・(9)
rel_rv2[x]=lpf_p1[x−2n]*2−(lpf_m1[x−2n]+lpf_p2[x−2n])・・・・・(10)
rel_lv1[x]=lpf_m1[−x]*2−(lpf_m2[−x]+lpf_p1[−x])・・・・・(11)
rel_lv2[x]=lpf_p1[−x+2n]*2−(lpf_m1[−x+2n]+lpf_p2[−x+2n])・・・・・(12)
【0077】
図8は、本実施形態のn=1(cor_r[1])の場合で、(定義1)に基づき、以下に示す数式(13)によりrel_rv[1]を算出する。
【数1】
【0078】
図9は、本実施形態のn=1(cor_l[1])の場合で、(定義1)に基づき、以下に示す数式(14)によりrel_lv[1]を算出する。
【数2】
【0079】
上記数式(7)〜(14)を上記数式(5)及び(6)に適用してcor_r[1]及びcor_l[1]を算出すると、以下の結果になる。
cor_r[1]=0*3+(−25)−(25+100+25)=−175
cor_l[1]=0*3+(−25)−(0+50+0)=−75
【0080】
したがって、図8及び図9に示した傾き右1の斜め線に対する右斜め方向相関値cor_r[1]は−175となり、左斜め方向相関値cor_l[1]は−75となる。
【0081】
図10は、本実施形態のn=2(cor_r[2])の場合で、(定義1)に基づき、以下に示す数式(15)によりrel_rv[2]を算出する。
【数3】
【0082】
図11は、本実施形態のn=2(cor_l[2])の場合で、(定義1)に基づき、以下に示す数式(16)によりrel_lv[2]を算出する。
【数4】
【0083】
上記数式(7)〜(12)、(15)、(16)を上記数式(5)及び(6)に適用してcor_r[2]及びcor_l[2]を算出すると、以下の結果になる。
cor_r[2]=0*5+(−25)−(0+0+25+0+0)=−50
cor_l[2]=0*5+(−25)−(0+0+25+0+0)=−50
【0084】
したがって、図10及び図11に示した傾き右1の斜め線に対する右斜め方向相関値cor_r[2]は−50となり、左斜め方向相関値cor_l[2]は−50となる。したがって、cor_v=−25、cor_r[1]=−175、cor_l[1]=−75、cor_r[2]=−50、cor_l[2]=−50となり、最終相関値はcor_r[1]の−175となり、補間値はcor_r[1]で求めた方向の画素の組の平均値(m1[1]+p1[−1])/2=0となり、ジャギーレスの補間値が得られる。
【0085】
(具体例2)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例2について図12〜図15を参照して説明する。図12は、右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図13は、左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図14は、右斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。図15は、左斜め方向相関値算出処理を適用する斜め線の角度が浅い傾き右2の画素配置の一例を示す図である。なお、図12〜図15において、四角は相関画素を探索する範囲を示している。
【0086】
本具体例2では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=0−0=0
cor_r[1]=0*3+0−(0+50+0)=−50
cor_l[1]=0*3+0−(0+25+0)=−25
cor_r[2]=0*3+0−(0+50+100+50+0)=−200
cor_l[2]=0*3+0−(0+25+50+25+0)=−100
【0087】
以上の結果により、cor_v=0、cor_r[1]=−50、cor_l[1]=−25、cor_r[2]=−200、cor_l[2]=−100となり、最終相関値はcor_r[2]の−200となり、補間値はcor_r[2]で求めた方向の画素の組の平均値(m1[2]+p1[−2])/2=0となり、ジャギーレスの補間値が得られる。
【0088】
(具体例3)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例3について図16〜図19を参照して説明する。図16は、右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図17は、左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図18は、右斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。図19は、左斜め方向相関値算出処理を適用する十字線の画素配置の一例を示す図である。なお、図16〜図19において、四角は相関画素を探索する範囲を示している。
【0089】
本具体例3では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=100−0=100
cor_r[1]=0*3+100−(0+0+0)=100
cor_l[1]=100*3+100−(0+0+0)=400
cor_r[2]=100*3+100−(0+0+0+0+0)=400
cor_l[2]=100*3+100−(0+0+0+0+0)=400
【0090】
以上の結果により、cor_v=100と斜め方向の最小相関値cor_r[1]=100が同一である場合は、垂直方向相関値(cor_v)を優先して選択し、最終相関値は垂直方向相関値(cor_v)となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、理想的な補間値が得られる。
【0091】
(具体例4)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例4について図20〜図23を参照して説明する。図20は、右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図21は、左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図22は、右斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。図23は、左斜め方向相関値算出処理を適用する座標を水平方向に+1移動した十字線の画素配置の一例を示す図である。なお、図20〜図23において、四角は相関画素を探索する範囲を示している。
【0092】
本具体例4では、上記具体例1で説明した数式(1)〜(16)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=100−0=100
cor_r[1]=0*3+100−(0+0+0)=100
cor_l[1]=100*3+100−(0+0+0)=400
cor_r[2]=0*3+100−(0+0+0+0+0)=100
cor_l[2]=100*3+100−(0+0+0+0+0)=400
【0093】
以上の結果により、cor_v=100と斜め方向の最小相関値cor_r[1]=100及びcor_r[2]=100が同一であるため、垂直方向相関値(cor_v)を優先して選択し、最終相関値は垂直方向相関値(cor_v)となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、理想的な補間値が得られる。
【0094】
(具体例5)
次に、右斜め方向相関値算出処理及び左斜め方向相関値算出処理の具体例5について図24〜図27を参照して説明する。図24は、右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図25は、左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図26は、右斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。図27は、左斜め方向相関値算出処理を適用する座標を水平方向に+2移動した十字線の画素配置の一例を示す図である。なお、図24〜図27において、四角は相関画素を探索する範囲を示している。
【0095】
本具体例5では、上記具体例1で説明した数式(5)〜(20)を用いて同様に垂直方向相関値(cor_v)、右斜め方向相関値cor_r[1],cor_r[2]及び左斜め方向相関値cor_l[1],cor_l[2]を算出すると、以下の結果になる。
cor_v=0−0=0
cor_r[1]=100*3+0−(0+0+0)=300
cor_l[1]=100*3+0−(0+0+0)=300
cor_r[2]=100*3+0−(0+0+0+0+0)=300
cor_l[2]=100*3+0−(0+0+0+0+0)=300
【0096】
以上の結果により、最終相関値は垂直方向相関値cor_v=0となる。補間値はcor_vで求めた方向の画素の組の平均値(m1[0]+p1[0])/2=50となり、ジャギーレスの補間値が得られる。
【0097】
上記具体例1と具体例2、及び同様の処理結果により斜め線(傾き右1)を補間した結果を図28に示す。本実施形態の右斜め方向相関値算出処理及び左斜め方向相関値算出処理を斜め線(傾き右1)に適用して補間画素を生成することにより、ジャギーレスの斜め線補間が可能になる。また、上記具体例3、具体例4、具体例5、及び同様の処理結果により十字線を補間した結果を図29に示す。本実施形態の右斜め方向相関値算出処理及び左斜め方向相関値算出処理を十字線に適用して補間画素を生成することにより、十字線に対しても理想的な補間が可能になる。したがって、本実施形態の画像処理装置100によれば、斜め線の画素補間性能と十字線の画素補間性能を両立することができる。
【0098】
ここまでは、n=1、n=2までを例に説明してきたが、n=3以上に拡張する場合は、(1)〜(12)、(17)、(18)を使用すればよい。
【数5】
【数6】
【0099】
次に、上記画像処理装置100を利用した液晶表示装置の一例について図30を参照して説明する。図30において、液晶表示装置200は、画像処理装置100と液晶パネル201により構成される。画像処理装置100は、上述の図1に示したものと同一である。液晶パネル201は、薄膜トランジスタ(以下、TFTという)基板、TFT基板に対向して結合されるカラーフィルタ基板及び両基板の間に介在されて液晶等を含む。液晶パネル201は、画像処理装置100からフレーム毎に入力される補間画素により画像を表示する。液晶パネル201の解像度が、入力されるフルハイビジョン画像の縦横2倍である場合、画像処理装置100は、入力されるフルハイビジョン画像を縦横2倍に拡大するように上記画像補間処理を実行する。これにより、拡大後も原画像の品質を保持しつつ、斜め線や十字線にジャギーを生じさせない高品位な画像表示が可能になる。なお、本実施の形態では、画像処理装置を液晶表示装置に用いた場合を示したが、液晶表示装置に限定するものではなく、例えば、PDP、有機ELなどの表示装置にも適用可能である。
【0100】
なお、上記実施形態では、画像処理装置100は、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104を、Y画素など1系統分だけ備える構成例を示したが、この構成に限定するものではなく、RGBの画素毎に補間画素を生成するように、垂直相関処理部101、右斜め相関処理部102、左斜め相関処理部103及びマルチプレクサ104を3系統備えるようにしてもよい。
【符号の説明】
【0101】
100…画像処理装置
101…垂直方向相関処理部
102…右斜め相関処理部
103…左斜め相関処理部
104…マルチプレクサ
200…液晶表示装置
201…液晶パネル
【特許請求の範囲】
【請求項1】
入力画像の拡大処理を画像処理装置であって、
前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力する垂直相関処理部と、
前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力する右斜め方向相関処理部と、
前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力する左斜め方向相関処理部と、
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向結果に基づき、前記上下画素間の補間値及び前記斜め方向の最終補間値から選択し、補間値を出力する補間値算出処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記垂直相関処理部は、前記上下画素間の相関値から前記上下相関値を減算して前記垂直方向相関値を算出することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記右斜め方向相関処理部は、
前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、
前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出する、ことを特徴とする請求項1記載の画像処理装置。
【請求項4】
前記左斜め方向相関処理部は、
前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、
前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出する、ことを特徴とする請求項1記載の画像処理装置。
【請求項5】
前記右斜め方向相関処理部は、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値として選択することを特徴とする請求項1又は3記載の画像処理装置。
【請求項6】
前記左斜め方向相関処理部は、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値として選択することを特徴とする請求項1又は4記載の画像処理装置。
【請求項7】
前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値から垂直方向に近い傾きの斜め方向相関値を選択し、前記斜め方向相関値に基づき最終補間値を選択することを特徴とする請求項1記載の画像処理装置。
【請求項8】
前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を算出し、当該平均値を前記第1の最小値とすることを特徴とする請求項1記載の画像処理装置。
【請求項9】
入力画像の拡大処理を実行する画像処理方法において、
前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力し、
前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力し、
前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力し、
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づき、前記上下画素間の補間値及び前記斜め方向の最終補間値から出力補間値を選択すること、を含むことを特徴とする画像処理方法。
【請求項10】
前記垂直方向相関値は、前記上下画素間の相関値から前記上下相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項11】
前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、
前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項12】
前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、
前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項13】
前記最小の右斜め方向相関値が同一である値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を選択すること、を含むことを特徴とする請求項9又は11記載の画像処理方法。
【請求項14】
前記最小の左斜め方向相関値が同一である値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき右斜め方向の最終補間値を選択すること、を含むことを特徴とする請求項9又は12記載の画像処理方法。
【請求項15】
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値から、垂直方向に近い角度の斜め方向相関値に基づき最終補間値を選択すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項16】
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を算出し、当該平均値を斜め方向の最終補間値とすること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項17】
請求項1乃至請求項8記載の何れか一項に記載の画像処理装置を備えることを特徴とする表示装置。
【請求項1】
入力画像の拡大処理を画像処理装置であって、
前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力する垂直相関処理部と、
前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力する右斜め方向相関処理部と、
前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力する左斜め方向相関処理部と、
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向結果に基づき、前記上下画素間の補間値及び前記斜め方向の最終補間値から選択し、補間値を出力する補間値算出処理部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記垂直相関処理部は、前記上下画素間の相関値から前記上下相関値を減算して前記垂直方向相関値を算出することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記右斜め方向相関処理部は、
前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、
前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出する、ことを特徴とする請求項1記載の画像処理装置。
【請求項4】
前記左斜め方向相関処理部は、
前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、
前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出する、ことを特徴とする請求項1記載の画像処理装置。
【請求項5】
前記右斜め方向相関処理部は、同一の値の前記最小の右斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値として選択することを特徴とする請求項1又は3記載の画像処理装置。
【請求項6】
前記左斜め方向相関処理部は、同一の値の前記最小の左斜め方向相関値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値として選択することを特徴とする請求項1又は4記載の画像処理装置。
【請求項7】
前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値から垂直方向に近い傾きの斜め方向相関値を選択し、前記斜め方向相関値に基づき最終補間値を選択することを特徴とする請求項1記載の画像処理装置。
【請求項8】
前記補間値算出処理部は、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を算出し、当該平均値を前記第1の最小値とすることを特徴とする請求項1記載の画像処理装置。
【請求項9】
入力画像の拡大処理を実行する画像処理方法において、
前記入力画像のフィールド毎に入力画素に対する上下画素間の相関値、前記入力画素に対する垂直周波数を考慮した上下相関値、及び、前記入力画素に対する上下画素間の補間値を各々算出し、前記上下画素間の相関値及び前記上下相関値に基づいて垂直方向相関値を算出し、前記上下画素間の補間値及び前記垂直方向相関値を出力し、
前記入力画素に対する右斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した右斜め方向の相関値、及び、前記入力画素に対する右斜め方向の補間値を各々算出し、前記垂直方向相関値、前記右斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した右斜め方向の相関値に基づいて、右斜め方向に探索する画素数分の複数の右斜め方向相関値を算出し、前記複数の右斜め方向相関値から最小の右斜め方向相関値を選択し、前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を出力し、
前記入力画素に対する左斜め方向画素間の相関値、前記入力画素に対する水平・垂直周波数を考慮した左斜め方向の相関値、及び、前記入力画素に対する左斜め方向の補間値を各々算出し、前記垂直方向相関値、前記左斜め方向画素間の相関値及び前記水平・垂直周波数を考慮した左斜め方向の相関値に基づいて、左斜め方向に探索する画素数分の複数の左斜め方向相関値を算出し、前記複数の左斜め方向相関値から最小の左斜め方向相関値を選択し、前記最小の左斜め方向相関値に基づき左斜め方向の最終補間値を出力し、
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値のうち値が小さい方を第1の最小値として選択し、前記垂直方向相関値及び前記第1の最小値のうち値が小さい方を最終補間方向とし、前記最終補間方向に基づき、前記上下画素間の補間値及び前記斜め方向の最終補間値から出力補間値を選択すること、を含むことを特徴とする画像処理方法。
【請求項10】
前記垂直方向相関値は、前記上下画素間の相関値から前記上下相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項11】
前記右斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の右斜め方向の位置にある原画素間から算出し、
前記右斜め方向の相関値は、前記右斜め方向画素間の相関値を算出する右斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記右斜め方向相関値は、前記右斜め方向画素間の相関値に対して当該右斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記右斜め方向の相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項12】
前記左斜め方向画素間の相関値は、前記入力画素に対する補間画素を中心とした点対称の左斜め方向の位置にある原画素間から算出し、
前記左斜め方向の相関値は、前記左斜め方向画素間の相関値を算出する左斜め方向の角度に対して平行な位置にある原画素の水平・垂直周波数を考慮して算出し、
前記左斜め方向相関値は、前記左斜め方向画素間の相関値に対して当該左斜めの角度に応じた定数を乗算し、当該乗算結果に前記垂直方向相関値を加算し、当該加算結果から前記左斜め方向の相関値を減算して算出すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項13】
前記最小の右斜め方向相関値が同一である値が複数存在する場合は、垂直方向に近い方の前記最小の右斜め方向相関値に基づき右斜め方向の最終補間値を選択すること、を含むことを特徴とする請求項9又は11記載の画像処理方法。
【請求項14】
前記最小の左斜め方向相関値が同一である値が複数存在する場合は、垂直方向に近い方の前記最小の左斜め方向相関値に基づき右斜め方向の最終補間値を選択すること、を含むことを特徴とする請求項9又は12記載の画像処理方法。
【請求項15】
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値から、垂直方向に近い角度の斜め方向相関値に基づき最終補間値を選択すること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項16】
前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値が同一の値であり、かつ同一の傾き角度である場合、前記最小の右斜め方向相関値及び前記最小の左斜め方向相関値と相関する複数の画素間の平均値を算出し、当該平均値を斜め方向の最終補間値とすること、を含むことを特徴とする請求項9記載の画像処理方法。
【請求項17】
請求項1乃至請求項8記載の何れか一項に記載の画像処理装置を備えることを特徴とする表示装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【公開番号】特開2012−134610(P2012−134610A)
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願番号】特願2010−282860(P2010−282860)
【出願日】平成22年12月20日(2010.12.20)
【出願人】(390019839)三星電子株式会社 (8,520)
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】416,Maetan−dong,Yeongtong−gu,Suwon−si,Gyeonggi−do,Republic of Korea
【Fターム(参考)】
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願日】平成22年12月20日(2010.12.20)
【出願人】(390019839)三星電子株式会社 (8,520)
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】416,Maetan−dong,Yeongtong−gu,Suwon−si,Gyeonggi−do,Republic of Korea
【Fターム(参考)】
[ Back to top ]