画像処理装置、画像処理方法、及び画像処理プログラム
【課題】 鮮鋭で高画質な高解像度画像を得る。
【解決手段】
画像処理装置は、エッジ判定部101、対応位置算出部102、画素値算出部103を備える。低解像度画像データのフレームの各画素の画素値に基づいて、フレーム内のエッジ領域を検出し、各画素がそれぞれエッジ領域にあるのかどうか判定する。フレームのエッジ領域にある、各画素を1つずつ注目画素として順次設定する。各注目画素のエッジ方向に沿った対応位置を小数精度で算出し、エッジ領域では、フレームの画素値と、算出された対応位置から成る等輝度線分と、推定画素の画素位置に基づく内挿処理によって、また、エッジ以外の領域では、フレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を求める。
【解決手段】
画像処理装置は、エッジ判定部101、対応位置算出部102、画素値算出部103を備える。低解像度画像データのフレームの各画素の画素値に基づいて、フレーム内のエッジ領域を検出し、各画素がそれぞれエッジ領域にあるのかどうか判定する。フレームのエッジ領域にある、各画素を1つずつ注目画素として順次設定する。各注目画素のエッジ方向に沿った対応位置を小数精度で算出し、エッジ領域では、フレームの画素値と、算出された対応位置から成る等輝度線分と、推定画素の画素位置に基づく内挿処理によって、また、エッジ以外の領域では、フレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を求める。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データを高解像度の画像データに変換する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
近年、画素数が多い高解像度のテレビやディスプレイが普及しつつある。テレビやディスプレイは、画像データの画素数をパネルの画素数に変換し、拡大表示する。
【0003】
元の画像データから画素値を増やした解像度の高い画像データに変換する方法として、サンプリング定理に基づいたSinc関数でフィルタ処理を行う内挿法(三次畳込み法、BiCubic法など)や、絵柄適応フィルタを利用した内挿法(例えば、非特許文献1参照)が知られている。絵柄適応フィルタを利用した内挿法は、基準フレーム(高解像度化させる対象となるフレーム)の絵柄に応じてフィルタ処理を切り替え、内挿する画素値を算出する方法である。絵柄が縦横の方向性を有する領域の場合と絵柄が斜めの方向性を有する領域とでフィルタを切り替えて、高解像度画像の輝度値の内挿処理が行われる。例えば、画素を内挿する位置近傍での絵柄が斜めの方向性を有するとフィルタによって判定された場合、そのフィルタが示す絵柄の方向で隣接する画素の画素値から内挿する推定画素値を算出する。
【非特許文献1】久保 武ら、 「Warping予測のための輝度値内挿法に関する一検討」 2006年画像符号化シンポジウム予稿集, Japan, PCSJ2006, November 2006, pp. 115-116.
【発明の開示】
【発明が解決しようとする課題】
【0004】
上記の技術では、画像データの絵柄の方向をあらかじめ準備したフィルタのうち1の方向であると推定し、推定された方向で隣接する画素値から内挿する画素値を求める。そのため、推定されるエッジの方向は準備するフィルタの方向に丸められたとびとびの値をもった離散的な角度となってしまう。したがって、準備したフィルタの方向からずれたエッジ部に階段状の不連続パターン(以下、「ジャギー」という)が生じ、変換された高解像度画像の画質を劣化させる問題点がある。
【0005】
また、フィルタによるエッジ検出の場合、ノイズ画素などの影響のため精度良くその方向を求めることが困難である。
【0006】
本発明は、上述した事情を考慮してなされたものであり、ジャギーの少ない鮮鋭で高画質な高解像度化処理ができる画像処理装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために請求項1の発明は、低解像度画像を高解像度画像に変換する画像処理装置において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定手段と、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出手段と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める手段と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えた画像処理装置を提供する。
【0008】
また、請求項9の発明は、低解像度画像を高解像度画像に変換する画像処理装置において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にあるエッジ領域画素と判定する判定手段と、前記低解像度画像の画素である注目画素と接するラインである近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出する抽出手段と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、前記エッジ領域画素に対応する対応位置と、当該エッジ領域画素を結ぶ線分を当該注目画素の輝度値に対応する等輝度線分として求める手段と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えた画像処理装置を提供する。
【0009】
また、請求項10の発明は、低解像度画像を高解像度画像に変換する画像処理方法において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定するステップと、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出するステップと、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求めるステップと、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定するステップと、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求めるステップと、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求めるステップと、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択するステップと、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出するステップとを備えた画像処理方法を提供する。
【0010】
また、請求項11の発明は低解像度画像を高解像度画像に変換する画像処理プログラムにおいて、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定機能と、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出機能と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出機能と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定機能と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出機能と、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める機能と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択機能と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出機能とをコンピュータに実現させる画像処理プログラムを提供する。
【発明の効果】
【0011】
本発明によれば、ジャギーの少ない鮮鋭で高画質な高解像度画像を得ることができる。
【発明を実施するための最良の形態】
【0012】
以下、図面を参照しながら本発明の実施形態に係る画像処理装置について詳細に説明する。ここで、互いに同じ部分には共通の符号を付して、重複説明は省略する。
【0013】
(第1の実施形態)第1の実施形態の画像処理装置について、図1〜図9を参照して説明する。本実施形態の画像処理装置は、入力された低解像度画像データを所定の解像度の高解像度画像データへと変換する高解像化処理を行う。
【0014】
(1)本実施形態の画像処理装置の構成
図1は、本実施形態に係る画像処理装置のブロック図である。本実施形態の画像処理装置は、エッジ判定部101、対応位置算出部102、画素値算出部103を備えている。
【0015】
(1−1)エッジ判定部101
エッジ判定部101は、入力された低解像度画像データに基づいて、各画素の近傍での輝度値の変化率を順次求める。輝度値の変化率が所定の値を越えた場合には当該画素はエッジ領域にあると判定される。エッジとは、画像中で画素値変化が直線的に起こっている部分を指し、具体的には被写体の輪郭線に相当するものである。また、エッジ領域にあると判定された画素近傍のエッジに沿った方向(以下エッジ方向という)が縦・横どちらの方向性を持つのかについても判定する。以下、判定された2値の方向を低解像度画素の判定エッジ方向という。エッジ判定部101がエッジ領域を判定する動作について、図3を用いて詳細に説明する。
【0016】
図3は、被写体の輪郭線など、画素値変化が直線的に起こっているエッジ領域を検出する処理を説明するための図である。
【0017】
低解像度画像フレーム301の画素のうち、低解像度画素302がエッジ領域の画素であるかどうかを判定する。低解像度画素302を中心とした3×3のブロック領域は、それぞれ画素値y11、y12、・・・、y33を持っているものとする。一般に、低解像度画素302とその近傍領域との画素値の変化分を取り出す微分をし、その大きさが一定値以上である場合は、エッジ領域の画素であると判定する。微分する方法は多数あるが、本実施形態ではソーベルフィルタを用いた処理を行う。
【0018】
横方向の微分を求めるには横方向ソーベルフィルタ303を低解像度画素302に施す。具体的には、低解像度画素302の横方向微分として、(−y11−2×y21−y31)+(y13+2×y23+y33)を算出する。同様に、縦方向の微分を求めるには縦方向のソーベルフィルタ304を低解像度画素302に施す。具体的には、低解像度画素302の縦方向微分として、(y11+2×y12+y13)+(−y31−2×y32−y33)を算出する。縦方向の微分の絶対値、及び、横方向の微分の絶対値を加算し、ある閾値以上であった場合に、低解像度画素302をエッジ領域の画素であると判定する。以上の方法で、エッジ領域を検出する。
【0019】
更に、横方向のソーベルフィルタ303からの出力の方が大きい場合は、横方向の画素値の濃淡の勾配が大きいといえる。その場合、低解像度画素302は、縦方向に伸びるエッジを持ったエッジ画素であると判定される。また、縦方向のソーベルフィルタ304からの出力の方が大きい場合は、縦方向の画素値の濃淡の勾配が大きいといえる。その場合、低解像度画素302は、横方向のエッジ画素であると判定する。以下、エッジ判定部101が判定した縦若しくは横のエッジ方向を判定エッジ方向と記述する。
【0020】
以上の方法で、低解像度画像フレームの各画素がエッジ領域であるかを判定し、併せて検出されたエッジが縦横どちらの方向性を持つのかを示す判定エッジ方向についても判定する。
【0021】
(1−2)対応位置算出部102
対応位置算出部102は、エッジ判定部101によってエッジ領域にあると判定された低解像度画素を順次注目画素として抽出し、抽出された注目画素の判定エッジ方向に存在し、注目画素と隣接する2本のライン(以下、「近接ライン」という)上の、注目画素と等輝度の画素があるとみなす位置(以下、「対応位置」という)を2本のラインそれぞれについて求める。
【0022】
近接ライン上の画素をそれぞれ候補画素として抽出し、注目画素と候補画素との類似度を示すマッチング誤差をそれぞれ算出する。算出されたマッチング誤差のうち最小の値を持つ画素を中心候補画素として選択する。中心候補画素と近接ライン上で隣接する画素の3つのマッチング誤差を用いて、近接ライン上の画素間隔の小数精度をもった対応位置を算出する。
【0023】
選択された3つ候補画素のマッチング誤差に対して連続な偶関数を当てはめる。当てはめられた偶関数は、マッチング誤差の近接ライン上での分布を近似するものとしてみなす。当てはめられた関数が最小となる近接ライン上の位置を対応位置として求める。上記の方法をマッチング誤差補間法という。
【0024】
対応位置算出部102が判定エッジ方向に沿った小数精度の対応位置を算出する方法について、図4〜図8を用いて詳細に説明する。注目画素402は、エッジ判定部101によって判定エッジ方向が縦方向であると判定されている。判定エッジ方向が縦方向の場合、上下の近接ライン上の対応位置がそれぞれ算出される。以下、注目画素の下1ラインを近接ライン410とした場合に、対応位置算出部102が対応位置を算出する方法について詳細に説明する。
【0025】
図4は注目画素402と候補画素606,607,608,609,610の位置を示す図である。
【0026】
注目画素402はエッジ判定部101によってエッジ領域にあると判定された画素である。注目画素402の下1ラインが近接ライン410である。近接ライン410上の対応位置を算出するために、注目画素402と候補画素606,607,608,609,610とのマッチング誤差を算出する。
【0027】
次に、マッチング誤差を算出する方法について説明する。本実施形態の対応位置算出部102は、注目画素402の近傍ブロックと候補画素606,607,608,609,610の近傍ブロックそれぞれとのマッチング誤差を算出する。
【0028】
図5は、マッチング誤差を算出する方法を説明するための図である。注目画素領域403と候補画像領域508とが示されている。注目画素領域403は、注目画素402を中心に低解像度画像フレーム401から数画素四方、例えば注目画素402近傍の5×5画素や3×3画素の矩形のブロックとして設定される。図5では、3×3画素の領域を注目画素領域403としている。また、候補画像領域508は、候補画素608を中心とした注目画像領域403と同じサイズのブロックとして設定される。ブロックマッチング法によって注目画素402の注目画素領域403と、候補画素608の候補画素領域508とのマッチング誤差を算出する。マッチング誤差として、注目画像領域402と候補画像領域505の各画素値の差の2乗和であるSSD(Sum of Square Distance)や、各画素値の差の絶対値和であるSAD(Sum of Absolute Distance)などを用いることができる。本実施形態では、注目画像領域403と候補画像領域505とのSSDを計算して、注目画素402と候補画素504とのマッチング誤差として算出する。
【0029】
同様に、近傍ライン410上のその他の候補画素606,607,608,609,610についても注目画素402とのマッチング誤差をそれぞれ算出する。算出されたマッチング誤差のうち、最小の値を持つものを中心候補画素として選択する。
【0030】
次に、算出されたマッチング誤差に基づき対応位置を算出する方法について説明する。以下、中心候補画素として、注目画素402と判定エッジ方向で隣接する候補画素606が選択された場合について詳細に説明する。
【0031】
図6は、中心候補画素606と、中心候補画素と近接ライン上で隣接する候補画素607、608を示す図である。
【0032】
これら3つの候補画素606、607、608と、中心画素402とのマッチング誤差に基づき対応位置がもとめられる。
【0033】
図7は、それぞれの候補画素606,607,608について算出されたマッチング誤差を示すグラフである。横軸は、近接ライン410上での各候補画素の位置を示す。縦軸は、それぞれの候補画素について算出された注目画素402とのマッチング誤差の大きさを表している。
【0034】
中心候補画素として候補画素606が選択された場合、候補画素606及び、候補画素606と左右に隣接するそれぞれの候補画素607、608のマッチング誤差が対応位置を算出するために用いられる。
【0035】
まず、算出された候補画素606,607,608のマッチング誤差3点に偶関数による連続関数701を当てはめる。連続関数701は、注目画素402との類似度の近接ライン410上での分布を近似する近似関数である。偶関数は、放物線や、マッチング誤差の軸に対称な2本の直線の関数を用いる。
【0036】
以上のようにして当てはめた連続関数701が最小のマッチング誤差値703となる、すなわち、最も注目画素402との類似度が高いとみなされる近傍ライン410上での位置(白丸で図示)を、対応位置702として算出する。
【0037】
図8は、算出された近傍ライン410上の対応位置702の低解像画像フレーム上での位置を示す図である。対応位置702と注目画素402とを結ぶ線分を、注目画素と等輝度値をもった等輝度線分404とみなす。注目画素402の上1ラインにおける対応位置も、同様に算出する。
【0038】
また、注目画素402が、エッジ判定部101において横方向エッジ画素であると判定された場合は、右1ライン、及び、左1ラインを近傍ラインとする2つの対応位置を1つの注目画素に対してそれぞれ算出する。注目画素と、対応位置とを結ぶ2本の線分を注目画素と等輝度値をもった等輝度線分とみなす。
【0039】
また、本実施形態ではマッチング誤差を算出する方法として画素近傍ブロック間のマッチング誤差を用いたが、注目画素と候補画素とのマッチング誤差を求めてもよい。
【0040】
(1−3)画素値算出部103
画素値算出部103は、対応位置算出部102が求めた等輝度線分及びその輝度値から、所定の解像度に変換する際に内挿すべき位置の推定画素値を算出する。
【0041】
画素値算出部103には、低解像度画像データと、エッジ判定部101が検出したエッジ領域の情報と、対応位置算出部102が算出した対応位置が入力される。エッジ領域の情報に応じて、エッジ領域では内挿すべき高解像度画素の位置から最も近い位置の等輝度線分を2つ選択し、選択された等輝度線分を利用した内挿方法で高解像度画像の推定画素値を算出する。エッジ以外の領域では、低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。
【0042】
高解像度画像の推定画素値を算出する動作について、図9を用いて詳細に説明する。
【0043】
図9は、エッジ領域における高解像度画像の画素値を推定する様子を示す図である。図9に示すように、対応位置算出部102で算出された小数精度の対応位置の関係を、等輝度な線分901、902として用いる。推定したい高解像度画像の画素である新規画素903の輝度値をXm、n、低解像度画素904の輝度値をYNN、低解像度画素905の輝度値をYNN+1、新規画素903と最近傍の等輝度線分901との距離をdNN、最近傍の等輝度線分901と向かいに位置する最近傍の等輝度線分902と新規画素903との距離をdNN+1とすると、
【数1】
【0044】
として、エッジ領域における新規画素903の画素値を算出する。
【0045】
エッジ領域でない高解像度画像の画素値については、サンプリング定理に基づいたSinc関数でフィルタ処理を行う内挿法(三次畳込み法)にて画素値を算出する。
【0046】
(2)本実施形態の画像処理装置の動作
図2は、本実施形態の画像処理装置が低解像度画像データを高解像度画像データに変換する動作を説明するためのフローチャートである。
【0047】
(2−1)ステップS201
まず、低解像度画像データの画素値に基づき、各画素がエッジ領域,それ以外の領域のどちらの領域にあるかを判定する。エッジ判定部101は、高解像度化の対象となる1つのフレームの各画素の画素値に基づいて、画素値変化が直線的に連続に起こっているエッジ領域を検出する。また、検出されたエッジ領域の各画素を含む近傍領域でエッジが、縦方向のエッジ・横方向のエッジのどちらであるかを順次判定する。
【0048】
(2−2)ステップS202
次に、ステップS201で判定された注目画素の判定エッジ方向と直行する近接ライン上の対応位置を算出する。対応位置算出部102は、低解像度画像データのうち高解像度化の対象となる1つのフレームの中のエッジ領域の画素を1つずつ注目画素として順次設定し、注目画素の判定エッジ方向に沿った1以上の対応位置を小数精度で算出する。
【0049】
対応位置は、低解像度画像データの画素間隔でマッチング誤差を求め、連続な対称関数を当てはめて、マッチング誤差が最小となる近接ライン上の位置として求める。
【0050】
(2−3)ステップS203
次に、等輝度線分に基づき高解像度画像の推定画素値を算出する。画素値算出部103は、エッジ領域では、低解像度画像データのフレームの画素値と、対応位置に基づく等輝度線分と、高解像度画像の推定画素の画素位置に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。また、エッジ以外の領域では、低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。そして、推定された画素値によって作成された高解像度画像を出力して、終了する。
【0051】
(3)本実施形態の効果
このように、本実施形態では低解像度画像データの注目画素と近傍の画素との差分値から、近接ライン上に沿った対応位置を画素間隔の小数精度で算出する。算出された小数精度の対応位置に基づき画素間隔の等輝度線分を仮定し、高解像度画像の画素値を算出し内挿処理を行っている。それによって、ジャギーが少なく鮮鋭な高解像度画像の画素値を推定し内挿することが可能となる。
【0052】
なお、エッジ領域にないと判定された注目画素近傍に新規画素が位置する場合、Sinc関数でフィルタ処理を行う内挿法(三次畳込み法、BiCubic法など)や、絵柄適応フィルタ拡大法を用いて推定画素値を算出する。
【0053】
(第2の実施形態)
次に、本発明の第2の実施形態に係る画像処理装置について説明する。
【0054】
第1の実施形態の画像処理装置は、注目画素がエッジ領域にあるかどうかを判定し、判定結果に応じて対応位置を算出するか否かを決定していた。これは、PC(パソコン)などを用いた条件分岐処理に適した装置で好適に使用される構成である。
【0055】
本実施形態の画像処理装置は、注目画素がエッジ領域であるか否かによらず、対応位置算出部102で低解像度画素全てについて対応位置を算出する。また、並行して全画素についてエッジ領域であるか及び判定エッジ方向についても求める。その後に、内挿入する新規画素がエッジ領域と判定された注目画素近傍であるか、及び判定エッジ方向に応じて等輝度線分として用いる対応位置を選択し、内挿する輝度値を求めるものである。本実施形態は、LSIなどを用いた並列処理に適した装置で好適に使用される構成である。
【0056】
図10は、本実施形態に係る画像処理装置のブロック図である。
【0057】
本実施形態の画像処理装置は、エッジ判定部101が検出したエッジ領域の情報によらず、対応位置算出部102においてエッジ領域だけでなく全領域について対応位置を算出する。その後に、エッジ判定部101がエッジ領域として検出した領域範囲の対応位置のみを選択し、内挿する輝度値を算出するものである。
【0058】
本実施形態の画像処理装置によれば、LSI等の並列処理に適した装置であっても、ジャギーが少なく鮮鋭な高解像度画像の画素値を推定し内挿することが可能となる。
【0059】
(第3の実施形態)
次に、本発明の第3の実施形態に係る画像処理装置について図面を参照し説明する。本実施形態の画像処理装置では、よりエッジが強調され、先鋭な高解像度画像を得るために低解像度画素を先鋭化する強調処理をさらに行う。
【0060】
(1)本実施形態の画像処理装置の構成
図11は、本実施形態に係る画像処理装置のブロック図である。
【0061】
本実施形態の画像処理装置は、強調処理部104をさらに有する。
【0062】
強調処理部104は、入力された低解像度画像データを先鋭化する強調処理する。強調処理には、アンシャープマスクなどのエンハンスフィルタを用いる。強調処理部104は、強調処理された低解像度画像データを画素値算出部103に出力する。
【0063】
(2)本実施形態の画像処理装置の動作
図12は、本実施形態の画像処理装置の動作を説明するフローチャートである。本実施形態の画像処理装置は、第1の実施形態の対応位置を算出するステップS202と、内挿する画素値を算出するステップS203の間に、低解像度画像データの画素値を強調処理するステップを挿入し動作する。なお、強調処理がなされた低解像度画像データの輝度値に基づき内挿入する推定画素値を算出する点が異なる。なお、本実施形態の画像処理装置がステップS1201,S1202,S1204で行う処理は第1の実施形態の画像処理装置と同じ処理であるため詳細な説明は省略する。
【0064】
(2−1)ステップS1201
エッジ判定部101が、低解像度画像データのエッジ領域を検出する。また、検出されたエッジ領域にあると検出された各画素近傍でのエッジ方向が、縦方向のエッジ・横方向のエッジのどちらかであるかを順次判定する。
【0065】
(2−2)ステップS1202
次に、対応位置算出部102が注目画素の判定エッジ方向に沿った対応位置を算出する。対応位置は、低解像度画像データの画素間隔でマッチング誤差を求め、連続な偶関数を当てはめて、マッチング誤差が最小となる近接ライン上の位置として求める。
【0066】
(2−3)ステップS1203
強調処理部104に入力された低解像度の画像データの輪郭を強調する処置をする。低解像度画像データに加えて、強調処理した画像データを画素値算出部103に出力する。強調処理には、アンシャープマスクなどのエンハンスフィルタを用いる。強調処理部104は、強調処理された低解像度画像データを画素値算出部103に出力する。
【0067】
(2−4)ステップS1204
次に、画素値算出部103が高解像度画像データに変換する際に内挿する推定画素値を算出する。エッジ領域では、強調処理された低解像度画像データのフレームの画素値と、対応位置から成る等輝度線分と、高解像度画像の推定画素の画素位置に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。また、エッジ以外の領域では、強調処理されていない低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。推定された画素値から成る高解像度画像を出力して、終了する。
【0068】
(3)本実施形態の効果
対応位置を等輝度線分として活用して内挿処理を行う本手法では、高解像度画素値の周りの低解像度画素の画素値を等輝度線分の画素値とし、この画素値との重み付け平均によって高解像度画像の画素値を算出している。しかし、低解像度画像がボケている(本来の輝度値がぼけで散乱している)場合には、高解像度化処理で内挿される画素による画像もぼけてしまう場合がある。
【0069】
本実施形態では、強調処理によってエッジを先鋭化した低解像度画像データの輝度値に基づいて内挿する画素値を算出している。それによって、エッジ領域においてジャギーが少なく、更に鮮鋭な高解像度画像を生成することができる。
【0070】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。
【0071】
また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
【0072】
さらに、異なる実施形態にわたる構成要素を組み合わせてもよい。
【0073】
高解像度化処理を行う低解像度画像データは、動画像でも静止画像でも構わない。それぞれの実施形態では、低解像度画像データを、例えば、カメラや携帯電話が撮影した画像データ、テレビや携帯AVプレイヤーが受信した画像データ、HDDに保存された画像データなどとして説明した。
【0074】
また、上記の格実施形態の情報提示装置は、例えば、汎用のコンピュータ装置を基本ハードウェアとして用いることでも実現することが可能である。実行されるプログラムは、上述した各機能を含むモジュール構成となっている。プログラムはインストール可能な形式又は実行可能な形式のファイルでCD-ROM、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供しても、ROM等に予め組み込んで提供してもよい。
【図面の簡単な説明】
【0075】
【図1】第1の実施形態に係る画像処理装置のブロック図。
【図2】第1の実施形態に係る画像処理装置の動作の一例を示すフローチャート。
【図3】エッジ領域を検出する方法を示す図。
【図4】注目画素と候補画素の位置を示す図。
【図5】対応位置の算出での候補画素と候補画像領域を示す図。
【図6】対応位置の算出での下1ライン目の中心候補画素及び隣接する候補画素を示す図。
【図7】対応位置の算出でのマッチング誤差補間法による小数精度の対応位置を算出する様子を示す図。
【図8】対応位置の算出での注目画素と小数精度の対応位置を示す図。
【図9】エッジ領域における高解像度画像の画素値を推定する様子を示す図。
【図10】第2の実施形態に係る画像処理装置のブロック図。
【図11】第3の実施形態に係る画像処理装置のブロック図。
【図12】第3の実施形態に係る画像処理装置の動作の一例を示すフローチャート。
【符号の説明】
【0076】
101・・・エッジ判定部
102・・・対応位置算出部
103・・・画素値算出部
104・・・強調処理部
302・・・低解像度画素
303,304・・・ソーベルフィルタ
301,401・・・低解像度画像フレーム
402・・・注目画素
402・・・注目領域
404,901,902・・・等輝度線分
410・・・近接ライン
508候補領域
606,607,608・・・候補画素
701・・・連続関数
702・・・対応位置
703・・・最小マッチング誤差値
904,905・・・低解像度画素
903・・・新規画素
【技術分野】
【0001】
本発明は、画像データを高解像度の画像データに変換する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
近年、画素数が多い高解像度のテレビやディスプレイが普及しつつある。テレビやディスプレイは、画像データの画素数をパネルの画素数に変換し、拡大表示する。
【0003】
元の画像データから画素値を増やした解像度の高い画像データに変換する方法として、サンプリング定理に基づいたSinc関数でフィルタ処理を行う内挿法(三次畳込み法、BiCubic法など)や、絵柄適応フィルタを利用した内挿法(例えば、非特許文献1参照)が知られている。絵柄適応フィルタを利用した内挿法は、基準フレーム(高解像度化させる対象となるフレーム)の絵柄に応じてフィルタ処理を切り替え、内挿する画素値を算出する方法である。絵柄が縦横の方向性を有する領域の場合と絵柄が斜めの方向性を有する領域とでフィルタを切り替えて、高解像度画像の輝度値の内挿処理が行われる。例えば、画素を内挿する位置近傍での絵柄が斜めの方向性を有するとフィルタによって判定された場合、そのフィルタが示す絵柄の方向で隣接する画素の画素値から内挿する推定画素値を算出する。
【非特許文献1】久保 武ら、 「Warping予測のための輝度値内挿法に関する一検討」 2006年画像符号化シンポジウム予稿集, Japan, PCSJ2006, November 2006, pp. 115-116.
【発明の開示】
【発明が解決しようとする課題】
【0004】
上記の技術では、画像データの絵柄の方向をあらかじめ準備したフィルタのうち1の方向であると推定し、推定された方向で隣接する画素値から内挿する画素値を求める。そのため、推定されるエッジの方向は準備するフィルタの方向に丸められたとびとびの値をもった離散的な角度となってしまう。したがって、準備したフィルタの方向からずれたエッジ部に階段状の不連続パターン(以下、「ジャギー」という)が生じ、変換された高解像度画像の画質を劣化させる問題点がある。
【0005】
また、フィルタによるエッジ検出の場合、ノイズ画素などの影響のため精度良くその方向を求めることが困難である。
【0006】
本発明は、上述した事情を考慮してなされたものであり、ジャギーの少ない鮮鋭で高画質な高解像度化処理ができる画像処理装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために請求項1の発明は、低解像度画像を高解像度画像に変換する画像処理装置において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定手段と、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出手段と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める手段と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えた画像処理装置を提供する。
【0008】
また、請求項9の発明は、低解像度画像を高解像度画像に変換する画像処理装置において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にあるエッジ領域画素と判定する判定手段と、前記低解像度画像の画素である注目画素と接するラインである近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出する抽出手段と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、前記エッジ領域画素に対応する対応位置と、当該エッジ領域画素を結ぶ線分を当該注目画素の輝度値に対応する等輝度線分として求める手段と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えた画像処理装置を提供する。
【0009】
また、請求項10の発明は、低解像度画像を高解像度画像に変換する画像処理方法において、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定するステップと、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出するステップと、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求めるステップと、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定するステップと、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求めるステップと、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求めるステップと、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択するステップと、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出するステップとを備えた画像処理方法を提供する。
【0010】
また、請求項11の発明は低解像度画像を高解像度画像に変換する画像処理プログラムにおいて、前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定機能と、前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出機能と、前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出機能と、前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定機能と、前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出機能と、前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める機能と、前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択機能と、選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出機能とをコンピュータに実現させる画像処理プログラムを提供する。
【発明の効果】
【0011】
本発明によれば、ジャギーの少ない鮮鋭で高画質な高解像度画像を得ることができる。
【発明を実施するための最良の形態】
【0012】
以下、図面を参照しながら本発明の実施形態に係る画像処理装置について詳細に説明する。ここで、互いに同じ部分には共通の符号を付して、重複説明は省略する。
【0013】
(第1の実施形態)第1の実施形態の画像処理装置について、図1〜図9を参照して説明する。本実施形態の画像処理装置は、入力された低解像度画像データを所定の解像度の高解像度画像データへと変換する高解像化処理を行う。
【0014】
(1)本実施形態の画像処理装置の構成
図1は、本実施形態に係る画像処理装置のブロック図である。本実施形態の画像処理装置は、エッジ判定部101、対応位置算出部102、画素値算出部103を備えている。
【0015】
(1−1)エッジ判定部101
エッジ判定部101は、入力された低解像度画像データに基づいて、各画素の近傍での輝度値の変化率を順次求める。輝度値の変化率が所定の値を越えた場合には当該画素はエッジ領域にあると判定される。エッジとは、画像中で画素値変化が直線的に起こっている部分を指し、具体的には被写体の輪郭線に相当するものである。また、エッジ領域にあると判定された画素近傍のエッジに沿った方向(以下エッジ方向という)が縦・横どちらの方向性を持つのかについても判定する。以下、判定された2値の方向を低解像度画素の判定エッジ方向という。エッジ判定部101がエッジ領域を判定する動作について、図3を用いて詳細に説明する。
【0016】
図3は、被写体の輪郭線など、画素値変化が直線的に起こっているエッジ領域を検出する処理を説明するための図である。
【0017】
低解像度画像フレーム301の画素のうち、低解像度画素302がエッジ領域の画素であるかどうかを判定する。低解像度画素302を中心とした3×3のブロック領域は、それぞれ画素値y11、y12、・・・、y33を持っているものとする。一般に、低解像度画素302とその近傍領域との画素値の変化分を取り出す微分をし、その大きさが一定値以上である場合は、エッジ領域の画素であると判定する。微分する方法は多数あるが、本実施形態ではソーベルフィルタを用いた処理を行う。
【0018】
横方向の微分を求めるには横方向ソーベルフィルタ303を低解像度画素302に施す。具体的には、低解像度画素302の横方向微分として、(−y11−2×y21−y31)+(y13+2×y23+y33)を算出する。同様に、縦方向の微分を求めるには縦方向のソーベルフィルタ304を低解像度画素302に施す。具体的には、低解像度画素302の縦方向微分として、(y11+2×y12+y13)+(−y31−2×y32−y33)を算出する。縦方向の微分の絶対値、及び、横方向の微分の絶対値を加算し、ある閾値以上であった場合に、低解像度画素302をエッジ領域の画素であると判定する。以上の方法で、エッジ領域を検出する。
【0019】
更に、横方向のソーベルフィルタ303からの出力の方が大きい場合は、横方向の画素値の濃淡の勾配が大きいといえる。その場合、低解像度画素302は、縦方向に伸びるエッジを持ったエッジ画素であると判定される。また、縦方向のソーベルフィルタ304からの出力の方が大きい場合は、縦方向の画素値の濃淡の勾配が大きいといえる。その場合、低解像度画素302は、横方向のエッジ画素であると判定する。以下、エッジ判定部101が判定した縦若しくは横のエッジ方向を判定エッジ方向と記述する。
【0020】
以上の方法で、低解像度画像フレームの各画素がエッジ領域であるかを判定し、併せて検出されたエッジが縦横どちらの方向性を持つのかを示す判定エッジ方向についても判定する。
【0021】
(1−2)対応位置算出部102
対応位置算出部102は、エッジ判定部101によってエッジ領域にあると判定された低解像度画素を順次注目画素として抽出し、抽出された注目画素の判定エッジ方向に存在し、注目画素と隣接する2本のライン(以下、「近接ライン」という)上の、注目画素と等輝度の画素があるとみなす位置(以下、「対応位置」という)を2本のラインそれぞれについて求める。
【0022】
近接ライン上の画素をそれぞれ候補画素として抽出し、注目画素と候補画素との類似度を示すマッチング誤差をそれぞれ算出する。算出されたマッチング誤差のうち最小の値を持つ画素を中心候補画素として選択する。中心候補画素と近接ライン上で隣接する画素の3つのマッチング誤差を用いて、近接ライン上の画素間隔の小数精度をもった対応位置を算出する。
【0023】
選択された3つ候補画素のマッチング誤差に対して連続な偶関数を当てはめる。当てはめられた偶関数は、マッチング誤差の近接ライン上での分布を近似するものとしてみなす。当てはめられた関数が最小となる近接ライン上の位置を対応位置として求める。上記の方法をマッチング誤差補間法という。
【0024】
対応位置算出部102が判定エッジ方向に沿った小数精度の対応位置を算出する方法について、図4〜図8を用いて詳細に説明する。注目画素402は、エッジ判定部101によって判定エッジ方向が縦方向であると判定されている。判定エッジ方向が縦方向の場合、上下の近接ライン上の対応位置がそれぞれ算出される。以下、注目画素の下1ラインを近接ライン410とした場合に、対応位置算出部102が対応位置を算出する方法について詳細に説明する。
【0025】
図4は注目画素402と候補画素606,607,608,609,610の位置を示す図である。
【0026】
注目画素402はエッジ判定部101によってエッジ領域にあると判定された画素である。注目画素402の下1ラインが近接ライン410である。近接ライン410上の対応位置を算出するために、注目画素402と候補画素606,607,608,609,610とのマッチング誤差を算出する。
【0027】
次に、マッチング誤差を算出する方法について説明する。本実施形態の対応位置算出部102は、注目画素402の近傍ブロックと候補画素606,607,608,609,610の近傍ブロックそれぞれとのマッチング誤差を算出する。
【0028】
図5は、マッチング誤差を算出する方法を説明するための図である。注目画素領域403と候補画像領域508とが示されている。注目画素領域403は、注目画素402を中心に低解像度画像フレーム401から数画素四方、例えば注目画素402近傍の5×5画素や3×3画素の矩形のブロックとして設定される。図5では、3×3画素の領域を注目画素領域403としている。また、候補画像領域508は、候補画素608を中心とした注目画像領域403と同じサイズのブロックとして設定される。ブロックマッチング法によって注目画素402の注目画素領域403と、候補画素608の候補画素領域508とのマッチング誤差を算出する。マッチング誤差として、注目画像領域402と候補画像領域505の各画素値の差の2乗和であるSSD(Sum of Square Distance)や、各画素値の差の絶対値和であるSAD(Sum of Absolute Distance)などを用いることができる。本実施形態では、注目画像領域403と候補画像領域505とのSSDを計算して、注目画素402と候補画素504とのマッチング誤差として算出する。
【0029】
同様に、近傍ライン410上のその他の候補画素606,607,608,609,610についても注目画素402とのマッチング誤差をそれぞれ算出する。算出されたマッチング誤差のうち、最小の値を持つものを中心候補画素として選択する。
【0030】
次に、算出されたマッチング誤差に基づき対応位置を算出する方法について説明する。以下、中心候補画素として、注目画素402と判定エッジ方向で隣接する候補画素606が選択された場合について詳細に説明する。
【0031】
図6は、中心候補画素606と、中心候補画素と近接ライン上で隣接する候補画素607、608を示す図である。
【0032】
これら3つの候補画素606、607、608と、中心画素402とのマッチング誤差に基づき対応位置がもとめられる。
【0033】
図7は、それぞれの候補画素606,607,608について算出されたマッチング誤差を示すグラフである。横軸は、近接ライン410上での各候補画素の位置を示す。縦軸は、それぞれの候補画素について算出された注目画素402とのマッチング誤差の大きさを表している。
【0034】
中心候補画素として候補画素606が選択された場合、候補画素606及び、候補画素606と左右に隣接するそれぞれの候補画素607、608のマッチング誤差が対応位置を算出するために用いられる。
【0035】
まず、算出された候補画素606,607,608のマッチング誤差3点に偶関数による連続関数701を当てはめる。連続関数701は、注目画素402との類似度の近接ライン410上での分布を近似する近似関数である。偶関数は、放物線や、マッチング誤差の軸に対称な2本の直線の関数を用いる。
【0036】
以上のようにして当てはめた連続関数701が最小のマッチング誤差値703となる、すなわち、最も注目画素402との類似度が高いとみなされる近傍ライン410上での位置(白丸で図示)を、対応位置702として算出する。
【0037】
図8は、算出された近傍ライン410上の対応位置702の低解像画像フレーム上での位置を示す図である。対応位置702と注目画素402とを結ぶ線分を、注目画素と等輝度値をもった等輝度線分404とみなす。注目画素402の上1ラインにおける対応位置も、同様に算出する。
【0038】
また、注目画素402が、エッジ判定部101において横方向エッジ画素であると判定された場合は、右1ライン、及び、左1ラインを近傍ラインとする2つの対応位置を1つの注目画素に対してそれぞれ算出する。注目画素と、対応位置とを結ぶ2本の線分を注目画素と等輝度値をもった等輝度線分とみなす。
【0039】
また、本実施形態ではマッチング誤差を算出する方法として画素近傍ブロック間のマッチング誤差を用いたが、注目画素と候補画素とのマッチング誤差を求めてもよい。
【0040】
(1−3)画素値算出部103
画素値算出部103は、対応位置算出部102が求めた等輝度線分及びその輝度値から、所定の解像度に変換する際に内挿すべき位置の推定画素値を算出する。
【0041】
画素値算出部103には、低解像度画像データと、エッジ判定部101が検出したエッジ領域の情報と、対応位置算出部102が算出した対応位置が入力される。エッジ領域の情報に応じて、エッジ領域では内挿すべき高解像度画素の位置から最も近い位置の等輝度線分を2つ選択し、選択された等輝度線分を利用した内挿方法で高解像度画像の推定画素値を算出する。エッジ以外の領域では、低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。
【0042】
高解像度画像の推定画素値を算出する動作について、図9を用いて詳細に説明する。
【0043】
図9は、エッジ領域における高解像度画像の画素値を推定する様子を示す図である。図9に示すように、対応位置算出部102で算出された小数精度の対応位置の関係を、等輝度な線分901、902として用いる。推定したい高解像度画像の画素である新規画素903の輝度値をXm、n、低解像度画素904の輝度値をYNN、低解像度画素905の輝度値をYNN+1、新規画素903と最近傍の等輝度線分901との距離をdNN、最近傍の等輝度線分901と向かいに位置する最近傍の等輝度線分902と新規画素903との距離をdNN+1とすると、
【数1】
【0044】
として、エッジ領域における新規画素903の画素値を算出する。
【0045】
エッジ領域でない高解像度画像の画素値については、サンプリング定理に基づいたSinc関数でフィルタ処理を行う内挿法(三次畳込み法)にて画素値を算出する。
【0046】
(2)本実施形態の画像処理装置の動作
図2は、本実施形態の画像処理装置が低解像度画像データを高解像度画像データに変換する動作を説明するためのフローチャートである。
【0047】
(2−1)ステップS201
まず、低解像度画像データの画素値に基づき、各画素がエッジ領域,それ以外の領域のどちらの領域にあるかを判定する。エッジ判定部101は、高解像度化の対象となる1つのフレームの各画素の画素値に基づいて、画素値変化が直線的に連続に起こっているエッジ領域を検出する。また、検出されたエッジ領域の各画素を含む近傍領域でエッジが、縦方向のエッジ・横方向のエッジのどちらであるかを順次判定する。
【0048】
(2−2)ステップS202
次に、ステップS201で判定された注目画素の判定エッジ方向と直行する近接ライン上の対応位置を算出する。対応位置算出部102は、低解像度画像データのうち高解像度化の対象となる1つのフレームの中のエッジ領域の画素を1つずつ注目画素として順次設定し、注目画素の判定エッジ方向に沿った1以上の対応位置を小数精度で算出する。
【0049】
対応位置は、低解像度画像データの画素間隔でマッチング誤差を求め、連続な対称関数を当てはめて、マッチング誤差が最小となる近接ライン上の位置として求める。
【0050】
(2−3)ステップS203
次に、等輝度線分に基づき高解像度画像の推定画素値を算出する。画素値算出部103は、エッジ領域では、低解像度画像データのフレームの画素値と、対応位置に基づく等輝度線分と、高解像度画像の推定画素の画素位置に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。また、エッジ以外の領域では、低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。そして、推定された画素値によって作成された高解像度画像を出力して、終了する。
【0051】
(3)本実施形態の効果
このように、本実施形態では低解像度画像データの注目画素と近傍の画素との差分値から、近接ライン上に沿った対応位置を画素間隔の小数精度で算出する。算出された小数精度の対応位置に基づき画素間隔の等輝度線分を仮定し、高解像度画像の画素値を算出し内挿処理を行っている。それによって、ジャギーが少なく鮮鋭な高解像度画像の画素値を推定し内挿することが可能となる。
【0052】
なお、エッジ領域にないと判定された注目画素近傍に新規画素が位置する場合、Sinc関数でフィルタ処理を行う内挿法(三次畳込み法、BiCubic法など)や、絵柄適応フィルタ拡大法を用いて推定画素値を算出する。
【0053】
(第2の実施形態)
次に、本発明の第2の実施形態に係る画像処理装置について説明する。
【0054】
第1の実施形態の画像処理装置は、注目画素がエッジ領域にあるかどうかを判定し、判定結果に応じて対応位置を算出するか否かを決定していた。これは、PC(パソコン)などを用いた条件分岐処理に適した装置で好適に使用される構成である。
【0055】
本実施形態の画像処理装置は、注目画素がエッジ領域であるか否かによらず、対応位置算出部102で低解像度画素全てについて対応位置を算出する。また、並行して全画素についてエッジ領域であるか及び判定エッジ方向についても求める。その後に、内挿入する新規画素がエッジ領域と判定された注目画素近傍であるか、及び判定エッジ方向に応じて等輝度線分として用いる対応位置を選択し、内挿する輝度値を求めるものである。本実施形態は、LSIなどを用いた並列処理に適した装置で好適に使用される構成である。
【0056】
図10は、本実施形態に係る画像処理装置のブロック図である。
【0057】
本実施形態の画像処理装置は、エッジ判定部101が検出したエッジ領域の情報によらず、対応位置算出部102においてエッジ領域だけでなく全領域について対応位置を算出する。その後に、エッジ判定部101がエッジ領域として検出した領域範囲の対応位置のみを選択し、内挿する輝度値を算出するものである。
【0058】
本実施形態の画像処理装置によれば、LSI等の並列処理に適した装置であっても、ジャギーが少なく鮮鋭な高解像度画像の画素値を推定し内挿することが可能となる。
【0059】
(第3の実施形態)
次に、本発明の第3の実施形態に係る画像処理装置について図面を参照し説明する。本実施形態の画像処理装置では、よりエッジが強調され、先鋭な高解像度画像を得るために低解像度画素を先鋭化する強調処理をさらに行う。
【0060】
(1)本実施形態の画像処理装置の構成
図11は、本実施形態に係る画像処理装置のブロック図である。
【0061】
本実施形態の画像処理装置は、強調処理部104をさらに有する。
【0062】
強調処理部104は、入力された低解像度画像データを先鋭化する強調処理する。強調処理には、アンシャープマスクなどのエンハンスフィルタを用いる。強調処理部104は、強調処理された低解像度画像データを画素値算出部103に出力する。
【0063】
(2)本実施形態の画像処理装置の動作
図12は、本実施形態の画像処理装置の動作を説明するフローチャートである。本実施形態の画像処理装置は、第1の実施形態の対応位置を算出するステップS202と、内挿する画素値を算出するステップS203の間に、低解像度画像データの画素値を強調処理するステップを挿入し動作する。なお、強調処理がなされた低解像度画像データの輝度値に基づき内挿入する推定画素値を算出する点が異なる。なお、本実施形態の画像処理装置がステップS1201,S1202,S1204で行う処理は第1の実施形態の画像処理装置と同じ処理であるため詳細な説明は省略する。
【0064】
(2−1)ステップS1201
エッジ判定部101が、低解像度画像データのエッジ領域を検出する。また、検出されたエッジ領域にあると検出された各画素近傍でのエッジ方向が、縦方向のエッジ・横方向のエッジのどちらかであるかを順次判定する。
【0065】
(2−2)ステップS1202
次に、対応位置算出部102が注目画素の判定エッジ方向に沿った対応位置を算出する。対応位置は、低解像度画像データの画素間隔でマッチング誤差を求め、連続な偶関数を当てはめて、マッチング誤差が最小となる近接ライン上の位置として求める。
【0066】
(2−3)ステップS1203
強調処理部104に入力された低解像度の画像データの輪郭を強調する処置をする。低解像度画像データに加えて、強調処理した画像データを画素値算出部103に出力する。強調処理には、アンシャープマスクなどのエンハンスフィルタを用いる。強調処理部104は、強調処理された低解像度画像データを画素値算出部103に出力する。
【0067】
(2−4)ステップS1204
次に、画素値算出部103が高解像度画像データに変換する際に内挿する推定画素値を算出する。エッジ領域では、強調処理された低解像度画像データのフレームの画素値と、対応位置から成る等輝度線分と、高解像度画像の推定画素の画素位置に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。また、エッジ以外の領域では、強調処理されていない低解像度画像データのフレームの画素値に基づく内挿処理によって、推定画像の各画素の推定画素値を算出する。推定された画素値から成る高解像度画像を出力して、終了する。
【0068】
(3)本実施形態の効果
対応位置を等輝度線分として活用して内挿処理を行う本手法では、高解像度画素値の周りの低解像度画素の画素値を等輝度線分の画素値とし、この画素値との重み付け平均によって高解像度画像の画素値を算出している。しかし、低解像度画像がボケている(本来の輝度値がぼけで散乱している)場合には、高解像度化処理で内挿される画素による画像もぼけてしまう場合がある。
【0069】
本実施形態では、強調処理によってエッジを先鋭化した低解像度画像データの輝度値に基づいて内挿する画素値を算出している。それによって、エッジ領域においてジャギーが少なく、更に鮮鋭な高解像度画像を生成することができる。
【0070】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。
【0071】
また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
【0072】
さらに、異なる実施形態にわたる構成要素を組み合わせてもよい。
【0073】
高解像度化処理を行う低解像度画像データは、動画像でも静止画像でも構わない。それぞれの実施形態では、低解像度画像データを、例えば、カメラや携帯電話が撮影した画像データ、テレビや携帯AVプレイヤーが受信した画像データ、HDDに保存された画像データなどとして説明した。
【0074】
また、上記の格実施形態の情報提示装置は、例えば、汎用のコンピュータ装置を基本ハードウェアとして用いることでも実現することが可能である。実行されるプログラムは、上述した各機能を含むモジュール構成となっている。プログラムはインストール可能な形式又は実行可能な形式のファイルでCD-ROM、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供しても、ROM等に予め組み込んで提供してもよい。
【図面の簡単な説明】
【0075】
【図1】第1の実施形態に係る画像処理装置のブロック図。
【図2】第1の実施形態に係る画像処理装置の動作の一例を示すフローチャート。
【図3】エッジ領域を検出する方法を示す図。
【図4】注目画素と候補画素の位置を示す図。
【図5】対応位置の算出での候補画素と候補画像領域を示す図。
【図6】対応位置の算出での下1ライン目の中心候補画素及び隣接する候補画素を示す図。
【図7】対応位置の算出でのマッチング誤差補間法による小数精度の対応位置を算出する様子を示す図。
【図8】対応位置の算出での注目画素と小数精度の対応位置を示す図。
【図9】エッジ領域における高解像度画像の画素値を推定する様子を示す図。
【図10】第2の実施形態に係る画像処理装置のブロック図。
【図11】第3の実施形態に係る画像処理装置のブロック図。
【図12】第3の実施形態に係る画像処理装置の動作の一例を示すフローチャート。
【符号の説明】
【0076】
101・・・エッジ判定部
102・・・対応位置算出部
103・・・画素値算出部
104・・・強調処理部
302・・・低解像度画素
303,304・・・ソーベルフィルタ
301,401・・・低解像度画像フレーム
402・・・注目画素
402・・・注目領域
404,901,902・・・等輝度線分
410・・・近接ライン
508候補領域
606,607,608・・・候補画素
701・・・連続関数
702・・・対応位置
703・・・最小マッチング誤差値
904,905・・・低解像度画素
903・・・新規画素
【特許請求の範囲】
【請求項1】
低解像度画像を高解像度画像に変換する画像処理装置において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定手段と、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出手段と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、
前記近似関数に基づき、前記類似度が最も高いと推定される前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める手段と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えたことを特徴とする画像処理装置。
【請求項2】
前記選択手段は、前記新規画素の最近傍の前記等輝度線分を第1の線分として選択し、前記第1の線分と新規画素を挟む前記等輝度線分のうち前記新規画素の最近傍の等輝度線分を第2の線分としてさらに選択し、
前記画素値算出手段は、前記第1の線分と前記新規画素との距離である第1の距離と前記第2の線分と前記新規画素との距離である第2の距離とに応じた重み付けを前記第1の線分の輝度値及び前記第2の輝度値にすることで前記新規画素の画素値を算出することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記判定手段は前記注目画素近傍でエッジに沿った方向であるエッジ方向が縦方向か横方向かをさらに判定し、
前記抽出手段は、前記エッジ方向と直交する前記近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出することを特徴とした請求項2記載の画像処理装置。
【請求項4】
前記推定手段は、前記評価値に基づき前記候補画素のうち前記類似度が高い前記候補画素及び、該候補画素と前記近接ライン上で隣接する画素を抽出し、抽出された複数の画素の前記評価値から前記近似関数を推定することを特徴とする請求項3記載の画像処理装置。
【請求項5】
前記推定手段は、前記評価値から偶関数に基づく関数を前記近似関数として推定することを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記評価値算出手段は、前記評価値を前記注目画素近傍の領域と前記候補画素近傍の領域との類似度に基づき算出することを特徴とする請求項1乃至5のいずれか1項記載の画像処理装置。
【請求項7】
前記低解像度画像にエッジ強調処理を施す強調手段をさらに具備したことを特徴とする請求項1乃至6のいずれか1項記載の画像処理装置の画像処理装置。
【請求項8】
前記画素値算出部は、前記強調手段で強調処理された低解像度画像の画素値に基づき前記新規画素の画素値を算出することを特徴とする請求項7記載の画像処理装置。
【請求項9】
低解像度画像を高解像度画像に変換する画像処理装置において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にあるエッジ領域画素と判定する判定手段と、
前記低解像度画像の画素である注目画素と接するラインである近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出する抽出手段と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、
前記エッジ領域画素に対応する対応位置と、当該エッジ領域画素を結ぶ線分を当該注目画素の輝度値に対応する等輝度線分として求める手段と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えたことを特徴とする画像処理装置。
【請求項10】
低解像度画像を高解像度画像に変換する画像処理方法において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定するステップと、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出するステップと、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求めるステップと、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定するステップと、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求めるステップと、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求めるステップと、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択するステップと、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出するステップとを備えたことを特徴とする画像処理方法。
【請求項11】
低解像度画像を高解像度画像に変換する画像処理プログラムにおいて、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定機能と、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出機能と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出機能と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定機能と、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出機能と、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める機能と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択機能と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出機能とをコンピュータに実現させることを特徴とする画像処理プログラム。
【請求項1】
低解像度画像を高解像度画像に変換する画像処理装置において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定手段と、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出手段と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、
前記近似関数に基づき、前記類似度が最も高いと推定される前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める手段と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えたことを特徴とする画像処理装置。
【請求項2】
前記選択手段は、前記新規画素の最近傍の前記等輝度線分を第1の線分として選択し、前記第1の線分と新規画素を挟む前記等輝度線分のうち前記新規画素の最近傍の等輝度線分を第2の線分としてさらに選択し、
前記画素値算出手段は、前記第1の線分と前記新規画素との距離である第1の距離と前記第2の線分と前記新規画素との距離である第2の距離とに応じた重み付けを前記第1の線分の輝度値及び前記第2の輝度値にすることで前記新規画素の画素値を算出することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記判定手段は前記注目画素近傍でエッジに沿った方向であるエッジ方向が縦方向か横方向かをさらに判定し、
前記抽出手段は、前記エッジ方向と直交する前記近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出することを特徴とした請求項2記載の画像処理装置。
【請求項4】
前記推定手段は、前記評価値に基づき前記候補画素のうち前記類似度が高い前記候補画素及び、該候補画素と前記近接ライン上で隣接する画素を抽出し、抽出された複数の画素の前記評価値から前記近似関数を推定することを特徴とする請求項3記載の画像処理装置。
【請求項5】
前記推定手段は、前記評価値から偶関数に基づく関数を前記近似関数として推定することを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記評価値算出手段は、前記評価値を前記注目画素近傍の領域と前記候補画素近傍の領域との類似度に基づき算出することを特徴とする請求項1乃至5のいずれか1項記載の画像処理装置。
【請求項7】
前記低解像度画像にエッジ強調処理を施す強調手段をさらに具備したことを特徴とする請求項1乃至6のいずれか1項記載の画像処理装置の画像処理装置。
【請求項8】
前記画素値算出部は、前記強調手段で強調処理された低解像度画像の画素値に基づき前記新規画素の画素値を算出することを特徴とする請求項7記載の画像処理装置。
【請求項9】
低解像度画像を高解像度画像に変換する画像処理装置において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にあるエッジ領域画素と判定する判定手段と、
前記低解像度画像の画素である注目画素と接するラインである近接ライン上の複数の前記低解像度画像の画素を候補画素として抽出する抽出手段と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出手段と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定手段と、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出手段と、
前記エッジ領域画素に対応する対応位置と、当該エッジ領域画素を結ぶ線分を当該注目画素の輝度値に対応する等輝度線分として求める手段と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択手段と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出手段とを備えたことを特徴とする画像処理装置。
【請求項10】
低解像度画像を高解像度画像に変換する画像処理方法において、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定するステップと、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出するステップと、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求めるステップと、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定するステップと、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求めるステップと、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求めるステップと、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択するステップと、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出するステップとを備えたことを特徴とする画像処理方法。
【請求項11】
低解像度画像を高解像度画像に変換する画像処理プログラムにおいて、
前記低解像度画像から各画素の近傍での画素値の変化率が所定の値を越えた場合、当該画素がエッジ領域にある注目画素であると判定する判定機能と、
前記注目画素に接するラインである近接ライン上の複数の画素を候補画素として抽出する抽出機能と、
前記候補画素と前記注目画素との画素値の類似度に基づく評価値をそれぞれ求める評価値算出機能と、
前記評価値に基づき、前記近接ライン上での前記評価値の分布を近似する近似関数を前記近接ラインごとに推定する推定機能と、
前記類似度が最も高いと推定される前記近似関数上の位置に対応する、前記近接ライン上の位置を、前記注目画素の対応位置として求める位置算出機能と、
前記対応位置と前記注目画素を結ぶ線分を前記注目画素の輝度値に対応する等輝度線分として求める機能と、
前記高解像度画像用の画素である新規画素の位置の近傍に位置する等輝度線分をそれぞれ選択する選択機能と、
選択された等輝度線分に対応する注目画素の画素値と、前記新規画素から当該等輝度線分までの距離に基づき、前記新規画素の画素値を算出する画素値算出機能とをコンピュータに実現させることを特徴とする画像処理プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2009−212969(P2009−212969A)
【公開日】平成21年9月17日(2009.9.17)
【国際特許分類】
【出願番号】特願2008−55348(P2008−55348)
【出願日】平成20年3月5日(2008.3.5)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
【公開日】平成21年9月17日(2009.9.17)
【国際特許分類】
【出願日】平成20年3月5日(2008.3.5)
【出願人】(000003078)株式会社東芝 (54,554)
【Fターム(参考)】
[ Back to top ]