画像処理方法及び画像処理装置
【課題】MAP推定に比べて計算時間を大幅に短縮し得ると共にフレームメモリを用いることなくMAP推定に準ずる高画質な画像を得る。
【解決手段】画素差総計計算部102〜105は、入力画像の処理対象の注目画素と周辺の所定の3画素の各画素値との3つの差の総計をそれぞれ計算する。平均値計算部106は、画素差総計計算部102〜105により計算された4つの画素差総計の平均値を算出する。偏差計算部107〜110は、画素差総計計算部102〜105により計算された4つの画素差総計のそれぞれに対する平均値との偏差を計算する。減算部115〜118は、入力画像の注目画素の画素値から偏差計算部107〜110で計算された偏差に所定の定数Kを乗算した値を減じて、入力画像を水平方向及び垂直方向に2倍にサイズを拡大した拡大画像の4つの画素の値を出力する。
【解決手段】画素差総計計算部102〜105は、入力画像の処理対象の注目画素と周辺の所定の3画素の各画素値との3つの差の総計をそれぞれ計算する。平均値計算部106は、画素差総計計算部102〜105により計算された4つの画素差総計の平均値を算出する。偏差計算部107〜110は、画素差総計計算部102〜105により計算された4つの画素差総計のそれぞれに対する平均値との偏差を計算する。減算部115〜118は、入力画像の注目画素の画素値から偏差計算部107〜110で計算された偏差に所定の定数Kを乗算した値を減じて、入力画像を水平方向及び垂直方向に2倍にサイズを拡大した拡大画像の4つの画素の値を出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理方法及び画像処理装置に係り、特に画像の水平方向及び垂直方向の少なくとも一方向のサイズを1枚のフレーム単位で拡大する解像度変換を行う画像処理方法及び画像処理装置に関する。
【背景技術】
【0002】
近年の表示装置の大型化・高精細化に伴い、映像コンテンツに関しても高解像度化が望まれている。新たに制作されるコンテンツに関して高精細な撮影がされる傾向があるのは当然ながら、旧来の非高解像度で制作されているコンテンツに関しても高解像度化された形で視聴したいという要求が高まっている。
【0003】
また、近年の立体映像(3D映像)への関心の高まりに伴い、ステレオ映像の伝送・記録のための規格に関する議論が盛んになっている。中でもサイドバイサイド(Side-by-Side;SBS)方式とアバブビロー(Above-Below;AB)方式は2つの画面をそれぞれ水平・垂直に圧縮したものを1画面として伝送するものであるため、従来の伝送系をそのまま使える上に左右チャネルの同期を考慮する心配がないという特長を有する。特にSBS方式は放送・配信系の3Dコンテンツの標準規格の一つになりそうな情勢にある(非特許文献1参照)。
【0004】
現状の多くのテレビ装置においても非高解像度コンテンツを補間技術により画素数のみについては高精細パネルに見合ったものに増加させているが、本来の意味での高解像度化は事実上行われていない。
【0005】
低解像度画像から高解像度画像を生成する試みは古くから行われており、複数フレームの位置ずれを有する低解像度画像を統合して、高解像度画像を生成する手法については極めて幅広く検討されている。低解像度動画から高精細動画を作成する手法についても特許文献1他数多く検討されている。フレーム内での繰り返し部分や類似部分を利用した高解像度化技術も多数存在する。
【0006】
近年は特許文献2などのようにMAP(Maximum A Posteriori)推定方式による画像拡大も盛んであり高性能とされている。MAP推定では一般に、高解像度画像に対するある先見情報を利用して、事後確率を最大化する最適化問題として高解像度画像を推定する超解像処理を行う。フレーム内処理におけるMAP推定では、低解像度画像yが与えられたときに高解像度画像zが得られる確率を最大にするような計算処理を行う。非特許文献2の第2章に解説されているように、本質的には、(1)高解像度画像zについて4画素平均を行って縮小したものが低解像度画像yになること、(2)拡大画像の画素値がマルコフ性(個々の属性値がごく近傍の属性値のみに依存する)を満たすという2つの条件を満たすように計算する。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2004−56789号公報
【特許文献2】特開2008−33914号公報
【非特許文献1】平成22年9月28日検索、インターネット<URL:http://ja.wikipedia.org/wiki/立体テレビ放送>
【非特許文献2】武久泰夫、“統計的手法を用いた画像の高解像度化に関する研究”、長野県情報技術試験場研究報告、No.18,pp.28〜34,2002.
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来の高解像度化技術は、多くがフィルタによる補間もしくは類似部分の統合に依存している。フィルタによる補間においては、出力画像は一般的に平板なものになりがちであり、細部における原画のテクスチャが持つ風合いや感触を表現することが困難である。
【0009】
また、前述したSBS方式とAB方式は、2つの画面をそれぞれ水平・垂直に圧縮するプロセスで水平・垂直画素数が半分になっているので、一般的なバイリニア方式やバイキュービック方式で本来のサイズに復号された2枚の画像について、それぞれ水平・垂直方向の解像度が低くなってしまうことが課題である。
【0010】
前記のフィルタによる補間の課題や、SBS方式とAB方式の画像をバイリニア方式やバイキュービック方式で本来のサイズに復号した画像の解像度低下の課題は、MAP推定による処理によりある程度は改善できる。しかし、MAP推定では前記の2条件を満たす最適解を直接導出するのは極めて困難であり、事実上は数十〜数百回繰り返し計算で解を収束させていく必要がある。更に、MAP推定により繰り返し計算することは拡大画像のサイズのフレームメモリの必要性も意味する。このような理由からMAP推定は品質については評価されつつも、大きな計算リソース及びフレームメモリが必要であることが問題である。
【0011】
本発明は以上の点に鑑みなされたもので、MAP推定に比べて計算時間を大幅に短縮し得ると共にフレームメモリを用いることなくMAP推定に準ずる高画質な画像が得られる画像処理方法及び画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するため、第1発明の画像処理方法は、入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算ステップと、第1乃至第4の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差と、第3の画素差総計から平均値を減算した第3の偏差と、第4の画素差総計から平均値を減算した第4の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右上の画素の画素値を得る第2の演算ステップと、入力画像の処理対象の注目画素の画素値から第3の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち左下の画素の画素値を得る第3の演算ステップと、入力画像の処理対象の注目画素の画素値から第4の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右下の画素の画素値を得る第4の演算ステップとを含むことを特徴とする。
【0013】
また、上記の目的を達成するため、第2の発明の画像処理方法は、一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち右の画素の画素値を得る第2の演算ステップと、第1及び第2の演算ステップにより得られる拡大画像を2分割して一組のステレオ画像を分離出力する左右分離ステップとを含むことを特徴とする。
【0014】
また、上記の目的を達成するため、第3の発明の画像処理方法は、一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が垂直方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち下の画素の画素値を得る第2の演算ステップと、第1及び第2の演算ステップにより得られる拡大画像を2分割して一組のステレオ画像を分離出力する上下分離ステップとを含むことを特徴とする。
【0015】
また、上記の目的を達成するため、第4の発明の画像処理装置は、入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算手段と、第1乃至第4の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差と、第3の画素差総計から平均値を減算した第3の偏差と、第4の画素差総計から平均値を減算した第4の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右上の画素の画素値を得る第2の演算手段と、入力画像の処理対象の注目画素の画素値から第3の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち左下の画素の画素値を得る第3の演算手段と、入力画像の処理対象の注目画素の画素値から第4の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右下の画素の画素値を得る第4の演算手段とを有することを特徴とする。
【0016】
また、上記の目的を達成するため、第5の発明の画像処理装置は、一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、第1及び第2の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち右の画素の画素値を得る第2の演算手段と、第1及び第2の演算手段から出力される拡大画像を2分割して一組のステレオ画像を分離出力する左右分離手段とを有することを特徴とする。
【0017】
また、上記の目的を達成するため、第6の発明の画像処理装置は、一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、第1及び第2の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が垂直方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち下の画素の画素値を得る第2の演算手段と、第1及び第2の演算手段から出力される拡大画像を2分割して一組のステレオ画像を分離出力する上下分離手段とを有することを特徴とする。
【発明の効果】
【0018】
本発明によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、マルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細な高解像度画像への解像度変換を実現できる。
【図面の簡単な説明】
【0019】
【図1】本発明の画像処理装置の第1の実施の形態のブロック図である。
【図2】本発明の画像処理方法の第1の実施の形態のフローチャートである。
【図3】本発明の第1の実施の形態の入力画像の画素配列を示す図である。
【図4】本発明の第1の実施の形態により得られる拡大画像の画素配列を示す図である。
【図5】本発明の画像処理装置の第2の実施の形態のブロック図である。
【図6】本発明の画像処理方法の第2の実施の形態のフローチャートである。
【図7】ステレオ画像の一例を示す図である。
【図8】本発明の第2の実施の形態の入力画像の一例を示す図である。
【図9】本発明の第2、第3の実施の形態の入力画像の画素配列を示す図である。
【図10】本発明の第2の実施の形態により得られる拡大画像の画素配列を示す図である。
【図11】本発明の画像処理装置の第3の実施の形態のブロック図である。
【図12】本発明の画像処理方法の第3の実施の形態のフローチャートである。
【図13】本発明の第3の実施の形態の入力画像の一例を示す図である。
【図14】本発明の第3の実施の形態により得られる拡大画像の画素配列を示す図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
【0021】
(第1の実施の形態)
図1は、本発明になる画像処理装置の第1の実施の形態のブロック図、図2は、本発明になる画像処理方法の第1の実施の形態のフローチャートを示す。
【0022】
図1において、本実施の形態の画像処理装置100は、低解像度画像入力部101と、4つの画素差総計計算部102〜105と、平均値計算部106と、4つの偏差計算部107〜110と、偏差計算部107〜110に対応して設けられた4つの乗算部111〜114と、乗算部111〜114に対応して設けられた4つの減算部115〜118と、減算部115〜118から出力された信号を合成して高解像度画像として出力する高解像度画像出力部119とより構成される。
【0023】
低解像度画像入力部101に入力されて取り込まれる低解像度画像は、処理前の解像度の画像である。本実施の形態の画像処理装置100は、この低解像度画像から200%サイズの高解像度画像を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置100は、図3に示すように、入力される低解像度画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて高解像度化の画像処理を行うものとする。
【0024】
画素差総計計算部102〜105は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部106は、画素差総計計算部102〜105からそれぞれ出力される4つの画素差総計の平均値を計算する。偏差計算部107〜110は、対応して設けられた画素差総計計算部102〜105からの画素差総計と平均値計算部106から出力される平均値との差を偏差として計算する。乗算部111〜114は、対応して設けられた偏差計算部107から出力される偏差と定数Kとを乗算する。減算部115〜118は、低解像度画像入力部101に入力される低解像度画像の画素値から対応して設けられた乗算部111〜114から出力される乗算結果を減算して、それぞれ拡大後の左上、右上、左下、右下の画素の画素値を出力する。
【0025】
次に、本実施の形態の画像処理装置100の動作について、図2のフローチャートを併せ参照して説明する。
【0026】
まず、低解像度画像入力部101が処理対象前の画像である低解像度画像を取り込む(ステップS1)。続いて、画素差総計計算部102〜105が低解像度画像入力部101から出力される低解像度画像に対して画素差総計をそれぞれ計算する(ステップS2)。ここで、画素差総計計算部102は、入力される低解像度画像の図3に示した処理対象の注目画素「4」の画素値(以下、これをyl[4]と記す)と注目画素の左上の画素「0」の画素値(以下、これをyl[0]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値(以下、これをyl[3]と記す)との差、及びyl[4]と注目画素の上の画素「1」の画素値(以下、これをyl[1]と記す)との差の総計(これを「sub0」とする)を計算する。
【0027】
また、画素差総計計算部103は、yl[4]と注目画素の右上の画素「2」の画素値(以下、これをyl[2]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[1]との差、及びyl[4]と注目画素の右の画素「5」の画素値(以下、これをyl[5]と記す)との差の総計(これを「sub1」とする)を計算する。
【0028】
また、画素差総計計算部104は、yl[4]と注目画素の左下の画素「6」の画素値(以下、これをyl[6]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[3]との差、及びyl[4]と注目画素の下の画素「7」の画素値(以下、これをyl[7]と記す)との差の総計(これを「sub2」とする)を計算する。
【0029】
更に、画素差総計計算部105は、yl[4]と注目画素の右下の画素「8」の画素値(以下、これをyl[8]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[5]との差、及びyl[4]と注目画素とyl[7]との差の総計(これを「sub3」とする)を計算する。従って、以上の画素差総計計算部104〜105の各計算結果である画素差総計sub0〜sub3は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0030】
sub0=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+(yl[4]-yl[3]) (1)
sub1=0.7×(yl[4]-yl[2])+(yl[4]-yl[1])+(yl[4]-yl[5]) (2)
sub2=0.7×(yl[4]-yl[6])+(yl[4]-yl[3])+(yl[4]-yl[7]) (3)
sub3=0.7×(yl[4]-yl[8])+(yl[4]-yl[5])+(yl[4]-yl[7]) (4)
この画素差総計sub0〜sub3は、注目画素の画素値yl[4]が、左上、右上、左下、右下に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub0〜sub3を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub0〜sub3の値は、正又は負の値又は0である。
【0031】
次に、平均値計算部106が画素差総計sub0〜sub3の平均値(これを「ave」とする)を次式により計算する(ステップS3)。
【0032】
ave=(sub0+sub1+sub2+sub3)/4 (5)
次に、偏差計算部107〜110が、対応して設けられた画素差総計計算部102〜105により計算された画素差総計sub0〜sub3と、平均値計算部106により計算された平均値aveとの差を偏差として計算する(ステップS4)。従って、偏差計算部107の計算結果である偏差adj0、偏差計算部108の計算結果である偏差adj1、偏差計算部109の計算結果である偏差adj2、偏差計算部110の計算結果である偏差adj3は、それぞれ次式で表される。
【0033】
adj0=sub0−ave (6)
adj1=sub1−ave (7)
adj2=sub2−ave (8)
adj3=sub3−ave (9)
次に、乗算部111、112、113、114が、対応して設けられた偏差計算部107、108、109、110により計算された偏差adj0、adj1、adj2、adj3にそれぞれ定数Kを乗算する(ステップS5)。なお、定数Kは、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0034】
次に、減算部115〜118は、低解像度画像入力部101により取り込まれた低解像度画像の注目画素の画素値yl[4]から、対応して設けられた乗算部111〜114の乗算結果を減算する(ステップS6)。これら減算部115〜118により得られる4つの減算結果は、低解像度画像の注目画素「4」の水平方向、垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の4つの画素「4al」、「4ar」、「4bl」、「4br」の画素値(以下、これらをyh[4al]、yh[4ar]、yh[4bl]、yh[4br]と記す)を示す。ここで、上記の4つの画素「4al」、「4ar」、「4bl」、「4br」は、図4に示すように、縦6個、横6個の計36個の中心の4個の画素であり、画素「4al」は拡大後の左上の画素、画素「4ar」は拡大後の右上の画素、画素「4bl」は拡大後の左下の画素、画素「4br」は拡大後の右下の画素である。
【0035】
上記の減算部115から出力される減算結果が示す画素値yh[4al]、減算部116から出力される減算結果が示す画素値yh[4ar]、減算部117から出力される減算結果が示す画素値yh[4bl]、減算部118から出力される減算結果が示す画素値yh[4br]は、それぞれ次式で表される。
【0036】
yh[4al]=yl[4]−K・adj0 (10)
yh[4ar]=yl[4]−K・adj1 (11)
yh[4bl]=yl[4]−K・adj2 (12)
yh[4br]=yl[4]−K・adj3 (13)
そして、高解像度画像出力部119は、上記の減算部115〜118により得られる4つの減算結果を合成して、低解像度画像の注目画素「4」の水平方向、垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の、前記注目画素と同じサイズの図4に示す4つの画素「4al」、「4ar」、「4bl」、「4br」の画素値として出力する(ステップS7)。
【0037】
ここで、上記の4つの偏差adj0〜adj3の合計値は、平均値aveからの偏差の平均なので0になる。結果的に次式が成立する。
【0038】
(yh[4al]+yh[4ar]+yh[4bl]+yh[4br])/4=yl[4] (14)
これは、高解像度化を行っても4画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0039】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高解像度画像を得ることができる。
【0040】
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。図5は、本発明になる画像処理装置の第2の実施の形態のブロック図、図6は、本発明になる画像処理方法の第2の実施の形態のフローチャートを示す。
【0041】
図5において、本実施の形態の画像処理装置200は、低解像度画像入力部201と、2つの画素差総計計算部202及び203と、平均値計算部204と、2つの偏差計算部205及び206と、偏差計算部205及び206に対応して設けられた2つの乗算部207及び208と、乗算部207及び208に対応して設けられた2つの減算部209及び210と、減算部209及び210から出力された信号を合成して高解像度画像として出力する高解像度画像出力部211と、高解像度画像を左右に分離する左右分離部212とより構成される。
【0042】
低解像度画像入力部201に入力されて取り込まれる低解像度画像は、処理前の解像度の画像であり、SBS(Side-By-Side)方式の画像(以下、SBS画像という)である。ここで、SBS画像は、図7に示す1フレームの左目用画像11L及び1フレームの右目用画像11Rの2フレーム(すなわち、一組のステレオ画像)をそれぞれ水平方向に1/2にサイズを圧縮して得られた、図8に示す圧縮左目用画像12A及び圧縮右目用画像12Bをそれぞれ水平方向に並べて1フレームとして伝送される画像である。
【0043】
本実施の形態の画像処理装置200は、このSBS画像から2枚の本来のサイズのステレオ画像(図7に示した左目用画像11L及び右目用画像11R)を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置200は、図9に示すように、入力されるSBS画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて画像処理を行うものとする。
【0044】
画素差総計計算部202及び203は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部204は、画素差総計計算部202及び203からそれぞれ出力される2つの画素差総計の平均値を計算する。偏差計算部205及び206は、対応して設けられた画素差総計計算部202及び203からの画素差総計と平均値計算部204から出力される平均値との差を偏差として計算する。乗算部207及び208は、対応して設けられた偏差計算部205及び206から出力される偏差と定数K1とを乗算する。減算部209及び210は、低解像度画像入力部201に入力される低解像度画像の画素値から対応して設けられた乗算部207及び208の乗算結果を減算して、それぞれ1フレームの画像サイズが水平方向に2倍に拡大された画素の画素値を出力する。左右分離部212は、高解像度画像出力部211から出力される1フレームの画像サイズが水平方向に2倍に拡大された画素からなる高解像度画像を左右に分離して1フレームの画像サイズが本来のサイズに戻された2枚の復号画像を出力する。
【0045】
次に、本実施の形態の画像処理装置200の動作について、図6のフローチャート等を併せ参照して説明する。
【0046】
まず、低解像度画像入力部201が図8に示したような処理対象前の低解像度画像であるSBS画像を取り込む(ステップS11)。続いて、画素差総計計算部202及び203が低解像度画像入力部201から出力されるSBS画像に対して画素差総計をそれぞれ計算する(ステップS12)。ここで、画素差総計計算部202は、入力されるSBS画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左上の画素「0」の画素値yl[0]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の左下の画素「6」の画素値yl[6]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub10」とする)を計算する。
【0047】
また、画素差総計計算部203は、入力されるSBS画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の右上の画素「2」の画素値yl[2]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差、及びyl[4]と注目画素の右下の画素「8」の画素値yl[8]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub11」とする)を計算する。従って、以上の画素差総計計算部202及び203の各計算結果である画素差総計sub10及びsub11は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0048】
sub10=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+(yl[4]-yl[3])
+0.7×(yl[4]-yl[6])+(yl[4]-yl[7]) (15)
sub11=0.7×(yl[4]-yl[2])+(yl[4]-yl[1])+(yl[4]-yl[5])
+0.7×(yl[4]-yl[8])+(yl[4]-yl[7]) (16)
この画素差総計sub10及びsub11は、注目画素の画素値yl[4]が、左、右に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub10及びsub11を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub10及びsub11の値は、正又は負の値又は0である。
【0049】
次に、平均値計算部204が画素差総計sub10及びsub11の平均値(これを「ave1」とする)を次式により計算する(ステップS13)。
【0050】
ave1=(sub10+sub11)/2 (17)
次に、偏差計算部205及び206が、対応して設けられた画素差総計計算部202及び203により計算された画素差総計sub10及びsub12と、平均値計算部204により計算された平均値ave1との差を偏差として計算する(ステップS14)。従って、偏差計算部205の計算結果である偏差adj10、偏差計算部206の計算結果である偏差adj11は、それぞれ次式で表される。
【0051】
adj10=sub10−ave1 (18)
adj11=sub11−ave1 (19)
次に、乗算部207、208が、対応して設けられた偏差計算部205、206により計算された偏差adj10、adj11にそれぞれ定数K1を乗算する(ステップS15)。なお、定数K1は、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0052】
次に、減算部209、210は、低解像度画像入力部201により取り込まれたSBS画像の注目画素の画素値yl[4]から、対応して設けられた乗算部207、208の乗算結果を減算する(ステップS16)。これら減算部207及び208により得られる2つの減算結果は、SBS画像の注目画素「4」の水平方向のサイズを2倍に拡大して得られる高解像度画像の2つの画素「4l」、「4r」の画素値(以下、これらをyh[4l]、yh[4r]と記す)を示す。ここで、上記の2つの画素「4l」、「4r」は、図10に示すように、縦3個、横6個の計18個の中心の2個の画素であり、画素「4l」は拡大後の左の画素、画素「4r」は拡大後の右の画素である。
【0053】
上記の減算部209から出力される減算結果が示す画素値yh[4l]、減算部210から出力される減算結果が示す画素値yh[4r]は、それぞれ次式で表される。
【0054】
yh[4l]=yl[4]−K1・adj10 (20)
yh[4r]=yl[4]−K1・adj11 (21)
続いて、高解像度画像出力部211は、上記の減算部209及び210により得られる2つの減算結果を合成して、SBS画像の注目画素「4」の水平方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の2つの画素「4l」、「4r」の画素値として出力する(ステップS17)。そして、左右分離部212は、高解像度画像出力部211から出力される各画素の水平方向のサイズが入力時の2倍に拡大された高解像度画像の水平方向の中央位置で左右に2分割し、図7に示した1フレームの本来の画像サイズの左目用画像11Lと、1フレームの本来の画像サイズの右目用画像11Rとを分離出力する(ステップS18)。
【0055】
ここで、上記の2つの偏差adj10とadj11との合計値は、平均値ave1からの偏差の平均なので0になる。結果的に次式が成立する。
【0056】
(yh[4l]+yh[4r])/2=yl[4] (22)
これは、高解像度化を行っても2画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0057】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細なSBS画像の復号が実現される。
【0058】
(第3の実施の形態)
次に、本発明の第3の実施の形態について説明する。図11は、本発明になる画像処理装置の第3の実施の形態のブロック図、図12は、本発明になる画像処理方法の第3の実施の形態のフローチャートを示す。
【0059】
図11において、本実施の形態の画像処理装置300は、低解像度画像入力部301と、2つの画素差総計計算部302及び303と、平均値計算部304と、2つの偏差計算部305及び306と、偏差計算部305及び306に対応して設けられた2つの乗算部307及び308と、乗算部307及び308に対応して設けられた2つの減算部309及び310と、減算部309及び310から出力された信号を合成して高解像度画像として出力する高解像度画像出力部311と、高解像度画像を上下に分離する上下分離部312とより構成される。
【0060】
低解像度画像入力部301に入力されて取り込まれる低解像度画像は、処理前の解像度の画像であり、AB(Above-Below)方式の画像(以下、AB画像という)である。ここで、AB画像は、図7に示した1フレームの左目用画像11L及び1フレームの右目用画像11Rの2フレーム(すなわち、一組のステレオ画像)を、それぞれ垂直方向に1/2にサイズを圧縮して得られた、図13に示す圧縮左目用画像13A及び圧縮右目用画像13Bをそれぞれ垂直方向に並べて1フレームとして伝送される画像である。
【0061】
本実施の形態の画像処理装置300は、このAB画像から2枚の本来のサイズのステレオ画像(図7に示した左目用画像11L及び右目用画像11R)を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置300は、図9に示したように、入力されるAB画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて画像処理を行うものとする。
【0062】
画素差総計計算部302及び303は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部304は、画素差総計計算部302及び303からそれぞれ出力される2つの画素差総計の平均値を計算する。偏差計算部305及び306は、対応して設けられた画素差総計計算部302及び303からの画素差総計と平均値計算部204から出力される平均値との差を偏差として計算する。乗算部307及び308は、対応して設けられた偏差計算部305及び306から出力される偏差と定数K2とを乗算する。減算部309及び310は、低解像度画像入力部301に入力される低解像度画像の画素値から対応して設けられた乗算部307及び308の乗算結果を減算して、それぞれ1フレームの画像サイズが垂直方向に2倍に拡大された画素の画素値を出力する。上下分離部312は、高解像度画像出力部311から出力される1フレームの画像サイズが垂直方向に2倍に拡大された画素からなる高解像度画像を上下に分離して1フレームの画像サイズが本来のサイズに戻された2枚の復号画像を出力する。
【0063】
次に、本実施の形態の画像処理装置300の動作について、図12のフローチャート等を併せ参照して説明する。
【0064】
まず、低解像度画像入力部301が図13に示したような処理対象前の低解像度画像であるAB画像を取り込む(ステップS21)。続いて、画素差総計計算部302及び303が低解像度画像入力部301から出力されるAB画像に対して画素差総計をそれぞれ計算する(ステップS22)。ここで、画素差総計計算部302は、入力されるAB画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左上の画素「0」の画素値yl[0]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の右上の画素「2」の画素値yl[2]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差の総計(これを「sub20」とする)を計算する。
【0065】
また、画素差総計計算部303は、入力されるAB画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左下の画素「6」の画素値yl[6]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差、及びyl[4]と注目画素の右下の画素「8」の画素値yl[8]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub21」とする)を計算する。従って、以上の画素差総計計算部302及び303の各計算結果である画素差総計sub20及びsub21は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0066】
sub20=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+0.7×(yl[4]-yl[2])
+(yl[4]-yl[3])+(yl[4]-yl[5]) (23)
sub21=(yl[4]-yl[3])+(yl[4]-yl[5])+0.7×(yl[4]-yl[6])
+(yl[4]-yl[7])+0.7×(yl[4]-yl[8]) (24)
この画素差総計sub20及びsub21は、注目画素の画素値yl[4]が、上、下に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub20及びsub21を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub20及びsub21の値は、正又は負の値又は0である。
【0067】
次に、平均値計算部304が画素差総計sub20及びsub21の平均値(これを「ave2」とする)を次式により計算する(ステップS23)。
【0068】
ave2=(sub20+sub21)/2 (25)
次に、偏差計算部305及び306が、対応して設けられた画素差総計計算部302及び303により計算された画素差総計sub20及びsub21と、平均値計算部304により計算された平均値ave2との差を偏差として計算する(ステップS24)。従って、偏差計算部305の計算結果である偏差adj20、偏差計算部306の計算結果である偏差adj21は、それぞれ次式で表される。
【0069】
adj20=sub20−ave2 (26)
adj21=sub21−ave2 (27)
次に、乗算部307、308が、対応して設けられた偏差計算部305、306により計算された偏差adj20、adj21にそれぞれ定数K2を乗算する(ステップS25)。なお、定数K2は、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0070】
次に、減算部309、310は、低解像度画像入力部301により取り込まれたAB画像の注目画素の画素値yl[4]から、対応して設けられた乗算部307、308の乗算結果を減算する(ステップS26)。これら減算部307及び308により得られる2つの減算結果は、AB画像の注目画素「4」の垂直方向のサイズを2倍に拡大して得られる高解像度画像の2つの画素「4a」、「4b」の画素値(以下、これらをyh[4a]、yh[4b]と記す)を示す。ここで、上記の2つの画素「4a」、「4b」は、図14に示すように、縦6個、横3個の計18個の中心の2個の画素であり、画素「4a」は拡大後の上の画素、画素「4b」は拡大後の下の画素である。
【0071】
上記の減算部309から出力される減算結果が示す画素値yh[4a]、減算部310から出力される減算結果が示す画素値yh[4b]は、それぞれ次式で表される。
【0072】
yh[4a]=yl[4]−K2・adj20 (28)
yh[4b]=yl[4]−K2・adj21 (29)
続いて、高解像度画像出力部311は、上記の減算部309及び310により得られる2つの減算結果を合成して、AB画像の注目画素「4」の垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の2つの画素「4a」、「4b」の画素値として出力する(ステップS27)。そして、上下分離部312は、高解像度画像出力部311から出力される各画素の垂直方向のサイズが入力時の2倍に拡大された高解像度画像の垂直方向の中央位置で上下に2分割し、図7に示した1フレームの本来の画像サイズの左目用画像11Lと、1フレームの本来の画像サイズの右目用画像11Rとを分離出力する(ステップS28)。
【0073】
ここで、上記の2つの偏差adj20とadj21との合計値は、平均値ave2からの偏差の平均なので0になる。結果的に次式が成立する。
【0074】
(yh[4a]+yh[4b])/2=yl[4] (30)
これは、高解像度化を行っても2画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0075】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細なAB画像の復号が実現される。
【0076】
なお、本発明は、ハードウェアの画像拡大処理に限定されるものでなく、コンピュータプログラムにより処理することもできる。この場合、コンピュータプログラムは、記録媒体からコンピュータに取り込まれてもよいし、ネットワーク経由でコンピュータに取り込まれてもよい。
【符号の説明】
【0077】
100、200、300 画像処理装置
101、201、301 低解像度画像入力部
102〜105、202、203、302、303 画素差総計計算部
106、204、304 平均値計算部
107〜110、205、206、305、306 偏差計算部
111〜114、207、208、307、308 乗算部
115〜118、209、210、309、310 減算部
119、211、311 高解像度画像出力部
212 左右分離部
312 上下分離部
【技術分野】
【0001】
本発明は画像処理方法及び画像処理装置に係り、特に画像の水平方向及び垂直方向の少なくとも一方向のサイズを1枚のフレーム単位で拡大する解像度変換を行う画像処理方法及び画像処理装置に関する。
【背景技術】
【0002】
近年の表示装置の大型化・高精細化に伴い、映像コンテンツに関しても高解像度化が望まれている。新たに制作されるコンテンツに関して高精細な撮影がされる傾向があるのは当然ながら、旧来の非高解像度で制作されているコンテンツに関しても高解像度化された形で視聴したいという要求が高まっている。
【0003】
また、近年の立体映像(3D映像)への関心の高まりに伴い、ステレオ映像の伝送・記録のための規格に関する議論が盛んになっている。中でもサイドバイサイド(Side-by-Side;SBS)方式とアバブビロー(Above-Below;AB)方式は2つの画面をそれぞれ水平・垂直に圧縮したものを1画面として伝送するものであるため、従来の伝送系をそのまま使える上に左右チャネルの同期を考慮する心配がないという特長を有する。特にSBS方式は放送・配信系の3Dコンテンツの標準規格の一つになりそうな情勢にある(非特許文献1参照)。
【0004】
現状の多くのテレビ装置においても非高解像度コンテンツを補間技術により画素数のみについては高精細パネルに見合ったものに増加させているが、本来の意味での高解像度化は事実上行われていない。
【0005】
低解像度画像から高解像度画像を生成する試みは古くから行われており、複数フレームの位置ずれを有する低解像度画像を統合して、高解像度画像を生成する手法については極めて幅広く検討されている。低解像度動画から高精細動画を作成する手法についても特許文献1他数多く検討されている。フレーム内での繰り返し部分や類似部分を利用した高解像度化技術も多数存在する。
【0006】
近年は特許文献2などのようにMAP(Maximum A Posteriori)推定方式による画像拡大も盛んであり高性能とされている。MAP推定では一般に、高解像度画像に対するある先見情報を利用して、事後確率を最大化する最適化問題として高解像度画像を推定する超解像処理を行う。フレーム内処理におけるMAP推定では、低解像度画像yが与えられたときに高解像度画像zが得られる確率を最大にするような計算処理を行う。非特許文献2の第2章に解説されているように、本質的には、(1)高解像度画像zについて4画素平均を行って縮小したものが低解像度画像yになること、(2)拡大画像の画素値がマルコフ性(個々の属性値がごく近傍の属性値のみに依存する)を満たすという2つの条件を満たすように計算する。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2004−56789号公報
【特許文献2】特開2008−33914号公報
【非特許文献1】平成22年9月28日検索、インターネット<URL:http://ja.wikipedia.org/wiki/立体テレビ放送>
【非特許文献2】武久泰夫、“統計的手法を用いた画像の高解像度化に関する研究”、長野県情報技術試験場研究報告、No.18,pp.28〜34,2002.
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来の高解像度化技術は、多くがフィルタによる補間もしくは類似部分の統合に依存している。フィルタによる補間においては、出力画像は一般的に平板なものになりがちであり、細部における原画のテクスチャが持つ風合いや感触を表現することが困難である。
【0009】
また、前述したSBS方式とAB方式は、2つの画面をそれぞれ水平・垂直に圧縮するプロセスで水平・垂直画素数が半分になっているので、一般的なバイリニア方式やバイキュービック方式で本来のサイズに復号された2枚の画像について、それぞれ水平・垂直方向の解像度が低くなってしまうことが課題である。
【0010】
前記のフィルタによる補間の課題や、SBS方式とAB方式の画像をバイリニア方式やバイキュービック方式で本来のサイズに復号した画像の解像度低下の課題は、MAP推定による処理によりある程度は改善できる。しかし、MAP推定では前記の2条件を満たす最適解を直接導出するのは極めて困難であり、事実上は数十〜数百回繰り返し計算で解を収束させていく必要がある。更に、MAP推定により繰り返し計算することは拡大画像のサイズのフレームメモリの必要性も意味する。このような理由からMAP推定は品質については評価されつつも、大きな計算リソース及びフレームメモリが必要であることが問題である。
【0011】
本発明は以上の点に鑑みなされたもので、MAP推定に比べて計算時間を大幅に短縮し得ると共にフレームメモリを用いることなくMAP推定に準ずる高画質な画像が得られる画像処理方法及び画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記目的を達成するため、第1発明の画像処理方法は、入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算ステップと、第1乃至第4の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差と、第3の画素差総計から平均値を減算した第3の偏差と、第4の画素差総計から平均値を減算した第4の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右上の画素の画素値を得る第2の演算ステップと、入力画像の処理対象の注目画素の画素値から第3の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち左下の画素の画素値を得る第3の演算ステップと、入力画像の処理対象の注目画素の画素値から第4の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右下の画素の画素値を得る第4の演算ステップとを含むことを特徴とする。
【0013】
また、上記の目的を達成するため、第2の発明の画像処理方法は、一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち右の画素の画素値を得る第2の演算ステップと、第1及び第2の演算ステップにより得られる拡大画像を2分割して一組のステレオ画像を分離出力する左右分離ステップとを含むことを特徴とする。
【0014】
また、上記の目的を達成するため、第3の発明の画像処理方法は、一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が垂直方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算ステップと、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち下の画素の画素値を得る第2の演算ステップと、第1及び第2の演算ステップにより得られる拡大画像を2分割して一組のステレオ画像を分離出力する上下分離ステップとを含むことを特徴とする。
【0015】
また、上記の目的を達成するため、第4の発明の画像処理装置は、入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算手段と、第1乃至第4の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差と、第3の画素差総計から平均値を減算した第3の偏差と、第4の画素差総計から平均値を減算した第4の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右上の画素の画素値を得る第2の演算手段と、入力画像の処理対象の注目画素の画素値から第3の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち左下の画素の画素値を得る第3の演算手段と、入力画像の処理対象の注目画素の画素値から第4の偏差に定数を乗じた値を減じて、拡大画像の4画素のうち右下の画素の画素値を得る第4の演算手段とを有することを特徴とする。
【0016】
また、上記の目的を達成するため、第5の発明の画像処理装置は、一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、第1及び第2の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が水平方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち右の画素の画素値を得る第2の演算手段と、第1及び第2の演算手段から出力される拡大画像を2分割して一組のステレオ画像を分離出力する左右分離手段とを有することを特徴とする。
【0017】
また、上記の目的を達成するため、第6の発明の画像処理装置は、一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、入力画像の処理対象の注目画素の画素値と、注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、第1及び第2の画素差総計の平均値を計算する平均値計算手段と、第1の画素差総計から平均値を減算した第1の偏差と、第2の画素差総計から平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、入力画像の処理対象の注目画素の画素値から第1の偏差に定数を乗じた値を減じて、入力画像が垂直方向に2倍サイズに拡大された拡大画像の注目画素に対応した位置の注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算手段と、入力画像の処理対象の注目画素の画素値から第2の偏差に定数を乗じた値を減じて、拡大画像の2画素のうち下の画素の画素値を得る第2の演算手段と、第1及び第2の演算手段から出力される拡大画像を2分割して一組のステレオ画像を分離出力する上下分離手段とを有することを特徴とする。
【発明の効果】
【0018】
本発明によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、マルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細な高解像度画像への解像度変換を実現できる。
【図面の簡単な説明】
【0019】
【図1】本発明の画像処理装置の第1の実施の形態のブロック図である。
【図2】本発明の画像処理方法の第1の実施の形態のフローチャートである。
【図3】本発明の第1の実施の形態の入力画像の画素配列を示す図である。
【図4】本発明の第1の実施の形態により得られる拡大画像の画素配列を示す図である。
【図5】本発明の画像処理装置の第2の実施の形態のブロック図である。
【図6】本発明の画像処理方法の第2の実施の形態のフローチャートである。
【図7】ステレオ画像の一例を示す図である。
【図8】本発明の第2の実施の形態の入力画像の一例を示す図である。
【図9】本発明の第2、第3の実施の形態の入力画像の画素配列を示す図である。
【図10】本発明の第2の実施の形態により得られる拡大画像の画素配列を示す図である。
【図11】本発明の画像処理装置の第3の実施の形態のブロック図である。
【図12】本発明の画像処理方法の第3の実施の形態のフローチャートである。
【図13】本発明の第3の実施の形態の入力画像の一例を示す図である。
【図14】本発明の第3の実施の形態により得られる拡大画像の画素配列を示す図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
【0021】
(第1の実施の形態)
図1は、本発明になる画像処理装置の第1の実施の形態のブロック図、図2は、本発明になる画像処理方法の第1の実施の形態のフローチャートを示す。
【0022】
図1において、本実施の形態の画像処理装置100は、低解像度画像入力部101と、4つの画素差総計計算部102〜105と、平均値計算部106と、4つの偏差計算部107〜110と、偏差計算部107〜110に対応して設けられた4つの乗算部111〜114と、乗算部111〜114に対応して設けられた4つの減算部115〜118と、減算部115〜118から出力された信号を合成して高解像度画像として出力する高解像度画像出力部119とより構成される。
【0023】
低解像度画像入力部101に入力されて取り込まれる低解像度画像は、処理前の解像度の画像である。本実施の形態の画像処理装置100は、この低解像度画像から200%サイズの高解像度画像を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置100は、図3に示すように、入力される低解像度画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて高解像度化の画像処理を行うものとする。
【0024】
画素差総計計算部102〜105は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部106は、画素差総計計算部102〜105からそれぞれ出力される4つの画素差総計の平均値を計算する。偏差計算部107〜110は、対応して設けられた画素差総計計算部102〜105からの画素差総計と平均値計算部106から出力される平均値との差を偏差として計算する。乗算部111〜114は、対応して設けられた偏差計算部107から出力される偏差と定数Kとを乗算する。減算部115〜118は、低解像度画像入力部101に入力される低解像度画像の画素値から対応して設けられた乗算部111〜114から出力される乗算結果を減算して、それぞれ拡大後の左上、右上、左下、右下の画素の画素値を出力する。
【0025】
次に、本実施の形態の画像処理装置100の動作について、図2のフローチャートを併せ参照して説明する。
【0026】
まず、低解像度画像入力部101が処理対象前の画像である低解像度画像を取り込む(ステップS1)。続いて、画素差総計計算部102〜105が低解像度画像入力部101から出力される低解像度画像に対して画素差総計をそれぞれ計算する(ステップS2)。ここで、画素差総計計算部102は、入力される低解像度画像の図3に示した処理対象の注目画素「4」の画素値(以下、これをyl[4]と記す)と注目画素の左上の画素「0」の画素値(以下、これをyl[0]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値(以下、これをyl[3]と記す)との差、及びyl[4]と注目画素の上の画素「1」の画素値(以下、これをyl[1]と記す)との差の総計(これを「sub0」とする)を計算する。
【0027】
また、画素差総計計算部103は、yl[4]と注目画素の右上の画素「2」の画素値(以下、これをyl[2]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[1]との差、及びyl[4]と注目画素の右の画素「5」の画素値(以下、これをyl[5]と記す)との差の総計(これを「sub1」とする)を計算する。
【0028】
また、画素差総計計算部104は、yl[4]と注目画素の左下の画素「6」の画素値(以下、これをyl[6]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[3]との差、及びyl[4]と注目画素の下の画素「7」の画素値(以下、これをyl[7]と記す)との差の総計(これを「sub2」とする)を計算する。
【0029】
更に、画素差総計計算部105は、yl[4]と注目画素の右下の画素「8」の画素値(以下、これをyl[8]と記す)との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]とyl[5]との差、及びyl[4]と注目画素とyl[7]との差の総計(これを「sub3」とする)を計算する。従って、以上の画素差総計計算部104〜105の各計算結果である画素差総計sub0〜sub3は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0030】
sub0=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+(yl[4]-yl[3]) (1)
sub1=0.7×(yl[4]-yl[2])+(yl[4]-yl[1])+(yl[4]-yl[5]) (2)
sub2=0.7×(yl[4]-yl[6])+(yl[4]-yl[3])+(yl[4]-yl[7]) (3)
sub3=0.7×(yl[4]-yl[8])+(yl[4]-yl[5])+(yl[4]-yl[7]) (4)
この画素差総計sub0〜sub3は、注目画素の画素値yl[4]が、左上、右上、左下、右下に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub0〜sub3を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub0〜sub3の値は、正又は負の値又は0である。
【0031】
次に、平均値計算部106が画素差総計sub0〜sub3の平均値(これを「ave」とする)を次式により計算する(ステップS3)。
【0032】
ave=(sub0+sub1+sub2+sub3)/4 (5)
次に、偏差計算部107〜110が、対応して設けられた画素差総計計算部102〜105により計算された画素差総計sub0〜sub3と、平均値計算部106により計算された平均値aveとの差を偏差として計算する(ステップS4)。従って、偏差計算部107の計算結果である偏差adj0、偏差計算部108の計算結果である偏差adj1、偏差計算部109の計算結果である偏差adj2、偏差計算部110の計算結果である偏差adj3は、それぞれ次式で表される。
【0033】
adj0=sub0−ave (6)
adj1=sub1−ave (7)
adj2=sub2−ave (8)
adj3=sub3−ave (9)
次に、乗算部111、112、113、114が、対応して設けられた偏差計算部107、108、109、110により計算された偏差adj0、adj1、adj2、adj3にそれぞれ定数Kを乗算する(ステップS5)。なお、定数Kは、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0034】
次に、減算部115〜118は、低解像度画像入力部101により取り込まれた低解像度画像の注目画素の画素値yl[4]から、対応して設けられた乗算部111〜114の乗算結果を減算する(ステップS6)。これら減算部115〜118により得られる4つの減算結果は、低解像度画像の注目画素「4」の水平方向、垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の4つの画素「4al」、「4ar」、「4bl」、「4br」の画素値(以下、これらをyh[4al]、yh[4ar]、yh[4bl]、yh[4br]と記す)を示す。ここで、上記の4つの画素「4al」、「4ar」、「4bl」、「4br」は、図4に示すように、縦6個、横6個の計36個の中心の4個の画素であり、画素「4al」は拡大後の左上の画素、画素「4ar」は拡大後の右上の画素、画素「4bl」は拡大後の左下の画素、画素「4br」は拡大後の右下の画素である。
【0035】
上記の減算部115から出力される減算結果が示す画素値yh[4al]、減算部116から出力される減算結果が示す画素値yh[4ar]、減算部117から出力される減算結果が示す画素値yh[4bl]、減算部118から出力される減算結果が示す画素値yh[4br]は、それぞれ次式で表される。
【0036】
yh[4al]=yl[4]−K・adj0 (10)
yh[4ar]=yl[4]−K・adj1 (11)
yh[4bl]=yl[4]−K・adj2 (12)
yh[4br]=yl[4]−K・adj3 (13)
そして、高解像度画像出力部119は、上記の減算部115〜118により得られる4つの減算結果を合成して、低解像度画像の注目画素「4」の水平方向、垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の、前記注目画素と同じサイズの図4に示す4つの画素「4al」、「4ar」、「4bl」、「4br」の画素値として出力する(ステップS7)。
【0037】
ここで、上記の4つの偏差adj0〜adj3の合計値は、平均値aveからの偏差の平均なので0になる。結果的に次式が成立する。
【0038】
(yh[4al]+yh[4ar]+yh[4bl]+yh[4br])/4=yl[4] (14)
これは、高解像度化を行っても4画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0039】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高解像度画像を得ることができる。
【0040】
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。図5は、本発明になる画像処理装置の第2の実施の形態のブロック図、図6は、本発明になる画像処理方法の第2の実施の形態のフローチャートを示す。
【0041】
図5において、本実施の形態の画像処理装置200は、低解像度画像入力部201と、2つの画素差総計計算部202及び203と、平均値計算部204と、2つの偏差計算部205及び206と、偏差計算部205及び206に対応して設けられた2つの乗算部207及び208と、乗算部207及び208に対応して設けられた2つの減算部209及び210と、減算部209及び210から出力された信号を合成して高解像度画像として出力する高解像度画像出力部211と、高解像度画像を左右に分離する左右分離部212とより構成される。
【0042】
低解像度画像入力部201に入力されて取り込まれる低解像度画像は、処理前の解像度の画像であり、SBS(Side-By-Side)方式の画像(以下、SBS画像という)である。ここで、SBS画像は、図7に示す1フレームの左目用画像11L及び1フレームの右目用画像11Rの2フレーム(すなわち、一組のステレオ画像)をそれぞれ水平方向に1/2にサイズを圧縮して得られた、図8に示す圧縮左目用画像12A及び圧縮右目用画像12Bをそれぞれ水平方向に並べて1フレームとして伝送される画像である。
【0043】
本実施の形態の画像処理装置200は、このSBS画像から2枚の本来のサイズのステレオ画像(図7に示した左目用画像11L及び右目用画像11R)を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置200は、図9に示すように、入力されるSBS画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて画像処理を行うものとする。
【0044】
画素差総計計算部202及び203は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部204は、画素差総計計算部202及び203からそれぞれ出力される2つの画素差総計の平均値を計算する。偏差計算部205及び206は、対応して設けられた画素差総計計算部202及び203からの画素差総計と平均値計算部204から出力される平均値との差を偏差として計算する。乗算部207及び208は、対応して設けられた偏差計算部205及び206から出力される偏差と定数K1とを乗算する。減算部209及び210は、低解像度画像入力部201に入力される低解像度画像の画素値から対応して設けられた乗算部207及び208の乗算結果を減算して、それぞれ1フレームの画像サイズが水平方向に2倍に拡大された画素の画素値を出力する。左右分離部212は、高解像度画像出力部211から出力される1フレームの画像サイズが水平方向に2倍に拡大された画素からなる高解像度画像を左右に分離して1フレームの画像サイズが本来のサイズに戻された2枚の復号画像を出力する。
【0045】
次に、本実施の形態の画像処理装置200の動作について、図6のフローチャート等を併せ参照して説明する。
【0046】
まず、低解像度画像入力部201が図8に示したような処理対象前の低解像度画像であるSBS画像を取り込む(ステップS11)。続いて、画素差総計計算部202及び203が低解像度画像入力部201から出力されるSBS画像に対して画素差総計をそれぞれ計算する(ステップS12)。ここで、画素差総計計算部202は、入力されるSBS画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左上の画素「0」の画素値yl[0]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の左下の画素「6」の画素値yl[6]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub10」とする)を計算する。
【0047】
また、画素差総計計算部203は、入力されるSBS画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の右上の画素「2」の画素値yl[2]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差、及びyl[4]と注目画素の右下の画素「8」の画素値yl[8]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub11」とする)を計算する。従って、以上の画素差総計計算部202及び203の各計算結果である画素差総計sub10及びsub11は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0048】
sub10=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+(yl[4]-yl[3])
+0.7×(yl[4]-yl[6])+(yl[4]-yl[7]) (15)
sub11=0.7×(yl[4]-yl[2])+(yl[4]-yl[1])+(yl[4]-yl[5])
+0.7×(yl[4]-yl[8])+(yl[4]-yl[7]) (16)
この画素差総計sub10及びsub11は、注目画素の画素値yl[4]が、左、右に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub10及びsub11を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub10及びsub11の値は、正又は負の値又は0である。
【0049】
次に、平均値計算部204が画素差総計sub10及びsub11の平均値(これを「ave1」とする)を次式により計算する(ステップS13)。
【0050】
ave1=(sub10+sub11)/2 (17)
次に、偏差計算部205及び206が、対応して設けられた画素差総計計算部202及び203により計算された画素差総計sub10及びsub12と、平均値計算部204により計算された平均値ave1との差を偏差として計算する(ステップS14)。従って、偏差計算部205の計算結果である偏差adj10、偏差計算部206の計算結果である偏差adj11は、それぞれ次式で表される。
【0051】
adj10=sub10−ave1 (18)
adj11=sub11−ave1 (19)
次に、乗算部207、208が、対応して設けられた偏差計算部205、206により計算された偏差adj10、adj11にそれぞれ定数K1を乗算する(ステップS15)。なお、定数K1は、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0052】
次に、減算部209、210は、低解像度画像入力部201により取り込まれたSBS画像の注目画素の画素値yl[4]から、対応して設けられた乗算部207、208の乗算結果を減算する(ステップS16)。これら減算部207及び208により得られる2つの減算結果は、SBS画像の注目画素「4」の水平方向のサイズを2倍に拡大して得られる高解像度画像の2つの画素「4l」、「4r」の画素値(以下、これらをyh[4l]、yh[4r]と記す)を示す。ここで、上記の2つの画素「4l」、「4r」は、図10に示すように、縦3個、横6個の計18個の中心の2個の画素であり、画素「4l」は拡大後の左の画素、画素「4r」は拡大後の右の画素である。
【0053】
上記の減算部209から出力される減算結果が示す画素値yh[4l]、減算部210から出力される減算結果が示す画素値yh[4r]は、それぞれ次式で表される。
【0054】
yh[4l]=yl[4]−K1・adj10 (20)
yh[4r]=yl[4]−K1・adj11 (21)
続いて、高解像度画像出力部211は、上記の減算部209及び210により得られる2つの減算結果を合成して、SBS画像の注目画素「4」の水平方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の2つの画素「4l」、「4r」の画素値として出力する(ステップS17)。そして、左右分離部212は、高解像度画像出力部211から出力される各画素の水平方向のサイズが入力時の2倍に拡大された高解像度画像の水平方向の中央位置で左右に2分割し、図7に示した1フレームの本来の画像サイズの左目用画像11Lと、1フレームの本来の画像サイズの右目用画像11Rとを分離出力する(ステップS18)。
【0055】
ここで、上記の2つの偏差adj10とadj11との合計値は、平均値ave1からの偏差の平均なので0になる。結果的に次式が成立する。
【0056】
(yh[4l]+yh[4r])/2=yl[4] (22)
これは、高解像度化を行っても2画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0057】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細なSBS画像の復号が実現される。
【0058】
(第3の実施の形態)
次に、本発明の第3の実施の形態について説明する。図11は、本発明になる画像処理装置の第3の実施の形態のブロック図、図12は、本発明になる画像処理方法の第3の実施の形態のフローチャートを示す。
【0059】
図11において、本実施の形態の画像処理装置300は、低解像度画像入力部301と、2つの画素差総計計算部302及び303と、平均値計算部304と、2つの偏差計算部305及び306と、偏差計算部305及び306に対応して設けられた2つの乗算部307及び308と、乗算部307及び308に対応して設けられた2つの減算部309及び310と、減算部309及び310から出力された信号を合成して高解像度画像として出力する高解像度画像出力部311と、高解像度画像を上下に分離する上下分離部312とより構成される。
【0060】
低解像度画像入力部301に入力されて取り込まれる低解像度画像は、処理前の解像度の画像であり、AB(Above-Below)方式の画像(以下、AB画像という)である。ここで、AB画像は、図7に示した1フレームの左目用画像11L及び1フレームの右目用画像11Rの2フレーム(すなわち、一組のステレオ画像)を、それぞれ垂直方向に1/2にサイズを圧縮して得られた、図13に示す圧縮左目用画像13A及び圧縮右目用画像13Bをそれぞれ垂直方向に並べて1フレームとして伝送される画像である。
【0061】
本実施の形態の画像処理装置300は、このAB画像から2枚の本来のサイズのステレオ画像(図7に示した左目用画像11L及び右目用画像11R)を得る画像処理を行うものとする。画像処理は輝度について行うものとして説明するが、色差や原色系に適用することも可能である。また、本実施の形態の画像処理装置300は、図9に示したように、入力されるAB画像の処理対象の注目画素を「4」で示す画素とすると、その注目画素を中心とする縦方向3個、横方向3個の「0」〜「3」、「5」〜「8」で示す計8個の周辺画素を用いて画像処理を行うものとする。
【0062】
画素差総計計算部302及び303は、注目画素の画素値と所定の周辺画素の画素値(若しくはそれに定数を乗じた値)との差の総計を計算する。平均値計算部304は、画素差総計計算部302及び303からそれぞれ出力される2つの画素差総計の平均値を計算する。偏差計算部305及び306は、対応して設けられた画素差総計計算部302及び303からの画素差総計と平均値計算部204から出力される平均値との差を偏差として計算する。乗算部307及び308は、対応して設けられた偏差計算部305及び306から出力される偏差と定数K2とを乗算する。減算部309及び310は、低解像度画像入力部301に入力される低解像度画像の画素値から対応して設けられた乗算部307及び308の乗算結果を減算して、それぞれ1フレームの画像サイズが垂直方向に2倍に拡大された画素の画素値を出力する。上下分離部312は、高解像度画像出力部311から出力される1フレームの画像サイズが垂直方向に2倍に拡大された画素からなる高解像度画像を上下に分離して1フレームの画像サイズが本来のサイズに戻された2枚の復号画像を出力する。
【0063】
次に、本実施の形態の画像処理装置300の動作について、図12のフローチャート等を併せ参照して説明する。
【0064】
まず、低解像度画像入力部301が図13に示したような処理対象前の低解像度画像であるAB画像を取り込む(ステップS21)。続いて、画素差総計計算部302及び303が低解像度画像入力部301から出力されるAB画像に対して画素差総計をそれぞれ計算する(ステップS22)。ここで、画素差総計計算部302は、入力されるAB画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左上の画素「0」の画素値yl[0]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の上の画素「1」の画素値yl[1]との差、及びyl[4]と注目画素の右上の画素「2」の画素値yl[2]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差の総計(これを「sub20」とする)を計算する。
【0065】
また、画素差総計計算部303は、入力されるAB画像の図9に示した処理対象の注目画素「4」の画素値yl[4]と注目画素の左下の画素「6」の画素値yl[6]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の左の画素「3」の画素値yl[3]との差、及びyl[4]と注目画素の右の画素「5」の画素値yl[5]との差、及びyl[4]と注目画素の右下の画素「8」の画素値yl[8]との差(若しくはそれに所定の定数を乗じた値)、及びyl[4]と注目画素の下の画素「7」の画素値yl[7]との差の総計(これを「sub21」とする)を計算する。従って、以上の画素差総計計算部302及び303の各計算結果である画素差総計sub20及びsub21は次式で表される(ただし、上記の所定の定数をここでは「0.7」としている)。
【0066】
sub20=0.7×(yl[4]-yl[0])+(yl[4]-yl[1])+0.7×(yl[4]-yl[2])
+(yl[4]-yl[3])+(yl[4]-yl[5]) (23)
sub21=(yl[4]-yl[3])+(yl[4]-yl[5])+0.7×(yl[4]-yl[6])
+(yl[4]-yl[7])+0.7×(yl[4]-yl[8]) (24)
この画素差総計sub20及びsub21は、注目画素の画素値yl[4]が、上、下に隣接する画素群の画素値に対してどれくらい大小があるかを評価するものである。この画素差総計sub20及びsub21を後のステップにおいて、この大小を抑える方向に高解像度画像において反映させることにより、画素値の変化の滑らかさが増加して、一定のマルコフ性が担保される。ここで、注目画素の画素値と、その注目画素に対して斜め方向の周辺画素の画素値との差に定数(ここでは、一例として「0.7」)を乗算しているのは、注目画素に対して注目画素の上下左右方向の周辺画素よりも斜め方向の周辺画素の方が物理的な画素間距離が長いことによる影響を補正したものである。なお、画素差総計sub20及びsub21の値は、正又は負の値又は0である。
【0067】
次に、平均値計算部304が画素差総計sub20及びsub21の平均値(これを「ave2」とする)を次式により計算する(ステップS23)。
【0068】
ave2=(sub20+sub21)/2 (25)
次に、偏差計算部305及び306が、対応して設けられた画素差総計計算部302及び303により計算された画素差総計sub20及びsub21と、平均値計算部304により計算された平均値ave2との差を偏差として計算する(ステップS24)。従って、偏差計算部305の計算結果である偏差adj20、偏差計算部306の計算結果である偏差adj21は、それぞれ次式で表される。
【0069】
adj20=sub20−ave2 (26)
adj21=sub21−ave2 (27)
次に、乗算部307、308が、対応して設けられた偏差計算部305、306により計算された偏差adj20、adj21にそれぞれ定数K2を乗算する(ステップS25)。なお、定数K2は、実際の画像を見て評価するが、例えば0.01〜0.1程度の範囲の値である。
【0070】
次に、減算部309、310は、低解像度画像入力部301により取り込まれたAB画像の注目画素の画素値yl[4]から、対応して設けられた乗算部307、308の乗算結果を減算する(ステップS26)。これら減算部307及び308により得られる2つの減算結果は、AB画像の注目画素「4」の垂直方向のサイズを2倍に拡大して得られる高解像度画像の2つの画素「4a」、「4b」の画素値(以下、これらをyh[4a]、yh[4b]と記す)を示す。ここで、上記の2つの画素「4a」、「4b」は、図14に示すように、縦6個、横3個の計18個の中心の2個の画素であり、画素「4a」は拡大後の上の画素、画素「4b」は拡大後の下の画素である。
【0071】
上記の減算部309から出力される減算結果が示す画素値yh[4a]、減算部310から出力される減算結果が示す画素値yh[4b]は、それぞれ次式で表される。
【0072】
yh[4a]=yl[4]−K2・adj20 (28)
yh[4b]=yl[4]−K2・adj21 (29)
続いて、高解像度画像出力部311は、上記の減算部309及び310により得られる2つの減算結果を合成して、AB画像の注目画素「4」の垂直方向のサイズをそれぞれ2倍に拡大して得られる高解像度画像の2つの画素「4a」、「4b」の画素値として出力する(ステップS27)。そして、上下分離部312は、高解像度画像出力部311から出力される各画素の垂直方向のサイズが入力時の2倍に拡大された高解像度画像の垂直方向の中央位置で上下に2分割し、図7に示した1フレームの本来の画像サイズの左目用画像11Lと、1フレームの本来の画像サイズの右目用画像11Rとを分離出力する(ステップS28)。
【0073】
ここで、上記の2つの偏差adj20とadj21との合計値は、平均値ave2からの偏差の平均なので0になる。結果的に次式が成立する。
【0074】
(yh[4a]+yh[4b])/2=yl[4] (30)
これは、高解像度化を行っても2画素平均による低解像度化によって原画像に戻る条件が担保されていることを意味する。
【0075】
このようにして、本実施の形態によれば、MAP推定では必須の繰り返し計算及びフレームメモリを不要とし、上記のマルコフ性の一定の確保と合わせて、MAP推定による画像処理に比べて計算時間の大幅な短縮とMAP推定に迫る高精細なAB画像の復号が実現される。
【0076】
なお、本発明は、ハードウェアの画像拡大処理に限定されるものでなく、コンピュータプログラムにより処理することもできる。この場合、コンピュータプログラムは、記録媒体からコンピュータに取り込まれてもよいし、ネットワーク経由でコンピュータに取り込まれてもよい。
【符号の説明】
【0077】
100、200、300 画像処理装置
101、201、301 低解像度画像入力部
102〜105、202、203、302、303 画素差総計計算部
106、204、304 平均値計算部
107〜110、205、206、305、306 偏差計算部
111〜114、207、208、307、308 乗算部
115〜118、209、210、309、310 減算部
119、211、311 高解像度画像出力部
212 左右分離部
312 上下分離部
【特許請求の範囲】
【請求項1】
入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算ステップと、
前記第1乃至第4の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差と、前記第3の画素差総計から前記平均値を減算した第3の偏差と、前記第4の画素差総計から前記平均値を減算した第4の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右上の画素の画素値を得る第2の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第3の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち左下の画素の画素値を得る第3の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第4の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右下の画素の画素値を得る第4の演算ステップと
を含むことを特徴とする画像処理方法。
【請求項2】
一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち右の画素の画素値を得る第2の演算ステップと、
前記第1及び第2の演算ステップにより得られる拡大画像を2分割して前記一組のステレオ画像を分離出力する左右分離ステップと
を含むことを特徴とする画像処理方法。
【請求項3】
一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が垂直方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち下の画素の画素値を得る第2の演算ステップと、
前記第1及び第2の演算ステップにより得られる拡大画像を2分割して前記一組のステレオ画像を分離出力する上下分離ステップと
を含むことを特徴とする画像処理方法。
【請求項4】
入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算手段と、
前記第1乃至第4の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差と、前記第3の画素差総計から前記平均値を減算した第3の偏差と、前記第4の画素差総計から前記平均値を減算した第4の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右上の画素の画素値を得る第2の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第3の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち左下の画素の画素値を得る第3の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第4の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右下の画素の画素値を得る第4の演算手段と
を有することを特徴とする画像処理装置。
【請求項5】
一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記第1及び第2の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち右の画素の画素値を得る第2の演算手段と、
前記第1及び第2の演算手段から出力される拡大画像を2分割して前記一組のステレオ画像を分離出力する左右分離手段と
を有することを特徴とする画像処理装置。
【請求項6】
一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記第1及び第2の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が垂直方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち下の画素の画素値を得る第2の演算手段と、
前記第1及び第2の演算手段から出力される拡大画像を2分割して前記一組のステレオ画像を分離出力する上下分離手段と
を有することを特徴とする画像処理装置。
【請求項1】
入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算ステップと、
前記第1乃至第4の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差と、前記第3の画素差総計から前記平均値を減算した第3の偏差と、前記第4の画素差総計から前記平均値を減算した第4の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右上の画素の画素値を得る第2の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第3の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち左下の画素の画素値を得る第3の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第4の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右下の画素の画素値を得る第4の演算ステップと
を含むことを特徴とする画像処理方法。
【請求項2】
一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち右の画素の画素値を得る第2の演算ステップと、
前記第1及び第2の演算ステップにより得られる拡大画像を2分割して前記一組のステレオ画像を分離出力する左右分離ステップと
を含むことを特徴とする画像処理方法。
【請求項3】
一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算ステップと、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算ステップと、
前記第1及び第2の画素差総計の平均値を計算する平均値計算ステップと、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が垂直方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算ステップと、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち下の画素の画素値を得る第2の演算ステップと、
前記第1及び第2の演算ステップにより得られる拡大画像を2分割して前記一組のステレオ画像を分離出力する上下分離ステップと
を含むことを特徴とする画像処理方法。
【請求項4】
入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左及び上にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上及び右にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、左及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第3の画素差総計を計算する第3の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右下、右及び下にそれぞれ隣接する3つの画素の各画素値との3つの差を総計した第4の画素差総計を計算する第4の画素差総計計算手段と、
前記第1乃至第4の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差と、前記第3の画素差総計から前記平均値を減算した第3の偏差と、前記第4の画素差総計から前記平均値を減算した第4の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平及び垂直の両方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの4画素のうち左上の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右上の画素の画素値を得る第2の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第3の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち左下の画素の画素値を得る第3の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第4の偏差に前記定数を乗じた値を減じて、前記拡大画像の4画素のうち右下の画素の画素値を得る第4の演算手段と
を有することを特徴とする画像処理装置。
【請求項5】
一組のステレオ画像をそれぞれ水平方向に1/2サイズに圧縮して得た圧縮ステレオ画像が水平方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、左、上、左下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して右上、上、右、右下、及び下にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記第1及び第2の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が水平方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち左の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち右の画素の画素値を得る第2の演算手段と、
前記第1及び第2の演算手段から出力される拡大画像を2分割して前記一組のステレオ画像を分離出力する左右分離手段と
を有することを特徴とする画像処理装置。
【請求項6】
一組のステレオ画像をそれぞれ垂直方向に1/2サイズに圧縮して得た圧縮ステレオ画像が垂直方向に並べて一枚の画像とされた入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左上、上、右上、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第1の画素差総計を計算する第1の画素差総計計算手段と、
前記入力画像の処理対象の注目画素の画素値と、前記注目画素に対して左下、下、右下、左及び右にそれぞれ隣接する5つの画素の各画素値との5つの差を総計した第2の画素差総計を計算する第2の画素差総計計算手段と、
前記第1及び第2の画素差総計の平均値を計算する平均値計算手段と、
前記第1の画素差総計から前記平均値を減算した第1の偏差と、前記第2の画素差総計から前記平均値を減算した第2の偏差とをそれぞれ計算する偏差計算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第1の偏差に定数を乗じた値を減じて、前記入力画像が垂直方向に2倍サイズに拡大された拡大画像の前記注目画素に対応した位置の前記注目画素と同じサイズの2画素のうち上の画素の画素値を得る第1の演算手段と、
前記入力画像の処理対象の注目画素の画素値から前記第2の偏差に前記定数を乗じた値を減じて、前記拡大画像の2画素のうち下の画素の画素値を得る第2の演算手段と、
前記第1及び第2の演算手段から出力される拡大画像を2分割して前記一組のステレオ画像を分離出力する上下分離手段と
を有することを特徴とする画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−79195(P2012−79195A)
【公開日】平成24年4月19日(2012.4.19)
【国際特許分類】
【出願番号】特願2010−225511(P2010−225511)
【出願日】平成22年10月5日(2010.10.5)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
【公開日】平成24年4月19日(2012.4.19)
【国際特許分類】
【出願日】平成22年10月5日(2010.10.5)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
[ Back to top ]