説明

奥行き検知装置及び方法

【課題】比較的高品質を有するオーバーレイをレンダリングする。
【解決手段】シフト値のうちの第1シフト値として、入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、実質的に0に等しい出力値を与える。この結果、実質的に0に等しいシフト値は、シフトがない又は実質的にシフトがないことに対応するために、その表示装置のスクリーンの面に対応する奥行きに置かれる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力画素を有する入力画像に基づいて、そしてそれぞれの入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングするためのレンダリングユニットであって:
− それぞれの奥行き関連データ要素に基づいて、入力画素に適用されるシフト値を演算するためのシフト演算ユニット;及び
− それぞれのシフト値により入力画素をシフトすることに基づいて、出力画素を演算するための補間ユニット
を有するレンダリングユニットに関する。
【0002】
本発明は、画像処理装置であって:
− 入力画像に対応する信号を受信するための受信手段;
− 出力画像をレンダリングするためのレンダリングユニット;及び
− 出力画像を表示するための表示装置;
を有する画像処理装置に更に関する。
【0003】
本発明は、コンピュータ装置によりロードされるコンピュータプログラムプロダクトであって、入力画素を有する入力画像に基づいてそしてそれぞれの入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングするための指令を有する、コンピュータプログラムプロダクトであり、コンピュータ装置は処理手段及びメモリを有し、コンピュータプログラムプロダクトは、ロードされた後に、
− それぞれの奥行き関連データ要素に基づいて、入力画素に適用されるシフト値を演算すること;及び
− それぞれのシフト値により入力画素をシフトさせることに基づいて出力画素を演算すること;
を実行する機能を前記処理手段に与える、コンピュータプログラムプロダクトに更に関する。
【0004】
本発明は、入力画素を有する入力画像に基づいて、そしてそれぞれの入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングする方法であって:
− それぞれの奥行き関連データ要素に基づいて、入力画素に適用されるシフト値を演算する段階;及び
− それぞれのシフト値により入力画素をシフトさせることに基づいて出力画素を演算する段階
を有する、方法に関する。
【背景技術】
【0005】
表示装置が導入されて以来、現実的な三次元表示装置が大多数のひとにとっての夢となっている。そのような表示装置に繋がる多くの原理について研究がなされている。一部の原理は、特定のボリュームにおいてリアルな三次元のオブジェクトを生成するように試みるものである。例えば、文献"Solid−state Multi−planar Volumetric Display",by A.Sullivan,Proceedings of SID7'03,1531−1533,2003に開示されている表示装置においては、視覚データが高速プロジェクタにより平面のアレイに表示される。各々の平面は切り換え可能なディフューザである。それらの平面の数が十分に多い場合、人間の脳は、ピクチャに統合し、リアルな三次元のオブジェクトを見ることができる。この原理は、ビューアがある範囲においてオブジェクトをぐるりと見ることを可能にする。この表示装置においては、全てのオブジェクトは(半)透過性である。
【0006】
多くの他の場合は、両眼視差のみに基づく三次元表示装置を創ることを試みている。それらのシステムにおいては、ビューアの左右の目は別の画像を知覚し、その結果、ビューアは三次元画像を知覚する。それらの概念の概観については、文献"Stereo Computer Graphics and Other True 3−D Technologies",by D.F.McAllister(Ed.),Princeton University Press,1993に記載されている。最初の原理においては、例えば、CRTと組み合わされたシャッターガラスを用いている。奇数フレームが表示される場合、光は左目に対して遮断され、偶数フレームが表示される場合、光は右目に対して遮断される。
【0007】
付加的器具を必要としないで三次元に見える表示装置は、自動立体表示装置と称せられている。
【0008】
最初のメガネを必要としない表示装置は、ビューアの左右の目において支援する光のコーンを生成するバリアを有する。そのコーンは、例えば、奇数及び偶数の副画素列に対応している。適切な情報を有するそれらの列をアドレス指定することにより、ビューアは、適切な位置に位置している場合に、左右の目で異なる画像を得て、三次元ピクチャを知覚することができる。
【0009】
2番目のメガネを必要としない表示装置は、ビューアの左右の目に対して奇数及び偶数の副画素列の光を画像化するためのレンズのアレイを有する。
【0010】
上記のメガネを必要としない表示装置の不利点は、ビューアが固定された位置に居続ける必要があることである。ビューアをガイドするために、表示器は、ビューアが正しい位置にいることをビューアに示すように提案する。例えば、バリア板が赤色及び緑色LEDと組み合わされていることが記載されている米国特許第5986804号明細書を参照されたい。ビューアが適切に位置付けられている場合、ビューアには緑色の光が見えるが、そうでない場合、赤色の光が見える。
【0011】
固定された位置に腰掛けているビューアを開放するために、マルチビューア自動立体表示装置が提案されている。例えば、米国特許第60064424号明細書及び米国特許第20000912号明細書を参照されたい。米国特許第60064424号明細書及び米国特許第20000912号明細書に記載されている表示装置においては、傾斜レンズが用いられ、それにより、レンズの幅は2つの副画素より大きくなっている。このようにして、互いに隣接する複数の画像が存在し、ビューアは、左右に移動するある自由度を有する。
【0012】
マルチビュー表示装置において三次元の印象を得るように、異なる仮想視点からの画像がレンダリングされる必要がある。このことは、複数入力ビュー若しくはある三次元情報又は奥行き情報が存在する必要がある。この奥行き情報は、マルチビューカメラシステムにより記録され、生成され、又は従来の二次元ビデオ素材から生成されることが可能である。二次元ビデオから奥行き情報を生成するために、複数の種類の奥行きキュー、例えば、動きからの構造、焦点情報、幾何学的形状及び動的咬合等が適用されることが可能である。その目的は、高密度の奥行きマップ、即ち、画素毎の奥行き値を生成することである。この奥行きマップは、ビューアに奥行きの印象を与えるように、マルチビュー画像をレンダリングすることにおいて後に用いられる。文献"Synthesis of multi viewpoint images at non−intermediate positions",by P.A.Redert,E.A.Hendriks and J.Biemond,Proceedings of International Conference on Acoustics,Speech,and Signal Processing,Vol.IV,ISBN0−8186−7919−0,pages 2749−2752,IEEE Computer Society,Los Alamitos,California,1997において、入力画像及び奥行きマップに基づいて、奥行き情報を抽出し、マルチビュー画像をレンダリングする方法について開示されている。マルチビュー画像は、三次元の印象を生成するようにマルチビュー表示装置により表示される画像の集合である。典型的には、その集合の画像は、入力画像に基づいて生成される。それらの画像の1つの生成は、それぞれのシフト量により入力画像の画素をシフトさせることにより行われる。それらのシフト量は視差と称せられる。それ故、典型的には、各々の画素について、共に視差マップを形成する対応する視差値が存在する。視差値及び奥行き値は、代表的には、反比例の関係にあり、即ち、次式のようであり、
S=C/D (1)
ここで、Sは視差であり、Cは定数値であり、Dは奥行きである。奥行きマップを生成することは、視差マップを生成することと同じであると考えられる。本明細書においては、視差値及び奥行き値は両方共に、用語、奥行き関連データ要素によりカバーされる。
【0013】
テレビ及び他のアプリケーションにおいては、テキストがシーンに対応する画像のオーバーレイを形成することは共通している。サブタイトル及びチャネルのロゴは、そのようなオーバーレイの典型的な例である。他の例は、ゲームのスコアのグラフィック表現である。それらのオーバーレイはときどき、別個のビデオストリームとして利用可能である。そのような場合、マルチビュー表示のためにビデオストリームを別個に複数ビューにレンダリングすること及び後の段階においてそれらのレンダリングされたストリームを結合させる、即ち、混ぜることは好ましい。しかしながら、多くの場合、オーバーレイは個別のビデオストリームとして利用可能ではないが、ビデオ、即ち、"焼き付け"に統合される。
【0014】
そのような"焼き付け"オーバーレイを有するビデオシーケンスの簡単なレンダリングは、オーバーレイの比較的低い品質の出力画像をもたらす。
【0015】
【特許文献1】米国特許第60064424号明細書
【0016】
【特許文献1】米国特許第20000912号明細書
【0017】
【非特許文献1】"Solid−state Multi−planar Volumetric Display",by A.Sullivan,Proceedings of SID7'03,1531−1533,2003
【0018】
【非特許文献2】"Stereo Computer Graphics and Other True 3−D Technologies",by D.F.McAllister(Ed.),Princeton University Press,1993
【0019】
【非特許文献3】"Synthesis of multi viewpoint images at non−intermediate positions",by P.A.Redert,E.A.Hendriks and J.Biemond,Proceedings of International Conference on Acoustics,Speech,and Signal Processing,Vol.IV,ISBN0−8186−7919−0,pages 2749−2752,IEEE Computer Society,Los Alamitos,California,1997
【発明の概要】
【発明が解決しようとする課題】
【0020】
本発明の目的は、比較的高品質を有するオーバーレイをレンダリングするように備えられている、冒頭の段落で説明した種類のレンダリングユニットを提供することである。
【課題を解決するための手段】
【0021】
本発明のこの目的は、シフト演算ユニットが、シフト値のうちの第1シフト値として、入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、実質的に0に等しい出力値を与えることにおいて達成される。この結果は、実質的に0に等しいシフト値は、シフトがない又は実質的にシフトがないことに対応するために、その表示装置のスクリーンの面に対応する奥行きに置かれることである。視認性及び、特に、読み出し可能性について、オーバーレイは、スクリーンの面に対応する奥行き以外の奥行きにおいてオーバーレイをレンダリングすることにより付加されるぼやけを回避して、できるだけ鮮明にレンダリングされる必要がある。複数ビュー間のクロストークのために、スクリーンの面の後方、比較的遠くにある、又はスクリーンの面の前方、比較的遠くにあるオブジェクトは、入力画像により表現されるオブジェクトの複数の変換されたバージョン、即ち、シフトされたバージョンのために、ぼやけて現れる。奥行きに関してスクリーンと同じ面にあるオブジェクトの表現は、異なる出力画像間においては変換されず、それ故、クロストークはぼやけをもたらさない。
【0022】
本発明にしたがったレンダリングユニットの実施形態は、オーバーレイに対応する入力画素の第1画素群と、非オーバーレイに対応する入力画素の第2画素群とを表示するための入力インターフェースであって、第1画素群及び第2画素群は入力画像を形成する、入力インターフェースを有する。そのことは、本発明にしたがったレンダリングユニットの外部で、入力画像のどの画素がオーバーレイに対応するか、及び入力画像の画素のどれがオーバーレイに対応しないかを検出する又は決定することを意味する。オーバーレイ/非オーバーレイに関連する情報はレンダリングユニットに供給される。好適には、この情報はオーバーレイ表示マップにより供給され、そのオーバーレイ表示マップは、入力画像のそれぞれの入力画素についてのオーバーレイ表示を有する。
【0023】
本発明にしたがったレンダリングユニットの他の実施形態は、オーバーレイに対応する入力画素の第1画素群と、非オーバーレイに対応する入力画素の第2画素群とを決定するための決定ユニットであって、第1画素群及び第2画素群は入力画像を形成する、決定ユニットを有する。そのことは、オーバーレイ/非オーバーレイに関連する情報は外部で決定されないが、レンダリングユニット自体により決定される。オーバーレイ表示器は、入力画素、例えば、輝度及び/又は色値に基づいて演算されることが可能である。付加的に又は代替として、奥行き関連データ要素が、それぞれの入力画素についてのオーバーレイ指標を演算するように適用される。
【0024】
オーバーレイがスクリーンの面に現れるように、オーバーレイがレンダリングされることは、非オーバーレイ画素が、スクリーンの面の後方に現れるように全て、レンダリングされることを意味しない。実際には、本発明にしたがったレンダリングユニットは、それぞれの奥行き関連データ要素に基づいて、出力画素をレンダリングするように備えられている。入力画素がオーバーレイに属すことが決定された入力画素について、このルールの例外が行われ、即ち、対応する出力画素は、対応する奥行き関連データ要素に独立して演算される。このことは、付加手段がなければ、非オーバーレイ画素によるオーバーレイの遮蔽(occlusion)をもたらす可能性がある。それが起こらないようにするように、本発明にしたがったレンダリングユニットの実施形態は:
− 第1画素群のうちの第1画素がマッピングされ、第2画素群のうちの第1画素がシフトされるべきオーバーラップ領域が前記出力画像中に存在するかどうかを、前記奥行き関連データ要素の一部に基づいて定めるためのオーバーラップ確立ユニットと;
− オーバーラップ領域に位置する出力画素のうちの第2画素を演算するために第1画素群の第1画素を選択するための選択ユニットと;
を更に有する。
【0025】
本発明のこの実施形態においては、レンダリングユニットは、オーバーラップ領域、即ち、遮蔽が存在することを定めるように備えられている。このことは、レンダリングユニットが、互いに異なる種類の複数画素、即ち、オーバーレイ及び非オーバーレイが、出力画像の同じ座標に対してマッピングされることを定めるように備えられていることを意味する。本発明にしたがったレンダリングユニットのこの実施形態は更に、オーバーラップの場合にオーバーレイタイプの画素が使用されるようにする。
【0026】
本発明にしたがったレンダリングユニットの実施形態により好適に付加された手段が実行される遮蔽に加えて、好適には、非遮蔽化(de−occlusion)がまた、適切に処理される。空き領域において、即ち、非遮蔽化領域において、アーティファクトが生じないように、本発明にしたがったレンダリングユニットの実施形態は:
− 第1画素群の何れの画素もマッピングされず、第2画素群の何れの画素もシフトされない空き領域が出力画像中に存在するかどうかを、奥行き関連データ要素の更なる一部に基づいて定めるための空き領域確立ユニット;及び
− 空き領域に位置する出力画素のうちの第3画素を演算するために第2画素群のうちの特定の画素を選択するための選択ユニット;
を更に有する。
【0027】
好適には、選択ユニットは、空き領域の周囲における第2画素群のうちの特定の画素を選択する。そのことは、空き領域の場合に、オーバーレイの画素は使用されず、それに代えて、非オーバーレイの画素が使用されることを意味する。典型的には、ロゴ及びサブタイトルのテキスト等のオーバーレイは、非常に明確な形状を有する。それらのオーバーレイからの画素値に基づいて空き領域における画素についての画素値を演算することにより、オーバーレイを空き領域に広げる。典型的には、オーバーレイは明確な形状を有するために、これはアーティファクトをもたらす。非オーバーレイの画素、即ち、第2画素群における画素値に基づくことにより、非オーバーレイを空き領域に広げることができ、そのことは、典型的には、激しいアーティファクトをもたらさない。
【0028】
本発明の更なる目的は、比較的高い品質を有するオーバーレイをレンダリングするように備えられている、冒頭の段落で説明している種類の画像処理装置を提供することである。
【0029】
この本発明の目的は、画像処理装置のレンダリングユニットのシフト演算ユニットが、シフト値のうちの第1シフト値として、入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値を供給することによって達成される。
【0030】
本発明の更なる目的は、比較的高い品質を有するオーバーレイをレンダリングするように備えられている、冒頭の段落で説明している種類のコンピュータプログラムプロダクトを提供することである。
【0031】
この本発明の目的は、シフト値を演算する段階が、シフト値のうちの第1シフト値として、入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値をもたらすことによって達成される。
【0032】
本発明の更なる目的は、比較的高い品質を有するオーバーレイをレンダリングするように備えられている、冒頭の段落で説明している種類の方法を提供することである。
【0033】
このような本発明の目的は、シフト値を演算する段階が、シフト値のうちの第1シフト値として、入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値をもたらすことによって達成される。
【0034】
レンダリングユニットの修正及びその変形は、上記の画像処理装置、方法及びコンピュータプログラムプロダクトのレンダリングユニットの修正及び変形に対応することが可能である。
【0035】
本発明にしたがった、画像処理装置、方法及びコンピュータプログラムプロダクトのレンダリングユニットの上記の及び他の特徴については、以下、添付図を参照して詳述する実施形態により明らかになり、理解することができるであろう。
【0036】
同じ参照番号は、全体の図を通して同じ要素を示すように用いられている。
【図面の簡単な説明】
【0037】
【図1】入力画像、対応する奥行きマップ及び出力画像の模式図である。
【図2】入力画素の出力画素へのマッピングを示す模式図である。
【図3A】どの入力画素がオーバーレイに対応し、どの画素が非オーバーレイに対応するかを示すための入力インターフェースを有する本発明にしたがったレンダリングユニットの実施形態を示す模式図である。
【図3B】どの入力画素がオーバーレイに対応し、どの画素が非オーバーレイに対応するかを決定するための決定ユニットを有する本発明にしたがったレンダリングユニットの実施形態を示す模式図である。
【図3C】オーバーラップ確立ユニットを有する本発明にしたがったレンダリングユニットの実施形態を示す模式図である。
【図3D】空き領域確立ユニットを有する本発明にしたがったレンダリングユニットの実施形態を示す模式図である。
【図4】マルチビュー画像生成ユニットの実施形態を示す模式図である。
【図5】本発明にしたがった画像処理装置の実施形態を示す模式図である。
【発明を実施するための形態】
【0038】
図1は、入力画像100、対応する奥行きマップ104及び出力画像102を模式的に示している。入力画像100は複数の入力画素を有する。入力画素は2つの画素群に分類される。第1画素群は、オーバーレイに対応する画素を有する。第2画素群は、非オーバーレイに対応する画素を有する。オーバーレイを有するとは、テキストのようなグラフィック表現又はアイコンを意味する。オーバーレイは、サブタイトル、放送チャネルのロゴに対応することが可能であるが、代替として、オーバーレイは、レコーダ又はプレーヤにより生成されるオンスクリーン表示(OSD)情報に対応する。オーバーレイはまた、ゲームのスコアに対応するグラフィック情報に関連することが可能である。非オーバーレイは、オーバーレイを有しない視覚情報に対応する。典型的には、非オーバーレイは、カメラにより取得された画像データに対応する。代替として、非オーバーレイ画像データは、"Dreamworks"からコンピュータにより生成された映画のように、グラフィックコンピュータにより生成される。
【0039】
オーバーレイデータ及び非オーバーレイデータは単一の入力画像に結合されるが、典型的には、それらの間に視覚的関連は存在しない。換言すれば、画素値、即ち、第1画素群の色値及び/又は輝度値は、典型的には、第2画素群の画素値に関連していない。典型的には、オーバーレイは、入力画像における非オーバーレイにより表現される情報の一部を遮る。
【0040】
入力画像100の第1画素群の第1画素105はサブタイトルの文字"t"に属する。入力画像100は、背景101の前の第1オブジェクト106及び第2オブジェクト108の表現を有する。第1オブジェクト106の表現は長円形形状を有し、第2画素群の第1画素107を有する。第2オブジェクト108の表現は矩形形状を有し、第2画素群の第2画素109を有する。
【0041】
図1は更に、奥行きマップ104を模式的に示している。奥行きマップ104は、奥行き関連データ要素、即ち、奥行き値の二次元マトリクスである。奥行きマップ104の奥行き関連データ要素の数は入力画像100の画素の数に等しい。図1に示す奥行き値は入力画像100のそれぞれの画素値に対応している。奥行きマップ104は、入力画像100の第1オブジェクト106の表現に対応する奥行き値の第1集合126と、入力画像100の第2オブジェクト108の表現に対応する奥行き値の第2集合128とを有する。奥行き値の第1集合126の奥行き値の第1奥行き値127は、第1オブジェクト106の表現の画素の第1画素107に対応し、奥行き値の第2集合128の奥行き値の第1奥行き値129は、第2オブジェクト108の表現の画素の第1画素109に対応する。
【0042】
図1は更に、第1オブジェクト116の更なる表現及び第2オブジェクト118の更なる表現を有する出力画像102を模式的に示している。第1オブジェクト116の更なる表現は、入力画像100の第1オブジェクト106の表現に基づき、第2オブジェクト118の更なる表現は、入力画像100の第2オブジェクト108の表現に基づいている。第1オブジェクト116の更なる表現は、左の第1オブジェクト106のそれぞれの入力画素をシフトさせることにより演算される。シフト量は、奥行き値の第1集合126のそれぞれの奥行き値に関連している。入力画像100及び出力画像102は、図1において位置合わせされるように示されている。第1オブジェクト106の表現の画素の第1画素107及び第1オブジェクト116の更なる表現の画素の対応する第1画素117は、互いに等しい座標を有しないことが、第1破線137により理解することができる。換言すれば、第1オブジェクト116の更なる表現の画素の対応する第1画素117は、奥行き値の第1集合126の奥行き値の第1奥行き値127に基づくシフトにより第1オブジェクトの表現の画素の第1画素107をシフトすることにより演算される。
【0043】
同様に、第2オブジェクト108の表現の画素の第1画素109及び第2オブジェクト118の更なる表現の画素の対応する第1画素が互いに等しい座標を有しないことは、第2破線139により理解することができる。換言すれば、第2オブジェクト116の更なる表現の画素の対応する第1画素119は、奥行き値の第2集合128の奥行き値の第1奥行き値129に基づくシフトにより第2オブジェクトの表現の画素の第1画素109をシフトすることにより演算される。
【0044】
単語"text"を表現するオーバーレイに対応する画素を見ると、そのオーバーレイを表現する入力画素にはシフトが適用されていないことが分かる。例えば、文字"t"に属す入力画像100の第1画素群の第1画素105及び対応する出力画素115は、互いに等しい座標を有する。第3破線135は、シフトが適用されていないことを明確に示している。換言すれば、入力画像100及び出力画像102の両方における単語"text"は同じ座標に位置付けられている。第1画素群に対応する、即ち、奥行きマップ104において利用可能である単語"text"を表現するそれぞれの入力画素に属す奥行き値は、互いに等しくないことに留意されたい。実際には、それらは全てが0に等しいとは限らず、その結果、シフトが適用される必要はない。出力画像103を生成するように、第1画素群の画素が実際にはシフトされない理由は、本発明にしたがった鮮明なオーバーレイを保つためである。
【0045】
図2は、出力画素204に対する入力画素200のマッピングを模式的に示している。図2は、複数の入力画素200を模式的に示している。円を用いて表され、大文字J乃至Mにより表現されている入力画素の第1群がある。それらの入力画素の第1群はオーバーレイに対応している。ボックスを用いて表され、大文字A乃至I及びN乃至Qにより表現されている入力画素の第2群がある。それらの入力画素の第2群は非オーバーレイに対応している。
【0046】
それぞれの入力画素200に適用されるシフト量202は、ボックス及び円の上に数値(4又は0)で示されている。図2における異なる矢印はシフト量及び入力画素から出力画素へのマッピングを表している。
【0047】
図2は、複数の出力画素204を模式的に示している。円を用いて表され、小文字j乃至mにより表現されている出力画素の第1群がある。ボックスを用いて表され、大文字a乃至e及びn1乃至n4により表現されている出力画素の第2群がある。
【0048】
出力画像204においては、オーバーラップ領域206が存在している。出力画像中の同じ位置に、入力画素の第1群の第1入力画素Jがマッピングされ、入力画素の第2群の第1入力画素Fがシフトされるようになっている。それと同様なことが、入力画素の次の対、即ち、KとG、LとH及びMとIについて適用される。最終的に選択される出力画素は、j、k、l及びmそれぞれでラベリングされる。そのことは、異なる出力画素の値は、入力画素の第1群、即ち、オーバーレイに対応する入力画素のそれぞれの値に基づいていることを意味する。図3Cに関連付けて開示されている本発明にしたがったレンダリングユニット303の実施形態は、オーバーラップ領域が存在することを確立し、それぞれの出力画素を演算するように適切な入力画素の選択を実行するように備えられている。
【0049】
出力画像204においては、空き領域208が存在している。そのことは、入力画素の座標及び対応するシフト量を考慮するときに、マッピングされるようになっている第1画素群の画素はなく、その空き領域208にシフトされるようになっている第2画素群の画素はないことを意味する。特定の出力画素に値を割り当てることなく、穴又はギャップが存在することは明らかである。そのことは許容されないために、それが起こらないようにするための付加的な対策が必要である。図2から分かるように、第2画素群の特定の入力画素Nの画素値は、空き領域に位置する出力画素n1乃至n4の画素値を演算するように適用される。出力画素n1乃至n4の画素値は全て、オーバーレイの境界に位置する境界画素Mの比較的近くに位置する特定の入力画素Nに基づく。図示されている実施例においては、その特定の入力画素Nは、境界の画素Mの方への最小距離を有する入力画素に対応する。大きい距離を有する他の入力画素、例えば、Oで表される入力画素が、上記目的又は複数画素のために選択される(例えば、P−O−Nから空き領域に外挿される)ことは明らかである。図3Dに関連して開示される本発明にしたがったレンダリングユニット305の実施形態は、空き領域208が存在することを確立するように、そしてそれぞれの出力画素を演算するように適切な入力画素の選択を実行するように備えられている。
【0050】
図3Aは、本発明にしたがったレンダリングユニット300の実施形態を模式的に示している。レンダリングユニット300は、入力画素105、107、109を有する入力画像100に基づいて、そしてそれぞれの入力画素105、107、109に対応する奥行き関連データ要素127、125、129に基づいて、出力画素115、117、119を有する出力画像102をレンダリングするように備えられている。そのレンダリングユニット300は:
− それぞれの奥行き関連データ要素127、125、129に基づいて入力画素105、107、109に適用されるべきシフト値を演算するためのシフト演算ユニット;及び
− それぞれのシフト値により入力画素105、107、109のシフトに基づいて出力画素115、117、119を演算するための補間ユニット304;
を有する。
【0051】
レンダリングユニット300は更に:
− シフト演算ユニット302に奥行き関連データ要素を供給するための第1入力コネクタ308;
− 好適には、オーバーラップ表示マップの形で、オーバーレイ/非オーバーレイに関する情報を供給するための第2入力コネクタ306(オーバーラップ表示マップは、入力画素105、107、109の各々について、入力画素がオーバーレイ又は非オーバーレイに対応するかどうかを示すためのそれぞれのインジケータを有する);
− 補間ユニット304に入力画素105、107、109の画素値を供給するための第3入力コネクタ310;
を有する。
【0052】
レンダリングユニット300の作用は下記のようである。与えられている入力画素105、107、109の各々について、対応するシフトが、シフト演算ユニット302により、それぞれの奥行き関連データ要素127、125、129に基づいて演算される。演算されたシフトは補間ユニット304に供給され、その補間ユニットは、それぞれの入力画素の演算されたシフトを実際に適用することにより出力画素値を演算するように備えられている。演算された出力画素値は出力コネクタ312において供給される。
【0053】
レンダリングユニット300は、オーバーレイに対応する入力画素と、非オーバーレイに対応する入力画素間との間の区別を行うように備えられている。このことは、非オーバーレイに対応する入力画素については、それぞれのシフトが、それぞれの奥行き関連データ要素に基づいていることを意味する。しかしながら、オーバーレイに対応する入力画素については、それぞれのシフトは0に等しい。そのことは、シフト演算ユニット302が、対応する入力画素がオーバーレイに対応している場合、その入力画素の対応する奥行き関連データ要素に依存することなく、出力として0を与えることを意味する。任意に、例えば、正確さの理由で、正確に0のシフトがアーティファクトをもたらす場合、それぞれのシフトは略0である。
【0054】
シフト演算ユニット302及び補間ユニット304は、1つの処理器を用いて実施されることが可能である。通常、それらの機能は、ソフトウェアプログラムプロダクトの制御下で実行される。実行中は、通常、そのソフトウェアプログラムプロダクトは、RAMのようなメモリにロードされ、そこから実行される。プログラムは、ROM、ハードディスク若しくは磁気及び/又は光記憶装置のようなバックグラウンドメモリからロードされることが可能であり、又は、インターネットのようなネットワークを介してロードされることが可能である。任意に、特定のアプリケーション用集積回路が上記の機能を備えることができる。
【0055】
特定の出力画素は、入力画像のサンプリンググリッドに関連する整数距離を有するベクトルだけ単一の入力画素をシフトさせることによる単一の入力画素に基づくことが可能であることに留意する必要がある。しかしながら、典型的には、そのシフト量は整数距離を有しない。そのような場合、特定の出力画素は、多数入力画素の重み付け平均に基づいていて、それにより、その重み付けは、例えば、シフト量の一部又は他のフィルタ機能に基づいている。
【0056】
図3Bは、どの入力画素がオーバーレイに対応するか及びどの画素が非オーバーレイに対応するかを決定するために決定ユニット309を有する本発明にしたがったレンダリングユニット301の実施形態を模式的に示している。このレンダリングユニット301の実施形態は、図3Aに関連付けて上記したレンダリングユニット300と略同様である。それらの違いは、入力画素のどれがオーバーレイに対応し、どれが非オーバーレイに対応するかについての情報は外部において決定及び供給されないが、レンダリングユニット301において決定されることである。そのような決定ユニットについては、文献"General and domain−specific techniques for detecting and recognized superimposed text in video",by 。Zhang,R.K.Rajendran and S−F.Chang,proceedings of IEEE ICIP(International Conference on Image Processing),Rochester,NY,USA,Sept.2002及び文献"Detection of TV commercials",by Alberto Albiol,Maris Jose Ch.Fulla,Antonio Albiol & Luis Torres,page 2−3,chapter2,"logo mask extraction"に記載されていて、当業者に知られている。
【0057】
シフト演算ユニット302、補間ユニット304及び決定ユニット309は1つの処理器を用いて実施されることが可能である。
【0058】
図3Cは、オーバーラップ確立ユニット314及び第1選択ユニット316を有する本発明にしたがったレンダリングユニット303の実施形態を示している。このレンダリングユニット303の実施形態は、図3Aに関連付けて上記したレンダリングユニット300と略同様である。それらの違いは、この実施形態にしたがったレンダリングユニット303は、オーバーラップ領域の場合に、非オーバーレイに対応する入力画素において、オーバーレイに対応する入力画素が使用されるように備えられていることである。このレンダリングユニット303実施形態は:
− 第1画素群の第1の画素Jがマッピングされるようになっていて、第2画素群の第1画素Fがシフトされるようになっているオーバーラップ領域が出力画像中に存在するかどうかを、奥行き関連データ要素の一部に基づいて確立するためのオーバーラップ確立ユニット314;及び
− オーバーラップ領域206に位置する出力画素の第2画素jを演算するために第1画素群の第1画素Jを選択するための第1選択ユニット316;
を有する。
【0059】
この確立及び選択の作用及び有利点については図2を参照して説明している。
【0060】
代替として、レンダリングユニット303はまた、図3Bを参照して説明している決定ユニット309を有する。
【0061】
シフト演算ユニット302、補間ユニット304、決定ユニット309、オーバーラップ確立ユニット314及び第1選択ユニット316が、1つの処理器を用いて実施されることが可能である。
【0062】
図3Dは、空き領域確立ユニット318及び対応する選択ユニット320を有する、本発明にしたがったレンダリングユニット305の実施形態を模式的に示している。このレンダリングユニット305の実施形態は、図3Aを参照して説明しているレンダリングユニット300と略同様である。それらの違いは、この実施形態にしたがったレンダリングユニット305が、空き領域208の場合に、オーバーレイに対応する入力画素において、非オーバーレイに対応する入力画素が使用されるように備えられていることである。このレンダリングユニット305の実施形態は:
− 第1画素群の画素の何れもマッピングされるようになっていず、第2画素群の画素の何れもシフトされるようになっていない空き領域208が出力画像中に存在するかどうかを、奥行き関連データ要素の更なる一部に基づいて確立するための空き領域確立ユニット;及び
− 空き領域に位置する出力画素の第3画素jを演算するために第2画素群の特定の画素を選択するための第2選択ユニット320;
を有する。
【0063】
この確立及び選択の作用及び有利点については図2を参照して説明している。
【0064】
代替として、レンダリングユニット305はまた、図3Bを参照して説明している決定ユニット309を有する。
【0065】
代替として、レンダリングユニット305はまた、図3Cを参照して説明しているオーバーラップ確立ユニット314及び第1選択ユニット316を有する。
【0066】
シフト演算ユニット302、補間ユニット304、決定ユニット309、オーバーラップ確立ユニット314、第1選択ユニット316、空き領域確立ユニット318及び第2選択ユニット320が、1つの処理器を用いて実施されることが可能である。
【0067】
図4は、図3A乃至3Dの何れかを参照して上記している本発明にしたがったレンダリングユニット402の実施形態を有するマルチビュー画像生成ユニット400の実施形態を模式的に示している。マルチビュー画像生成ユニット400は、ビデオ画像のシーケンスに基づいてマルチビュー画像のシーケンスを生成するように備えられている。マルチビュー画像生成ユニット400は、入力コネクタ406においてビデオ画像のストリームを提供され、出力コネクタ412及び414のそれぞれにおいてビデオ画像の2つの相関ストリームを供給する。ビデオ画像のそれらの2つの相関ストリームは、ビデオ画像の相関ストリームの第1ストリームに基づいて第1ビュー集合を視覚化するように、そしてビデオ画像の相関ストリームの第2ストリームに基づいて第2ビュー集合を視覚化するように備えられているマルチビュー表示装置に対して供給されるようになっている。ユーザ、即ち、ビューアが、左の目で第1ビュー集合を、そして右目で第2ビュー集合を見る場合、そのユーザは三次元の印象を得ることができる。ビデオ画像の相関ストリームの第1ストリームが、受信されるビデオ画像のシーケンスに対応し、ビデオ画像の相関ストリームの第2ストリームが、受信されるビデオ画像のシーケンスに基づいて本発明の方法にしたがってレンダリングされることが可能である。好適には、ビデオ画像の両方のストリームは、受信されるビデオ画像のシーケンスに基づいて、本発明の方法にしたがってレンダリングされる。
【0068】
マルチビュー画像生成ユニット400は、奥行き関連データ要素を供給するための第1入力コネクタと、オーバーラップ表示マップの形でオーバーレイ/非オーバーレイに関連する情報を供給するための第2入力コネクタ410とを更に有する。
【0069】
マルチビュー画像生成ユニット400はビデオ画像を処理するように設計されているが、マルチビュー画像生成ユニット400の他の実施の形態は、個々の画像、すなわち静止画像に基づいてマルチビュー画像を生成するように備えられる。
【0070】
マルチビュー画像生成ユニット400は2つの出力コネクタ412及び414を有するが、出力の代替の方法、例えば、マルチビュー表示装置における表示に備えるインターリーブ出力が可能である。更に、異なるマルチビュー画像を生成する出力画像の数は、2に限定されるものではない。
【0071】
図5は、本発明にしたがった画像処理装置500の実施形態を模式的に示していて、その画像処理装置500は:
− 入力画像及び奥行き関連データを表現するビデオ信号を受信するための受信ユニット;
− 図4を参照して上記した、受信された入力画像及び対応する奥行き関連データ要素に基づいてマルチビュー画像を生成するためのマルチビュー画像生成ユニット;並びに
− マルチビュー画像生成ユニット400により供給されるマルチビュー画像を表示するためのマルチビュー表示装置506;
を有する。
【0072】
ビデオ信号は、アンテナ又はケーブルを介して受信される放送信号であることが可能であるがまた、VCR(ビデオカセットレコーダ)又はDVD(Digital Versatile Disk)のような記憶装置からの信号であることが可能である。この信号は入力コネクタ510に供給される。画像処理装置500は、例えば、テレビであることが可能である。画像処理装置500は、オプションの表示装置を有しないが、表示装置506を有する装置に出力画像を供給する。その場合、画像処理装置500は、例えば、セットトップボックス、衛星放送チューナ、VCRプレーヤ、DVD(Digital Versatile Disk)プレーヤ又はレコーダであることが可能である。任意に、画像処理装置500は、ハードディスク、又は取り外し可能媒体、例えば、光ディスクに記憶するための手段のような記憶手段を有する。画像処理装置500はまた、映画館又は放送局により用いられるシステムであることが可能である。
【0073】
上記の実施形態は本発明を限定するものではなく、例示するものであり、同時提出の特許請求の範囲における範囲から逸脱することなく代替の実施形態を当業者がデザインすることが可能であることに留意する必要がある。用語"を有する"は、請求項に列挙されていない要素又はステップの存在を排除するものではない。要素の単数表現は、その要素の複数の存在を排除するものではない。本発明は、幾つかの別個の要素を有するハードウェアにより、そして適切にプログラムされたコンピュータにより実施されることが可能である。複数の手段を列挙している装置請求項において、それらの手段の幾つかは、ハードウェアの同一のアイテムにより具現化されることが可能である。用語、第1、第2、第3等を使用することは、何れの順序を示すものではない。それらの用語は、名前を表すものである。

【特許請求の範囲】
【請求項1】
入力画素を有する入力画像に基づいて、及びそれぞれの前記入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングするためのレンダリングユニットであって、
それぞれの前記奥行き関連データ要素に基づいて、前記入力画素に適用されるべきシフト値を演算するためのシフト演算ユニット、及び
それぞれの前記シフト値により前記入力画素をシフトさせることに基づいて、前記出力画素を演算するための補間ユニット、
を有する、レンダリングユニットであり、
前記シフト演算ユニットは、前記シフト値のうちの第1シフト値として、前記入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値を供給することを特徴とするレンダリングユニット。
【請求項2】
請求項1に記載のレンダリングユニットであって、オーバーレイに対応する入力画素の第1画素群と、非オーバーレイに対応する入力画素の第2画素群とを表示するための入力インターフェースであって、前記第1画素群及び前記第2画素群は前記入力画像を形成する、入力インターフェースを更に有する、レンダリングユニット。
【請求項3】
請求項1に記載のレンダリングユニットであって、オーバーレイに対応する入力画素の第1画素群と、非オーバーレイに対応する入力画素の第2画素群とを決定するための決定ユニットであって、前記第1画素群及び前記第2画素群は前記入力画像を形成する、入力インターフェースを更に有する、レンダリングユニット。
【請求項4】
請求項2又は3に記載のレンダリングユニットであって:
第1画素群のうちの第1画素がマッピングされ、第2画素群のうちの第1画素がシフトされるべきオーバーラップ領域が前記出力画像中に存在するかどうかを、前記奥行き関連データ要素の一部に基づいて定めるためのオーバーラップ確立ユニット;及び
前記オーバーラップ領域に位置する前記出力画素のうちの第2画素を演算するために前記第1画素群の前記第1画素を選択するための選択ユニット;
を更に有する、レンダリングユニット。
【請求項5】
請求項2乃至4の何れか一項に記載のレンダリングユニットであって:
第1画素群の何れの画素もマッピングされず、第2画素群の何れの画素もシフトされない空き領域が前記出力画像中に存在するかどうかを、前記奥行き関連データ要素の更なる一部に基づいて定めるための空き領域確立ユニット;及び
前記空き領域に位置する前記出力画素のうちの第3画素を演算するために前記第2画素群のうちの特定の画素を選択するための選択ユニット;
を更に有する、レンダリングユニット。
【請求項6】
請求項5に記載のレンダリングユニットであって、前記選択ユニットは、前記空き領域の周囲において前記第2画素群のうちの前記特定の画素を選択する、レンダリングユニット。
【請求項7】
入力画像に対応する信号を受信するための受信手段;及び
請求項1に記載の出力画像をレンダリングするためのレンダリングユニット;
を有する画像処理装置。
【請求項8】
請求項7に記載の画像処理装置であって、前記出力画像を表示するための表示装置を更に有する、画像処理装置。
【請求項9】
コンピュータ装置によりロードされるコンピュータプログラムであって、入力画素を有する入力画像に基づいて、及びそれぞれの前記入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングする指令を有し、前記コンピュータ装置は処理手段及びメモリを有し、ロードされた後に、前記コンピュータプログラムは:
それぞれの前記奥行き関連データ要素に基づいて、前記入力画素に適用されるべきシフト値を演算すること;及び
それぞれの前記シフト値により前記入力画素をシフトさせることに基づいて、前記出力画素を演算すること;
を実行する機能を前記処理手段に与える、コンピュータプログラムであり、
前記シフト値を演算する段階は、前記シフト値のうちの第1シフト値として、前記入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値をもたらす;
ことを特徴とするコンピュータプログラム。
【請求項10】
入力画素を有する入力画像に基づいて、及びそれぞれの前記入力画素に対応する奥行き関連データ要素に基づいて、出力画素を有する出力画像をレンダリングする方法であって:
シフト演算ユニットにより、それぞれの奥行き関連データ要素に基づいて、前記入力画素に適用されるようにシフト値を演算する段階;及び
補間ユニットにより、それぞれの前記シフト値により前記入力画素をシフトさせることに基づいて、前記出力画素を演算する段階;
を有する、方法であり、
前記のシフト値を演算する段階が、前記シフト値のうちの第1シフト値として、前記入力画素のうちの対応する第1入力画素がオーバーレイに対応する場合、対応する奥行き関連データ要素に依存することなく、0に等しい出力値をもたらす;
ことを特徴とする方法。

【図1】
image rotate

【図2】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図3C】
image rotate

【図3D】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−108922(P2012−108922A)
【公開日】平成24年6月7日(2012.6.7)
【国際特許分類】
【外国語出願】
【出願番号】特願2011−281020(P2011−281020)
【出願日】平成23年12月22日(2011.12.22)
【分割の表示】特願2008−507223(P2008−507223)の分割
【原出願日】平成18年4月12日(2006.4.12)
【出願人】(590000248)コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ (12,071)
【Fターム(参考)】