説明

3Dディスプレイにおいてクロストークを補償する方法

プロセッサ及びシステムメモリを備えるコントローラと、少なくとも2つのチャネルとを有する3Dプロジェクタカメラシステムにおいてクロストークを補償する方法が、プロジェクタカメラシステムを較正するステップと、プロジェクタカメラシステムに適用可能なクロストーク係数を計算するステップと、計算されたクロストーク係数に基づいて、新たな画像データをクロストークに関して補正するステップとを含む。各チャネルの較正画像を、連続して投影しカメラを用いて捕捉することによってシステムを較正し、チャネル間のクロストークを捕捉する。コントローラは、捕捉された較正画像に基づいてクロストーク係数を計算することができる。

【発明の詳細な説明】
【背景技術】
【0001】
偏光関連技術における近年の進歩の結果として、偏光に基づく3Dシステムが、動画のための最も一般的な3Dシステムに急速になりつつある。偏光3D投影の使用は、視聴者に偏光眼鏡を与えることがはるかに安価であることに大きく起因して、より普及している。3D偏光投影は、各眼に対し、偏光で構成される画像を(偏光保持スクリーンを介して)放出、透過、又は反射する二重相補偏光素子(dual complementary polarizing elements)を用いる。各眼に対する光は、視聴者の眼鏡において対応する相補的に偏光されたレンズを介して選択され、各眼に対し別個の画像を生成し、投影画像において立体視の効果、したがって奥行きの錯覚を与える。
【発明の概要】
【0002】
3D偏光投影における1つの重大な課題は、画像チャネル間のクロストークである。すなわち、画像のうち、一方の眼に向けた部分が他方の眼にブリード又は漏出し、これによって画像品質が落ちる。3D偏光投影システムにおけるクロストークは一般に、偏光及び選択プロセスにおける不完全性に起因して生じる。
【0003】
本開示の様々な特徴及び利点は、以下の詳細な説明を、添付の図面と併せて考慮した場合に、これらから明らかになるであろう。詳細な説明及び添付の図面はともに、本開示の特徴を例として示す。
【図面の簡単な説明】
【0004】
【図1A】水平方向に偏光されたサブフレームを投影する単一プロジェクタ偏光に基づく3Dディスプレイシステムを示す図である。
【図1B】垂直方向に偏光されたサブフレームを投影する図1Aの単一プロジェクタ偏光に基づく3Dディスプレイシステムを示す図である。
【図2】マルチプロジェクタ3Dディスプレイシステムの1つの実施形態のブロック図である。
【図3】本開示による、偏光に基づく3D投影システムにおけるクロストークを低減する方法の1つの実施形態におけるステップを概説するフローチャートである。
【図4】本開示による、偏光に基づく3D投影システムにおけるクロストークを低減する方法の別の実施形態におけるステップを概説するフローチャートである。
【発明を実施するための形態】
【0005】
次に、図面に示す例示的な実施形態を参照する。本明細書において、例示的な実施形態を説明するのに特殊な言い回しが用いられる。それにもかかわらず、それによって本開示の範囲を限定することは意図されていないことが理解されよう。本開示を入手する関連技術における当業者が思いつく、本明細書において説明される特徴の代替形態及び更なる変更形態、並びに本明細書において説明される原理の追加の応用形態は、本開示の範囲内にあるとみなされる。
【0006】
本明細書において用いられるとき、「上」、「下」、「前」、「後」、「先頭」、「末尾」等の方向を示す用語は、説明されている図面の向きを基準として用いられる。本明細書において開示される様々な実施形態の構成要素は、多数の異なる向きに位置決めすることができ、方向を示す用語は例示のためにのみ用いられ、限定することを意図するものではない。
【0007】
本明細書において用いられるとき、用語「コンピュータ」は、処理ユニットと、システムメモリと、処理ユニットをコンピュータの様々な構成要素に結合するシステムバスとを備える、パーソナルコンピュータ、メインフレームコンピュータ、ポータブルコンピュータ、PDA、スマートフォン、又はワークステーションコンピュータを含む任意の種類のコンピューティングデバイスを指す。処理ユニットは1つ又は複数のプロセッサを備えることができ、該プロセッサのそれぞれが様々な市販のプロセッサのうちの任意のものの形態をとることができる。一般に、各プロセッサは、読出し専用メモリ(ROM)及び/又はランダムアクセスメモリ(RAM)から命令及びデータを受信する。システムメモリは通常、コンピュータの起動ルーチンを含む基本入出力システム(BIOS)を格納するROMと、コンピュータプログラム命令及びデータを格納するRAMとを備える。
【0008】
コンピュータは通常、キーボード、ポインティングデバイス(例えばコンピュータマウス)、マイクロフォン、カメラ、又はコンピューティングデバイスとともに用いられることが知られている任意の他の入力手段等の、ユーザーインタラクション用の(例えばコマンド又はデータを入力し、結果を受信又は閲覧する)入力デバイスも備える。コンピュータは、モニター若しくはディスプレイ、プロジェクタ、プリンタ、オーディオスピーカ、又はコンピューティングデバイスによって制御可能であることが知られている任意の他のデバイス等の出力デバイスも備えることができる。いくつかの実施形態では、コンピュータは1つ又は複数のグラフィックカードも備えることができ、該グラフィックカードのそれぞれが、内部クロック源又は外部クロック源に同期された1つ又は複数のディスプレイ出力を駆動することが可能である。
【0009】
用語「コンピュータプログラム」は、本明細書において、プロセッサ及びシステムメモリを備えるコンピューティングデバイスに、データを変換し、かつ/又はディスプレイ表示若しくは印刷標示等の有形な結果を生成する一連の処理ステップを実行させるための、有形コンピュータ可読ストレージ媒体上に格納された機械可読命令を指すのに用いられる。
【0010】
用語「コンピュータ可読媒体」は、本明細書において用いられるとき、データ、データ構造、及び機械実行可能命令のための不揮発性又は永続性のストレージを提供するのに適した、フロッピー(登録商標)ディスク、ハードディスク、CD−ROM、フラッシュメモリ、読出し専用メモリ、及びランダムアクセスメモリ等の、揮発性又は不揮発性の任意の種類のメモリ又はメモリデバイスを含む。これらの命令及びデータを有形に具体化するのに適したストレージデバイスは、例えば、EPROM、EEPROM、及びフラッシュメモリデバイス等の半導体メモリデバイス、内部ハードディスク及びリムーバルディスク等の磁気ディスク、光磁気ディスク、並びにCD、CDROM、DVD−ROM、DVD−RAM、及びDVD−RW等の光ディスクを含む、全ての形態の不揮発性メモリを含む。上記の種類のコンピュータ可読媒体又は関連デバイスのうちの任意のものを、コンピュータと関連付けるか又は該コンピュータの一部分として含めて、それぞれのインタフェースによってシステムバスに接続することができる。他のコンピュータ可読ストレージデバイス(例えば、磁気テープドライブ、フラッシュメモリデバイス、及びデジタルビデオディスク)もコンピュータとともに用いることができる。
【0011】
本明細書において用いられるとき、用語「サブフレーム」は、表示画像のうちの、単一のプロジェクタによって一方の眼に対して生成された部分を指す。1つ又は複数のプロジェクタからの複数のサブフレームによって生成された完全な表示画像は、「合成画像」と呼ばれる。単一のプロジェクタが時間多重化によって合成画像を生成し、個々のサブフレームを連続して投影することができること、及び、合成画像はマルチプロジェクタシステムにおいてプロジェクタのサブグループ(すなわちプロジェクタの全てより少ない)によって生成することもできることを理解されたい。
【0012】
上述したように、3D偏光投影は、偏光で構成される画像を偏光保持スクリーンに対し放出、透過、又は反射する二重相補偏光素子を用いる。次に、これらの画像は偏光レンズを用いた特殊な眼鏡をかけている視聴者によって視聴される。
【0013】
3D偏光投影システムは、単一のプロジェクタ又は複数のプロジェクタを用いることができる。偏光に基づく3D画像表示システム100の1つの実施形態の図が図1Aに示されている。画像表示システム100は、画像データを処理し、画像データをプロジェクタ112に送信するコンピュータプロセッサ102を備える。プロジェクタ112は二重相補偏光素子を備え、包括的に114で示される偏光画像を偏光保持スクリーン106に投影する。コンピュータコントローラ102は、左眼画像用及び右眼画像用の別個のチャネルを有するデュアルヘッドグラフィックスカードを備えることができる。画像は、絵画的、図形的、若しくはテクスチャ的な文字、シンボル、図、又は他の情報表現を含むことができる。表示システムは、以下でより詳細に検討するように、コンピュータプロセッサ102に相互接続されて較正のフィードバックを提供する較正カメラ122も備えることができる。
【0014】
単一のプロジェクタ112が用いられる場合、プロジェクタは、右眼のビュー及び左眼のビューをスクリーン106に交互に投影するように時間多重化される。図1Aに示す例は、直線偏光されたシステムを表しているが、円形偏光されたシステムも3D偏光に基づく投影に用いることができることを理解されたい。直線偏光では、単一のプロジェクタを用いて立体動画を提示するために、2つの画像が、異なる角度をつけられた偏光フィルタを通してフレームごとにスクリーン上に連続して投影される。偏光フィルタは、直交偏光する(すなわち、互いに対して90度の角度で偏光されている)こともできるし、何らかの他の比較的大きな角度で偏光することもできる。
【0015】
スクリーンは、偏光を保持するために、偏光を解消しないように特別に構築される。スクリーンはまた、(一方の眼が1つのフレームを視聴している間、他方の眼は何も見ていないので)光損失を補償するために、明るさを保持するように構成することができる。
【0016】
画像を視聴するために、視聴者は一対の偏光フィルタ110a、110bを含む低コストの眼鏡108をかける。説明の目的で、図1A及び図1Bに示す眼鏡のレンズはそれぞれ水平な線及び垂直な線を用いて示され、直交偏光されたレンズを表している。すなわち、右レンズ110aは水平方向に偏光されている一方、左レンズ110bは垂直方向に偏光されている。図1A及び図1Bは単なる例示であることを理解されたい。実際には、偏光のそれぞれの角度は水平及び垂直と異なることができる。例えば、多くの偏光に基づく3Dシステムにおいて、レンズごとの偏光角度はそれぞれ45度及び135度に設定される。各フィルタは、同様に偏光された光のみを通し、他の光を遮断するので、各眼は全画像のうちの同様に偏光された部分のみを見る。すなわち、各眼に対する光は、各眼に対し別個の画像を生成するように選択され、立体視を作り出し、投影画像において奥行きの錯覚を与える。有利には、この手法は、数名の人々がヘッドトラッキングなしであっても立体画像を同時に視聴することを可能にすることができる。
【0017】
図1Aにおいて、水平方向に偏光されたサブフレーム114aを投影する投影システム100が示されている。この画像は、その偏光に起因して、偏光眼鏡108の右レンズ110aを通過し、この眼鏡の左レンズ110bによって遮断される。なぜなら、左レンズ110bは垂直方向に偏光されているためである。一方、図1Bでは、プロジェクタ112は垂直方向に偏光されたサブフレーム114bを投影している。このサブフレームは、対応する偏光を有する左レンズ110bによって透過されるが、水平方向に偏光されている右レンズ110aによって遮断される。このようにして、視聴者の右眼及び左眼は異なるサブフレームを見ることになり、3D画像の外観を提供するために、各眼が僅かに異なるビューを知覚することが可能になる。これらの偏光されたサブフレームは、通常のビデオリフレッシュレートの数倍で交互に投影することができる。例えば、ビデオ投影システムの通常のリフレッシュレートが毎秒60フレームである場合、単一プロジェクタシステム100は、毎秒120サブフレームのレートで個々の偏光されたサブフレームを投影するように構成し、各眼に毎秒60の全体フレームに相当するものを提供することができる。当業者であれば、他のリフレッシュレート及びサブフレームレートも用いることができることを認識するであろう。
【0018】
3D偏光投影システムは、複数のプロジェクタを用いることもできる。マルチプロジェクタ3D表示システムの図が図2に示されている。このシステムは2つのプロジェクタを有して示されているが、3つ以上のプロジェクタを用いるマルチプロジェクタシステムも用いることができることを理解されたい。2つのプロジェクタを用いることによって、一方のプロジェクタが右眼画像を投影し、他方のプロジェクタが実質的に重なり合う位置において左眼画像を投影することが可能になる。
【0019】
画像表示システム200は、画像データ202を処理し、対応する偏光された表示画像214を生成する。画像表示システムは、画像フレームバッファ204と、サブフレーム生成器208と、プロジェクタ212A、212B(合わせてプロジェクタ212と呼ばれる)と、カメラ222と、較正ユニット224とを備える。画像フレームバッファ204は、画像データ202を受信及びバッファリングして、画像フレーム206を作成する。サブフレーム生成器208は、画像フレーム206を処理して、異なるように偏光された対応する画像サブフレーム210A、210B(合わせてサブフレーム210と呼ばれる)を規定する。1つの実施形態では、画像フレーム206ごとに、サブフレーム生成器208は、プロジェクタ212Aの1つのサブフレーム210Aと、プロジェクタ212Bの1つのサブフレーム210Bとを生成し、これらのサブフレームはそれぞれ右眼画像及び左眼画像に対応する。サブフレーム210A、210Bは、それぞれプロジェクタ212A、212Bによって受信され、それぞれ画像フレームバッファ113A、113B(合わせて画像フレームバッファ113と呼ばれる)に格納される。プロジェクタ212A、212Bは、それぞれ偏光されたサブフレーム210A、210Bをスクリーン216上に投影し、ユーザーが視聴するための合成表示画像214を生成する。プロジェクタ212Aからの画像は、プロジェクタ212Bによって投影された画像と異なるように偏光され、それによって、視聴者の眼鏡232のそれぞれのレンズ230a、230bは、各眼に異なる画像を渡し、結果の画像において奥行きの錯覚を与える。
【0020】
画像フレームバッファ204は、1つ又は複数の画像フレーム206の画像データ202を格納するメモリを備える。このため、画像フレームバッファ204は、1つ又は複数の画像フレーム206のデータベースを構成する。画像フレームバッファ113は、サブフレーム210を格納するメモリも備える。画像フレームバッファ204及び113の例には、不揮発性メモリ(例えば、ハードディスクドライブ又は他の永続性ストレージデバイス)が含まれ、揮発性メモリ(例えばランダムアクセスメモリ(RAM))を含めることもできる。
【0021】
サブフレーム生成器208は、画像フレーム206を受信及び処理し、複数の画像サブフレーム210を規定する。サブフレーム生成器208は、画像フレーム206内の画像データに基づいてサブフレーム210を生成する。プロジェクタ212はサブフレーム生成器208から画像サブフレーム210を受信し、画像サブフレーム210をターゲット表面216上に同時に投影することができる。2つのプロジェクタが用いられる場合、これらのサブフレームを実質的に重なり合った関係で投影し、図1A、図1Bの実施形態のような時間多重化と異なり、全体画像214の2つの偏光されたサブフレームを同時に提供することができる。しかしながら、3つ以上のプロジェクタが用いられる場合、選択されたサブフレームを、空間的にずらした位置に投影し、タイル状の又は部分的に重なり合った合成画像214を生成することもできる。これによって、より大きな画像若しくはより広い画像を提供するか、又は複数のプロジェクタ212からの重なり合ったより低い解像度のサブフレーム210を用いることによって、より高解像度のディスプレイの外観を有する画像を提供することを可能にすることができる。
【0022】
当業者であれば、サブフレーム生成器208によって実行される機能は、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組み合わせにおいて実施することができることが理解されよう。この実施態様は、マクロプロセッサ、プログラマブルロジックデバイス、又は状態機械を介したものとすることができる。システムの構成要素は、1つ又は複数のコンピュータ可読媒体デバイス上のソフトウェア内に存在することができる。
【0023】
図2には、画像フレームバッファ220を有する基準プロジェクタ218も示されている。基準プロジェクタ218は、図2では隠線で示されている。なぜなら、1つの実施形態において、プロジェクタ218は実際のプロジェクタではなく、最適なサブフレーム210を生成するための画像形成モデルにおいて用いられる仮想高解像度基準プロジェクタであるためである。1つの実施形態では、実際のプロジェクタ212のうちの1つのロケーションは、基準プロジェクタ218のロケーションとなるように規定することができる。表示システム200は、カメラ222及び較正ユニット224も備えることができ、これらを用いてプロジェクタ212と基準プロジェクタ218との間の幾何学的マッピングを自動的に求めることができる。
【0024】
画像表示システム200は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組合せを含むことができる。1つの実施形態では、画像表示システム200の1つ又は複数の構成要素(例えば、フレームバッファ204、サブフレーム生成器208、及び較正ユニット224)が、コンピュータ、コンピュータサーバ、又は一連の論理演算を実行することが可能で、システムメモリを有する他のマイクロプロセッサベースのシステムに含まれる。そのようなシステムは、本明細書において包括的に、マルチプロジェクタシステムの「コントローラ」と呼ばれる。加えて、処理をシステム全体に分散し、個々の部分を、ネットワーク化された環境又はマルチコンピューティングユニット環境(例えばクラスタ化されたコンピュータ)等の別個のシステム構成要素において実施することができる。
【0025】
図1に示し上記で説明した単一のプロジェクタの実施形態と同様に、カメラ222は、較正ユニット224に結合され、ジオメトリ、色、輝度等の補償パラメータを求めるのに用いられ、マルチプロジェクタシステムがシームレスな画像を形成するのを可能にする。
【0026】
上述したように、3D偏光投影における1つの大きな課題は、画像チャネル間のクロストークである。すなわち、画像のうち、一方の眼に向けられた部分が他方の眼に漏出又はブリードし、これによって画像品質が下がる。この種のクロストークは、単一プロジェクタ3Dシステム又はマルチプロジェクタ3Dシステムにおいて生じる可能性がある。3D偏光投影システムにおけるクロストークは通常、偏光及び選択プロセスにおける不完全性に起因して生じる。例えば、クロストークは、投影された光を所望の角度に完全に偏光しない場合がある所与のプロジェクタの偏光板により発生する可能性がある。加えて、偏光を保持するように構成された投影スクリーンが、偏光保持を完全に行わない場合があり、所望の信号を選択するために視聴者がかける眼鏡の偏光フィルタが他の信号も捕捉する場合がある。偏光に基づく3D投影システムにおけるクロストークはこれらの原因及び他の原因により生じる可能性がある。
【0027】
クロストークの低減に対するほとんどの手法は、より良好な投影スクリーン材料、より良好な偏光フィルタ、及びより良好な偏光眼鏡等の改善されたハードウェアに焦点を当ててきた。不都合なことに、ハードウェアの改善は高価になりがちであり、実施に多くの時間がかかる可能性がある。
【0028】
本明細書において開示されるように、偏光に基づく3D投影システムにおけるクロストークを低減するための非ハードウェア方法が開発されている。この方法は、較正フェーズ中にカメラ又は記録デバイスを介してチャネル間の光漏れを観察することを含む。次に、この漏れは、右眼及び左眼に対して表示された画像を、計算プロセスを介してデジタルで補正することによって補償される。本明細書に示される実施形態は偏光に基づくシステムであるが、本明細書に開示する方法は、相補的スペクトル手法(例えば各眼に赤・緑のカラーフィルタを用いる)等の他の相互消去(cross-canceling)技法にも適用することができる。加えて、図示及び説明される実施形態は、左眼用及び右眼用にそれぞれ2つのチャネルを備えるが、本方法は3つ以上のチャネル用に拡張することもできる。
【0029】
この方法の1つの実施形態におけるステップを概説するフローチャートが図3に与えられている。本方法は、3つの主要なフェーズ、すなわち、較正フェーズ302、計算フェーズ304、及び補正/レンダリングフェーズ306を有する。較正フェーズは、計算フェーズにおいてコンピュータ(例えば図1のコンピュータコントローラ102)によって用いられることになるデータを提供する。計算フェーズ及びレンダリングフェーズは、コンピュータコントローラによって実行することができる。コンピュータコントローラは、プロセッサ及びシステムメモリを有するコンピュータシステムを提供する。各フェーズで実行されるステップは、コンピュータのメモリ内に格納されたプログラムステップとして保存することができる。較正フェーズにおいて、左眼画像に寄与する表示要素(複数の場合もあり)(すなわち、プロジェクタ(複数の場合もあり))を用いて、各チャネルの較正画像(例えば偏光画像)をそれぞれ投影する(ステップ308)。すなわち、2チャネルシステムの場合、左眼のプロジェクタがまず左眼用の画像を投影し、次に右眼用の画像を投影する。次に、右眼画像に寄与する表示要素(複数の場合もあり)も用いて各眼の画像を投影する。複数のプロジェクタが関与している場合、このプロセスは各プロジェクタについて繰り返される。図3のフローチャートにおいて提案されているように、投影される画像は、N. Damera-Venkata、N. Chang、及びJ. Dicarlo、「A Unified Paradigm for Scalable Multi-Projector Displays」、IEEE Trans. on Visualization and Computer Graphics, Nov.-Dec. 2007(以下「Damera-Venkata、Chang、及びDicarlo」)において概説されているようなマルチプロジェクタシステムのためのトレーニングプロセスの一部として用いられるインパルス画像とすることができる。
【0030】
当業者であれば理解するように、種々の異なる較正パターンを、単一プロジェクタシステム又はマルチプロジェクタシステムにおける幾何学的較正及び色較正に用いることができる。一方、クロストークの較正が関係しているとき、較正パターンは各原色のフラットフィールドとすることができる。すなわち、赤・緑・青(RGB)投影システムの場合、各較正スクリーンは、強度が(おそらく)均一の単一の原色のベタ画像とすることができる。各較正画像は、カメラ−プロジェクタシステムの通常の幾何学的較正又は色較正とは異なり、プロジェクタ(複数の場合もあり)にある偏光フィルタを用いて連続して投影される。
【0031】
各画像が表示されると、カメラ(すなわち、図2の較正カメラ222)が、二重偏光フィルタを用いて投影画像を観察し、偏光眼鏡の効果を模倣する(ステップ310)。これは、最初にカメラ上に一方の偏光フィルタを導入して画像を取得し、次に他方の偏光フィルタを用いてプロセスを繰り返すことによって行うことができる。このステップにおいて、フィルタは、偏光眼鏡をかけている視聴者と(スクリーンに対して)同様の向きで位置決めされることが仮定される。一方の画像から他方の画像への漏れがあれば現れるので、このステップはクロストークを捕捉する。例えば、RGB投影システムを仮定すると、左眼に対し赤色較正画像が投影されるとき、右眼は理論的に何も見えないはずである。しかしながら、漏れが存在する限り、右眼画像は視野の或る領域で或るレベルの赤色光を捕捉し、緑及び青等の他の光も捕捉する場合がある。これは、システムが、空間的な漏れに加えて、スペクトルの漏れも呈する可能性があることを反映している。逆もまた真であり、赤色較正画像が右眼に投影される場合、左眼によって捕捉された或るレベルの赤色光並びに場合によっては更に青色光及び緑色光として漏れがあれば現れる。上述したように、これらの画像を取得するこのプロセスは、プロジェクタごとに、右/左眼画像及び右/左眼受像(reception)の各組合せについて繰り返される。
【0032】
当業者であれば、特にマルチカメラシステムが用いられている場合に、上述した較正手法を、幾何学的較正、輝度較正、及び色較正と併せて実行することができることを認識するであろう。例えば、カメラ群の幾何学的較正の後に、クロストークを検出するための較正パターンの投影に加えて、赤色、緑色、及び青色の原色の連続投影を用いて色較正を同様に可能にすることができる。しかしながら、マルチプロジェクタシステムでは、本明細書において開示されるクロストーク較正プロセスは通常、幾何学的較正が完了した後に実行され、それによって、各プロジェクタからの画像は空間的に所望の向きに向けられることになる。他の較正操作も実行することができる。3D表示システムが偏光に基づくシステムではない場合、投影された較正画像を捕捉するステップ(ステップ310)は、較正カメラが、偏光フィルタではなく、何らかの他の適切なフィルタ(例えばカラーフィルタ)を用いて較正画像を捉えることを含むことも明らかであろう。
【0033】
ステップ310からの捕捉画像に基づいて、計算フェーズ304における第1のステップは、所与の画像がプロジェクタ(複数の場合もあり)から投影された場合に眼が見ることになるもののシミュレートされた画像又はモデルを構築することである(ステップ312)。このモデルは、投影されている実際の画像の数値モデルである。換言すれば、コンピュータシステムは、較正カメラによって捕捉された画像を解析し、該画像の数値モデルを構築する。数値モデルは、実際に捕捉された画像に対応するデータストリームを表す。yを用いて、座標(m,n)における所与のピクセルの色値を表し、lがそのピクセルの輝度値を表す場合、シミュレートされた画像の構造は以下の式によって表すことができる。
【数1】

これらの式において、l及びrの下付き文字は、それぞれ左画像及び右画像を表す。式[1]の第1項を見ると、Cは左眼の恒等行列を表し、yは座標(m,n)において左眼に投影されるように意図されたピクセル値(すなわち、色)を表し、lはそのピクセルの輝度を表す。式[2]において類似した第1項が設けられているが、この式は右眼に適用されるという点で異なる。各式の第2項はクロストークの影響を導入している。項Crl及びClrは、2つのチャネル間のスペクトルクロストークを表す。項lrl及びllrは、2つのチャネル間の空間クロストークを表す。式[1]及び式[2]の左辺のこれらの式は、各眼のシミュレートされた画像を表し、x及びxとして表される。
【0034】
次に、式[1]及び式[2]の左辺の項によって表される「シミュレートされた」画像は、所望のクロストークのない理論画像と比較される(ステップ312)。特に、クロストークのない所望の画像を表す数式が、x及びxに代わって式[1]及び式[2]の右辺に代入される。所望のクロストークのない画像は、コンピュータコントローラによって求められる理論画像であり、クロストークが存在しない場合にカメラが捕捉するはずの画像の数値モデルを表す。換言すれば、理論画像は、クロストークのない、理想投影システムの所望のカメラビューを生成する画像データストリームに変換された画像データストリームである。複数のプロジェクタが用いられる場合、この画像は各プロジェクタからの一貫した達成可能な理想画像を表す。例えば、所与のマルチプロジェクタシステムにおける異なるプロジェクタはそれぞれ異なる色域を有する可能性があるので、理論画像はこれを考慮に入れ、各色を全てのプロジェクタの交差域の構成要素として表し、理論画像が全てのプロジェクタについて達成可能であるようにする。この開示では、コントローラシステムが既に、共通性のこれらの様々な面を「認識」するようにプログラムされていることが仮定される。プロジェクタ間の共通性の他の面も、理論画像を計算するときに考慮に入れることができる。
【0035】
次のステップは、式[1]及び式[2]においてクロストークパラメータ又は係数C及びlについて解くことである。このステップは、シミュレートされた画像と理論画像とが互いに等しいことを表す数式を設定し、次に変数C及びlについて解くことを含む。これはステップ314である。ピクセル値yが較正画像について既知であるので、C及びlの値は、式[1]及び式[2]を用いて直接取得することができる。C及びlの値は、所与のプロジェクタの特性を表し、画像に依存しない一方、yの値は画像に依存する。一方、単一の色のフラットフィールドを含む較正画像では、y値は既知であり、所与のプロジェクタについて、式[1]及び式[2]をC及びlについて直接解くことが可能になる。C及びlのこれらの値はコンピュータメモリ内に格納することができる。
【0036】
クロストーク係数(C及びlの値)が求められると、次のステップは、新たな画像データを受信し(ステップ316)、式[1]及び式[2]におけるピクセル値y(ステップ318)について解くことである。新たな画像データは、例えばインパルス画像若しくはトレーニング画像を表すデータ、又は何らかの他の画像を表すデータとすることができる。上述したように、理論画像が代入されたのと同じようにして、新たな画像データを表す数式が式[1]及び式[2]に代入され、次にピクセル値yについて式が解かれる。
【0037】
式[1]及び式[2]に関して上述した例示的な実施形態は、2チャネル(左及び右)システムに関するが、本明細書において開示される方法は、3つ以上のチャネルをサポートするように拡張することもできる。すなわち、3つ以上の投影チャネル間のクロストークを同じようにして補償することができる。3つ以上のチャネルが関与する場合、関連する式を拡張することができる。例えば、3つのチャネルが関与する場合、上記の式[1]及び式[2]に類似した一群の3つの式が用いられるが、3つの式のそれぞれが追加のクロストーク経路を考慮する追加項を含むことになる。
【0038】
図3に概説する実施形態において、プロジェクタごとのインパルス画像を受信し、次にその画像を補正するピクセル値を計算するこのプロセスは、繰返しブロック320によって示されるように、トレーニングプロセスにおいて複数のインパルス画像について複数回繰り返すことができる。このタイプのトレーニングプロセスは当業者に既知であり、Damera-Venkata、Chang、及びDicarloにおいて、並びに、N. Damera-Venkata 及びN. L. Chang、「Realizing Super-resolution With Superimposed Projection」、Proc. IEEE International Workshop on Projector-Camera Systems (ProCams), Minneapolis, MN, June 2007(以下、「Damera-Venkata及びChang」)において提示されている。
【0039】
一連のインパルス画像に対してこのトレーニングプロセスを実行することによって、数組の補正されたy値を得ることができる。これらの補正されたピクセル値を集合的に用いて、レンダリングフェーズ306において任意の後続の画像のために用いることができる1組の線形ランタイムフィルタ係数を生成することができる(ステップ322)。すなわち、ステップ318においてインパルス画像が補正されると、システムは、一連の線形係数を求めることができ(ステップ322)、該係数によって、全ての後続の画像のためのデータストリームを投影前にリアルタイムで変換することができる(ステップ324)。これらの係数によって、後続の画像を高速補正してクロストークを低減し、そうでない場合よりも、各後続の画像フレームがクロストークのない理論画像に近づくようにすることが可能になる。
【0040】
本明細書において説明されるプロセスは画像に依存する。すなわち、(較正パターンであろうと他の画像であろうと)所与の画像フレームの補正は固有となる。このため、ステップ318において得られる計算解は、ステップ316において用いられる画像ごとに異なる。しかしながら、ステップ320において示すように、トレーニングプロセスを複数回繰り返すことによって、種々の数学的反復の誤差項をフィルタ内にカプセル化し、ランタイムフィルタ係数を得て、いかなる入力に対する出力も同じフィルタセットを用いて計算することができるようにし、高速リアルタイムレンダリングを可能にすることができる。結果として、上記で概説したトレーニング方法は、後続の画像のクロストークを実質的に低減するランタイムフィルタ係数を提供するが、少量のクロストークがいくつかの画像において依然として発生する場合がある。この手法では必ずしも各画像フレームについて完全な較正が得られないが、画像フレームごとの近似解が提供され、ビデオ動画においてクロストークを大幅に低減する。
【0041】
代替的に、別の実施形態では、システムはビデオストリームの全ての画像フレームに対し、連続したクロストーク補正をリアルタイムで実行することができる。この実施形態におけるステップを概説するフローチャートが図4に提供されている。図3に概説したプロセスと同様に、このプロセスは較正フェーズ402、計算フェーズ404、及びレンダリングフェーズ406を含む。前の実施形態のように、較正フェーズにおいて、偏光された較正画像が、まず各プロジェクタによって各眼に対して投影される(ステップ408)。ステップ410において、ステップ310のように、まず一方の眼について、次に他方の眼について、偏光フィルタを用いた較正カメラによって画像が捉えられる。
【0042】
シミュレートされた画像を計算するプロセス(ステップ412)、シミュレートされた画像を理論画像と等式化するプロセス(ステップ414)、及びクロストーク係数「C」及び「l」について解くプロセス(ステップ416)も、図3の実施形態における相当するステップと同じである。しかしながら、インパルス画像を用いてランタイムフィルタ係数を生成するのではなく、ステップ416において求められた「C」及び「l」のクロストーク係数が、ステップ418において受信される新たな画像データに直接適用される。具体的には、新たな画像フレームを表すデータがステップ418において受信される。新たな画像データは、「C」及び「l」の値を有する式[1]及び式[2]の数式を用いて等式化される。これによって、システムが、その特定の画像のピクセル値yについて解くことが可能になる(ステップ420)。
【0043】
これらの値を用いてランタイムフィルタ係数を生成するのではなく、ステップ418において受信される画像データは直接補正され、その特定の画像は補正されたピクセル値を用いて投影される(ステップ422)。式[1]及び式[2]は線形であることが理解される。しかしながら、ピクセルは負値も1より大きい値も有することができないので、yの値はゼロと1との間になるように制約される。この制約では、これらの式は非線形になるが、勾配降下プロセス等の反復的な計算プロセスを用いて解くことができる。上記の式[1]を見て、コンピュータシステムは、y値及びy値の初期推定又は推測を行い、次に誤差項を見つけ、y値及びy値を調整し、誤差項が適用された状態で、シミュレートされた画像及び新たな画像データセットが等しくなるまでプロセスを繰り返すようにプログラミングされる。このプロセスは、最終的に新たな画像データのクロストーク補正を提供する。勾配降下プロセスは非線型である。結果として、勾配降下計算によって、最終的に特定の画像の単一の解が得られ、特定の画像はクロストークに関して補正される。複数のピクセル値について反復的に解くためのこの種類のプロセスは、上記で引用したDamera-Venkata、Chang、及びDicarlo、並びにDamera-Venkata及びChangの参考文献に概説されている。勾配降下法の他に、これらの線形式を解く他の方法も用いることができることを理解されたい。
【0044】
補正された画像が投影され(ステップ422)、その後、このプロセスは次の画像フレームについて反復することができ(ステップ424)、ステップ418に戻る。このようにして、ビデオストリームの各フレームが独自の較正を受けることができる。ビデオストリ−ムの各画像フレームについてリアルタイムでこれらの較正計算を実行することによって、より高品質の画像が提供されるが、これによって投影システムの速度が低下する可能性がある。換言すれば、図4に概説するプロセスは、図3に概説するプロセスよりも高品質の画像を提供するが、より多くのコンピュータ処理を必要とする。このため、静止画像、又はフルモーションビデオを必要としない用途の場合、図4のプロセスを用いて、図3に概説する方法よりも高品質の画像を提供することができる。それでも、十分なマイクロプロセッサパワーを用いて、図4において概説されるプロセスに、動画ビデオに適した速度でビデオ画像を受信及び補正させることもできる。
【0045】
本明細書において開示される方法は、ハードウェア手法ではなく、3Dクロストークへの計算的解決法を提示する。クロストークを計算的に補償することによって、低コストの構成要素を用いることが可能になり、高品質のコンテンツであっても品質を改善することができる。この補償により、クロストークに起因するぶれが大幅に低減されるので、画像はより鮮鋭になる。上述したように、本明細書において開示される方法は、相補的スペクトル手法等の他の相互消去技法に適用することもでき、関連する式を拡張することによって、3つ以上のチャネルをサポートするように拡張することもできることを理解されたい。
【0046】
上記で参照した構成は本明細書において開示される原理の応用形態を例示するものであることを理解されたい。当業者には、特許請求の範囲において示されるような本開示の原理及び概念から逸脱することなく、多数の変更を加えることができることは明らかであろう。

【特許請求の範囲】
【請求項1】
a)各チャネルの較正画像を、連続して投影しカメラを用いて捕捉することによって前記プロジェクタカメラシステムを較正し、前記チャネル間のクロストークを捕捉する、較正するステップと、
b)前記コントローラにより、前記捕捉した画像に基づいて前記プロジェクタカメラシステムに適用可能なクロストーク係数を計算するステップと、
c)前記計算されたクロストーク係数に基づいて、新たな画像データをクロストークに関して補正するステップと、
を含む、プロセッサ及びシステムメモリを備えるコントローラと、少なくとも2つのチャネルとを有する3Dプロジェクタカメラシステムにおいてクロストークを補償する方法。
【請求項2】
前記較正画像は、単一色のフラットフィールドを含む、請求項1に記載の方法。
【請求項3】
前記クロストーク係数を計算する前記ステップは、前記コントローラが、各チャネルの前記捕捉した画像に基づいて、クロストークを含むシミュレートされた画像を数学的に構成し、該シミュレートされた画像をクロストークのない理論画像と比較し、空間クロストーク係数及びスペクトルクロストーク係数について解くことを含む、請求項1に記載の方法。
【請求項4】
前記新たな画像データは複数のインパルス画像を含む、請求項1に記載の方法。
【請求項5】
(d)前記複数のインパルス画像の前記補正に基づいてランタイムフィルタ係数を設定するステップと、
(e)前記ランタイムフィルタ係数を用いて後続の画像フレームを補正するステップと、
(f)前記補正された後続の画像フレームを投影するステップと、
を更に含む、請求項4に記載の方法。
【請求項6】
前記新たな画像データを補正する前記ステップは、勾配降下プロセスを用いてピクセル値について解くことを含む、請求項1に記載の方法。
【請求項7】
補正後に前記新たな画像データを投影するステップ、
を更に含む、請求項1に記載の方法。
【請求項8】
前記プロジェクタカメラシステムは、前記コントローラに結合され、かつ共通投影ロケーションに向けられた複数のプロジェクタを備える、請求項1に記載の方法。
【請求項9】
a)投影ロケーションへの投影のために、偏光に基づく投影システムの2つのチャネルのそれぞれにおいて、偏光された較正画像を連続して送信するステップと、
b)前記投影ロケーションに向けられた較正カメラにより、前記投影された較正画像を捕捉するステップと、
c)前記コントローラにより、前記捕捉した画像に基づいて、前記投影システムに適用可能なクロストーク係数を計算するステップと、
d)前記計算されたクロストーク係数に基づいて、新たな画像データをクロストークに関して補正するステップと、
を含む、プロセッサ及びシステムメモリを備えるコンピュータによって実行される、偏光に基づく3D投影システムにおいてクロストークを補償する方法。
【請求項10】
前記新たな画像データは複数のインパルス画像を含み、前記方法は、
e)前記インパルス画像の前記補正に基づいてランタイムフィルタ係数を設定するステップと、
f)前記ランタイムフィルタ係数を用いて後続の画像フレームを較正するステップと、
を更に含む、請求項9に記載の方法。
【請求項11】
前記補正された新たな画像データを表すデータストリームを、投影のために投影システムに提供するステップ、
を更に含む、請求項9に記載の方法。
【請求項12】
機械可読命令を含むコンピュータプログラム製品であって、該機械可読命令はコンピュータ可読ストレージ媒体に格納され、少なくとも2つのチャネルを有する3Dプロジェクタカメラシステムに結合された、プロセッサ及びシステムメモリを備えるコンピューティングデバイスに、
a)各チャネルの偏光画像を、連続して投影しカメラを用いて捕捉することによって前記プロジェクタカメラシステムを較正し、前記チャネル間のクロストークを検出する、較正するステップと、
b)前記捕捉した画像に基づいて前記プロジェクタカメラシステムに適用可能なクロストーク係数を計算するステップと、
c)前記計算された誤差に基づいて、各チャネルの後続の画像を補正しレンダリングするステップと、
を実行させる、機械可読命令を含むコンピュータプログラム製品。
【請求項13】
前記クロストーク係数を計算する前記ステップはそれぞれのクロストークのない理論画像を、前記捕捉した画像を数学的に表すシミュレートされた画像と数学的に比較し、前記クロストーク係数について解くことを含む、請求項12に記載のコンピュータプログラム製品。
【請求項14】
d)複数のシミュレートされたインパルス画像を対応するクロストークのない理論画像と数学的に等式化するステップと、
e)補正されたピクセル値について前記式を解くステップと、
f)前記補正されたピクセル値に基づいて前記後続の画像を補正及びレンダリングするのに用いるランタイムフィルタ係数を計算するステップと、
を更に含む、請求項13に記載の方法。
【請求項15】
d)前記後続の画像を表す単一のシミュレートされた画像を、対応するクロストークのない理論画像と数学的に等式化するステップと、
e)補正されたピクセル値について前記式を解くステップと、
f)前記補正されたピクセル値に基づいて前記後続の画像をレンダリングするステップと、
を更に含む、請求項13に記載の方法。

【図1A】
image rotate

【図1B】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公表番号】特表2013−513332(P2013−513332A)
【公表日】平成25年4月18日(2013.4.18)
【国際特許分類】
【出願番号】特願2012−543071(P2012−543071)
【出願日】平成21年12月8日(2009.12.8)
【国際出願番号】PCT/US2009/067181
【国際公開番号】WO2011/071488
【国際公開日】平成23年6月16日(2011.6.16)
【出願人】(511076424)ヒューレット−パッカード デベロップメント カンパニー エル.ピー. (155)
【氏名又は名称原語表記】Hewlett‐Packard Development Company, L.P.
【Fターム(参考)】