説明

画像処理装置、プロジェクター、画像処理方法

【課題】演算負荷を低減しつつ高品質な立体画像を表示する。
【解決手段】本発明の画像処理装置は、各画素が位置ずれを生じることなく被投射面上に投射されたときの被投射面上の各画素の基準位置Q1(i,j)と被投射面上での各画素の表示位置とのずれ量としての第1ずれ量と、各画素での奥行き量dと、表示される画像に対する所定の視点Vの位置とを取得し、被投射面上の各画素の基準位置Q1(i,j)から被投射面の法線方向に各画素での奥行き量dだけ離れている仮想位置Q2(i,j)と視点Vを結ぶ線が被投射面と交差する位置を各画素の目標位置QL(i,j)としたときに、目標位置QL(i,j)と基準位置Q1(i,j)とのずれ量としての第2ずれ量sLを算出し、各画素の第1ずれ量と各画素の第2ずれ量sLを加算した各画素のずれ総量を算出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、プロジェクター、画像処理方法に関する。
【背景技術】
【0002】
従来から、画像表示装置の1つとしてプロジェクターが知られている。プロジェクターは、設置が容易であることや、大画面の画像を表示可能であること等の特長を有している。プロジェクターは、例えば画像形成素子、および投射光学系を備えている。画像形成素子は、画像データに基づいて画像を形成し、この画像を投射光学系がスクリーン等の被投射面上に投射する。
【0003】
ところで、プロジェクターにより投射された画像には、台形歪等の画像歪やサブ画素の位置ずれを生じることがある。台形歪は、被投射面に対するプロジェクターの仰角や俯角、煽り角に応じて発生する。サブ画素の位置ずれは、プロジェクター内のレンズ等の収差や画像形成素子の位置ずれ等により発生する。台形歪やサブ画素の位置ずれは、画像データにレンダリング処理等を施すことにより補正可能である。
【0004】
近年、立体感が得られる画像(以下、立体画像という)を表示可能な画像表示装置が注目されている。この種の画像表示装置は、左目用、右目用の画像(視差画像)を時分割や色分離、偏光分離により分離可能な状態で表示する。視聴者は、左目用の画像と右目用の画像を分離するメガネ等を利用して、左目で左目用の画像のみを視認し、また右目で右目用の画像のみを視認する。
【0005】
各片目用の画像を形成するには、例えば左目用、右目用の画像データが交互に並んだ画像データを用いて、左目用、右目用の画像を時分割で交互に形成する。また、画像データ上で1枚の画像に相当する領域が分割されて、各領域に各片目用の画像が配置されている画像データが用いられることもある。この場合には、各片目用の画像を抽出して伸長処理し、各片目用の画像データを生成する。
【0006】
また、画像の各画素での奥行き量を示す奥行き情報を用いて、左目用、右目用の画像データを生成する技術も提案されている(例えば、特許文献1)。奥行き情報を用いると、多数の視点の画像(多視差画像)を形成することや、視点を変更したときの視差画像を形成することができる。また、奥行き情報は、一般に片目用の画像データよりもデータ量が少ないので、奥行き情報を用いると画像データを保持するのに必要な記憶容量を減らすことや、画像データの転送時間を短縮すること等ができる。特許文献1の技術では、反復演算により高精度の視差画像を生成可能になっている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平6−266827号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1の技術にあっては、反復演算に多大な負荷を要するので、立体画像を手軽に表示させることが困難である。特に、高品質な立体画像を表示させるべく、台形歪やサブ画素の位置ずれを補正しようとすると、演算の負荷がさらに増してしまう。例えば、各片目用の画像データを生成しつつ立体画像を表示する場合を想定する。各片目用の画像データを生成する処理速度が不足すると、立体画像の表示に遅延を生じて表示品質が低下してしまう。また、上記の処理速度を確保しようとすれば、装置コストが増加してしまう。
本発明は、上記の事情に鑑み成されたものであって、演算負荷を低減しつつ高品質な立体画像を表示可能になる画像処理装置、プロジェクター、画像処理方法を提供することを目的の1つとする。
【課題を解決するための手段】
【0009】
本発明では、上記の目的を達成するために以下の手段を採用している。
本発明の画像処理装置は、画像を構成する各画素が位置ずれを生じることなく被投射面上に投射されたときの前記被投射面上の各画素の位置を各画素の基準位置としたときにプロジェクターにより投射される前記画像の前記被投射面上での各画素の表示位置と前記基準位置とのずれ量としての第1ずれ量と、前記画像の各画素での奥行き量と、前記プロジェクターにより表示される画像に対する所定の視点の位置と、を取得し、前記被投射面上の各画素の前記基準位置から前記被投射面の法線方向に各画素での前記奥行き量だけ離れている位置を各画素の仮想位置とし、各画素の前記仮想位置と前記視点とを結ぶ線が前記被投射面と交差する位置を各画素の目標位置としたときに、前記目標位置と前記基準位置とのずれ量としての第2ずれ量を算出し、各画素の前記第1ずれ量と各画素の前記第2ずれ量を加算した各画素のずれ総量を算出することを特徴とする。
【0010】
このようにすれば、各画素での奥行き量および所定の視点の位置を用いて第2ずれ量を算出し、各画素の第1ずれ量と第2ずれ量を加算したずれ総量を示す補正量情報を求めるので、被投射面上の各画素の表示位置と目標位置とのずれ量を示す情報が得られる。すなわち、補正量情報に基づいて画像データを補正すれば、各画素の奥行き量が加味されているとともに、被投射面上での各画素の位置ずれを減らすように補正された画像データが得られる。このように、本発明によれば、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【0011】
本発明の画像処理装置において、前記補正量情報を用いて、補正後の画像データに基づいてプロジェクターから投射される画像の被投射面上での各画素の表示位置が各画素の前記目標位置に近づくように前記画像データを補正する画像補正部を備えているとよい。
【0012】
このようにすれば、各画素の奥行き量が加味されているとともに、被投射面上での各画素の位置ずれを減らすように補正された画像データが得られるので、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【0013】
本発明のプロジェクターは、画像処理装置により構成された画像処理部を備え、前記画像処理部により補正された画像データに基づいて画像を投射することを特徴とする。
このようにすれば、各画素の奥行き量が加味されているとともに、被投射面上での各画素の位置ずれを減らすように補正された画像データに基づいて画像が投射されるので、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【0014】
本発明の画像処理方法は、画像を構成する各画素が位置ずれを生じることなく被投射面上に投射されたときの前記被投射面上の各画素の位置を各画素の基準位置としたときにプロジェクターにより投射される前記画像の前記被投射面上での各画素の表示位置と前記基準位置とのずれ量としての第1ずれ量と、前記画像の各画素での奥行き量と、前記奥行き量の基準となる視点の位置と、を取得し、前記被投射面上の各画素の前記基準位置から前記被投射面の法線方向に各画素での前記奥行き量だけ離れている位置を各画素の仮想位置とし、各画素の前記仮想位置と前記視点とを結ぶ線が前記被投射面と交差する位置を各画素の目標位置としたときに、前記目標位置と前記基準位置とのずれ量として第2ずれ量を算出し、各画素の前記第1ずれ量と各画素の前記第2ずれ量を加算した各画素のずれ総量を示す補正量情報を算出するステップを有していることを特徴とする。
【0015】
このようにすれば、被投射面上の各画素の表示位置と目標位置とのずれ量を示す情報として、補正情報量が得られる。補正情報量に基づいて画像データを補正すれば、各画素の奥行き量が加味されているとともに、被投射面上での各画素の位置ずれを減らすように補正された画像データが得られる。このように、本発明によれば、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【図面の簡単な説明】
【0016】
【図1】プロジェクターの構成例を示す模式図である。
【図2】画像表示部の構成例を示す模式図である。
【図3】画像処理部の機能構成を示すブロック図である。
【図4】(a)は、視聴者が認識する立体画像を概念的に示す図、図4(b)は左右の視点と画素の位置との位置関係を示す平面図である。
【図5】第2ずれ量の算出方法を示す説明図である。
【図6】第1ずれ量を算出するときのシステム構成を示す模式図である。
【図7】第1ずれ量を算出する処理フローを示すフローチャートである。
【図8】ずれ総量を算出する処理フローを示すフローチャートである。
【図9】ずれ総量を用いた画像データの処理方法の一例を示す説明図である。
【発明を実施するための形態】
【0017】
以下、図面を参照しつつ本発明の実施形態を説明する。説明に用いる図面において、特徴的な部分を分かりやすく示すために、図面中の構造の寸法や縮尺を実際の構造に対して異ならせている場合がある。また、実施形態において同様の構成要素については、同じ符号を付して図示し、その詳細な説明を省略する場合がある。
【0018】
図1は、本発明に係るプロジェクターの構成例を示す模式図、図2は画像表示部の構成例を示す模式図、図3は画像処理部の機能構成を示すブロック図である。
【0019】
図1に示すプロジェクター1は、画像表示部2、および本発明の画像処理装置により構成された画像処理部3を備えている。
プロジェクター1は、概略すると以下のように動作する。画像処理部3は、信号源4から画像信号を受け取る。信号源4は、例えばパーソナルコンピューターやDVDプレイヤー等である。本実施形態では、画像信号が二次元画像を示す画像データおよび奥行き情報を含んでいる。画像データは、画像を構成する各画素の色ごとの階調値を示すデータ(以下、画素データという)を含んでいる。奥行き情報は、上記の二次元画像の各画素での奥行き量を示すデータを含んでいる。
【0020】
画像処理部3は、上記の二次元画像を立体画像として表示するときの両目での視差を加味した左目用の画像データ、および右目用の画像データを、上記の奥行き量を用いて生成する。画像処理部3は、左目用の画像データ、および右目用の画像データを画像表示部2へ入力する。
【0021】
画像表示部2は、左目用の画像データに基づいて左目用の画像を被投射面SCに投射し、右目用の画像データに基づいて右目用の画像を被投射面SCに投射する。プロジェクター1は、左目用の画像と右目用の画像とを色分離や偏光分離、時分割等により分離可能なように投射する。視聴者は、左目用の画像と右目用の画像の分離方式に整合したメガネを用いて、被投射面SC上の画像を観察する。すると、左目のみに左目用の画像が観察され、右目のみに右目用の画像が観察されることにより、投射された画像は観察者に立体画像として認識される。このように、プロジェクター1は、立体感のある立体画像を表示可能になっている。
【0022】
本発明では、画像表示部2の製造誤差や光学系の収差による画素の表示位置のずれが補正されるように、左目用の画像データおよび右目用の画像データを生成する。左目用の画像データおよび右目用の画像データの生成には、各画素のずれ総量を用いる。ずれ総量は、表示位置のずれを補正するときの補正量を示す各画素の位置の第1ずれ量と、画像データに視差を反映させるときの補正量を示す各画素の位置の第2ずれ量とを加算した値である。これにより、表示位置を補正するときの演算処理と二次元画像を三次元化するときの演算処理とを共通化することができる。このように、本発明によれば、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【0023】
以下、プロジェクター1の構成要素について詳しく説明する。
図2に示す画像表示部2は、光源20、色分離光学系21、画像形成素子22〜24、色合成素子25、および投射光学系26を含んでいる。画像表示部2は、供給された画像データに基づいて画像を投射可能なものであれば、その構成に限定されない。本実施形態のプロジェクター1は、複数の基本色(ここでは、赤、緑、青)の加法混合によりフルカラーの画像を投射可能な三板式のプロジェクターである。画像を構成する各画素は、3種の基本色の画素がスクリーンや壁等の被投射面SCで互いに重ね合わされることにより、表示される。
【0024】
以下の説明では、各基本色用の画素をサブ画素という場合がある。また、画像における画素の配列方向をi方向、j方向とし、i方向の端かつj方向の端に位置する画素を基準とした画素の座標を(i,j)で表すことがある。例えば画素P(i,j)は、画像データ上の画素配列において座標(i,j)に配置された画素であることを示す。i方向は、例えば被投射面SC上の画像の水平方向に相当し、j方向は例えば被投射面SC上の画像の垂直方向に相当する。
【0025】
光源20は、複数の基本色の成分を含んだ光Labcを射出する。光源20は、レーザー素子やLED等の固体光源であってもよいし、高圧水銀ランプ等のランプ光源であってもよい。光源20には、紫外線カットフィルター、ロッドレンズやインテグレーター光学系等の照度均一化光学系、光源から射出された光の偏光状態を揃える偏光変換素子等が必要に応じて設けられる。
【0026】
色分離光学系21は、波長選択性を有するダイクロイックミラーや、リレーレンズ、反射ミラー等により構成される。光源20から射出された光Labcは、色分離光学系21により赤色光La、緑色光Lb、および青色光Lcに分離される。赤色光Laは画像形成素子22に入射し、緑色光Lbは画像形成素子23に、青色光Lcは画像形成素子24に、それぞれ入射する。
【0027】
各画像形成素子は、二次元的に配列された複数の画素(以下、変調要素という)を有している。画像形成素子は、例えば透過型または反射型の液晶ライトバルブや、デジタルミラーデバイス(DMD)等である。反射型の画像形成素子を採用する場合には、色分離光学系21や、画像形成素子と投射光学系26との間に配置される光学系等が適宜変更される。
【0028】
各画像形成素子は、画像表示部2へ入力された画像データの画素ごとの階調値に基づいて、複数の変調要素を互いに独立して制御する。変調要素に入射した光は、変調要素ごとに変調されて画素データに規定された階調値に応じた光量の光になり、被投射面SC上にサブ画素を表示する。複数の変調要素により変調された光が全体として各基本色の画像になる。画像形成素子22〜24は、互いに異なる基本色(赤、緑、青)の画像を形成する。画像形成素子22〜24から射出された光(各基本色の画像)は、色合成素子25に入射する。
【0029】
色合成素子25は、ダイクロイックプリズム等により構成される。ダイクロイックプリズムは、赤色光および緑色光を透過させ青色光を反射させる第1の内面と、青色光および緑色光を透過させ赤色光を反射させる第2の内面とを含んでいる。第1、第2の内面は互いに直交して配置されている。色合成素子25に入射した各色光は、第1、第2の内面にて選択的に透過または反射して、同じ方向に射出される。これにより、3種の基本色の画像が互いに重ね合わされて合成される。合成された画像は、投射光学系26に入射する。
【0030】
投射光学系26は、焦点距離が可変のズーム機能を有する投射レンズや、単焦点の投射レンズなどにより構成される。投射光学系26は、合成された画像を被投射面SCに投射する。投射光学系26の焦点距離や投射倍率から被投射面SC上での画像のサイズを推定することができる。
【0031】
なお、プロジェクター1は、画像形成素子の数が1つである単板式のプロジェクターであってもよいし、画像形成素子の数が2または4以上であるプロジェクター(例えば六板式のプロジェクター)等であってもよい。また、プロジェクター1は、被投射面SCに対して視聴者と同じ側から投射するフロント投射型であってもよいし、被投射面SCを挟んで視聴者と反対側から投射するリア投射型であってもよい。
【0032】
図3に示す画像処理部3は、画像入力部31、画像補正部32、画像出力部33、第2ずれ量算出部34、第2ずれ量補間演算部35、ずれ総量算出部36、および第1ずれ量記憶部37を含んでいる。画像補正部32、第2ずれ量算出部34、第2ずれ量補間演算部35、およびずれ総量算出部36は、演算処理が可能なデバイスにより構成され、2以上が同一のデバイスにより構成されていてもよい。演算処理が可能なデバイスとしては、例えばASIC等のロジック回路や、コンピューターのCPU、コンピューターに実装されたビデオカードのGPU等が挙げられる。第1ずれ量記憶部37は、不揮発性のメモリーやハードディスク等の記憶デバイスにより構成される。
【0033】
画像入力部31は、画像信号から分離された画像データを受け取る。画像入力部31は、例えば色分離回路等により構成され、画像データを、赤画像を形成する画像形成素子22用の赤画像データ、緑画像を形成する画像形成素子23用の緑画像データ、青画像を形成する画像形成素子24用の青画像データに分離する。赤画像データは、画素P(i,j)の赤の階調値R(i,j)を含んでいる。同様に、緑画像データは画素P(i,j)の緑の階調値G(i,j)を含み、青画像データは画素P(i,j)の青の階調値B(i,j)を含んでいる。画像入力部31は、赤画像データ、緑画像データ、および青画像データを画像補正部32へ出力する。
【0034】
第2ずれ量算出部34は、付加情報、および上記の奥行き情報を受け取る。奥行き情報は、公知の方法により得られるものであり、例えば表示する画像内のオブジェクトを多視点カメラにより撮像した各視点からの撮像画像を解析することにより求まる。付加情報は、左目用、右目用の画像のいずれについて第2ずれ量を算出するかを示す情報(以下、フラグという)、所定の視点としての左視点と右視点との間の距離(以下、視点間距離という)、および画像が表示される面から視点中心までの距離(以下、基準距離という)を示すデータを含んでいる。左視点は左目に相当する視点であり、右視点は右目に相当する視点である。視点中心は、左視点と右視点との中心位置に設定される。
【0035】
視点間距離および基準距離は、固定値または可変値として設定される値である。視点間距離および基準距離を用いると、上記の左視点と右視点が求まる。逆に、被投射面SCに対する左視点の位置と右視点の位置を設定することにより、上記の視点間距離および基準距離を求めることもできる。ユーザーは、被投射面SCから基準距離だけ離れた視点から被投射面SC上の画像を視聴することにより、各画素の表示位置のずれが少ない状態で立体画像を認識することができる。基準距離が短いほど、左視点と右視点での視差が大きくなり立体感が強調される。基準距離が長いほど、左視点と右視点での視差が小さくなり、立体画像を視聴するときの視覚に対する負荷を減らすことができる。
【0036】
第2ずれ量算出部34は、奥行き情報および付加情報を用いて、二次元画像を左目用または右目用の画像に変換するときの各画素の補正量として、第2ずれ量を算出する。以下第2ずれ量の算出方法について説明する。
【0037】
図4(a)は、視聴者が認識する立体画像を示す概念図、図4(b)は左視点、右視点および各画素の位置の位置関係を示す平面図、図5は、第2ずれ量の算出方法を示す説明図である。図4(a)には、画像Pの一部をなす部分画像Paが、視点に向かって凸に認識される例を概念的に図示している。図4(b)、図5には、左視点、右視点、および表示される画像Pの法線方向を含む平面を図示している。
【0038】
第2ずれ量算出部34は、画像データが示す二次元画像の各画素について、基準位置Q1(i,j)と左目用の目標位置QL(i,j)とのずれ量として、左目用の第2ずれ量を算出する。各画素の基準位置Q1(i,j)は、画像データに規定された二次元画像が、各画素の互いの相対位置のずれを生じることなく被投射面SC上に表示されたときの、被投射面SC上での各画素の位置に相当する。各画素の左目用の目標位置QL(i,j)は、基準位置Q1(i,j)から被投射面SCの法線方向に各画素での奥行き量だけ離れている位置を各画素の仮想位置Q2(i,j)としたときに、各画素の仮想位置Q2(i,j)と左視点Vとを結ぶ線が被投射面SCと交差する位置である。
【0039】
第2ずれ量算出部34は、同様にして各画素の基準位置Q1(i,j)と右目用の目標位置QR(i,j)とのずれ量として、右目用の第2ずれ量を算出する。各画素の右目用の目標位置QR(i,j)は、各画素の仮想位置Q2(i,j)と右視点Vとを結ぶ線が被投射面SCと交差する位置である。
【0040】
図5中のdは画像P(i,j)での奥行き量を示す。図5中のLは、表示される画像Pから中央視点V(左視点Vと右視点Vの中央)までの基準距離を示す。図5中の2w(wの2倍)は、左視点Vと右視点Vとの間の視点間距離を示す。中央視点Vから左視点Vまでの距離、中央視点Vから右視点Vまでの距離(以下、片側視点間距離という)は、いずれもwである。
【0041】
図5中のxは、中央視点Vを含んだ画像Pの法線と画像Pとの交点Qから画素P(i,j)の基準位置Q1(i,j)まで距離を示す。交点Qは、例えば画像Pの中央に設定される。距離xは、例えば交点Qの位置、画素ピッチ、および画素P(i,j)の座標の関数で表される。交点Qを画像Pの中央に設定したときの距離xは、下記の式(1)で表される。式(1)中のHは表示された画像Pの水平方向のサイズ、Vは表示された画像Pの垂直方向のサイズを示す。式(4)中のNは、水平方向に相当するi方向の画素数を示し、Mは垂直方向に相当するj方向の画素数を示す。すなわち、H/Nは、画像Pの水平方向の画素ピッチを示し、V/Mは画像Pの垂直方向の画素ピッチを示す。
【0042】
【数1】

【0043】
奥行き量d、視点間距離2w、基準距離L、および距離x(各種距離と総称する)は、いずれも同じ長さの単位に変換可能な値で設定される。ここでは、上記の各種距離は、いずれも、各画素が正方格子状に配列されているときの画素ピッチで規格化した相対的な値として設定されている。例えば、奥行き量dは画素ピッチの何倍に相当するかを示す値として設定されている。
【0044】
画素ピッチで規格化した値で設定された各種距離は、例えばメートルを単位とする実寸と互換性があり、相互に単位を変換可能である。例えば、被投射面SC上での画像Pのサイズ、および画像Pの画素数から被投射面SC上での画素ピッチが求まり、各種距離を実寸に変換可能である。被投射面SC上での画像Pのサイズは、例えば各画像形成素子に形成されたときの画像のサイズ、および投射光学系26の焦点距離や投射倍率を用いることにより推定可能である。視点間距離2wや基準距離Lが実寸で与えられる場合には、同様にして、これらの値を画素ピッチで規格化した値に変換可能である。
【0045】
左目用の第2ずれ量sLは、左視点Vから画像Pに引いた垂線と画像Pとの交点をQとしたときに、左視点V、交点Q、および左目用の目標位置QL(i,j)を頂点とする三角形と、基準位置Q1(i,j)、仮想位置Q2(i,j)、および左目用の目標位置QL(i,j)を頂点とする三角形との相似条件から求まり、下記の式(2)で表される。実際には、左目用の第2ずれ量sLは、i方向におけるずれ量を示すデータと、j方向におけるずれ量を示すデータとの組になっている。
sL=d(x−w)/(L−d) ・・・(2)
【0046】
右目用の第2ずれ量sRは、右視点Vから画像Pに引いた垂線と画像Pとの交点をQとしたときに、右視点V、交点Q、および右目用の目標位置QR(i,j)を頂点とする三角形と、基準位置Q1(i,j)、仮想位置Q2(i,j)、および右目用の目標位置QR(i,j)を頂点とする三角形との相似条件から求まり、下記の式(3)で表される。
sR=d(x+w)/(L−d) ・・・(3)
【0047】
上記のように基準距離Lおよび片側視点間距離wは、付加情報から得られるデータであり、複数の画素で共通の値である。距離xは、式(1)に示したように画素P(i,j)の位置から求まり、画素P(i,j)ごとの値である。奥行き量dは、奥行き情報から得られるデータであり、画素P(i,j)ごとの値である。第2ずれ量算出部34は、付加情報に含まれるフラグが左目用の第2ずれ量sLを算出する旨を示すときに、基準距離L、片側視点間距離w、距離x、奥行き量dを上記の式(2)に代入して、左目用の第2ずれ量sLを算出する。第2ずれ量算出部34が左目用の第2ずれ量sLの算出を完了すると、上記のフラグが右目用の第2ずれ量sRを算出する旨に切替わる。第2ずれ量算出部34は、付加情報に含まれるフラグが右目用の第2ずれ量sRを算出する旨を示すときに、基準距離L、片側視点間距離w、距離x、奥行き量dを上記の式(3)に代入して、右目用の第2ずれ量sRを算出する。
【0048】
なお、奥行き情報は、画像を構成する全ての画素に関する各画素の奥行き量を含んでいるのではなく、一部の画素に関する各画素の奥行き量を含んでいてもよい。例えば、画素配列において、とびとびの画素として選択された2以上の画素に関する各画素の奥行き量を含んでいてもよいし、2以上の画素からなる領域で共通の各画素の奥行き量を含んでいてもよい。この場合に、直接的に奥行き量が設定されていない画素に対しては、他の画素の奥行き量を用いた補間演算等により、間接的に奥行き量を設定することができる。
【0049】
同様に、第2ずれ量算出部34は、画像を構成する全ての画素に関する各画素の第2ずれ量を算出するのではなく、一部の画素に関する各画素の第2ずれ量を算出するようになっていてもよい。第2ずれ量は、原理的にはすべての画素に対して与えることも可能であるが、コストや回路規模等を考えると、実用上は2以上の画素おきに格子点として与えることが多い。例えば、XGA形式(画素数が1024×768)ならば、80万画素程度になるが、これらの画素から数千個程度の画素を離散的に選択し、選択した各画素について第2ずれ量を算出すればよい。
【0050】
図3の説明に戻り、第1ずれ量記憶部37には第1ずれ量情報が格納されている。第1ずれ量情報は、画像を構成する各画素について、被投射面SC上での各画素の表示位置と各画素の基準位置とのずれ量(第1ずれ量)を示すデータを含んでいる。表示位置と基準位置との位置ずれは、例えば被投射面SCに対するプロジェクター1の仰角や俯角に応じて発生する画像歪や、プロジェクター1内のレンズ等の収差、画像形成素子22〜24の相対的な位置ずれ等に起因して発生する。第1ずれ量情報を用いると、各画素の表示位置を基準位置に近づけるように画像データを補正することができる。
【0051】
図6は第1ずれ量を算出するときのシステム構成を示す模式図、図7は第1ずれ量を算出する処理フローを示すフローチャートである。
図6に示すように第1ずれ量は、例えば第1ずれ量算出装置5および測定部6を用いて算出される。第1ずれ量算出装置5は、パターン記憶部51および第1ずれ量算出部52を含んでいる。
【0052】
パターン記憶部51は、例えばハードディスクや不揮発メモリーにより構成される。パターン記憶部51には、画素(サブ画素)の表示位置の測定に用いるパターン画像を示す画像データが記憶されている。
【0053】
パターン画像は、例えば周期的に配列された複数の特徴点を含んだ画像である。特徴点は、パターン画像に含まれる図形との相対位置が既知の点である。例えば、上記の図形がドット形状またはスポット形状である場合には、その中心点を検出することができ、中心点を特徴点として用いることができる。すなわち、中心点の位置を検出することにより、特徴点の位置を検出することができる。また、上記の図形が互いに交差する線である場合には、交差点を特徴点として用いることができる。例えば、ハフ変換等を利用して互いに交差する線を検出することにより、交差点の位置を検出して特徴点の位置とすることができる。
【0054】
パターン画像を示す画像データは、プロジェクター1の画像処理部3を介して画像表示部2に入力される。この画像データに基づいてプロジェクター1は、被投射面SC上にパターン画像を投射する(図7、ステップS10)。
【0055】
測定部6は、被投射面SC上に表示されたパターン画像の画素(サブ画素)の表示位置を測定可能なものである。測定部6は、例えば撮像装置および画像解析部により構成される。撮像装置は、複数の受光素子が二次元的に配列されたCCD等のイメージセンサーにより構成される。撮像装置として、プロジェクター1の画素数(各画像形成素子の変調要素の数)より受光素子の数が多いものを用いるとよい。
【0056】
撮像装置は、被投射面SCに表示されているパターン画像を撮像する(図7、ステップS12)。例えば、ステップS10でグレイのパターン画像をプロジェクター1に投射させ、ステップS12で被投射面SC上に表示されているパターン画像を、赤成分のカラーフィルタを介して撮像装置により撮像する。また、ステップS12でパターン画像を被投射面SC上に表示させたままの状態を保持して、緑成分のカラーフィルタを介して撮像装置によりパターン画像を撮像した後に、青成分のカラーフィルタを介して撮像装置によりパターン画像を撮像する。これにより、各基本色のサブ画素の表示位置を撮像画像中に取り込むことができる。プロジェクター1の画素数よりも撮像装置の受光素子の数が多い場合には、被投射面SC上に表示されたパターン画像のサブ画素の1つを1以上の受光素子で検出することができ、サブ画素の表示位置を高精度に検出することが可能になる。
【0057】
測定部6の画像解析部は、撮像装置により撮像された撮像画像に写っているパターン画像中の特徴点の位置を検出する(図7、ステップS14)。この画像解析部は、ロジック回路や画像解析を行うコンピューターにより構成される。また、画像解析部の機能を第1ずれ量算出部52に持たせてもよい。測定部6は、サブ画素の位置を示す情報として特徴点の位置を示すデータを、第1ずれ量算出部52へ出力する。
【0058】
第1ずれ量算出部52は、パターン画像を示す画像データに規定された各特徴点の位置と、測定部6により測定された各特徴点の位置とを比較して、画像データ上の各サブ画素の位置(基準位置)と被投射面SC上での各サブ画素の表示位置とのずれ量(第1ずれ量)を算出する(図7、ステップS16)。
【0059】
第1ずれ量算出部52は、各サブ画素の第1ずれ量が配列されたテーブルデータを第1ずれ量情報として求め、第1ずれ量情報を図3に示した画像処理部3の第1ずれ量記憶部37に格納する(図7、ステップS18)。なお、第1ずれ量情報は、上述した奥行き情報、第2ずれ量情報と同様に、画像を構成する全ての画素に関する各画素の第1ずれ量を含んでいるのではなく、一部の画素に関する各画素の第1ずれ量を含んでいてもよい。
【0060】
図3の説明に戻り、第2ずれ量補間演算部35は、第2ずれ量算出部34により算出された第2ずれ量を示す第2ずれ量情報を受け取る。第2ずれ量補間演算部35は、第2ずれ量情報のデータ配列が第1ずれ量情報のデータ配列に従うように、必要に応じて第2ずれ量情報が示すデータに補間処理を施す。
【0061】
例えば、第1ずれ量情報が、全ての画素P(i,j)について各画素の第1ずれ量を示すデータを含んでおり、第2ずれ量情報がとびとびの画素について各画素の第2ずれ量を示すデータを含んでいる場合には、第2ずれ量補間演算部35は、第2ずれ量情報を用いて補間演算を行い、全ての画素P(i,j)について各画素の第2ずれ量を示すデータを求める。また、第1ずれ量情報が、とびとびの画素として選択された2以上の画素P(i,j)について各画素の第1ずれ量を示すデータを含んでいる場合に、第2ずれ量補間演算部35は、第1ずれ量情報にて第1ずれ量が規定されている画素についての第2ずれ量を、補間により求める。
【0062】
ずれ総量算出部36は、第2ずれ量補間演算部35による補間処理後の第2ずれ量情報を受け取り、また第1ずれ量記憶部37から第1ずれ量情報を受け取る。ずれ総量算出部36は、各画素に関する第1ずれ量と各画素に関する第2ずれ量を加算した各画素のずれ総量を算出する。ずれ総量算出部36は、算出した各画素のずれ総量が配列されたテーブルデータを補正量情報として画像補正部32に出力する。なお、各画素の補正量情報を図示略の記憶部等に格納しておき、この記憶部から画像補正部32が補正量情報を読み出すようになっていてもよい。
【0063】
画像補正部32は、補正量情報を用いて、画像入力部31から出力された画像データすなわち赤画像データ、緑画像データ、および青画像データに対して位置補正処理を施す。位置補正処理は、補正後の画像データに基づいて画像表示部2により投射される画像の被投射面SC上での各画素の表示位置が各画素の目標位置に近づくように、画像データを補正する処理である。実際には、ずれ総量が画素ピッチの整数倍になることは稀であり、ずれ総量のうちで画素ピッチ未満の小数になる分については、周囲の画素との整合性がとれるようにレンダリング処理等により補正する(後述する)。
【0064】
画像補正部32は、位置補正処理後の各基本色用の画像データを画像出力部33へ出力する。画像出力部33は、赤画像データを画像形成素子22へ出力し、緑画像データを画像形成素子23へ、青画像データを画像形成素子24へそれぞれ出力する。画像形成素子22〜24は、位置補正処理後の各基本色用の画像データに基づいて、各基本色の画像を形成する。各画像形成素子により形成された3色の画像が合成されたフルカラーの画像は、投射画像として被投射面SCに投射される。
【0065】
図8は、本発明に係る画像処理方法の一実施形態である処理フローを示すフローチャートである。ここでは、画像処理方法の一態様を、プロジェクター1の構成に基づいて説明する。
【0066】
本実施形態の画像処理方法では、まず、第2ずれ量算出部34が上記の奥行き情報および付加情報を取得する(ステップS20)。ここでは、奥行き情報が画像データと組になった画像信号としてプロジェクター1に供給される。奥行き情報は、画像信号から分離されて第2ずれ量算出部34へ出力される。付加情報は、設定値として図示略の記憶部に格納されており、この記憶部から読み出されて第2ずれ量算出部34へ出力される。奥行き情報は、処理対象の画像データとは別にプロジェクター1に供給されていてもよい。付加情報に含まれる基準距離Lおよび視点間距離2wは、ユーザーが入力した情報であってもよい。
【0067】
次いで、第2ずれ量算出部34は、ステップ20で取得した奥行き情報および付加情報に基づいて、各画素の第2ずれ量を算出する(ステップS22)。ステップS22を開始するときに、付加情報に含まれるフラグは、例えば左目用の第2ずれ量sLを算出する旨を示している。付加情報が示すフラグは、左目用の第2ずれ量sLの算出が完了した旨の通知を第2ずれ量算出部34が出力すること等により、右目用の第2ずれ量sRを算出する旨を示すフラグに切替わるようになっている。第2ずれ量算出部34は、算出した左目用の第2ずれ量sLおよび右目用の第2ずれ量sRを示す第2ずれ量情報を第2ずれ量補間演算部35へ出力する。
【0068】
次いで、第2ずれ量補間演算部35は、第2ずれ量情報のデータ配列が第1ずれ量情報のデータ配列に従うように、必要に応じて第2ずれ量情報に補間処理を施す(ステップS24)。第2ずれ量補間演算部35は、補間処理後の第2ずれ量情報をずれ総量算出部36へ出力する。
【0069】
次いで、ずれ総量算出部36は、第1ずれ量記憶部37に格納されている第1ずれ量情報を読み出し、第1ずれ量情報が示す各画素の第1ずれ量を取得する(ステップS26)。そして、ずれ総量算出部36は、第2ずれ量補間演算部35による補間処理後の第2ずれ量情報と、第1ずれ量情報とに基づいて、各画素の第1ずれ量と第2ずれ量とを加算した各画素のずれ総量を算出する(ステップS28)。ずれ総量算出部36は、算出した各画素のずれ総量を示す補正量情報を画像補正部32に出力する。
【0070】
図9は、ずれ総量を用いた画像データの処理方法の一例を示す説明図である。ここでは、左目用の画像について赤成分のサブ画素の階調値を示す赤画像データの補正処理について説明する。左目用の画像について緑成分のサブ画素の階調値を示す緑画像データの補正処理、および左目用の画像について青成分のサブ画素の階調値を示す青画像データの補正処理についても同様である。また、右目用の画像についての赤画像データ、緑画像データ、および青画像データの補正処理についても同様である。
【0071】
ここでは、画素P(i,j)の赤成分のサブ画素のずれ総量のうちのi方向のずれ量をsLiとし、j方向のずれ量をsLjとする。ずれ量sLiは、i方向のずれ量をi方向の画素サイズで規格化した無次元値である。ずれ量sLjは、j方向のずれ量をj方向の画素サイズで規格化した無次元値である。画素P(i,j)に対するずれ量sLiは、1未満の正の小数をα(i,j)とし、整数をKiとしたときに、下記の式(4)で表される。
sLi=α(i,j)+Ki ・・・(4)
画素P(i,j)に対するずれ量sLjは、1未満の正の小数をβ(i,j)とし、整数をKjとしたときに、下記の式(5)で表される。
sLj=β(i,j)+Kj ・・・(5)
【0072】
まず、Ki=Kj=0の場合について説明する。この場合に、画素P(i,j)に対応する左目用の目標位置QL(i,j)は、互いに隣接する4画素の基準位置すなわち画素P(i,j)の基準位置Q1(i,j)、画素P(i,j+1)の基準位置Q1(i,j+1)、画素P(i+1,j+1)の基準位置Q1(i+1,j+1)、画素P(i+1,j)の基準位置Q1(i+1,j)、を順に結んだ線に囲まれる領域の内側に配置されることになる。
【0073】
左目用の目標位置QL(i,j)に表示すべきサブ画素の階調値は、例えば上記の4画素の階調値を、α(i,j)およびβ(i,j)を重み付けの係数に用いた補間方法(バイリニア法)により算出される。画素P(i,j)の赤の階調値をW(i,j)とし、画素P(i+1,j)の赤の階調値をW(i+1,j)、画素P(i,j+1)の赤の階調値をW(i,j+1)、画素P(i+1,j+1)の赤の階調値をW(i+1,j+1)としたときに、左目用の目標位置QL(i,j)での赤の階調値WL(i,j)は、下記の式(6)で表される。
【0074】
【数2】



【0075】
画像補正部32は、ずれ総量からα(i,j)、β(i,j)を求め、赤画像データに規定された赤の階調値W(i,j)〜W(i+1,j+1)を用いて、左目用の目標位置QL(i,j)での赤の階調値WL(i,j)を算出する。
【0076】
次に、上記の整数KiまたはKjの絶対値が1以上である場合について説明する。画像補正部32は、ずれ総量から得られるsLiを正の小数α(i,j)と整数Kiとに分離し、ずれ総量から得られるsLjを正の小数β(i,j)と整数Kjとに分離する。α(i,j)およびβ(i,j)を用いて、上述したバイリニア法により赤の階調値WL(i,j)を算出する。そして、画像補正部32は、算出した階調値WL(i,j)を画素P(i+Ki,j+Kj)用の赤の階調値として書き込む。同様にして画像補正部32が各画素について補正後の赤の階調値を求めることにより、補正後の赤画像データが得られる。同様にして、補正後の緑画像データおよび青画像データが得られ、また右目用の赤画像データ、緑画像データ、および青画像データが得られる。
【0077】
以上のように、本発明に係る画像処理装置(画像形成部3)は、各画素での奥行き量および奥行き量の基準となる視点の位置を用いて第2ずれ量を算出し、各画素の第1ずれ量と第2ずれ量を加算したずれ総量を算出する。ずれ総量を用いて画像データを補正することにより、被投射面SC上での各画素の位置ずれが補正され、かつ各画素の奥行き量が加味された画像データが得られる。例えば、左目用の画像を示す画像データを生成する処理と、この画像データに位置ずれを補正する処理とを施す手法に比べて、2つの処理を共通化することができ、処理に要する演算負荷を低減することができる。このように、本発明によれば、演算負荷を低減しつつ、高品質な立体画像を表示可能になる。
【0078】
また、赤成分のサブ画素、緑成分のサブ画素、および青成分のサブ画素について、互いに独立してずれ総量を設定可能であるので、アナグリフ方式の立体画像用の左目用の画像および右目用の画像を簡便に表示可能になる。例えば、アナグリフ用のメガネとして、左目に入射する赤色光を透過させ青色光を吸収するフィルターと、右目に入射する青色光を透過させ赤色光を吸収するフィルターとを有するメガネを用いる場合を考える。赤成分の各サブ画素のずれ総量を用いて左目用の画像の赤画像データを補正し、青成分のサブ画素のずれ総量を用いて右目用の画像の青画像データを補正すれば、上記のメガネにより立体画像が認識可能な画像データが得られる。このように、アナグリフ方式の立体画像を手軽に表示可能になるので、例えば教育用途等においてオブジェクトの立体形状を低コストで表示させたい場合等に有効である。
【0079】
本発明に係るプロジェクター1にあって、被投射面SC上での各画素の位置ずれが補正され、かつ各画素の奥行き量が加味された画像データに基づいて画像が投射されるので、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
本発明に係る画像処理方法にあっては、被投射面SC上の各画素の表示位置と目標位置とのずれ量を示す情報として、補正情報量が得られる。補正情報量に基づいて画像データを補正すれば、被投射面SC上での各画素の位置ずれが補正され、かつ各画素の奥行き量が加味された画像データが得られるので、演算負荷を低減しつつ高品質な立体画像を表示可能になる。
【0080】
なお、本発明の技術範囲は上記の実施形態に限定されるものではない。本発明の主旨を逸脱しない範囲内で多様な変形が可能である。例えば、上記の実施形態では、画像処理装置により構成された画像処理部3がプロジェクター1に実装されている構成について説明しているが、本発明に係る画像処理装置がプロジェクターと別体であってもよい。例えば、本発明に係る画像処理装置の機能を実現する演算部および記憶部を備えたユニットが、プロジェクターに対して着脱可能になっており、立体画像を表示するときに上記のユニットをプロジェクターに接続する態様であってもよい。
また、第1ずれ情報については、例えばプロジェクターの製造元で測定、算出されて取得された情報の他に、例えばユーザーが第1ずれ量算出装置5および測定部6を用いて得た情報であってもよい。第1ずれ量算出装置5および測定部6がプロジェクター1と一体化されていてもよい。
【符号の説明】
【0081】
1・・・プロジェクター、2・・・画像表示部、3・・・画像処理部(画像処理装置)、
4・・・信号源、20・・・光源、21・・・色分離光学系、
22〜24・・・画像形成素子、25・・・色合成素子、26・・・投射光学系、
31・・・画像入力部、32・・・画像補正部、33・・・画像出力部、
34・・・第2ずれ量算出部、35・・・第2ずれ量補間演算部、
36・・・ずれ総量算出部、37・・・第1ずれ量記憶部、B(i,j)・・・階調値、
d・・・奥行き量、G(i,j)・・・階調値、Labc・・・光、La・・・赤色光、
Lb・・・緑色光、Lc・・・青色光、P・・・画像、Pa・・・部分画像、
P(i,j)・・・画素、Q・・・交点、Q1(i,j)・・・基準位置、
Q2(i,j)・・・仮想位置、QL(i,j)・・・左目用の目標位置、
QR(i,j)・・・右目用の目標位置、R・・・階調値、SC・・・被投射面、
sL・・・左目用の第2ずれ量、sR・・・右目用の第2ずれ量、V・・・中央視点、V・・・左視点(所定の視点)、V・・・右視点(所定の視点)、x・・・距離

【特許請求の範囲】
【請求項1】
画像を構成する各画素が位置ずれを生じることなく被投射面上に投射されたときの前記被投射面上の各画素の位置を各画素の基準位置としたときにプロジェクターにより投射される前記画像の前記被投射面上での各画素の表示位置と前記基準位置とのずれ量としての第1ずれ量と、前記画像の各画素での奥行き量と、前記プロジェクターにより表示される画像に対する所定の視点の位置と、を取得し、前記被投射面上の各画素の前記基準位置から前記被投射面の法線方向に各画素での前記奥行き量だけ離れている位置を各画素の仮想位置とし、各画素の前記仮想位置と前記視点とを結ぶ線が前記被投射面と交差する位置を各画素の目標位置としたときに、前記目標位置と前記基準位置とのずれ量としての第2ずれ量を算出し、各画素の前記第1ずれ量と各画素の前記第2ずれ量を加算した各画素のずれ総量を算出することを特徴とする画像処理装置。
【請求項2】
前記ずれ総量を示す情報を用いて、補正後の画像データに基づいてプロジェクターから投射される画像の被投射面上での各画素の表示位置が各画素の前記目標位置に近づくように前記画像データを補正する画像補正部を備えていることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
請求項2に記載の画像処理装置により構成された画像処理部を備え、
前記画像処理部により補正された画像データに基づいて画像を投射することを特徴とするプロジェクター。
【請求項4】
画像を構成する各画素が位置ずれを生じることなく被投射面上に投射されたときの前記被投射面上の各画素の位置を各画素の基準位置としたときにプロジェクターにより投射される前記画像の前記被投射面上での各画素の表示位置と前記基準位置とのずれ量としての第1ずれ量と、前記画像の各画素での奥行き量と、前記奥行き量の基準となる視点の位置と、を取得し、前記被投射面上の各画素の前記基準位置から前記被投射面の法線方向に各画素での前記奥行き量だけ離れている位置を各画素の仮想位置とし、各画素の前記仮想位置と前記視点とを結ぶ線が前記被投射面と交差する位置を各画素の目標位置としたときに、前記目標位置と前記基準位置とのずれ量として第2ずれ量を算出し、各画素の前記第1ずれ量と各画素の前記第2ずれ量を加算した各画素のずれ総量を算出するステップを有していることを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−217326(P2011−217326A)
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2010−86106(P2010−86106)
【出願日】平成22年4月2日(2010.4.2)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】