説明

校正済みの投写像を生成する方法および装置

【課題】単一平面に沿った平面状ではない形状の被投写面に対し、歪みが極めて少ない投写を可能にする方法および装置を提供する。
【解決手段】校正用構造5を被投写面1の空間的広がりに追従するように配する過程と、校正用構造5の画像5’を生成する過程と、被投写面1の空間的広がりを再構成する過程とを含む。この再構成過程では、画像5’から、実際の校正用構造5における第1および第2のポイントに対応するポイント対A〜Fを複数決定し、ポイント対A〜Fから消失点Gに向かって延びる補助ビーム対を複数生成し、補助ビーム対のそれぞれについて支持路を生成し、支持路の長さおよび/または向きを同一アングルの共通平面上において長さが互いに同一になるまで変化させて発見した所望の支持路を用いて所望の被投写面のモデルを生成する。このモデルを用いて、校正済み投写像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、請求項1および請求項15に記載された校正済み投写像の生成方法、ならびに請求項17および請求項18に記載された校正済み投写像の生成装置に関する。
【背景技術】
【0002】
プロジェクタシステムを用いて画像を被投写面に投写することは、産業、研究および教育などの数多くの分野で日常的に行われている。画像が投写されるのは、典型的に、平面状の被投写面、例えば、スクリーンや建物の外壁または内壁などである。また、複数のプロジェクタを用いて全体画像のうちの部分的画像を各プロジェクタから投写する技術が先行技術から知られている。このようなマルチプロジェクタシステムは、例えば特許文献1に記載されている。
【0003】
マルチプロジェクタシステムは、重ね合わせ効果による光度の増加または解像度の向上の目的でも使用される。このようなプロジェクタシステムの用途は、例えば、建築分野および/または一般的にCADの分野であり、特に、細部および/または巨大なモデルを表現することができる。しかし、マルチプロジェクタシステムの各プロジェクタは、正しく見える歪みのない画像を生成するために、他のプロジェクタおよび/または被投写面に対して整合(「校正」)される必要がある。詳細には、各プロジェクタから投写される部分的画像は、高精細な画素が得られるように他のプロジェクタおよび/または被投写面に合わせて調整(「スティッチング」や「ワーピング」)が施される。また、隣合う部分的画像同士の重複領域の輝度を、その領域における全体画像の輝度が過剰にならないように低減することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】独国特許発明第10251217号明細書
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の根底をなす課題は、単一平面に沿った平面状ではない形状の被投写面に対し、歪みが極めて少ない投写を可能にする方法および装置を提供することである。
【課題を解決するための手段】
【0006】
上記課題は、請求項1または15の構成を含む方法、および請求項17または18の構成を備える装置によって解決される。本発明の改良形態は、従属請求項に記載されている。
【0007】
以上を踏まえて、被投写面上に校正済みの投写像を生成する方法を提供する。この校正済み投写像の生成方法は、
a)第1の側部(輪郭線)および第1の側部に対して平行に延びる第2の側部(輪郭線)を有し、かつ、前記第1または第2の側部の方向に沿って高さが一様に設定された校正用構造(構成用のパターン)を、前記被投写面の空間的広がり(形態)に追従する(従う、辿る)ように配置および/または生成する過程と、
b)カメラの結像面に前記校正用構造の画像を生成する過程と、
c)前記校正用構造の領域に前記被投写面の空間的広がりを再構成する過程と、
を含み、前記c)再構成過程が、
d)前記校正用構造の前記画像において、実際の校正用構造における第1のポイントに対応する第1のポイントと実際の校正用構造における第2のポイントに対応する第2のポイントとで構成されたポイント対を複数決定する過程であって、これら第1のポイントおよび第2のポイントは、前記校正用構造の前記第1または第2の側部において互いに反対側に位置する(第1または第2の側部の両端に位置する)過程と、
e)前記ポイント対における前記第1および第2のポイントから前記結像面の前方に位置する仮想的な消失点に向かってそれぞれ延びる2つの補助ビームで構成された補助ビーム対を複数生成する過程と、
f)前記補助ビーム対のそれぞれについて、当該補助ビーム対における一方の補助ビームを始端とし当該補助ビーム対における他方の補助ビームを終端とする支持路を生成する過程であって、これら複数の支持路は互いに平行である過程と、
g)前記支持路の長さおよび/または向きを、全ての支持路の長さが互いに同一になり、これら支持路が共通平面に対して同一角度をなすまで変化させる過程と、
h)前記g)過程で発見した支持路を用いて前記被投写面の(仮想的な)モデルを生成する過程であって、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造の前記第1および第2の側部に対して平行に延びる経路である過程と、を有し、
当該校正済み投写像の生成方法は、さらに、
i)前記h)過程で生成した前記モデル(すなわち、前記被投写面の空間的広がりを再構成したもの)を用いて、校正済み投写像、特には、前記校正用構造を基準として校正された投写像を生成する過程を含む。
【0008】
この方法により、校正用構造の領域に延在する被投写面の部位に関して、この部位が単一平面に沿った連続平面状ではなく、例えば1つの湾曲部(または複数の湾曲部)および/または1つの屈曲部(または複数の屈曲部)を有するものであったとしても、当該部位について投写像を校正することができ、すなわち、歪みの極めて少ない投写が可能となる。
【0009】
このような校正済みの投写像を生成するにあたっては、被投写面の空間的広がりを、校正用構造を用いて判定する。前記方法では、校正用構造の領域における被投写面が特定の形状であると想定する。詳細には、校正用構造の領域における被投写面が、校正用構造の第1の側部の端点と第2の側部の端点との間の連結線を当該校正用構造の第1および第2の側部に沿ってシフトさせた際に描かれる表面とほぼ一致することを前提とする。この「連結線」は、原則的に、任意の形状を有する3次元の曲線であり、すなわち、必ずしも直線状に延びるものである必要はなく、例えば1つの湾曲部(または複数の湾曲部)および/または1つの屈曲部(または複数の屈曲部)を有してもよい。詳細な一実施形態において、前記方法は、これに対応した形状を有する被投写面を設けることを含む。
【0010】
詳細には、前記連結線は、校正用構造の第1および第2の側部において当該校正用構造の第1または第2の側部に垂直な方向おいて互いに反対側に位置する2つの端点、すなわち、第1および第2の側部の2つの「上」端を結ぶ線または2つの「下」端を結ぶ線である。この連結線を第1および第2の側部に沿ってシフトさせる(すなわち、上方または下方に変位させる)ことによって描かれる軌跡は、被投写面が延在する表面に沿う。換言すれば、被投写面は、校正用構造の第1および第2の側部に沿った方向(例えば、垂直方向)における掃引によって、校正用構造の領域に生成される。すなわち、このような被投写面の特性は、次のことを意味する:校正用構造の領域における被投写面には、当該校正用構造の第1および第2の側部に平行に延びる直線に沿って屈曲部および/または湾曲部が有るものの、凹凸は校正用構造によって画定される残りの表面に比べて存在しないに等しいか、または、凹凸が有ったとしたとしても小さい凹凸である。ただし、そのような小さい凹凸が被投写面に有ったとしても、これら凹凸が原因で生じる歪みは校正用パターンの投写で補正可能である。歪みの補正については後述する。
【0011】
校正用構造を含む被投写面を、記録手段(カメラ)、特には、デジタルカメラ、ビデオカメラ、ハイスピードカメラなどで撮影する。つまり、校正用構造の画像を、カメラの結像面に生成する。そして、校正用構造の領域における被投写面が、前記連結線を校正用構造の第1または第2の側部に沿って掃引することによって生成されることを前提としたうえで、その校正用構造の画像から、校正用構造の領域における被投写面の空間的広がりの再構成を実行する。
【0012】
再構成過程は、校正用構造の画像において、実際の校正用構造における各ポイント(すなわち、被投写面上に存在する各ポイント)に対応するポイント対を複数決定する過程を有する。例えば、実際の校正用構造を4つの角(隅)を有するもの(すなわち、「空間的な四辺形」)とした場合、この四辺形状の校正用構造の2対のコーナーポイントは、それぞれ、第1の側部の両端と第2の側部の両端に位置する。校正用構造の画像に、例えばカメラの向きに応じて被投写面に対する歪みおよび/または捩れが生じたとしてもる、当該校正用構造の画像から上記コーナーポイントを特定することは可能である。
【0013】
例えば、この四辺形(すなわち、実際の校正用構造)のコーナーポイントを基準として、校正用構造の画像における他のポイント対を、実際の校正用構造におけるポイント対と関連付けることができる。これは、例えば、第1の側部における第1のコーナーポイントと第2の側部における第1のコーナーポイントとを結ぶ第1の連結線(すなわち、校正用構造の第3の側部(輪郭線))上に位置するポイントと、第1の側部における第2のコーナーポイントと第2の側部における第2のコーナーポイントとを結ぶ第2の連結線(すなわち、校正用構造の第4の側部(輪郭線))上に位置するポイントとで構成されるポイント対であって、校正用構造の第1の側部からの離間距離と第2の側部からの離間距離とがどちらのポイントについても同一であるポイント対を特定することによって実行できる。このように校正用構造の画像において他のポイント対を特定する方法については後述する。なお、校正用構造は必ずしも4つの角を有するものでなくてもよい。他の形状の校正用構造、例えば、第1の側部および第2の側部が含まれる平面に投写した際の投写像が5つ以上の角を有する校正用構造であってもよい。
【0014】
決定した各ポイント対の各ポイントに対して、(特に、コンピュータプログラムを用いて)(仮想的な)補助ビームを生成する。各補助ビームは、対応するポイント対における第1および第2のポイントからカメラの結像面(概して言えば、校正用構造の画像が延在する平面)の前方に位置する共通の消失点に向かって延びる。つまり、カメラによって校正用構造を表現することのモデル化を、いわばピンホールカメラモデルで実行する。
【0015】
前述したように、被投写面を再構成するにあたっては、被投写面を、校正用構造の第1および第2の側部に沿って掃引することにより生成されると見なす。これにより、校正用構造の領域における被投写面を、当該校正用構造の高さと同じ高さを有する、複数(多数)の互いに平行な(直線状の)経路を空間内に並べて構成したものと考えることができる。このようにして、補助ビーム対の各対について、当該補助ビーム対における一方の補助ビームを始端とし当該補助ビーム対における他方の補助ビームを終端とした支持路を(特に、コンピュータプログラムによって)生成する。なお、これら複数の支持路は互いに平行である。
【0016】
次に、これらの支持路の長さおよび/または向きを、全ての支持路が同一の長さで共通平面に対して同一角度をなすまで(すなわち、全ての支持路がこの共通平面上で終端するまで)、(特に、コンピュータ支援最適化アルゴリズムを用いて)変化させる。そして、このようにして発見した支持路を、校正用構造の領域における被投写面の所望の再構成の経路の一部をなすものとする。各経路は、校正用構造の第1および第2の側部に対して平行に延び、その両端は、それぞれ、校正用構造の第1の側部と第2の側部とを結ぶ第1の連結線(すなわち、校正用構造の第3の側部)上のポイント、校正用構造の第1の側部と第2の側部とを結ぶ第2の連結線(すなわち、校正用構造の第4の側部)上のポイントに相当する。
【0017】
このようにして再構成した被投写面を用いて、校正用構造に対して校正された投写画像を生成する。当然ながら、この校正済みの投写画像は、複数のプロジェクタを用いて生成してもよく、すなわち、個々の投写像を複数組み合わせて生成してもよい。「校正用構造に対して」校正された画像は、特に、校正用構造における被投写面に沿った領域において歪みが少なく(すなわち、ほとんど補正されており)、例えば、校正用構造の第1および第2の側部に沿った方向の歪みならびに当該方向に対して垂直な方向の歪みが少ない。複数のプロジェクタを使用する場合には、投写像の部分画像を、干渉が極めて少なくなるように複数互いに接合する。このような投写画像は、いわば被投写面上に広げられた壁紙のように見える。以下では、校正済みの映像を生成する方法、特に、投写画像を補正する方法について説明する。
【0018】
本発明の一改良形態では、前記d)〜h)過程による被投写面の再構成よりも先に、校正用構造の画像を生成するためのカメラのレンズ歪みを補正するか、または、前記h)過程で再構成済みの被投写面の広がりを、カメラのレンズ誤差(レンズ収差)を考慮しながら補正する。この目的のために、例えば、キャリブレーションボディまたはキャリブレーション面を用いたレンズ補正方法を利用してもよく、画像内容から補正パラメータを求めるレンズ補正方法を利用してもよい。
【0019】
他の(アドホックな)レンズ補正の方法は、校正用構造の第1および第2の側部の既知の広がりを利用する。詳細な一実施形態において、校正用構造の第1および第2の側部は直線状に延びている。カメラで撮影した校正用構造の第1および第2の側部の広がりと、実際の校正用構造の第1および第2の側部(例えば、直線形状の側部)の広がりとのずれから、レンズ補正パラメータを決定することができる。この他にも、例えば、校正用構造の領域における被投写面に対し、さらなる校正用パターンを投写してもよい。詳細には、当該さらなる校正用パターンは、校正用構造の第1および第2の側部と例えば直交するように(例えば、水平および/または垂直に)当接もしくは交差するか、または任意の角度で当接もしくは交差する、(直線状の)校正用帯線を有する。このような当接または交差で得られた交差点は、カメラ画像で認識され、互いに連結される。このようにして得られた交差点を結ぶ連結線は直線となるはずである。なぜなら、直線は斜め方向から撮影された画像でも直線として映るからである。もし(レンズ歪みが原因で)直線ない場合には、レンズ歪みの影響を補正するためのパラメータを決定することができる。当然ながら、直線状の帯線の代わりに、プロジェクタ空間における広がり(すなわち、投写像の物体面上の広がり)が判明している他の校正用パターンを使用してよい。
【0020】
詳細な一実施形態において、レンズ歪みパラメータは、最適化法によって決定される。この最適化法は、校正用構造の第1および第2の側部の(シミュレーション)画像と投写された校正用帯線の(シミュレーション)画像とのいずれか一方または両方に基づく画像の広がりが実際の校正用構造の第1および第2の側部の広がりと一致するまで(例えば、校正用構造の直線状の第1および第2の側部が2本の対応する直線となるまで)、補正パラメータを調整することを含む。
【0021】
詳細な一実施形態において、校正用構造は、第1の側部、第2の側部に対して垂直で、互いに平行に延びる第3の側部および第4の側部によって画定される。換言すれば、この校正用構造は、被投写面上に「展開された」直方形の形状を有する。
【0022】
本発明にかかる方法の一改良形態では、前記d)過程が、
−前記校正用構造の前記画像の第1の縁部(第1の側部)であって、前記実際の校正用構造の前記第1の側部に対応する第1の縁部(第1の側部)に位置する第1のポイント対を決定し、
−前記校正用構造の前記画像の第2の縁部(第2の側部)であって、前記実際の校正用構造の前記第2の側部に対応する第2の縁部(第2の側部)に位置する第2のポイント対を決定し、
−前記校正用構造の前記第1および第2の側部が含まれる平面から最も離れた前記被投写面の領域(すなわち、被投写面において最大の空間的湾曲または空間的深さを有する領域)に位置し、前記実際の校正用構造のポイントに対応する、第3のポイント対を決定し、
−例えば、まず、前記f)〜h)過程を前記第1、第2および第3のポイント対について実行する。
【0023】
被投写面において最大の空間的湾曲または空間的深さを有する領域の第3のポイント対を選択することは、必ずしも必要ではない。詳細な一実施形態において、このような選択は、カメラ画像(被投写面の「画像」)または当該カメラ画像をホモグラフィ変換によって変換したものから、被投写面のどの領域が校正用構造の第1および第2の側面が含まれる平面から最も離れているか(すなわち、被投写面のどの領域が最大の空間的深さを有しているか)を明らかにすることで実行する。しかし、被投写面において最大の空間的深さを有する領域の近傍に位置するポイント対または当該領域からほんの僅か離れたポイント対を、第3のポイント対として選択してもよい。
【0024】
当然ながら、前記第1、第2および第3のポイント対を決定するのに加えて、さらなるポイント対を選択してもよい。当該さらなるポイント対について、(例えば、第1、第2および第3のポイント対についてf)〜h)過程を実行した後に、)同じく支持路を決定する。特に、当該さらなるポイント対に由来する支持路の長さおよび向きは、先に最適化によって決定した第1、第2および第3のポイント対に由来する支持路の長さおよび向きである。これにより、当該さらなる支持路を補助経路の関連対にいわば「嵌め込む」。すなわち、さらなる支持路は、第1の端部が当該補助ビーム対のうちの第1の補助ビームに当接し第2の端部が当該補助ビーム対のうちの第2の補助ビームに当接する。
【0025】
本発明の他の構成では、前記校正用構造の前記第1および第2の側部を、前記被投写面の第1および第2の縁部によって構成する。換言すれば、被投写面の一部または被投写面の全体が、校正用構造によって画定される。例えば、校正用構造の第1および第2の側部は、被投写面の2つの互いに反対側の側縁、または被投写面を画定する他の構造によって構成される。校正用構造は、例えば、被投写面を画定する側縁または他の構造によって専ら構成される。被投写面の第1および第2の縁部を認識する方法の一変形例では、被投写面の縁部と重なる画像(少なくとも1つのプロジェクタによって生成される、例えば、白色画像または灰色画像)を投写する。
【0026】
代替として、または、上記の構成に加えて、前記校正用構造の少なくとも一部を、前記被投写面に配置するか、または前記被投写面に投写してもよい。例えば、校正用構造は、帯体の形態で被投写面に固定(例えば、貼付け)されたものであってもよく、レーザビームによって被投写面に投写されたものであってもよい。詳細な一実施形態において、校正用構造は、その第1および/または第2の側部が被投写面の縁部に対して垂直または水平に延びるか、または、被投写面を画定する他の構造に対して垂直または水平に延びるように配置される。
【0027】
校正用構造の少なくとも一部を、被投写面に配置せずに、被投写面の画像に後で(例えば、対応する画像処理によって)追加してもよい。特に、被投写面の縁部構造またはその他の特徴的な構造が利用される。このような構造は、例えば、カメラ画像からは一部しか見えないか、あるいは、全く見えないが、カメラのファインダではその広がりを捉えることができるので、カメラ画像内に含まれる他の構造(例えば、内部空間の側壁の縁部)と関連付けることができる。すなわち、この変形例では、校正用構造は、全部または少なくとも一部が被投写面に生成または配置されず、むしろ、(上述のように、)被投写面に生成または配置された校正用構造の画像に相当するように、被投写面のカメラ画像に単に追加される。本発明にかかる方法の既述の変形例および後述の変形例は、このように単にカメラ画像に追加される校正用構造(例えば、手入力または自動で追加される校正用構造)の場合にも同様に適用可能である。当然ながら、校正用構造の一部分をレーザで生成するかまたは被投写面に配置し、校正用構造の他の部分を後で追加してもよい。
【0028】
既述したように、被投写面は、校正用構造の領域における垂直方向の掃引によって生成されることが想定されることを条件としたうえで、原則的には、空間内にどのような広がりを有してもよい。この前提条件は、d)〜h)過程の再構成アルゴリズムによる解決手段を明らかにする。g)過程の条件、すなわち、共通平面上において長さが互いに同一である支持路を発見するという条件を満足する解決手段は他にも複数存在するが、これらの解決手段では、被投写面を再構成した際に、縮尺や位置関係にずれが生じてしまう。
【0029】
本発明にかかる方法は、特に、前記校正用構造の領域において第1の部位および第1の部位に対して角度または湾曲を持って延びる第2の部位を有する被投写面に対して実行することができる。例えば、校正用構造の領域における被投写面は、少なくとも一部が円筒の側面もしくは円筒の一部の側面として形成されたものでもよく、または、例えば波状に延在するものであってもよい。
【0030】
前記被投写面の前記第1の部位が第1の平面に沿って延在し、かつ、前記被投写面の前記第2の部位が第2の平面に沿って延在してもよい。換言すれば、第1の部位および第2の部位は、それぞれ平面上に延在するものである一方、これら第1の平面および第2の平面は互いにある角度をなす。すなわち、被投写面は、屈曲部または角を有する。当然ながら、被投写面は、複数の屈曲部を有してもよく、すなわち、少なくともほぼ平面状である複数の部位を互いに傾くように有してもよい。当然ながら、校正用構造の領域における被投写面は、湾曲部と屈曲部の両方を有してもよい。一変形例では、内部空間において角(隅)をまたいで延びる側壁、または家具が、被投写面の役割を果たす。後者の場合の投写画像は、家具を越えて家具の外側(例えば、壁)にまで及ぶ。
【0031】
本発明のさらなる構成では、さらに、
i)前記校正用構造の変換後の画像のエッジが互いに平行に延びる第1および第2の側部を有するように、前記校正用構造の前記画像を前記カメラの前記結像面から補助平面に変換することによって前記校正用構造の変換画像を生成する過程と、
ii)前記校正用構造の前記変換画像において、当該変換された校正用構造のエッジにおける第1のポイントと第2のポイントとで構成されたポイント対を複数選択する過程であって、これら第1のポイントおよび第2のポイントは、前記校正用構造の前記変換画像の第1または第2の側部において互いに反対側に位置する(第1または第2の側部の両端に位置する)ものである過程と、
iii)前記校正用構造の前記変換画像において選択された前記ポイント対に対応する、前記校正用構造の前記画像におけるポイント対を特定することにより、前記d)過程におけるポイント対選択を実行する。
【0032】
詳細な一実施形態では、前記iii)におけるポイント対の特定を、前記変換画像において前記選択されたポイント対の座標の、前記結像面への逆変換によって実行する。例えば、校正用構造が、第1および第2の側部と第3および第4の側部とが直角で接する4つの頂点を構成する場合、前記補助平面上に変換された校正用構造は直方形を形成する。この情報に基づいて、校正用構造の変換画像を生成する変換則(特には、ホモグラフィ行列の形態の変換則)を決定することができる。後述する投写像の補正においては、被投写面を縮尺どおりに再構成する必要がないので、上記の生成された直方形状の校正用構造の変換画像の側部の長さは重要ではない。
【0033】
上述したように、前記校正用構造の前記画像の、前記結像面から前記補助平面への変換は、ホモグラフィ行列で実行し、前記逆変換は、逆ホモグラフィ変換行列で実行する。逆ホモグラフィ行列を算出できない場合(逆変換されていない行列の行列式がゼロの場合)、始域と終域を取り替えて逆変換用の新たなホモグラフィ行列を求めてもよい。
【0034】
本発明の他の改良形態では、校正済みの投写像を生成するために、
a)少なくとも1つの校正用パターンを前記被投写面に投写し、
b)前記カメラで前記校正用パターンの画像を生成し、
c)前記校正用パターンの前記画像と前記校正用構造の前記領域における前記被投写面の再構成後の広がりとに基づき、投写像を校正するための歪みパラメータを決定する。
【0035】
例えば、投写像の物体面における投写校正用パターン(すなわち、プロジェクタから投写される校正用パターン)は、一様なラスタを形成する格子点を有する。投写される格子点間の、第1および第2の側部に沿った離間距離、および/または第1の側部および第2の側部の垂直方向に沿った離間距離が少なくとも実質上一定となるように、投写像を校正用構造に対して校正する。複数のプロジェクタの場合、各プロジェクタは、(それぞれ、その投写像の物体面における格子点同士が一定の離間距離を有する)個々の校正用パターンを含む。例えば、校正は、個々のプロジェクタの校正用パターンの重複領域に相当する領域において、校正後、同一の画像内容が表示されるように実行される。
【0036】
このような校正により、カメラの位置や見る人の位置に対してではなく、被投写面の広がりに対して、校正された投写像を生成することができる。詳細には、被投写面に対して補正された画像を投写することができ、つまり、投写画像は、(湾曲部および/または屈曲部を有する)被投写面上に展開された壁紙のように見える。特に、投写像の向きを、投写画像の側縁が被投写面の側縁に対して平行に延びるように設定することができる。このような被投写面に対する校正、すなわち、見る人の位置に依存しない校正は、正しく見える。なぜなら、ヒトの知覚は、空間内に存在する構造のコーナー(角)およびエッジ(例えば、被投写面の側縁)の向きに影響されるからである。
【0037】
本発明のさらなる構成では、前記校正用パターンが、投写像の前記物体面において、複数の互いに平行な第1の帯線(例えば、水平な帯線)および/または複数の互いに平行な第2の帯線(例えば、垂直な帯線)を有しており、前記第1の帯線は前記第2の帯線に対して垂直に延びており、前記第1の帯線と前記第2の帯線との交差点が当該校正用パターンの前記格子点を形成する。当然ながら、他種の校正用パターン、例えば、正弦波状のパターンおよび/またはマーカおよび/または色付きの校正用帯線などを使用してもよい。例えば、第1の帯線と第2の帯線とを交互に投写し、投写された帯線の画像を1つずつ記録するようにしてもよい。ただし、第1の帯線と第2の帯線とを一緒に投写してもよい。
【0038】
詳細な一実施形態では、前記カメラの前記結像面における前記格子点の各位置を、投写像を校正するために使用し、
b)前記校正用構造の領域における前記被投写面に対する、前記カメラによる前記格子点の結像(マッピング)を、前記校正用構造の領域において再構成された前記被投写面を用いてモデル化し、
c)前記歪みパラメータを決定することが、前記被投写面上にマッピングされた前記格子点の各位置を、UV座標の形態で求めることを含み、
d)前記UV座標に基づいて、投写像の校正を実行する。
【0039】
詳細な一実施形態では、前記UV座標を求めるにあたって、カメラの結像面における格子点と再構成された被投写面とを交差させ、その交差点のUV座標を決定する。例えば、校正用構造の第1の角(例えば、左下の角)が座標(0.0;0.0)に対応し第1の角の対角線上に位置する第2の角(例えば、右上の角)が座標(1.0;1.0)に対応するように、UV座標系を選択する。
【0040】
前記交差点のUV座標を、(被投写面の再構成されたモデルにおける)交差点と校正用構造の縁部との間の距離に基づいて求める。次に、既知の方法である画像ワーピング(本例では、UVテクスチャルックアップ)によって補正を実行する。詳細には、前記求められた交差点のUV座標(始域(元の領域))校正用パターンの格子点の座標(終域(目標の領域))との間の写像を、と投写像の物体面において求める。つまり、始域から終域への写像を実行して、始域が終域で表示される。このような写像を、交差点で構成された全ての終域(例えば、三角形状または直方形状の終域)および対応する始域について実行することにより、校正済みの投写像が得られる。
【0041】
被投写面に投写画像を生成するにあたって複数(数台)のプロジェクタを使用する場合、個々の投写画像の重複領域における画像も補正することができる。この目的のために、全ての個々の補正された(予め画像ワーピングによって補正された)投写画像を、ブレンド画像によって調整する。補正およびブレンディング(合成)はリアルタイムで実行してもよい。このリアルタイムの補正(リアルタイムの校正)は、例えばコンピュータプログラムまたはプログラムされたマイクロプロセッサによって実行してもよく、例えばドライバ側で実行してもよい。このように複数のプロジェクタを使用した場合、個々の投写画像は、空間内に広がる被投写面に対して校正されると同時に、他の投写画像に対しても校正される。
【0042】
リアルタイムの校正は、1つのプロジェクタの場合でも複数のプロジェクタの場合でも実行可能である。例えば、対応するプログラムを備えた電子構成品をプロジェクタに装備してもよく、プロジェクタに装備された電子構成品でそのような対応するソフトウェアプログラムを実行してもよい。当然ながら、このような校正は、プロジェクタとは別の、プログラムされた装置を用いて実行してもよい。
【0043】
さらに、本発明は、被投写面上に校正済みの投写像を生成する装置に関する。この校正済み投写像の生成装置は、
a)前記校正用構造の領域における前記被投写面の空間的広がりを再構成する再構成手段を備え、この再構成手段が、
b)前記被投写面の広がりに追従する校正用構造および/または前記被投写面に校正用構造を生成する手段を含み、当該校正用構造は、第1の側部(輪郭線)および第1の側部に対して平行に延びる第2の側部(輪郭線)を有し、かつ、前記第1または第2の側部の方向に沿って高さが一様に設定されており、これら第1の側部(51)および第2の側部(52)は、前記校正用構造(5)の画像から形成され、
また、前記再構成手段は、
c)前記校正用構造の画像において、実際の校正用構造における第1のポイントに対応する第1のポイントと実際の校正用構造における第2のポイントに対応する第2のポイントとで構成されたポイント対を複数決定し、これら第1のポイントおよび第2のポイントは、前記校正用構造の前記第1または第2の側部において互いに反対側に位置しており(第1または第2の側部の両端に位置しており)、
d)前記ポイント対における前記第1および第2のポイントから結像面の前方に位置する仮想的な消失点に向かってそれぞれ延びる2つの補助ビームで構成された補助ビーム対を複数生成し、
e)前記補助ビーム対のそれぞれについて、当該補助ビーム対における一方の補助ビームを始端とし当該補助ビーム対における他方の補助ビームを終端とする支持路を生成し、これら複数の支持路は互いに平行であり、
f)前記支持路の長さおよび/または向きを、全ての支持路の長さが互いに同一になり、これら支持路が共通平面に対して同一角度をなすまで変化させ、
g)前記f)で発見した支持路を用いて前記被投写面のモデルを生成するように構成されており、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造の前記第1および第2の側部に対して平行に延びる経路であり、
当該校正済み投写像の生成装置は、さらに、
h)前記再構成手段によって再構成された前記被投写面の空間的広がりを用いて、校正済み投写像、特には、前記校正用構造を基準として校正された投写像を生成する校正手段を備える。
【0044】
詳細な一実施形態において、本発明にかかる装置は、さらに、被投写面に投写像を生成する少なくとも1つの(校正対象の投写像を投写する)プロジェクタおよび/または結像面に校正用構造の画像を生成する少なくとも1つのカメラを備える。ただし、本発明にかかる装置は、既存のプロジェクタおよび/または既存のカメラをそのまま使用しても申し分なく、すなわち、プロジェクタおよび/またはカメラは必ずしも本発明にかかる装置の一部をなさない。
【0045】
詳細な一実施形態において、前記校正手段は、本発明にかかる方法に関して既述したように、被投写面に校正用パターンを投写する手段を含む。また、前記校正手段は、再構成手段および前記投写された校正用パターンによって再構成された、校正用構造の領域における被投写面の空間的広がりに基づいて、歪みパラメータを生成する手段を含んでもよい。詳細な一実施形態において、前記校正手段は、既述した本発明にかかる校正済み投写像の生成方法を実行するように構成されており、具体的には、校正用パターンの生成とUV座標を用いた歪みパラメータの決定とを実行するように構成されている。例えば、前記再構成手段および/または前記校正手段は、ソフトウェアプログラムまたはプログラムされた装置の形態で実現され、例えば、少なくとも1つのプロジェクタと協働することによって校正済みパターンを投写する(前記再構成手段および/または前記校正手段は、例えば、プロジェクタに組み込まれていてもよい)。
【0046】
前記校正済み投写像の生成装置は、さらに、被投写面の画像に校正用構造を生成する手段(例えば、画像処理ソフトウェア、画像処理装置など)を備えてもよい。つまり、被投写面に存在する不完全な(一部の)校正用構造または被投写面上に投写された不完全な(一部の)校正用構造に対し、後で残りの部分を挿入する(引き込む)ことによって完全な校正用構造とすることができる。
【0047】
さらに、本発明は、前述した校正済み投写像の生成装置を備えるシステム、および被投写面に関する。
【0048】
本発明のさらなる構成は、被投写面上に校正済みの投写像を生成する装置に関する。この校正済み投写像の生成装置は、
a)前記校正用構造の領域における前記被投写面の空間的広がりを再構成する再構成手段を備え、前記再構成手段が、
b)校正用構造を前記被投写面の画像に生成する手段(例えば、画像処理ソフトウェア、画像処理装置など)を含み、当該生成される校正用構造は、前記被投写面上に配置されて(ただし、実際には存在しない)、第1の側部(輪郭線)および第1の側部に対して平行に延びる第2の側部(輪郭線)を有し、かつ、前記第1または第2の側部の方向に沿って高さが一様に設定された校正用構造の画像に前記被投写面が一致するように、前記被投写面の特徴的な構造に、前記生成された校正用構造が合わせられ、
また、前記再構成手段は、
c)前記生成された校正用構造において、前記被投写面上に配置された校正用構造のポイントに対応する第1のポイントと第2のポイントとで構成されたポイント対を複数決定し、これら第1のポイントおよび第2のポイントは、前記校正用構造の前記第1または第2の側部において互いに反対側に位置しており(第1または第2の側部の両端に位置しており)、
d)前記ポイント対における前記第1および第2のポイントから結像面の前方に位置する仮想的な消失点に向かって延びる2つの補助ビームで構成された補助ビーム対を複数生成し、
e)前記補助ビーム対のそれぞれについて、当該補助ビーム対における一方の補助ビームを始端とし当該補助ビーム対における他方の補助ビームを終端とする支持路を生成し、
f)前記支持路の長さおよび/または向きを、全ての支持路の長さが互いに同一になり、これら支持路が共通平面に対して同一角度をなすまで変化させ、
g)前記f)で発見した支持路を用いて前記被投写面のモデルを生成するように構成されており、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造の前記第1および第2の側部に対して平行に延びる経路であり、
当該校正済み投写像の生成装置は、さらに、
h)前記再構成手段によって再構成された前記被投写面の空間的広がりを用いて、投写済み投写像を生成する校正手段を備える。
【図面の簡単な説明】
【0049】
【図1A】被投写面の前方に配置されたカメラからみた従来の投写画像を示す図である。
【図1B】前記カメラの位置とは異なる位置からみた図1Aの投写像を示す図である。
【図2A】図1Aおよび図1Bの投写像について、前記カメラの位置で校正された投写像を示す図である。
【図2B】図1Bの位置からみた図2Aの校正後の投写像を示す図である。
【図3A】本発明の第1の例示的な実施形態に従って生成された校正済み投写像を前記カメラからみた図である。
【図3B】図1Bおよび図2Bの位置からみた図3Aの校正済み投写像を示す図である。
【図4】本発明にかかる方法の第2の例示的な実施形態に従って生成された校正済み投写像を示す図である。
【図5A】プロジェクタの垂直な校正用帯線の投写像を示す図である。
【図5B】図5Aのプロジェクタの垂直な参照用帯線の投写像を示す図である。
【図5C】さらなるプロジェクタの水平な校正用帯線の投写像を示す図である。
【図5D】図5Cのプロジェクタの水平な参照用帯線の投写像を示す図である。
【図6】本発明にかかる方法の一過程を示す概略図である。
【図7】本発明にかかる方法のさらなる例示的な実施形態を示すフローチャートである。
【図8A】UV座標を用いて校正済み投写像を生成する様子を示す概略図である。
【図8B】UV座標を用いて校正済み投写像を生成する様子を示す他の概略図である。
【発明を実施するための形態】
【0050】
以下では、本発明を、例示的な実施形態によって図面を参照しながら詳細に説明する。
【0051】
図1Aおよび図1Bには、それぞれ、プロジェクタ3を用いて被投写面1に投写された校正(キャリブレーション)前の投写画像2が示されている。具体的に述べると、図1Aには、被投写面の前方に配置されたカメラ4の視点からみた投写画像が示されており、図1Bには、カメラと異なる位置の視点からみた投写画像2が示されている。投写画像2には、被投写面1に対するプロジェクタ3の位置に応じて歪みが生じる。特に、図1Aおよび1Bの被投写面1は内壁の角(隅)をまたいで広がる空間の一部をなしているため、投写画像に大きな歪みが確実に生じる。
【0052】
図2Aおよび図2Bに、校正済み投写像の生成方法の一例を示す。この例の投写画像2の校正は、投写画像をカメラの視点を基準として補正している。換言すれば、この例の投写画像2の校正は、当該投写画像2をカメラ画像の側縁(外端)方向に沿って補正することにより、投写像の側縁がカメラ画像の側縁に対して平行に延びるようにする。しかし、このように校正された投写画像は、カメラの視点からみた場合に限って正しく見え、被投写面1を別の位置からみると、図2Bのように歪んで見える。特に、このような投写像は、向きが内部空間(壁などで囲まれた空間)の境界縁(境界線)(例えば、床および/または天井と側壁との境界縁)に対して平行でないため、知覚心理学的な理由により正しく認識されない。
【0053】
本発明にかかる方法では、被投写面1(図1A〜図3Bの例では、屈曲部(非ストレート部)を有する被投写面)の広がりを再構成し、この被投写面の再構成された広がりを用いて投写画像を校正する。具体的には、これにより、投写画像を被投写面の側縁を基準として校正することができる。図3Aでは、投写画像2に、その上縁21および下縁22が被投写面1の上側の側縁11および下側の側縁12に対してそれぞれ平行に延びるように校正が施されている。なお、この例では、被投写面を形成する内部空間の側壁と当該内部空間の天井または床との間の角部により、前記側縁11,12が形成されている。
【0054】
投写画像2は、投写の物体面において一様な離間距離で互いに離間した構造が、被投写面1においても、当該被投写面1の側縁11,12の水平方向および垂直方向に一様な離間距離で離間するように、被投写面に対して校正(補正)される。これにより、投写画像2は、被投写面1上に壁紙のように「密着」しているように見える。このような校正により、投写画像2は、見る人の位置に関わらず正しく見える。図3Bを参照されたい。
【0055】
図3Aおよび図3Bに示すような被投写面に対する校正を行うにあたっては、最初の手順として、既述のとおり被投写面1の広がりを再構成する。この目的のために、被投写面1は、第1の輪郭線51と、第1の輪郭線51に対して平行な第2の輪郭線52をと備える校正用構造5を含む。校正用構造5は、さらに、第1の側部51の第1端(下端)511と第2の側部52の第1端(下端)521とを結ぶ、第3の輪郭線(下側の輪郭線)53の形態の連結線を有する。さらに、校正用構造5は、第3の輪郭線53に対して平行に延びる第4の輪郭線54を有する。
【0056】
校正用構造5の領域(この例では、校正用構造5内の領域)における被投写面1は、前記第3の輪郭線53を前記第1および第2の輪郭線51,52に沿ってシフトさせる(すなわち、上方に変位させる)ことによって描かれる表面の形態で延在する。換言すれば、校正用構造5の領域における被投写面1は、従来の被投写面のような平面状の単一表面ではなく、第1の部位12がライン(側壁の角)111に沿って第2の部位13から屈曲していることから、空間において広がりを有する。例えば、校正用構造5は、レーザによって被投写面1に投写される。そして、特に、校正用構造5は、前記第3および第4の輪郭線53,54が被投写面1の上側の側縁11および下側の側縁12に対して平行となるように延在する。当然ながら、校正用構造5は、投写画像の表面と同等サイズの表面を形成するものであってもよいし、投写画像の表面よりも小さいものであってもよい。後者の場合、投写像2は校正用構造5を越えて広がる。
【0057】
一変形例では、校正用構造の少なくとも一部が、カメラで記録された被投写面の画像に後で追加される。例えば、被投写面の特徴的な構造に対して平行なライン(例えば、側壁の縁部11,12および/または屈曲部111に対して平行なライン)が、被投写面の画像に(手入力でまたは自動で)追加される。
【0058】
校正済みの投写像2は、さらに、複数の第1の(水平な)帯線61および複数の第2の(垂直な)帯線62で構成されるテスト用構造6を含む。投写像の物体面におけるこれら第1の帯線61と第2の帯線62との交差点は、均一な格子の格子点を形成する。投写画像には、これらの格子点間の、校正用構造5の前記第1および第2の輪郭線51,52に沿った離間距離(被投写面1に沿った離間距離)、および/または前記第3および第4の輪郭線53,54に沿った離間距離(被投写面に沿った離間距離)が一定になるように校正が施されている。
【0059】
図4に、本発明にかかる方法によって校正された投写像のさらなる他の例を示す。この投写画像2は、湾曲した被投写面1に壁紙のように追従している。この被投写面1は、(水平な)側縁11,12および(垂直な)側縁14,15によって画定されている。
【0060】
この例においても、そのような校正を実現するにあたって、被投写面の広がりを校正用構造5を用いて再構成する。図4の例では、被投写面1の側縁11,12,14,15が校正用構造としての役割を果たす。第1の垂直な側縁14が校正用構造の第1の輪郭線51を構成し、第2の垂直な側縁15が校正用構造5の第2の輪郭線52を構成する。これら2つの輪郭線51,52は第1の(下側の)連結線53および第2の(上側の)連結線54によって互いに連結されている。(下側の)連結線53が被投写面の(下側の)水平な側縁12に一致し、第2の(上側の)連結線54が被投写面の(上側の)側縁11に一致する。被投写面は、凹凸を有さずに延在している。換言すれば、被投写面は、鉛直軸(すなわち、校正用構造の輪郭線51,52に平行に延びる軸)周りに湾曲および/または屈曲した表面(角度が付けられた表面)の形態で形成されている。
【0061】
つまり、被投写面1は、前記下側の連結線53を輪郭線51,52に沿って垂直方向にシフトさせた際に描かれる表面に相当する。この例では、被投写面1の部位12は第2の部位13に対して湾曲を持って延在しており、被投写面は複数の湾曲部を有する(正負の曲率が混在しているものとする)。当然ながら、本発明にかかる方法には、原則的に、あらゆる組合せの湾曲部および屈曲部を含む被投写面が包含される。
【0062】
なお、図3A,図3Bおよび図4における表示はいずれも、被投写面および校正用構造を撮影したカメラ画像に相当する。そのため、例えば図4において輪郭線14が反対側の輪郭線15よりも長く見える。既述のとおり、被投写面の側縁の実際の広がり(したがって、校正用構造の側縁の広がり)が判明しているので、校正用構造の画像と校正用構造の実際の広がりとの違いから、校正用構造の領域における被投写面の空間的広がりを決定することができる。
【0063】
図5A〜図5Dは、本発明にかかる方法に従って校正済み投写像を生成するための校正用パターンの投写像を示す図である。例えば、図5Aには、2つの屈曲部111,112を有する被投写面1(スクリーンの形態の被投写面)が示されている。つまり、同図の被投写面1は、それぞれ隣接する部位に対して傾いた3つの部位15,16,17を有する。この例では、被投写面1の縁部により、被投写面の空間的広がりを再構成するための校正用構造5が画定されている。
【0064】
複数の第1の(垂直な)校正用帯線91を有する校正用パターン9を被投写面に投写し、これをカメラで記録する。これらの校正用帯線はカメラレンズ歪み(この時点では補正されていない)が原因で歪みを生じる。(投写像の物体面に存在する)全ての校正用帯線が被投写面上に投写される可能性は少ない(つまり、一部の校正用帯線は被投写面の外側に投写される)ので、どの校正用帯線が被投写面上に投写されているかを決定するために参照用パターンを投写する。例えば、参照用パターンは、図5Bに示すように、投写された校正用帯線のうちの1本と合致する単一の参照用帯線95で構成される。この参照用帯線95については、残りの校正用帯線に対する(投写像の物体面における)位置が判明している。被投写面上の参照用帯線95の位置(被投写面の側縁に対する相対位置)から、どの校正用帯線91が被投写面1上に投写されているのかを決定することができる。
【0065】
図5Cは水平な校正用帯線92を示す図であり、図5Dは水平な参照用帯線96を示す図である。当然ながら、垂直な帯線91と水平な帯線92は一緒に投写されてもよい。参照用帯線95と参照用帯線96も校正用パターンと一緒に投写されてよい。また、例えば、参照用帯線95,96は、実際の校正用パターンと区別するための付加的な構造を有するものであってもよい。特に、複数のプロジェクタを使用する場合、各プロジェクタが1つまたは複数の校正用パターンを投写する。
【0066】
図6に、本発明にかかる方法において被投写面を再構成する際の一過程を示す。校正用構造の画像5’(カメラ画像)を(カメラの結像面(図中の破線)に)生成する。この校正用構造の画像5’は輪郭線51’〜54’を有する。直線状に延びる輪郭線51’および輪郭線52’(しかしながら、必ずしもカメラ画像の縁部に対して平行でなくともよい)は、例えば、それぞれ、図3Aの校正用構造5の輪郭線51の画像、輪郭線52の画像に相当する。下側の輪郭線53’および上側の輪郭線54’は、それぞれ、図3Aの校正用構造5の下側の輪郭線53と、上側の輪郭線54に対応する。輪郭線53’,54’は、被投写面に屈曲部(図3Aの屈曲部111に相当)が存在しているので直線状に延びず、被投写面が最大の空間的広がりを有する箇所で屈曲している。
【0067】
校正用構造の画像5’からポイント対を複数選択する。図6には3つのポイント対が示されている。第1のポイント対に含まれるポイントA,Bは、撮影された(マッピングされた)校正用構造5’におけるコーナーポイントであると同時に校正用構造の画像5’における第1の輪郭線51’の両端を構成する。第2のポイント対に含まれるポイントC,Dは、校正用構造の画像5’における第2の側部52’の両端を構成する。これら選択されたポイントA,BとポイントC,Dは、撮像された(マッピングされた)校正用構造5’におけるコーナーポイントであるため、実際の校正用構造(図示せず)においても、それぞれ、第1の輪郭線に沿って両側に位置するポイント(コーナーポイント)、第2の輪郭線に沿って両側に位置するポイント(コーナーポイント)に相当する。さらに、ポイント対E,Fが、輪郭線53’,54’の屈曲部において選択される。
【0068】
ポイント対(A,B),(C,D),(E,F)から3つの補助ビーム対を形成する。各補助ビーム対は、前記ポイント対における第1および第2のポイントA,B;C,D;E,Fからカメラの結像面の前方(概して述べると、校正用構造の画像5’が延在する平面よりも前方)に位置する仮想的な消失点Gに向かって延びる、2本の補助ビーム81a,81b;82a,82b;83a,83bで構成される。さらに、補助ビーム対のうちの一方の補助ビーム81a,82a,83aを始端とし他方の補助ビーム81b,82b,83bを終端として、複数の互いに平行な支持路71,72,73を生成する。
【0069】
支持路71,72,73の長さおよび向きを、同一角度のもとで共通平面(図示せず)上において長さが互いに同一になるまで(最適化法を用いて)変化させる。このようにして発見した支持路を用いて、校正用構造の領域における被投写面を再構成する。具体的に述べると、前記発見した支持路は、所望の被投写面の一部をなし、かつ、校正用構造の第1および第2の輪郭線に対して平行である。このようにして発見した所望の被投写面は、必ずしも実際の被投写面の縮尺どおりでなくてもよく、そのままで十分に校正済み投写像の生成に役立てることができる。
【0070】
当然ながら、被投写面を再構成するにあたって、4つ以上のポイント対を選択してもよい。また、図6に示すポイント対とは異なるポイント対を選択してもよい。特に、第3のポイント対は、必ずしも被投写面の空間的湾曲または空間的深さが最大となる領域から選択されなくてもよい。
【0071】
図7は、本発明にかかる方法のさらなる例示的な実施形態を示すプロセス図である。第1のステップ100では、各種校正用画像を被投写面に投写する。これらの校正用画像には、他の校正用画像から取り出された黒色画像101が含まれており、特に、背景の物体やバックグラウンドノイズを除去するために使用される。
【0072】
また、白色画像102を投写する。白色画像102は、特に、被投写面の縁部および角を決定し、当該縁部および角を被投写面の空間的広がりを再構成するための校正用構造として利用するのに役立つ。
【0073】
さらに、複数の垂直な帯線を有する第1の校正用パターン103、および複数の水平な帯線を有する第2の校正用パターン104を投写する。また、校正用パターン103,104の帯線を明確に特定するための参照用帯線105を投写する。
【0074】
投写された校正用画像101〜105をデジタルカメラで記録する。例えば、各校正用画像を別々に記録する。しかし、一部の校正用画像(例えば、校正用パターン103〜105)を同時に投写して一緒に記録してもよい。当然ながら、投写画像を生成するにあたって複数のプロジェクタを使用してもよく、この場合、各プロジェクタごとに、ステップ100で投写される校正用画像を1つずつ投写および記録してもよい。
【0075】
なお、校正用パターン103,104の投写された帯線(投写帯線)の一部がカメラで撮像されない場合、および/または投写帯線の一部が被投写面の外側に位置する場合などが考えられる。そのような場合、カメラ画像では、投写帯線のうちのどの帯線が被投写面の領域に存在するのかを明確に判断することができない。しかし、投写される校正画像のための歪みパラメータを決定する際には、カメラで撮影した投写帯線を明確に区別できた方が好都合である。校正用帯線を明確に区別できるように、参照用帯線105を投写する。この参照用帯線105は、投写された校正用帯線を明確に識別できるように構成されており、特に、校正用帯線に対する相対位置によって、校正用帯線を明確に識別できるように構成されている。例えば、参照用パターンとして、帯線とは異なる他の形状のものを使用してもよく、符号化された光スライス法(kodierte Lichtschnitttechnik)を適用してもよい。
【0076】
記録した校正用パターン103〜105を二値化する。例えば、ステップ200では、特にサンプリング、レンズ歪み、ズーム、ブルーミング、アンチエイリアスなどによる誤差を補正する。具体的に述べると、ヒストグラムによってバイナリフィルタの閾値を決定する。ここでは、ビネッティングの影響が考慮されてもよい。このようにバイナリフィルタの閾値を設定することにより、校正用パターン103〜105の画像の黒−白のフィルタリング処理を実現することができる。フィルタリング処理後に残った帯線の誤差は、モフォロジー処理でフィルタリングされてもよい。
【0077】
特に、このように処理した各校正用パターン(例えば、幅が数画素であるパターン)を、垂直の2方向(互いに反対方向)のオフセットフィルタおよび/または水平の2方向(互いに反対方向)のオフセットフィルタを用いて処理することにより、各投写帯線のエッジ(垂直な帯線の左側および右側のエッジ、ならびに水平な帯線の上側および下側のエッジ)を抽出することができる。このようにして判定した帯線のエッジは、垂直な帯線と水平な帯線との交差点を決定するための後のステップで使用する。
【0078】
投写された校正用帯線のフィルタリング処理は、勾配法を用いて実行してもよい。
【0079】
さらなるステップ300では、アドホックな(特定の目的のための)レンズの補正用のパラメータを決定する。具体的に述べると、そのようなパラメータの決定は、校正用構造における既知の広がりを用いて実行する。この例では、既述したように、被投写面の直線状の側縁の広がりに基づいて実行する。
【0080】
投写された白色画像102に基づき、被投写面の縁部(外縁)認識を実行する(ステップ400)。例として、この白色画像に、2方向の垂直および/または水平のオフセットフィルタを適用する。例えば、このフィルタリング処理した白色画像において、縁部の2つの隣接するセグメントの終点または開始点を平均することにより、(カメラの結像面における)被投写面のコーナーポイントを決定することができる。さらに、ステップ500では、投写された第1の(垂直な)校正用帯線103と第2の(水平な)校正用帯線104との交差点を決定する。校正用帯線103,104の二値化された画像から、校正用帯線103,104のエッジ間の交差点を決定する。つまり、垂直な帯線と水平な帯線との1つの交差点につき、帯線のエッジ間の交差点が4つ得られる。このエッジ間の交差点を平均することにより、校正用帯線の所望の交差点を決定する。このようにして発見した(校正用格子の格子点を構成する)交差点の位置を、前記決定したレンズ歪みを特に用いて補正することにより、カメラ由来の歪みについて調整を施した交差点が得られる。
【0081】
校正用帯線を勾配法でフィルタリング処理した場合、これら校正用帯線は1本の直線のみで表現される。したがって、交差点は1つだけとなり、後はレンズ歪みを補正するだけとなる。
【0082】
上記のようにして決定した校正用帯線103と校正用帯線104との交差点は、投写画像内に存在するものであり、すなわち、被投写面の側縁から内側に向かってある程度離間している。校正の範囲を投写画像の縁部(外縁)領域にまで拡大させるために、投写画像の外周に位置する交差点のエッジを外挿で求める。このために、例えば、校正用帯線同士の間隔が比較的小さいと仮定し、カメラの結像面において隣合う校正用帯線によって画定される四辺形が、結像面に対して傾いた平面上の四辺形とほぼ合致すると仮定する。このような仮定のもと、投写画像の縁部(外縁)に位置する格子点四辺形に適用される変換則を決定し、この変換則により、前記格子点四辺形の一辺(すなわち、被投写面の内側にあるラスタ点と被投写面の外側にあるラスタ点とを結ぶ線)と被投写面の縁との交差点を決定する。
【0083】
さらなるステップ600,700では、ホモグラフィ変換を実行して校正用構造の変換画像を補助平面に生成する。このようにして、既述のようにポイント対を選択し、逆ホモグラフィ変換を行うことにより、校正用構造の画像における当該ポイント対を特定する。このようにして特定したポイント対は、図6を参照して説明した支持路の構築に利用される。
【0084】
最後に、校正用構造の特性(「制約」)、および校正用構造の領域における被投写面の特性(「制約」)を用いて、被投写面の再構成を実行する(ステップ800)。詳細には、これらの特性(「制約」)は、校正用構造の第1の輪郭線と第2の輪郭線とは互いに平行に延びるものであり、かつ、詳細に既述したように、被投写面が垂直方向に描いた軌跡に相当する平面であるというものである。一変形例では、校正用構造の領域における被投写面の広がりを、ワイヤグリッドモデルによって再構成する。
【0085】
ステップ800で再構成した被投写面を用いて、投写像の校正を実行する。ステップ900では、歪みパラメータをUV座標およびブレンド画像の形式で生成する。詳細な一実施形態では、各プロジェクタの校正用パターンにおける格子点または帯線の位置と、それらのUV座標とに基づき、投写像のどの領域が視認領域(ブレンド画像における白色領域)であるのか、どの領域が被投写面の外側に位置する領域(ブレンド画像における黒色領域)であるのか、および各プロジェクタから投写される画像の重複領域(ブレンド画像におけるグレースケール領域)がどこに位置するのかを決定することができる。
【0086】
ステップ1000では、複数(数台)のプロジェクタを使用する場合の各部分的画像をリアルタイムで補正および接合する。例えば、あるプロジェクタの画像を、前記決定したUV座標を用いて変換し(「UVテクスチャルックアップ」)、対応するブレンド画像を用いて調整する。これにより、被投写面に対してのみでなく、(複数のプロジェクタを使用する場合には)他の部分的画像に相対的な個々の部分的画像に対しても、校正された画像(校正済み画像)を生成することができる。
【0087】
なお、図7の例示的な実施形態では、図7を参照しながら説明した過程の全てを必ずしも使用しなくてもよい。一部の過程を省略してもよいし、一部の過程を変更してもよい。例えば、図7の例示的な実施形態において、必ずしも被投写面の側縁を校正用構造として使用しなくてもよく、異なる校正用構造を使用してもよい。その場合、例えば、白色画像102が省略される。
【0088】
図8Aおよび図8Bに図7のステップ1000を示す。図8Aでは、校正用パターンが投写されており、この校正用パターンは格子点ラスタ9,9’の形態である。格子点ラスタ9’,9は、それぞれ、4つの格子点99a’〜99d’,99a〜99dからなるセグメントを含む。図8Aの左側には投写像の物体面(すなわちプロジェクタのフレームバッファ)における格子点ラスタ9’が示されており、図8Aの右側には被投写面に投写された格子点ラスタの投写像9が示されている。投写された格子点99a〜99dの位置を、既述した方法に従い、被投写面の再構成された(UV座標の形態の)広がりを用いて決定し、プロジェクタのフレームバッファにおける格子点99a’〜99d’の座標と投写された格子点99a〜99dの座標との間の(矢印で図示する)マッピング則を決定する。校正用パターンの他の格子点についても同様の方法を適用する。図8Bを参照されたい。当然ながら、既述の方法は、格子点ラスタが直方形状のセグメントである場合だけでなく、例えば、3つの格子点で画定される三角形状のセグメントの場合にも実現できる。
【符号の説明】
【0089】
1 被投写面
2 投写画像
3 プロジェクタ
4 カメラ
5 校正用構造
5’ 校正用構造の画像
6 テスト用パターン
9、9’ 校正用パターン
11〜14 被投写面の側縁
12,13,15〜17 被投写面の部位
21,22 投写画像の側縁
51 校正用構造の第1の側部(輪郭線)
51’ 校正用構造の第1の側部の画像
52 校正用構造の第2の側部(輪郭線)
52’ 校正用構造の第2の側部の画像
53 校正用構造の第3の側部(輪郭線)
53’ 校正用構造の第3の側部の画像
54 校正用構造の第4の側部(輪郭線)
54’ 校正用構造の第4の側部の画像
61 第1のテスト用帯線
62 第2のテスト用帯線
71,72,73 支持路
81a,81b,82a,82b,83a,83b 補助ビーム
91 第1の校正用帯線
92 第2の校正用帯線
95,96 参照用帯線
99a〜99d,99a’〜99d’ 格子点
111,112 屈曲部
511 校正用構造の第1の側部の端
521 校正用構造の第2の側部の端
A〜F 校正用構造の画像のコーナーポイント
G 消失点

【特許請求の範囲】
【請求項1】
被投写面(1)上に校正済みの投写像を生成する方法であって、
a)第1の側部(51)と、当該第1の側部(51)に対して平行に延びる第2の側部(52)とを有し、かつ、前記第1または第2の側部(51,52)の方向の高さが一定である校正用構造(5)を、前記被投写面(1)の空間的広がりに追従するように配置および/または生成する工程と、
b)カメラ(4)の結像面に前記校正用構造(5)の画像(5’)を生成する工程と、
c)前記校正用構造(5)の領域に前記被投写面(1)の空間的広がりを再構成する工程であって、
d)前記校正用構造(5)の前記画像(5’)の複数のポイント対(A〜F)であって、前記校正用構造(5)の前記画像(5’)の第1のポイント(A、C,E)および第2のポイント(B,D,F)をそれぞれ有するポイント対(A〜F)を決定する工程であって、前記第1のポイント(A、C,E)および第2のポイント(B,D,F)は、それぞれ、実際の校正用構造(5)の第1のポイントおよび第2のポイントに対応し、前記校正用構造(5)の前記画像(5’)の前記複数のポイント対のうちの1つのポイント対の第1のポイント(A、C,E)および第2のポイント(B,D,F)は、前記校正用構造(5)の前記第1または第2の側部(51,52)において互いに反対側に位置する、工程、
e)複数の補助ビーム対を生成する工程であって、これら補助ビーム対は、それぞれ、前記ポイント対の前記第1および第2のポイント(A〜F)から前記結像面の前方に位置する仮想的な消失点(G)に向かって延びる2つの補助ビーム(81a,81b,82a,82b,83a,83b)を含む、工程、
f)互いに平行である複数の支持路(71,72,73)を生成する工程であって、これら支持路(71,72,73)は、それぞれ、前記補助ビーム対の一方の補助ビーム(81a,82a,83a)を始端とし、他方の補助ビーム(81b,82b,83b)を終端とする、工程、
g)全ての支持路(71,72,73)の長さが同一で、かつ、これら支持路(71,72,73)が同一角度で共通平面に衝突するまで、前記支持路(71,72,73)の長さおよび/または向きを変化させる工程、および
h)前記工程gで発見した支持路を用いて前記被投写面(1)のモデルを生成する工程であって、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造(5)の前記第1および第2の側部(51,52)に対して平行に延びる経路である、工程を有する再構成工程と、
i)前記工程hで生成した前記被投写面の前記モデルを用いて校正済み投写像を生成する工程とを備えた、校正済み投写像の生成方法。
【請求項2】
請求項1において、前記工程d〜hによる前記再構成工程よりも前に、前記実際の校正用構造(5)の前記第1の側部(51)および/または前記第2の側部(52)の広がりに対する、前記校正用構造の前記画像(5’)の第1の側部(51’)および/または第2の側部(52’)の広がりのずれを求めることで決定された補正パラメータに基づき、前記カメラ(4)のレンズ誤差が補正される、校正済み投写像の生成方法。
【請求項3】
請求項1または2において、前記工程dによって、
前記校正用構造の前記画像(5’)の第1の縁部に位置する第1のポイント対であって、前記実際の校正用構造(5)の前記第1の側部(51)に対応する第1のポイント対が決定され、
前記校正用構造の前記画像(5’)の第2の縁部に位置する第2のポイント対であって、前記実際の校正用構造(5)の前記第2の側部(52)に対応する第2のポイント対が決定され、
前記校正用構造の前記第1および第2の側部(51,52)が含まれる平面から最も離れた前記被投写面(1)の領域に位置したポイントであって、前記実際の校正用構造(5)のポイントに対応する、第3のポイント対が決定され、
最初に、前記工程f〜hが、前記第1、第2および第3のポイント対について実行される、校正済み投写像の生成方法。
【請求項4】
請求項1から3のいずれか一項において、前記校正用構造(5)の前記第1および第2の側部(51,52)は、少なくとも一部が、前記被投写面(1)の第1および第2の縁部(14,15)によって構成される、校正済み投写像の生成方法。
【請求項5】
請求項1から4のいずれか一項において、前記校正用構造(5)は、少なくとも一部が、前記被投写面(1)に配置されるか、または前記被投写面(1)に投写される、校正済み投写像の生成方法。
【請求項6】
請求項1から5のいずれか一項において、前記校正用構造(5)の領域において、前記被投写面(1)は、第1の部位(12)と、当該第1の部位(12)に対して傾斜しているか湾曲している第2の部位(13)を有する、校正済み投写像の生成方法。
【請求項7】
請求項6において、
前記被投写面(1)は、その少なくとも一部が、円筒の側面もしくは円筒の一部の側面として形成されているか、または、波状に延在し、および/または
前記被投写面(1)の前記第1の部位(12)が第1の平面に沿って延在し、かつ、前記被投写面の前記第2の部位(13)が第2の平面に沿って延在し、これら第1の平面および第2の平面は互いに傾いている、校正済み投写像の生成方法。
【請求項8】
請求項1から7のいずれか一項において、さらに、
i)前記校正用構造(5)の変換画像を生成する工程であって、前記変換画像のエッジが互いに平行に延びる第1および第2の側部を有するように、前記校正用構造(5)の前記画像(5’)を前記カメラ(4)の前記結像面から補助平面に変換することによって前記校正用構造(5)の変換画像を生成する工程と、
ii)前記校正用構造の前記変換画像の複数のポイント対を選択する工程であって、前記複数のポイント対は、それぞれ、前記変換された校正用構造のエッジの第1および第2のポイントを含み、これら第1のポイントおよび第2のポイントは、前記校正用構造の前記変換画像の第1または第2の側部に沿った方向において互いに反対側に位置する、工程と、
iii)前記校正用構造の前記変換画像において選択された前記ポイント対に対応する、前記校正用構造の前記画像におけるポイント対を特定することにより、前記工程dでポイント対を選択する工程とを備えた、校正済み投写像の生成方法。
【請求項9】
請求項8において、前記工程iiiにおいてポイント対を特定することは、前記変換画像における前記選択されたポイント対の座標を、前記結像面に逆変換することによって実行される、校正済み投写像の生成方法。
【請求項10】
請求項9において、前記結像面から前記補助平面に前記校正用構造の前記画像を変換することは、ホモグラフィ行列で実行され、前記逆変換は、逆ホモグラフィ行列で実行される、校正済み投写像の生成方法。
【請求項11】
請求項1から10のいずれか一項において、
a)少なくとも1つの校正用パターン(6)が前記被投写面(1)に投写され、
b)前記校正用パターン(6)の画像は前記カメラ(4)で生成され、
c)前記校正用パターン(6)の前記画像と、前記校正用構造(5)の領域における前記被投写面の前記再構成された広がりとに基づき、投写像を校正するための歪みパラメータが決定される、校正済み投写像の生成方法。
【請求項12】
請求項11において、
前記校正用パターン(6)は、前記投写像の物体面において、格子点の一様なラスタを有し、
前記第1もしくは第2の側部(51,52)に沿って、および/または、前記第1および第2の側部(51,52)に対して垂直な方向において、前記投写された格子点が、互いに一定の距離で離間するように、前記投写像が前記校正用構造(5)に対して校正される、校正済み投写像の生成方法。
【請求項13】
請求項12において、前記校正用パターン(6)は、前記投写像の物体面において、複数の互いに平行な第1の帯線(61)および/または複数の互いに平行な第2の帯線(62)を有し、前記第1の帯線(61)は前記第2の帯線(62)に対して垂直に延びており、前記第1の帯線と前記第2の帯線との交差点が当該校正用パターンの前記格子点を構成する、校正済み投写像の生成方法。
【請求項14】
請求項12または13において、前記カメラの前記結像面における前記格子点の各位置が、前記投写像を校正するために使用され、
a)前記校正用構造(5)の領域における前記被投写面(1)上への、前記カメラによる前記格子点のマッピングが、前記校正用構造の領域における前記再構成された前記被投写面を用いてモデル化され、
b)前記歪みパラメータを決定することが、前記被投写面上にマッピングされた前記格子点の各位置を、前記マッピングされた格子点のUV座標の形態で求めることを含み、
c)前記UV座標に基づいて、前記投写像の前記校正が実行される、校正済み投写像の生成方法。
【請求項15】
被投写面(1)上に校正済みの投写像を生成する方法であって、
a)カメラ(4)の結像面に前記被投写面(1)の画像(5’)を生成する工程と、
b)前記被投写面(1)の空間的広がりを再構成する工程であって、
c)校正用構造(5’)を前記被投写面(1)の前記画像に生成する工程であって、前記被投写面上に配置されて、第1の側部(51)と、当該第1の側部に対して平行に延びる第2の側部(52)とを有し、かつ、前記第1または第2の側部(51,52)の方向の高さが一定である校正用構造(5)の画像に対応するように、前記生成される校正用構造(5’)が前記被投写面の特徴的な構造に合わせられる、工程、
d)前記生成された校正用構造(5’)の複数のポイント対(A〜F)を決定する工程であって、前記ポイント対(A〜F)は、それぞれ、前記被投写面上に配置された校正用構造(5)のポイントに対応する、第1のポイント(A、C,E)および第2のポイント(B,D,F)を有し、これら第1のポイント(A、C,E)および第2のポイント(B,D,F)は、前記校正用構造(5)の前記第1または第2の側部(51,52)において反対側に位置する工程、
e)複数の補助ビーム対を生成する工程であって、これら補助ビームは、それぞれ、前記ポイント対の前記第1および第2のポイント(A〜F)から前記結像面の前方に位置する仮想的な消失点(G)に向かって延びる2つの補助ビーム(81a,81b,82a,82b,83a,83b)を含む、工程、
f)互いに平行である複数の支持路(71,72,73)を生成する工程であって、これら支持路(71,72,73)は、それぞれ、前記補助ビーム対の一方の補助ビーム(81a,82a,83a)を始端とし、他方の補助ビーム(81b,82b,83b)を終端とする、工程、
g)全ての支持路(71,72,73)の長さが同一で、かつ、これら支持路(71,72,73)が同一角度で共通平面に衝突するまで、前記支持路(71,72,73)の長さおよび/または向きを変化させる工程、および
h)前記工程gで発見した支持路を用いて前記被投写面(1)のモデルを生成する工程であって、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造(5)の前記第1および第2の側部(51,52)に対して平行に延びる経路である、工程を有する再構成工程と、
i)前記工程hで生成した前記被投写面の前記モデルを用いて投写済み投写像を生成する工程とを備えた、校正済み投写像の生成方法。
【請求項16】
請求項15において、前記校正用構造(5)が、画像処理ソフトウェアを用いて前記被投写面(1)の前記画像に追加することによって生成される、校正済み投写像の生成方法。
【請求項17】
被投写面(1)上に校正済みの投写像を生成する装置(特に、請求項1から14のいずれか一項に記載の投写済み投写像の生成方法を実行する装置)であって、
a)前記被投写面(1)の空間的広がりを再構成する再構成手段であって、
b)前記被投写面の広がりに追従する校正用構造(5)、および/または、前記被投写面に校正用構造(5)を生成する手段を有し、当該校正用構造(5)は、第1の側部(51)と、当該第1の側部(51)に対して平行に延びる第2の側部(52)とを有し、かつ、前記第1または第2の側部(51,52)の方向の高さが一定であり、これら第1の側部(51)および第2の側部(52)は、前記校正用構造(5)の画像から形成され、
c)前記校正用構造(5)の前記画像(5’)の複数のポイント対(A〜F)であって、前記校正用構造(5)の前記画像(5’)の第1のポイント(A、C,E)および第2のポイント(B,D,F)をそれぞれ有するポイント対(A〜F)を決定し、前記第1のポイント(A、C,E)および第2のポイント(B,D,F)は、それぞれ、実際の校正用構造(5)の第1のポイントおよび第2のポイントに対応し、前記校正用構造(5)の前記画像(5’)の前記複数のポイント対のうちの1つのポイント対の第1のポイント(A、C,E)および第2のポイント(B,D,F)は、前記校正用構造(5)の前記第1または第2の側部(51,52)において互いに反対側に位置し、
d)複数の補助ビーム対を生成し、これら補助ビーム対は、それぞれ、前記ポイント対の前記第1および第2のポイント(A〜F)から前記結像面の前方に位置する仮想的な消失点(G)に向かって延びる2つの補助ビーム(81a,81b,82a,82b,83a,83b)を含み、
e)それぞれ、前記補助ビーム対の一方の補助ビーム(81a,82a,83a)を始端とし、他方の補助ビーム(81b,82b,83b)を終端とする、複数の支持路(71,72,73)を生成し、
f)全ての支持路(71,72,73)の長さが同一で、かつ、これら支持路(71,72,73)が同一角度で共通平面に衝突するまで、前記支持路(71,72,73)の長さおよび/または向きを変化させ、
g)前記fで発見した支持路を用いて前記被投写面のモデルを生成するように構成されており、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造の前記第1および第2の側部に対して平行に延びる経路である、再構成手段と、
h)前記再構成手段によって再構成された前記被投写面の空間的広がりを用いて、校正済み投写像を生成する校正手段とを備えた、校正済み投写像の生成装置。
【請求項18】
被投写面(1)上に校正済みの投写像を生成する装置(特に、請求項15または16に記載の投写済み投写像の生成方法を実行する装置)であって、
a)前記被投写面(1)の空間的広がりを再構成する再構成手段であって、
b)校正用構造(5’)を前記被投写面の画像に生成する手段を有し、前記被投写面上に配置されて、第1の側部(51)と、当該第1の側部に対して平行に延びる第2の側部(52)とを有し、かつ、前記第1または第2の側部(51,52)の方向の高さが一定である校正用構造(5)の画像に対応するように、前記校正用構造(5)が前記被投写面の特徴的な構造に合わせられ、
c)前記生成された校正用構造(5’)の複数のポイント対(A〜F)を決定し、前記ポイント対(A〜F)は、それぞれ、前記被投写面上に配置された校正用構造(5)のポイントに対応する、第1のポイント(A、C,E)および第2のポイント(B,D,F)を有し、これら第1のポイント(A、C,E)および第2のポイント(B,D,F)は、前記校正用構造の前記第1または第2の側部(51,52)において反対側に位置し、
d)複数の補助ビーム対を生成し、これら補助ビーム対は、それぞれ、前記ポイント対における前記第1および第2のポイント(A〜F)から結像面の前方に位置する仮想的な消失点(G)に向かって延びる2つの補助ビーム(81a,81b,82a,82b,83a,83b)を含み、
e)それぞれ、前記補助ビーム対の一方の補助ビーム(81a,82a,83a)を始端とし、他方の補助ビーム(81b,82b,83b)を終端とする、複数の支持路(71,72,73)を生成し、
f)全ての支持路(71,72,73)の長さが同一で、かつ、これら支持路(71,72,73)が同一角度で共通平面に衝突するまで、前記支持路(71,72,73)の長さおよび/または向きを変化させ、
g)前記fで発見した支持路を用いて前記被投写面のモデルを生成するように構成されており、これらの支持路は、所望の被投写面の一部をなし、かつ、前記校正用構造の前記第1および第2の側部に対して平行に延びる経路である、再構成手段と、
h)前記再構成手段によって再構成された前記被投写面の空間的広がりを用いて、投写済み投写像を生成する校正手段とを備えた、校正済み投写像の生成装置。

【図1A】
image rotate

【図1B】
image rotate

【図2A】
image rotate

【図2B】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図4】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図5C】
image rotate

【図5D】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8A】
image rotate

【図8B】
image rotate


【公表番号】特表2013−509767(P2013−509767A)
【公表日】平成25年3月14日(2013.3.14)
【国際特許分類】
【出願番号】特願2012−535785(P2012−535785)
【出願日】平成22年10月26日(2010.10.26)
【国際出願番号】PCT/EP2010/066155
【国際公開番号】WO2011/051281
【国際公開日】平成23年5月5日(2011.5.5)
【出願人】(507210281)フラウンホファー‐ゲゼルシャフト・ツア・フェルデルング・デア・アンゲヴァンテン・フォルシュング・エー・ファウ (5)
【Fターム(参考)】