説明

シーン内のPS(一点)と、反射屈折光学系のCOP(投影中心)との間の光線の少なくとも1つの折り返し点の3D位置を求める方法、およびシステム

【課題】シーン内の一点(PS)と、反射屈折光学系のカメラの投影中心(COP)との間の光線の折り返し点の3次元(3D)位置を求めるシステム及び方法を開示する。
【解決手段】PS及びCOPの3D位置を含む反射屈折光学系を、折り返し光学素子の対称軸とPSとによって定義される2次元(2D)平面上にマッピングして、この2D平面上に円錐並びにPS及びCOPの2D位置を生成し、この円錐、PS及びCOPの2D位置に基づいて2D平面上の折り返し点の2D位置を求める。次に、2D平面上の折り返し点の2D位置から折り返し点の3D位置を求める。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、包括的には反射屈折光学系に関し、特に、非中心反射屈折光学系において投影を求めることに関する。
【背景技術】
【0002】
反射屈折光学系は、通常はレンズ(屈折光学)と曲面鏡(反射光学)とにより屈折原理と反射原理とを組み合わせる。反射屈折光学系は、広い視野(FOV:field of view)の撮像を可能にするカメラの撮像用反射器又は屈折器を含む。反射屈折光学系は、パノラマ撮像及び可視化、広角再構成、監視、並びに携帯ロボット及びカーナビゲーションを含む幅広い用途に用いられてきた。反射屈折光学系には、中心式(central)と非中心式(non−central)とがあり得る。
【0003】
中心反射屈折光学系
中心反射屈折光学系は、単一の有効視点を可能にするように配置された単一のカメラ−鏡の対を用いる。すなわち、カメラセンサーによって取得された画像を形成する全ての光線は、一点で交わる。中心反射屈折光学系は、双曲面鏡又は楕円面鏡の焦点のうちの1つに配置された透視投影カメラと、放物面鏡の軸上に配置された立体角投射カメラ(orthographic camera)とを含む。
【0004】
非中心反射屈折光学系
非中心反射屈折光学系は、コンピュータビジョン用途で広く用いられている。非中心反射屈折光学系の例には、球面鏡の外側に配置された透視投影カメラ、及びカメラが双曲面鏡又は楕円面鏡の焦点に配置されない構成がある。中心反射屈折光学系と対照的に、非中心反射屈折光学系では、光線は一点で交わらない。その代わりに、光線は線に沿って交わるか、又は円若しくはより複雑な形状の接線となる。
【0005】
多くの用途において、非中心反射屈折光学系をモデル化することが重要であり、非中心反射屈折光学系は、シーン内の一点(PS:point in a scene)の、反射屈折光学系のカメラの投影中心(COP:center of projection)に対する3次元(3D:three dimensional)投影を求めることを必要とする。非中心反射屈折光学系は、有効な投影中心を持たない。COPは、反射屈折光学系において用いられる物理的な透視投影カメラの投影中心を指す。
【0006】
3D投影は、3次元のPSを反射屈折光学系のカメラの像面の2次元(2D:two dimensional)の画素にマッピングする。
【0007】
例えば、反射屈折光学系が鏡等の反射器を含む場合、PSをカメラの像面に投影するには、その点からCOPまでの鏡面反射による光線の光路を計算する必要がある。したがって、鏡表面の反射点を求める必要がある。同様に、反射屈折光学系が屈折器、例えば屈折率球体を含む場合、投影をモデル化するには、2つの屈折点を求める必要がある。
【0008】
中心反射屈折光学系の投影の解析解は知られている。しかし、非中心反射屈折光学系の投影の解析解はない。
【0009】
いくつかの従来の方法が、非中心反射屈折光学系を、投影の解析解を可能にする中心反射屈折光学系として近似している。しかし、これらの方法は、歪んだ3D推定値等、不正確な解となる。
【0010】
代替的な方法は、中心の近似を用いて反射点又は屈折点を初期化することにより反復による非線形最適化を用いる。しかし、これらの方法は、時間がかかり、不適切な反復により不正確な解となる。さらに別の方法は、一般的な線形カメラ表現を用いて、解析投影を可能にするアフィンモデルにより非中心反射屈折光学カメラを局所的に近似するが、この方法も近似を導入する。
【発明の概要】
【発明が解決しようとする課題】
【0011】
したがって、非中心反射屈折光学系の投影の解析解を提供することが望ましい。また、PSから非中心反射屈折光学系のCOPへの光線の少なくとも1つの折り返し点の3次元(3D)位置を解析的に求めることが望ましい。
【課題を解決するための手段】
【0012】
本発明の実施の形態は、非中心反射屈折光学系の特定の構成の、シーン内の一点(PS)の3次元(3D)投影は、この反射屈折光学系の3D構造を、この反射屈折光学系の折り返し光学素子の対称軸とPSとによって定義される2次元(2D)平面上にマッピングすることによって解析的に求めることができるという認識に基づく。
【0013】
折り返し光学素子は、二次曲面の対称軸の周りに回転対称であるこの二次曲面を有する反射器又は屈折器である。透視投影カメラの投影中心(COP)は、この対称軸上に配置される。このような反射屈折光学カメラにおいて折り返し点、例えば反射点/屈折点を求める問題は、対称軸と3Dシーン点とによって定義される2D平面上でこの問題を公式化し、反射法則/屈折法則をこの平面上で制約として用いることによって解かれる。
【0014】
いくつかの実施の形態は、一般的な円錐鏡の6次式を解くことによって鏡表面の反射点を求める。球面鏡の場合、式の複雑度は、4次式に低減され、閉形式解となる。解析順投影は、近似及び反復解を避け、バンドル調整による正確で高速な3D再構成に用いることができる。実施の形態は、反復順投影(iterative forward projection)を用いる従来の方法と比べて2桁の高速化を達成する。
【0015】
本発明の他の実施の形態は、反射球を介した所与の3D点から所与の視点までの光路が、10次式を解くことによって得られることを開示する。したがって、鏡と同様に、バンドル調整に順投影式を組み合わせることによって、反射球も3D再構成に用いることができる。
【0016】
例えば、一つの実施の形態は、シーン内の一点(PS)と、反射屈折光学系のカメラの投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求める方法であって、この反射屈折光学系は、折り返し光学素子の表面から或る距離だけ離して配置されたカメラを備え、この折り返し光学素子は、反射器又は屈折器から選択され、折り返し点は、表面上にあり、この表面上の光線の反射又は屈折により、この折り返し点がこの光線を入射光線と出射光線とに分割するようにすることによって生じ、PS及びCOPは、3D位置によって識別され、この方法は、反射屈折光学系の構成を取得するステップであって、この反射屈折光学系は非中心式であり、表面は、この表面の対称軸の周りに回転対称である二次曲面であり、COPは対称軸上に配置される、取得するステップと、表面並びにPS及びCOPの3D位置を、対称軸とこのPSとによって定義される2次元(2D)平面上にマッピングするステップであって、この2D平面上に円錐並びにPS及びCOPの2D位置を生成し、この円錐は、表面を2D平面上でパラメーター化したものである、マッピングするステップと、円錐、PS及びCOPの2D位置、並びに入射光線及び出射光線に関する少なくとも1つの制約に基づいて2D平面上の折り返し点の2D位置を求めるステップと、2D平面上の折り返し点の2D位置から折り返し点の3D位置を求めるステップと、を含み、この方法のステップは、プロセッサにより実施される、方法を開示する。
【0017】
別の実施の形態は、シーン内の一点(PS)と、反射屈折光学系の投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求めるように構成されるこの反射屈折光学系であって、PS及びCOPは、3D位置によって識別され、この反射屈折光学系は非中心式であり、折り返し光学素子であって、折り返し点は、この折り返し素子の表面上の光線の折り返しによって生じ、この表面は、対称軸の周りに回転対称である二次曲面である、折り返し光学素子と、表面から或る距離だけ離して配置されたカメラであって、この反射屈折光学系のCOPは、このカメラのCOPであって、対称軸上に配置される、カメラと、表面並びにPS及びCOPの3D位置を、対称軸及びこのPSによって定義される2次元(2D)平面上にマッピングする手段であって、この2D平面上に円錐並びにPS及びCOPの2D位置を生成し、この円錐は、表面を2D平面上でパラメーター化したものである、マッピングする手段と、円錐、PS及びCOPの2D位置に基づいて2D平面上の折り返し点の2D位置を求めるプロセッサと、2D平面上の折り返し点の2D位置から折り返し点の3D位置を求める手段と、を備える、反射屈折光学系を開示する。
【0018】
さらに別の実施の形態は、シーン内の一点(PS)と、反射屈折光学系の投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求める方法であって、このPS及びこのCOPは、3D位置によって識別され、反射屈折光学系は非中心式であり、この方法は、折り返し光学素子を設けるステップであって、折り返し点は、この折り返し光学素子の表面上の光線の折り返しによって生じ、この表面は、対称軸の周りに回転対称である二次曲面である、折り返し光学素子を設けるステップと、表面から或る距離だけ離して配置されたカメラを設けるステップであって、反射屈折光学系のCOPは、このカメラのCOPであり、対称軸上に配置される、カメラを設けるステップと、表面、並びにPS及びCOPの3D位置を、対称軸とこのPSとによって定義される2次元(2D)平面上にマッピングするステップであって、この2D平面上に円錐並びにPS及びCOPの2D位置を生成し、この円錐は、表面を2D平面上でパラメーター化したものである、マッピングするステップと、円錐、PS及びCOPの2D位置に基づいて2D平面上の折り返し点の2D位置を求めるステップと、2D平面上の折り返し点の2D位置から折り返し点の3D位置を求めるステップと、を含む、方法を開示する。
【発明の効果】
【0019】
本発明は、反射屈折光学撮像の分野を理論的かつ実用的に進化させる。実施の形態は、多様な非中心反射屈折光学系の順投影及び逆投影の解析式を提供する。さらに、解析FP及びヤコビ行列式の計算は、バンドル調整の実行時間を大幅に削減する。したがって、非中心モデルを用いる計算複雑度は、中心近似の計算複雑度に近くなる。
【図面の簡単な説明】
【0020】
【図1A】本発明の実施の形態による反射屈折光学系上の折り返し点を求める方法のブロック図である。
【図1B】本発明の実施の形態による反射屈折光学系上の折り返し点を求める方法の概略図である。
【図2】本発明の実施の形態による屈折球を含む系において屈折点を求める方法の概略図である。
【図3】(a)〜(c)は、本発明の実施の形態による屈折球の順投影を解くことによって得られる光路の概略図である。
【図4】本発明の実施の形態による球面鏡の逆投影の概略図である。
【図5】本発明の実施の形態による球面鏡のエピポーラ曲線のグラフである。
【発明を実施するための形態】
【0021】
方法及びシステムの概略
本発明の実施の形態は、非中心反射屈折光学系の特定の構成の、シーン内の一点(PS)の3次元(3D)投影は、この反射屈折光学系の3D構造を、この反射屈折光学系の対称軸とPSとによって定義される2次元(2D)平面上にマッピングすることによって解析的に求めることができるという認識に基づく。
【0022】
このような構成は、反射器又は屈折器の表面から或る距離だけ離して配置されたカメラを有する非中心反射屈折光学系を含み、この表面は、二次曲面であり、対称軸の周りに回転対称であり、この反射屈折光学系内で用いられるカメラの投影中心(COP)は、対称軸上に配置される。2D平面は、対称軸とPSとによって定義され、投影の2D解は、反射屈折光学系の回転対称性のため、部分的に3D投影を表す。
【0023】
図1Aは、本発明の実施の形態による方法のブロック図を示す。本方法は、或るPS、例えばPS130と、或る表面、例えば光学折り返し素子の表面106から或る距離だけ離して配置された或るカメラ、例えばカメラ121を有する反射屈折光学系171の或るCOP、例えばCOP120との間の光線の少なくとも1つの折り返し点の3次元(3D)位置199を求めるものであり、折り返し点は、この表面上にあり、この表面で光線を折り返すことにより、この折り返し点が光線を入射光線と出射光線とに分割するようにすることによって生じ、PS及びCOPは3D位置176によって識別される。この方法のステップは、当該分野で知られているようなプロセッサ101によって行われる。
【0024】
反射屈折光学系の構成175を取得する(170)。この反射屈折光学系は非中心式であり、反射器又は屈折器の表面は、或る対称軸、例えば軸110の周りに回転対称である二次曲面であり、COP120は対称軸上に配置される。実施の形態において、カメラは、ピンホールカメラである。様々な実施の形態において、構成175は、既存の反射屈折光学系の構成又はこの反射屈折光学系のモデルである。
【0025】
上記実現において、表面と、PSの3D位置と、COPとは、或る2D平面、例えば、対称軸とPSとによって定義される平面140上にマッピングされ(180)、円錐曲線105’並びに2D平面上のPS及びCOPの2D位置186が作成される。円錐曲線は、表面を2D平面上でパラメーター化したものである。
【0026】
折り返し点の2D位置191は、円錐曲線、PS及びCOPの2D位置、並びに反射法則又は屈折法則によって定義される入射光線及び出射光線に関する少なくとも1つの制約193に基づいて求められる(190)。例えば、実施の形態において、反射屈折光学系は反射器を含み、折り返し点は3D表面からの光線の反射点であり、制約は反射法則である。本実施の形態の一変形形態において、反射器は球面鏡であり、対称軸は、球面鏡の中心とCOPとを通る。
【0027】
別の実施の形態において、反射屈折光学系は屈折器を含み、折り返し点は光線の3D表面からの屈折点であり、制約は屈折法則である。本実施の形態の一変形形態において、屈折器は屈折率球体であり、対称軸は屈折率球体の中心とCOPとを通る。
【0028】
その後、折り返し点の3D位置を求め、PSの2D画像投影を次式に従って求めることができる。
【0029】
【数1】

【0030】
式中、(p,q)は2D画像投影の座標であり、(X,Y,Z)は折り返し点の座標であり、(f,f)はカメラのx方向及びy方向における有効焦点距離であり、(c,c)はカメラの2D主点である。
【0031】
二次曲面鏡の順投影
図1Bは、本発明の実施の形態による反射屈折光学系の一例を示す。この反射屈折光学系は、非中心式であり、反射器又は屈折器から選択された折り返し光学素子105の表面106から或る距離だけ離して配置されたカメラ121、例えば透視投影カメラを含む。このカメラは、表面を撮像するように構成される。本実施の形態において、反射屈折光学系は、反射器、すなわち鏡を含む。他の実施の形態は、反射器の代わりに屈折器を含み、反射屈折光学系が反射器及び屈折器のうちの少なくとも一方を含むようにする。表面106は二次曲面であり、対称軸110の周りに回転対称であり、COP120はこの対称軸上に配置される。
【0032】
本発明の実施の形態は、シーン内の一点(PS)130と、反射屈折光学系のCOP120とをつなぐ光線の少なくとも1つの折り返し点160の3D位置を求める。光線の折り返し点は、表面106上にある。折り返し点は、この表面上の光線の反射又は屈折により、この屈折点が光線を入射光線131と出射光線132とに分割するようにすることによって生じる。
【0033】
説明のために、3D座標系のz軸は対称軸、例えば鏡軸である。カメラ121は、鏡軸上の原点111から距離d122だけ離して配置されたピンホールカメラとすることができ、P=[X,Y,Z]はPSであり、X、Y、Zは、3D座標系におけるPSの3D位置の座標である。鏡は回転対称であるため、PSの鏡面反射は、対称軸とPSとによって定義される2次元(2D)平面π140において解析される。
【0034】
(z,z)を、2D平面πのローカル座標系を決める軸とする。この平面において、PSの2D位置Pはp=[u,v]であり、uはPSの2D位置の第1の座標であり、u=Ssinθであり、vはPSの2D位置の第2の座標であり、v=Zであり、ここで、Zは、対称軸に対応する軸の座標であり、
【0035】
【数2】

【0036】
は、PSから原点111までの距離であり、角度θ=cos−1(Z/S)は、鏡軸と、原点からPSまでの直線151との間の角度150である。
【0037】
平面πにおいて、表面は、2D平面上で関数Az+z+Bz=Cによって記述される円錐断面105’(以下、「円錐曲線」)としてパラメーター化される。式中、A、B、Cは、以下でより詳細に説明するように、二次曲面の種類に依存するこの関数のパラメーターである。折り返し点mが2D位置m=[x,y]を有する場合、
【0038】
【数3】

【0039】
である。入射光線のベクトルvはv=[x,y−d]であり、折り返し点mにおける法線ベクトルnはn=[x,B/2+Ay]である。反射法則を用いると、出射光線すなわち反射光線のベクトルは、v=v−2n(n)/(nn)である。
【0040】
出射光線は点Pを通るため、yの関数はf(y)=v×(p−m)=0となり、式中、xは外積を表す。実施の形態において、関数f(y)の分子は、次のように因数分解される。
【0041】
【数4】

【0042】
式中、K(y)及びK(y)は、
【0043】
【数5】

【0044】
のように定義されるyの反射多項式であり、個々の項は、次式によって与えられる。
【0045】
【数6】

【0046】
関数f(y)=0であるため、式(1)の平方根項を次のように取り除く。
【0047】
【数7】

【0048】
したがって、本発明の実施の形態は、座標yに関して6次順投影(FP)式を定義して用いる。
【0049】
【数8】

【0050】
式中、uはPSの2D座標の第1の要素であり、K(y)及びK(y)は式(1)において定義されるyの多項式であり、A、B、Cは円錐曲線式のパラメーターである。
【0051】
所与の点Pに関して、式(2)を解くと座標yの6つの解が得られる。最終的な解は、入射光線及び出射光線に関する制約、例えば反射法則及び/又は屈折法則を解毎に確認することによって決まる。例えば、図1Aに示すように鏡を含む実施の形態において、最終的な解は、反射法則の制約、すなわち、
【0052】
【数9】

【0053】
を考慮する。式中、vは入射光線を表すベクトルであり、vは出射光線を表すベクトルであり、Tは転置演算子であり、nは折り返し点における表面の法線を表すベクトルである。
【0054】
したがって、実施の形態は、2D平面上の折り返し点の2D位置を、円錐曲線、PS及びCOPの2D位置、並びに入射光線及び出射光線に関する少なくとも1つの制約に基づいて求め、次に、この2D平面上の折り返し点の2D位置から折り返し点の3D位置を求める。
【0055】
例えば、図1Bに示す実施の形態において、折り返し点の3D位置は、次式に従って求められる。
【0056】
【数10】

【0057】
式中、
【0058】
【数11】

【0059】
である。
【0060】
本発明の様々な実施の形態は、上述の6次FP式を用いて、折り返し点の2D位置を求める。しかし、円錐曲線の種類によっては、EP式が後述のように単純化される。折り返し点の3D位置は、2D平面上の折り返し点の2D位置から求められる。
【0061】
球面鏡の順投影
実施の形態において、反射屈折光学系は球面鏡を含み、その場合、FP式の次数が下がる。パラメーターA=1、B=0、C=rをFP式に代入すると(ここで、rは球面鏡の半径であり、dはCOPと球体の中心との間の距離である)、4次順投影式が得られる。
【0062】
【数12】

【0063】
FP式が4次式であるため、実施の形態は、累乗根に関して座標yの閉形式解を求める。また、本実施の形態において、COPの位置は制限されない。あらゆるCOP、例えばピンホール位置に関して、ピンホールから球面鏡までの新たな軸が定義される。
【0064】
いくつかの二次反射器のFP式の次数
表1は、非中心反射屈折光学系の球面鏡(A=1、B=0、C>0)、楕円面鏡(B=0)、双曲面鏡(A<0、C<0)、及び放物面鏡(A=0、C=0)のFP式の次数を示す。
【0065】
【表1】

【0066】
屈折率球体の順投影
図2は、本発明の別の実施の形態による屈折率球体を介した撮像のための順投影式を定義して用いる概略図を示す。本実施の形態は、半径r及び屈折率μの屈折率球体200を含む反射屈折光学系を用いる。例えば、半径rの屈折率球体は座標系の原点205に配置され、ピンホールカメラ210は原点から距離dだけ離して配置される。上述したように、実施の形態は、対称軸230とPS p240とによって定義される2D平面220上の投影を解析する。
【0067】
点n=[x,y]及びn=[x,yは、光線の折り返し点である。すなわち、球体上の第1の屈折点250は座標x,yを有し、球体上の第2の屈折点255は座標x,yを有し、ベクトルv、v、及びvは、それぞれ、COPから第1の屈折点までの光路を示すベクトル、第1の屈折点から第2の屈折点までの光路を示すベクトル、及び第2の屈折点からPSまでの光路を示すベクトルである。
【0068】
すると、v=[x,y−d]であり、n=n=rである。
【0069】
入射光線v、及び屈折率μの媒体と屈折率μの媒体とを分離する表面における法線nに基づき、屈折光線vは、v=av+bnに従ってベクトル形式で書き表される。式中、
【0070】
【数13】

【0071】
である。
【0072】
したがって、次式が成り立つ。
【0073】
【数14】

【0074】
ここで、符号は、別の制約を用いて求められる。すなわち、ベクトルvn及びvnの符号は同一である。
【0075】
ピンホールから球体へ向かう接線方向の光線はy=r/dにあるため、有効な屈折点の場合、y≧r/dである。したがって、v=r−dy≦0であり、次式が成り立つ。
【0076】
【数15】

【0077】
第2の屈折点nは、定数λに関してn+λvに等しく、λは、次式に従って求められる。
【0078】
【数16】

【0079】
式中、
【0080】
【数17】

【0081】
である。
【0082】
出射する屈折光線は、いくつかのbの場合にv=μv+bである。球体の対称性のために、v=−vであり、v=−vである。したがって、b=(−v−μv)/rである。
【0083】
出射する屈折光線vは、PS p=[u,v]を通るため、v×(p−n)=0である。全ての項を代入することによって、次の式が得られる。
【0084】
【数18】

【0085】
式中、A=dμ−d−2dμy+μであり、K、K及びKは、x及びyの屈折多項式である。
【0086】
【数19】

【0087】
実施の形態において、式(18)の平方根項は次のように取り除かれる。
【0088】
【数20】

【0089】
これを単純化すると、x及びyの両方において8次多項式となる。xの奇数乗を片側に置き、2乗し、x=r−yを代入し、これを単純化すると、yの10次式となる。
【0090】
屈折率球体に関して得られる光路
図3(a)〜(c)は、本発明のいくつかの実施の形態による、FP式を解くこと、及び屈折率球体の折り返し点を求めることの一例を示す。所与のPS p240に関して、式(19)を解くとyの10個の解が得られる。一般に、PSが対称軸上にない場合、10個の解のうち8個の解のみが実数であり、そこから図3(a)に示すように対応する光路が得られる。制約y≧r/dは、考え得る解をさらに、図3(b)に示す4つの解に減らす。図3(c)に示す最後の解は、別の制約を用いて、すなわち、考え得る解毎に屈折法則を試すことによって求められる。
【0091】
疎な3D再構成
解析順投影(AFP:analytical forward projection)を疎な3D再構成、すなわち、バンドル調整アルゴリズムを用いてシーン内の3D点と、反射屈折光学系のパラメーターとを同時に求めることに用いる。実施の形態において、反射屈折光学系は、複数の球面鏡を撮像する単一の透視投影カメラを含む。このような鏡の一例はステンレススチール球である。内部カメラ校正は、別々にオフラインで行われ、半径は分かっている。鏡の中心の3D位置は、後述するように求められる。
【0092】
解析順投影を用いたバンドル調整
C(i)=[C(i),C(i),C(i)]、i=1...Mを球体中心とし、P(j)=[P(j),P(j),P(j)]、j=1...Nを、ピンホールカメラを原点に配置したときのカメラ座標系における3D PSとする。FP式(3)を3Dの量に関して書き換える。所与の3D点P(j)及び鏡の中心C(i)に関して、2D平面πを定義する直交ベクトルZ及びZは、z=−C(i)及び
【0093】
【数21】

【0094】
によって与えられる。さらに、次式が成り立つ。
【0095】
【数22】

【0096】
式(3)にd、v及びuを代入することによって、FP式は次のように書き換えられる。
【0097】
【数23】

【0098】
ここで、各係数cは、P(j)及びC(i)のみの関数である。一般に、シーン点が球体の外側にあり、球面反射により見える場合、4つの考え得る解がある。単一の正しい解は、考え得る解毎に反射法則を確認することによって求められる。
【0099】
解を用いて、球体上の3D反射点は、次式によって求められる。
【0100】
【数24】

【0101】
最後に、2D画像の投影画素が、次式によって求められる。
【0102】
【数25】

【0103】
ここで、(f,f)及び(c,c)は、それぞれ、カメラの焦点距離及び主点である。
【0104】
【数26】

【0105】
をi番目の球体のj番目の3D点の画像投影とし、
【0106】
【数27】

【0107】
を、球体中心及び3Dシーン点の現在の推定値から求められた現在の推定値とする。各対(i,j)は2ベクトルの誤差関数
【0108】
【数28】

【0109】
を与え、平均再投影誤差は、
【0110】
【数29】

【0111】
となる。
【0112】
バンドル調整は、初期解から始めて誤差Eを最小化することによって行われる。初期3D点は、それぞれの逆投影光線の最短横断線の中心として得られる。初期球体中心は、取得された画像を用いて得られる。
【0113】
ヤコビ行列式の計算
別の実施の形態は、AFPを用いて、再投影誤差のヤコビ行列を解析的に求める。これは、バンドル調整工程を加速する。tを未知数とする。すると、次式が成り立つ。
【0114】
【数30】

【0115】
、Y、Zは座標yに依存するため、上記の導関数は、∂y/∂tに依存する。
【0116】
通常、座標yの閉形式の式は、∂y/∂tを求める必要がある。しかし、本発明の実施の形態は、FP式(10)の導関数を取る代替的な手法を用いて、次式を得る。
【0117】
【数31】

【0118】
所与の3D点P(j)及び球体中心C(i)に関して、yは、FP式を解くことによって計算され、これを式(14)に代入して∂y/∂tを求めることができる。各未知数に関する再構成誤差の勾配は、式(11)、式(13)、及び式(14)を用いて求められる。
【0119】
異常値の除去による3D再構成
いくつかの実施の形態は、対応する画像点が、スケール不変の特徴点変換(SIFT)等の特徴点マッチングアルゴリズムを用いて推定され、異常値及び誤一致を常に含むことを考慮する。これらの実施の形態は、異常値の除去と共にバンドル調整を繰り返すことによって再構成を行う。各バンドル調整ステップ後に、再投影誤差が平均再投影誤差の2倍よりも大きい3D点を除去する。AFPはバンドル調整時間を大幅に削減するため、実施の形態は、そのような除去を複数回繰り返し、異常値の処理に効果的である。したがって、解析FPは、中心近似を用いることなく、複雑な非中心モデルを異常値の除去に使用することを可能にする。
【0120】
球体中心の設定及び初期推定値
実施の形態は、例えば、3インチ(約7.62センチメートル)の間隔で配置された半径0.75インチ(約1.91センチメートル)の4つの球面鏡を用い、マミヤ(Mamiya)645AFDカメラを用いて単一の画像を取得する。フォト画像の各球体画像は、1,300×1,300の解像度を有する。初期球体中心を求めるために、本実施の形態は、球体に対して接線方向の光線に対応して各球体境界のいくつかの点に印を付け、全ての接線方向の光線と同一の角度αを成す中心光線を求める。球体中心は、中心光線に沿ってr/sinαの距離にある。
【0121】
反復順投影vs解析順投影
従来の反復順投影(IFP:iterative forward projection)はまず、中心近似を用いて3D点の初期画像投影を計算し、次に、非線形最適化を行って、3D点と逆投影光線との間の距離を最小化する。単一の球体により10個の3D点を投影する場合、IFPは1,120秒かかるのに対し、AFPは13.8秒しかかからない。すなわち、〜80倍速い。AFPは、解析的なヤコビ行列式の計算と共に、バンドル調整を用いた3D再構成のためのIFPに比べて2桁速い速度を達成する。
【0122】
球面鏡の逆投影
図4は、本発明の実施の形態による球面鏡の逆投影の概略図を示す。本実施の形態は、逆投影式を行列ベクトル形式に書き換える。例えば、或る点C=[0,0,−d]は、COP400であり、半径rの球面鏡410は、原点420に配置される。画像点q430において、s=K−1qは光線の方向435であり、ここで、K3×3は内部カメラ校正行列である。鏡との交差点bは、
【0123】
【数32】

【0124】
であり、ここで、SはSの第3の要素であり、bb=rであり、bにおける法線はb/rである。
【0125】
=b−Cであるため、出射ベクトルvは、
【0126】
【数33】

【0127】
であり、鏡軸とm=[0,0,k]において交わり、ここで、k=dr/(2db+r)である。したがって、反射した3D光線のプリュッカー座標は、L=(b−m,(b×m)である。L450及びL455を用いて、vと球体(b460及びb465)との2つの交点に対応する反射光線を表す。2本の線を、対称な6×6行列
【0128】
【数34】

【0129】
として記述される2次線複素(line complex)Cにより表す。式中、〜は行列がスケールファクターまで等しいことを表す。b及びmを代入することによって、sの4次単項式(quartic monomials)を含む線複素Cを得る。vsym(c)をC(21ベクトル)の右上の三角部分の列毎のベクトル化とし、
【0130】
【数35】

【0131】
を辞書式順序(15ベクトル)におけるsの2倍(double lifted)座標とすると、以下の行列が得られる。
【0132】
【数36】

【0133】
次に、行列ベクトル形式の逆投影式を得る。
【0134】
【数37】

【0135】
ここで、Br,dは、r及びdのみに依存する疎な21×15行列
【0136】
【数38】

【0137】
である。
【0138】
球面鏡のエピポーラ曲線
実施の形態は、球体を中心とする座標系において定義され、プリュッカー座標でLとして表される3D光線を考慮する。この光線は、
【0139】
【数39】

【0140】
である場合にのみ線複素Cと交わる。
【0141】
線複素CはSの4次単項式を含むため、制約は、4次曲線となる。したがって、Lの投影は、球面鏡の画像における4次曲線のように見える。これは、球面鏡に基づく反射屈折光学系が、4次エピポーラ曲線を与えることを意味する。
【0142】
本実施の形態は、FP式を用いて、エピポーラ曲線の次数及び形状を検証する。
【0143】
図5は、EP式を用いて、式(19)に基づいて解析的に求められたエピポーラ曲線510と、3D点をLに投影することによって得られた曲線520とを比較するグラフである。曲線の形状は、解析4次曲線の連続断面である。また、画像点は、L上で3D点が±∞に近づくにつれて収束する。
【0144】
透視投影カメラと同様に、4次エピポーラ曲線は、密なステレオマッチングの探索空間を制限するために用いることができる。通常、対応する一致がほぼ線に沿って配置されていると仮定するイプシロン−ステレオ制約等の近似が用いられる。しかし、実施形態は、非中心球面鏡カメラに対して解析2Dエピポーラ曲線を提供する。一般的な円錐鏡のFP式は、他の非中心円錐型反射屈折光学系の一致探索も単純化する。
【0145】
本発明の実施の形態は、反射屈折光学撮像の分野を理論的かつ実用的に進化させる。実施の形態は、多様な非中心反射屈折光学系の順投影及び逆投影の解析式を提供する。さらに、解析FP及びヤコビ行列式の計算は、バンドル調整の実行時間を大幅に削減する。したがって、非中心モデルを用いる計算複雑度は、中心近似の計算複雑度に近くなる。

【特許請求の範囲】
【請求項1】
シーン内の一点(PS)と、反射屈折光学系のカメラの投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求める方法であって、前記反射屈折光学系は、折り返し光学素子の表面から或る距離だけ離して配置された前記カメラを備え、前記折り返し光学素子は、反射器又は屈折器から選択され、前記折り返し点は、前記表面上にあり、前記表面上の前記光線の反射又は屈折により、前記折り返し点が前記光線を入射光線と出射光線とに分割するようにすることによって生じ、前記PS及び前記COPは、3D位置によって識別され、前記方法は、
前記反射屈折光学系の構成を取得するステップであって、前記反射屈折光学系は非中心式であり、前記表面は、前記表面の対称軸の周りに回転対称である二次曲面であり、前記COPは前記対称軸上に配置される、取得するステップと、
前記表面並びに前記PS及び前記COPの前記3D位置を、前記対称軸と前記PSとによって定義される2次元(2D)平面上にマッピングするステップであって、前記2D平面上に円錐並びに前記PS及び前記COPの2D位置を生成し、前記円錐は、前記表面を前記2D平面上でパラメーター化したものである、マッピングするステップと、
前記円錐、前記PS及び前記COPの前記2D位置、並びに前記入射光線及び前記出射光線に関する少なくとも1つの制約に基づいて前記2D平面上の前記折り返し点の2D位置を求めるステップと、
前記2D平面上の前記折り返し点の前記2D位置から前記折り返し点の前記3D位置を求めるステップと、を含み、
前記方法の前記ステップは、プロセッサにより実施される方法。
【請求項2】
前記折り返し光学素子は前記反射器であり、前記折り返し点は前記表面からの前記光線の反射点であり、前記制約は反射法則である、請求項1に記載の方法。
【請求項3】
前記反射器は球面鏡であり、前記対称軸は、前記球面鏡の中心及び前記COPを通る、請求項2に記載の方法。
【請求項4】
前記折り返し光学素子は前記屈折器であり、前記折り返し点は前記表面からの前記光線の屈折点であり、前記制約は屈折法則である、請求項1に記載の方法。
【請求項5】
前記屈折器は屈折率球体であり、前記対称軸は、前記屈折率球体の中心及び前記COPを通る、請求項4に記載の方法。
【請求項6】
前記制約は、
【数1】

であり、前記折り返し点の前記2D位置の第2の座標yは、順投影(FP)式
【数2】

に従って求められ、前記折り返し点の前記2D位置の第1の座標xは、前記第2の座標yに基づいて、
【数3】

に従って求められ、式中、vは前記入射光線を表すベクトルであり、vは前記出射光線を表すベクトルであり、Tは転置演算子であり、nは前記折り返し点における前記表面の法線を表すベクトルであり、uは前記PSの前記2D位置の第1の座標であり、K(y)及びK(y)はyの反射多項式であり、A、B、Cは前記円錐のパラメーターである、請求項2に記載の方法。
【請求項7】
前記折り返し点の前記3D位置を、
【数4】

に従って求めることをさらに含み、式中、z及びzは、前記2D平面の座標系を決める軸である、請求項6に記載の方法。
【請求項8】
前記折り返し光学素子は、球面鏡であり、前記FP式は、
【数5】

であり、式中、(u,v)は前記PSの前記2D位置であり、yは前記折り返し点の前記2D位置の第2の座標であり、rは前記球面鏡の半径であり、dは前記COPと球体の中心との間の距離である、請求項6に記載の方法。
【請求項9】
前記少なくとも1つの折り返し点は、第1の屈折点n=[x,y]及び第2の屈折点n=[x,yを含み、前記制約は、
【数6】

及び
【数7】

であり、前記第1の屈折点の前記2D位置の座標x及び座標yは、順投影(FP)式
【数8】

に従って求められ、前記第2の屈折点の座標x及び座標yは、
【数9】

に従って求められ、式中v、v、及びvは、それぞれ、前記COPから前記第1の屈折点までの光路を表すベクトル、前記第1の屈折点から前記第2の屈折点までの光路を表すベクトル、及び前記第2の屈折点から前記PSまでの光路を表すベクトルであり、rは前記屈折率球体の半径であり、μは前記屈折率球体の屈折率であり、K、K、及びKはx及びyの屈折多項式であり、ここで、x=r−yである、請求項5に記載の方法。
【請求項10】
前記折り返し点の3D位置から前記PSの2D画像投影を、
【数10】

に従って求めることをさらに含み、(p,q)は前記2D画像投影の座標であり、(X,Y,Z)は前記折り返し点の座標であり、(f,f)は前記カメラのx方向及びy方向における有効焦点距離であり、(C,C)は前記カメラの2D主点である、請求項1に記載の方法。
【請求項11】
バンドル調整を用いて前記シーン内の3D点と、前記反射屈折光学系のパラメーターとを同時に求めることをさらに含む、請求項10に記載の方法。
【請求項12】
再投影誤差のヤコビ行列を求めることをさらに含む、請求項10に記載の方法。
【請求項13】
前記ヤコビ行列及びバンドル調整を用いて前記シーン内の3D点と、前記反射屈折光学系のパラメーターとを同時に求めることをさらに含む、請求項12に記載の方法。
【請求項14】
シーン内の一点(PS)と、反射屈折光学系の投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求めるように構成される前記反射屈折光学系であって、前記PS及び前記COPは、3D位置によって識別され、前記反射屈折光学系は非中心式であり、
折り返し光学素子であって、前記折り返し点は、前記折り返し素子の表面上の前記光線の折り返しによって生じ、前記表面は、対称軸の周りに回転対称である二次曲面である、折り返し光学素子と、
前記表面から或る距離だけ離して配置されたカメラであって、前記反射屈折光学系の前記COPは、前記カメラのCOPであって、前記対称軸上に配置される、カメラと、
前記表面並びに前記PS及び前記COPの前記3D位置を、前記対称軸及び前記PSによって定義される2次元(2D)平面上にマッピングする手段であって、前記2D平面上に円錐並びに前記PS及び前記COPの2D位置を生成し、前記円錐は、前記表面を前記2D平面上でパラメーター化したものである、マッピングする手段と、
前記円錐、前記PS及び前記COPの前記2D位置に基づいて前記2D平面上の前記折り返し点の2D位置を求めるプロセッサと、
前記2D平面上の前記折り返し点の前記2D位置から前記折り返し点の前記3D位置を求める手段と、
を備える、反射屈折光学系。
【請求項15】
前記折り返し光学素子は反射器であり、前記折り返し点は前記表面からの前記光線の反射点である、請求項14に記載の反射屈折光学系。
【請求項16】
前記折り返し光学素子は屈折器であり、前記折り返し点は前記表面からの前記光線の屈折点である、請求項14に記載の反射屈折光学系。
【請求項17】
前記折り返し点の3D位置から前記PSの2D画像投影を、
【数11】

に従って求める手段をさらに備え、(p,q)は前記2D画像投影の座標であり、(X,Y,Z)は前記折り返し点の座標であり、(f,f)は前記カメラのx方向及びy方向における有効焦点距離であり、(c,c)は前記カメラの2D主点である、請求項14に記載の反射屈折光学系。
【請求項18】
バンドル調整を用いて前記シーン内の3D点と、前記反射屈折光学系のパラメーターとを同時に求める手段をさらに備える、請求項14に記載の反射屈折光学系。
【請求項19】
シーン内の一点(PS)と、反射屈折光学系の投影中心(COP)との間の光線の少なくとも1つの折り返し点の3次元(3D)位置を求める方法であって、前記PS及び前記COPは、3D位置によって識別され、前記反射屈折光学系は非中心式であり、前記方法は、
折り返し光学素子を設けるステップであって、前記折り返し点は、前記折り返し光学素子の表面上の前記光線の折り返しによって生じ、前記表面は、対称軸の周りに回転対称である二次曲面である、折り返し光学素子を設けるステップと、
前記表面から或る距離だけ離して配置されたカメラを設けるステップであって、前記反射屈折光学系の前記COPは、前記カメラのCOPであり、前記対称軸上に配置される、カメラを設けるステップと、
前記表面並びに前記PS及び前記COPの前記3D位置を、前記対称軸及び前記PSによって定義される2次元(2D)平面上にマッピングするステップであって、前記2D平面上に円錐並びに前記PS及び前記COPの2D位置を生成し、前記円錐は、前記表面を前記2D平面上でパラメーター化したものである、マッピングするステップと、
前記円錐、前記PS及び前記COPの前記2D位置に基づいて前記2D平面上の前記折り返し点の2D位置を求めるステップと、
前記2D平面上の前記折り返し点の前記2D位置から前記折り返し点の前記3D位置を求めるステップと、
を含む、方法。
【請求項20】
前記折り返し光学素子は、反射器及び屈折器から選択される、請求項19に記載の方法。

【図1A】
image rotate

【図1B】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−14171(P2012−14171A)
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【外国語出願】
【出願番号】特願2011−141472(P2011−141472)
【出願日】平成23年6月27日(2011.6.27)
【出願人】(597067574)ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド (484)
【住所又は居所原語表記】201 BROADWAY, CAMBRIDGE, MASSACHUSETTS 02139, U.S.A.
【Fターム(参考)】