説明

ディジタル3D/360度カメラシステム

ディジタル3D/360度カメラシステム(10)は、画像を捕捉するための多方向ステレオ装置であり、画像は3次元の画像、映画、又はアニメーションを提供するための3次元モデルを生成するのに用いられる。本装置は、全360度シーンを対象範囲とする画像データを捕捉するために、視野が重複するように配置された複数のディジタルカメラ(30)を用いる。1又は複数のこれらディジタル3D/360度カメラシステムによって収集されたデータを使用し、重複する視野内で画像の3角形分割手法を用いることにより、360度シーンの3Dモデルを生成することができる。


【発明の詳細な説明】
【発明の開示】
【0001】
技術分野
本発明は、画像記録装置の分野に関し、詳しくはディジタル3D/360度カメラシステムに関する。ディジタル3D/360度カメラシステムは、3D画像、3D映画、又は3Dアニメーションを生成するのに用いられる全360度のシーンを対象範囲とする画像データを捕捉するために、複数対のステレオカメラを利用する。
【0002】
背景技術
解像度と画質とを向上させたディジタルカメラの出現と、向上を続けるコンピュータの速度及び処理力とにより、3次元の画像、映画、アニメーション及びテレプレゼンスを生成するための画像データの捕捉が可能な3次元・360度ディジタルカメラシステムの基盤が築かれた。
3次元写真は新しいものではない。3次元写真は、ステレオカメラにより百年以上も前から利用可能であった。ステレオカメラシステムでは、シーンを捉えるのに、各々がわずかに異なる視点に位置する2つのカメラが用いられる。カメラの構成は一般に人間の目に類似しており、横に並んで配置された2つのカメラを用いて、異なるが大部分が重複した2つのビューを捉える。これら2つの画像を一緒に立体ビュアーを通して見ると、画像が重複する部分において3次元の視知覚が得られる。
【0003】
1934年5月1日発行のJ.Harlowによる米国特許第1957043号には、ステレオカメラ及びビュアーが開示されている。このような単純な立体写真術は、拡張視野又はパノラマ視野の達成には何も貢献しない。加えて、結果として得られる立体像写真が立体像ビュアーを通して人が直接に見ることを意図しているので、カメラ及びそこから得られる画像は、必然的に人が快適に見るという制約を受ける。人が最適に立体画像を見るには、視野と画像の重複度とが人の目に近いものでなければならない。現代のディジタル画像処理においては、コンピュータを用いてこれらの制約から大きく外れる画像を利用することが可能である。これは、画像の取り込みがディジタル処理を目的に行われるものであり、人が直接に見るためではないからである。
パノラマ写真術、すなわち全360度パノラマの広さの視野を対象とする1枚又は複数枚の写真の撮影術は、写真術において長い歴史を持っている。パノラマ写真術の恐らく最も原始的な方法は、通常のカメラで何枚かの隣接写真を撮影し、これらの写真のプリントを完全なパノラマが得られるように位置合わせして一体に貼り合わせる手法である。現代の技術では、この方法を応用して、画像の捕捉にディジタルカメラを用い、単一のパノラマ画像のプリント用の画像の位置合わせを行うのにコンピュータ画像処理手法を用いている。
【0004】
1997年7月8日発行のK.Yano等による米国特許第5646679号には、重複する別個の画像を捕捉するのに1対のディジタルカメラを用いる画像結合方法及び装置が開示されている。これら画像の重複部分が、位置合わせのために画像を相関させるのに用いられている。これら別個の画像を位置合わせすることにより、広い視野にわたる単一画像が生成される。次いで画像処理システムは見ることを目的にこれら画像を結合させる。
1999年12月21日発行のM.Nakamura等による米国特許第6005987号には、別個の画像を結合することにより、同じようにパノラマ画像を形成する画像形成装置が示されている。Yanoによる文献と同様に、この特許文献の装置は、画像を位置合わせして結合するのに画像の重複領域を用いている。この特許文献の装置は、これに加えて重複領域における画像のずれとひずみを補正する。
【0005】
パノラマ写真術を改良するものではあるが、これらの方法では、3次元の画像又はモデルを生成するのに必要な視覚画像データが得られない。加えて、パノラマ画像が何枚かの別個に露出された画像から組み立てられる場合、時間次元により品質及び有用性が制約を受ける。何枚かの写真が一定の時間にわたって別個に露出されると、シーン中で移動した要素は別個の画像において異なる位置に捕捉される。その結果得られる画像には、同期しない移動要素がそれぞれの露出部分に出現し、これにより画像の結合が困難又は不可能となるか、或いは結合したパノラマ視野に二重の画像が存在することになる。
パノラマ画像を捕捉するための別の方法は、全パノラマを単一の露出で捕捉する方法である。このような手法の1つは、回転レンズを有するカメラ又は回転カメラを用いることであった。フィルムカメラでは、回転レンズを全360度の視野にわたって走査することでフィルムストリップを露出させることが可能である。
【0006】
単一露出パノラマカメラへの別の取組み方が、2001年8月2日公開の米国特許出願公開第2001/0010555号に開示されている。このパノラマカメラは、2次元の環状形状に360度のパノラマを捕捉するために凸面鏡を用いる。ディジタルに捕捉された環状画像が、2次元の矩形画像にディジタル変換される。この手法は、全パノラマ視野を単一露出で捕捉することにより時間次元の問題を解決するが、得られる結果は2次元画像のままであり、3次元のモデル又は画像を生成するのに必要な画像データは得られない。
2001年9月13日公開の米国特許出願公開第2001/0020976号には、ステレオパノラマカメラ装置が開示されている。この装置は、2つのパノラマカメラを双眼対に結合する。これらカメラの各々において、記録のためにパノラマ画像を転送するのに特殊なミラー、又はフレネルレンズが用いられる。提示されている一実施形態では、画像を記録するために平面状光学要素ではなく円筒状光学要素を必要とする。したがって、パノラマカメラに立体能力を提供してはいるが、すぐに利用可能且つ単純なディジタルカメラの使用を可能にするような解決法ではない。
【0007】
1996年2月27日発行のK.Ritchieによる米国特許5495576号には、シーンの3次元形状を決定するための形状センサを備えたパノラマ画像を捕捉するためのカメラを組み込んだ視聴覚システムが説明されている。捕捉された画像は、3次元のモデルを生成するための形状にマッピングされ、このモデルは、種々の3−Dディスプレイシステムで表示するために処理される。形状センサは本来、カメラに沿って配列されたレーダ、ソナー、又は類似のセンサである。形状センサは、視野内のオブジェクトの形状についての情報を、主としてそれらオブジェクトの表面までの距離に関して収集するように機能する。したがって、3次元モデルは、厳密に立体画像データに基づく成果というよりは、データ源の結合の結果である。
1991年6月11日発行のD.McCutchenによる米国特許第5023725号には、複数のカメラが12面体をなすように配置された12面画像システムが開示されている。カメラシステムと共に、McCutchenはカメラに適合する12面形状を有する投影ドームを開示している。このシステムは、ドーム又は球形シアターの内部表面上への投影のために、概して球形の視野のビデオを捕捉するが、このビデオは3次元ではない。これらのカメラは立体的な視野の生成には適応していない。12面ドームの内面上に重複なしに投影することを目的に、種々の視野を位置合わせするために、各カメラの視野は事実上、一部刈り込まれる。
【0008】
上記の発明及び特許はいずれも、単独で又は結合して、本発明を説明するものとは考えられない。したがって、前記の諸問題を解決するディジタル3D/360度カメラシステムが望まれる。
【0009】
発明の開示
本発明はディジタル3D/360度カメラシステムである。本システムは、筐体を有する。この筐体上に複数のディジタルカメラが設置される。これらのディジタルカメラの各々が少なくとも一つの他のディジタルカメラの視野と重複する視野を有することにより、立体的視野が形成される。このシステムは、処理装置、メモリ、記憶装置、クロック、通信インタフェース、及びカメラインタフェースを有する制御装置を備える。このカメラインタフェースは、ディジタルカメラの各々と通信状態にある。
また、本発明の一部として、ディジタル3D/360度カメラシステムを用いた3次元画像モデルの生成方法が含まれる。この方法は、少なくとも2つのディジタルカメラのディジタル画像データに捕捉される関心点を有するディジタル画像データを捕捉するためにディジタル3D/360度カメラシステムを用いるステップから成る。各関心点について、この関心点に対応する少なくとも2つのディジタルカメラの各々からの画素ベクトルを特定する。各関心点について、少なくとも2つのディジタルカメラの各々からの画素ベクトルを用いて、システム基準点に対する座標系におけるこの関心点の位置を決定する。
【0010】
発明を実施するための最良のモード
本発明のディジタル3D/360度カメラシステムは、3次元シーンの正確なディジタルモデルを生成するのに必要な画像データを捕捉するために複数のディジタルカメラを用いる。このモデルは、3D画像、3D映画、3Dアニメーション、又はその他の3次元の製品を生成するのに用いられる。捕捉された画像データは、2次元のパノラマ画像の生成にも用いられ、また特定の構成により、人が見ることのできる立体画像の生成に用いられる。これらのカメラの各々の視野が少なくとも一つの他のディジタルカメラの視野と重複するようにカメラの方向を決めることで、立体的視野が形成される。この立体的視野からの画像データは、立体的手法を用いて処理され、完全3次元モデルが生成される。画像データの精度を得るため、カメラは筐体上に集合して固定的に搭載され、カメラの正確な形状は較正プロセスによって決定する。これらのカメラは、同時に又は1ms以下の同期下で画像捕捉を行うように指令される。
本発明の最も単純な実施形態においては、カメラは正方形の筐体上に、正方形上の4面の各面上に1対のカメラが位置するように搭載される。カメラは双眼対として構成されて「北」、「南」、「東」、「西」を向き、各双眼対が立体的視野内の360度視野の異なる4分の1区分を捕捉する。この立体的視野は、1つの双眼対を構成するカメラの視野が重複する箇所で両方のカメラに見える領域である。用いられるカメラの視野によって、1つの双眼対のカメラの重複の量と、カメラ間又は隣接する4分区分間の盲点の大きさが必然的に決定する。別の実施形態においては、双眼対が追加されたさらに複雑な幾何学的配置を使用し、更に別の実施例においてはカメラを球面上に均一に分散させる。
【0011】
円形又は球形に配置される場合、カメラは文字通りの双眼対には組分けされない。代わりに各カメラは、隣接するカメラの各々と双眼的協力関係にあると考えられる。球形に配置される場合、このディジタル3D/360度カメラシステムは、3次元モデルの生成に最適な構成の下に完全な球形の視野を捕捉する。
カメラはコンピュータによって制御され、このコンピュータは、カメラの物理的形状及び相互の関係を記述するデータを管理し、カメラに画像データを捕捉するように同時に指令し、画像データを読み取り、保存し、記憶し、処理用にエクスポートする。
さらに大きなシーン又は領域については、さらに多くの総合的3次元画像データを収集するために、多数のディジタル3D/360度カメラシステムを別個の場所で協働させて用いる。
【0012】
ディジタル3D/360度カメラシステムは、添付図面において常に符号を10とする。ディジタル3D/360度カメラシステム10は、上に複数のディジタルカメラ30が搭載された筐体20を有し、ディジタルカメラ30は、各々の視野が少なくとも一つの他のディジタルカメラの視野と重複することによって立体的視野を形成するように方向付けされている。図1Aに示すような最も単純な実施形態においては、筐体20は正方形であり、カメラ30は双眼対に構成され、各双眼対は、完全360度視野のうちの異なる4分区分を対象範囲とする。図1Bは、ディジタルカメラ30の双眼対を追加して一対が上向きの視野を有するように、別の双眼対が下向きの視野を有するように方向付けした別の実施形態を示す。
従来の立体写真術では、双眼対をなす2つのカメラが、約2インチ(5cm)間隔を置いて配置され、各カメラが人の目を模した視角を有する。これにより人が見やすい3次元視野を再現する。しかし、ディジタル3D/360度カメラシステム10は、コンピュータによって3次元モデルへと処理されるデータを捕捉するように機能する。したがって、ディジタルカメラ30の形状及び視野は、従来の立体写真術に課される制約に拘束されない。カメラ30の形状に関係なく、これらのカメラ30は固定されて搭載され、その正確な形状は既知である。ディジタルカメラ30はどのような間隔を置いて配置してもよい。例えば、室内で用いられるか、又は小さなシーンを捕捉するために用いられるディジタル3D/360度カメラシステム10においては、間隔を数インチのみとしてよく、一方空港又は市街ブロックを対象として用いられるディジタル3D/360度カメラシステム10は、カメラ間の間隔を数フィートに構築してもよい。双眼対で配置され、各対が360度視野のうちの4分区分の一つを捕捉するディジタルカメラ30において、レンズは約100度の視野を有する必要がある。
【0013】
図2に、ディジタル3D/360度カメラシステム10の平面図と、ディジタルカメラ30の各々が有する視野とを示す。双眼対の左側のカメラの視角をαとして基準線36と基準線38の間に示し、右側のカメラの視角をαとし、基準線32と基準線34の間に示す。所与の双眼対について、視野が重複する領域αLRが存在することがわかる。この重複領域αLRは立体的視野とも称され、立体画像データが3次元モデル作成に有用である区域を定義する。また、単一のディジタルカメラ30によってのみ見られる領域、並びに盲点が存在することもわかる。これら領域の各々の大きさは、用いる視野に依る。
カメラの視野の選択は、対象範囲の最大化及び解像度という相反する要素を伴うことが認識されよう。視野の増大は、当然ながら捕捉可能な画像の量を改善することになり、特に、立体的視野の大きさが増大するにつれて有用な立体データの量が増大する。しかし、視角が増大するにつれて解像度が低下する。これは、4,000×4,000画素の解像度と100度の視野とを有する仮想のディジタルカメラを考えてみると説明できる。100度を4,000画素で分割すると画素当たり1/40度の対象範囲となる。よって、23mに対して約1cmの解像度が得られる。ディジタルカメラの技術が改良されると解像度も向上する。ディジタルカメラの解像度は半導体に関するムーアの法則に従って来ており、約1年又は2年ごとに倍増しており、この傾向は少なくともさらに15年間は続くと期待される。解像度を増大する別の解決法は、単に用いるカメラの数を増やして個々のカメラの対象範囲視野を小さくすることである。
【0014】
図3は、追加されたディジタルカメラ30の双眼対を有するディジタル3D/360度カメラシステム10の一実施形態を示す。ディジタルカメラ30の双眼対は、それぞれが360度の視野の4分区分ではなく8分の1区分の一つを対象範囲とするように配置される。したがって、ディジタルカメラ30は、全360度の対象範囲を実現するのに50度の視野を用いるだけでよく、視野が100度の場合と比較して画像解像度が2倍に増大する。
図4に示す別の実施形態は、文字通り双眼対の形にグループ化されたディジタルカメラ30を有する配置とは異なっている。代わりに、ディジタルカメラ30は、円形の筐体を囲むように均一に設置される。この構成では、各ディジタルカメラ30がそれに隣接するディジタルカメラ30の各々と立体的視野を共有する。図示のように、視野βが視野βと重複して立体的視野β2&3を形成し、また視野βとも重複して立体的視野β3&4を形成する。
別の実施形態では、ディジタルカメラ30の円形配置を拡張し、例えば図5に示すように、球形筐体のまわりにディジタルカメラ30を配置した完全球形構成としている。ディジタルカメラ30を分配したこの球形構成では、対象範囲の最大化が可能になり、360度のパノラマのデータを収集するのみでなく1つのシーンの全画像データを収集する。
【0015】
ここまで、異なる数及び配置のディジタルカメラ30を有する種々の実施形態が使用可能であることを明らかにした。全ての実施形態に共通の特徴は、ディジタルカメラ30が固定位置にあり、これらのディジタルカメラ30の各々が少なくとも1つの他のディジタルカメラ30の視野と重複する視野を有し、これにより立体的視野を形成することである。ディジタルカメラ30の複数の組み合わせによって得られる複数の立体的視野により、正確な3次元モデル作成に必要な3次元画像データが得られる。
【0016】
ディジタルカメラ30は、図6に概略的に示す制御装置60によって制御される。制御装置60は、CPU40、メモリ42、大容量記憶装置44、クロック48、外部通信インタフェース46、及びカメラインタフェース50を含むシステムである。このシステムは、パーソナルコンピュータ(PC)のような汎用コンピュータシステムでも、特別設計のコンピュータシステムでもよい。制御装置60は、筐体20の外に位置させることも可能であるが、筐体20の内部に包含する方が望ましい。
ディジタルカメラ30は、カメラインタフェース50に接続された指令及びデータインタフェースを有する。市販のディジタルカメラには一般に、ユニバーサルシリアルバス(USB)、ファイアワイア、又は指令及びデータの転送用の別のインタフェースが付属する。したがって、カメラインタフェース50は、USB、ファイアワイア、又は指令及びデータの転送用の別のインタフェースを含む。加えて、ディジタルカメラ30は、必ずしも必要ではないが好ましくは、ディジタルカメラ30に画像を捕捉させるディジタル信号が可能になるような単一のディジタル制御ラインを備える。単一のディジタル制御ラインを用いることにより、全てのディジタルカメラ30に対して単一のディジタル制御信号により画像捕捉を同時に指令することが可能になる。
【0017】
クロック48は、画像捕捉をスケジューリングし、捕捉された画像データファイルにタグを付け、ディジタルカメラ30の指令を同期させるために用いられる。これらの機能の全てについて正確な時間基準が必要とされるため、クロック48には0.1ms以内の分解能及び精度が必要である。加えて、正確で、且つ協定世界時(UTC)のような共通標準時間基準に合わせて同期されているか、又はこれに基づく時間基準が、追加視点を捕捉するために多数のディジタル3D/360度カメラシステム10を用いる用途において、多数のディジタル3D/360度カメラシステム10の同期を容易にする。
外部通信インタフェース46は、どのようなデータ通信インタフェースでもよく、有線、光ファイバ、無線による方法、又は外部装置との接続用の他の方法を用いることができる。具体例として、イーサネット又は無線イーサネットが挙げられる。
【0018】
制御装置60には随意でディジタル3D/360度カメラシステムの位置及び向きを決定するための位置及び向きセンサ54を含めてもよい。例えば、画像データと共にディジタル3D/360度カメラシステム10の地理的位置を捕捉する必要がある場合、全地球位置把握システム(GPS)受信機が有用である。磁北に対するディジタル3D/360度カメラシステムの向きを決定するために、ディジタル磁気コンパスを用いることができる。
大容量記憶装置44に記憶され、メモリ42においてCPU40によって実行されるコンピュータソフトウェアプログラムが、制御装置に対し、種々の機能を行うように指示する。これらの機能は、外部通信インタフェース上の外部装置からの指令の受信、ディジタルカメラ30の正確な形状を定義するデータファイルの管理、ディジタルカメラ30に対する画像データ捕捉の指令、画像データファイルのタグ付け及び保管、及び画像データファイルの外部装置への伝達である。ディジタルカメラ30の正確な形状を定義するデータファイルの管理の機能には、データファイルを生成するために較正ステップを行うこと、又は外部のソースからデータファイルをダウンロードすることを含む。
ディジタル3D/360度カメラシステム10により捕捉された画像データは、3次元画像及びモデルの生成に用いることができる。3次元画像及びモデルの生成には、各画素を含め、システム内での各カメラ30の正確な形状を知る必要がある。
【0019】
ディジタルカメラは、図8Aに示すような画素のアレイとして画像を捕捉する。図8Aは、画素アレイ上にマッピングされた旗Fの画像を示す。3次元の斜視図から、ディジタルカメラの画像は図8Bに示すような画素ベクトルVのアレイとしても考えられる。各ベクトルは、カメラのレンズから視野内のオブジェクトまでの直線である。画素ベクトルVは、3D空間内のカメラ基準点Rを画素ベクトルVの始点として特定することにより定義が可能であり、「方向ベクトル」が画素ベクトルの経路を定義する。カメラ内の各画素は固有の画素ベクトルVを有する。したがって、カメラの画素ベクトルマップはカメラ内の全ての画素の経路の定義である。
各画素ベクトルVに対する基準点R及び方向ベクトルは、レンズが固定焦点の場合には静的である。レンズが可変焦点の場合、基準点R及び方向ベクトルは、焦点の変化と共に変化する。可変焦点のレンズに対しては、精度を最大に保つために、異なる焦点設定について複数の画素マップが必要である。
【0020】
正確な固定焦点レンズにおいて、基準点Rはレンズの光学的中心と同一であると考えることができ、各画素ベクトルVについて同一である。
カメラの画素ベクトルマップは、カメラの設計仕様の解析によって、又は機械的較正プロセスを通して生成することが可能である。較正は、カメラ内の各画素を3D空間内の別個の既知の2点と照合することによって実施できる。各画素ベクトルVが直線であることと、2点が直線を描くこととから、この手順をカメラの画素ベクトルマップを決定するために用いることができる。
【0021】
画素ベクトルマップは、ディジタル3D/360度カメラシステム10内の各ディジタルカメラ30について生成できる。各カメラの画素ベクトルマップには、そのカメラに関する座標系の定義が含まれる。例えば図9に示すように、矩形のXYZ座標系を用いてもよい。また、画素ベクトルマップは、カメラの光学的中心のようなカメラの基準点Rを定義する。画素ベクトルマップにおいて各画素は、例えば、画素の行及び列座標によって1つに特定が可能である。加えて画素ベクトルマップは、各画素の方向ベクトルを含む。矩形のXYZ座標系の場合、方向ベクトルは符号付きのXYZ書式で表される。
カメラが可変焦点レンズを用いる場合、複数の画素ベクトルマップが定義されるか、又は、異なる焦点設定に対する補正又は内挿手段と共に単一の画素ベクトルマップが定義される。
【0022】
基準点と各方向ベクトルの精度によって、3次元モデル作成のためのディジタル3D/360度カメラシステム10の精度が決定する。単一のカメラの画素ベクトルマップは、カメラの設計から導き出すことができるか、又は較正プロセスによって決定することができる。
ディジタル3D/360度カメラシステム10において、ディジタル3D/360度カメラシステム10全体の画素ベクトルマップには、個々のディジタルカメラ30各々の、他のカメラの各々に対する位置を定義する情報と共に、個々のディジタルカメラ30各々の画素ベクトルマップが含まれる。これを達成するための簡単な方法は、ディジタル3D/360度カメラシステム10のXYZ座標系及び原点を定義し、各カメラの画素ベクトルマップを描くときにこの座標系を用いることである。ディジタル3D/360度カメラシステム10の基準点はシステム基準点と称され、カメラアセンブリの物理的中心、システムの前部、単一のディジタルカメラの基準点、又は3D空間内の他の任意の点とすることができる。
【0023】
ディジタル3D/360度カメラシステム10は正確な3Dモデルを生成するために用いられるので、各ディジタルカメラ30の基準点同士の間の実際の距離を知る必要がある。図10に示すように、例えば、ディジタル3D/360度カメラシステム10の基準点に対して、ディジタルカメラ30aの基準点が(0”,7”,0”)であり、ディジタルカメラ30bの基準点が(3”,3”,0”)である場合、ディジタルカメラ30aからディジタルカメラ30bまでのベクトルは(3”,−4”,0”)であることと、ディジタルカメラ30aからディジタルカメラ30bまでの距離が5インチ(13cm)であることとがわかる。
ディジタル3D/360度カメラシステム10の内部寸法とディジタルカメラ30の正確な形状とを知ることにより、2つ以上のディジタルカメラ30の視野内のオブジェクトの寸法と距離を決定することができる。内部寸法とカメラの形状を知る際の正確さが、ディジタル3D/360度カメラシステム10に可能となる測定及びモデル作成の精度を決定する。
【0024】
ディジタル3D/360度カメラシステム10の画素ベクトルマップと共に、ディジタルカメラ30によって捕捉された画像データを使用して、画像データにおけるシステム基準点と種々の関心点との間の距離を決定することにより、3次元モデルを作成することができる。この距離は、2つ以上のディジタルカメラ30によって捕捉される画像データの各点について決定される。図10に示すように、旗Fが、カメラ30a及び30bの両方の視野内に示されている。図11A及び図11Bを参照すると、旗Fが各カメラの視野内の異なる位置に現出しているのがわかる。図11Aはカメラ30aの視野を示し、図11Bはカメラ30bの視野を示す。各カメラからの1つの画素、又は3次元用語で1つの画素ベクトルが、旗竿の頂点、即ち本実施例の関心点を捕捉することがわかる。
図12にさらに明確に示すように、画素ベクトルVは、旗竿の頂点を捕捉するカメラ30aの画素ベクトルであり、一方画素ベクトルWは、カメラ30bにおいて旗竿の頂点を捕捉する。旗竿の頂点は点Cで表される。各画素ベクトルは方向ベクトルであり、カメラの基準点から旗竿の頂点の点Cまでの方向を表すが距離は表さない。距離ベクトル「a*V」(「a」はスカラ量)は、カメラ30aの基準点である点Aから始まり点Cで終る直線を定義する。同様に、距離ベクトル「b*W」(「b」はスカラ量)は、カメラ30bの点Bから点Cまでの直線を定義する。
【0025】
必要なのは、システム基準点Rsに対する点Cの位置を知ることである。カメラ基準点A及びBの位置は、それらの画素ベクトルマップ情報から既知である。ベクトルU=B−Aは、AからBへの変位を表す。VとWとは線形的に独立しているので、クロス乗積ベクトルY=V×Wはゼロではない。また、Cが存在すると仮定した場合、3つのベクトルU=B−A、V、及びWは、線形的に依存する。つまりCは次式で定義することができる。
(1)C=A+aV=B+bW
ここで、a及びbはスカラ量である。式(1)を書き直すと次式となる。
(2)aV=U+bW
WとVとについてクロス乗積をそれぞれ取ると次式となる。
(3)a(V×W)=(U×W)及び
(4)b(W×V)=−(U×V)
これらにより係数a及びbが1つだけ決定する。これらは次式の点乗積を用いて決定することができる。
(5)a=((U×W)・(V×W))/((V×W)・(V×W))及び
(6)b=((U×V)・(V×W))/((V×W)・(V×W))
式(1)に戻り、Cを求める。
(7)C=A+((U×W)・(V×W))/((V×W)・(V×W))V
【0026】
これにより、本実施例において旗竿の頂点である点Cは、ディジタル3D/360度カメラシステム10のXYZ座標系内に正確に位置決めされた。同じ数学解析を用いて、ディジタル3D/360度カメラシステム10の視野内の各点を、3次元座標系内に正確に位置決めできる。
ディジタル3D/360度カメラシステム10の画素ベクトルマップは、システム内のディジタルカメラ30の各々の形状を記述するデータを収集したものである。画素ベクトルマップのデータは、ディジタル3D/360度カメラシステム10に関する追加データ及びこのシステムについて記述するデータと共に、大容量記憶装置44上で画素ベクトルマップファイル内に記憶される。実際には、ディジタル3D/360度カメラシステム10について記述する追加データは、ディジタル3D/360度カメラシステム10自体を記述するシリアル番号、名称、モデルの種類、又はその他の情報を含むことができ、またこれらと共に、ディジタル3D/360度カメラシステム10内の各ディジタルカメラ30を記述するシリアル番号、種類、レンズの種類、及びその他の情報を含むことができる。
【0027】
使用時には、制御装置60がディジタルカメラ30に対して画像データの捕捉を指令するように機能し、次いで画像データを検索して取り出し、大容量記憶装置44に記憶する。画像データが大容量記憶装置44に記憶された後は、外部通信インタフェース46によってこれらの画像データを外部のコンピュータ又は画像処理システムへエクスポートすることができる。
【0028】
画像を捕捉するプロセスを、図7に示すフローチャートに例示する。画像捕捉プロセスは、外部通信インタフェース46が指令を受信したとき、又は内部でプログラムされたスケジュールに基づいて開始される。開始後、ブロック102に示すように、制御装置60がディジタルカメラ30の各々に対し、正しい露出パラメータを設定するようにとの指令を出す。露出パラメータが設定されると、ブロック104に示すように、ディジタルカメラ30は、画像を捕捉するように同時に指令される。可能な限り全ての画像を同時捕捉することが、画像データの正確且つ誤りのない3次元モデルの作成に不可欠であることに留意することが重要である。
理想的には、ディジタルカメラ30の各々にディジタル制御信号を同時に出すのにディジタル制御ラインを用いる。代わりに、指令及びデータインタフェースを用いてディジタルカメラ30の各々に個別に「開始」指令を送信してもよい。各カメラが個別に指令された場合、経験的に、これらのカメラの全てに対し露出時間の1/2以内に指令することが望ましい。例えば、露出時間として1msを用いる場合、カメラの全てが0.5ms以内に「開始」指令されるようにするとよい。
【0029】
これらのカメラが開始指令されると、ブロック106に示すように、画像データが検索して取り出され、保管される。各カメラの各画像は個別ファイルとして保管される。このファイルは、画像データと共に、埋め込みのメタデータを含むことができる。これらの画像ファイルには、例えば、タイムスタンプの機能により露出時間を特定し、且つそのカメラを特定する名称を付けるのがよい。これらのファイルは大容量記憶装置44に保管される。更に取るべき画像がない場合、ブロック108において決定判断が行われ、その後画像データが処理用に引き渡される。画像データは、外部処理システムからの要請に応じて外部通信インタフェース46によるエクスポート用に提供されるか、又はブロック110に示すように、すぐに引き渡される。続いて追加画像を取り込む場合には、プロセスはブロック102に戻って新しい露出を設定するか、又はブロック104に戻ってすぐに新しい画像を捕捉する。
静止画像は個別に、又はまとめて記録される。画像順序は、3次元のアニメーションに、又は場合によっては3次元映画に用いることができる。加えて、さらに大きなシーン又は領域について、さらに多くの総合的3次元画像データを収集するために、多数のディジタル3D/360度カメラシステムを離れた別個の場所において互いに協働させて用いることができる。
【0030】
本発明の好適な実施形態により、完全なパノラマを提供する360度の3次元のシーンを含む3次元シーンの正確なモデルを生成するのに必要な立体画像を捕捉するディジタル3D/360度カメラシステムが提供される。本システムは、複数の立体的視野において画像データを捕捉するように配置された多数のカメラを組み込んでいる。本システムでは、非常に多くのカメラを同時に作動させることにより、多数画像方式の立体的カメラシステムにおける時間誤差を排除する。
本発明は上記の実施形態に限定されるものではなく、特許請求の範囲内の全ての実施形態を包含するものであることを理解されたい。
【図面の簡単な説明】
【0031】
【図1A】本発明によるディジタル3D/360度カメラシステムの斜視図である。
【図1B】随意で上向き及び下向きのカメラを追加した、本発明によるディジタル3D/360度カメラシステムの斜視図である。
【図2】本発明によるディジタル3D/360度カメラシステムの平面図であり、カメラの視野と盲点とを示す。
【図3】双眼対を追加した本発明によるディジタル3D/360度カメラシステムの別の実施形態の斜視図である。
【図4】ディジタルカメラを円形に配置した本発明によるディジタル3D/360度カメラシステムの別の実施形態の平面図である。
【図5】ディジタルカメラを球状の構成に配置した本発明によるディジタル3D/360度カメラシステムの一実施形態の斜視図である。
【図6】本発明によるディジタル3D/360度カメラシステムのブロック図である。
【図7】本発明によるディジタル3D/360度カメラシステムを用いて画像を捕捉するステップを説明するフローチャートである。
【図8A】画素のアレイとして表示したディジタルカメラの視野を図式的に示す。
【図8B】画素ベクトルの配列として3次元的に表示したディジタルカメラの視野を図式的に示す。
【図9】3次元のXYZ座標系の原点である基準点に対するカメラの視野を示す概略図である。
【図10】各々がそれ自体のカメラ基準点を有する複数のカメラを、システム基準点及び3次元のXYZ座標系に対して示す。
【図11】図11Aは図10のディジタルカメラ30aの視野を示し、図11Bは図10のディジタルカメラ30bの視野を示す。
【図12】画素ベクトルを、システム基準点に対するXYZ座標系中の位置に分解する方法を示す。 全ての添付図面を通じ、類似の符号は対応する類似の機能要素部品を示す。



【特許請求の範囲】
【請求項1】
筐体、
前記筐体上に設置される複数のディジタルカメラであって、各々の視野が少なくとも一つの他の該ディジタルカメラの視野と重複することにより立体的視野を形成する複数のディジタルカメラ、並びに
処理装置、メモリ、記憶装置、クロック、通信インタフェース、及び前記ディジタルカメラの各々と通信状態にあるカメラインタフェースを有する制御装置
を備えるディジタル3D/360度カメラシステム。
【請求項2】
前記制御装置が更に、ディジタル3D/360度カメラシステムの位置を決定する計測器を備える、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項3】
ディジタル3D/360度カメラシステムの位置を決定するための前記計測器が、全地球位置把握システム(GPS)受信機を備える、請求項2に記載のディジタル3D/360度カメラシステム。
【請求項4】
前記制御装置が更に、ディジタル3D/360度カメラシステムの方向を決定する計測器を備える、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項5】
ディジタル3D/360度カメラシステムの方向を決定するための前記計測器が、ディジタル磁気コンパスを備える、請求項4に記載のディジタル3D/360度カメラシステム。
【請求項6】
前記制御装置が、前記筐体内に設置される、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項7】
前記記憶装置内に記憶され、前記処理装置の指示の下に前記メモリ内で実行されるコンピュータプログラムコードであって、前記ディジタルカメラを制御する手段を有するコンピュータプログラムコード;
を更に備える、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項8】
前記ディジタルカメラを制御する手段が、
前記大容量記憶装置内に画素ベクトルマップファイルを記憶する手段、
前記大容量記憶装置から前記画素ベクトルマップファイルを検索して取り出す手段、及び
前記画素ベクトルマップファイルを外部装置にエクスポートするために前記外部通信インタフェースを用いる手段
を備える、請求項7に記載のディジタル3D/360度カメラシステム。
【請求項9】
前記ディジタルカメラを制御する手段が、更に、前記画素ベクトルマップファイルを生成する手段を備える、請求項8に記載のディジタル3D/360度カメラシステム。
【請求項10】
前記ディジタルカメラを制御する手段が、更に、前記画素ベクトルマップファイルを外部ソースからダウンロードする手段を備える、請求項8に記載のディジタル3D/360度カメラシステム。
【請求項11】
前記ディジタルカメラを制御する手段が、
前記ディジタルカメラに対して画像の捕捉を指令する手段、及び
前記ディジタルカメラからの画像データを読み取り、前記画像データを前記記憶装置に記憶する手段
を備える、請求項7に記載のディジタル3D/360度カメラシステム。
【請求項12】
前記ディジタルカメラを制御する手段が、更に、前記ディジタルカメラに対して露出パラメータの設定を指令する手段を備える、請求項11に記載のディジタル3D/360度カメラシステム。
【請求項13】
前記ディジタルカメラを制御する手段が、更に、前記外部通信インタフェース上に前記画像データをエクスポートする手段を備える、請求項11に記載のディジタル3D/360度カメラシステム。
【請求項14】
前記複数のディジタルカメラが、4つの双眼対をなすように配置された、各々が360度パノラマシーンの四分区分のうちの異なる一区分を見るような8つのディジタルカメラを備える、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項15】
前記複数のディジタルカメラが、更に2つの追加的双眼対をなして配置される4つの追加的ディジタルカメラを含み、追加された双眼対のうちの一方が360度パノラマシーンにより定義される平面に対して上向きの視野を有し、追加された双眼対のうちの他方が360度パノラマシーンにより定義される平面に対して下向きの視野を有する、請求項14に記載のディジタル3D/360度カメラシステム。
【請求項16】
前記複数のディジタルカメラが、8つの双眼対をなすように配置された、各々が360度パノラマシーンの八分区分のうちの異なる一区分を見るような16のディジタルカメラを備える、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項17】
前記複数のディジタルカメラが円形に配置される、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項18】
前記複数のディジタルカメラが球形に配置される、請求項1に記載のディジタル3D/360度カメラシステム。
【請求項19】
ディジタル3D/360度カメラシステムを用いた3次元画像モデルの生成方法であって、
少なくとも2つのディジタルカメラのディジタル画像データに捕捉された関心点を有するディジタル画像データを捕捉するためにディジタル3D/360度カメラシステムを用いるステップ、
各関心点について、少なくとも2つのディジタルカメラの各々からの、関心点に対応する画素ベクトルを特定するステップ、及び
各関心点について、システム基準点に対する座標系における関心点の位置を決定するために、前記少なくとも2つのディジタルカメラの各々からの画素ベクトルを用いるステップ
を含む方法。

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

image rotate

image rotate

【図9】
image rotate

【図10】
image rotate

image rotate

【図12】
image rotate


【公表番号】特表2007−525054(P2007−525054A)
【公表日】平成19年8月30日(2007.8.30)
【国際特許分類】
【出願番号】特願2006−509244(P2006−509244)
【出願日】平成16年3月11日(2004.3.11)
【国際出願番号】PCT/US2004/007334
【国際公開番号】WO2004/109385
【国際公開日】平成16年12月16日(2004.12.16)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.イーサネット
【出願人】(505449069)
【Fターム(参考)】