三次元検知のために深度変化させる光照射野
本願のマッピング方法は、形状が共通的特性を共有しつつ、パターン内のスポットの位置が無相関状態となるように、個々の位置及び個々の形状を有する複数のスポット(52、54、80、82)のパターンを物体(28)上に投射する段階を含む。上記物体上のスポットの画像は、キャプチャされ、及び上記物体の三次元(3D)マップを導出するように処理される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一般に、三次元(3D)物体をマッピングする方法及びシステムに関するものであり、更に詳しくは、3Dの光学測距及びマッピングに関するものである。
【背景技術】
【0002】
コヒーレントな光ビームを、拡散器を通過させ表面上に投射させると、当該表面上で一次スペックルパターンが観察可能となる。一次スペックルは、拡散されたビーム間の異なる成分における干渉によって生成される。尚、この「一次スペックル」という用語は、本特許出願においては、物体の粗い表面からのコヒーレント光の拡散反射によって生成される二次スペックルとは区別して使用される。
【0003】
ハート(Hart)は、中華民国での特許(TW527528B)及び米国への特許出願(09/616,606号)において高速3D撮像システムにおけるスペックルパターンの使用法について記述しており、この開示内容は、本引用により本明細書に包含される。このシステムは、能動的な撮像素子及びCCD素子を有する単一レンズのカメラサブシステムと、相関処理サブシステムとを含む。能動的な撮像素子は、焦点がぼけた画像間における非等辺の間隔(non-equilateral spacing)を調節可能にして、相対的に深い被写界深度及び高いサブピクセル変位精度を実現できる回転アパーチャであってよい。スペックルパターンを物体上に投射し、この結果得られるパターンの画像を、複数の角度から取得している。これらの画像を、画像相関法を使用して局所的に相互相関させ、相対的なカメラ位置情報を使用して表面位置を決定し、それぞれの局所的な相関領域の三次元座標を算出している。
【0004】
スペックルに基づいた別の3D撮像法は、ハンター(Hunter)他によって米国特許(6,101,269号)に記述されており、この開示内容は、本引用により本明細書に包含される。ランダムなスペックルパターンを3D表面上に投射し、複数のカメラによって撮像することにより、複数の二次元デジタル画像を取得している。これらの二次元デジタル画像を処理して表面の三次元の特徴を取得している。
【0005】
3Dマッピング及び測距の別の方法は、構造化又はコード化された照明を使用している。例えば、Sazbon 他は、この種の範囲推定法について「Qualitative Real-Time Range Extraction for Preplanned Scene Partitioning Using Laser Beam Coding」(Pattern Recognition Letters 26(2005年)、1771〜1781頁)に記述しており、この内容は、本引用により本明細書に包含される。位相専用フィルタは、レーザービームを作業空間内のM個の異なる範囲セグメントに対応したM個の異なる回折パターンにコード化している。従って、照明されたシーン内のそれぞれのプレーンは、光源からのそのプレーンの範囲に対応したパターンによって照射されることになる。一般的なカメラを使用することにより、シーンの画像をキャプチャ可能であり、シーンの画像を処理してシーン内の物体の範囲を判定可能にしている。著者らは、Gerchberg-Saxtonアルゴリズムに基づいて位相専用フィルタをデザインする反復的な手順について記述している。
【発明の開示】
【課題を解決するための手段】
【0006】
以下に記述する本発明の実施例は、成形されたスポット照明パターンを使用した3Dマッピング及び測距の方法及びシステムを提供する。この照明パターンは、制御された且つ識別可能な形状を備えた明るいスポットのアレイを有している。いくつかの実施例において、スポットの相対的な位置は、(例えば、スペックルパターンなどのランダム又は擬似ランダムなパターンにおいて)無相関状態になるが、これらのスポットは、いずれの場合にも、予め規定された類似の形状特性を共有している。特定の実施例においては、スポットは、特定の方向において細長くなっており、これは、照明ビームに対して直角に走る所与のプレーン内のすべてのスポットに共通している。但し、上記の代わりに、その他のスポット形状を使用することも可能である。
【0007】
いくつかの実施例においては、スポットの形状特性は、照明源からの距離に伴って変化する。この距離に伴って変化する形状特性は、光学的な2つの制約を重畳するようにデザインされた1つ又は複数の光学要素に照明ビームを通過させることによって実現可能である。光学的な2つの上記制約の1つは、ビームを複数のスポットに分割することであり、別のもう1つは、距離に伴って変化する形状を生成することである。上記重畳法は、距離に伴って変化する様々なパターンを、簡単且つ柔軟に生成することを可能にする。この距離に伴って変化する形状特性の成果として、パターンによって照明された物体表面の一部に現れるスポットの形状は、照明源から物体の各表面部分までの範囲を判定するのに使用可能とする。
【0008】
いくつかの実施例において、物体表面上のパターン部分の横断方向のシフトは、既知の範囲に位置した基準パターンとの関係において、物体表面の3Dマップを再構築するのに使用される。形状に基づいた測距およびシフトに基づいたマッピングの組み合わせは、照明源からの広い範囲の距離をカバーする正確な3Dマップを生成するのに使用することが可能である。
【0009】
従って、本発明の一実施例によれば、マッピング法が提供されており、この方法は、
個々の位置及び個々の形状を有する複数のスポットのパターンを物体上に投射する段階であって、上記形状が共通的特性を共有する一方で、上記パターン内の上記スポットの位置が無相関状態になるような、投射段階と、
上記物体上の上記スポットの画像をキャプチャする段階と、
上記物体の三次元(3D)マップを導出するべく上記画像を処理する段階と、を含む。
【0010】
一実施例において、上記スポットのパターンは、ランダムスペックルパターンを含む。
【0011】
いくつかの実施例において、形状の共通的特性は、パターンの供給源からの距離の関数として変化し、画像を処理する段階は、供給源からの表面までの距離を判定するべく画像内の物体の表面上のスポットの特性を分析する段階を含む。一実施例において、スポットは、パターンの供給源からの距離の関数として回転する細長い形状を共有しており、且つ、特性を分析する段階は、物体の表面上におけるスポットの方向を判定する段階を含む。代替方法又は追加方法として、画像を処理する段階は、画像内の物体の複数のエリア上のパターンと基準画像内のパターンとの間の個々のオフセットを見出す段階と、3Dマップを導出するために、距離と共にオフセットを使用する段階と、を含む。個々のオフセットを見出す段階は、供給源から表面までの距離に対して応答可能なように、複数の基準画像の中から基準画像を選択する段階を含むことが可能である。
【0012】
別の実施例において、パターン内のスポットは、第1方向において配列された細長い形状を有し、且つ、画像を処理する段階は、3Dマップを導出するために、画像内の物体の複数のエリア上のパターンと基準画像内のパターンとの間において、第1方向に垂直である第2方向における個々のオフセットを見出す段階を含む。スポットのパターンを投射する段階は、コヒーレントな光ビームに拡散器を通過させる段階を含むことが可能であり、そして、上記光ビームは、第2方向に細長い拡散器においてプロファイルを有している。
【0013】
開示した実施例において、画像をキャプチャする段階は、画像が移動する間に一連の画像をキャプチャする段階を含み、画像を処理する段階は、一連の画像を処理することにより物体の移動を追跡する段階を含む。一実施例において、物体は、人体の一部であり、移動を追跡する段階は、人体の一部によって実行されたジェスチャーを識別する段階と、ジェスチャーに対して応答可能なように、コンピュータアプリケーションに入力を提供する段階と、を含む。
【0014】
又、本発明の一実施例によれば、撮像方法も提供されており、この方法は、
光ビームに対する第1の光学的制約の適用が、光ビームを複数のスポットのパターンに分割するような、第1の光学的制約を規定する段階と、
光ビームに対する第2の光学的制約の適用が、光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えるスポットを光ビームに形成させるような、第2の光学的制約を規定する段階と、
上記第1の光学的制約及び上記第2の光学的制約を重畳させるべく、少なくとも1つの光学要素をデザインする段階と、
パターン内の複数のスポットが形状特性を備えるように、パターンを表面上に投射するために、少なくとも1つの光学要素を通じて光ビームを導く段階と、を含む。
【0015】
いくつかの実施例において、少なくとも1つの光学要素は、ビームをパターンに分割するための第1光学要素と、形状特性に適用するための第2光学要素と、を含む。一実施例において、パターンは、スペックルパターンを含み、第1光学要素は、拡散器を含む。
【0016】
代替方法又は追加方法として、少なくとも1つの光学要素は、回折光学要素(DOE:Diffractive Optical Element)を含む。一実施例において、DOEは、細長い形状をスポットに付与するための少なくとも1つのゾーンプレートを含む。上記少なくとも1つのゾーンプレートは、スポットの細長い形状を距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳するゾーンプレートを含むことが可能である。
【0017】
更に、代替方法又は追加方法として、少なくとも1つの光学要素は、屈折光学要素を含む。
【0018】
通常、第1の光学的制約によって規定されるパターンは、1/4を上回らないデューティサイクルを備える。
【0019】
いくつかの実施例において、パターンは、位置が無相関状態となるように、スポットの個々の位置を規定している。
【0020】
開示した一実施例において、第2の光学的制約は、スポットに、距離の関数として回転する細長い形状を備えさせている。別の実施例においては、第2の光学的制約は、スポットに、環形状を備えさせている。
【0021】
いくつかの実施例において、本方法は、表面上のスポットの画像をキャプチャする段階と、少なくとも1つの光学要素から表面までの距離を判定するべく画像を処理する段階と、を含む。
【0022】
本発明の一実施例によれば、マッピング装置が更に提供されており、この装置は、個々の位置及び個々の形状を有した複数のスポットのパターンを物体上に投射するように構成された照明アセンブリであって、上記形状が共通的特性を共有する一方で上記パターン内の上記スポットの上記位置が無相関状態になるような、照明アセンブリと、
物体上のスポットの画像をキャプチャするように構成された撮像アセンブリと、
物体の三次元(3D)マップを導出するために画像を処理するように結合された画像プロセッサと、を含む。
【0023】
本発明の一実施例によれば、撮像装置が更に提供されており、この装置は、
第1の光学的制約及び第2の光学的制約を重畳するようにデザインされた少なくとも1つの光学要素であって、上記第1の光学的制約の光ビームへの適用が、光ビームを複数のスポットのパターンに分割することであり、上記第2の光学的制約の光ビームへの適用が、光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えたスポットを前記ビームに形成させるようにする、光学要素と、
パターン内の複数のスポットが形状特性を具備するようにパターンを表面上に投射するために、少なくとも1つの光学要素を通じて光ビームを導くように構成された光源と、を含む。
【0024】
添付の図面との関連において、その実施例に関する以下の詳細な説明を参照することにより、本発明について更に理解することができよう。
【発明を実施するための最良の形態】
【0025】
(システムの概要)
図1は、本発明の一実施例による3D測距及びマッピングシステム20の画的な概略図である。システム20は、スポットのパターンを生成して物体28上に投射し、且つ、物体上に現れるスポットパターンの画像をキャプチャする撮像装置22を有している。装置22のデザイン及び動作の詳細については、以降の図面に示されており、且つ、それらの図面を参照して後述することとする。
【0026】
いくつかの実施例において、撮像装置22によって投射されるスポットのパターンは、スペックルパターンを含む。本特許出願の明細書および各請求項において、この「スペックルパターン」という用語は、投射ビーム軸を横断するプレーン内において無相関状態となっている位置の明るいスポットでの投射パターンを意味している。これらの位置は、パターン内のスペックルの位置の自動相関が、横断方向のシフト関数としてスポットサイズよりも大きなどのようなシフトにとっても重要でないという意味において無相関状態にある。一次レーザースペックルによって生成されるものなどのランダムパターン(前述のものなど)は、この意味において無相関状態にある。擬似ランダム及び準ランダムパターンなどの人間又はコンピュータデザインによって生成されるパターンも、無相関状態にすることができる。システム20内において実装可能であるスペックルに基づいた3Dマッピングの理論及び動作のその他の側面については、2006年3月14日付けで出願されたPCT特許出願(PCT/IL2006/000335)及び2007年3月8日付けで出願された「Three-Dimensional Sensing Using Speckle Patterns」という名称のPCT特許出願に記述されている。これらの出願は、いずれも、本特許出願の譲受人に譲渡されており、且つ、それらの開示内容は、本引用により、本明細書に包含される。
【0027】
その他の実施例において、スポットは、照明ビームをDamman格子又は適切な微小レンズアレイに通過させることによって生成可能であるタイプのパターンなどのような、規則的な非ランダムなパターン内において配列可能である。
【0028】
後述する測距及びマッピングアプリケーションにおける良好な性能のためには、スポットパターンは、低デューティサイクルを有していることが有利である。即ち、平均を上回る輝度を有するパターンのエリア部分が、1/eを上回ってはおらず、望ましくは、1/4未満、又は1/10未満であることが有利である。低いデューティサイクルは、3Dマッピングのためのスポットシフトの検出における信号/雑音比の向上に有利である。また、低いデューティサイクルは、隣接するスポットがオーバーラップした間、結果的に生じる干渉の影響を回避するのにも有用である。
【0029】
スポット(スペックル)の位置が無相関状態にある間も、本発明の実施例において使用されるパターン内のスポットの形状は、従来のレーザースペックルパターンにおけるように完全にランダムだけでなく、共通的な形状特性をも有している。例えば、後述するように、いくつかの実施例においては、スポットは、特定の軸に沿って細長くなっている。追加方法または代替方法として、スポットは、形状が制御されて、照明ビームの軸に沿った距離の関数としての形状の変化が識別可能である限り、その他の共通的な形状特性を有することが可能である。尚、本明細書における「形状の変化」という用語は、照明源からの距離に伴って通常発生するスポットサイズの単純な線形性の増加以外の変化を意味する。
【0030】
画像プロセッサ24は、物体28の深度測距、および選択した時の物体28の3Dマッピングを実行するために、装置22によって生成された画像データを処理する。尚、この本特許出願及び各請求項において使用される「測距」という用語は、撮像装置から物体までの距離の粗い尺度を見出すことを意味しており、一方、「3Dマップ」という用語は、物体の表面を表す3D座標の組を意味している。このような画像データに基づいたマップの導出は、「3Dマッピング」、又は等価的に「3D再構築」と呼ばれている。後述するように、3D再構築プロセスにおいては、測距及びマッピングの両方を粗いフェーズ及び微細なフェーズとして同時に使用可能である。従って、測距は、ある種の粗い3Dマッピングであると見なすことも可能である。
【0031】
このような測距及びマッピングを実行する画像プロッサ24は、後述する機能を実行するべくソフトウェアにおいてプログラムされた汎用コンピュータプロセッサから構成可能である。ソフトウェアは、例えば、ネットワーク上において、プロセッサ24に電子的な形態においてダウンロード可能であり、或いは、代替として、光学、磁気、又は電子的なメモリ媒体などの実体のある媒体上において提供することも可能である。代替方法または追加方法として、画像プロセッサの機能のいくつか又はすべてを、カスタム又はセミカスタム集積回路又はプログラム可能なデジタル信号プロセッサ(DSP)などの専用のハードウェアにおいて実装することも可能である。尚、プロセッサ24は、図1には、一例として、撮像装置22とは別個のユニットとして示されているが、プロセッサ24の処理機能のいくつか又はすべてを、撮像装置のハウジング内の適切な専用回路、又はさもなければ撮像装置と関連付けられた適切な専用回路によって実行することも可能である。
【0032】
プロセッサ24によって生成される3Dマップは、様々な異なる目的に使用可能である。例えば、このマップは、物体の擬似3D画像を表示するディスプレイ26などの出力装置に送信可能である。図1に示されている例においては、物体28は、対象物の本体の全部又は一部(例えば、手)から構成されている。この場合には、システム20を使用することにより、ジェスチャーに基づいたユーザーインターフェイスを提供可能であり、この場合には、装置22によって検出されたユーザーの動きにより、マウス、ジョイスティック、又はその他のアクセサリなどの触覚的なインターフェイス要素の代わりに、ゲームなどの対話型のコンピュータアプリケーションを制御する。或いは、代替に、システム20を使用することにより、3D座標プロファイルを必要としている実質的にあらゆるアプリケーションにおいて、その他のタイプの物体の3Dマップを生成することも可能である。
【0033】
図2は、本発明の一実施例による装置22の概略平面図である。装置22内の照明アセンブリ30は、通常はレーザーであるコヒーレントな光源34と、後述するように、スペックルパターン又はスポットのその他のパターンを生成するべく組み合わせとして通常は使用される1つ又は複数の光学要素36、38と、を含む。(尚、本特許出願の明細書における「光」という用語は、赤外線及び紫外線、並びに、可視光を含む任意の種類の光学的放射を意味する)。供給源34によって放射された光ビームは、光学要素36及び38を通過し、物体28が配置されているターゲット領域46を照射している。画像キャプチャアセンブリ32は、物体28上に投射されたパターンの画像をキャプチャしている。アセンブリ32は、画像を画像センサ42上に合焦する対物用光学素子40を含む。通常、センサ40は、CCD又はCMOSベースの画像センサアレイなどの検出器要素44の直線アレイを含む。
【0034】
図2に示されている実施例においては、照明アセンブリ30及び画像キャプチャアセンブリ32は、固定された空間的関係に保持されている。後述するこの構成及び処理法によれば、照明及び画像キャプチャアセンブリ間における相対的な移動を伴うことなしに、且つ、可動部品を伴うことなしに、単一の画像キャプチャアセンブリを使用して3Dマッピングを実行可能である。代替として、後述する照明、測距、及びマッピングの技法は、先の背景技術の箇所で記述した様々な異なる構成に、その他の種類の画像キャプチャアセンブリを併用させて、使用することも可能である。例えば、画像キャプチャアセンブリは、照明アセンブリとの関係において移動可能であってよい。追加方法又は代替方法として、複数の画像キャプチャアセンブリを使用することにより、異なる角度から物体28の画像をキャプチャすることも可能である。
【0035】
3Dマップの演算、及び図2の構成における物体28の動きに起因したマップ内の変化の演算を単純化するべく、アセンブリ30及び32は以下のように取り付けることが可能である。すなわち、画像キャプチャアセンブリ32の入射瞳孔と、光学要素36上の光源34によって形成されるスポットとの中心を通過する軸が、センサ40の軸の1つと平行になるように取り付けることが可能である(これは、X軸になるように便宜され、Z軸は装置22からの距離に対応することになる)。この構成の利点については、「Three-Dimensional Sensing Using Speckle Patterns」という名称の前述のPCT特許出願に更に説明されている。
【0036】
具体的には、この構成における三角測量によれば、物体上のポイントのZ方向のシフトδZは、画像内において観察されるスポットパターン内の随伴する横断方向のシフトδXを生成することになる。従って、既知の距離Zにおいて取得された基準画像との関係においてアセンブリ32によってキャプチャされた画像内のスポットのX座標におけるシフトを計測することにより、物体上のポイントのZ座標と、時間に伴うZ座標におけるシフトを判定可能である。Y方向のシフトは無視可能である。この種の三角測量法は、特にスペックルパターンを使用している3Dマッピングに好適であるが、その他のタイプのスポットパターンと共に使用するべく、この方法の態様を適合させることも可能である。
【0037】
換言すれば、キャプチャされた画像のそれぞれのエリア内のスポットのグループを基準画像と比較することにより、基準画像内の最も緊密にマッチングしているスポットのグループを見出している。画像内のマッチングしているスポットのグループ間における相対的なシフトは、基準画像との関係におけるキャプチャされた画像のエリアのZ方向のシフトを付与している。スポットパターン内におけるシフトは、画像相関又は当技術分野において既知のその他の画像マッチング演算法を使用して計測可能である。いくつかの模範的な方法については、前述のPCT特許出願に記述されている。
【0038】
(共通的な形状特性を有するスペックルパターンの生成)
共通的な形状特性を有するスポットのパターンを使用することにより、いくつかの方法においてシステム20の動作を向上させることができる。例えば、X方向のシフトのみが物体の3D再構築において有意である前述の装置22の構成においては、Y方向に細長くなったスペックルのパターンを使用することが有利であろう。この結果、プロセッサ24がZ方向のシフトを検出する目的で画像間における相関を演算する間、この演算は、Y方向におけるスペックルの小さなシフトの影響を受けにくくなる。この機能により、X方向のシフト演算の安定性が改善される(且つ、演算において相対的に小さな相関ウィンドウを使用可能であろう)。
【0039】
Y方向において細長く、且つ、X方向における位置が無相関状態になるような種類のスペックルパターンを生成するために、いくつかの方法を使用することが可能である。1つの可能性は、X方向に細長くなった粒子のランダムに配列されたアレイと共に、光学要素36を拡散器として構成するというものである(この場合には、要素38は不要であろう)。上記粒子は、例えば、不透明であってよく、或いは、代替として、上記粒子は、透過光の位相の変化を生成するべく、異なる厚さを有することも可能である。別の代替方法として、光源34からの光ビームをX方向に細長くしつつ、要素36が従来の等方性の拡散器を有することも可能である。この目的のために、例えば、供給源と拡散器との間の円筒形レンズ(図示されてはいない)を使用することも可能である。
【0040】
更に別の選択肢は、要素36を(等方性であってよい)拡散器から構成すると共に、要素38を回折光学要素(DOE)から構成するというものである。Y軸に沿って細長い望ましいスペックルを生成するべく、要素38は、X軸に平行に方向付けされたラインを有する適切な格子又はゾーンプレートから単純に構成することが可能である。
【0041】
尚、概念的な明瞭性のために、要素36及び38は、図2には、別個のコンポーネントであるものとして示しているが、拡散器及びDOEは、通常、互いに接触状態にあり、且つ、1つに接着することも可能である。或いは、代替として、光学ブランクの片面上にDOEを形成して、他面を研磨して拡散器を生成することにより、要素36及び38を一体成形品として製造することも可能である。更には、代替として、拡散器及び格子又はゾーンプレートによって課される光学的な制約を、単一のDOE内において組み合わせることも可能であり、この場合、たとえば、X軸に方向付けされたラインと擬似ランダム拡散パターンとが重畳されることになる。これらのケースのすべてにおいて、遠視野におけるスペックルのパターンは、拡散器によって提供されたランダムな位置分布と、DOEのフーリエ変換によって規定される形状とを畳み込みしたものとなる。
【0042】
距離Zに伴って変化する更に複雑なパターンを生成するDOEの生成において、類似の重畳法が使用可能である。いくつかの実施例においては、異なる距離の範囲において異なる形状を具備したスポットパターンを生成するべく、DOEをデザインすることが可能である。図2を参照すれば、スポットは、距離Z1において1つの形状を具備し、Z2において別の形状を具備し、以下同様である。例えば、スポットの細長い形状は、ある範囲から次の範囲の間において45°の回転が可能である。結果として、物体28がZAに配置されている間、スポットは、範囲 Z2への向きを具備することになり、物体がZBにある間、スポットは、範囲Z3への向きを具備することになる。この結果、スポットの向きを検出することにより、プロセッサ24(図1)は、スポットの位置相関に基づいた3D再構築プロセスとは無関係に、物体の距離の範囲を判定可能である。測距とマッピングの組み合わせを使用することにより、更に後述するように、改善された測距及び/分解能を有する3Dマップを生成可能である。
【0043】
様々な方法を使用することにより、望ましいZ依存性を有するスポットパターンを生成する単一光学要素をデザイン可能である。この種の範囲依存性のスペックル成形を付与するための光学要素38のデザインに使用可能な1つの方法は、前述のSazbon 他による文献に記述されているように、反復的なGerchberg-Saxton法を使用するというものである。但し、この方法は、計算コストが高く、且つ収束が保証されてはいない。
【0044】
代替として、このような目的の1つ又は複数の光学要素の組を制約の重畳に基づいてデザインすることも可能である。例えば、4つの予め規定された距離において4つの向きを有するZに伴って変化する単一のパターンを単独で実装する要素を(低デューティサイクル及び無相関状態になる位置を有するスポットパターンを生成する)スプリッタと重畳させることにより、異なる個々の距離において4つの異なる向きを有するスペックルを生成するためのこのような1つ又は複数の要素が製作可能である。この単一パターンを生成する要素は、例えば、それぞれが光を範囲の中の1つにおいて適切な個々の方向を有するラインに合焦する4つのゾーンプレートの重畳であってよい。
【0045】
代替方法または追加方法として、重畳を演算し、適切なコンピュータ生成ホログラム(CGH:Computer-Generated Hologram)又はその他のDOEにおいて実現することも可能である。それぞれ、距離Zi(i=1,2、…、K)における光強度(又は、等価的には振幅)に対して課される制約の組Ri(i=1,2、…、K)が付与された場合に、これらの制約を実現する光学要素は、次のように2つのパターンの畳み込みに分解可能であり、
【0046】
【数1】
【0047】
この場合に、Sは、R1、R2、…、RKに対して同一であり、Piは、i=1,2、…、Kであるiに伴って任意に変化することが許容される。これらの制約は、以下のように、光学要素36及び38に対応した2つのフィルタFs、Fvを使用して実現可能である
【0048】
・フィルタFsは、遠視野における強度パターンSを生成しており、これは、これがSの適切な逆フーリエ変換であることを意味している(これは、当技術分野において既知のDOEデザイン法を使用して演算可能である)。
【0049】
・フィルタFvは、それぞれ、距離Zi(i=1,2、…、K)における強度パターンPi(i=1,2、…、K)を生成している。この種の強度パターンは、一般的に、前述のパターンRi(i=1,2、…、K)よりも演算が格段に単純であり、且つ、一般に、当技術分野において既知の方法を使用して個別に生成可能である。
【0050】
合成されたフィルタF=Fs・Fv(この場合、フィルタプレーン内のポイントごとに乗算が実行される)は、それぞれ、距離Zi(i=1,2、…、K)における強度パターンRi(i=1,2、…、K)を実現することになる。
【0051】
この方法の1つの欠点は、
【0052】
【数2】
【0053】
という種類の畳み込みとして表現可能である制約の組についてのみ有効であるという点にある。この欠点は、フレネル・ゾンマーフェルト(Fresnel-Sommerfeld)式の線形性を使用して、任意の制約の組を畳み込みの合計に分解することによって軽減可能である。この結果、それぞれのこのような畳み込み用のフィルタを前述の技法によって生成可能であり、これらのフィルタを重畳することにより、所望の結果を付与可能である。
【0054】
図3A〜図3Dは、本発明の一実施例に従ってデザインされたDOE36及び38を通じてレーザービームを投射することによって生成された画像の概略表現である。このデザインの目的は、Z0からZ0+ΔZに至る所与の範囲にわたるZの関数として、延長軸が、180°にわたって変化する細長いスペックルのパターンを生成することにある。図3A及び図3Bは、それぞれ、Fs及びFvによって生成されたパターンを示しており、これらは、次のように規定されている。
【0055】
・Fsは、Zにおいて変化する必要がないランダムなスペックルの遠視野パターンを生成している。例えば、Fsは、ランダムに分布した200×200個の明るいスペックル50を有すると共に残りの視野が暗くなっている1000×1000個のピクセルのパターンを生成するべくデザイン可能である。スポットのサイズに応じて、デューティサイクルは、通常、略4%〜25%である。このパターンを実現する光学要素36は、当技術分野において既知の技法を使用して生成された位相専用DOEから構成可能である。
【0056】
・Fvは、Z0及びZ0+ΔZのプレーン間の近視野の容積内においてN個の光強度パターンを生成している。図3Bは、所与のZ=Z0+(p/N)ΔZにおける1つのこのようなパターンを示している。このパターンは、V×W個のピクセルを有しており、この場合に、V及びWは、通常、小さい値であり、この場合には、V=W=5である。それぞれのp(p=1、…、N)において、パターンは、垂直との関係において角度θ=180*p/Nだけ回転している。このパターンを実現する光学要素38は、前述のGerchberg-Saxton法を使用することにより、後述するように複数のゾーンプレートを重畳することにより、或いは、当技術分野において既知のDOEデザインの任意のその他の適切な方法を使用することにより、デザイン可能である。このパターンは小さいため、DOEの生成に必要な演算は、いずれの場合にも相対的に簡単である。
【0057】
図3C及び図3Dは、Zの2つの異なる値においてFs及びFvに対応した要素36及び38を重畳させることによって生成されたスペックルのパターンを示している。これらのパターンは、それぞれ、Zに応じて異なる角度に方向付けられた200×200個の細長いスペックル52及び54を有している。距離がZ0からZ0+ΔZに増大するのに伴って、これらのスペックルは、180°だけ回転している。物体28の表面上に投射されたスペックルの角度θを検出し、装置22から投射表面までの距離としてZ=Z0+(p/N)ΔZを付与することで、これにより、プロセッサ24は、p=Nθ/180が判定可能である。
【0058】
図4は、本発明の一実施例による3D測距及びマッピング方法を概略的に示すフローチャートである。以下、わかりやすくするべく、この方法については、図3C及び図3Dに示されているスペックルパターンを使用する図1及び図2に示されているシステム20を参照して説明することとする。但し、この方法は、先程引用した参考文献に記述されているものなどのその他の種類のスペックルに基づいた撮像システムにおいても同様に適用可能である。更には、代替法として、図3C及び図3Dに示されているスペックルの回転線形性の形状の代わりに、その他の種類のスポットパターン及びZに伴って変化するスポット形状特性を生成及び使用することも可能である。
【0059】
物体の測距及び撮像のための準備として、撮像装置22を作動させて1つ又は複数の基準スペックル画像をキャプチャしている。この目的のために、例えば、Z1、Z2、Z3、…、などのZ軸に沿った原点からの1つ又は複数の既知の基準距離において、平面を配置することが可能である。撮像アセンブリ32は、それぞれの距離において照明アセンブリ30によって表面上に投射されたスペックルパターンの基準画像をキャプチャしている。或いは、代替に、スペックルパターンは、基本的に、FvのZに伴って変化する小さなパターンとFsの遠視野スポットパターンとの畳み込みであるため、個々の基準パターンを2つのフィルタについて別個に判定した後に畳み込むことにより、それぞれの距離Zにおける合成パターンを付与することも可能である。この方法は、基準パターンの保存に必要なメモリ量を低減可能である。更には、代替に、全体パターンのデザインを標準化することも可能であり、この場合には、基準のキャプチャが不要となる。
【0060】
試験キャプチャ段階60において、物体28をターゲット領域46内に導入し、物体の表面上に投射されたスペックルパターンの試験画像を装置22によってキャプチャする。次いで、プロセッサ24は、測距段階62において、スペックルの向きの角度を演算する。この目的のために、プロセッサは、例えば、試験画像のスペクトル分析を実行することができる。スペクトルの形状(例えば、長軸及び短軸の方向)は、スペックルの向きの角度に対応することで、今度は、対応スペクトルが物体の範囲を示すことになる。代替方法または追加方法として、プロセッサは、スペックル形状といくつかの異なる基準形状間における相互相関を演算することも可能である。当然のことながら、物体が十分な深度を有している場合には、スペックルの角度が表面上において変化可能であり、この結果、物体の異なる部分が異なる範囲を具備することになる。プロセッサ24は、スペックルの角度が突然変化する場所を物体の端部として識別することが可能である。
【0061】
プロセッサ24は、物体28の粗い3Dマップを生成している間に、段階62の形状に基づいた測距を単独で使用可能である。しかし、図4に示されている実施例において、プロセッサは、再構築段階64において物体28の3Dマップを再構築している間に、スポット位置の三角測量との関連においてこの測距を使用する。この目的のために、プロセッサは、通常、試験画像内の物体表面上の異なる地点と適切な基準画像内のスペックルパターンの対応したエリアの間の局所的なオフセットを計測する。次いで、プロセッサは、これらのオフセットに基づいて、三角測量を使用することにより、これらの物体の地点のZ座標を判定する。これらの目的に使用可能な方法については、前述のPCT特許出願及び先程引用したその他の参考文献に記述されている。
【0062】
段階62における測距と段階64における3D再構築を組み合わせることにより、システム20は、スペックルに基づいた三角測量によって一般的に実現可能であるものよりも高い精度及び/又は低い演算コストによって3D再構築を実行可能であり、且つ、この組み合わせを使用することにより、計測が実行されるZ方向における範囲を増大させることも可能である。例えば、前述のように、異なる基準距離において複数の基準画像をキャプチャしている場合、プロセッサは、その基準距離が段階62において見出された範囲に最も近接している基準画像との関係において局所的なオフセットを計測可能である。プロセッサ24は、測距結果を使用し、チェックを要する又は相対的に大きな精度によるオフセットの演算を要する異なる局所的なオフセット値の数を制限可能であるため、単一の基準画像のみが使用されている場合にも、段階64における三角測量の精度及び/又は速度を向上させることができる。
【0063】
段階60〜64は、ターゲット領域46内において物体28の動きを追跡するべく、継続的に反復可能である。このために、装置22は、物体が移動している間に一連の試験画像をキャプチャしており、プロセッサ24は、物体の3D移動を追跡するべく、段階62及び64を反復する。いくつかの反復においては、物体が以前の反復以降にそれほど遠くには移動していないと仮定することにより、段階62をスキップ可能であろう。
【0064】
代替実施例(図示されてはいない)においては、スペックルパターンのシフトに基づいた三角測量を粗い測距に使用しており、スペックル形状特性の変化を正確な3Dマッピングに使用している。三角測量の精度は、特に、照明アセンブリ30と画像キャプチャアセンブリ32との間のX軸に沿った離隔幅によって左右される。粗い三角測量しか必要とされていない場合には、アセンブリ30及び32を1つに近接した状態において配置し、これにより、装置22の更に小型のデザインを実現可能である。
【0065】
例えば、ターゲット領域46内において、スペックル形状のZに伴って変化するパターンをいくつかのサイクルにわたって複製することにより、形状に基づいたZ方向の計測精度の改善が実現可能である。換言すれば、前述の回転線形スペックル形状及び図2に示されている構成の例を参照した場合に、スペックルの向きは、Z1とZ2との間において、次いで、Z2とZ3との間において、そして、再度、Z3とZ4との間において、180°にわたって変化可能である。プロセッサ24は、スペックルの三角測量の結果を使用することにより、これらの3つの範囲の中のいずれに物体が配置されているのかを決定した後に、スペックルの向きを使用し、その範囲内における物体の正確な3Dマップを構築することになる。或いは、代替方法として、上述のように、図3C及び図3Dに示されている方向変動の代わりに、その他のZに伴って変化するスポット形状特性は、本願の明細書において使用することも可能である。
【0066】
様々な方法を使用することにより、Zに伴って変化する形状をZにおける複数のサイクルにわたって複製可能である。例えば、適切な多焦点レンズ(図示されてはいない)を使用してパターンをターゲット領域46上に合焦可能である。このようなレンズは、例えば、異なる個々の焦点距離を有するいくつかのフレネル(Fresnel)・ゾーンプレートの重畳から構成可能である。或いは、代替方法として、ベンエリエゼル(Ben Eliezer)他によって「All Optical Extended Depth of Field Imaging System」(Journal of Optica and Pure Physics-A、5(2003年)、S164〜S169頁)に記述されている技法を使用して適切な多焦点レンズをデザインすることも可能であり、この文献の内容は、本引用により、本明細書に包含される。更には、代替方法として、複数のサイクルにわたって反復するスペックル形状を付与するべく、光学要素38を最初から前述の重畳法を使用してデザインすることも可能である。
【0067】
図5A〜図5Qは、本発明の一実施例による成形されたスポットのパターンを生成するべく光学要素38を製造するための方法を概略的に示している。図5A〜図5Pは、ゾーンプレート70の組の概略正面図であり、図5Qは、図5A〜図5Pのゾーンプレートを重畳することによって生成されたDOE72の概略正面図である。DOE72は、図3C及び図3Dに示されている種類の回転線形スポットを生成するべく、適切な拡散器又はその他のビーム分割フィルタFsと共に使用されるフィルタFvとして機能可能である。
【0068】
ゾーンプレート70のそれぞれのものは、波長λ用にデザインされたn=1、…、N(この例においては、N=16である)である焦点距離fnのフレネル・ゾーンプレートである。このようなゾーンプレートの透過関数は、次式によって付与される。
【0069】
【数3】
【0070】
ここで、それぞれのゾーンプレート内のX−Y軸は、(n−1)π/Nだけ回転している。或いは、代替に、ゾーンプレート70は、透明な位相専用ゾーンプレートとしてデザインすることも可能である。DOE72は、これらのN個のゾーンプレートの重畳74から構成されている。この重畳は、π/N(fn−fn−1)rad/mのレートにおいてZの関数として回転するラインを生成することになる。
【0071】
様々な方法を使用することにより、ゾーンプレート70を重畳可能である。例えば、重畳は、図5Qに示されているように、16個のコンポーネントゾーンプレートから切り出された「パイ・スライス(pie slice)」カットの集まりとして製作可能である。或いは、代替に、異なるゾーンプレート片をランダムに抽出してアセンブルすることにより、重畳を生成可能である。更には、代替に、コンポーネントゾーンプレートをDOE72内のそれぞれの地点において合計することにより、それぞれの地点における合計透過率又は位相シフトの適切な量子化を有する単一パターンを生成することも可能である。
【0072】
或いは、代替に、光学要素38は、前述のゾーンプレートの代わりに、屈折レンズのアレイから構成することも可能である。この場合には、パイ・スライス又はランダムな分布における異なる向きの(マイクロレンズなど)円筒形レンズの重畳を使用することにより、Zに伴って変化する所望のパターンを生成可能である。
【0073】
図6A〜図6Dは、本発明の別の実施例に従ってデザインされたDOEを通じてレーザービームを投射することによって生成された画像の概略表現である。先行する実施例において示されている例は、特に、回転線形形状を有するスペックルのパターンに関係したものであるが、本発明の原理は、その他のタイプのZに伴って変化するパターンの生成及びこのようなパターンを使用した光学測距においても同様に適用可能である。図6A〜図6Dは、一例を示しており、この場合には、スペックル80及び82は、円形又は楕円形の形態において共通的な形態的特性を具備している。それぞれのスポットの形状の半径は、全体としてのパターンの線形倍率とは異なるレートにおいて照明アセンブリからの距離に伴って変化しており、これにより、距離に関する情報を提供している。その他の種類の形状及びパターンも、当業者には明らかであり、且つ、本発明の範囲に属するものと見なされる。
【0074】
図6A及び図6Bは、それぞれ、Fs及びFvによって生成されたパターンを示している。先行する例と同様に、Fsは、Zにおいて変化する必要がないランダムスペックルのパターン50を生成している。Fvは、環状の光強度パターンをターゲット領域内に生成している。環の半径は、画像キャプチャアセンブリ32によってキャプチャされた画像内において観察されるスポットの半径に基づいた測距を実現する方式により、Zに伴って変化している。先程説明したように、このパターンを実装する光学要素は、Gerchberg-Saxton法を使用することにより、又は異なるサイズ特性を有する単純な円形又は楕円形パターンを生成する複数の回折光学要素を重畳することにより、又は当技術分野において既知であるDOEデザインの任意のその他の適切な方法を使用することにより、デザイン可能である。
【0075】
図6C及び図6Dは、コヒーレントな光をZの2つの異なる値に位置した表面を有する(Fs及びFvに対応した)要素36及び38を通過させることによって表面上に投射されるスペックルパターンの画像を示している。これらは、画像キャプチャアセンブリ32によってキャプチャされた際の画像である。これらのパターンは、それぞれ、Zに応じて異なる半径を有する楕円形のスペックル80及び82を有している。距離がZ0からZ0+ΔZに増大するのに伴って、物体28の表面上に投射され、且つ、センサ42上において撮像されるスペックルの半径は、既知のレートにおいて増大又は減少する。従って、スペックルの半径を計測することにより、プロセッサ24は、装置22からその表面までの範囲を判定可能である。更には、プロセッサは、X−Yプレーンとの関係における表面の傾斜角度を判定するべく、スペックルの形状の変化を検出及び分析することも可能である。
【0076】
前述の実施例は、具体的には、2つの光学要素36及び38を使用して通常は実装される2つのタイプのパターンの重畳に関係しているが、この実施例において使用されるデザイン法を3つ以上のパターンの重畳に拡張することも可能である。前述のように、この方法は、次式のようにL個のパターンの畳み込みとして提示可能である投射光パターンに対する制約iに適用可能である。
【0077】
【数4】
【0078】
この場合、L個のフィルタFl(l=1、2、…、L)は、フィルタFlが、それぞれ、Zi(i=1、2、…、K)においてパターンPli(i=1、2、…、K)を実装するようにデザインされている。合成されたフィルタ
【0079】
【数5】
【0080】
は、係数Lだけ低減されたZスケールにおいて
【0081】
【数6】
【0082】
を実現している。従って、デザイン段階において、フィルタは、係数Lだけスケールアップされている。一般的なスカラー回折理論を使用することにより、zにおけるフィールド分布U(x,y,z)が、
【0083】
【数7】
【0084】
によって付与されることになることを示すことが可能である。この場合、Ul(x,y,z)は、距離zにおいて生成されるパターンフィルタlであり、
【0085】
【数8】
【0086】
は、畳み込みを表している。
【0087】
更には、前述の実施例は、特にスペックル成形並びにスペックルに基づいた3D測距及びマッピングに関係しているが、多制約フィルタ及びその他の光学要素(並びに、特にZに伴って変化するパターンを生成する要素)をデザインするための前述の方法を使用することにより、複雑な光パターンを必要としているその他のアプリケーションの光学要素を生成することも可能である。
【0088】
従って、前述の実施例は、一例として引用したものであり、本発明は、以上において具体的に図示及び説明したものに限定されるものではないことを理解されたい。むしろ、本発明の範囲は、以上の説明を参照した間、当業者が想起し、且つ、従来技術には開示されていない前述の様々な特徴の組み合わせ及びサブ組み合わせの両方、並びに、その変形及び変更をも包含している。
【図面の簡単な説明】
【0089】
【図1】本発明の一実施例による3D測距及びマッピングシステムの画的な概略図である。
【図2】本発明の一実施例によるスペックル撮像装置の概略平面図である。
【図3A】本発明の一実施例によるランダム化の光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図3B】本発明の一実施例による回折光学要素(DOE)によって生成された光パターンの概略表現である。
【図3C】本発明の一実施例による図3A及び図3Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図3D】本発明の一実施例による図3A及び図3Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図4】本発明の一実施例による3D測距及びマッピング方法を概略的に示すフローチャートである。
【図5A】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5B】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5C】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5D】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5E】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5F】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5G】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5H】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5I】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5J】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5K】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5L】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5M】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5N】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5O】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5P】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5Q】本発明の一実施例による図5A〜図5Qのゾーンプレートの重畳によって生成されたDOEの概略前面図である。
【図6A】本発明の一実施例によるランダム化の光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図6B】本発明の一実施例による回折光学要素(DOE)によって生成された光パターンの概略表現である。
【図6C】本発明の一実施例による図6A及び図6Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図6D】本発明の一実施例による図6A及び図6Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【技術分野】
【0001】
本発明は、一般に、三次元(3D)物体をマッピングする方法及びシステムに関するものであり、更に詳しくは、3Dの光学測距及びマッピングに関するものである。
【背景技術】
【0002】
コヒーレントな光ビームを、拡散器を通過させ表面上に投射させると、当該表面上で一次スペックルパターンが観察可能となる。一次スペックルは、拡散されたビーム間の異なる成分における干渉によって生成される。尚、この「一次スペックル」という用語は、本特許出願においては、物体の粗い表面からのコヒーレント光の拡散反射によって生成される二次スペックルとは区別して使用される。
【0003】
ハート(Hart)は、中華民国での特許(TW527528B)及び米国への特許出願(09/616,606号)において高速3D撮像システムにおけるスペックルパターンの使用法について記述しており、この開示内容は、本引用により本明細書に包含される。このシステムは、能動的な撮像素子及びCCD素子を有する単一レンズのカメラサブシステムと、相関処理サブシステムとを含む。能動的な撮像素子は、焦点がぼけた画像間における非等辺の間隔(non-equilateral spacing)を調節可能にして、相対的に深い被写界深度及び高いサブピクセル変位精度を実現できる回転アパーチャであってよい。スペックルパターンを物体上に投射し、この結果得られるパターンの画像を、複数の角度から取得している。これらの画像を、画像相関法を使用して局所的に相互相関させ、相対的なカメラ位置情報を使用して表面位置を決定し、それぞれの局所的な相関領域の三次元座標を算出している。
【0004】
スペックルに基づいた別の3D撮像法は、ハンター(Hunter)他によって米国特許(6,101,269号)に記述されており、この開示内容は、本引用により本明細書に包含される。ランダムなスペックルパターンを3D表面上に投射し、複数のカメラによって撮像することにより、複数の二次元デジタル画像を取得している。これらの二次元デジタル画像を処理して表面の三次元の特徴を取得している。
【0005】
3Dマッピング及び測距の別の方法は、構造化又はコード化された照明を使用している。例えば、Sazbon 他は、この種の範囲推定法について「Qualitative Real-Time Range Extraction for Preplanned Scene Partitioning Using Laser Beam Coding」(Pattern Recognition Letters 26(2005年)、1771〜1781頁)に記述しており、この内容は、本引用により本明細書に包含される。位相専用フィルタは、レーザービームを作業空間内のM個の異なる範囲セグメントに対応したM個の異なる回折パターンにコード化している。従って、照明されたシーン内のそれぞれのプレーンは、光源からのそのプレーンの範囲に対応したパターンによって照射されることになる。一般的なカメラを使用することにより、シーンの画像をキャプチャ可能であり、シーンの画像を処理してシーン内の物体の範囲を判定可能にしている。著者らは、Gerchberg-Saxtonアルゴリズムに基づいて位相専用フィルタをデザインする反復的な手順について記述している。
【発明の開示】
【課題を解決するための手段】
【0006】
以下に記述する本発明の実施例は、成形されたスポット照明パターンを使用した3Dマッピング及び測距の方法及びシステムを提供する。この照明パターンは、制御された且つ識別可能な形状を備えた明るいスポットのアレイを有している。いくつかの実施例において、スポットの相対的な位置は、(例えば、スペックルパターンなどのランダム又は擬似ランダムなパターンにおいて)無相関状態になるが、これらのスポットは、いずれの場合にも、予め規定された類似の形状特性を共有している。特定の実施例においては、スポットは、特定の方向において細長くなっており、これは、照明ビームに対して直角に走る所与のプレーン内のすべてのスポットに共通している。但し、上記の代わりに、その他のスポット形状を使用することも可能である。
【0007】
いくつかの実施例においては、スポットの形状特性は、照明源からの距離に伴って変化する。この距離に伴って変化する形状特性は、光学的な2つの制約を重畳するようにデザインされた1つ又は複数の光学要素に照明ビームを通過させることによって実現可能である。光学的な2つの上記制約の1つは、ビームを複数のスポットに分割することであり、別のもう1つは、距離に伴って変化する形状を生成することである。上記重畳法は、距離に伴って変化する様々なパターンを、簡単且つ柔軟に生成することを可能にする。この距離に伴って変化する形状特性の成果として、パターンによって照明された物体表面の一部に現れるスポットの形状は、照明源から物体の各表面部分までの範囲を判定するのに使用可能とする。
【0008】
いくつかの実施例において、物体表面上のパターン部分の横断方向のシフトは、既知の範囲に位置した基準パターンとの関係において、物体表面の3Dマップを再構築するのに使用される。形状に基づいた測距およびシフトに基づいたマッピングの組み合わせは、照明源からの広い範囲の距離をカバーする正確な3Dマップを生成するのに使用することが可能である。
【0009】
従って、本発明の一実施例によれば、マッピング法が提供されており、この方法は、
個々の位置及び個々の形状を有する複数のスポットのパターンを物体上に投射する段階であって、上記形状が共通的特性を共有する一方で、上記パターン内の上記スポットの位置が無相関状態になるような、投射段階と、
上記物体上の上記スポットの画像をキャプチャする段階と、
上記物体の三次元(3D)マップを導出するべく上記画像を処理する段階と、を含む。
【0010】
一実施例において、上記スポットのパターンは、ランダムスペックルパターンを含む。
【0011】
いくつかの実施例において、形状の共通的特性は、パターンの供給源からの距離の関数として変化し、画像を処理する段階は、供給源からの表面までの距離を判定するべく画像内の物体の表面上のスポットの特性を分析する段階を含む。一実施例において、スポットは、パターンの供給源からの距離の関数として回転する細長い形状を共有しており、且つ、特性を分析する段階は、物体の表面上におけるスポットの方向を判定する段階を含む。代替方法又は追加方法として、画像を処理する段階は、画像内の物体の複数のエリア上のパターンと基準画像内のパターンとの間の個々のオフセットを見出す段階と、3Dマップを導出するために、距離と共にオフセットを使用する段階と、を含む。個々のオフセットを見出す段階は、供給源から表面までの距離に対して応答可能なように、複数の基準画像の中から基準画像を選択する段階を含むことが可能である。
【0012】
別の実施例において、パターン内のスポットは、第1方向において配列された細長い形状を有し、且つ、画像を処理する段階は、3Dマップを導出するために、画像内の物体の複数のエリア上のパターンと基準画像内のパターンとの間において、第1方向に垂直である第2方向における個々のオフセットを見出す段階を含む。スポットのパターンを投射する段階は、コヒーレントな光ビームに拡散器を通過させる段階を含むことが可能であり、そして、上記光ビームは、第2方向に細長い拡散器においてプロファイルを有している。
【0013】
開示した実施例において、画像をキャプチャする段階は、画像が移動する間に一連の画像をキャプチャする段階を含み、画像を処理する段階は、一連の画像を処理することにより物体の移動を追跡する段階を含む。一実施例において、物体は、人体の一部であり、移動を追跡する段階は、人体の一部によって実行されたジェスチャーを識別する段階と、ジェスチャーに対して応答可能なように、コンピュータアプリケーションに入力を提供する段階と、を含む。
【0014】
又、本発明の一実施例によれば、撮像方法も提供されており、この方法は、
光ビームに対する第1の光学的制約の適用が、光ビームを複数のスポットのパターンに分割するような、第1の光学的制約を規定する段階と、
光ビームに対する第2の光学的制約の適用が、光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えるスポットを光ビームに形成させるような、第2の光学的制約を規定する段階と、
上記第1の光学的制約及び上記第2の光学的制約を重畳させるべく、少なくとも1つの光学要素をデザインする段階と、
パターン内の複数のスポットが形状特性を備えるように、パターンを表面上に投射するために、少なくとも1つの光学要素を通じて光ビームを導く段階と、を含む。
【0015】
いくつかの実施例において、少なくとも1つの光学要素は、ビームをパターンに分割するための第1光学要素と、形状特性に適用するための第2光学要素と、を含む。一実施例において、パターンは、スペックルパターンを含み、第1光学要素は、拡散器を含む。
【0016】
代替方法又は追加方法として、少なくとも1つの光学要素は、回折光学要素(DOE:Diffractive Optical Element)を含む。一実施例において、DOEは、細長い形状をスポットに付与するための少なくとも1つのゾーンプレートを含む。上記少なくとも1つのゾーンプレートは、スポットの細長い形状を距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳するゾーンプレートを含むことが可能である。
【0017】
更に、代替方法又は追加方法として、少なくとも1つの光学要素は、屈折光学要素を含む。
【0018】
通常、第1の光学的制約によって規定されるパターンは、1/4を上回らないデューティサイクルを備える。
【0019】
いくつかの実施例において、パターンは、位置が無相関状態となるように、スポットの個々の位置を規定している。
【0020】
開示した一実施例において、第2の光学的制約は、スポットに、距離の関数として回転する細長い形状を備えさせている。別の実施例においては、第2の光学的制約は、スポットに、環形状を備えさせている。
【0021】
いくつかの実施例において、本方法は、表面上のスポットの画像をキャプチャする段階と、少なくとも1つの光学要素から表面までの距離を判定するべく画像を処理する段階と、を含む。
【0022】
本発明の一実施例によれば、マッピング装置が更に提供されており、この装置は、個々の位置及び個々の形状を有した複数のスポットのパターンを物体上に投射するように構成された照明アセンブリであって、上記形状が共通的特性を共有する一方で上記パターン内の上記スポットの上記位置が無相関状態になるような、照明アセンブリと、
物体上のスポットの画像をキャプチャするように構成された撮像アセンブリと、
物体の三次元(3D)マップを導出するために画像を処理するように結合された画像プロセッサと、を含む。
【0023】
本発明の一実施例によれば、撮像装置が更に提供されており、この装置は、
第1の光学的制約及び第2の光学的制約を重畳するようにデザインされた少なくとも1つの光学要素であって、上記第1の光学的制約の光ビームへの適用が、光ビームを複数のスポットのパターンに分割することであり、上記第2の光学的制約の光ビームへの適用が、光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えたスポットを前記ビームに形成させるようにする、光学要素と、
パターン内の複数のスポットが形状特性を具備するようにパターンを表面上に投射するために、少なくとも1つの光学要素を通じて光ビームを導くように構成された光源と、を含む。
【0024】
添付の図面との関連において、その実施例に関する以下の詳細な説明を参照することにより、本発明について更に理解することができよう。
【発明を実施するための最良の形態】
【0025】
(システムの概要)
図1は、本発明の一実施例による3D測距及びマッピングシステム20の画的な概略図である。システム20は、スポットのパターンを生成して物体28上に投射し、且つ、物体上に現れるスポットパターンの画像をキャプチャする撮像装置22を有している。装置22のデザイン及び動作の詳細については、以降の図面に示されており、且つ、それらの図面を参照して後述することとする。
【0026】
いくつかの実施例において、撮像装置22によって投射されるスポットのパターンは、スペックルパターンを含む。本特許出願の明細書および各請求項において、この「スペックルパターン」という用語は、投射ビーム軸を横断するプレーン内において無相関状態となっている位置の明るいスポットでの投射パターンを意味している。これらの位置は、パターン内のスペックルの位置の自動相関が、横断方向のシフト関数としてスポットサイズよりも大きなどのようなシフトにとっても重要でないという意味において無相関状態にある。一次レーザースペックルによって生成されるものなどのランダムパターン(前述のものなど)は、この意味において無相関状態にある。擬似ランダム及び準ランダムパターンなどの人間又はコンピュータデザインによって生成されるパターンも、無相関状態にすることができる。システム20内において実装可能であるスペックルに基づいた3Dマッピングの理論及び動作のその他の側面については、2006年3月14日付けで出願されたPCT特許出願(PCT/IL2006/000335)及び2007年3月8日付けで出願された「Three-Dimensional Sensing Using Speckle Patterns」という名称のPCT特許出願に記述されている。これらの出願は、いずれも、本特許出願の譲受人に譲渡されており、且つ、それらの開示内容は、本引用により、本明細書に包含される。
【0027】
その他の実施例において、スポットは、照明ビームをDamman格子又は適切な微小レンズアレイに通過させることによって生成可能であるタイプのパターンなどのような、規則的な非ランダムなパターン内において配列可能である。
【0028】
後述する測距及びマッピングアプリケーションにおける良好な性能のためには、スポットパターンは、低デューティサイクルを有していることが有利である。即ち、平均を上回る輝度を有するパターンのエリア部分が、1/eを上回ってはおらず、望ましくは、1/4未満、又は1/10未満であることが有利である。低いデューティサイクルは、3Dマッピングのためのスポットシフトの検出における信号/雑音比の向上に有利である。また、低いデューティサイクルは、隣接するスポットがオーバーラップした間、結果的に生じる干渉の影響を回避するのにも有用である。
【0029】
スポット(スペックル)の位置が無相関状態にある間も、本発明の実施例において使用されるパターン内のスポットの形状は、従来のレーザースペックルパターンにおけるように完全にランダムだけでなく、共通的な形状特性をも有している。例えば、後述するように、いくつかの実施例においては、スポットは、特定の軸に沿って細長くなっている。追加方法または代替方法として、スポットは、形状が制御されて、照明ビームの軸に沿った距離の関数としての形状の変化が識別可能である限り、その他の共通的な形状特性を有することが可能である。尚、本明細書における「形状の変化」という用語は、照明源からの距離に伴って通常発生するスポットサイズの単純な線形性の増加以外の変化を意味する。
【0030】
画像プロセッサ24は、物体28の深度測距、および選択した時の物体28の3Dマッピングを実行するために、装置22によって生成された画像データを処理する。尚、この本特許出願及び各請求項において使用される「測距」という用語は、撮像装置から物体までの距離の粗い尺度を見出すことを意味しており、一方、「3Dマップ」という用語は、物体の表面を表す3D座標の組を意味している。このような画像データに基づいたマップの導出は、「3Dマッピング」、又は等価的に「3D再構築」と呼ばれている。後述するように、3D再構築プロセスにおいては、測距及びマッピングの両方を粗いフェーズ及び微細なフェーズとして同時に使用可能である。従って、測距は、ある種の粗い3Dマッピングであると見なすことも可能である。
【0031】
このような測距及びマッピングを実行する画像プロッサ24は、後述する機能を実行するべくソフトウェアにおいてプログラムされた汎用コンピュータプロセッサから構成可能である。ソフトウェアは、例えば、ネットワーク上において、プロセッサ24に電子的な形態においてダウンロード可能であり、或いは、代替として、光学、磁気、又は電子的なメモリ媒体などの実体のある媒体上において提供することも可能である。代替方法または追加方法として、画像プロセッサの機能のいくつか又はすべてを、カスタム又はセミカスタム集積回路又はプログラム可能なデジタル信号プロセッサ(DSP)などの専用のハードウェアにおいて実装することも可能である。尚、プロセッサ24は、図1には、一例として、撮像装置22とは別個のユニットとして示されているが、プロセッサ24の処理機能のいくつか又はすべてを、撮像装置のハウジング内の適切な専用回路、又はさもなければ撮像装置と関連付けられた適切な専用回路によって実行することも可能である。
【0032】
プロセッサ24によって生成される3Dマップは、様々な異なる目的に使用可能である。例えば、このマップは、物体の擬似3D画像を表示するディスプレイ26などの出力装置に送信可能である。図1に示されている例においては、物体28は、対象物の本体の全部又は一部(例えば、手)から構成されている。この場合には、システム20を使用することにより、ジェスチャーに基づいたユーザーインターフェイスを提供可能であり、この場合には、装置22によって検出されたユーザーの動きにより、マウス、ジョイスティック、又はその他のアクセサリなどの触覚的なインターフェイス要素の代わりに、ゲームなどの対話型のコンピュータアプリケーションを制御する。或いは、代替に、システム20を使用することにより、3D座標プロファイルを必要としている実質的にあらゆるアプリケーションにおいて、その他のタイプの物体の3Dマップを生成することも可能である。
【0033】
図2は、本発明の一実施例による装置22の概略平面図である。装置22内の照明アセンブリ30は、通常はレーザーであるコヒーレントな光源34と、後述するように、スペックルパターン又はスポットのその他のパターンを生成するべく組み合わせとして通常は使用される1つ又は複数の光学要素36、38と、を含む。(尚、本特許出願の明細書における「光」という用語は、赤外線及び紫外線、並びに、可視光を含む任意の種類の光学的放射を意味する)。供給源34によって放射された光ビームは、光学要素36及び38を通過し、物体28が配置されているターゲット領域46を照射している。画像キャプチャアセンブリ32は、物体28上に投射されたパターンの画像をキャプチャしている。アセンブリ32は、画像を画像センサ42上に合焦する対物用光学素子40を含む。通常、センサ40は、CCD又はCMOSベースの画像センサアレイなどの検出器要素44の直線アレイを含む。
【0034】
図2に示されている実施例においては、照明アセンブリ30及び画像キャプチャアセンブリ32は、固定された空間的関係に保持されている。後述するこの構成及び処理法によれば、照明及び画像キャプチャアセンブリ間における相対的な移動を伴うことなしに、且つ、可動部品を伴うことなしに、単一の画像キャプチャアセンブリを使用して3Dマッピングを実行可能である。代替として、後述する照明、測距、及びマッピングの技法は、先の背景技術の箇所で記述した様々な異なる構成に、その他の種類の画像キャプチャアセンブリを併用させて、使用することも可能である。例えば、画像キャプチャアセンブリは、照明アセンブリとの関係において移動可能であってよい。追加方法又は代替方法として、複数の画像キャプチャアセンブリを使用することにより、異なる角度から物体28の画像をキャプチャすることも可能である。
【0035】
3Dマップの演算、及び図2の構成における物体28の動きに起因したマップ内の変化の演算を単純化するべく、アセンブリ30及び32は以下のように取り付けることが可能である。すなわち、画像キャプチャアセンブリ32の入射瞳孔と、光学要素36上の光源34によって形成されるスポットとの中心を通過する軸が、センサ40の軸の1つと平行になるように取り付けることが可能である(これは、X軸になるように便宜され、Z軸は装置22からの距離に対応することになる)。この構成の利点については、「Three-Dimensional Sensing Using Speckle Patterns」という名称の前述のPCT特許出願に更に説明されている。
【0036】
具体的には、この構成における三角測量によれば、物体上のポイントのZ方向のシフトδZは、画像内において観察されるスポットパターン内の随伴する横断方向のシフトδXを生成することになる。従って、既知の距離Zにおいて取得された基準画像との関係においてアセンブリ32によってキャプチャされた画像内のスポットのX座標におけるシフトを計測することにより、物体上のポイントのZ座標と、時間に伴うZ座標におけるシフトを判定可能である。Y方向のシフトは無視可能である。この種の三角測量法は、特にスペックルパターンを使用している3Dマッピングに好適であるが、その他のタイプのスポットパターンと共に使用するべく、この方法の態様を適合させることも可能である。
【0037】
換言すれば、キャプチャされた画像のそれぞれのエリア内のスポットのグループを基準画像と比較することにより、基準画像内の最も緊密にマッチングしているスポットのグループを見出している。画像内のマッチングしているスポットのグループ間における相対的なシフトは、基準画像との関係におけるキャプチャされた画像のエリアのZ方向のシフトを付与している。スポットパターン内におけるシフトは、画像相関又は当技術分野において既知のその他の画像マッチング演算法を使用して計測可能である。いくつかの模範的な方法については、前述のPCT特許出願に記述されている。
【0038】
(共通的な形状特性を有するスペックルパターンの生成)
共通的な形状特性を有するスポットのパターンを使用することにより、いくつかの方法においてシステム20の動作を向上させることができる。例えば、X方向のシフトのみが物体の3D再構築において有意である前述の装置22の構成においては、Y方向に細長くなったスペックルのパターンを使用することが有利であろう。この結果、プロセッサ24がZ方向のシフトを検出する目的で画像間における相関を演算する間、この演算は、Y方向におけるスペックルの小さなシフトの影響を受けにくくなる。この機能により、X方向のシフト演算の安定性が改善される(且つ、演算において相対的に小さな相関ウィンドウを使用可能であろう)。
【0039】
Y方向において細長く、且つ、X方向における位置が無相関状態になるような種類のスペックルパターンを生成するために、いくつかの方法を使用することが可能である。1つの可能性は、X方向に細長くなった粒子のランダムに配列されたアレイと共に、光学要素36を拡散器として構成するというものである(この場合には、要素38は不要であろう)。上記粒子は、例えば、不透明であってよく、或いは、代替として、上記粒子は、透過光の位相の変化を生成するべく、異なる厚さを有することも可能である。別の代替方法として、光源34からの光ビームをX方向に細長くしつつ、要素36が従来の等方性の拡散器を有することも可能である。この目的のために、例えば、供給源と拡散器との間の円筒形レンズ(図示されてはいない)を使用することも可能である。
【0040】
更に別の選択肢は、要素36を(等方性であってよい)拡散器から構成すると共に、要素38を回折光学要素(DOE)から構成するというものである。Y軸に沿って細長い望ましいスペックルを生成するべく、要素38は、X軸に平行に方向付けされたラインを有する適切な格子又はゾーンプレートから単純に構成することが可能である。
【0041】
尚、概念的な明瞭性のために、要素36及び38は、図2には、別個のコンポーネントであるものとして示しているが、拡散器及びDOEは、通常、互いに接触状態にあり、且つ、1つに接着することも可能である。或いは、代替として、光学ブランクの片面上にDOEを形成して、他面を研磨して拡散器を生成することにより、要素36及び38を一体成形品として製造することも可能である。更には、代替として、拡散器及び格子又はゾーンプレートによって課される光学的な制約を、単一のDOE内において組み合わせることも可能であり、この場合、たとえば、X軸に方向付けされたラインと擬似ランダム拡散パターンとが重畳されることになる。これらのケースのすべてにおいて、遠視野におけるスペックルのパターンは、拡散器によって提供されたランダムな位置分布と、DOEのフーリエ変換によって規定される形状とを畳み込みしたものとなる。
【0042】
距離Zに伴って変化する更に複雑なパターンを生成するDOEの生成において、類似の重畳法が使用可能である。いくつかの実施例においては、異なる距離の範囲において異なる形状を具備したスポットパターンを生成するべく、DOEをデザインすることが可能である。図2を参照すれば、スポットは、距離Z1において1つの形状を具備し、Z2において別の形状を具備し、以下同様である。例えば、スポットの細長い形状は、ある範囲から次の範囲の間において45°の回転が可能である。結果として、物体28がZAに配置されている間、スポットは、範囲 Z2への向きを具備することになり、物体がZBにある間、スポットは、範囲Z3への向きを具備することになる。この結果、スポットの向きを検出することにより、プロセッサ24(図1)は、スポットの位置相関に基づいた3D再構築プロセスとは無関係に、物体の距離の範囲を判定可能である。測距とマッピングの組み合わせを使用することにより、更に後述するように、改善された測距及び/分解能を有する3Dマップを生成可能である。
【0043】
様々な方法を使用することにより、望ましいZ依存性を有するスポットパターンを生成する単一光学要素をデザイン可能である。この種の範囲依存性のスペックル成形を付与するための光学要素38のデザインに使用可能な1つの方法は、前述のSazbon 他による文献に記述されているように、反復的なGerchberg-Saxton法を使用するというものである。但し、この方法は、計算コストが高く、且つ収束が保証されてはいない。
【0044】
代替として、このような目的の1つ又は複数の光学要素の組を制約の重畳に基づいてデザインすることも可能である。例えば、4つの予め規定された距離において4つの向きを有するZに伴って変化する単一のパターンを単独で実装する要素を(低デューティサイクル及び無相関状態になる位置を有するスポットパターンを生成する)スプリッタと重畳させることにより、異なる個々の距離において4つの異なる向きを有するスペックルを生成するためのこのような1つ又は複数の要素が製作可能である。この単一パターンを生成する要素は、例えば、それぞれが光を範囲の中の1つにおいて適切な個々の方向を有するラインに合焦する4つのゾーンプレートの重畳であってよい。
【0045】
代替方法または追加方法として、重畳を演算し、適切なコンピュータ生成ホログラム(CGH:Computer-Generated Hologram)又はその他のDOEにおいて実現することも可能である。それぞれ、距離Zi(i=1,2、…、K)における光強度(又は、等価的には振幅)に対して課される制約の組Ri(i=1,2、…、K)が付与された場合に、これらの制約を実現する光学要素は、次のように2つのパターンの畳み込みに分解可能であり、
【0046】
【数1】
【0047】
この場合に、Sは、R1、R2、…、RKに対して同一であり、Piは、i=1,2、…、Kであるiに伴って任意に変化することが許容される。これらの制約は、以下のように、光学要素36及び38に対応した2つのフィルタFs、Fvを使用して実現可能である
【0048】
・フィルタFsは、遠視野における強度パターンSを生成しており、これは、これがSの適切な逆フーリエ変換であることを意味している(これは、当技術分野において既知のDOEデザイン法を使用して演算可能である)。
【0049】
・フィルタFvは、それぞれ、距離Zi(i=1,2、…、K)における強度パターンPi(i=1,2、…、K)を生成している。この種の強度パターンは、一般的に、前述のパターンRi(i=1,2、…、K)よりも演算が格段に単純であり、且つ、一般に、当技術分野において既知の方法を使用して個別に生成可能である。
【0050】
合成されたフィルタF=Fs・Fv(この場合、フィルタプレーン内のポイントごとに乗算が実行される)は、それぞれ、距離Zi(i=1,2、…、K)における強度パターンRi(i=1,2、…、K)を実現することになる。
【0051】
この方法の1つの欠点は、
【0052】
【数2】
【0053】
という種類の畳み込みとして表現可能である制約の組についてのみ有効であるという点にある。この欠点は、フレネル・ゾンマーフェルト(Fresnel-Sommerfeld)式の線形性を使用して、任意の制約の組を畳み込みの合計に分解することによって軽減可能である。この結果、それぞれのこのような畳み込み用のフィルタを前述の技法によって生成可能であり、これらのフィルタを重畳することにより、所望の結果を付与可能である。
【0054】
図3A〜図3Dは、本発明の一実施例に従ってデザインされたDOE36及び38を通じてレーザービームを投射することによって生成された画像の概略表現である。このデザインの目的は、Z0からZ0+ΔZに至る所与の範囲にわたるZの関数として、延長軸が、180°にわたって変化する細長いスペックルのパターンを生成することにある。図3A及び図3Bは、それぞれ、Fs及びFvによって生成されたパターンを示しており、これらは、次のように規定されている。
【0055】
・Fsは、Zにおいて変化する必要がないランダムなスペックルの遠視野パターンを生成している。例えば、Fsは、ランダムに分布した200×200個の明るいスペックル50を有すると共に残りの視野が暗くなっている1000×1000個のピクセルのパターンを生成するべくデザイン可能である。スポットのサイズに応じて、デューティサイクルは、通常、略4%〜25%である。このパターンを実現する光学要素36は、当技術分野において既知の技法を使用して生成された位相専用DOEから構成可能である。
【0056】
・Fvは、Z0及びZ0+ΔZのプレーン間の近視野の容積内においてN個の光強度パターンを生成している。図3Bは、所与のZ=Z0+(p/N)ΔZにおける1つのこのようなパターンを示している。このパターンは、V×W個のピクセルを有しており、この場合に、V及びWは、通常、小さい値であり、この場合には、V=W=5である。それぞれのp(p=1、…、N)において、パターンは、垂直との関係において角度θ=180*p/Nだけ回転している。このパターンを実現する光学要素38は、前述のGerchberg-Saxton法を使用することにより、後述するように複数のゾーンプレートを重畳することにより、或いは、当技術分野において既知のDOEデザインの任意のその他の適切な方法を使用することにより、デザイン可能である。このパターンは小さいため、DOEの生成に必要な演算は、いずれの場合にも相対的に簡単である。
【0057】
図3C及び図3Dは、Zの2つの異なる値においてFs及びFvに対応した要素36及び38を重畳させることによって生成されたスペックルのパターンを示している。これらのパターンは、それぞれ、Zに応じて異なる角度に方向付けられた200×200個の細長いスペックル52及び54を有している。距離がZ0からZ0+ΔZに増大するのに伴って、これらのスペックルは、180°だけ回転している。物体28の表面上に投射されたスペックルの角度θを検出し、装置22から投射表面までの距離としてZ=Z0+(p/N)ΔZを付与することで、これにより、プロセッサ24は、p=Nθ/180が判定可能である。
【0058】
図4は、本発明の一実施例による3D測距及びマッピング方法を概略的に示すフローチャートである。以下、わかりやすくするべく、この方法については、図3C及び図3Dに示されているスペックルパターンを使用する図1及び図2に示されているシステム20を参照して説明することとする。但し、この方法は、先程引用した参考文献に記述されているものなどのその他の種類のスペックルに基づいた撮像システムにおいても同様に適用可能である。更には、代替法として、図3C及び図3Dに示されているスペックルの回転線形性の形状の代わりに、その他の種類のスポットパターン及びZに伴って変化するスポット形状特性を生成及び使用することも可能である。
【0059】
物体の測距及び撮像のための準備として、撮像装置22を作動させて1つ又は複数の基準スペックル画像をキャプチャしている。この目的のために、例えば、Z1、Z2、Z3、…、などのZ軸に沿った原点からの1つ又は複数の既知の基準距離において、平面を配置することが可能である。撮像アセンブリ32は、それぞれの距離において照明アセンブリ30によって表面上に投射されたスペックルパターンの基準画像をキャプチャしている。或いは、代替に、スペックルパターンは、基本的に、FvのZに伴って変化する小さなパターンとFsの遠視野スポットパターンとの畳み込みであるため、個々の基準パターンを2つのフィルタについて別個に判定した後に畳み込むことにより、それぞれの距離Zにおける合成パターンを付与することも可能である。この方法は、基準パターンの保存に必要なメモリ量を低減可能である。更には、代替に、全体パターンのデザインを標準化することも可能であり、この場合には、基準のキャプチャが不要となる。
【0060】
試験キャプチャ段階60において、物体28をターゲット領域46内に導入し、物体の表面上に投射されたスペックルパターンの試験画像を装置22によってキャプチャする。次いで、プロセッサ24は、測距段階62において、スペックルの向きの角度を演算する。この目的のために、プロセッサは、例えば、試験画像のスペクトル分析を実行することができる。スペクトルの形状(例えば、長軸及び短軸の方向)は、スペックルの向きの角度に対応することで、今度は、対応スペクトルが物体の範囲を示すことになる。代替方法または追加方法として、プロセッサは、スペックル形状といくつかの異なる基準形状間における相互相関を演算することも可能である。当然のことながら、物体が十分な深度を有している場合には、スペックルの角度が表面上において変化可能であり、この結果、物体の異なる部分が異なる範囲を具備することになる。プロセッサ24は、スペックルの角度が突然変化する場所を物体の端部として識別することが可能である。
【0061】
プロセッサ24は、物体28の粗い3Dマップを生成している間に、段階62の形状に基づいた測距を単独で使用可能である。しかし、図4に示されている実施例において、プロセッサは、再構築段階64において物体28の3Dマップを再構築している間に、スポット位置の三角測量との関連においてこの測距を使用する。この目的のために、プロセッサは、通常、試験画像内の物体表面上の異なる地点と適切な基準画像内のスペックルパターンの対応したエリアの間の局所的なオフセットを計測する。次いで、プロセッサは、これらのオフセットに基づいて、三角測量を使用することにより、これらの物体の地点のZ座標を判定する。これらの目的に使用可能な方法については、前述のPCT特許出願及び先程引用したその他の参考文献に記述されている。
【0062】
段階62における測距と段階64における3D再構築を組み合わせることにより、システム20は、スペックルに基づいた三角測量によって一般的に実現可能であるものよりも高い精度及び/又は低い演算コストによって3D再構築を実行可能であり、且つ、この組み合わせを使用することにより、計測が実行されるZ方向における範囲を増大させることも可能である。例えば、前述のように、異なる基準距離において複数の基準画像をキャプチャしている場合、プロセッサは、その基準距離が段階62において見出された範囲に最も近接している基準画像との関係において局所的なオフセットを計測可能である。プロセッサ24は、測距結果を使用し、チェックを要する又は相対的に大きな精度によるオフセットの演算を要する異なる局所的なオフセット値の数を制限可能であるため、単一の基準画像のみが使用されている場合にも、段階64における三角測量の精度及び/又は速度を向上させることができる。
【0063】
段階60〜64は、ターゲット領域46内において物体28の動きを追跡するべく、継続的に反復可能である。このために、装置22は、物体が移動している間に一連の試験画像をキャプチャしており、プロセッサ24は、物体の3D移動を追跡するべく、段階62及び64を反復する。いくつかの反復においては、物体が以前の反復以降にそれほど遠くには移動していないと仮定することにより、段階62をスキップ可能であろう。
【0064】
代替実施例(図示されてはいない)においては、スペックルパターンのシフトに基づいた三角測量を粗い測距に使用しており、スペックル形状特性の変化を正確な3Dマッピングに使用している。三角測量の精度は、特に、照明アセンブリ30と画像キャプチャアセンブリ32との間のX軸に沿った離隔幅によって左右される。粗い三角測量しか必要とされていない場合には、アセンブリ30及び32を1つに近接した状態において配置し、これにより、装置22の更に小型のデザインを実現可能である。
【0065】
例えば、ターゲット領域46内において、スペックル形状のZに伴って変化するパターンをいくつかのサイクルにわたって複製することにより、形状に基づいたZ方向の計測精度の改善が実現可能である。換言すれば、前述の回転線形スペックル形状及び図2に示されている構成の例を参照した場合に、スペックルの向きは、Z1とZ2との間において、次いで、Z2とZ3との間において、そして、再度、Z3とZ4との間において、180°にわたって変化可能である。プロセッサ24は、スペックルの三角測量の結果を使用することにより、これらの3つの範囲の中のいずれに物体が配置されているのかを決定した後に、スペックルの向きを使用し、その範囲内における物体の正確な3Dマップを構築することになる。或いは、代替方法として、上述のように、図3C及び図3Dに示されている方向変動の代わりに、その他のZに伴って変化するスポット形状特性は、本願の明細書において使用することも可能である。
【0066】
様々な方法を使用することにより、Zに伴って変化する形状をZにおける複数のサイクルにわたって複製可能である。例えば、適切な多焦点レンズ(図示されてはいない)を使用してパターンをターゲット領域46上に合焦可能である。このようなレンズは、例えば、異なる個々の焦点距離を有するいくつかのフレネル(Fresnel)・ゾーンプレートの重畳から構成可能である。或いは、代替方法として、ベンエリエゼル(Ben Eliezer)他によって「All Optical Extended Depth of Field Imaging System」(Journal of Optica and Pure Physics-A、5(2003年)、S164〜S169頁)に記述されている技法を使用して適切な多焦点レンズをデザインすることも可能であり、この文献の内容は、本引用により、本明細書に包含される。更には、代替方法として、複数のサイクルにわたって反復するスペックル形状を付与するべく、光学要素38を最初から前述の重畳法を使用してデザインすることも可能である。
【0067】
図5A〜図5Qは、本発明の一実施例による成形されたスポットのパターンを生成するべく光学要素38を製造するための方法を概略的に示している。図5A〜図5Pは、ゾーンプレート70の組の概略正面図であり、図5Qは、図5A〜図5Pのゾーンプレートを重畳することによって生成されたDOE72の概略正面図である。DOE72は、図3C及び図3Dに示されている種類の回転線形スポットを生成するべく、適切な拡散器又はその他のビーム分割フィルタFsと共に使用されるフィルタFvとして機能可能である。
【0068】
ゾーンプレート70のそれぞれのものは、波長λ用にデザインされたn=1、…、N(この例においては、N=16である)である焦点距離fnのフレネル・ゾーンプレートである。このようなゾーンプレートの透過関数は、次式によって付与される。
【0069】
【数3】
【0070】
ここで、それぞれのゾーンプレート内のX−Y軸は、(n−1)π/Nだけ回転している。或いは、代替に、ゾーンプレート70は、透明な位相専用ゾーンプレートとしてデザインすることも可能である。DOE72は、これらのN個のゾーンプレートの重畳74から構成されている。この重畳は、π/N(fn−fn−1)rad/mのレートにおいてZの関数として回転するラインを生成することになる。
【0071】
様々な方法を使用することにより、ゾーンプレート70を重畳可能である。例えば、重畳は、図5Qに示されているように、16個のコンポーネントゾーンプレートから切り出された「パイ・スライス(pie slice)」カットの集まりとして製作可能である。或いは、代替に、異なるゾーンプレート片をランダムに抽出してアセンブルすることにより、重畳を生成可能である。更には、代替に、コンポーネントゾーンプレートをDOE72内のそれぞれの地点において合計することにより、それぞれの地点における合計透過率又は位相シフトの適切な量子化を有する単一パターンを生成することも可能である。
【0072】
或いは、代替に、光学要素38は、前述のゾーンプレートの代わりに、屈折レンズのアレイから構成することも可能である。この場合には、パイ・スライス又はランダムな分布における異なる向きの(マイクロレンズなど)円筒形レンズの重畳を使用することにより、Zに伴って変化する所望のパターンを生成可能である。
【0073】
図6A〜図6Dは、本発明の別の実施例に従ってデザインされたDOEを通じてレーザービームを投射することによって生成された画像の概略表現である。先行する実施例において示されている例は、特に、回転線形形状を有するスペックルのパターンに関係したものであるが、本発明の原理は、その他のタイプのZに伴って変化するパターンの生成及びこのようなパターンを使用した光学測距においても同様に適用可能である。図6A〜図6Dは、一例を示しており、この場合には、スペックル80及び82は、円形又は楕円形の形態において共通的な形態的特性を具備している。それぞれのスポットの形状の半径は、全体としてのパターンの線形倍率とは異なるレートにおいて照明アセンブリからの距離に伴って変化しており、これにより、距離に関する情報を提供している。その他の種類の形状及びパターンも、当業者には明らかであり、且つ、本発明の範囲に属するものと見なされる。
【0074】
図6A及び図6Bは、それぞれ、Fs及びFvによって生成されたパターンを示している。先行する例と同様に、Fsは、Zにおいて変化する必要がないランダムスペックルのパターン50を生成している。Fvは、環状の光強度パターンをターゲット領域内に生成している。環の半径は、画像キャプチャアセンブリ32によってキャプチャされた画像内において観察されるスポットの半径に基づいた測距を実現する方式により、Zに伴って変化している。先程説明したように、このパターンを実装する光学要素は、Gerchberg-Saxton法を使用することにより、又は異なるサイズ特性を有する単純な円形又は楕円形パターンを生成する複数の回折光学要素を重畳することにより、又は当技術分野において既知であるDOEデザインの任意のその他の適切な方法を使用することにより、デザイン可能である。
【0075】
図6C及び図6Dは、コヒーレントな光をZの2つの異なる値に位置した表面を有する(Fs及びFvに対応した)要素36及び38を通過させることによって表面上に投射されるスペックルパターンの画像を示している。これらは、画像キャプチャアセンブリ32によってキャプチャされた際の画像である。これらのパターンは、それぞれ、Zに応じて異なる半径を有する楕円形のスペックル80及び82を有している。距離がZ0からZ0+ΔZに増大するのに伴って、物体28の表面上に投射され、且つ、センサ42上において撮像されるスペックルの半径は、既知のレートにおいて増大又は減少する。従って、スペックルの半径を計測することにより、プロセッサ24は、装置22からその表面までの範囲を判定可能である。更には、プロセッサは、X−Yプレーンとの関係における表面の傾斜角度を判定するべく、スペックルの形状の変化を検出及び分析することも可能である。
【0076】
前述の実施例は、具体的には、2つの光学要素36及び38を使用して通常は実装される2つのタイプのパターンの重畳に関係しているが、この実施例において使用されるデザイン法を3つ以上のパターンの重畳に拡張することも可能である。前述のように、この方法は、次式のようにL個のパターンの畳み込みとして提示可能である投射光パターンに対する制約iに適用可能である。
【0077】
【数4】
【0078】
この場合、L個のフィルタFl(l=1、2、…、L)は、フィルタFlが、それぞれ、Zi(i=1、2、…、K)においてパターンPli(i=1、2、…、K)を実装するようにデザインされている。合成されたフィルタ
【0079】
【数5】
【0080】
は、係数Lだけ低減されたZスケールにおいて
【0081】
【数6】
【0082】
を実現している。従って、デザイン段階において、フィルタは、係数Lだけスケールアップされている。一般的なスカラー回折理論を使用することにより、zにおけるフィールド分布U(x,y,z)が、
【0083】
【数7】
【0084】
によって付与されることになることを示すことが可能である。この場合、Ul(x,y,z)は、距離zにおいて生成されるパターンフィルタlであり、
【0085】
【数8】
【0086】
は、畳み込みを表している。
【0087】
更には、前述の実施例は、特にスペックル成形並びにスペックルに基づいた3D測距及びマッピングに関係しているが、多制約フィルタ及びその他の光学要素(並びに、特にZに伴って変化するパターンを生成する要素)をデザインするための前述の方法を使用することにより、複雑な光パターンを必要としているその他のアプリケーションの光学要素を生成することも可能である。
【0088】
従って、前述の実施例は、一例として引用したものであり、本発明は、以上において具体的に図示及び説明したものに限定されるものではないことを理解されたい。むしろ、本発明の範囲は、以上の説明を参照した間、当業者が想起し、且つ、従来技術には開示されていない前述の様々な特徴の組み合わせ及びサブ組み合わせの両方、並びに、その変形及び変更をも包含している。
【図面の簡単な説明】
【0089】
【図1】本発明の一実施例による3D測距及びマッピングシステムの画的な概略図である。
【図2】本発明の一実施例によるスペックル撮像装置の概略平面図である。
【図3A】本発明の一実施例によるランダム化の光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図3B】本発明の一実施例による回折光学要素(DOE)によって生成された光パターンの概略表現である。
【図3C】本発明の一実施例による図3A及び図3Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図3D】本発明の一実施例による図3A及び図3Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図4】本発明の一実施例による3D測距及びマッピング方法を概略的に示すフローチャートである。
【図5A】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5B】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5C】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5D】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5E】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5F】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5G】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5H】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5I】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5J】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5K】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5L】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5M】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5N】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5O】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5P】本発明の一実施例によるDOEの生成の間、使用される異なる回転角度を有するゾーンプレートの組の概略表現である。
【図5Q】本発明の一実施例による図5A〜図5Qのゾーンプレートの重畳によって生成されたDOEの概略前面図である。
【図6A】本発明の一実施例によるランダム化の光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図6B】本発明の一実施例による回折光学要素(DOE)によって生成された光パターンの概略表現である。
【図6C】本発明の一実施例による図6A及び図6Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【図6D】本発明の一実施例による図6A及び図6Bの光学要素を通じたレーザービームの投射によって生成されたスペックルパターンの概略表現である。
【特許請求の範囲】
【請求項1】
個々の位置及び個々の形状を有する複数のスポットのパターンを物体上に投射する段階であって、前記形状が共通的特性を共有する一方で前記パターン内の前記スポットの位置が無相関状態になるような、投射段階と、
前記物体上の前記スポットの画像をキャプチャする段階と、
前記物体の三次元(3D)マップを導出するべく前記画像を処理する段階と、を含むマッピング方法。
【請求項2】
前記スポットのパターンは、ランダムなスペックルパターンを含む請求項1記載の方法。
【請求項3】
前記パターンを投射する段階は、コヒーレントな光ビームを前記複数のスポットに分割する第1の光学的制約と、前記形状の共通的特性を少なくとも1つのスポットに適用するための第2の光学的制約と、を重畳するようにデザインされた少なくとも1つの光学要素に、前記コヒーレントな光ビームを通過させる段階を含む請求項1記載の方法。
【請求項4】
前記少なくとも1つの光学要素は、前記パターンを生成するための第1光学要素と、前記共通的特性を適用するための第2光学要素と、を含む請求項3記載の方法。
【請求項5】
前記形状の共通的特性は、前記パターンの供給源からの距離の関数として変化し、前記画像を処理する段階は、前記供給源から前記物体の表面までの距離を判定するべく、前記画像内の前記物体の表面上のスポットの特性を分析する段階を含む請求項1記載の方法。
【請求項6】
前記スポットは、前記パターンの供給源からの距離の関数として回転する細長い形状を共有しており、前記特性を分析する段階は、前記物体の表面上の前記スポットの方向を判定する段階を含む請求項5記載の方法。
【請求項7】
前記画像を処理する段階は、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内のパターンとの間の個々のオフセットを見出す段階と、前記3Dマップを導出するために前記オフセットを前記距離と共に使用する段階と、を含む請求項5記載の方法。
【請求項8】
前記個々のオフセットを見出す段階は、前記供給源から前記表面までの距離に対して応答可能なように、複数の基準画像の中から前記基準画像を選択する段階を含む請求項7記載の方法。
【請求項9】
前記パターン内の前記スポットは、第1方向において配列された細長い形状を有し、前記画像を処理する段階は、前記3Dマップを導出するべく、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間で、前記第1方向に垂直である第2方向における個々のオフセットを見出す段階を含む請求項1〜8の中のいずれか一項に記載の方法。
【請求項10】
前記スポットのパターンを投射する段階は、コヒーレントな光ビームを拡散器に通過させる段階を含み、前記ビームは、前記第2方向に細長い前記拡散器においてプロファイルを有する請求項9記載の方法。
【請求項11】
前記画像をキャプチャする段階は、前記物体が移動している間に、一連の画像をキャプチャする段階を含み、前記画像を処理する段階は、前記一連の画像を処理することにより、前記物体の移動を追跡する段階を含む請求項1〜8の中のいずれか一項に記載の方法。
【請求項12】
前記物体は、人体の一部であり、
前記移動を追跡する段階は、前記人体の一部によって実行されたジェスチャーを識別する段階と、前記ジェスチャーに対して応答可能なように、コンピュータアプリケーションに入力を提供する段階と、を含む請求項11記載の方法。
【請求項13】
光ビームに対する第1の光学的制約の適用が、前記光ビームを複数のスポットのパターンに分割するような、第1の光学的制約を規定する段階と、
前記光ビームに対する第2の光学的制約の適用が、前記光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えるスポットを前記光ビームに形成させるような、第2の光学的制約を規定する段階と、
前記第1の光学的制約及び前記第2の光学的制約を重畳させるべく、少なくとも1つの光学要素をデザインする段階と、
前記パターン内の前記複数のスポットが前記形状特性を備えるように、前記パターンを表面上に投射するために、前記少なくとも1つの光学要素を通じて光ビームを導く段階と、を含む撮像方法。
【請求項14】
前記少なくとも1つの光学要素は、前記ビームを前記パターンに分割するための第1光学要素と、前記形状特性を適用するための第2光学要素とを含む請求項13記載の方法。
【請求項15】
前記パターンは、スペックルパターンを含む請求項14記載の方法。
【請求項16】
前記第1光学要素は、拡散器を含む請求項15記載の方法。
【請求項17】
前記少なくとも1つの光学要素は、回折光学要素(DOE:Diffractive Optical Element)を含む請求項13記載の方法。
【請求項18】
前記DOEは、細長い形状を前記スポットに付与するための少なくとも1つのゾーンプレートを含む請求項17記載の方法。
【請求項19】
前記少なくとも1つのゾーンプレートは、前記スポットの前記細長い形状を前記距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳するゾーンプレートを含む請求項18記載の方法。
【請求項20】
前記少なくとも1つの光学要素は、屈折光学要素を含む請求項13記載の方法。
【請求項21】
前記第1の光学的制約によって規定される前記パターンは、1/4を上回らないデューティサイクルを備える請求項13記載の方法。
【請求項22】
前記パターンは、前記位置が無相関状態になるように前記スポットの個々の位置を規定している請求項13記載の方法。
【請求項23】
前記第2の光学的制約は、前記スポットに、前記距離の関数として回転する細長い形状を備えさせる請求項13〜22の中のいずれか一項に記載の方法。
【請求項24】
前記第2の光学的制約は、前記スポットに、環形状を備えさせる請求項13〜22の中のいずれか一項に記載の方法。
【請求項25】
前記表面上の前記スポットの画像をキャプチャする段階と、前記少なくとも1つの光学要素から前記表面までの距離を判定するべく前記画像を処理する段階と、を含む請求項13〜22の中のいずれか一項に記載の方法。
【請求項26】
個々の位置及び個々の形状を有した複数のスポットのパターンを物体上に投射するように構成された照明アセンブリであって、前記形状が共通的特性を共有する一方で前記パターン内の前記スポットの前記位置が無相関状態になるような、照明アセンブリと、
前記物体上の前記スポットの画像をキャプチャするように構成された撮像アセンブリと、
前記物体の三次元(3D)マップを導出するために前記画像を処理するように結合された画像プロセッサと、を含むマッピング装置。
【請求項27】
前記スポットのパターンは、ランダムなスペックルパターンを含む請求項26記載の装置。
【請求項28】
前記照明アセンブリは、
光ビームを前記複数のスポットに分割する第1の光学的制約と、前記形状の前記共通的特性を少なくとも1つのスポットに適用するための第2の光学的制約とを、重畳するようにデザインされた少なくとも1つの光学要素と、
前記少なくとも1つの光学要素を通じてコヒーレントな光ビームを導くように構成された光源と、を含む請求項26記載の装置。
【請求項29】
前記少なくとも1つの光学要素は、前記パターンを生成するための第1光学要素と、前記共通的特性を前記形状に適用するための第2光学要素と、を含む請求項28記載の装置。
【請求項30】
前記形状の前記共通的特性は、前記パターンの供給源からの距離の関数として変化し、前記画像プロセッサは、前記供給源から表面までの距離を判定するべく前記画像内の前記物体の表面上の前記スポットの前記特性を分析するように構成されている請求項26記載の装置。
【請求項31】
前記スポットは、前記パターンの供給源からの距離の関数として回転する細長い形状を共有し、前記画像プロセッサは、前記物体の前記表面上の前記スポットの方向を判定するように構成されている請求項30記載の装置。
【請求項32】
前記画像プロセッサは、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間の個々のオフセットを見出し、且つ、前記3Dマップを導出するべく、前記オフセットを前記距離と共に使用するように構成されている請求項30記載の装置。
【請求項33】
前記画像プロセッサは、前記供給源から前記表面までの距離に対して応答可能なように、複数の基準画像の中から前記基準画像を選択するように構成されている請求項32記載の装置。
【請求項34】
前記パターン内の前記スポットは、第1方向において配列された細長い形状を備え、前記画像プロセッサは、前記3Dマップを導出するべく、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間において前記第1方向に垂直である第2方向における個々のオフセットを見出すように構成されている請求項26〜33の中のいずれか一項に記載の装置。
【請求項35】
前記照明アセンブリは、拡散器と、前記拡散器を通じてコヒーレントな光ビームを導くように構成された光源と、含み、前記ビームは、前記第2方向において細長い前記拡散器においてプロファイルを有する請求項34記載の装置。
【請求項36】
前記撮像アセンブリは、前記物体が移動している間に、一連の画像をキャプチャするように構成され、
前記画像プロセッサは、前記一連の画像を処理することにより、前記物体の移動を追跡するように構成されている請求項26〜33の中のいずれか一項に記載の装置。
【請求項37】
前記物体は、人体の一部であり、前記画像プロセッサは、前記人体の一部によって実行されるジェスチャーを識別し、且つ、前記ジェスチャーに応答可能なようにコンピュータアプリケーションに入力を提供するように構成されている請求項36記載の装置。
【請求項38】
第1の光学的制約及び第2の光学的制約を重畳するようにデザインされた少なくとも1つの光学要素であって、前記第1の光学的制約の光ビームへの適用が、前記光ビームを複数のスポットのパターンに分割することであり、前記第2の光学的制約の光ビームへの適用が、前記光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えたスポットを前記光ビームに形成させるようにする、光学要素と、
前記パターン内の前記複数のスポットが前記形状特性を備えるように前記パターンを表面上に投射するために、前記少なくとも1つの光学要素を通じて前記光ビームを導くように構成された光源と、を含む撮像装置。
【請求項39】
前記少なくとも1つの光学要素は、前記ビームを前記パターンに分割するための第1光学要素と、前記形状特性を適用するための第2光学要素と、を含む請求項38記載の装置。
【請求項40】
前記パターンは、スペックルパターンを含む請求項39記載の装置。
【請求項41】
前記第1光学要素は、拡散器を含む請求項40記載の装置。
【請求項42】
前記少なくとも1つの光学要素は、回折光学要素(DOE)を含む請求項38記載の装置。
【請求項43】
前記DOEは、細長い形状を前記スポットに付与するための少なくとも1つのゾーンプレートを含む請求項42記載の装置。
【請求項44】
前記少なくとも1つのゾーンプレートは、前記スポットの前記細長い形状を前記距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳されたゾーンプレートを含む請求項43記載の装置。
【請求項45】
前記少なくとも1つの光学要素は、屈折光学要素を含む請求項38記載の装置。
【請求項46】
前記第1の光学的制約によって規定された前記パターンは、1/4を上回らないデューティサイクルを備える請求項38記載の装置。
【請求項47】
前記パターンは、前記位置が無相関状態となるように前記スポットの個々の位置を規定している請求項38記載の装置。
【請求項48】
前記第2の光学的制約は、前記スポットに、前記距離の関数として回転する細長い形状を備えさせる請求項38〜47の中のいずれか一項に記載の装置。
【請求項49】
前記第2の光学的制約は、前記スポットに、環形状を備えさせる請求項38〜47の中のいずれか一項に記載の装置。
【請求項50】
前記表面上の前記スポットの画像をキャプチャするように構成された撮像アセンブリと、前記少なくとも1つの光学要素から前記表面までの前記距離を判定するために前記画像を処理するように結合された画像プロセッサと、を含む請求項38〜47の中のいずれか一項に記載の装置。
【請求項1】
個々の位置及び個々の形状を有する複数のスポットのパターンを物体上に投射する段階であって、前記形状が共通的特性を共有する一方で前記パターン内の前記スポットの位置が無相関状態になるような、投射段階と、
前記物体上の前記スポットの画像をキャプチャする段階と、
前記物体の三次元(3D)マップを導出するべく前記画像を処理する段階と、を含むマッピング方法。
【請求項2】
前記スポットのパターンは、ランダムなスペックルパターンを含む請求項1記載の方法。
【請求項3】
前記パターンを投射する段階は、コヒーレントな光ビームを前記複数のスポットに分割する第1の光学的制約と、前記形状の共通的特性を少なくとも1つのスポットに適用するための第2の光学的制約と、を重畳するようにデザインされた少なくとも1つの光学要素に、前記コヒーレントな光ビームを通過させる段階を含む請求項1記載の方法。
【請求項4】
前記少なくとも1つの光学要素は、前記パターンを生成するための第1光学要素と、前記共通的特性を適用するための第2光学要素と、を含む請求項3記載の方法。
【請求項5】
前記形状の共通的特性は、前記パターンの供給源からの距離の関数として変化し、前記画像を処理する段階は、前記供給源から前記物体の表面までの距離を判定するべく、前記画像内の前記物体の表面上のスポットの特性を分析する段階を含む請求項1記載の方法。
【請求項6】
前記スポットは、前記パターンの供給源からの距離の関数として回転する細長い形状を共有しており、前記特性を分析する段階は、前記物体の表面上の前記スポットの方向を判定する段階を含む請求項5記載の方法。
【請求項7】
前記画像を処理する段階は、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内のパターンとの間の個々のオフセットを見出す段階と、前記3Dマップを導出するために前記オフセットを前記距離と共に使用する段階と、を含む請求項5記載の方法。
【請求項8】
前記個々のオフセットを見出す段階は、前記供給源から前記表面までの距離に対して応答可能なように、複数の基準画像の中から前記基準画像を選択する段階を含む請求項7記載の方法。
【請求項9】
前記パターン内の前記スポットは、第1方向において配列された細長い形状を有し、前記画像を処理する段階は、前記3Dマップを導出するべく、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間で、前記第1方向に垂直である第2方向における個々のオフセットを見出す段階を含む請求項1〜8の中のいずれか一項に記載の方法。
【請求項10】
前記スポットのパターンを投射する段階は、コヒーレントな光ビームを拡散器に通過させる段階を含み、前記ビームは、前記第2方向に細長い前記拡散器においてプロファイルを有する請求項9記載の方法。
【請求項11】
前記画像をキャプチャする段階は、前記物体が移動している間に、一連の画像をキャプチャする段階を含み、前記画像を処理する段階は、前記一連の画像を処理することにより、前記物体の移動を追跡する段階を含む請求項1〜8の中のいずれか一項に記載の方法。
【請求項12】
前記物体は、人体の一部であり、
前記移動を追跡する段階は、前記人体の一部によって実行されたジェスチャーを識別する段階と、前記ジェスチャーに対して応答可能なように、コンピュータアプリケーションに入力を提供する段階と、を含む請求項11記載の方法。
【請求項13】
光ビームに対する第1の光学的制約の適用が、前記光ビームを複数のスポットのパターンに分割するような、第1の光学的制約を規定する段階と、
前記光ビームに対する第2の光学的制約の適用が、前記光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えるスポットを前記光ビームに形成させるような、第2の光学的制約を規定する段階と、
前記第1の光学的制約及び前記第2の光学的制約を重畳させるべく、少なくとも1つの光学要素をデザインする段階と、
前記パターン内の前記複数のスポットが前記形状特性を備えるように、前記パターンを表面上に投射するために、前記少なくとも1つの光学要素を通じて光ビームを導く段階と、を含む撮像方法。
【請求項14】
前記少なくとも1つの光学要素は、前記ビームを前記パターンに分割するための第1光学要素と、前記形状特性を適用するための第2光学要素とを含む請求項13記載の方法。
【請求項15】
前記パターンは、スペックルパターンを含む請求項14記載の方法。
【請求項16】
前記第1光学要素は、拡散器を含む請求項15記載の方法。
【請求項17】
前記少なくとも1つの光学要素は、回折光学要素(DOE:Diffractive Optical Element)を含む請求項13記載の方法。
【請求項18】
前記DOEは、細長い形状を前記スポットに付与するための少なくとも1つのゾーンプレートを含む請求項17記載の方法。
【請求項19】
前記少なくとも1つのゾーンプレートは、前記スポットの前記細長い形状を前記距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳するゾーンプレートを含む請求項18記載の方法。
【請求項20】
前記少なくとも1つの光学要素は、屈折光学要素を含む請求項13記載の方法。
【請求項21】
前記第1の光学的制約によって規定される前記パターンは、1/4を上回らないデューティサイクルを備える請求項13記載の方法。
【請求項22】
前記パターンは、前記位置が無相関状態になるように前記スポットの個々の位置を規定している請求項13記載の方法。
【請求項23】
前記第2の光学的制約は、前記スポットに、前記距離の関数として回転する細長い形状を備えさせる請求項13〜22の中のいずれか一項に記載の方法。
【請求項24】
前記第2の光学的制約は、前記スポットに、環形状を備えさせる請求項13〜22の中のいずれか一項に記載の方法。
【請求項25】
前記表面上の前記スポットの画像をキャプチャする段階と、前記少なくとも1つの光学要素から前記表面までの距離を判定するべく前記画像を処理する段階と、を含む請求項13〜22の中のいずれか一項に記載の方法。
【請求項26】
個々の位置及び個々の形状を有した複数のスポットのパターンを物体上に投射するように構成された照明アセンブリであって、前記形状が共通的特性を共有する一方で前記パターン内の前記スポットの前記位置が無相関状態になるような、照明アセンブリと、
前記物体上の前記スポットの画像をキャプチャするように構成された撮像アセンブリと、
前記物体の三次元(3D)マップを導出するために前記画像を処理するように結合された画像プロセッサと、を含むマッピング装置。
【請求項27】
前記スポットのパターンは、ランダムなスペックルパターンを含む請求項26記載の装置。
【請求項28】
前記照明アセンブリは、
光ビームを前記複数のスポットに分割する第1の光学的制約と、前記形状の前記共通的特性を少なくとも1つのスポットに適用するための第2の光学的制約とを、重畳するようにデザインされた少なくとも1つの光学要素と、
前記少なくとも1つの光学要素を通じてコヒーレントな光ビームを導くように構成された光源と、を含む請求項26記載の装置。
【請求項29】
前記少なくとも1つの光学要素は、前記パターンを生成するための第1光学要素と、前記共通的特性を前記形状に適用するための第2光学要素と、を含む請求項28記載の装置。
【請求項30】
前記形状の前記共通的特性は、前記パターンの供給源からの距離の関数として変化し、前記画像プロセッサは、前記供給源から表面までの距離を判定するべく前記画像内の前記物体の表面上の前記スポットの前記特性を分析するように構成されている請求項26記載の装置。
【請求項31】
前記スポットは、前記パターンの供給源からの距離の関数として回転する細長い形状を共有し、前記画像プロセッサは、前記物体の前記表面上の前記スポットの方向を判定するように構成されている請求項30記載の装置。
【請求項32】
前記画像プロセッサは、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間の個々のオフセットを見出し、且つ、前記3Dマップを導出するべく、前記オフセットを前記距離と共に使用するように構成されている請求項30記載の装置。
【請求項33】
前記画像プロセッサは、前記供給源から前記表面までの距離に対して応答可能なように、複数の基準画像の中から前記基準画像を選択するように構成されている請求項32記載の装置。
【請求項34】
前記パターン内の前記スポットは、第1方向において配列された細長い形状を備え、前記画像プロセッサは、前記3Dマップを導出するべく、前記画像内の前記物体の複数のエリア上の前記パターンと基準画像内の前記パターンとの間において前記第1方向に垂直である第2方向における個々のオフセットを見出すように構成されている請求項26〜33の中のいずれか一項に記載の装置。
【請求項35】
前記照明アセンブリは、拡散器と、前記拡散器を通じてコヒーレントな光ビームを導くように構成された光源と、含み、前記ビームは、前記第2方向において細長い前記拡散器においてプロファイルを有する請求項34記載の装置。
【請求項36】
前記撮像アセンブリは、前記物体が移動している間に、一連の画像をキャプチャするように構成され、
前記画像プロセッサは、前記一連の画像を処理することにより、前記物体の移動を追跡するように構成されている請求項26〜33の中のいずれか一項に記載の装置。
【請求項37】
前記物体は、人体の一部であり、前記画像プロセッサは、前記人体の一部によって実行されるジェスチャーを識別し、且つ、前記ジェスチャーに応答可能なようにコンピュータアプリケーションに入力を提供するように構成されている請求項36記載の装置。
【請求項38】
第1の光学的制約及び第2の光学的制約を重畳するようにデザインされた少なくとも1つの光学要素であって、前記第1の光学的制約の光ビームへの適用が、前記光ビームを複数のスポットのパターンに分割することであり、前記第2の光学的制約の光ビームへの適用が、前記光ビームの軸に沿った距離の関数として予め規定された方式において変化する形状特性を備えたスポットを前記光ビームに形成させるようにする、光学要素と、
前記パターン内の前記複数のスポットが前記形状特性を備えるように前記パターンを表面上に投射するために、前記少なくとも1つの光学要素を通じて前記光ビームを導くように構成された光源と、を含む撮像装置。
【請求項39】
前記少なくとも1つの光学要素は、前記ビームを前記パターンに分割するための第1光学要素と、前記形状特性を適用するための第2光学要素と、を含む請求項38記載の装置。
【請求項40】
前記パターンは、スペックルパターンを含む請求項39記載の装置。
【請求項41】
前記第1光学要素は、拡散器を含む請求項40記載の装置。
【請求項42】
前記少なくとも1つの光学要素は、回折光学要素(DOE)を含む請求項38記載の装置。
【請求項43】
前記DOEは、細長い形状を前記スポットに付与するための少なくとも1つのゾーンプレートを含む請求項42記載の装置。
【請求項44】
前記少なくとも1つのゾーンプレートは、前記スポットの前記細長い形状を前記距離の関数として回転させるように、異なる個々の周期及び角度方位を備えた複数の重畳されたゾーンプレートを含む請求項43記載の装置。
【請求項45】
前記少なくとも1つの光学要素は、屈折光学要素を含む請求項38記載の装置。
【請求項46】
前記第1の光学的制約によって規定された前記パターンは、1/4を上回らないデューティサイクルを備える請求項38記載の装置。
【請求項47】
前記パターンは、前記位置が無相関状態となるように前記スポットの個々の位置を規定している請求項38記載の装置。
【請求項48】
前記第2の光学的制約は、前記スポットに、前記距離の関数として回転する細長い形状を備えさせる請求項38〜47の中のいずれか一項に記載の装置。
【請求項49】
前記第2の光学的制約は、前記スポットに、環形状を備えさせる請求項38〜47の中のいずれか一項に記載の装置。
【請求項50】
前記表面上の前記スポットの画像をキャプチャするように構成された撮像アセンブリと、前記少なくとも1つの光学要素から前記表面までの前記距離を判定するために前記画像を処理するように結合された画像プロセッサと、を含む請求項38〜47の中のいずれか一項に記載の装置。
【図1】
【図2】
【図3A】
【図3B】
【図3C】
【図3D】
【図4】
【図5A】
【図5B】
【図5C】
【図5D】
【図5E】
【図5F】
【図5G】
【図5H】
【図5I】
【図5J】
【図5K】
【図5L】
【図5M】
【図5N】
【図5O】
【図5P】
【図5Q】
【図6A】
【図6B】
【図6C】
【図6D】
【図2】
【図3A】
【図3B】
【図3C】
【図3D】
【図4】
【図5A】
【図5B】
【図5C】
【図5D】
【図5E】
【図5F】
【図5G】
【図5H】
【図5I】
【図5J】
【図5K】
【図5L】
【図5M】
【図5N】
【図5O】
【図5P】
【図5Q】
【図6A】
【図6B】
【図6C】
【図6D】
【公表番号】特表2009−530604(P2009−530604A)
【公表日】平成21年8月27日(2009.8.27)
【国際特許分類】
【出願番号】特願2008−558984(P2008−558984)
【出願日】平成19年3月13日(2007.3.13)
【国際出願番号】PCT/IL2007/000327
【国際公開番号】WO2007/105215
【国際公開日】平成19年9月20日(2007.9.20)
【出願人】(508258389)プライム センス リミティド (2)
【Fターム(参考)】
【公表日】平成21年8月27日(2009.8.27)
【国際特許分類】
【出願日】平成19年3月13日(2007.3.13)
【国際出願番号】PCT/IL2007/000327
【国際公開番号】WO2007/105215
【国際公開日】平成19年9月20日(2007.9.20)
【出願人】(508258389)プライム センス リミティド (2)
【Fターム(参考)】
[ Back to top ]