説明

強化現実システムにおけるオーバーレイ・エラーの測定方法と、その計測システム

ビデオ強化現実改善外科ナビゲーション・システムにおけるオーバーレイ・エラーを測定するシステムと方法を提供する。本発明の実施例において、システムと方法は、テスト対象物を供給し、このテスト対象物のコンピュータ・モデルである仮想対象物を生成し、テスト対象物を記録し、強化現実システムの測定空間内での様々な位置でのテスト対象物上の制御点の画像を取得し、その取得画像からテスト対象物上の制御点の位置を引き出し、仮想画像内の制御点の位置を計算し、テスト対象物のそれぞれのビデオと仮想画像との間の対応する制御点の位置の位置ずれを計算することによる。この方法とシステムは、さらに、オーバーレイ精度が許容基準を満たしているかどうか評価する。本発明の実施例において、方法とシステムは、そのようなシステムにおけるエラーの様々な要因を見分けるために提供される。本発明の実施例において、ARシステムの精度が決定された後、そのARシステムは、与えられた用途、たとえば、記録エラーのような他のプロセスの精度を評価するツールとして使用される。

【発明の詳細な説明】
【技術分野】
【0001】
関連用途への相互参照:本申請書は、この引用例により協働する、2004年3月12日に提出されたアメリカ国仮特許申請番号60/552,565を優先とする。また、本申請書は、相互依存する引用例である2004年4月27日提出のPCT特許申請No.PCT/EP04/50622(Camera Probe Application)を組み込んでいる。
本発明は、画像による強化現実改良外科ナビゲーションシステム、特に、係るシステムの精度の評価をする方法とシステムとの関する。
【背景技術】
【0002】
画像案内システムは、外科手術行程で益々使用されている。このようなシステムは、精度を向上し、外科手術行程の広い範囲の観血を低減する結果をもたらしている。現在、画像案内外科システム(外科ナビゲーションシステム)は、例えば、様々な方法により物理世界の患者に記録された磁気共鳴映像法(MRI)、コンピュータ・トモグラフィなどのような手術前スキャンあるいは画像データ列を得ることに基づいている。
【0003】
多くの従来の画像案内による手術において、手術前スキャン画像から生成された容積データあるいは3次元(3D)データは、外科医により保持されている軌跡プローブの先端の3次元位置によって変化する三直交面内の2次元画像として表示される。このようなプローブが外科範囲に導入されているとき、その先端の位置は、一般に、そのような画像で描かれるアイコンとして表現され、それで、開業医は、実際に三つの2D視野のそれぞれで移動するアイコンを見ることになる。実際の外科範囲(すなわち、与えられた3D物理空間で現実世界の知覚できる人体)を有する手術前に得られた画像データと連結することにより、ナビゲーションシステムは、外科範囲内で、直ちにでないが可視化される貴重な情報を、外科医あるいは他の開業医に提供することができる。例えば、このようなナビゲーションシステムは、患者の身体内の周りの構造に関し、現在保持されている器具の正確な位置を計算し、表示することができる。Camera Prove Applicationで記述されているようなARシステムにおいて、周囲の構造は、スキャン画像の部分となる得る。それらは、記録行程をとおし、患者の対応する現実構造と共に並べられる。このように、モニターで見られるものは、スキャン画像で患者の解剖上の構造に関して(実先端に対し位置の違いが追尾エラーである)保持されたプローブの相似の点である(患者の同等のところに対する解剖上の構造の点で位置の違いがその点の記録エラーである)。これは、手術範囲の現実の組織を手術前計画で使用された(これらの組織とその周辺の構造の)画像に関連付けるのを助ける。
【0004】
このような方法において、本来の欠如がある。この従来のシステムで、表示される画像は二次元だけなので、十分に利用するためには、外科医(または他の利用者)により自身の仕事として、それは3次元画像に心理的に認識される必要がある。2Dの直交断面列で手術前の画像データを提供する全ての従来のナビゲーション・システムに共通する問題を共有して、手術前の画像列の空間情報を患者の関心ある範囲の物理的方向に関係付けるために、外科医は非常な心理的努力をしなければならない。このように、例えば、脳神経外科医は、一般に、(手術中、しばしばほとんど布で覆われる)患者の実際の頭部とそれを含む様々な構造を、手術前のスキャンで得られた別々の軸方向で、矢状で、冠状の画像断面列に関連付けるなければならない。
【0005】
この問題を処理するのに、いくつかの従来のシステムは、4つの表示画面に、3次元(3D)データセットを表示している。しかし、このようなシステムにおいては、表示された3D画像は、手術前スキャンデータの3Dレンダリングにすぎず、外科範囲の外科医の実際の視野と全く相関しない。その結果、外科医がそのようなシステムを使用することは、依然として実際の範囲の実時間の視野で、表示された3Dの視野を心理的に一致させることを強いられる。このことは、(通常、黒の背景に対して抽象的な対象物として与えられる)関心のある対象物の3Dレンダリングと、作業をしているあるいは、その近くの実際に現実世界の対象物との間を外科医は、継続して視野の切り替えをすることになる。
【0006】
これらの欠点を解決するため、強化現実(AR)が、画像案内手術を改善するために使用される。強化現実は、仮想の対象物のコンピュータ生成画像が現実世界の実対象物のユーザーの視野と融合可能な環境を生成する。これは、例えば、ビデオカメラから得られた実時間ビデオ信号で仮想対象物の3Dレンダリングを融合し(ビデオベースAR),ヘッドマウントディスプレ(HMD)装置に仮想対象物を投射し、あるいは、ユーザーの網膜に直接に仮想対象物を投射することにより得られる。
【0007】
ビデオベースAR改良外科ナビゲーション・システムは、一般に、患者の実時間画像を提供するビデオカメラと、手術前スキャンを介し得られた患者の三次元画像データから仮想構造の画像を生成するコンピュータとを使用する。コンピュータ生成画像は、外科ナビゲーションに使用可能な強化された表示を提供する生ビデオの上に重畳される。コンピュータ生成画像を、実時間ビデオ画像に真実同等性を有し精密に一致するようにするため、(1)仮想構造が患者と共に記録可能で、(2)患者に関してビデオカメラの位置と方向がコンピュータに入力可能である。記録後、基準システムに対し患者の幾何学的関係が、決定可能となる。このような基準システムは、例えば、3D追尾装置に取り付けられた等位システムあるいは患者に精密にリンクされた基準装置である。カメラと患者の関係は、このように、ビデオカメラに対すると同様に、患者に対して結合する3D追尾装置により決定可能となる。
【0008】
まさにそのような外科ナビゲーション・システムは、上記Camera Probe Applicationで記述されている。そこで記述されているシステムは、追尾装置により追尾可能な手持ちナビゲーション・プローブにマイクロカメラを備えている。これにより、関心のある構造を描く事前スキャンデータからのコンピュータ生成3D仮想対象物と組み合されるマイクロカメラにより取得された実時間画像を見ることにより、与えられた手術範囲内でのナビゲーションが可能となる。実時間の画像と重畳された3D画像の透過な設定を変化させることで、システムは、ユーザーの深さの知覚を改善できる。更に、プローブと重畳の3D仮想対象物との距離が、組み合わされた画像内あるいは近くで、動的に表示可能となる。カメラプローブ技術を用いて、仮想現実システムが、手術前に取得されたマルチ・モーダルCTとMRIデータを使用する外科アプローチを計画するのに使用可能となり、実際の外科範囲の実時間画像に手術計画のシナリオの続いて起こる移動が可能となる。
【0009】
仮想構造と実構造のオーバーレイ;オーバーレイ・エラー:このような外科ナビゲーション・システムにおいて、仮想構造の重畳画像(すなわち、患者の手術前容積データから生成されたもの)は、実時間の組み合わされた画像に、その真実同等性を有し精密に一致することが重要である。記録エラーと、更正エラーと容積データ内での幾何学的エラーとを含むエラーの様々な要因として、実画像に関する重畳画像のあるエリアの表示された位置での不正確さを示すことができる。その結果、患者の容積データの3Dレンダリングをその患者の実時間カメラ画像の上に重ね合わせたとき、その3Dレンダリングに表れるあるエリアあるいは構造は、患者の実時間画像の対応するエリアあるいは構造よりも多少異なる場所に配置されることがある。このように、3Dレンダリングで配置に関し案内される外科装置は、実外科範囲での好ましい対応する配置に正確に指図しないことがある。
【0010】
外科ナビゲーション・システムで生じる様々なタイプのエラーの詳細は、ウイリアム・ホッフとタイロン・ヴィンセントの「強化現実における頭ポーズの精度の解析」、IEEE Transactions on Visualization and Computer Graphics, vol.6, No.4, October-December 2000で検討されている。
【0011】
ここで、平易に述べると、強化現実における事実同等性に関して仮想構造の位置決めのエラーが「オーバーレイ・エラー」と呼ばれる。正確なナビゲーションと案内情報を提供する強化現実改良外科ナビゲーション・システムのため、オーバーレイ・エラーは許容可能な標準内に制限されなければならない。
【0012】
目視検査:オーバーレイ精度の評価の通常の方法は、目視検査である。このような方法で、箱や立体のような単純な対象物はモデル化され、レンダリングされる。いくつかの場合、目印を有する人間の頭部のモックアップがCTあるいはMRIにより3Dでスキャンされ、3Dデータ空間で3D座標での仮想目印が代わりに使用される。このレンダリングされた画像は、実対象物の実時間画像の上に重畳される。オーバーレイ精度は、異なるカメラ位置と角度からオーバーレイ。エラーを検査することで評価される。そのシステムがどれだけの精度かを示すため、通常いくつかの画像あるいは短いビデオが証拠として記録される。
【0013】
このやり方の不利な点は、単純な目視検査が量的な評価を提供しないことである。強化画像内の仮想と実対象物の共通の特徴の間のオーバーレイ・エラーを測定し、結合されたAR画像内の実対象物の特徴と仮想対象物の対応する特徴の間の位置の違いを測定することにより、修正可能であるが、このような測定の有用性は、(1)特徴の数が通常、制限されていること、(2)選択された特徴は、作業範囲の限定された部分を抽出していること、(3)特徴のモデリング、記録、配置において精度の不足により、しばしば損なわれる。
【0014】
更に不利なことは、この方法は、評価プロセスにもたらされたエラーから、ARシステムにより生成されるオーバーレイ・エラーを分離することが上手くいかないことである。オーバーレイの不正確さの潜在的な要因は、例えば、CTあるいはMRI画像エラー、仮想構造モデリング・エラー、特徴配置エラー、実対象物と仮想対象物の記録によるエラー、更正エラー、追尾不精度などを含む。さらに、仮想構造モデリングと特徴配置と関連するようないくつかの原因はARシステムに起因しないので、評価におけるオーバーレイ・エラーへの寄与は、取り除かれるか、あるいは、効果的に抑えるべきである。
【0015】
さらに、この方法は、エラーの様々な要因の影響を識別せず、システムの精度の改善にほとんど糸口を提供しない。
【0016】
数値シミュレーション:オーバーレイ精度を評価する他の従来の方法は、数値シミュレーション方法である。この方法は、エラー要因を異なる種類に、例えば、更正エラー、追尾エラー、記録エラーに分割し、オーバーレイ・エラーの様々なエラー要因の影響を見積もるようにする。このようなシミュレーションは、一般に、手術前画像内にランダムに生成された目標点の組を使用する。実験のデータ組から評価者により通常決定された記録、追尾、更正のマトリックスは、手術前画像の座標からオーバーレイの座標にこれらの点を変換するために使用可能である。このようなマトリックスについての詳細は、前に、HoffとVincentに提供されている。これらの異なる座標空間内の点の位置は、エラーのないベースラインあるいはゴールド・スタンダードとしてしばしば使用される。すこし異なる記録、追尾、更正のマトリックスの新たな組は、これらのマトリックスの決定におけるエラーを含んで計算可能である。そのエラーは、経験のデータ組から見積もられたそれらの標準偏差(SD)によりランダムに決定することができる。例えば、記録プロセスで局部化エラーのSDは、0.2mmであろう。目標点は、変換マトリックスのこの新たな組を再び使用して、変換される。異なる座標空間内のゴールド・スタンダードに対する目標点の位置の違いは、様々な段階でのエラーである。このプロセスは、シミュレーション結果を得るため、例えば1000回のように、大きな回数を繰り返すことが可能である。
【0017】
数値シミュレーションには数の問題がある。第1に、SDエラーの値を決定することは困難である。いくつかのエラー要因のため、極めて難しいのでSD値を得ることはできず、これらの要因をシミュレーションに含ませることはできない。第2に、エラーは正規分布しておらず、シミュレーションは正確ではない。第3に、シミュレーションは、シミュレーション結果を検証するために、実測定データが必要である。このように、検証なしに、シミュレーションがいかなる程度の満足度で実世界のシナリオを真似ることは困難である。最後に、最も重要であるが、シミュレーションの結果は(例えば、システムの95%が0.5mmより精度が高い)ようなタイプのシステムの精度に、一般に確率を与える統計的な数なので、与えられた個々のARシステムが、どの程度正確か、シミュレーションは言うことができない。現実に、与えられたタイプあるいは種類の実際のそれぞれのシステムは、そのエラーがある基準、たとえば、SD0.5mm以下であることを証明するよう検証されるべきで、もし、そうでないなら、規準を満たすまで、そのシステムは再更正されるか、改造できる必要がある。
【発明の開示】
【発明が解決しようとする課題】
【0018】
この技術分野で必要とされることは、与えられたAR改良外科ナビゲーション・システムのオーバーレイ・エラーを量的に評価可能で、さらに、オーバーレイ精度が許容基準を満たしているかどうか評価可能である評価プロセスである。さらに、そのようなシステムは、全体のオーバーレイ精度への、エラーの様々な要因による個々の寄与を評価し、数量化すべきである。
【課題を解決するための手段】
【0019】
ビデオ強化現実改良外科ナビゲーション・システムにおけるオーバーレイ・エラーを測定するためのシステムと方法を提供する。
本発明の実施例として、このシステムと方法は、テスト対象物を供給し、このテスト対象物のコンピュータ・モデルである仮想対象物を生成し、テスト対象物を記録し、強化現実システムの測定空間内での様々な位置でのテスト対象物上の制御点の画像を取得し、その取得画像からテスト対象物上の制御点の位置を引き出し、仮想画像内の制御点の位置を計算し、テスト対象物のそれぞれのビデオと仮想画像との間の対応する制御点の位置の位置ずれを計算することによる。この方法とシステムは、さらに、オーバーレイ精度が許容基準を満たしているかどうか評価する。本発明の実施例において、方法とシステムは、そのようなシステムにおけるエラーの様々な要因を見分けるために提供される。本発明の実施例において、ARシステムの精度が決定された後、そのARシステムは、与えられた用途、たとえば、記録エラーのような他のプロセスの精度を評価するツールとして使用される。
【実施例】
【0020】
本発明の実施例において、AR改良外科ナビゲーション・システムのオーバーレイ・エラーを評価するためのシステムと方法を提供する。この方法は、与えられたARシステムのオーバーレイ精度が定義した基準あるいは規格を満たすよう、決定するために追加して使用することが可能である。
【0021】
実施例において、この方法と対応する装置は、ARシステムを最適化するため、全体の精度について、様々な個々のエラー要因の影響の評価を容易にすることができる。
【0022】
本発明による方法を使用することで、与えられたARシステムのオーバーレイ精度が一旦確立すると、このARシステムは、患者の前のスキャンデータの記録のような与えられた用途でオーバーレイ精度に影響を与えることができる他のプロセスの精度を評価する評価ツールとして使用することができる。
【0023】
図1は、本発明の実施例によるオーバーレイ精度評価プロセスを示す。このプロセスは、Camera Probe Applicationで記述されているような、与えられたAR改良外科ナビゲーション・システムを評価するために使用することができる。
【0024】
図1を参照し、評価されるARシステムは、光追尾装置101と、追尾されるプローブ102と、コンピュータ105あるいは他のだータ処理装置とを備える。プローブは、基準フレーム103とマイクロビデオカメラ104を有する。基準フレーム103は、Camera Probe Applicationで記述されているように、例えば、追尾装置により検出可能な3つの反射ボールの組である。この3つのボールは、あるいは同分野で公知の他の基準フレームは、プローブに取り付けられた基準フレームを決定する。
【0025】
この追尾装置は、光学式、例えばNDIポラリス(製品名)システムあるいは他の許容できる追尾システムである。このように、追尾装置の座標系内のプローブの基準フレームの3D位置と方向が決定できる。ARシステムが正確に更正され、更正結果がコンピュータ105に入力されていることを前提としている。このような更正結果は、例えば、カメラの焦点長さfxとfy、画像中心CxとCy、ゆがみパラメータk(1)、k(2)、k(3)とk(4)と、カメラからプローブ基準フレームへの変換マトリックス;
TMcr=│Rcr 0│
│Tcr 1│ などのカメラ固有のパラメータを含む。この変換マトリックスの中で、Rは、基準フレームの座標系内のカメラの方向に関連し、Tは、基準フレームの座標系内のカメラの位置に関連する。このマトリックスは、プローブの基準フレーム内のカメラ106の位置と方向を提供する。従って、仮想カメラ107は、これらのパラメータから構成され、コンピュータ105に記録される。
【0026】
このようなAR外科ナビゲーション・システムは、患者の手術前画像データから生成されたコンピュータ生成仮想画像と、プローブ102内のマイクロカメラ104により取得された患者の実時間ビデオ画像を混合することができる。仮想画像内の仮想構造が、実時間画像内に見られる実世界の同等物と一致することを確かめるために、手術前の画像データは患者について記録可能で、その患者に対するビデオカメラの位置と方向が、プローブを追尾することにより実時間で更新可能である。
【0027】
テスト対象物110は、上述のAR外科ナビゲーション・システムのオーバーレイ精度を評価するために使用できる。(図1の110のように、テスト対象物は、仮想テスト対象物と明確に異なる実対象物として引用される。)このテスト対象物は、例えば、多くの制御点あるいは基準点を有する3次元対象物である。制御点は、テスト対象物と関連する座標系内の3D配置が精密に決定可能で、ビデオカメラにより取得されたテスト対象物の画像の2D配置もまた精密に決定可能であるテスト対象物上の点である。例えば、白黒の四角形の角部が、図3のテスト対象物の制御点として使用される。与えられた測定体積にわたり、与えられたARシステムの精度を正確に測定するため、制御点がその至るところに分布されている。さらに、制御点は、評価のためARシステムのカメラにより取得されるテスト対象物の画像で可視でなければならず、画像内のそれらの位置は容易に区別でき、正確に配置されなければならない。
【0028】
仮想テスト対象物111は、上述のAR外科システムのオーバーレイ精度を評価するために生成される。仮想テスト対象物111の仮想画像109は、ARシステムが与えられた用途での他の仮想構造を描写すると同じ方法で、ARシステムの仮想カメラ107を使用して生成される。仮想カメラ107は、実カメラの画像プロセスを真似ている。それは、例えば、更正プロセスを通し得られたパラメータの組により表現される実カメラのコンピュータ・モデルである。仮想テスト対象物111は、この仮想カメラにより画像化が可能なコンピュータ・モデルであり、その出力は、仮想対象物111の仮想画像109である。以下の検討を明確にするため、ここでは、コンピュータ生成画像を仮想画像といい、ビデオカメラからの(一般に実時間の)画像をビデオ画像と称す。実テスト対象物110上にある同じ番号の制御点は、その仮想テスト対象物111の上にもある。仮想テスト対象物111上の制御点はコンピュータにより生成された仮想画像109内に見ることができる。その画像内の位置は、容易に区別でき、正確に配置できる。
【0029】
上記のように、仮想テスト対象物111は実テスト対象物110のコンピュータ生成モデルである。テスト対象物から得た測定を使用して生成することができる。あるいは、CADデザインからのモデルでもいいし、そのテスト対象物はCADモデルから生成できる。テスト対象物と対応する仮想テスト対象物とは幾何学的に一致すべきである。特に、テスト対象物上と仮想テスト対象物上の制御点は、幾何学的に一致しなければならない。仮想対象物の他の部分に対するテスト対象物のその部分は一致することが好ましいが、必要ではない。
【0030】
仮想テスト対象物を生成するプロセスはモデル化のエラーを引き出すことがある。しかし、ARオーバーレイ精度の通常の範囲よりもはるかに精度のいい現在の技術(その技術を使えば、例えば半導体チップ製造産業では10-7mほど小さく、測定し、製造することが可能)で0.01mm以下で、モデル化エラーが制御可能である。このように、モデル化エラーは、本発明の実施例において一般に無視することができる。
【0031】
仮想テスト対象物111を、記録プロセス112を通し評価の初めに、対応する実テスト対象物110に記録することができる。この記録をするため、Camera Probe ApplicationのARシステムとして、追尾装置の座標系内の制御点の3D配置が記録される間、3Dプローブは、追尾装置で追尾可能で、テスト対象物上の制御点で順順に示すために使用される。実施例において、3Dプローブは、Camera Probe Applicationで記述されているAR用途で通常使用されている3Dプローブよりも指示精度が高くなるよう、特別にデザインされ、精密に更正されたプローブである。
【0032】
このような特別のプローブは、(1)テスト対象物上の制御点により精密に接触できるよう最適化された形状の先端と、(2)更正装置を使用し精密に決定されたプローブの基準フレーム内に先端の座標と、および・あるいは(3)一つ以上の面に分布され、目印の間の距離がより大きい、3つ以上の目印を備える基準フレームとを有する。目印は、追尾装置で最も精度よく追尾可能な受動あるいは能動な目印であればよい。このようなプローブを用いることで、実テスト対象物上の制御点は、プローブの先端で正確に配置可能となる。これにより、追尾装置の座標系でそれぞれの3D座標の正確な決定が可能となる。少なくとも3つの制御点の3D配置が記録のために集められる。他の実施例では、更に多くの(例えば20−30の)制御点が使用され、最小二乗法のような最適化方法を用いて、記録精度を改善できる。
【0033】
指示エラーを低減し、さらに記録精度を改善するために、実テスト対象物を製造するとき、多くの旋回点を作ることができる。このような旋回点は制御点の部分に正確に調整されるか、さもなくば、正確に調整されないなら、制御点に関するそれらの位置が正確に測定される。旋回点は、プローブの先端と正確に調整可能なように、特別な形状にデザインされている。実施例においては、少なくとも3つのこのような旋回点がテスト対象物上に作られるか、その代わりに、上述のように、記録精度を改善するためにもっと多くの点が使用される。記録は、制御点で指示する代わりに旋回点で行われる。
【0034】
記録後、仮想テスト対象物は、実テスト対象物に調整され、追尾装置に対する実テスト対象物の幾何学的関係が決定される。この幾何学的関係は、変換マトリックス:
TMot=│Rot 0│
│Tot 1│ として表される。このマトリックスにおいて、Rotは、追尾装置の座標系内のテスト対象物の方向であり、Totは、追尾装置の座標系内のテスト対象物の位置である。
【0035】
プローブ102は、適切に追尾している追尾装置101に関する位置で保持される。テスト対象物110のビデオ画像108がビデオカメラで取得される。同時に、プローブについての基準フレームの追尾データが記録され、基準フレームから追尾装置への変換マトリックス、すなわち
TMrt=│Rrt 0│
│Trt 1│ が決定される。この説明において、Rrtは、追尾装置の座標系内のプローブの基準フレームの方向であり、Trtは、追尾装置の座標系内のプローブの基準フレームの位置である。
【0036】
カメラから実テスト対象物への変換マトリックスTMcoは、テスト対象物に対する方向と位置を含み、公式TMco=TMcr・TMrt・(TMot)-1を使用し、追尾データ、記録データ、更正結果から計算できる。TMcoの値、仮想カメラおよび仮想テスト対象物記録データ(すなわち上述の更正パラメータ)を用いることで、Camera Probeのような用途で同様の方法が使用されたように、コンピュータは、仮想テスト対象物の仮想画像109を生成することができる。
【0037】
ビデオ画像108内の制御点113の2D配置は、例えば制御点として角部を使うHarryの角部発見方法や同分野で公知の他の角部発見方法を使用し、引き出すことができる。テスト対象物の座標系内の制御点の3D位置(Xo、Yo、Zo)は、テスト対象物の製造あるいは測定から知ることができる。カメラに関する3D位置(Xc、Yc、Zc)は、(Xc、Yc、Zc)=(Xo、Yo、Zo)・TMcoにより得られる。このように、仮想画像109内の制御点114の2D配置は、コンピュータ105により直接得ることができる。
【0038】
ビデオ画像108内の与えられた制御点の、対応する仮想画像内の対応部との対応を見つけることは、オーバーレイ画像内の対応する点の間の距離が、他の点との距離より非常に小さいので、通常は問題とならない。さらに、オーバーレイ・エラーがたとえ大きくても、制御点の対応の問題は、ビデオ画像と仮想画像の特徴を比較することにより、容易に解決できる。
【0039】
さらに、図1を参照し、115において、ビデオ画像内の制御点の2D配置は、比較プロセス115で、仮想画像内の対応する点の2D配置と比較することが可能である。ビデオ画像108内と仮想画像109内の制御点のそれぞれの対の間の配置の差が、このように計算することができる。
【0040】
オーバーレイ・エラーは、ビデオ画像108と仮想画像109内の制御点間の2D配置差として定義できる。ここでは、以下の検討をより明確にするため、このようなオーバーレイ・エラーを画像面エラー(IPE)として参照する。個々の制御点に対して、IPEは、IPE=((Δx)2+(Δy)21/2で定義でき、ここで、ΔxとΔyは、ビデオ画像108と仮想画像109の間のX,Y方向における制御点の位置に対する配置差である。
【0041】
IPEは、3D対象物空間エラー(OSE)に正確に印すことができる。OSEの異なる定義も可能である。例えば、テスト対象物の制御点と、仮想画像内の対応する制御点の画像を通り、後方に突出すことにより形成される視線との間のの最小距離として定義することも可能である。単純化するため、用語OSEを、制御点と、対象面と上述の視線の交点との間の距離として使用する。対象面は、図2に示されているように、テスト対象物上の制御点を通り、画像面と平行な面として定義する。
【0042】
OSEのそれぞれの制御点は、
OSE=((ΔxZc/fx)2+(ΔyZc/fy)21/2で定義でき、ここで、fxとfyは、カメラの更正から公知の、X,Y方向のビデオカメラの有効焦点距離である。Zcは、ビデオカメラの視点から対象面への距離であり、ΔxとΔyは、IPEと同様に定義された、ビデオ画像と仮想画像のX、Y方向の制御点の配置差である。
【0043】
AR外科ナビゲーション・システムのオーバーレイ精度は、本発明の実施例の方法を用いて、ビデオ画像と仮想画像の対応する制御点の配置差から計算されたIPEとOSEの統計的解析により決定することができる。オーバーレイ精度は、同分野で公知の方法、たとえば、IPEとOSEの最大、平均、二乗平均(RMS)の値で伝えることができる。発明者により評価されたARシステム(Camera Probe Applicationで記述されたDEX−Rayシステム)では、最大、平均と二乗平均のIPEは、ピクセルを単位として、それぞれ、2.24312、0.91301、0.34665であり、対応するOSEの最大、平均RMSの値は、ミリで、それぞれ、0.36267、0.21581、0.05095である。これは、脳神経外科用の現在のIGSシステムの用途エラーよりも10倍ほど良い。この結果がシステム精度を表す。評価されたシステムを使用するいかなる用途においても、全体の用途エラーは、このような用途に固有の他のエラー要因により大きいものとなる。
【0044】
実施例において、仮想テスト対象物は、テスト対象物の座標系に関する制御点の3D配置を含むデータ組である。仮想テスト対象物の仮想画像は、仮想制御点だけで構成される。あるいは、その代わりに、仮想制御点は、十字線、アバター、星印などの図的表示を使用して、表示される。あるいは、さらなる代わりとして、仮想制御点は、図を使用して、ビデオ画像の上に“投射”することができる。また、それらの位置はコンピュータにより計算され、仮想画像がコンピュータにより生成されるので、これらの位置は、まったく表示される必要もなく、仮想制御点の配置を含む仮想画像の属性を、コンピュータは既に知っている。
【0045】
実施例において、(実)テスト対象物は、図3に示すように、2面テスト対象物である。このテスト対象物は、チェッカーボード模様を有する二つの結合された面を備える。これらの面は、互いに90度である(したがって2面である)。テスト対象物の制御点は、精密に製作され、正確に測定され、このように、制御点の3D配置を、ある精度で知ることができる。
【0046】
仮想テスト対象物は、図4に示されるように、2面テスト対象物の特徴から生成される。このような仮想テスト対象物は、2面テスト対象物のコンピュータ・モデルである。それは、2面テスト対象物の測定データから生成され、制御点の3D配置は、2面テスト対象物の所定の座標系に対し知ることができる。テストイ対象物と仮想テスト対象物の両方の制御点は、幾何学的に一致している。このように、それらは、同じ点間距離と、テスト対象物境界とのそれぞれ同じ距離を有する。
【0047】
テスト対象物は、1面上に制御点を備える。この場合、テスト対象物は、直線移動ステージのような精密移動装置により測定容積を通し、ステップ移動する。精度評価は、容積のあるテスト対象物で記述されたと同じ方法により、一面ずつ、実施される。測定容積を横切る多くの点が、面状のテスト対象物の移動を通して得られ、これらの点の座標が同分野で公知の様々な方法により、移動装置に関して決定される。光学式あるいは他の追尾装置によるこれらの点の座標が、容積のあるテスト対象物で使用した上述と同じ記録プロセスを通し、すなわち、異なる配置で制御点の3D位置を検出する3Dプローブを使用して、決定される。このような場合、3Dプローブは、追尾装置により検出可能な適切な位置で保持される。記録後、ビデオカメラに対する制御点の座標は、容積のあるテスト対象物のための上述と同じ方法で決定される。各与えられたステップで、制御点の幾何学的関係は、容積のあるテスト対象物のための上述と同じ方法で、コンピュータに記録された記録結果、追尾データ、ARシステム更正データにより決定される。各ステップの制御点の仮想画像は、このようにして、コンピュータにより生成される。ビデオ画像も、また、各ステップで取得され、ビデオ画像内の制御点と対応する仮想画像内の同じ制御点との間の配置差を計算することにより、オーバーレイ精度が、そのステップで決定される。
【0048】
実施例において、テスト対象物は、一つの制御点からなってもよい。この場合、例えば、0.0225mmの容積精度を有するDEA、Inc(社名)のDelta34.06(製品名)のような座標測定装置(CMM)のような精密移動装置により、計測容積をとおし、テスト対象物は、ステップ移動可能である。精度評価は、体積を有するテスト対象物を使用した一点づつを基本にした上述の同じ原理を使用して、実施することができる。測定容積を通し、多くの点が、テスト対象物の移動により達成され、同分野で公知の様々な方法で、移動装置に対する座標が決定可能となる。追尾装置に対する座標は、容積を有するテスト対象物のための上述のものと同様な記録プロセスを通し、すなわち、異なる配置の数で、制御点の3D位置を検出する3Dプローブを使用することにより、決定することが可能となる。このような場合、プローブは、追尾装置により検出可能な適切な位置で保持される。記録後、ビデオカメラに対する制御点の座標が、一面テスト対象物と同様な方法で決定される。各ステップでの制御点の幾何学的関係は、容積のあるテスト対象物で記述された同様の方法で、コンピュータに記録された記録結果、追尾データおよびARシステムの更正データとにより決定できる。各移動ステップでの制御点の仮想画像は、このように、コンピュータにより生成される。ビデオ画像は、各ステップで取得され、オーバーレイ精度は、ビデオ画像内の制御点と対応する仮想画像内の制御点との間の配置差を計算するステップで決定される。
【0049】
実施例において、その方法が、オーバーレイ精度が定義された許容基準を満たしているかどうか評価するために利用される。
【0050】
AR外科ナビゲーション・システムの製造者は、通常、そのような許容基準を定義する。「合格基準」としてよく称される、この許容基準は、販売のためのシステムを認定するために必要である。本実施例では、許容基準は:実施例の評価方法を用い決定されるように、所定の容積を横切るOSEの値は、0.5mm以下である。これは、しばしば、サブミリ精度として知られている。
【0051】
実施例において、所定の容積は、“精度空間”と呼ばれる。精度空間は、図5に示すよいうに、ビデオカメラと協働するピラミッド状空間として定義される。カメラの視点に対するこのような精度空間の近い面は、130mmである。そのピラミッド形状の奥は、170mmである。近い面での高さと幅は、両方ともに75mmで、遠い面では、両方ともに174mmであり、画像での512x512ピクセル範囲に対応している。
【0052】
追尾装置に関する異なるカメラの位置と方向のため、オーバーレイ・エラーは異なる。これは、追尾精度が、追尾装置に関する基準フレームの位置と方向に依存するからである。プローブの方向による追尾精度は、目印装置の形状デザイン(例えば、DEX−Ray(商品名)プローブ上の3つの反射球)により制限される。同分野で知られているように、ほとんどの追尾システムに対し、追尾システムの視線に直角な基準フレームの面を有することが好ましい。しかし、プローブ位置の変動による追尾精度の変化は、ユーザーにより制御可能である。このように、ユーザーが用途において基準フレームを追尾装置に向き合わせるようにプローブの方向を調整することにより同様なプローブ方向を得ることができるので、精度の評価は、プローブの方向で実施することができる。仮想制御点の仮想画像が実制御点のビデオ画像の上の重畳できるので、オーバーレイ精度の評価が実施されると同時に、オーバーレイ精度が可視化できる。
【0053】
このように、プローブのいかなる位置と方向でのオーバーレイ精度が、使用されるとき動かされるようにプローブを移動させることにより、AR表示内で、視覚的に評価できる。
【0054】
本発明の実施例において、精度の評価方法と装置は、ARシステムを最適化するために、全体の精度について様々な個々のエラー要因の影響を評価するために使用される。
【0055】
上述のテスト対象物は、ARシステムを更正するために使用可能である。更正の後、そのようなARシステムのオーバーレイ精度を評価するために、同じテスト対象物が使用される。更正および追尾のような異なるエラー要因によるオーバーレイ精度の影響は、個別に評価できる。
【0056】
カメラからプローブの基準フレームへの変換マトリックスの更正と同様に、ビデオAR外科ナビゲーション・システムの更正は、カメラの固有なパラメータの更正を含む。カメラの更正は、同分野で良く知られている。その機能は、焦点距離、画像中心、歪のようなカメラ特性を記述する固有のパラメータと、更正に使用されるテスト対象物に対するカメラの位置と方向である外的なパラメータとを見つけることである。更正プロセスにおいて、カメラは、テスト対象物の画像を取得する。その画像内の制御点の2D位置が引き出され、そのテスト対象物に対する制御点の3D位置の対応点が見出される。カメラの固有のパラメータおよび外的パラメータは、入力として、制御点の3Dおよび2Dの位置を使用し、従来技術で知られた更正プログラムにより、求められる。
【0057】
ARシステムのカメラのカメラ更正の例を以下に示す。
固有パラメータ
画像サイズ:Nx=768, Ny=576
焦点長さ:Cx=416.042786, Cy=282.107896
歪:kc(1)=-0.440297, kc(2)=0.168759, kc(3)=-0.002408, kc(4)=-0.002668
外的パラメータ
Tco=-174.545851 9.128410 -159.505843
Rco= 0.635588 0.015614 -0.771871
-0.212701 0.964643 -0.155634
0.742150 0.263097 0.616436
【0058】
上記のように、カメラからテスト対象物への変換マトリックスは、更正により決定される。追尾なしに、テスト対象物の仮想画像は、更正されたパラメータを使用して生成することができる。仮想画像は、更正に使用されたビデオ画像と比較され、オーバーレイ・エラーが計算される。この点でのオーバーレイ精度だけがカメラ更正により引き出されたエラーに関係するので、オーバーレイ・エラーが、全オーバーレイ・エラーに対するカメラ更正の効果の指標として使用できる。このオーバーレイ精度は、仮想画像の作画プロセスで一つずつ他のエラー要素を加えることにより、他のエラーの影響を評価するための、基線あるいは基準として機能する。
【0059】
テスト対象物から追尾装置への変換マトリックスは、上記のように記録プロセスにより得ることができる。基準フレームから追尾装置への変換マトリックスは、プローブの基準フレームが追尾装置により追尾される3つの反射球のような目印により定義されるので、追尾を通し直接得ることができる。このように、カメラから基準フレームへの変換マトリックスは、TMco=TMcr・TMrt・(TMot)-1で計算できる。
【0060】
更正の後、カメラからテスト対象物への変換マトリックスは、基準フレームを追尾して得ることができる。オーバーレイ精度への追尾エラーの影響を評価するために、カメラとテスト対象物は、更正と追尾装置におけるのと同じ位置に保持され、追尾装置の全追尾容積の至る所にプローブを位置付けるように、様々な位置と方向に移動される。式TMco=TMcr・TMrt・(TMot)-1から、追尾装置に関しての異なるカメラの位置と方向を含む、全追尾容積を横切るオーバーレイ・エラーについて追尾エラーの影響は、それぞれ望む位置と方向で実更正対象物と仮想更正対象物の一対の画像を記録し、それぞれの実画像と仮想画像内の制御点の間の差をそれぞれ比較して、評価することができる。
【0061】
評価ツールとしての評価されたARシステムの使用:オーバーレイ精度が評価され、ある正確に基準内であることが証明された後、ARシステムは、オーバーレイ精度に影響するエラー要因を評価するためのツールとして使用できる。
【0062】
例えば、実施例においては、評価されたARシステム(EAR)が、記録精度を評価するために使用されている。
【0063】
患者の前の3D画像データを整列するために使用される多くの公知の記録方法がある。それら全てが、3D画像と患者の共通する特徴の使用に頼っている。例えば、基準、目印あるいは表面が、固い対象物の記録に通常使用されている。記録は、AR改良外科ナビゲーションと同様に、従来の画像案内外科用として重要なステップである。しかし、高い正確な記録に到達することは極めて困難であり、記録精度の評価は同様に困難である。
【0064】
しかし、記録エラーの影響を評価するためのARシステムを使用することは、非常に容易である。このように、記録後、実画像と仮想画像に現れる特徴あるいは目印の間のオーバーレイ・エラーが容易に可視化でき、ARシステムが評価された精度基準を超えるオーバーレイ・エラーは、記録によりものと仮定できる。さらに、量的な評価が、実画像と可塑画像の特徴の位置的な差を計算により可能となる。
【0065】
6つの基準を有する人間の頭蓋骨のファントムは、この原理を証明するために発明者が使用する。円錐、球、円柱、立方体の形状の4つの幾何学的対象物が、記録精度評価のための目標としてファントムに配置されている。ファントム(4つの目標対象物を含む)のCTスキャンが実施されている。ファントムの表面と4つの幾何学的対象物はCTデータから分割される。
【0066】
CTスキャンデータの基準は区分され、スキャン画像座標系の3D配置が記録される。さらに、光追尾装置の座標系の3D配置が、上述の追尾3Dプローブで、一つずつ指示されて検出される。図6の615で示されるように、公知の基準ベースの記録プロセスが実施される。このプロセスからの記録エラーは、このテストの実施に使用されたシンガポールのVolume Interractions Pte Ltd社により提供されたDEX−Ray(商標)ARシステムのインターフェイスの画像である図7で示される。
【0067】
結果の記録エラーは非常に良い記録結果を示している。ビデオ画像と仮想画像の重畳は、極めて良好である。これは、図8に示すように、分割されたファントムの表面の重畳画像とファントムのビデオ画像とを検査して確認された(図8(a)改善されたグレースケールの画像で、図8(b)は元のカラー画像である)。
【0068】
図8は、仮想画像と実画像の重畳のいい例である。背景のビデオ画像は、そこに仮想対象物がないので、容易に見ることができる。実頭蓋骨のビデオ画像は、仮想画像により完全に重畳されるけれど、(頭蓋骨の前の小さな穴、基準が容易に識別できるのと同様に、図の中央近くの黒いくねった線と仮想頭蓋骨の穴の右端の仮想黒線の組のような頭蓋骨の他の明確な特徴を)見ることができる。(ジグザグ端で囲まれるよう示された)仮想頭蓋骨の仮想画像の穴があり、仮想頭蓋骨の部分は、そこがプローブ先端位置で示され、カメラに直角な切断面よりカメラに近いので、レンダリングされていない。ビデオ画像では見ることができない、仮想頭蓋骨の穴の上部左の仮想球である、内部対象物の仮想画像が、可視化されている。
【0069】
目標対象物での記録エラーは、以下のように見つけることができる。図9(図9(a)は改善されたグレースケール画像で、図9(b)は元のカラー画像である)に示されるように、仮想画像と実目標対象物とのオーバーレイ・エラーは視覚的に容易に評価できる。
【0070】
目標対象物での記録エラーは、評価することは通常困難である。しかし、ARシステムのオーバーレイ精度は、本発明の方法を用いて評価し、図9に示すオーバーレイよりも非常に小さいので、記録エラーは、全体のエラーに初めに与えられたものとして見なすことができる。さらに、仮想幾何学的対象物は、実対象物の正確なモデルとして高い精度であると知られているので、オーバーレイ・エラーが記録エラーによりほとんどしょうじることがこのテストの結論である。
【0071】
例:以下の例は、本発明の方法と装置を使用したARシステムの評価を示したものである。
【0072】
1.精度空間:精度空間は、カメラに関するピラミッド状の空間と定義される。カメラの視点に近い面は、130mmで、プローブ先端と同じである。ピラミッドの奥は、170mmである。近い面での高さと幅は75mmで、遠い面では両方174mmであり、図5に示すように、画像範囲512x512ピクセルに対応している。この精度空間のオーバーレイ精度は、評価で収集されたデータから精度空間の外側の制御点を除去して評価される。
【0073】
2.使用装置:
1)KS312-300(製品名) Suruga製Z軸駆動ステ−ジと、DFC 1507O (製品名)Orientalステッパ−ドライバーと、M1500, MicroE リニアエンコーダ(製品名)とMPC3024Z(製品名) JAC移動制御基板とからなるモータ駆動リニアステージ。アダプタ板が移動方向に垂直な面でステージに取り付けられている。ステージの行程距離は300mmで精度は0.005mmである。
2)平面ガラス板に印刷チェス矩形パターンを接着して作られた平面のテスト対象物。このテスト対象物は、図12に拡大画像を示し、図13に全テスト装置の環境を示す。パターンには17x25四角形があり、そのサイズは15x15mmである。チェス状の矩形の角部は、図12の矢印により示される制御点として使用される。
3)Poraris(製品名)ハイブリッド追尾装置
4)Traxtal TA-200(製品名)プローブ
5)評価に使用されるDEX−Ray(製品名)カメラ。DEX−Rayは、シンガポールのVolume Interactions Pte Ltd社が開発したAR外科ナビゲーション・システムである。
【0074】
3.評価方法:本発明の実施例による評価方法は、ビデオ画像と仮想画像内でのそれぞれの配置間での制御点の位置差あるいはオーバーレイ・エラーを計算するために用いられる。オーバーレイ・エラーは、ミリメータ(mm)でピクセル内に報告される。
【0075】
リニアステージはPolaris追尾空間で適切な位置に配置される。テスト対象物はアダプタ板に置かれる。更正されたDEX−Rayカメラはテスト対象物上方の適切な位置でホルダーにより保持される。完全な装置は図13に示されている。リニアステージで平面の対象物を移動させることにより、制御点が、測定容積と称される体積を横切り一様に広がり、測定容積内の3D位置が取得される。評価中、DEX−Ray(商標)の精度空間が測定容積内にあることが確認される。異なる移動ステップでの更正対象物の画像列が取得される。これらの画像から角部を取り出すことにより、実画像内の制御点の位置が収集される。
【0076】
テスト対象物で定義された基準座標系内の制御点の対応する3D位置は、テスト対象物の知られた角部位置と移動した距離により決定される。Polaris座標系内でこれらの制御点のいくつかの3D位置を検出することにより、基準座標系からPolaris座標への変換マトリックスは、上述のように記録プロセスにより確立される。プローブの基準フレーム位置と方向は、追尾を通し知られる。このように、カメラの更正データを用いることにより、仮想対象物が(ここでは、上述の評価手順と逆に“用途”として呼ばれる)外科ナビゲーション目的のための実際のビデオ画像と結合されるとき、DEX−Rayシステムで実行される方法で、制御点の仮想画像が生成され、実画像に重畳される。
【0077】
上述の方法は、一つあるいは数カ所のカメラ位置でオーバーレイ・エラーを完全に評価するために用いることができる。Pilaris追尾空間内の異なるカメラ回転と位置でのオーバーレイ・エラーは、カメラを移動させている間実時間で重畳表示を更新することで可視化できる。異なるカメラ位置でのスナップショットは、オーバーレイ精度を示す他の方法として用いられる。図11は、様々なカメラ位置における重畳を示す。
【0078】
4.更正結果:DEX−Rayカメラは、評価前にリニアステージに取り付けられた同じテスト対象物を使用して更正された。得られた更正結果は;
カメラ固有パラメータ:
焦点長さ:fc=[883.67494 887.94350]([0.40902 0.40903]
主点:cc=[396.62511 266.49077]([1.28467 1.00112]
スキュー:alpha-c=[0.00000]([0.00000]
歪:kc=[-0.43223 0.19703 0.00004 -0.00012 0.00000]([0.00458 0.00020 0.00018 0.00000]
カメラ外的パラメータ:
方向:omc=[-0.31080 0.27081 0.07464]([0.00113 0.0014 0.00031
位置:Tc=[-86.32009 -24.31987 160.59892]([0.23802 0.18738 0.15752]
標準ピクセルエラー
err=[0.19089 0.17146]
カメラ−目印変換マトリックス
Tcm= 0.5190 -22.1562 117.3592
Rcm= -0.9684 -0.0039 0.2501
0.0338 -0.9929 0.1154
0.2479 0.1202 0.9615
【0079】
5.評価結果:
5.1)テスト対象物の記録:Traxtal TA-200(製品名)プローブは、Polarisの座標系内の制御点の座標を検出するために使用される。90mmの距離でテスト対象物に一様に広がった9つの制御点の3D配置が取り上げられた。テスト対象物は80mmと160mm下向きに移動し、同じプロセスが繰り返される。図10に示されるように、Polarisにテスト対象物の姿勢を決めるために27点が使用された。評価対象物からPolarisへの変換マトリックスが以下のように計算された:
Tot= 93.336 31.891 -1872.9
Rot= -0.88879 -0.25424 0.38135
-0.45554 0.39842 -0.79608
0.050458 -0.88126 -0.46992
使用された記録アルゴリズムは、以下のようにMatlabで使用された:
X=テスト対処物座標系内の制御点の座標
Y=Polaris座標系内の制御点の座標
Ymean= mean(Y)';
Xmean= mean(X)';
K= (Y'-Ymean*ones(1,length(Y)))*(X'-Xmean*ones(1,length(X)))';
[U,S,V]= svd(K);
D= eye(3,3);D(3,3)= det(U*V');
R= U*D*V';
T= Ymean - R*Xmean;
Rot= R';Tot =T';
%%%Registration error
Registration Error= (Y-ones(length(X),1)*Tot)*inv(Rot)-X;
Xは、テスト対象物座標系内の27制御点の座標を規定する。Yは、表1に示すように、Polaris座標系内の27制御点の座標を規定する。
【0080】
【表1】

【0081】
5.2)追尾データ:カメラは、テスト対象物の上方の適切な位置で保持される。全評価プロセスをとおし、それは維持される。Polarisセンサーは、評価中保持される。Polarisに対するDEX−Rayプローブの位置と方向の基準フレームは:
Trt= 180.07 269.53 -1829.5
Rrt= 0.89944 -0.40944 -0.15159
0.09884 -0.14717 0.98396
-0.42527 -0.90017 -0.091922
【0082】
5.3)ビデオ画像:記録後、テスト対象物はカメラに近づくように移動させられる。移動の距離は、デンコーダのフィードバックを介しコンピュータにより自動的に検出される。ビデオ画像が取得され、保存される。テスト対象物は20mm移動され、停止し、他のビデオ画像が取得され、保存される。このプロセスは、対象物が測定要請の外になるまで続けられる。この評価において、全移動距離は160mmとなる。8つのビデオ画像がいっしょに取られる。(160mmでの画像は、測定容積の外であり、使用されない)。
【0083】
5.4)評価結果:更正データ、記録データテスト対象物、基準フレームの追尾データ、テスト対象物の移動距離を使用して、カメラに対する制御点の配置が決定され、各移動ステップでの制御点の仮想画像が、上記のように生成される。
【0084】
各移動ステップでのビデオ画像内の制御点とその移動ステップでの仮想画像内の対応する制御点との位置差が計算される。オーバーレイ精度は上述の方法を用いて計算される。
【0085】
DEX−Rayシステムの全作業空間にわたるオーバーレイ精度が評価される。評価されたプローブ位置の最大、平均、RMSエラーは、ピクセルで2.24312、0.91301、0.34665である。対象物に配置すると、対応する値は、ミリで、0.3627、0.21581、0.05095である。
【0086】
上記のプロセスは、様々なカメラの位置と方向でオーバーレイ精度を評価するのに使用することができる。また、実際の用途で、同様な方法で、オーバーレイ精度を動的に可視化することも可能である。異なるカメラ位置でのオーバーレイ表示のスナップショットを図11に示す。評価結果は一つのカメラ位置だけで得られているが、これらのスナップショットは、通常の状態で正しいことを示している。
【0087】
以下の引用は、ここに、協力する。これらの引用の適切な用途が示される。
1)P J. Edwards, etc Design and Evaluation of a System fro Microscope-Assisted Guided Interventions (MAGI), IEEE Transactions on Medical Imaging, vol. 19, No. 11, November 2000. VR Error Analysisを参照。
2)W. Birkfeller, etc, Current status of the Varioscope AR, ahead-mounted operating microscope for computer-aided surgery, IEEE and ACM International Symposium on Augmented Reality (ISAR'01), October 29-30, 2001, New York, New York. Resultsを参照。
3)W, Grimson, etc, An Automatic Registration Method for Frameless Stereotaxy, Image Guided Surgery, and Enhanced Reality Visualization, Transactions on Medical Imaging, vol. 15, No. 2, April 1996. Motivating Problemを参照。
4)Willam Hoff, Tyrone Vincent, Analysis of Head Pose Accuracy in Augmented Reality. IEEE Transactions on Visualization and Computer Graphics, vol. 6, No. 4, October-December 2000. 全部を参照。
5)A. P. King, etc, An Analysis of calibration and Registration Errors in an Augmented Reality System for Microscope-Assisted Guided Interventions, Proc. Medical Imaging Understanding and Analysis 1999. Accuracyを参照。
発明の原理を以上説明してきたが、当業者にとって、ここに記述されただけでなく、発明の原理を具体化し、精神と範囲である代わりの変更が可能であること認識される。
【図面の簡単な説明】
【0088】
【図1】本発明の実施例による精度評価の方法のプロセスフローの概略図である。
【図2】本発明の実施例で使用される画像面エラー(IPE)と対象物空間エラー(OSE)の定義を示す概略図である。
【図3】本発明の実施例による2面テスト対象物を示す図である。
【図4】本発明の実施例による図3のテスト対象物の仮想対応部の図である。
【図5】本発明の実施例による定義された精度空間を示す図である。
【図6】本発明の実施例による記録プロセスフローの図である。
【図7】本発明の実施例による基準記録プロセスから結果する記録エラーを示す図である。
【図8】本発明の実施例による対象物の記録エラーを評価して評価ツールとして決定されたARシステムの使用を示し、(a)は改善されたグレースケールであり、(b)は同じ画像の元のカラー画像である。
【図9】本発明の実施例による内部目標対象物の記録エラーを評価して評価ツールとして決定されたARシステムの使用を示し、(a)は改善されたグレースケールで、(b)は同じ画像の元のカラー画像である。
【図10】本発明の実施例によるテスト対象物の記録に使用される27点を示す図である。
【図11】(a)−(c)は本発明の実施例によるARシステムを評価するために使用される平面テスト対象物の異なるカメラ位置からの重畳表示のスナップショットである。
【図12】本発明の実施例による9つの制御点を有する平面テスト対象物を示す図である。
【図13】本発明の実施例による図12の平面テスト対象物を使用した評価システムを示す図である。

【特許請求の範囲】
【請求項1】
テスト対象物を供給し、
そのテスト対象物を位置合わせし、
所定の作業範囲内の様々な位置でそのテスト対象物上の基準点の画像を捕捉し、
その捕捉した画像からテスト対象物上の基準点の位置を取得し、
その基準点の再投影位置を計算し、
取得された位置と再投影基準位置との差を計算することを特徴とする強化現実システムにおけるオーバーレイ・エラーの計測方法。
【請求項2】
上記テスト対象物が、2平面であることを特徴とする請求項1記載の計測方法。
【請求項3】
上記テスト対象物が、1平面であることを特徴とする請求項1記載の計測方法。
【請求項4】
上記テスト対象物が、それぞれの基準点に対する多重点を捕捉するため、正確な増分により上記所定の作業範囲内を移動することを特徴とする請求項3記載の計測方法。
【請求項5】
上記テスト対象物が、連続する基準点の間の距離が公知の公差内にあるように、正確に製造されるあるいは測定されることを特徴とする請求項1記載の測定方法。
【請求項6】
上記テスト対象物が一つあるいはそれ以上の旋回軸を有し、その旋回軸から基準点への距離が所定の公差内であることを正確に知られていることを特徴とする請求項1記載の測定方法。
【請求項7】
上記基準点の少なくとも三つの位置が使用されることを特徴とする請求項1記載の測定方法。
【請求項8】
上記取得された基準点と再投影された基準点の差の計算はそれぞれの基準点についてなされ、その計算は所定内の作業範囲内の全ての基準点からの最小値、最大値、平均および標準偏差のうちの一つあるいはそれ以上を含むことを特徴とする請求項1記載の測定方法。
【請求項9】
上記強化現実システムの全ての取得した基準点と再投影の基準点との差が所定の標準を満たしているかどうかを決定することをさらに含むことを特徴とする請求項1から8のいずれか記載の測定方法。
【請求項10】
オーバーレイ・エラーの他の要因を測定することに対する基準線として全ての取得した基準点と再投影の基準点との差を使用することをさらに含むことを特徴とする請求項1から8のいずれか記載の測定方法。
【請求項11】
オーバーレイ・エラーの上記他の要因が位置合わせエラーを含むことを特徴とする請求項10記載の測定方法。
【請求項12】
実テスト対象物を供給し、
仮想テスト対象物を生成し、
その仮想テスト対象物に対しその実テスト対象物を位置合わせし、
そのテスト対象物上の基準点の画像を捕捉し、所定の作業範囲内の様々な位置で、仮想テスト対象物上の対応する点の仮想画像を生成し、
その捕捉した画像から実テスト対象物上の基準点の位置を取得し、
その仮想画像から仮想テスト対象物上の基準点の対応する位置を取得し、
実基準点と仮想基準点の位置の差を計算することを特徴とする強化現実システムにおけるオーバーレイ・エラーの計測方法。
【請求項13】
上記テスト対象物が、2平面であることを特徴とする請求項1記載の計測方法。
【請求項14】
上記テスト対象物が、1平面であることを特徴とする請求項1記載の計測方法。
【請求項15】
上記テスト対象物が、それぞれの基準点に対する多重点を捕捉するため、正確な増分により上記所定の作業範囲内を移動することを特徴とする請求項14記載の計測方法。
【請求項16】
上記テスト対象物が、連続する基準点の間の距離が公知の公差内にあるように、正確に製造されるあるいは測定されることを特徴とする請求項13記載の測定方法。
【請求項17】
上記テスト対象物が一つあるいはそれ以上の旋回軸を有し、その旋回軸から基準点への距離が所定の公差内であることを正確に知られていることを特徴とする請求項13記載の測定方法。
【請求項18】
上記基準点の少なくとも三つの位置が使用されることを特徴とする請求項13記載の測定方法。
【請求項19】
上記取得された基準点と再投影された基準点の差の計算はそれぞれの基準点についてなされ、その計算は所定内の作業範囲内の全ての基準点からの最小値、最大値、平均および標準偏差のうちの一つあるいはそれ以上を含むことを特徴とする請求項13記載の測定方法。
【請求項20】
所定の基準点を有するテスト対象物と、
追尾装置と、
データ処理装置と、
ARシステムで使用されるカメラあるいは画像装置と、を備え、
そのテスト対象物とそのカメラは追尾装置の追尾空間内でそれぞれ追尾可能であり、そのカメラあるいは画像装置はそのテスト対象物の一つあるいはそれ以上の画像を生成し、そのデータ処理装置は所定の作業範囲内の様々な位置で対応する仮想テスト対象物のひとつあるいはそれ以上の画像を生成し、対応する基準点同士の位置の差が計算されることを特徴とする強化現実システムにおけるオーバーレイ・エラーの計測システム。
【請求項21】
上記テスト対象物が、2平面であることを特徴とする請求項20記載の計測システム。
【請求項22】
上記テスト対象物が、1平面であることを特徴とする請求項20記載の計測システム。
【請求項23】
上記テスト対象物が、それぞれの基準点に対する多重点を捕捉するため、正確な増分により上記所定の作業範囲内を移動することを特徴とする請求項20記載の計測システム。
【請求項24】
上記テスト対象物が、連続する基準点の間の距離が公知の公差内にあるように、正確に製造されるあるいは測定されることを特徴とする請求項20記載の測定システム。
【請求項25】
上記テスト対象物が一つあるいはそれ以上の旋回軸を有し、その旋回軸から基準点への距離が所定の公差内であることを正確に知られていることを特徴とする請求項20記載の測定システム。
【請求項26】
上記カメラあるいは画像装置は、一つあるいはそれ以上の画像が生成されている間、追尾装置と係る所定の位置に保持・固定されることを特徴とする請求項20から25のいずれか記載の測定システム。
【請求項27】
上記テスト対象物が、容積測定であることを特徴とする請求項1記載の計測方法。
【請求項28】
上記基準点が、そのテスト対象物の体積全体にわたって広がっていることを特徴とする請求項27記載の計測方法。
【請求項29】
上記テスト対象物が、単一基準点を有することを特徴とする請求項1記載の計測方法。
【請求項30】
上記単一基準点が、上記所定の作業範囲内で様々な正確に知られた位置で画像化されることを特徴とする請求項29記載の測定方法。
【請求項31】
上記テスト対象物が、容積測定であることを特徴とする請求項20記載の計測システム。
【請求項32】
上記テスト対象物が、単一基準点を有することを特徴とする請求項20記載の計測システム。
【請求項33】
上記テスト対象物が、CMMを介し、上記所定の作業範囲にわたって、順次移動することを特徴とする請求項20記載の計測システム。
【請求項34】
上記所定の作業範囲は、上記カメラあるいは画像装置と協働する空間であることを特徴とする請求項1から8のいずれか記載の測定方法。
【請求項35】
上記所定の作業範囲は、上記カメラあるいは画像装置と協働する空間であることを特徴とする請求項20から25あるいは31から33のいずれか記載の測定システム。

【図1】
image rotate

【図2】
image rotate

【図6】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公表番号】特表2007−529007(P2007−529007A)
【公表日】平成19年10月18日(2007.10.18)
【国際特許分類】
【出願番号】特願2007−502353(P2007−502353)
【出願日】平成17年3月14日(2005.3.14)
【国際出願番号】PCT/EP2005/051131
【国際公開番号】WO2005/091220
【国際公開日】平成17年9月29日(2005.9.29)
【出願人】(503427359)ブラッコ イメージング ソチエタ ペル アチオニ (19)
【氏名又は名称原語表記】BRACCO IMAGING S.P.A.
【Fターム(参考)】