3Dデータセットのネットワーク(”DextroNet”)上での、協同的でインタラクティブな可視化のためシステムおよび方法
本発明は、3Dデータセットのインタラクティブな可視化に関する。特に、ネットワーク上で多数の当事者によって、1以上の3Dデータセットの協同的なインタラクティブな可視化に関する。この示唆されたシステムは、通信リンク上で、1以上のリモート機の1以上のリモートプローブの位置データを受信し、1つのリモートプローブと前記3D画像とを含む組み合わされた3Dシーンを、ローカルディスプレイ上に表示するために作成し、前記装置に対してローカルであるユーザによって、3D画像を処理し、そして、前記通信リンク上で、前記装置に対してローカルである前記ユーザによる前記処理に関連するデータであって、リモート機に3D画像上で処理を行うローカルプローブの画像を含む組み合わされた3次元シーンを表示させるデータを送信するように構成されている。
【発明の詳細な説明】
【背景技術】
【0001】
他の出願とのクロスリファレンス
本願明細書は、(i)「ネットワーク(「デキストロネット」(“DextroNet”))上での、協同的でインタラクティブな可視化のためシステムおよび方法(SYSTEMS AND METHODS FOR COLLABORATIVE INTERACTIVE VISUALIZATION OVER A NETWORK ("DextroNet"))」という発明の名称で、2005年12月31日に出願された米国仮特許出願第60/755,658号、(ii)「2Dインターフェース(「デキストロラップ」(“DextroLap”))を用いて3D可視化システムと対話を行うための方法およびシステム(METHODS AND SYSTEMS FOR INTERACTING WITH A 3D VISUALIZATION SYSTEM USING A 2D INTERFACE ("DextroLap")」という発明の名称で、2006年9月19日に出願された米国仮特許出願第60/845,654号、および(iii)「3Dデータセットのネットワーク("DextroNet")上での、協同的でインタラクティブな可視化のためシステムおよび方法(SYSTEMS AND METHODS FOR COLLABORATIVE INTERACTIVE VISUALIZATION OF 3D DATA SETS OVER A NETWORK ("DEXTRONET")」という発明の名称で、2006年12月19日に出された出願第 号(出願人は、この後者の仮特許出願の正しい出願番号と出願日を提供するために本願を補正する権利を留保している)の優先権を主張し、この仮出願の内容全体を引用によって本願明細書に援用するものとする。さらに本願明細書は、(i)「ポインティング装置上に搭載されたカメラに基づく拡張現実感手術用ナビゲーションシステム(An Augmented Reality Surgical Navigation system Based on a Camera Mounted on a Pointing Device(「カメラプローブ」(Camera Probe))」という発明の名称で、2004年4月27日に出願された共係属中の出願された米国実用新案出願第10/832,902号、(ii)「ポインティング装置上に搭載されたカメラに基づく拡張現実感手術用ナビゲーションシステム(An Augmented Reality Surgical Navigation system Based on a Camera Mounted on a Pointing Device (「カメラプローブ」(Camera Probe))」という発明の名称で、2005年7月1日に出願された共係属中の出願された米国実用新案出願第11/172,729号を引用によって援用する。
【技術分野】
【0002】
本発明は、3次元(「3D」)データセットのインタラクティブな可視化に関する。特に、ネットワーク上で種々のプラットフォームを用いる、1以上の3Dデータセットの協同的なインタラクティブな可視化に関する。
【0003】
発明の背景
従来、3Dデータセットの3次元可視化は、所与の3Dデータセットを、専用のワークステーションまたはコンピュータに投入する(または、複数の2Dイメージの1つを作成する)ことによって行われている。一般的には、1人のユーザが、一台の専用のワークステーション上で、インタラクティブに3Dデータセットを可視化する。これは例えば、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデキストロスコープ(Dextroscope)(登録商標)によって行うことができる。デキストロスコープ(Dextroscope)(登録商標)は、ボリュームを立体的に表示することが可能であり、ユーザが3Dを完全に制御することが可能なハイエンド、ツルーインタラクティブ可視化システムである。さらにボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデックス―レイ(DEX-Ray)(登録商標)システムは、コレジスタされた3Dスキャンデータとリアルタイムビデオを組み合わせた専用の3Dインタラクティブ可視化システムである。デックス―レイ(DEX-Ray)(登録商標)は、術前のスキャンデータから区分化されたバーチャルオブジェクトとリアルタイムビデオを組み合わせて複合画像とすることによって、ユーザ(一般的には外科医)が実際の手術の現場で「後ろを見る」ことを可能にする。しかしながら、従来、同程度にハイエンドのデキストロスコープ(Dextroscope)(登録商標)またはデックス―レイ(DEX-Ray)(登録商標)といった3Dインタラクティブ可視化システムを用いた場合、たとえ複数の表示システムがあり、多くの人がそれらの表示を実際のユーザの近くに立つことによって見ることができたとしても、可視化をコントロールできる(コントロール可能である)のは一度に1人のユーザだけである。したがって、そのようなシステムにおいては、制御を行う人以外は、試験中の3Dデータセットの操作に真の参加または協同しているとは言えない。
【0004】
例えば、デックス―レイ(DEX-Ray)(登録商標)は、脳神経外科の処置などの複雑な手術の計画に使用することができる。そのような手術計画においては、上で引用したカメラプローブ(Camera Probe)に記載するように、神経外科医と彼のチームは、手術前スキャンデータと、このデータの区分化された関心オブジェクトを取得し、手術中に使用すべきアプローチなどのプランニングデータを追加することができる。さらに、カメラプローブ(Camera Probe)にさらに記載されているように、所与の3Dデータセット中の様々なポイントを「マーカー」として使用することができる。そのようなマーカーからのプローブをもつユーザの手の先端の位置が、手術中ずっとトラッキングされ、そして連続的に読み出される(可視化された、または聴覚化された手がかりを介して)。
【0005】
さらに、手術を行いながら、手術部位から3D入力をすることが望ましいことが多い。そのようなシナリオでは、例えば、トラッキングボールを付着することによって、1以上の手術機器をトラッキングすることができ、外科医と患者の間の相互作用を、真実に近づけてよりよく可視化することができる。こうして、カメラプローブ(Camera Probe)に記載されているように、一旦手術が始まると、リアルタイムデータとバーチャルオブジェクトの組み合わせ画像を作成し、可視化することができる。しかしながら、外科医は、表示されたバーチャルオブジェクトを、手術しながら動的に適応させる(マーカーとして指定されたポイントを変化させることを含む)ことができないのが通常である。手術しながら、可視化を最適化することに集中する時間があまりなく、したがって、3D可視化システムの能力を完全に利用することができないためである。
【0006】
デックス―レイ(DEX-Ray)(登録商標)タイプのシステムを使用することで、例えば、腫瘍近くの重要な神経または腫瘍自身などのような少量の関心バーチャルオブジェクトを、外科手術の前に指定することができ、これらのオブジェクトを外科手術中に表示することができる。マーカーポイントについても同じことが言える。上記したように、カメラプローブ(Camera Probe)は、所定数のマーカーポイントをどのように指定することができるか、また、プローブの先端からオブジェクトまでの動的な距離を処置の間どのようにトラッキングすることができるかについて記載している。理論的には、外科医は、処置しながら、マーカーポイントを適応することができるが、これも一般的には行われない。実際の処置は手術にかかりきりになり、進行中、拡張現実感パラメータを最適化するための時間はあまりないからである。
【0007】
処置しながら、外科医が一般的にバーチャルデータと対話できない理由は他にもある。第1に、大半のナビゲーションシステムのインターフェースは、そのような生の相互作用を非常に複雑なものにしている。第2に、ナビゲーションシステムのインターフェースは無菌でなく、したがって外科医は、ナースや技師に指示することによって調整を行わなければならないことになるだろうからである。デックス―レイ(DEX-Ray)(登録商標)においては、空中でプローブを動かすだけで可視化を修正することが可能(カメラプローブ(Camera Probe)に記載されているように)であり、したがって、外科医は、無菌状態を維持しながら、表示パラメータを直接修正することができるが、手術中、可視化の環境を修正する必要がなければより都合がよい。いずれにしても、専門家が外科医を可視化によって援助をすることができるようになることが最良であろう。
【0008】
同様に、例えば、手術の援助、ガイダンス、またはプランニングのためのデキストロスコープ(Dextroscope)(登録商標)などの標準的な3Dインタラクティブ可視化システムを用いた場合も、1つの場所にいるすべての関係者が協力することは困難であることが多い。例えば、外科医は、脳構造を共有しているシャム双生児の分離手術のような、完全に事前計画を立てることが困難な複雑な手術を行うことがある。そのような処置においては、実際の(長い)手術中に、術前のスキャンを連続的に参照し、実際に脳が露出している状態で映し出されるものに依存するチームのメンバー、または他の専門医に相談する必要があることがほとんどである。術前のスキャンデータのインタラクティブな3D可視化はそれを分析するための最もよい方法である一方、関連者のすべてが同一の物理的位置にいる場合でも、手術チームがそのようなシステムの表示の周りに集まることは困難である。さらに、症例が複雑であるほど、チームのメンバーがいるかもしれない地理的位置が離れていることが多く、データの可視化の利益を使って術前に相談することが困難なことが多い。
【0009】
最後に、離れた場所にいる二当事者がインタラクティブ3Dデータセット可視化システムを用いて、またはそれを用いた技術を用いて議論するとき、例えば、一方の当事者がその使用について他方に指示を出す場合、双方が同時に3Dデータセットおよび他方の操作を見ることができることが必要である。
【0010】
当業において必要なことは、遠隔の参加者に、そこに実際に存在するかのように操作させて、3Dインタラクティブ可視化システム中の3Dデータセット上で同時に手術させることである。
【発明の開示】
【課題を解決するための手段】
【0011】
発明の概略
物理的に離れた場所にいる多数の人が協同して、ほぼ同時にインタラクティブに3Dデータセットを可視化するシステムと方法の例を提供する。本発明の実施態様において、例えば、データネットワークを介して接続されているメインワークステーションと1以上のリモートワークステーションが存在することができる。所与のメインワークステーションは、例えば、拡張現実感外科手術用ナビゲーションシステム、または3D可視化システムであることができ、各ワークステーションは、配置された同じ3Dデータセットを持つことができる。さらに、所与のワークステーションは、例えば、リアルタイムのビデオ、もしくはあらかじめ記録されているビデオ、または、管理された3D超音波可視化システムが提供されるような情報などの既に取得している3Dデータと、リアルタイムの画像を組み合わせることができる。リモートワークステーションにいるユーザは、例えば、外科手術のナビゲーションもしくは蛍光透視法などの所与の診断的または治療的処置を行うことができ、または、共有して格納されている3Dデータセットを用いてレクチャーが行われているメインワークステーションにいる別のユーザからの指示を受けることができる。メインワークステーションにいる1人のユーザは、例えば、各リモートユーザによって使用されているバーチャルツールを見ることができ、各リモートユーザは、例えば、メインユーザのバーチャルツールとそれがリモートワークステーションのデータセットに及ぼすそれぞれの効果を見ることができる。例えば、リモートワークステーションは、各地の機械のバーチャルコントロールパネルを介してリモートワークステーションの3Dデータセット上でのメインワークステーションのバーチャルツールを、前記バーチャルツールがリモートワークステーションのそれと関連するプローブであるかのように、同じように表示することができる。本発明の実施態様において、各ユーザのバーチャルツールは、それらのIPアドレス、異なる色、および/または、他の区別するための表示によって表現することができる。本発明の実施態様において、データネットワークは、低または高帯域のいずれかとすることができる。低帯域の実施態様においては、3Dデータセットは、各ユーザのワークステーションにあらかじめ載せることができ、メインユーザのバーチャルツールおよびデータの操作のみをネットワーク上に送信することができる。高帯域の実施態様においては、例えば、リアルタイムの画像、例えば、ビデオ、超音波もしくは蛍光透視画像も同様にネットワーク上に送信することができる。
【発明の効果】
【0012】
発明の詳細な説明
I.概要
本発明の実施態様において、種々のタイプの3Dインタラクティブ可視化システムをデータネットワーク上に接続することができ、それによって、互いに離れたところにいる人どうしが同じ3Dデータセットを、様々な目的のためにほぼ同時に操作することができる。本発明の実施態様において、二人以上の人が互いに離れた位置にいながら、それぞれがワークステーション上に置かれた所与の3Dデータセット所有することができる。通常、そのような実施態様は、「メインユーザ」と1以上の「リモートユーザ」を考慮している。関係者は、例えば、手術の計画プロジェクト、例えば、シャム双生児の分離手術を行う医師のチームの協力者であることができる。または彼らは、ティーチャーもしくは講師や、スチューデントもしくは聴講者のグループであることができる。さらに、例えば、関係者には、(i)ナビゲーションシステム(例えば、デックス―レイ(DEX-Ray)(登録商標)システム)、もしくは他の診断もしくは治療システム(例えば、カスラボマシーン(Cathlab machine)、管理された超音波システムなど)を用いて、患者に対して手術を施す、または診断もしくは治療的処置を行う外科医もしくは臨床医、ならびに(ii)外科医もしくは臨床医のように治療もしくは手術室といった物理的制限を受けずに、いくつかの遠隔地からの関連する3Dデータセット中のバーチャルオブジェクトを動的に修正し、可視化を行う可視化の専門家を含むことができる。または、当該関係者には、様々な教育的、職業的、レビュー、もしくはカスタマーサポートのコンテクストにおけるティーチャーと1以上のスチューデントを含むことができる。以下では、本発明は、種々の可能なパラダイムの使用、または使用例を記載するが、本発明はそのような使用例に限定されるものではない。本発明の機能は、3Dデータセットの洗練された可視化における種々のタイプの研究や協同が望ましい、またはそれが有用である、広範な応用に適用可能であると理解できる。
【発明を実施するための最良の形態】
【0013】
説明を容易にするために、本発明の種々の実施態様では、時々「デキストロネット(DextroNet)」に言及する。これは、そのような種々の実施態様に関連する、譲受人によって使用されている考慮された登録商標である。
【0014】
A.デキストロスコープ(Dextroscope)(登録商標)−デキストロスコープ(Dextroscope)(登録商標)型相互作用
本発明の実施態様において、例えば、遠隔カスタマートレーニングもしくはテクニカルサポート、または、3Dインタラクティブ可視化システムの製造元とその顧客の間の遠隔相談のために、デキストロネット(DextroNet)を使用することができる。例えば、デキストロネット(DextroNet)は、3Dインタラクティブ可視化システムの製造者が使用して、遠隔オンデマンドテクニカルサービスをその顧客に提供することができる。そのような使用においては、例えば、そのような製造者によって提供された所与の3Dインタラクティブ可視化システムの使用に関して質問のある顧客は、常時トレーニングセンターに接続することができる。一度接続すれば、遠隔のトレーニング技術者が、例えば、顧客に所与のツール、例えば、デキストロスコープ(Dextroscope)(登録商標)上で輪郭線エディター(Contour Editor)をどのようにして使用すればよいのかを示すことができる。顧客が自分のデータセットのすべてを送信することを必要とせずに(患者の潜在的極秘事項に関する流出と、そういったデータを送信する時間の無駄を避ける)、そのようなトレーニングの一例は、遠隔トレーニングセッションの開始時に両当事者が持っている標準的なデータセットを用いて行うことができる。
【0015】
デキストロネット(DextroNet)の使用を進めている、顧客に提供され得る別のサービスには、例えば、オフラインで顧客のために患者データを準備する(区分化する)ものがある。例えば、医療分野において、顧客は、関連する1以上の患者もしくは症例に関連するデータをftpで使用し、「放射線医学サービス」部門は、それを区分化し、顧客に返送することができる。そのようなサービスについて、本発明のある実施態様においては、行われたことについてのオンラインのデモンストレーション、または、顧客が取り扱う実際の患者データに関する遠隔トレーニングさえ、提供することができるであろう。
【0016】
本発明の実施態様において、遠隔相談を提供することもできる。そのような実施態様においては、例えば、外科医と放射線専門医、画像診断の技師、顧問医師などの専門家のチームが、症例、その症例において採用すべき、さまざまな実行可能な外科手術的アプローチ、および類似の問題点について、すべて遠隔でデキストロネット(DextroNet)上で議論することができる。例えば、放射線専門医は、彼の見解、脳神経血管外科医としての見解を提供することができ、脳顔面頭蓋の専門家は、すべてを考慮しながら、別の見解を提供することができ、そして当該症例のデータをスキャニングすることによって作成された所与の3Dデータセット中の種々のボリュームオブジェクトを仮想的に「ポインティングする」。
【0017】
B.デキストロスコープ(Dextroscope)(登録商標)−デックス―レイ(DEX-Ray)(登録商標)型相互作用
カメラプローブ(Camera Probe)に記載しているように、デックス―レイ(DEX-Ray)(登録商標)システムは、外科手術のナビゲーション装置として使用することができる。そのような装置は、デキストロネット(DextroNet)上で標準的なインタラクティブ3D表示システムに接続することができる。したがって、本発明の実施態様において、3Dデータ操作が可能であることは、「アウトソーシング」ができるということであり、外科医の無菌の現場によって課された制限を排除できるということである。例えば、外科医がデックス―レイ(DEX-Ray)(登録商標)型プローブを患者の頭蓋骨中に有しているとき、彼は、ベース コンピュータの近くにいる誰かに指示を出さないかぎり、一般的にナビゲーションシステムのインターフェースを制御することが不可能である。もちろんこのことは、望ましいことではない。そのようなコンピュータは、通常、完全に画像/音声をレンダリングすることに占有されているからである。
【0018】
患者の頭蓋骨内のプローブを用いて、外科医は患者の脳の中の自分の方向を見つけようとする(すなわち、異なる領域を指示し、いまだ切断していない組織を超えてポイントすることはできない)ので、外科医は、プローブの位置を大きく変更することなく、他の画像モダリティー、他の区分化された構造(腫瘍、血管、神経(例えば、拡散テンソルイメージングなどを介して)を調べる助けが必要となるであろう。そのようなシナリオで、外科医は、プローブを使って指し示すことができ、また、話したり、聞いたりすることができるが、頭蓋骨に出入りすることができないことがしばしばある。この状況では、異なる可視化を提供する別の外科医(もしくは専門技術をもつアシスタント)の援助があれば有用であろう。そのような異なる可視化は、例えば、どの血管が最も近くにあり、どの神経が腫瘍の周りにあるかといったことを示すものである。そのような「可視化アシスタント」は、外科医のナビゲーションシステムと、デキストロネット(DextroNet)を介して接続することができる。
【0019】
C.デキストロスコープ(Dextroscope)(登録商標)−カスラボ(Cathlab)(登録商標)型相互作用
別法として、本発明の実施態様において、デックス―レイ(DEX-Ray)(登録商標)―デキストロスコープ(Dextroscope)(登録商標)相互作用と類似のパラダイムは、例えば、X線蛍光透視法表示の形態で、オンラインの情報を用いることができる。ここで遠隔援助は、例えば、同じ個体の以前のスキャンから作成されたリアルタイムのX線画像(2D透視図)と3D画像(例えば、心臓のCTもしくはMRスキャンからのもの)の間のコレジストレーションを正確に調節するのを助ける。血管は、X線では見えないので、インターベンション心臓病専門医は、造影剤を注入して血管を数秒間不透明して観察せざるを得ない。造影剤の注入は、腎臓に問題のある患者には指示されない、また、どんな症例においても、患者のためには、造影剤は、(健康面からも、医療費の面からも)最小限にとどめるべきである。したがって、可視化アシスタントは、患者のX線画像を、例えば、術前のCTと同期させるために、数秒間の造影剤の流れを利用することができる。この情報は、拡張バーチャルオブジェクトとして、X線画像上に提示することができる。例えば、それは、X線画像の隣の別のモニターに表示することができる。例えば、心臓は、X線画像上で拍動することができ、CTもそれに合わせて拍動することができる。または、心臓病専門医がカテーテルを有している正しい血管を追跡するのをガイドする際に、単に凍結の瞬間を示すこともできる。
【0020】
本発明の実施態様において、一人だけが3Dデータに影響を及ぼす相互作用をコントロールし(「メインユーザ」)、デキストロネット(DextroNet)上で接続している他の関係者(「リモートユーザ」)はこれらの作用を見ることができるが、データそのもの、もっと正確に言えばデータに関する彼らの見解を変えることはできないと想定される。さらに、そのような実施形態においては、デキストロネット(DextroNet)は、例えば、メインユーザの3D相互作用の詳細のみをネットワーク上に送信する。そして、その後、各リモートワークステーションまたはシステムにおいて対話させる。これは、1人のユーザが、彼の相互作用に関するデータをリモートサーバに送信していた従来のシステムとは対照的なものである。そして当該リモートサーバはその後、コンピュータ処理を行い、リモートビューアに、3Dデータの最終的な画像を作成する、ステップや操作の順序を指示することなく、最終的なコンピュータ処理画像を返信する。
【0021】
例えば、SGI's Vizサーバ(登録商標)のような従来の解決法は、一方向のネットワークのみを提供する。本発明の実施態様において、デキストロネット(DextroNet)は、多方向ネットワークである。SGI's Vizサーバ(登録商標)などのアプローチは、1人のユーザのみが最終的な投影図を所与の3Dシーンから要求するといった想定に頼っている。ちょうど1つの投影図(もしくは、例えば、ステレオのための一対の投影図)が必要である場合、リモートコンピュータは、画像を計算(レンダリング)し、得られたピクセルをクライアントに送信する。そしてそのクライアントは、局所でレンダリングすることによって得るものとは区別ができない画像を見ることになる。ユーザは、カーソルを動かして、例えば、回転操作を行い、指令をリモートサーバに送信し、3Dモデルが回転することができるようになる。当該モデルは、再びレンダリングすることができ、画像は、クライアントが見るように送信することができる。しかしながら、そのような従来のアプローチは、他のユーザにそれら自身の3D相互作用装置(そのようなスタイラス、プローブなど)を3Dモデルに介入させない。なぜなら、スタイラスに関するモデルについての深さ情報が存在しないからである。それはまた、クライアントに分離可能な視点を作成させない(以下に示す)。入手可能なものは、1人のユーザの視点からのピクセルだけだからである。
【0022】
さらに、そのようなアプローチでは、最終的なレンダリングを得るために、どのようなステップが取られているかをリモートユーザに対して正確に示すことができない。もし彼が、そのようなインタラクティブな指令順序を実際に学びたいと関心を持っても、それをすることができない。対照的に、本発明の実施態様において、3Dモデルが、各ワークステーション(例えば、ティーチャーおよびスチューデント、または、例えば、可視化アシスタントと外科医、または、例えば、可視化アシスタントと実際の患者に処置を施す他の診断医または治療専門家などのステーション)において入手可能であり、その後、モデルの3Dを、それぞれステーションを有しているユーザの3Dと組み合わせることができ(すなわち、ツールや他のオブジェクト)、そのそれぞれをレンダリングすることができる。
【0023】
データに対して遠隔から影響を及ぼすために、本発明の実施態様において、メインユーザのスタイラスの3D相互作用を、例えばリモートユーザの(リモート)バーチャルコントロールパネルと対話させるように、配置することができる。ことができる。そのような実施形態において、そのようなコントロールパネルの相互作用は、リモート機上でシステム指令に、例えば、「切断ボタンを押す」または「ズームスライダーを2.0にスライドさせる」のように翻訳される必要はない。むしろ、そのような実施態様においては、所与のメインユーザの操作は、リモートユーザの世界、例えば、リモートユーザ機の上に、操作されたメインユーザのツールの結果として、リモートユーザ機の上にメインユーザのツールを表示させることによって、現れるかもしれない。リモートユーザ側では、メインユーザのルールは、リモートユーザのバーチャルコントロールパネル上のボタンの上方の位置に現れ、その状態は、例えば、「起動動作」(ツールの4つの例示的な動作の1つ)であり、その後ボタンが押される。特別な指令は必要とされない。このように、リモートツールは、メインユーザもしくはリモートユーザの側でのローカルツールと同じ趣旨で作用することができる。したがって、メインユーザの機械の側(または、従来のVizサーバ(登録商標)アプローチを用いて)で示唆される余分なシステム指令を用いて操作に影響を及ぼす場合と比較して、これはよりシームレスな統合に到達することが可能である。システムレベルの指令を用いない別の理由は、リモートユーザの側の不連続な画面を避けるためである。例えば、もし、リモートユーザの側のバーチャルコントロールパネルとのスタイラス相互作用が連続的でなかったら、ツールは、依然としてシステム指令を介して機能することができたとしても、リモートユーザは、機能もしくは操作「B」が起こっている間、ボタン「A」の上にツールがあるかどうかについて混乱する。もし、ツールの位置の表示を、上記のように同期させることができれば、余分のシステム指令は必要でなく、ツール自身で行うことができるであろう。
【0024】
バーチャルコントロールパネルの目盛りは、異なるプラットフォームのユーザ間で変化し得ることがわかる。これは、例示したデキストロネット(DextroNet)を介して接続される種々の3D可視化システムのハードウェアおよびソフトウェアの構成が存在し得るためである。例えば、この譲受人であるボリュームインタラクション社(Volume Interactions Pte Ltd)によって提供される種々のシステムを用いることを説明すると、デキストロビーム(DextroBeam)(登録商標)は、ミラーを備えていないため、「反射された」目盛りを持たない。一方、デキストロラップ(DextroLAP)(登録商標)システムは、マウスを使用し、3Dトラッカーを使用しない。したがって、本発明の実施態様において、メインユーザの3D目盛りは、すべての接続されたリモートユーザに送信することができる。該リモートユーザは、一般に、異なる構造およびモデルの、種々の3Dインタラクティブ可視化システムプラットフォームを介して接続されている。そのような目盛り送信は、例えば、リモートユーザの側で正しいボタンを正しい時間に押すことによってメインユーザによって行われる3D相互作用を保障する。したがって、デキストロネット(DextroNet)と接続すると、プロトコルは、例えば、リモートユーザ側のコントロールパネルを、(位置、方向、大きさなどに関して)メインユーザ側のものと同一にする。その結果、コントロールパネル上でのメインユーザの操作が、様々なリモートユーザの機械上に複製される。
【0025】
メインワークステーションがインターフェースと視点とをリモートワークステーションに同期させると、それは、以下において図55(a)と関連付けて記載するように、例えば、コントロールパネルのパラメータをリモートワークステーションに送信する。こうして、リモートワークステーションがこれらのパラメータを受け取ると、例えば、この情報を用いて、自身のコントロールパネルや局所に表示されたオブジェクトを更新する。このプロセスが完了するとすぐ、メインユーザのツールは、例えば、リモートコントロールパネルを操作するために使用される。そして、メインユーザおよびリモートユーザの最初の視点を同じにすることができる。
【0026】
本明細書においては、種々の例示的パラダイムが記載されている。言葉の節約のために、特徴は、「ティーチャー―スチューデント」パラダイムに関連付けて詳細に記したが、これは、「外科医−可視化アシスタント」パラダイムにも適用可能なものである。逆も然りであり、繰り返して説明しないことにする。「外科医−可視化アシスタント」パラダイムは、「ティーチャー―スチューデント」パラダイムと同様に機能する。後者においては、記録された、もしくはリアルタイムのビデオ、リアルタイムのイメージング(例えば、蛍光透視法、超音波、など)またはリアルタイムの機器位置情報が追加されており、それぞれ3Dデータセットにコレジスタされている。
【0027】
D.デキストロネット(DextroNet)教育(ティーチャー―スチューデント)パラダイム
本発明の実施態様において、デキストロネット(DextroNet)接続は、教育用に使用することができる。例えば、デキストロネット(DextroNet)は、スチューデントに、外科手術の処置や計画、または、例えば、3Dインタラクティブ可視化システム、例えば、デキストロスコープ(Dextroscope)(登録商標)の使用について指導するために使用することができる。さらに、例示のデキストロネット(DextroNet)は、解剖学の指導に用いることができる。例えば、そのような遂行は、スチューデントたちに、人体の特定の複雑な解剖学の領域を習熟させるために使用することができる。さらに、例示のデキストロネット(DextroNet)は、例えば、 病理学の指導のために使用することもでき、したがって、検死試験の補足的な指導用ツールとして使用することができる(これは、患者が術中に死亡したときや、術前プランおよびそのような患者のスキャンデータが入手可能であるには特に有用かもしれない)。
【0028】
本発明の実施態様において、デキストロスコープ(Dextroscope)(登録商標)、デキストロビーム(DextroBeam)(登録商標)、もしくはデックス―レイ(DEX-Ray)(登録商標)システム、またはそれらの均等物を熟知したインストラクター(例えば、医師、外科医、もしくは他の専門家であってもよい)は、例えば、少なくとも一人の遠隔に所在するスチューデントに対して、デキストロネット(DextroNet)を介して指導を行う。スチューデントは、インストラクターと同じ視点の相手役となる3Dモデルをを持つことができる。または、例えば、異なる視点を持つことができる。例えば、スチューデントは、インストラクターの視点を持つ1つのディスプレイ(またはディスプレイウィンドウ)を持っていてもよいし、異なる視点を持つ別のディスプレイ(またはディスプレイウィンドウ)を持っていてもよい。別法として、例えば、スチューデントまたはインストラクターは、 異なる視点間を切り換えることもできるだろう。これは、例えば、1つの画像がリモート視点であり、他方がローカル所画像である画像中画像を持っているようなものであり、ビデオ会議の行われる方法に類似している。そのような実施態様においては、双方の画像は、ローカルワークステーションに作成される(一方はローカルパラメータをもち、他方はリモートパラメータをもつ)。または、例えば、リモート画像は、遠隔にレンダリングされ、Vizサーバ(登録商標)アプローチと類似した方法(最後のピクセルのみ送信し、相互作用は送信しない)で送信される。したがって、所与のユーザは、リモートユーザが見ているものと全く同じものを見ることができる。「あなたは、私が見ているものを見ていますか?」といった疑いをもつことはない。
【0029】
説明を簡易にするため、そのような教育的態様における関係者を「ティーチャー」もしくは「インストラクター」(メインユーザ)および「スチューデント」(リモートユーザ)と称する。次に、ティーチャー―スチューデントパラダイムの例を図1および3を用いて説明する。
【0030】
本発明の実施態様において、ティーチャーは、例えば、スチューデントのリアルタイムのビュー画像を見ることはできないが、ティーチャーのワールド内に表示されているスチューデントのツールのポインタの方向によって、スチューデントが見ているもの(スチューデントの関心領域を示唆し得るものである)を知ることができる。リモートスタイラスの見かけからリモートステーションの視点を正確に「知る」ことができないときには、周知もしくは想定される事実、例えば、右側の人によってスタイラスが使用されている。それを使って前方向に指し示しているといったことなどから推量することができる。
【0031】
そのような例示のシナリオは、ティーチャーが複数のスチューデントに教えることができるように設計されている。したがって、ティーチャーは、スチューデントがボイスや他のシグナルで質問をしてこない限り邪魔されることはない。その後、そのような質問のあるスチューデントの要望に基づいて、例示のティーチャーは、例えば、所与のオブジェクトを回転させ、容易に彼の視点をスチューデントの視点に並べることができる。彼はスチューデントがどのようにしてスチューデントのツールの方向からオブジェクトを見ているかについて実質的に明らかにすることができるからである。別法として、ティーチャーおよびスチューデントは、彼らの役割を逆転させることができる。これは、本発明の実施態様においては、例えば、以下に記載するように(「役割切り換え」(Role Switch))、2〜3のボタンをクリックすることによって、容易に実現することができる。記載しているように、本発明の実施態様において、ティーチャー―スチューデントパラダイムにおいては、スチューデントは、例えば、特定のオブジェクトに所属するボクセルもしくは複数の3D画像を変更しないいくつかの操作を除いては、オブジェクトを局所的に操作することはできない。そのような操作には、例えば、オブジェクトに対する翻訳、回転および/もしくはポインティング、またはオブジェクトのズーミング(倍率の変更)がある。これは通常、指示または複数の指示が、3Dデータセットと衝突するのを防ぐ。
【0032】
一般に、リモートユーザ(例えば、ティーチャーとして行動しない、スチューデント、外科医、または可視化アシスタント)が実行できるローカルコントロールは、しばしば限定することができる。なぜなら、上記したように、一般的に、ティーチャーの(または可視化アシスタントの)データセットの操作は、各スチューデントの(または外科医の)機械に局所的に実行されるからである。すなわち、メインユーザの相互作用は、ネットワークを介して送信され、局所的に実行される。メインユーザはこのように、リモートユーザの(ローカル)機械のコントロールを有している。このような実施態様において、もしスチューデントが、ティーチャーの処理が最早意味をなさないかのように彼/彼女のデータのローカルコピーを変更することができたとしたら、混乱が生じ得る。例えば、標準的なデキストロスコープ(Dextroscope)(登録商標)上で、ユーザは、3Dデータセット中のオブジェクトの区分化の完全なコントロールを有している。例えば、その区分化は、オブジェクトの色彩自動照合表を変更することによって、変更することができる。あるいは、区分化だけをそのままにすることもできるし、既に区分化されているオブジェクトと関連する色や透明性をただ変えることもできる。後者の操作は、オブジェクトのもともとのコンテンツを変更しないが、その可視化パラメータを変更することはできる。
【0033】
さらに、一般に、操作対象のオブジェクトの大きさについてのいくつかの想定に基づいて作動するデキストロスコープ(Dextroscope)(登録商標)型システム内ならびにインタラクティブ3Dデータセット可視化システム内には、多くのツールおよび操作が存在する。例えば、ツールの先端からオブジェクトの最も近い表面に光線を当てることによって作動するポインティングツールがある。ローカルユーザがオブジェクトの区分化を変更したために、オブジェクトの最も近い表面がそのようなポインティングツールに近づいたり、または、そのようなポインティングツールから離れたりすれば、ティーチャーが彼のポインティングツールを持ち上げ、オブジェクトを指し示したとき、スチューデントの画面上で、そのようなポインティングツールは、全く異なるオブジェクトにタッチするかもしれない。実際、スチューデント機では、ティーチャー機の上にあるものを通って、正しく進み、オブジェクトの表面へ行くことができる。一般に、ドリリングツール、ピッキングツール、輪郭線抽出ツール、イソ表面作成ツール、および種々の他のツールは同様に、それらが操作しているオブジェクトの大きさに依存している。したがって、記載したように、本発明の実施態様において、スチューデントのローカルコントロールパネルは、ティーチャーのコントロール下にある。そのような実施態様において、スチューデントができることは、ティーチャーの視点から離れ、彼が望むオブジェクトの回転、翻訳、拡大(ズーム)、または色もしくは透明性(大きさではない)を調節することだけである。したがって、ティーチャーと各オブジェクトの間の関係は保存される。どのくらい多くのコントロールがスチューデントに及ぶのかといった問題が常に生じる。本発明の実施態様において、その問題は、一般に、実際のデータセットを変更しないあらゆる局所の行動を可能にすることによって、解決することができる。
【0034】
それにもかかわらず、本発明の実施態様において、ローカルユーザに、彼のローカルデータに対して「真に」影響を与えないが、むしろ後にその影響が表示され、一方、メインユーザの操作は、「ゴースト化」されたように表示される、データのローカルコピー上で作動する特定の操作をさせるようにすることで、複雑さが増すことがあり得る。
【0035】
例えば、ティーチャーは、1以上のスチューデントに対して、種々のツールを用いた3Dデータセット間のオブジェクト間の種々の測定方法を説明していることもある。当該ティーチャーは、測定を行うことができ、それらは、スチューデントに見られるであろう。しかしながら、ティーチャーは、スチューデントが類似の測定を行うことができる能力をテストすることを望み、スチューデントに、教わったばかりのことを適用し、ティーチャーがまだ行っていない追加の測定を行うように求める場合もある。
【0036】
スチューデントは、例えば、それらの測定を行い、例えば、彼の機械上に表示することができる。その後、ティーチャーは、例えば、スチューデントの機械のスナップショットを撮影し、スチューデントの技量を評価する。同様に、スチューデントは、「真の」データセットおよび、「ゴースト化」されたようにではなく、ティーチャーによるその「真の」操作が示され得る、彼のディスプレイに表示され得るデータセットを操作することができる。このように、ティーチャーの操作のすべてが、スチューデントの機械に表示されるように、オブジェクトのゴースト化された境界上で作用する。そして、スチューデントの局所操作は、切れ目のない状態で、機械上の必要な範囲で(すなわち、3Dデータセットに影響を及ぼすであろう程度に) 作用する。したがって、多大な複雑さと更なるローカルプロセシングといった犠牲の上で、スチューデントは、例えば、上記の翻訳、回転、ポインティング、および/または拡大など以外の操作を行うことが許されている。
【0037】
尚、上記実施態様は、スチューデントが「増強した」分離モードに入る際には、彼が、データセット全体(3Dオブジェクトならびにコントロールパネルを含む)のコピーを作成することを要求している。この条件下では、スチューデントは、例えば、ローカル(コピー)データセット上で操作し、一方、ティーチャーは、リモートユーザまたはスチューデント機にゴースト化された状態で示されているオリジナルのデータセット上で操作することができる。こうして、2つの独立した画像処理プロセスは、例えば、同じ(スチューデントの)ワークステーション上で平行して作用することができる。もし、ティーチャーが、スチューデントによって開発された新しいアプローチを見たい場合、ティーチャーは、スチューデントの画像のスナップショットを撮影し、それについて両者で議論することができる。
【0038】
本発明の実施態様において、ティーチャーの役割をこのように関係者から関係者に渡す役割切り換えを用いると、スチューデントは、ティーチャーからコントロールを引き継ぐ。彼は、例えば、操作または他の処置をどのようにして行うかを実証することによって、ティーチャーのオブジェクトのワークを引き続いて行い、彼の意見を提供する。これによって、すべての関係者による協同が可能になる。そのような実施態様においては、所与の時間には、ネットワーク上にティーチャーが一人存在し、そのような協同は、対立の問題を生じることなく連続的に行われる。
【0039】
本発明の実施態様において、デキストロネット(DextroNet)は、異なる帯域幅の種々のネットワークによってサポートされている。ある実施態様において、デキストロネット(DextroNet)が教育的指導のために用いられる場合、例えば、低速ネットワークが行われる。例示のデキストロネット(DextroNet)を介して 接続されている3Dインタラクティブ可視化システムのそれぞれは、例えば、手術計画、手術の処置、または解剖学的構造のイメージングおよびビデオデータのコピーをもつことができる。したがって、典型的にはサイズの小さいトラッキングデータ、制御信号またはグラフィカルもしくは画像パラメータデータは、ネットワークを介して送信することができる。一般的には、デキストロネット(DextroNet)中では、ネットワーク情報は、例えば、メッセージおよびファイルの2つに分類することができる。メッセージは、例えば、トラッキングデータ、制御信号などを含むことができる。ファイルは、例えば、送信前に圧縮することが可能なグラフィカルおよび画像データを含むことができる。これを以下においてより詳細に説明する。
【0040】
記載したように、本発明の実施態様において、1人のユーザによって導入された行動は、少なくとも他の1人のユーザ(スチューデントもしくは ティーチャー)のリモートロケーションに送信することができる。そこでは、第2のワークステーションが局所的に対応する画像を計算する。ネットワークで結ばれた関係者間のボイスによる通信は、帯域外とすることができる。例えば、低速ネットワーク態様においては電話で、または、例えば、高速ネットワーク態様においては、ボイス−オーバー−ネットワークシステム、例えば、ボイス−オーバーインターネットプロトコル(「VoIP」)を介して行われる。さらに、高速ネットワークは、カメラプローブ(Camera Probe)出願に記載されているようにカメラプローブ(Camera Probe)によって作成されるモノ−もしくはステレオビデオ情報の転送を収容することができる。このビデオ情報は、例えば、コンピュータが作成する画像と組み合わせることができる。または、分離したディスプレイもしくは ディスプレイウインドウで見ることができるようにしてもよい。3Dではないビデオ(または画像、スナップショット)の表示は、通常、「背景」としてのみ見られる。これは、画像またはビデオ(連続的な画像)は、実世界の投影図であって、3D情報を含まないからである。したがって、そのような画像またはビデオにおいて視覚可能なオブジェクトは、正確に3Dオブジェクト前部に位置づけることができる。そのような表示の可能性についてより詳細に下記において説明する。
【0041】
本発明の実施態様において、デキストロネット(DextroNet)は、例えば、ワーキングを協同して、および独立してサポートすることができる。例示のシステムは、例えば、手術計画のためのスタンドアロンプラットフォームおよび独立したトレーニングとして使用することができる。そのような実施態様において、例えば、システム構成は、局所的に最適化することができる。スチューデントのシステムのインターフェースの位置や方向は、したがって、インストラクターのシステムのものと異ならせることができる。しかしながら、もしネットワーキング機能が起動すれば、スチューデントのシステムは、例えば、インストラクターのシステムのそれと合わせるよう、システム構成を変更することができる。これによって同等のシステム間に存在し得るミスマッチを避けることができる。
【0042】
E.デキストロネット(DextroNet)外科医−可視化アシスタントパラダイム
本発明の別の実施態様において、インストラクター は、例えば、遠隔に所在する少なくとも一人のスチューデントを教えることができる。そして、「可視化アシスタント」は、画像を操作し、そのようなアシスタントが見るものを見るために必要なステップを助言することによって、あるいは、彼の視点のすべてを見ることができるように周期的に転送するティーチャーの役割によって、インストラクターを援助することができる。例えば、可視化アシスタントは、関心オブジェクト(例えば、カラールックテーブルもしくはオブジェクトの透明性)を強調する;関心オブジェクトを拡大(ズーム)する;方向または視点を変化させる;記録された処置のビデオ画像の再生、停止、巻き戻し、早送り、もしくは一時停止を行う; 分割されたスクリーンに異なる視点を提供する;表示するために、ビデオ画像とコンピュータ生成画像とを組み合わせる;モノおよびステレオ画像の表示の間でトグルを行う(それらがビデオ画像であるか、コンピュータ生成画像であるか);ならびに、他の関連する操作およびプレゼンテーションタスクを行うために画像を処理することができる。インストラクターおよびスチューデントに加えて、可視化アシスタントを関与させることによって、インストラクターは、例えば、スチューデントを教えることに集中し、正確に言えば、画像の処理に注意を集中させる。さらに、アシスタントがシステムコントロールを渡し、それによってティーチャーとなったとき、3Dインタラクティブ画像システムを熟知していないかもしれないスチューデントは、彼らが必要とするかもしれない視点や情報を取得する際に助けてもらうことができる。
【0043】
本発明の実施態様において、外科医または内科医および「可視化アシスタント」は、実際の手術中、または他の医療処置の間、デキストロネット(DextroNet)上で協同することができる。そのような実施態様において、通常、当該可視化アシスタントはメインユーザとして、内科医はリモートユーザとして行動する。外科医または内科医は、手術室または治療室で、例えば、手術を行ったり、いくつかの医学的、診断的、または治療的処置を患者に施したりすることができる。そして、可視化アシスタントは、例えば、外科手術部、外科手術上のギャラリー、隣接した部屋、または異なる場所すべてといった、離れたところに居る。これは、外科医−アシスタントパラダイムとして、以下に詳細に、図4乃至8を用いて説明する。
【0044】
可視化アシスタントの仕事としては、例えば、手術をしている外科医と、例えば、ボイスで接触し、3D表示を外科医の最大限の援助となるように動的に操作することをあげることができる。他のリモートユーザは、観察することはできるが、例えば、リモートユーザとして、自由にデータを操作することはできないであろう。
【0045】
例えば、外科医が、脳神経外科の処置と関連付けてデックス―レイ(DEX-Ray)(登録商標)を使用する場合を想定する。そのような例示的な実行においては、彼のメインディスプレイは、カメラプローブ(Camera Probe)出願に記載されているように、カメラの視点から見ることができるデータセットのそれらの部分に限定される。しかしながら、可視化アシスタントは、視点からのバーチャルデータを自由に見ることができる。本発明の実施態様において、可視化アシスタントは、2つのディスプレイを持つことができ、外科医の視点と彼の視点の双方を見ることができる。例えば彼は、外科手術を反対の視点から見ることができる(すなわち、腫瘍または他の頭蓋内構造に固定された誰かのものと、外科医が、彼の視点に「外部」から「入ってくる」所を見ることができる。
【0046】
例えば、外科医が視神経の近くを手術しているとしよう。カメラプローブ(Camera Probe)出願に記載しているように、ユーザは、データセット中にマーカーとして、1以上のポイントをセットし、プローブの先端からそれらのマーカーまでの動的距離が連続的に読み出されるのを見る。さらに、ユーザは、1以上のトラッキングされた手術器具(ビデオ画像を取得しないであろう)を用いて同じことをすることができ、その結果、可視化の専門家は、例えば、外科医が実際に手術をしているときに入力を行うことができる。外科医が視神経近傍の位置に対する全体の表示に専念できないとき、可視化アシスタントはできる。
【0047】
こうして、例えば、可視化アシスタントは、外科医が手術を行っている領域をデジタルにズームし、外科医の近くの視神経に沿って5つのマーカーポイントを設定し、それぞれまでの距離をモニターすることができ、特定の安全限界に外科医が居るかどうかを彼に忠告する。さらに、場合によっては、可視化アシスタントによって設定された新たなマーカーおよび動的距離を、外科医のシステムディスプレイに可視化、可聴化することもできる。メインユーザである可視化アシスタントは、3Dデータセットをコントロールするからである。
【0048】
カメラプローブ(Camera Probe)に記載しているように、ユーザは、組み合わされた(拡張現実感)画像を含めた種々のバーチャル構造を特定することができる。理想的には、これは、外科手術の進行に合わせて動的に行われ、各段階において、その段階に関連する区分化を可視化することができる。しかしながら、実際には、一人で作業している外科医には、通常不可能である。外科医は、可視化の専門家でもなければ、当該システムの可能性を動的に自由に精神的に利用することもできないからである。しかしながら、可視化アシスタントはそれを行う。外科医が所与の領域に来ると、可視化アシスタントは、外科医に最良のガイドをするために構造を追加したり、取り除いたりすることができる。例えば、彼は、ある構造が外科手術前に区分化されなかったもの、例えば、術前のスキャンには現れなかった腫瘍の指状小片や繊維状のものといった脳構造の一部に関連する場合、オブジェクトをその場で区分化することができる。したがって、本発明の実施態様において、リモートビューアは、より多くの自由を持つことができ、したがって、計画前、例えば、いくつか挙げれば、カラライゼーション、透明性、区分化閾値などの間には行えなかった、あらゆる画像プロセシングを行うことができる。
【0049】
類似性を利用すれば、外科医は、競技場の情報のプレスボックスで、高い視線から鳥の目でゲームを見て、他のチームの作戦行動におけるパターンを見ながら無線でコーチに話をするアシスタント(可視化アシスタント)がいるフットボールのコーチに類似すると考えることができる。そのような専門的助言をする人は、本発明の実施態様においては、例えば、自分のスクリーンと外科医のスクリーンの両方を見て、その両方に表示されたバーチャルオブジェクトを動的にコントロールして、手術をしている外科医に対して最良の援助を行うことができる。
【0050】
II.ティーチャー―スチューデント相互作用
A.例示的プロセスフロー
次に、本発明の実施態様における、ティーチャー―スチューデントパラダイムのプロセスフローを説明する。
【0051】
図1は、本発明のある実施態様におけるティーチャー型コンソールの例を示す図である。この図を用いて説明する。101では、例示のシステムは、接続しているあらゆるスチューデントの確認をすることができる。こうして、102では、新たなスチューデントが参加したか否かを決定することができる。Yesであれば、103において、インターフェースおよびデータが、ティーチャーコンソールと、新たに参加したスチューデントのためのスチューデントのコンソールの間において同期を取ることができる。Noであれば、プロセスフローは101に戻り、当該システムは、参加するかもしれないあらゆるスチューデントの確認を行う。
【0052】
103に戻る。例えば、コンソールの3Dインターフェースのボタンを明確にクリックすることによって、新たなスチューデントがデキストロネット(DextroNet)に参加すると、ティーチャーは、例えば、当該スチューデントにメッセージを送信し、それぞれのインターフェースとオブジェクト、例えば、スライダー、ボタンなどを同期させる。そのようなメッセージには、例えば、ティーチャーのコントロールパネルの位置、方向、大きさ、コントロールパネル上のバーチャルウインドウ機器(「ウィジェット」)、例えば、ボタンの上げ下げ、色彩自動照合表の設定、データセット中のバーチャルオブジェクトの位置、方向、大きさ、あらゆる入手可能なビデオを含むことができる。あるいは、ティーチャーが、スチューデントの側のデータが自分のものとは違いすぎることを見つけた場合、ティーチャーは、自分とスチューデントのそれぞれのコンソールの間の全体のデータセットの完全な同期を選択して行うことができる。これは、例えば、ティーチャーのコンソールによって、データセットを圧縮(スナップショットや記録を除去)し、それを新たにデキストロネット(DextroNet)セッションに参加したスチューデントに転送する。一旦、ティーチャーと新たに参加したスチューデントによって共有されるインターフェースならびにデータが同期されると、それらの協同的インタラクティブな可視化のための準備が完了し、次に説明するように、プロセスフローが図1の残りの部分を含むメインループに続く。
【0053】
110において、例示のティーチャーシステムは、スチューデントビデオが受信されたかどうかを照会することができる。これは、例えば、スチューデントがデックス―レイ(DEX-Ray)(登録商標)型システムを操作すれば行われる。Yesであれば、プロセスフローは111に進むことができ、そこで、前記スチューデントのビデオがレンダリングされ、プロセスフローは125に進むことができる。Noであれば、スチューデントビデオが受信され、プロセスフローは直接125に進むことができる。さらに、ティーチャーのワークステーションがビデオを利用可能とすれば、105において読み取られ、106においてレンダリングされ、そしてプロセスフローは、120に進むことができ、そこで当該システムは、そのようなあらゆるビデオが利用可能かどうかを照会することができる。
【0054】
記載したように、120において、ティーチャーのビデオの利用可能性が決定される。Yesであれば、126においてビデオフレームを送信することができ、プロセスフローは125に進むことができる。Noであれば、プロセスフローは125に進むことができ、そこで、ティーチャー3Dデバイスが読み取られる。ここで、ティーチャーは、バーチャルツール(例えば、スタイラス、データセットにおけるティーチャーの現在位置を示すアバター、またはドリル)の位置、方向、および状態を、それによってオペレータがデータセットと対話する3次元のコントロールの動きおよび状態を連続的にトラッキングするローカルトラキングシステムから、更新することができる。例えば、結腸鏡検査法アプリケーションを行っている標準的なデキストロスコープ(Dextroscope)(登録商標)においては、そのような3Dコントロールは、例えば、スタイラスやユーザ(ここではティーチャー)が右手および左手にそれぞれ持つジョイスティックであることができる。または、例えば、デキストロスコープ(Dextroscope)(登録商標)で他のアプリケーションを行う場合、代わりにユーザは、例えば、6Dコントローラーを左手に持つ。ティーチャー側の3D装置が125において読み出されると、ネットワーク(スチューデント)3D装置を130において読み出すことができ、ティーチャーワークステーションは、例えば、スチューデントの代表的なツールの位置、方向および状態を、スチューデントのワークステーションからネットワークを介してから受信したメッセージを介して更新することができる。
【0055】
プロセスフローは、130から、例えば135に進み、そこでティーチャー側の相互作用がネットワークを介してスチューデントに送信される。ここで当該ティーチャーは、自分が使っているあらゆるツール、例えば、トリミングツール、ドリル、スライスビューアツール、など、ならびにキーボードイベントなどの位置、方向および状態をスチューデントに送信することができる。そのような位置および方向は、下記のデータフォーマットのセクションに記載したように世界座標に変換することができる。
【0056】
プロセスフローは、135から、例えば140に進むことができ、そこで、スチューデントが現在、ローカルスチューデントディスプレイにおいてティーチャーのビューに従うことを希望しているかどうかを判定する。Yesであれば、145において、当該視点は同期される。すなわち、ティーチャーは、スチューデントの視点の同期のリクエストを受信すると、当該ティーチャーは、彼のワークステーション内のバーチャルオブジェクトの位置、方向および大きさをスチューデントに送信する。Noであれば、140において、スチューデントは、したがって、彼の視点に従うことを選択する。そして、プロセスフローは150へ進み、そこで、データセットの3Dビューがレンダリングされる。こうした相互作用が進んでいるので、プロセスフローループは、150から110および120に回って戻り、そこで、例えば、デキストロネット(DextroNet)セッションが起動している限り繰り返され得る。そして、3Dデータセットの相互作用および操作は、連続的にネットワークに送信される。さらに、下記に示すように、スチューデントは、ティーチャーのものによるとは限らないが、ティーチャーの視点を見ることと、自身の(ローカル)視点を見ることの間でトグルすることができる。スチューデントの視点選択の現在の状態は、したがって、連続的にテストし、140までの各ループにおいて認識することができる。
【0057】
対応するスチューデントのコンソールでのプロセスフローを説明する前に、次に、本発明の実施態様におけるデキストロネット(DextroNet)の種々の例示的構成を図2を用いて説明する。
【0058】
図2は、デキストロネット(DextroNet)ネットワーク250とそれに接続する種々のコンソールの例を示す図である。例示の接続されている例示の装置はすべて、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)の製品または製品のプロトタイプである。例えば、デックス―レイ(DEX-Ray)(登録商標)型ワークステーション210は、デキストロネット(DextroNet)に接続することができる。上記したように、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、カメラプローブ(Camera Probe)出願に記載されている技術を行うワークステーションである。そのような技術は、例えば、脳神経外科のプランニングおよびナビゲーションを含む種々のコンテクストにおいて有用である。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションにおいては、例えば、脳の術前の3Dスキャンデータ、またはバーチャルデータ、およびリアルタイムビデオ区分化された、およびプロセシングされた組み合わせビューを作成することができる。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、ティーチャーコンソールとして機能することができ、そこでは、神経外科医が、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションを用いて、そのような組み合わせ画像を、手術プランニングを行っているとき、または外科手術を実行しているときでさえ、ネットワークで接続された他者へ示すことができる。または、より都合のよいことは、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、可視化アシスタントをティーチャーとして機能させ、スチューデントとして操作できることである。引き続き図2を用いて、220および230は、デキストロネット(DextroNet)に接続されたデックス―レイ(DEX-Ray)(登録商標)型ワークステーションを示す。標準的なデックス―レイ(DEX-Ray)(登録商標)型ワークステーションにおいては、3Dデータセットをインタラクティブに可視化することができるが、デックス―レイ(DEX-Ray)(登録商標)型コンソールとは異なり、一般的に生のビデオを捕捉し統合することはできない。しかしながら、標準的なデキストロスコープ(Dextroscope)(登録商標)があらかじめ記録しているビデオ3Dデータセットに統合し、例えば、神経外科手術の「ポストモーテム」分析およびレビューにおいて生じたように操作することができ、そこでは、デックス―レイ(DEX-Ray)(登録商標)が用いられる。
【0059】
デキストロビーム(DextroBeam)ワークステーション220およびデキストロスコープ(Dextroscope)(登録商標)ワークステーション230は、本質的に同じ装置で異なる特色を持つものである。それは、主にディスプレイインターフェースが異なっている。デキストロビーム(DextroBeam)は、標準的なコンピュータ ワークステーションのような接続されたディスプレイを持つ代わりに、そのディスプレイを220に示すように、例えば、壁やスクリーンに投射するためのプロジェクタを用いる。逆に、デキストロスコープ(Dextroscope)(登録商標)は、通常2つのディスプレイを有している。1つは、オペレータが、鏡の下で3Dコントローラをつかみながら自分で実際に3Dデータセット上で操作しているように、リーチインインタラクティブ感をもつことができるように画像を鏡に投射する統合されたモニターである。もう一方は、鏡に投射されたものと同じコンテンツを表示する標準的なディスプレイモニターである。
【0060】
したがって、図2に示すように、本発明の実施態様における例示のデキストロネット(DextroNet)ネットワークを用いた種々の協同的インタラクティブパラダイムが利用可能である。デックス―レイ(DEX-Ray)(登録商標)型ワークステーション210は、デキストロスコープ(Dextroscope)(登録商標)型ワークステーション230またはデキストロビーム(DextroBeam)ワークステーション220と協同することができる。あるいは、例えば、それは、デックス―レイ(DEX-Ray)(登録商標)ワークステーション210(図示せず)とも協同することができる。さらに、デキストロビーム(DextroBeam)ワークステーション220は、別のデキストロビーム(DextroBeam)ワークステーション220またはデキストロスコープ(Dextroscope)(登録商標)ワークステーション230とネットワーク250を介して対話することができる。
【0061】
さらに、図2には示されていないが、他の3Dインタラクティブ可視化システムをデキストロネット(DextroNet)に接続することができる。例えば、同じくボリューム・インターラクション社(Volume Interactions)により提供されるデキストロスコープ(Dextroscope)(登録商標)およびデキストロビーム(DextroBeam)システム上で動くソフトウェアである、ラジオデキスター(RadioDexter)(登録商標)の一バージョンがある。これは、3D操作が2Dコントロールにマッピングされるラップトップ(または他のPC)上、例えば、標準的なマウスやキーボードで起動する。そのようなソフトウェアの機能についてはデキストロラップ(DextroLap)出願に詳細に記載がある。そのようなソフトウェアを、ここでは「デキストロラップ(DextroLap)」と呼ぶ。デキストロラップ(DextroLap)コンソールは図2には示されていないが、これもデキストロネット(DextroNet)によく接続することができる。
【0062】
さらに、特にティーチャー―スチューデントコンテクストにおいて2つ以上の協同するワークステーションが デキストロネット(DextroNet)上に存在する。そこでは、一人のティーチャーがデータセットを操作し、ネットワーク250に接続している多くのスチューデントのすべてが参加または傍観することができる。そのような実施態様においては、他のスチューデントの誰もが、例えば、各スチューデントのバーチャルツールを、ティーチャーのものと同様に見ることができる。図10乃至30を用いて説明するように、ティーチャーは、例えば、各スチューデントのIPアドレスならびにバーチャルツールの位置およびスナップショットまたはそれらの表示のリアルタイムのビデオを見ることができる。
【0063】
本発明の別の実施態様においては、コントロール機能、すなわち、本明細書おいてはティーチャーとして記載されている操作機能性が、関係者から関係者に手渡され、あらゆる接続したシステムがそのデータとの相互作用を他の関係者に広めることを可能にしている。そのような実施態様においては、アイコンまたはメッセージは、例えば、どのシステムが次に操作するティーチャーであるのかを特定する。
【0064】
デキストロネット(DextroNet)が提供し得る種々の協同の可能性から、スチューデントワークステーション上のプロセスフローを次に説明する。それは、ティーチャー―スチューデント相互作用が図2との関連で(図2に記載されているかどうか)説明した可能な接続のいずれかを利用することができることが理解できる。
【0065】
図3を用いて説明すると、301において、スチューデントのコンソールは、利用可能なティーチャーとの接続を探す。これは、例えば、スチューデントのコンソールが、最初にインターネット上でデキストロネット(DextroNet)セッションに参加するという要求をブロードキャストすることによって行うことができる。もし、ティーチャーが利用可能であれば、当該スチューデントは、例えば、肯定応答を受信し、その後、接続されることができる。もし、インターネット(または他のデータネットワーク、例えば、VPN)上でティーチャーが誰もアクティブ状態でなければ)、当該スチューデントは、例えば、所与のシステム構成によって規定されているようにサーバに接続し、ティーチャーを待つことになる。
【0066】
ティーチャーが接続される(301において)と、プロセスフローが302に移動することができ、そこでは、スチューデントのコンソールが、当該スチューデントとティーチャーが協同的に対話するように、3Dデータセットに関連するインターフェースおよびデータを更新することを求めている。こうして、302において、スチューデントは、例えば、彼のコントロールパネルを、ネットワーク上で送信されてきたティーチャーのインターフェースとティーチャーのデータからのデータセットの位置、方向および大きさのパラメータを用いて更新することができる。彼はまた、ネットワーク上で送信されてきたメッセージを介して、コントロールパネル上のウィジェットの状態と、ティーチャーのシステム上のそれとを並べることができる。これらのメッセージは、例えば、バーチャルコントロールパネル上のボタンの上げ下げ、モジュールページ(例えば、デキストロスコープ(Dextroscope)(登録商標)に存在する;そのようなページは、種々の可能なモジュール、またはユーザが入る操作モードを示している、例えば、登録、区分化、可視化、など)、スライダーバーの現時点での値、コンボボックスの選択、色彩自動照合表設定などと関連付けることができる。
【0067】
スチューデントは、例えば、彼のインターフェースが更新されると、302において、データ同期メッセージ、例えば、3Dデータセット中のバーチャルオブジェクトの詳細の位置、方向、大きさ、透明性、およびレベルなどを受信することもできる。記載しているように、同じデータセットにおいて、スチューデントバージョンのデータセットとティーチャーバージョンのデータセットとの間の違いがあまりに大きいと判断されれば(または、自動化プロセス中において、スチューデントのシステムによって)、彼はまた、ティーチャーが分析中の圧縮データセットの全体を送信するように要求することもできる。そのような場合、次にスチューデントのコンソールは、データを減圧し、リモートシナリオを再ローディングすることができる。あるいは、ティーチャーがある地点で時間内に行ったデータセットの相互作用のすべてを、スチューデント機の上で、局所的に行うことによって、ティーチャーは、全データセットではなく、相互作用リストを送信することができ、スチューデントのワークステーションが連続的にティーチャーバージョンのデータセットを受け取るようにする。インターフェースとデータが更新され、スチューデントのコンソールをティーチャーのコンソールと同期させると、プロセスフローは、次に説明する310および320に進む。
【0068】
310において、ティーチャーのコンソールが何かビデオを送信したかどうかを判定する。Yesであれば、ティーチャーのビデオは、314でレンダリングされ、プロセスフローは、325に進むことができる。Noであれば、310において、プロセスフローは、直接325に進むことができる。ビデオ発信の逆をアドレス指定すれば、すなわち、スチューデントのコンソールが、ティーチャーのコンソールに送信すべきビデオを持っていれば、ビデオフレームを利用可能かどうかが320において決定される。320でのプロセスフローを説明する前に、スチューデント側ビデオが存在すれば、スチューデントのコンソールは、305においてそれを読み出し、306においてそれをレンダリングする。320において利用可能であり、その後326においてそれを送信する。326から、プロセスフローは325に移動することもできる。例えば、スチューデントビデオが利用可能でない場合、プロセスフローは、320乃至325に直接進む。
【0069】
325において、スチューデントのコンソールは、それ自身の3D装置(例えば、スタイラスおよびコントローラーまたはそれらの均等物、すなわち、ユーザが対話する実際の物理的インターフェース)を読み出す。これによって、示されているように、例えば、スタイラスおよび3Dコントローラーのトラッキングされた実際の位置によってバーチャルツールの位置、方向、および状態を計算できるようになる。スチューデントがデキストロラップ(DextroLap)システムを使用している場合、3D装置の代わりのマウスやキーボードが325において読み取られる。330において、スチューデントのコンソールは、例えば、ティーチャー3D装置を読み出すことができ、それに、ティーチャーの代表的なツールならびにキーボードイベントの位置、方向、および状態を、デキストロネット(DextroNet)で受け取ったメッセージから更新させる。330から、プロセスフローは、340に進むことができ、そこで、スチューデントが彼自身の視点をコントロールすることを選択するか、ティーチャーのものに従うかが決定される。Noの場合、スチューデントは、彼自身の視点をコントロールすることを選択し、プロセスフローは、次に345に進むことができ、そこでは、スチューデントは、例えば、ティーチャーの左手側のツール(この例では、3Dデータセット内のどこに所与のユーザが存在するか、どのオブジェクトが現在選択されているかを左手のツールがコントロールする。これは、2Dにおけるカーソルを動かすマウスに似ている)に関連するネットワーキングメッセージを無視する。そして、彼のローカルジョイスティックもしくは6Dコントローラーから直接的に、彼自身の左手側の位置、方向、および状態を読み出す。340において、Yesであれば、したがって、スチューデントがティーチャーのースペクティブに従うことを選択すれば、彼の機械は、346において、ティーチャーへメッセージを送信し、ティーチャーのバーチャルオブジェクトの現在の位置および方向を問い合わせる。彼は、返答を受信するとすぐ、自身のオブジェクトを更新する。
【0070】
340においてどの選択がなされたかにかかわらず、プロセスフローは、345または346乃至350のいずれかに進むことができる。そして、そこで、スチューデントのコンソールの3Dビューがレンダリングされ、その後プロセスフローは、決定310および320にもどり、その結果、上記したように、デキストロネット(DextroNet) インタラクティブプロセスフローは、連続的にセッションを通して繰り返す。
【0071】
B.ティーチャー―スチューデント相互作用の特徴例
上記ティーチャー―スチューデントパラダイムから、本発明の実施態様において、下記の特徴が実行される。以下は、2人用のバーチャルツールをもち、1つのツールは1つのボタンスイッチをもち、ボタンとスライダーを持ち、可視化アプリケーションをコントロールするバーチャルコントロールパネルを利用するシステム上のユーザを想定している。そのような例示的システムは、例えば、ラジオデキスター(RadioDexter)(登録商標)ソフトウェアを動かす、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)システムとすることができる。.
【0072】
1.トラッキング負荷の軽減
本発明の実施態様において、ネットワークデータ転送レートの可変性を取り扱うため、ネットワークに課されるトラフィック負荷を軽減するため、ならびにキーユーザの3Dオブジェクト上での相互作用が見失われないことを確実にするために、例えば、バーチャルツールのボタンスイッチの4つの状態、確認、スタートアクション、ドゥアクション、およびアクションの停止を利用することができる。「確認」状態においては、ユーザは、バーチャルツールをコントロールするスタイラスをクリックせずに、それを動かすだけである(これによって、位置および方向データが生じるが、「ボタンが押された」というデータは生じない)。したがって、そのようなバーチャルツールは、活動的な操作は行わずに、バーチャルワールドではローミングとしてのみ現れるが、オブジェクトにおけるポインティングとして見ることができ、持続的なやり方ではないが、実際はいくつかのオブジェクトがその状態を変化させるように誘発する。例えば、ドリルツールは、バーチャルツールがそれと対話しているとき、3Dオブジェクトのシースルービューを示すことができるが、ボタンが押されるまでオブジェクトをドリルすることはない。「スタートアクション」状態においては、スタイラスのボタンを押すことができ、それが、押し下げられた状態が維持されると、それは、「ドゥアクション」状態をアクティブにする。例えば、ユーザがスタイラスボタンを解除するとすぐ、ツールは、「アクションの停止」状態に入り、「確認」状態に戻ることができる。したがって、ほとんどの時間、バーチャルツールは、「確認」状態である。この状態は、ツールが実際に機能しているときにはそれほど重要な状態ではない。
【0073】
したがって、「確認」状態では、バーチャルツールは、バーチャルワールドではローミングとしてのみ現れ、例えば、1つの位置から他の位置へ移動するなどの活動的な操作は行われない。この状態でそのようなツールの位置や方向を送信するデータパケットは、「意味がない」データパケットであると考えることができる。密集したネットワークが存在する場合、ティーチャーの「送信」バッファが未送出パケットでいっぱいになっている可能性がある。そのような状況においては、本発明の実施態様において、デキストロネット(DextroNet)ソフトウェアは、「送信」バッファを確認することができ、こうした「確認」状態のパケットを捨てることができる。大半の時間、バーチャルツールは、「確認」状態であるため、それによってトラフィック負荷を大幅に軽減することができる。これを、図53を用いて説明する。例えば、図53(a)に示すように、ティーチャーが、自分の「送信」バッファ中に1セットのメッセージを持っていると仮定する。ネットワーク接続が低速である場合、彼は、例えば、図53(b)に示すようにメッセージをスチューデントに送るだけである。この場合、スチューデントは、ティーチャーのツールが、位置1から位置Nのように、「ジャンプ」するのを見て、次に、例えば、ドリル操作を行うが、実際のドリル操作の情報で失われるものはない。
【0074】
本発明の実施態様において、デキストロネット(DextroNet)トラフィック負荷コントロールはこの事実を利用することができる。重要なメッセージは、優先的な転送に割り当てることができる。通常、ネットワーク速度が速いとき、ティーチャーのツールのすべての動きは、例えば、スチューデントに転送されることができる。こうして、スチューデントは、ティーチャーのツールの連続的な動きを見ることができる。しかしながら、ティーチャーのシステムが、(例えば、送出バッファ中で待っているメッセージが多すぎることに気づくことによって)ネットワーク速度が遅くなったことを検出したとき、本発明の実施態様においては、「確認」状態のメッセージを破棄することができる。このようにして、スチューデントは、密集したネットワーク条件の下であっても、ティーチャーのペースについていくことができる。そのようなメッセージ「圧縮」(損失性)スキームとの交換は、スチューデントのローカルビュー中のティーチャーのツールが、例えば、それほどスムーズに動いていないように見えるように行われる。にもかかわらず、バーチャルオブジェクト上の重要な操作は、失われることはないであろう。この軽減は、ネットワーク速度が速い場合には行う必要がない。このスイッチは、例えば、ティーチャーの「送出」バッファ中の列の長さとすることができる。「軽減」がない場合、ティーチャーのツールは、スチューデントのワールドにおいてスムーズに動くことができる。「軽減」が起こる場合、ティーチャーのツールは、連続的ではない。しかしながら、バーチャルオブジェクト上でのティーチャーの操作は失われることはなく、スチューデントのツールは、ティーチャーのツールのペースについていくことができるだろう。このように、本発明の実施態様においては、利用可能なネットワーク速度を動的に適用することができ、多解像度(すなわち、粗解像度および平滑解像度)でティーチャーのツールを表示することができる。
【0075】
2.視点のコントロール
記載しているように、本発明の実施態様において、デキストロネット(DextroNet) スチューデントは、所与の3Dオブジェクトをコントロールするか、ティーチャーの視点に従うかのいずれかをすることができる。当該スチューデントが3Dオブジェクトのローカルコントロールを選択すれば、彼のローカル処理、例えば、オブジェクトの回転、翻訳およびズーム(デジタル倍率拡大)は、ティーチャーまたは他のスチューデントの世界において、3Dオブジェクトの位置に影響を及ぼさない。 しかしながら、ティーチャーは、例えば、スチューデントのバーチャルツールの位置および3Dオブジェクトに対する方向を見ることができ、したがって、上記したように、ティーチャーが、スチューデントの視点を参照することを可能にしている。そのようなシナリオ例においては、スチューデントは、現在ティーチャーによって選択されているものとは別の関心領域または方向を見出すために、自分の世界のオブジェクトを回転させることができる。そして、例えば、ボイスによっておよび/または、それを指し示すことによって、これをティーチャーと通信させることができる。その後、スチューデントのメッセージを受信して、ティーチャーの世界においてスチューデントによって指し示された場所に気づいたとき、ティーチャーは、例えば、特定の場所に至ることができる。一方、もしスチューデントがティーチャーのビューに従うことを選択すれば、ティーチャーの世界のすべての動きがスチューデントの局所的な世界と共有されるであろう。
【0076】
本発明の実施態様において、ネットワーク上で送信されて、これら2つの状態間を切り換え、ユーザの視点に関連するリモートバーチャルツールを再度位置づけることが可能な特定の指令が存在し得る。そのような指令は、例えば、図1および3の140および340における決定を駆動することができる。
【0077】
3.データ同期
本発明の実施態様において、単一および完全の2つの同期モードがある。例示的な単一同期モードは、例えば、オブジェクトの唯一の位置、方向、大きさ、透明性、および詳細なレベルを通信することができる。これらのパラメータは、それらが大きな帯域幅を要求せずにデータネットワーク上を転送されるという意味において、「軽量」であるとみなすことができる。したがって、本発明の実施態様において、ティーチャーモジュールは、例えば、新たなスチューデントのネットワークへの参加を検出したときすぐにそのような単一同期を行うことができる。
【0078】
本発明の実施態様において、完全同期は、例えば、ユーザが明確にそれを求めている時(例えば、図1中の145)にのみ行うことができる。これは、すべてのティーチャーのデータ(報告目的で捕捉したデータ、例えば、スナップショットや3D記録を除く)の圧縮と転送に関与する。本発明の実施態様において、この同期は、時間がかかるため、任意とすることができる。そのような実施態様において、ティーチャーが完全同期を始めることができるのは、スチューデントがそれを要求したときだけである。多数のスチューデントがいる場合、例えば、データは、そのような要求を行ったスチューデントだけに送信される。さらに、完全同期は、2つの側の間に実質的な偏差が生じたときに、リカバリ策として使用することができる。帯域幅の利用可能性によるスループット限界がない場合、そのような完全同期は、自動的、周期的、または特に定められた事象がおこったときに行うことができる。
【0079】
C.3Dインターフェース(コントロールパネル)の同期
本発明の実施態様において、例示の同期は、次に説明するように、目盛りの同期およびウィジェットの同期の2つのプロセスを含むことができる。
【0080】
1.目盛りの同期
デキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)型システムを用いる場合、例えば、バーチャルコントロールパネルは、対話中、3Dトラッカーが静止し、バーチャルツールがバーチャルコントロールパネルの対応する部分に接触することができる場合、物理的基材(例えば、アクリル製)を用いて正確に測定されなければならない。したがって、目盛りおよび構成は局所的であり、機械ごとに異なる。これは、ネットワーキング中にミスマッチの問題を引き起こしうる。例えば、目盛りおよび/または構成のミスマッチによりティーチャーのツールが所与のスチューデントのコントロールパネルに接触することができないかもしれない。本発明の実施態様において、ティーチャーおよびスチューデントのコントロールパネルは、以下のようにして同期することができる。ネットワーキングセッションがアクティブの状態にある間、ティーチャーのコントロールパネルの位置、方向、および大きさは、スチューデントに送信されることができ、それによって、スチューデント自身のコントロールパネルのパラメータを置き換えることが可能となる。ネットワーキングセッションが終了した場合、スチューデント機のもとの構成を回復させることができ、それによって、彼は一人で作業することが可能になる。
【0081】
2.ウィジェットの同期
ネットワーキングセッションが開始すると、両サイドのコントロールパネルの最初の状態、例えば、スライダーバーの位置、ボタンやタブの状態、ルックアップテーブルのリストなどは、例えば、異なっていてもよい。これらのパラメータ全ては、ネットワーキングのためにはそろえる必要がある。
【0082】
D.異なるインタラクティブプラットフォーム間の接続
本発明の実施態様において、異なるタイプのインタラクティブプラットフォーム間、例えば、デキストロスコープ(Dextroscope)(登録商標)とデキストロビーム(DextroBeam)(登録商標)との間の接続をサポートすることができる。したがって、デキストロスコープ(Dextroscope)(登録商標)上のティーチャーは、デキストロビーム(DextroBeam)(登録商標)の前に集まっている多数のリモートスチューデントに指導することができる。あるいは、例えば、ティーチャーは、デキストロビーム(DextroBeam)(登録商標)の前のローカルスチューデントを指導することができ、デキストロスコープ(Dextroscope)(登録商標)上のリモートスチューデントは見ることができる。
【0083】
本発明の実施態様において、別のサポートされた接続としては、3Dインタラクティブプラットフォームと2Dデスクトップワークステーション間、例えば、上記のデキストロスコープ(Dextroscope)(登録商標)とデキストロラップ(DextroLap)システムのものがある。そのようなシステムによれば、関係者は、ユーザとシステムの間の相互作用がマウスやキーボードによって行われる場合(デキストロラップ出願に記載のように)、デスクトップワークステーションのみを使い、スタイラスおよびジョイスティックの3D入力装置を用いない。そのようなシナリオでは、ティーチャーおよびスチューデントの入力デバイスは、同一でない可能性がある。これは、3Dスタイラスやジョイスティックを持っていないスチューデントでも、全3Dで操作しているティーチャーを見て、マウスやキーボードを使ってティーチャーと通信することができるので、最も有用といえる。デスクトップワークステーション上には、キーボードイベントが、トラキングシステムからの動作と同様に転送され、補間され得る。そのような実施態様においては、キーネームやその変更子をネットワークメッセージに入れる必要がある。例えば、デキストロラップ(DextroLAP)カーソルは、3D位置を有している。この位置をティーチャーに送信することができ、そうすれば、ティーチャーは、スチューデントのカーソルの動きを3Dで見ることができる。
【0084】
本発明の実施態様において、ユニックス(登録商標)およびウィンドウズシステム(登録商標)(Unix and Windows systems)(登録商標)上で動く種々のインタラクティブな可視化システムは、全てデキストロネット(DextroNet)と接続することができる。
【0085】
E.自動的ティーチャー検出
本発明の実施態様において、所与のインターネット上にティーチャーとスチューデントが存在する場合、デキストロネット(DextroNet)は、自動的にティーチャーを検出することができる。以下においてより十分に説明するように、クライアントがサーバから返信を取得したら、それはサーバとネットワーク接続を開始し、サーバにティーチャーまたはスチューデントが存在するかどうかを伝える。サーバは、例えば、全てのクライアントの登録リスト(役割、IPアドレス、ポート)を保持することができる。サーバが、新たに参加したクライアントがスチューデントであることを知ると、ティーチャーが利用可能であるかどうかを確認し、ティーチャーのIPアドレスとポートをスチューデントに送信する。したがって、スチューデントは、自動的にティーチャーの情報を取得することができる。もし、ティーチャーが存在しない場合、サーバは、例えば、スチューデントにネットワーキング接続から退去するように警告することができる。あるいは、スチューデントは、ティーチャーがオンラインに現れるまで待つこともできる。したがって、そのような実施態様においては、スチューデントは、例えば、サーバIPアドレスやポートを構成するなどの、低レベルのネットワーキングタスクについて心配する必要がない。ティーチャーが存在すればすぐ、スチューデントのシステムは自動的にそれを検出することができる。
【0086】
III.外科医−可視化アシスタント相互作用
A.概論
次に、図4乃至8を用いて、本発明のある実施態様における外科医と可視化アシスタントとの間の例示の3Dデータセットの、例示の協同相互作用的な可視化について説明する。図4は、外科医のコンソールの例を示すプロセスフローチャートである。図5は、可視化アシスタントのコンソールのフローチャートの例を示す図である。図6乃至8は、そのようなシナリオにおける外科医と可視化アシスタントのそれぞれのビューの例を示す図である。
【0087】
一般に、そのようなパラダイムは、「外科医」自身に限定されるわけではなく、一方の関係者(「外科医」)が診断的または治療的処置を所与の対象に施す場合、そしてその対象についての処置前の画像データを利用可能であり、身体的対象にコレジスタされている場合、および別の関係者が処置前の画像データから作成された3Dデータセットから対象を見ることが可能である場合、あらゆるシナリオを含むことができる。そのような記載したような「外科医」は、例えば、音波検査者(記載のように、例えば、「ソノデックス("SonoDex")」中)、カスラボ(Cathlab)(登録商標)機械を使用するインターベンション心臓病専門医、メッドトロニック(Medtronic)外科手術用ナビゲーションシステムを使用する外科医などを含むことができる。
【0088】
記載した相互作用において、外科医は、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションを使用し、したがって、位置データおよびリアルタイムのビデオを捕捉することが予期される。また、可視化アシスタントは、あらゆるタイプのワークステーションを使用することができる。
【0089】
図4を用いて説明すると、401において、外科医は、ネットワークに接続することができる。402において、可視化アシスタント側のデータを外科医側のデータに同期するすることができる。データの同期が完了するとすぐ、プロセスフローは、例えば、402から2つの平行な経路に沿って進むことができる。まず、410において、外科医は、可視化アシスタントのシナリオを要求することができる。要求があれば、411において、それはレンダリングされ得る。可視化アシスタントのシナリオが要求されない場合、プロセスフローは、410から直接420に進むことができ、そこで、外科医のコンソールは、ビデオプローブの位置および方向を読み出すことができる。ここで外科医のコンソールは、ビデオプローブ(ローカルである)の位置および方向を読み出し、それをバーチャルワールドの座標に変換する。次にプロセスフローは、420から、例えば425に進むことができる。
【0090】
上記のプロセシングと平行して、ローカルビデオプロセシングが存在することに留意されたい。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションである外科医のコンソールは、リアルタイムのビデオを取得することもできることが思い出される。したがって、405において、外科医のコンソールは、それ自身のビデを読み出すことができ、406においてそれをレンダリングすることができる。次にプロセスフローは同様に425に進むことができる。
【0091】
425において、外科医のコンソールは、それがネットワーク上で取得したローカルビデオを可視化アシスタントに送信することができる。そこから、プロセスフローは430に進むことができ、そこで外科医のコンソールは、そのビデオプローブ情報を送信する。ここで、外科医のコンソールは、バーチャル世界の座標中のビデオプローブの位置および方向を可視化アシスタントに送信する。これは420において取得した情報の単なる送信である。435において、外科医のコンソールは、アシスタントの代表的なツールを通信することができる。ここで、外科医のコンソールは、外科医のバーチャル世界における可視化アシスタントの代表的なツールの位置および方向を受信し、通信することができる。このデータはネットワーク上で可視化アシスタントのコンソールから取得することができる。最後に、450において、外科医のコンソールは、ビデオおよび拡張現実感を含み得る3Dデータセットの3Dビューをレンダリングすることができ、それは、可視化アシスタントの代表的なツールの位置および方向を含む。現在の3Dレンダリングは、外科医ならびに可視化アシスタントの双方による3Dデータセットとの相互作用の結果となろう。可視化アシスタント側に着目した、外科医−可視化アシスタントパラダイムの別のサイドを次に図5を用いて説明する。
【0092】
501において、可視化アシスタントはネットワークに接続することができ、502において、彼または彼女は、自身のデータを更新することができる。ここで可視化アシスタントは、ネットワーク上で入力される外科医のデータを用いて、自身のバーチャルオブジェクト位置、方向、および大きさを更新する必要がある。プロセスフローは、502から平行して、510および520の決定に進むことができる。まず、510において、外科医のコンソールからビデオを受信したかどうかを判定することができる。Yesであれば、511において、外科医のビデオをレンダリングすることができる。Noであれば、プロセスフローは、530に進むことができる。第2に、決定520において、アシスタントのシナリオを送信すべきかどうかを判定することができる。これは、例えば、外科医のワークステーションからの問い合わせもしくは要求に返答して行うことができる。
【0093】
外科医が可視化アシスタントのシナリオを要求していれば、525において、アシスタントのシナリオを送信することができ、アシスタントは、スナップショットもしくは彼のビューのビデオを送信することができる。そのようなスナップショットは、例えば、立体的なものでもよいし、モノスコピック(monoscopic)であってもよい。520において、外科医が可視化アシスタントのシナリオを要求していなかったら、プロセスフローは次に530に進むことができる。そこでプロセスフローは、510からも同様に到達する。そして、可視化アシスタントのコンソールは、それ自身の3D装置を読み出すことができる。ここで、可視化アシスタントは、自分のツールの完全なコントロールを有しているため、彼のツールの位置、方向、および大きさは、彼自身のスタイリスト(原語:stylist)および操作装置によって行うことができる。ここから、プロセスフローは、540に進むことができ、そこで、外科医の代表的なツールが更新されることができる。ここで可視化アシスタントのコンソールは、可視化アシスタントのバーチャル世界において、外科医の代表的なツールの位置および方向を受信し、更新することができる。
【0094】
最後に、プロセスフローは、550に進み、そこで、可視化アシスタントのコンソールは、3Dデータセットの3Dビューをレンダリングする。この3Dビューは、可視化アシスタント自身の3D装置ならびに外科医の代表的なツールのそれに対する更新を含むことになり、外科医から受信するあらゆるビデも含むことができる。上記したように、外科医―可視化アシスタントパラダイムは、デキストロネット(DextroNet)上でのデックス―レイ(DEX-Ray)(登録商標)対デキストロスコープ(Dextroscope)(登録商標)型相互作用に関与すると想定される。このシナリオは、すでに述べたように、上記のティーチャー―スチューデントパラダイムの変形例である。外科医-可視化アシスタントシナリオにおいて、外科医は通常スチューデントの役割を担い、一方、アシスタントはティーチャーを担う。これは、外科医(スチューデント)が、手術に忙しく、データとの相互作用能力において、より制限されているためである。したがって、彼は主に可視化アシスタント(ティーチャー)がどのように3Dビジュアルバーチャルワールドをコントロールするかを見ることに関与する。
【0095】
B.独立した視点
手術室でデックス―レイ(DEX-Ray)(登録商標)型コンソールを用いる場合、例えば、外科医の見地は、図6に示すようにビデオプローブの方向によって制限される。カメラプローブ(Camera Probe)出願により詳細に記載されているように、デックス―レイ(DEX-Ray)(登録商標)型装置は、3Dシーンをビデオプローブの位置に基づいて、したがって、ビデオプローブ中のカメラが持つ視点からレンダリングする。したがって、例えば、デックス―レイ(DEX-Ray)(登録商標)型コンソールを使用する外科医は、ビデオプローブの先端がどのようにして内部から標的、すなわち、標的自身の内部に固定された視点、例えば、腫瘍もしくは他の頭蓋内の構造に固定された視点にアプローチするのかを見ることができない。しかしながら、デキストロスコープ(Dextroscope)(登録商標)型機械上で実行されるようなプランニングシステムにおいては、アシスタントは、図8に示したような標的を調べるための無制限の見地を有している。こうして、本発明の実施態様において、デキストロネット(DextroNet)は、外科医を助け、彼に、外科医が手術を行っている実際の患者と関連する3Dデータセットを介して無制限に動く第2の目を提供するために、デックス―レイ(DEX-Ray)(登録商標)をデキストロスコープ(Dextroscope)(登録商標)と接続するために使用することができる。これは、リアルタイムの複雑な手術に携わっている外科医にとって非常に有用である。ここでは、手術に携わっている外科医にとっては論理的に不可能な多くの可視化が確実にプロセスを助けるであろう。それは、可視化アシスタントが手術もしくは他の実地の治療(診断)努力に有意に貢献し得るのはこのようなシナリオにおいてである。
【0096】
C.交換可能な視点
別法として、本発明の実施態様において、外科医は、アシスタントの視点を見ることができる。その一例を図9に示す。このように、本発明の実施態様において、外科医には利用可能な2つのタイプのビューがある。1つは通常のカメラプローブ(Camera Probe)拡張現実感のビュー、すなわち、1つは、図6に示されるような3つの2Dの三面状画像が載ったビデオであり、他の1つは、図7に示されるような可視化アシスタント側の視点である。これらの2つのタイプのビューは、外科医がその間をトグルすることが可能な2つの別個のウインドウに表示される。こうして外科医は、例えば、図6と7の間をトグルすることができる。可視化アシスタントのビュー(図7)から、外科医は、バーチャルオブジェクトと彼のツールの関係を、異なる見地、例えば、腫瘍など標的オブジェクト上に位置づけられた視点から見ることができる。
【0097】
さらに、本発明の実施態様において、可視化アシスタントも同様に、彼のディスプレイ中に外科医のシナリオを見ることができる。これは、例えば、図8に示されている。メインウインドウは、可視化アシスタントのビューである。これは、外科医が持つビデオプローブツールのカメラの位置による制限を受けない。さらに、図8には「図中図」のビューが存在する。これは、図8の左上のコーナーの小さなウインドウ810に示されている。これは、外科医にビューを彼が見えるように示している。これはビデオフレームとして転送することができ、したがって、可視化アシスタントはどんな方法によってもこれを操作することはできない。したがって、図8は、外科医のツールも(上から下までの線として)可視化された仮想の3D世界を表示するメインウインドウを示す図である。他方の小さなウインドウ810は、外科医の実際のビューであり、ライブの映像信号および、外科医のシナリオ上で利用可能であり、その表示パラメータが外科医によってのみ選択され、操作される3Dオブジェクトの拡張現実感を含んでいる。したがって、可視化アシスタントは、図6のメインウインドウの3D世界と図8の左上部分の画像ウインドウ810内の画像の2Dビデオの双方の中に外科医のツールを見ることができる。
【0098】
IV.インターフェース相互作用の例
本発明の実施態様において、デキストロネット(DextroNet)のネットワーキング機能は、例えば、メインデキストロスコープ(Dextroscope)(登録商標)3Dインターフェース中の「ネットワーキング」タブからコントロールすることができる。
【0099】
A.接続を確立する
本発明の実施態様において、ユーザネットワーキングモジュールインターフェースの提供を受けることができる。そのようなインターフェースは、例えば、「ティーチャー」、「スチューデント」および「ネットワーキング停止」といった3つのボタンを備えている。そのような例示的インターフェースを介して、ユーザは、こうして、ティーチャーもしくはスチューデントのいずれかであることを選択し、またはデキストロネット(DextroNet)セッションの停止を選択することができる。本発明の実施態様において、ティーチャーがネットワーク内に存在するときのみ、スチューデントは、接続を確立することができる。そうでなければ、スチューデントは、「ティーチャーが存在しません」というメッセージを受け、接続を終了することになる。もし、スチューデントが3D入力デバイスを持っていない場合、例えば、デキストロラップ(DextroLAP)出願において、上記したように通信にはマウスを使うことができる。
【0100】
B.ティーチャーアクション
さらに、追加的インターフェース特徴をメインユーザ、すなわち「ティーチャー」として行動するユーザに表示することができる。そのような実施態様において、ティーチャーには、スチューデントのIPリストと「同期」ボタンが提供され得る。このパネルは、ティーチャーのみが利用可能とすることができる。新たなスチューデントが参加したとき、例えば、スチューデントの最初のシナリオの、例えばスナップショットがティーチャーに送信されたり、スチューデントリストに表示されたりなどする。さらに、スチューデントのIPアドレスは、例えば、テキストボックスに示されることが可能である。複数のスチューデントが存在する場合、ティーチャーは、リストをスクロールして、他のスチューデントのIPアドレスやスナップショットを見ることができる。本発明の実施態様において、そのようなスナップショットを使えば、ティーチャーは、自分のデータセットとスチューデントのデータセットとの相対的な同期を正確に測定することができる。例えば、ネットワーキングを開始する際に同期を達成するための方法は、単一同期と完全同期の2つ存在する。一般的は、ティーチャーとスチューデントが同一のデータセットを持っている場合、単一同期だけが必要である。しかしながら、彼らが搭載しているデータセットが異なるものである場合、ティーチャーは、完全同期を開始しなければならない。そうでなければ、後に、障害が生じることになる。種々のスチューデントから送信されたスナップショットは、それらの初期の状態(環境およびデータ)をティーチャー側に表示する。したがって、ティーチャーは、スチューデントが、自分がスナップショットを介して有しているものと同じデータを搭載しているかどうかを確認することができる。もし異なれば、彼は当該スチューデントに警告して、完全同期を実行することができる。
【0101】
C.スチューデントアクション
本発明の実施態様において、ユーザがスチューデントとなることを選択するとすぐ、彼は、自分のバーチャルコントロールパネルのコントロールを失う。彼は、ティーチャーの操作を見て、自分が関心を持った部分を指し示すことができる。しかしながら、彼にできることには制限がある。彼は、ティーチャーにコントロールされている自分のバーチャルコントロールパネルにタッチすることができないためである。記載したように、彼が行うことができる制限された相互作用のセットは、専用のボタンによって(デキストロラップ(DextroLap)に記載のPC遂行に用いられるものに類似している)、または、ティーチャーが例示のデキストロネット(DextroNet)を介して操作する「標準的な」コントロールパネルとは異なる専用の「スチューデント」バーチャルコントロールパネルを介して、容易に行うことができる。
【0102】
本発明の実施態様において、スチューデントには、ティーチャーの操作を見ることができる2つの方法がある。例えば、彼は、(i)ティーチャーの視点に従う、または(ii)ティーチャーのものとは異なる見地からのデータセットを見ることができる。そのような実施態様において、彼は、彼のスタイラスまたは他のいくつかのシステムが定義するシグナルをクリックするだけで、これら2つのモードの間をトグルすることができる。
【0103】
本発明の実施態様において、スチューデントが、「従事」(すなわち、ティーチャーの見地に従う)モードにあるとき、例えば、「ロックオン(LockOn)」という語の赤いテキスト表示が提供されるようにすることができる。そのようなモードのとき、彼はオブジェクトを回転させたり、動かしたりすることができない。彼がスタイラスをクリックするか、または別の何らかのシグナルを送信して、切断すれば、「ロックオン」("LockOn")テキストは、例えば、消える。これは、彼は、自分自身の視点からデータセットを見ることができることを示すものである。このような「切断」モードでは、スチューデントは、例えば、左手のツールを使って、表示されたオブジェクトを回転させたり、動かしたりなどができる。
【0104】
D.ネットワーク接続の停止
記載した例示の遂行においては、ティーチャーのツールだけがバーチャルコントロールパネルにタッチすることができるので、「ネットワーキングの停止」ボタンをクリックすることによってネットワーキング機能を終了させる責任はティーチャーにある。ネットワーキングが終了すると、ティーチャーは、彼/彼女が、ネットワーキングセッション中にデータに対して行った変更の全てを保存することができる。しかしながら、スチューデントは、例えば、望ましければ、自分のシナリオをネットワーキング前のものに回復して、ネットワーキングセッションに入る前に保存していたものに回復することができる。
【0105】
本発明の実施態様において、ネットワーキング中、スチューデントのデータはティーチャーのデータの同期させることが要求されることがある。したがって、スチューデントのローカルデータを損なうことを回避するために、ネットワーキングセッションが実際に始まる前にスチューデントがネットワーキングボタンを押すと、例えば、彼自身のデータが何らかのバックアップディレクトリーに自動的にコピーすることができる。したがって、ネットワーキングセッションが終了したとき、彼は自身のデータをバックアップディレクトリーからコピーすることによって回復することができる。本発明の実施態様において、これは、「ネットワーキング停止」ボタンを押すと自動的に行うことができる。
【0106】
E.サーバの例
本発明の実施態様において、デキストロネット(DextroNet)は、図9に示すように、サーバクライアントアーキテクチャー上に確立することができる。このような構成例においては、ティーチャー930およびスチューデント920の双方は、クライアントである。それらは、例えば、逓倍する接続、接続登録、および接続照会を管理するために使用することができるサーバ910に物理的に接続されている。送信元(クライアント)からの全ての情報が、例えば、最初にサーバ910に渡される。当該サーバは、例えば、受信機IPアドレスを分析し、その後メッセージを特定の目的地に渡す。こうして、そのような実施態様において、ネットワーキング機能を、ティーチャーまたはスチューデントのいずれかの側でアクティブな状態にする前に、そのようなサーバアプリケーションは最初に起動させなければならない。例示のサーバの特徴について以下において説明する。
【0107】
1.低レベルの観点から、本発明の実施態様において、サーバは、多重化技術を用いて、マルチプル接続をサポートすることができる。それは、例えば、データの到達が実行を誘発する、単一のプロセス並行サーバであることができる。タイムシェアリングは、例えば、負荷が大きすぎてCPUがそれを処理しきれない場合に引き継ぐ。さらに、高レベルの観点から、送信元(クライアント)からのIPアドレスに基づいて、サーバは、TCP/IPプロトコルを用いて、メッセージを目的地にユニキャスト、マルチキャスト、もしくはブロードキャストすることができる。
【0108】
2.接続登録
クライアントはサーバに接続すると、サーバ上に、例えばそのIPアドレスとネットワーキングの役割(例えば、ティーチャーまたはスチューデント)を登録する。例えば、2つの基準、すなわち、(1)スチューデントが参加する前にティーチャーが存在していること、および(2)サーバに接続するティーチャーは一人だけであること、を確実にすることはサーバの責任とすることができる。基準(1)が満たされない場合、スチューデントは、例えば、ネットワーキングから退去するよう警告されることがあり得、または、例えば、ティーチャーが接続するまで待つよう助言されることもあり得る。基準(2)が満たされない場合、第2の推定上のティーチャーは、例えば、ネットワーキングから退去するよう警告されることがあり得る、または、例えば、彼がスチューデントとして接続されることが望ましいかどうか照会されることがあり得る。
【0109】
3.接続照会
本発明の実施態様において、クライアントは、現在の接続環境に何人の仲間のクライアントが存在しているのか、そして、それが誰なのかについて、サーバに照会することができる。このようにして、クライアントは、誰が通信に関与しているのかを知ることができる。これは、現在のスチューデントのダイナミックリストを保持しているティーチャーにとって重要である。サーバは、「仲間の照会」のような要求を受信したら、例えば、全ての仲間のクライアントのIPアドレスやポートを要求者に返信することができる。
【0110】
4.サーバ照会へ回答する
本発明の実施態様において、サーバは、LAN上で自動検出され得る。例えば、サーバのUDPソケットが、予期していたサーバアプリケーションについてのクライアントのブロードキャスト照会をLANから受信すると、起動中のアプリケーションの名前を確認して、求めているものが利用可能かどうかを知ることができる。もし利用可能であれば、サーバは、自身のアドレス(IP:ポート)を照会しているクライアントへ返信することができる。
【0111】
したがって、本発明の実施態様において、あるユーザが自分のネットワーキングでの役割を選択すれば(例えば、ネットワーキング接続に参加したときの可視化環境内のネットワーキングインターフェース上の「ティーチャー」または「スチューデント」ボタンを押すことによって)、彼はイントラネットを介して、サーバプログラム名を含む照会をブロードキャストすることができる。このメッセージは、例えば、全てのイントラネット機械上の専用のポートに送信することができる。サーバプログラムが起動していれば、それは専用のポートを聞き続けることができる。それが、ブロードキャストメッセージをクライアントから受信すると、サーバ機上の全ての起動しているプログラム名を確認して、整合性があるかどうかを知ることができる。整合性があれば、サーバは、例えば、それ自身のアドレス(IP:ポート)を照会しているクライアントに返信することができる。一方、クライアントは、サーバからの回答を待っていることができる。一定時間経過後、否定の回答が返信されれば、クライアントは、「サーバが作動していません」というエラーを報告することができ、例えば、通常のスタンドアロンワーク状態を再開する。
【0112】
5.サーバの起動
本発明の実施態様において、デキストロネット(DextroNet)サーバは、可視化の機械にインストールされることなく、スタンドアロンアプリケーションとして動くことができる。通信がLAN内部で行われている場合、例えば、ティーチャーもスチューデントもサーバのIPアドレスを正確に知っている必要はない。デキストロネット(DextroNet)ソフトウェアは、例えば、自動的にサーバを突き止める。通信がWAN上で行われている場合、サーバのIPとポートがデキストロネット(DextroNet)に提供されなければならない。例えば、ローカルサーバが検出されない場合、およびリモートサーバが存在しない場合、ティーチャーは、ネットワーキング機能を開始しようとする場合、例えば、自分の機械上で自動的にサーバアプリケーションの起動を行う。
【0113】
別法として、例えば、サーバ機能をティーチャーの役割と組み合わせることができる場合、つまり、ティーチャーの機械がサーバの役割を担うことができる場合、スチューデントの機械は、クライアントを維持することができる。しかしながら、そのような実施態様においては、ティーチャー機の負担が比較的重いものとなる可能性がある。なぜなら、3D可視化ソフトウェアからの可視化の要求、ならびにデキストロネット(DextroNet)からの通信の要求が同時に起こるからである。したがって、例えば、デキストロネット(DextroNet)通信ループの速度が、例えば、デキストロスコープ(Dextroscope)(登録商標)可視化ループによって、遅くなる可能性がある。これによって、待機バッファに残る入力および出力データを増加させる原因となり得る。したがって、本発明の実施態様において、データの列が長くなれば、「意味のない」データパケットは、例えば、落とすことができる。すなわち、そのようなデータパケットは、例えば、処理されることなく列から除去されることが可能となる。この文脈での「意味のない」データパケットはとは、プログラム/可視化の結果に影響を及ぼさないデータパケット、例えば、主な操作(例えば、ドリリング、トリミングなど)を行うことがなく、したがってデータセットに影響を及ぼさない、ツール(ティーチャーのものとスチューデントのもの両方)の移動を転送するパケットを言う。
【0114】
この文脈においては、かなり詳細に以下に示すように、ツールには4つの基本的な状態:「確認」、「スタートアクション」、「ドゥアクション」、および「アクションの停止」がある。「確認」状態では、バーチャルツールは、バーチャルワールドではローミングとしてのみ現れ、例えば、1つの位置から他の位置へ移動するなどの活動的な操作は行われない。この状態でそのようなツールの位置や方向を送信するデータパケットは、「意味がない」データパケットであると考えることができる。密集したネットワークが存在する場合、ティーチャーの「送信」バッファが未送出パケットでいっぱいになるだろう。そのような状況においては、本発明の実施態様において、当該ソフトウェアは、「送信」バッファを確認し、こうした「確認」状態のパケットを捨てることができる。大半の時間、バーチャルツールは、「確認」状態であるため、それによってトラフィック負荷を大幅に軽減することができる。例えば、ティーチャーは、(a)自分の「送信」バッファ中に1セットのメッセージを持っている。ネットワーク接続が低速である場合、彼は、メッセージを(b)スチューデントに送る。この場合、スチューデントは、ティーチャーのツールが、位置1から位置nのように、「ジャンプ」するのを見て、次に、例えば、ドリル操作を行う。
【0115】
V.遂行の例
図10乃至49は、デキストロネット(DextroNet)の種々の例示の遂行を表す図である。そのような遂行は、例えば、ラジオデキスター(RadioDexter)(登録商標)ソフトウェアなどを動かすデキストロスコープ(Dextroscope)(登録商標)に統合するように設計されており、そのようなシステムの追加的な機能的なモジュールとして現れ得る。記載の例においては、ティーチャーおよびスチューデントは、サーバ プログラムを動かすサーバを介して互いに通信しあう。記載のように、各セッション中は、1つの時間にスチューデントは多数存在し得るが、ティーチャーは一人だけである。
【0116】
図10乃至25は、例示的ティーチャーと2人のスチューデントのビューの間の経時的関係を示す図である。図10、14、18および22のそれぞれは、3つのビューを並べて示している。そのそれぞれは、直後の3つの図に拡大して示している。
【0117】
図10乃至25は、本発明のある実施態様における、例示的ティーチャーと2人のスチューデントのそれぞれによって見られるそれぞれの図の間の例示的相互作用を示す図である。図10において、ティーチャーは、スチューデントが接続しているかどうかを確認する。ティーチャーのビューを図10(a)に示す。また、図10(b)および図10(c)は、例示の二人のスチューデントである、スチューデント1およびスチューデント2のそれぞれのビューを示している。示された例では、ティーチャーとスチューデント1は、デキストロスコープ(Dextroscope)(登録商標)型システムを使用している。そして、スチューデント2は、デキストロラップ(DextroLap)型システムを使用している。図11乃至13は、これらのビューをより詳細に示すものであり、次に述べる。
【0118】
図11において、ティーチャーは、彼自身のツール1100、スチューデント1のリモートツール1101、およびスチューデント2のリモートツール1102を見ることができる。スチューデント2のリモートツールは、スチューデント2がデキストロラップ(DextroLap)を使っているために、実際にはカーソルであることに留意されたい。したがって、全体の3Dコントロールを持っていない。さらに図11に示すように、各スチューデントのリモートツールには、スチューデントのコンピュータのIPアドレスがついている。本発明の実施態様において、そのようなIPアドレスは、スチューデントの名前を表示するために変更することができる。別法として、例えば、両方を表示することができる。本発明の実施態様においては、ティーチャーに表示された各スチューデントの名前が示されることで同時にスチューデントの数を教えるために使用されることは特に有用である。このように、ティーチャーは、自分が誰に講義しているのかを知ることができる。
【0119】
さらに、ティーチャーのビューは、さまざまなスチューデントのスナップショットのためのディスプレイウインドウ1120であることが図11から見て取れる。このスナップショットウインドウ1120によって、ティーチャーは、スチューデントのローカルビューを見ることができるのである。最後に、3つのネットワーキングツール、すなわち、「同期」1150、「リモートスナップショット」1160および「役割切り換え」1170が存在する。同期1150は、スチューデントとティーチャーの間の同期を取るために使用することができる。このツールは、それぞれのデータセットの状態が有意に離れて浮動していて混乱を引き起こすことがティーチャーにとって(またはスチューデントにとって)明らかな場合に用いることができる。リモートスナップショット1160は、スナップショットウインドウ1120に表示された特定のスチューデントのスナップショットを要求する。これは、例えば、接続しているスチューデントのスクロール可能なリストをもつティーチャーのコントロールパネルによって、容易に行うことができる。その後、ティーチャーは、例えば、スチューデントのリストをスクロールして、一人を選択することができる。その後、ティーチャーが、例えば、「捕捉」ボタンを押し、スナップショットがスチューデントのワークステーションから要求される。最後に、役割切り換え1170によって、ティーチャーとスチューデントの役割を切り換えることができる。このプロセスは、ティーチャー主導によるものに制限することができる。したがって、以下により詳細に示すように、このボタンは、例えば、ティーチャー機でのみアクティブな状態である。
【0120】
図12は、スチューデント1のビューを示す図である。それは、スチューデント1のツール1201ならびにティーチャーのツール1200を示す。スチューデント1自身1のIPアドレスが彼のツールとともに示されていることに留意されたい。この特徴はオフにする。または、例えば、ティーチャーのビューを用いたのと同様に、スチューデントの名前もしくは他のいくつかの識別子と置き換えることができる。スチューデントが見る3Dオブジェクト1225は、ティーチャーのビューが示すものと同じであり、同じ正確な見地もしくは視点に存在する。これは、スチューデント1のビューが、ティーチャーのものにロックオンしているためである。したがって、ロックオンサイン1290がスチューデント1のスクリーンの右上に表示されている。同期1250、リモートスナップショット1260および役割切り換え1270の3つのネットワーキングツールとしてティーチャーのツール1200が見える。スチューデント1がスチューデントであり、ネットワーキングの機能性をコントロールしないので、スナップショットウインドウ1220には、スナップショットが何も表示されていない。実際、スチューデントがティーチャーのビューを見たいときは、既に図12において示しているように、ティーチャーのビューにロックオンすればよいだけである。したがって、リモートスナップショット1260は、ゴースト化されている。同期1250も、役割切り換え1270も同様にゴースト化されている。ティーチャーのみ3つの機能を行うことができる。図13は、図12と同様に、スチューデント2のビューを示している。それによれば、同じ3Dオブジェクト1325が示されている。スチューデント1の3Dオブジェクトのビューは、ティーチャーやスチューデント2のものより透明に見えることがわかる。全てのワークステーションが同じプログラムを動かしているにもかかわらず、そのようなワークステーションは、異なる構成を備えているからである。例えば、「コントロールパネルがスタイラスによってタッチされたとき、3Dオブジェクトをゴースト化する」ように、例えば、いくつかは、特定の特徴が使用禁止であるかもしれない。そのような特徴は、例えば、スタイラスとコントロールパネルとのを促進することができる。
【0121】
これは、ユーザ(ラップトップ上で動くデキストロラップ(DextroLap)システムを利用しているかもしれないし、高速デキストロスコープ(Dextroscope)(登録商標)を利用しているかもしれない)が利用可能なグラフィックスカードに依存するためである。3Dインタラクティブ可視化ソフトウェアの、より「装飾的」な機能は、正確には同じ視覚的結果をもたらさないかもしれないが、3Dオブジェクトの効果の観点からは同一の振る舞いをするであろう(もちろん、同期のとれたビューを維持するためには、正確に同じである必要がある)。そのような装飾的機能の1つを、例えば、図13に示している。ユーザがコントロールパネルと対話する際(そして、したがって、応答性には、ボタンおよびスライダーを正確にクリックする必要がある)の表示を促進するために、コントロールパネルとスタイラスを再生するだけで、3Dオブジェクトのレンダリングされた画像を捕捉して、3Dビュー上に透明にペーストすることができる。スチューデントのワークステーションに複製されない場合、アプリケーション上の結果は同じであるが、相互作用速度が遅くなる。そして、オブジェクトの表示内容が異なったものとなるであろう(すなわち、透明でない)。
【0122】
図13において、スチューデント2もロックオンモードであり、したがって、ロックオンサイン1390が図13にも表示されている。スチューデント2は、彼自身のツール、この場合カーソル1302を見ることができる。スチューデント2のローカルIPアドレスも表示されている。別の実施態様においては、それは、例えば、上記したように、置き換えられ、もしくは拡張されている。スチューデント1のケースと同様に、スナップショットウインドウ1320にスナップショットは表示されておらず、ネットワーキングツールの同期1350およびリモートスナップショット1360は両方とも、役割切り換え1370と同様にゴースト化されている。
【0123】
次に、図14乃至17について説明する。これは、図10乃至13に示されたものに続くある例示的時点における、図10のティーチャーと二人のスチューデントを示すものである。図14において、ティーチャーは、3Dオブジェクトの右後ろ側の隅の立方体のオブジェクトから、3Dオブジェクトの左後ろ側に見える円錐形のオブジェクトの先端まで線を描いた。ティーチャーは、これを例示の測定ツールを用いて行った。したがって、測定の末端近くに測定ボックスが現れており、それには、「47.68mm」と示されている。両スチューデントは、ロックオンモードである。次に、図15乃至17を用いて、3つのビューを詳細に説明する。
【0124】
図15は、ティーチャーのビューを示す図である。隅の立方体のオブジェクトから、3Dオブジェクト1525の左後ろ側に見える円錐形のオブジェクトの先端までの測定を行うために用いられたティーチャーツール1500が見える。さらに、スチューデント1のIPアドレスが付いたスチューデント1のリモートツール1501、ならびにスチューデント2のIPアドレスが付いたスチューデント2のリモートツール(カーソル)1502も見える。図15のティーチャーのビューからわかるように、スチューデント1は、ティーチャーの測定が始まった、立方体上の点の近くに彼のリモートツールを指し示している。スチューデント2は、円錐のベースの近くのどこかを指している。
【0125】
スチューデント1のビューである図16には、ティーチャーのツール1600を見ることができる。ティーチャーのツールは、もちろん、スチューデント1から離れている。さらに、スチューデント1のツール1601、3Dオブジェクト1625、およびティーチャーが描いた測定線ならびに測定ボックス1692が見える。さらに、ロックオンサイン1690も見える。これは、スチューデント1がティーチャーのビューにロックオンしていることを示している。図17には、スチューデント2のビューが示されている。スチューデント2は、ティーチャーのビューにロックオンしている。したがって、ロックオンサイン1790が表示さている。ティーチャーのツール1700とともにスチューデント2のリモートツール1702が、彼のIPアドレスとともに示されている。さらに、3Dオブジェクト1725内の立方体のオブジェクトと円錐形のオブジェクトの間にティーチャーが描いた測定線が見える。したがって、ティーチャーが行った測定の長さを示す測定ボックス1792も同様に示されている。
【0126】
図18乃至21は、図10乃至17と有意に異なるティーチャーとスチューデントを示す図である。図18乃至21においては、スチューデント1は、自分のビューをティーチャーのものから切り離している。図19に詳細に示しているように、ティーチャーは、彼自身のツール1900と、スチューデント1のリモートツール1901とスチューデント2のリモートツール1902のそれぞれを見ることができる。図19からわかるように、ティーチャーは、立法体のオブジェクトの隅近くの左上から円錐形のオブジェクトの先端までを、彼のツール1900を用いて測定し終わったところである。同様に、図20には、今は、スチューデント1は、もはやロックオンされていない。したがって、ロックオンサインは彼のビューに現れていない。スチューデント1は、彼のビューをティーチャーのものから切り離したので、彼は、上方から3Dオブジェクト2025を見ることができる。あるいは、彼が選択するあらゆる他の視点を見ることができる。さらには、切り離されたモードにおいては、コントロールパネルは、例えば、ここには示していないが、ローカルの相互作用に影響を及ぼす必要はない。スチューデントには、例えば、デキストロラップ(DextroLap)出願に記載されているように、ディスプレイの側部に現れる1セットのコントロールボタンが示されることがある。または、例えば、局所が省略されたコントロールパネルが提供されることがある。そのようなローカルコントロールパネルは、上記したように、例えば、短縮されたルックによってゴースト化することができる。ティーチャーのコントロールを受けている「真の」コントロールパネルではないことが容易に認識できる場合は、ゴースト化する必要はない。図21に、スチューデント2のビューが示されている。スチューデント2はまだティーチャーにロックオンされているため、ロックオンサイン2102が表示されている。スチューデント2は、ティーチャーのツール2100ならびに自身のツール2102の両方を居ることができる。スチューデント2はまた、3Dオブジェクト2125およびティーチャーが施した測定線も見ることができる。
【0127】
次に図22乃至25について説明する。これらは、ティーチャーのペンの位置が変わったことを以外は図18の図と同様である。図23のティーチャーのビューは、ティーチャーのツールが少し移動したことを除いて図19と同じであることがわかる。したがって、ティーチャーのツール2300は、3Dオブジェクト2325中の円錐形オブジェクトの先端の周りを本質的に回転している。スチューデント1のリモートツール2301、ならびにスチューデント2のリモートツール2302が、図19においてそれらが占めていた同じ位置にまだ見える。図24のスチューデント1の分離されたビューにおいて、変更された唯一の点は、ティーチャーのツール2400の位置と方向である。そして、スチューデント1のツール2401も今ここで同様である。図20と図24の比較からわかるように、スチューデント1のツールは測定の末端点の周りに下向きに回転しており(本質的には、3Dオブジェクト2425の円錐の末端)、図20における測定線とのなす角度と比較して、測定線とのなす角度を小さくしている。スチューデント1のビューは、スチューデント2のカーソルを示していないことがわかる。これは、上記したように、ティーチャーのみが全てのスチューデントを見ることができ、各スチューデントが見ることができるのはティーチャーだけだからである。したがって、各スチューデントは、他のスチューデントの存在を事実上忘れている(もちろん、スチューデントの一人が役割を切り換えてティーチャーとなった場合は除く。プロセスを以下により十分に説明する)。
【0128】
同様に、図25は、スチューデント2のビューを示す図である。図25は、ティーチャーのリモートツール2500の位置と方向以外は図21とほぼ同じである。スチューデント2自身のツール2502も3Dオブジェクト2525も動いていない。スチューデント2は、ティーチャーのビューに対してまだロックオンモードであり、したがって、ロックオンサイン2590が、このスチューデント2のビューに表示されている。
【0129】
図26乃至29は、ティーチャーと二人のスチューデントがネットワーキングセッションに参加している別の実施態様を示す図である。図26において、ティーチャーは、ネットワークに接続している。当該システムは、「あなたはティーチャーです。」というメッセージを表示しており、ティーチャーのバーチャルツールが見える。まだスチューデントは接続していない。図27において、第1のスチューデントが参加する。彼のツールおよびIPアドレスがデータセッションに見られ、彼の最初の(彼が入った時間付けの)スナップショットも同様に見ることができる。図28において、第2のスチューデントが参加し、彼のツールとIPアドレスが、この時点でティーチャーにも利用可能となる。各スチューデントのIPアドレスは、彼らのバーチャルツールの隣にテキストボックスとして現れる。図29および30において、ティーチャーは、第1および第2のスチューデントとそれぞれ同期をとる。ティーチャーは、上記したように、ネットワーキングコントロールパネルの左パネルに表示されたスチューデントリストからスチューデントを選択することによって、どのスチューデントと同期を取るかを選択する。
【0130】
図31乃至43は、本発明のある実施態様における、様々な「外科医」および「可視化アシスタント」ビューの順序を示す図である。これらの図は、例えば、外科医がデックス―レイ(DEX-Ray)(登録商標)型システムを用いて手術を行い、例えば、デキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)型システムを用いる可視化アシスタントがネットワーク上で外科医の機械と接続しているとき、どのようにして例示の協同が生じ得るかを示す。このパラダイムは、例えば、一人が診断的処置もしくは治療的処置を行い、したがって、対象に関するリアルタイムの情報を取得しており、他方の人がそのようなリアルタイムデータを受信し、それと対象に関する3Dデータを用いて第1の人を援助するために対象の可視化を作成するような、あらゆる状況に適用することができる。そのような可視化アシスタントの例は、例えば、利用可能な視点の自由を利用し(すなわち、彼は、自由に、彼が望むように、3Dデータ中のオブジェクトを回転、翻訳、および拡大する。外科医がそれらを見ている位置および方向におけるそのようなオブジェクトを見ることに限定されない)、外科医が見ることができないものを見る。そして、したがって、例えば、手術の現場にいる患者の組織に外科医を協同的にガイドする。これらの図について次に説明する。
【0131】
図31は、可視化アシスタント(「VA」)ビューの2つの例を示す図である。一般に、外科医/可視化アシスタントパラダイムにおいては、外科医は、ロックオンして、一般的には、患者または対象の処理において物理的に使用する視点およびアプローチの角度とは相関しないであろうVAが作成した最適な可視化を見ることを決めていない限り、VAのビューから切り離されている。図31の文脈においては、そして、一般的には、VAは、手術用ナビゲーションシステム、例えば、デックス―レイ(DEX-Ray)(登録商標)型システムを用いる外科医を援助するために使用される。上記したように、外科医は、スチューデントと類似した行動をし、上記したように、可視化アシスタントは、ティーチャーと類似した行動をする。これは、手術をしている外科医は、彼の視点が彼の保持するプローブや他の器具に限定されるため、3Dバーチャルデータの表示に関して自由が少ないという事実によるものである。例えば、デックス―レイ(DEX-Ray)(登録商標)システムを使用して、3Dデータからの視点を見ることは、手で持ったプローブ内のカメラで見るのと同じである。一方、VAは、3Dバーチャルデータだけを見ているので、制限なく視点の変更を行うことが可能である。外科医は一般的に、拡張現実感を表示することを望むため(または、もし他の手術用ナビゲーションシステムを用いるのであれば、視点によって見える3Dデータは、彼がトラッキングするものとほぼ同様である)、外科医のビューは通常VAから切り離されている。
【0132】
したがって、図31において、可視化アシスタントは、外科医の手術および処置における関心オブジェクトを表す頭蓋骨を回転させ、冠状面のビューが左側、矢状面が右側に見えるようにする。各可視化アシスタントのビューには、外科医(スチューデントとして機能する)のリモートツール3100が見える。矢状面のビューで、頭蓋骨の開口部を容易に見ることができる。分割している外科医の視点は、これらのそれぞれとは異なるものである。以下において図34を用いてより十分に説明する。図34に示されているように、外科医の実際のビューは、下記に示すように彼の手術経路にあるものより外科医のリモートツール3100の軸に沿ってより多くなっている。図32および図33はそれぞれ、図31の拡大図である。
【0133】
図34は、図31の可視化アシスタントのビューに対応する外科医のビューを例示した図である。このビューは、外科医が持っている実際の視点であって、彼の、例えば、デックス―レイ(DEX-Ray)(登録商標)型システム上に局所的に示された図である。外科医の視点は、カメラプローブ(Camera Probe)出願に記載のカメラプローブ(Camera Probe)のカメラの視点、または、例えば、別の手術用ナビゲーションシステムを使った場合は、彼の物理的方向および患者の内部へのアプローチの経路に対応している(そして、それによって制限されている)。図34では、外科医のツール3400は、彼が持っている実際のカメラプローブ(Camera Probe)、またはナビゲーションプローブもしくは器具に対応する。さらに図34には、上記したように、他の何らかの識別子と置換または拡張することができる頭蓋骨の開口部2410および外科医のIPアドレス3416、ならびに部分的に見える球体3405も示されている。可視化アシスタントが、彼の視点を最適化することによって、よりよいビューを取得し、それによって、外科医がポイントを突き止めるのは、まさにこのオブジェクトである。図31乃至43には、球体3405(図34に関して)は、外科医が処理している関心オブジェクト、例えば、腫瘍を表していると想定される。図35は、可視化アシスタントのビュー、および上記したように頭蓋骨の開口部を含む頭蓋骨を示す、対応する外科医の切り離されたビューを示す図である。図35においては、可視化アシスタントは、外科医が球体上のポイントを突き止めるのを援助する。可視化アシスタントは、このビューでは、頭蓋骨の側面を切り欠いて、球体を明らかに示している。一方、外科医のビューである図35(b)は、実際の世界では彼のプローブが動いているという事実に制限されており、頭蓋骨中の実際の穴もしくは上記頭蓋骨の開口部中にのみ動くことができる。対照的に、可視化アシスタントのビューは、制限がなく、データを自由に処理して、この球体を最も良好に可視化している。図35(a)の各ビューでは、外科医のツール3500が見えている。図35(b)に示されているように、外科医のツールの軸は、多かれ少なかれ彼の視点に対応している。一方、図35(a)では、可視化アシスタントは、外科医の実際の経路に対して後部からオブジェクトを見ている。図36および37は、それぞれ図35(a)および図35(b)を拡大して示した図である。図37からわかるように、外科医のIPアドレス3716がはっきりと表示されている。
【0134】
VI.他の手術用ナビゲーションシステムとの統合
本発明の実施態様において、種々の3Dインタラクティブ可視化システムの製造業者からの3Dトラッキング(または2Dトラッキング)能を持つ装置、例えば、デキストロネット(DextroNet)上のデキストロスコープ(Dextroscope)(登録商標)などを接続することが可能である。そのような「外来」装置は、そのようなネットワークを介して送信される質問または指令に対応して、所定の情報をデキストロネット(DextroNet)に提供するであろう。例えば、Medtronic(Louisville, Colorado, USA)は、脳神経外科的処置のための種々のナビゲーション(または、画像がガイドする)システムを製造している。そのようなナビゲーションシステムの1つが、例えば、トレオン(登録商標)(TREON)システムである。さらに、メドトロニック(Medtronic)は、アプリケーションプログラムインターフェース(API)ネットワーク インターフェースソフトウェアも製造している。それは、データをそのようなナビゲーションシステムから外部のアプリケーションへ、リアルタイムで流すことができる。
【0135】
同様に、別の製造業者であるブライアンラボエージー(BrainLAB AG)(Munich, Germany)は、類似のソフトウェア製品を持っている。この製品は、ベクタービジョンリンク(VectorVision Link)(VV Link)という名前の注文設計クライアント/サーバアーキテクチャーを使用し、可視化ツールキット(VTK)から機能を拡大したものである。VV Linkは、両方向データが画像データセット、可視化およびツール位置などをリアルタイムで転送することを可能にする。これらの装置は、登録情報とプローブ座標情報を、デックス―レイ(DEX-Ray)(登録商標)システムと同様のやり方で提供するが、それらは、拡張現実感ベースではないので、ビデオ情報は提供されない。本発明の実施態様において、デキストロネット(DextroNet)サーバの変更例は、ステルスリンク(Stealthlink)(登録商標)またはVV Linkソフトウェアなどを組み込むことができるであろう。患者情報と登録情報の詳細が、例えば、交換可能である接続後、デキストロネット(DextroNet)は、例えば、これらのシステムに照会して、それらのプローブ座標を取得する。こうして、本発明の実施態様において、そのようなシステムは、外科医のワークステーションとして機能し、ティーチャー(VA)ワークステーションに空間座標を提供することができる。上記のデックス―レイ(DEX-Ray)(登録商標)による遂行とは異なり、現在のように構成されているこれらのシステムは、外科医のビューに、VAワークステーションから外科手術中に表示を行うオプションを有していない。そうするためには、本発明のある実施態様の方法をナビゲーションシステム中に具体化するソフトウェアを組み込む必要がある。
【0136】
同様に、上記したように、本発明の実施態様において、例示のデキストロネット(DextroNet)を介して接続される機械は、異なる製造業者の製品とすることもでき、異なる構成、また異なるタイプであることができる。上記したように、手術用ナビゲーションシステム、例えば、デックス―レイ(DEX-Ray)(登録商標)システム、または、メドトロニック(Medtronic)やブライアンラボ(BrainLAB)のシステムをデキストロネット(DextroNet)を介して標準的な3Dインタラクティブ可視化ワークステーション、例えば、デキストロスコープ(Dextroscope)(登録商標)、デキストロビーム(DextroBeam)(登録商標)などに接続することができる。さらに上記したように、3D位置データを送信するシステム、例えば、拡張現実感を利用しない手術用ナビゲーションシステムを接続することもできる。
【0137】
次に説明する図44乃至49は、本発明のある実施態様におけるデキストロネット(DextroNet)のさらに別の使用である。この例は、デキストロネット(DextroNet)を介して3Dインタラクティブ可視化システム、例えば、デキストロスコープ(Dextroscope)(登録商標)に送信された、心臓病専門医が作成する2Dの蛍光透視画像の例に関するものである。パラダイムは、上記した外科医と可視化アシスタントのそれに類似する。しかしながら、このケースには、外科医は存在せず、代わって、インターベンション心臓病専門医が存在する。そのような実施態様においては、可視化アシスタントは、術前に取得しておいたCTAスキャンの可視化アシスタントによる制限のない3D処理によって、そのようなインターベンション心臓病専門医が彼の関心のある解剖学的構造を可視化するのを援助する。
【0138】
したがって、図44において、カスラボ(Cathlab)(登録商標)処置から取得した例示の蛍光透視画像を示す。当該画像は、X線を患者の胸郭に当てることによって取得した。画像中には、動脈、より正確には、造影剤を投与されて撮影された動脈内部の部分が見える。
【0139】
図45は、標準的なインターベンション心臓病専門医のビューの例を示す図である。図45において、インターベンション心臓病専門医は、例示の蛍光透視装置によって提供された視点から、造影剤を投与して撮影した血管の2D投影図のみを見る。図45に示された画像は、そのような従来のインターベンション心臓病専門医のビューのシミュレイトされた投影図である(一連の実際の蛍光透視画像にマッチしている。また、関連するCTAは入手できなかった)。シミュレーションは、CTAデータ上で操作することによって取得した(CTAの冠状動脈を区分化する(したがって、動脈だけ見ることができ、他の組織は見えない。それは、造影剤が動脈内を流れ、蛍光透視装置によって発光されたX線と相互作用する)、それらをあたかも蛍光透視法の結果のように暗く色づけする、そして、区分化された動脈を方向付け、スナップショットを撮影し、その後CTAのスナップショットを、区分化を行わずに撮影する)。
【0140】
図46は、図45の臨床医のビューに対応する可視化アシスタントのビューの例を示す図である。このような例示の可視化アシスタントは、図45のインターベンション心臓病専門医と協同することができる。記載しているように、そのような可視化アシスタントは、術前のCTAに対して制限のない3D処理を行う。図46は、VAが検査している冠状動脈の拡大図である。図46乃至48は、本発明のある実施態様における、インターベンション心臓病専門医と可視化アシスタントの間の相互作用の例を説明する図である。それらの図は、蛍光透視図とともにCTA図を手動で登録する方法を示している。ここで、例えば、VAは、デキストロネット(DextroNet)を介して図45のような蛍光透視法を取得し、次いで、例えば、当該画像を用いることでCTA(例えば、区分化された冠状動脈)を調整してこの受信画像と整合させることができる。VAは、方向決定を行い、心臓病専門医が見ているもの(蛍光透視装置上には制限があり、通常トラッキングされず、心臓病専門医がよく知っているいくつかの標準的な位置だけとなる)を知るとすぐ、制限のない3D処理によって、リアルタイムで心臓病専門医にそれが何であるかを指示することができる。彼は、例えば、「左冠状動脈」もしくは「LCA」、同様に、例えば、「右冠状動脈」もしくは「RCA」といった注釈つけて、それらの血管を標識する。あるいは、彼は、カスラボ(Cathlab)(登録商標)画像(投影図または、そのような表示が利用可能であれば立体)でインターベンション心臓病専門医に提供することができる血管中の狭穿部を(3Dで)指し示すことができる。さらに、例えば、VAは測定を行うことができる。そしてもしVAがフルオロスコープから新たな画像を見ることができれば、彼は、カテーテルがどこにあるかを特定し、3D位置を推定することができ、その後、重要な解剖学的ランドマークまでの距離を心臓病専門医に伝えることができる。
【0141】
図47は、上記した図8と類似したシナリオを示す図である。可視化アシスタントは、全体の3Dとメイン画像の両方を見ることができ、また、スナップショットまたは左上隅にある「図中図」画像を見ることができる。当該図中図の画像は、例えば、インターベンション心臓病専門医のカスラボ(Cathlab)(登録商標)機械中で例示の蛍光透視装置によって作成したものである。それは、本質的に上記の45に示した画像である。可視化アシスタントは、デキストロスコープ(Dextroscope)(登録商標)または均等の装置を使用して、術前のCTAデータを処理し、区分化し(もしくは再区分化する)、最適には蛍光透視装置中に見えるものと同じ視点の血管を可視化することができる。このことは例えば、視点を、彼が図中図に見ているものに揃えることによって行うことができる。さらに、VAのビューの遠方右側には、デキストロラップ(DextroLap)遂行に通常見えるものと類似した、例示の相互作用機能ボタンが見える。VAは、必要に応じて、例えばデキストロラップ(DextroLap)使用することができることがわかる。または、例えば、彼はデキストロスコープ(Dextroscope)(登録商標)を最大限に使用することができるであろう。
【0142】
図48は、さらに別の例示の、VAが作成することができる3Dビューを示す図である。すなわち、記載したように、VAは、全CTAデータにアクセスするので、したがって、例えば、図48の左の画像に示されているように、取得面をまとめることができる。または、例えば、データを区分化して、図48の右の画像に示すように、冠状動脈のみを明らかに示すことができる。
【0143】
最後に、図49は、例えば、インターベンション心臓病専門医のカスラボ(Cathlab)(登録商標)装置に表示され得る画像を並べて示している。インターベンション心臓病専門医は、彼のローカル機で取得した蛍光透視図(左)と可視化アシスタントが、例えば、デキストロスコープ(Dextroscope)(登録商標)またはデキストロラップ(DextroLap)機械で作成した図とを同じディスプレイ上で比較することができる。この比較は容易であるので、心臓病専門医は、蛍光投影図をよりよく解釈することができるようになる。インターベンション心臓病専門医と可視化アシスタント間で通信を行うことで、可視化アシスタントは、インターベンション心臓病専門医にとって望ましく、有用であるかもしれないように、彼が局所で作成したビューを、例えば、改良、再区分化、および最適化して、それをデキストロネット(DextroNet)でインターベンション心臓病専門医に送信して、表示(図49に示すように)し、インターベンション心臓病専門医による比較ができるようする。これは、例えば、蛍光透視法の処置を示すいくつかのモニターを備えたカスラボ(Cathlab)(登録商標)システムのような特徴を用いて行うことができる。別のモニターに3D画像を加えることは簡単なタスクであろう。これらの後者の画像は、例えば、蛍光透視と一致するかもしれないし、しないかもしれない。さらにそのようなシステムは蛍光透視装置の位置、ならびにその他の患者情報も示す。あるいは、例えば、無菌条件で使用される簡単なタッチスクリーンなどを備えたモニターなどの他のディスプレイを用いて、VAの可視化を臨床医に返送することもできる。
【0144】
VII.役割切り換え
本発明の実施態様において、役割切り換え機能をサポートすることができる。役割切り換えは、例示のデキストロネット(DextroNet)における特徴であり、ティーチャーおよびスチューデント(または外科医および可視化アシスタント)に彼らのそれぞれの役割をオンラインで交換させるものである。ティーチャー―スチューデントパラダイムにおいて、スチューデントは、オブジェクトにおける、翻訳、回転、およびインティングを除き、3Dデータセットのオブジェクトを処理することはできない。役割切り換えによって、スチューデントがティーチャーからのコントロールを引き継ぐと、彼は、例えばオブジェクトに対するティーチャーのワークを続けて行うことができる。これは、ある程度の協同のためのモードを示唆するものである。さらに、ある一時点においては、ティーチャーは、ネットワーク上に一人しか存在しない。この協同は、連続的であり衝突の問題を生じることはない。
【0145】
例示のデキストロネット(DextroNet)では、ティーチャーおよびスチューデントは、低レベルではともにクライアントであることができ、それによって、役割切り換えは自然に行われる。役割切り換えは、現時点の通信セッションを用いることができ (すなわち、ネットワーキングを停止させ、再接続させる必要はない)、ティーチャーとスチューデントの役割を高レベルで行うことができる。このようにして、役割切り換えは、再接続のために時間を使うことを回避することで、かなり迅速に行うことができる。
【0146】
役割切り換えは、多数のスチューデントをサポートしている。ティーチャーは、どのスチューデントに自分のコントロールの権利を移管するかを決定する。他のスチューデントは、そのままの状態を維持することができるが、例えば、ティーチャーが変わったことを知ることができる。上記したように、本発明の実施態様においては、ティーチャーもスチューデントも、例えば、低レベルの意味においてはクライアントである。図9に示したように、本発明の実施態様において、デキストロネット(DextroNet)は、サーバクライアントアーキテクチャーが用いられる。そのようなアーキテクチャーでは、ティーチャーもスチューデントもクライアントである。サーバも、例えば、ティーチャーと多数のスチューデントの間の通信を行うために使用することができる。したがって、役割切り換えは、ネットワーキングを停止させたり、再接続することなく、現時点の通信セッションを用いる。全体のプロセス中、物理的な接続の変化は何も起こらない。唯一の論理的な新たな役割をサーバに割り当てる、および再割り当てをする必要がある。全てのクライアント間の役割変更を伝える通常のプロセスは、例えば、下記のものがある。スチューデントがコントロールの権利を要求し、ティーチャーが他のスチューデントに伝え、サーバは役割切り換えの準備をする。その後、例えば、ティーチャーもスチューデントも、下記に示す例示の役割変更にしたがって、それらのツールをリセットし更新する。
【0147】
・スチューデントとなる予定のティーチャーの機械は、スチューデントツールをローカルツールに変更し、彼のティーチャーツールを専用のリモートツール(すなわち、新しいティーチャーの)に変更する。他のリモートスチューデントのツールは、表示から削除される。
【0148】
・ティーチャーとなる予定のスチューデントの機械は、彼のティーチャーツールをローカルツールに変更し、他のスチューデントならびにスチューデントとなる予定のティーチャーのためのツールの表現(スチューデントツール)を追加する。
【0149】
・他のスチューデントの機械は、それらのティーチャーツールを新しいティーチャーに変えて表現する。彼らのツールは、スチューデントツールのまま維持される。
【0150】
これらの役割変更が完了するとすぐ、すべてのクライアントは、それらの新たな役割をサーバ上に再登録する。こうして役割切り換えが完了する。
【0151】
進行中の通信セッションを用いて、多数のスチューデントをサポートすることができる。データフローの管理は、注意が必要であり得る。例示の役割切り換えの前後に受信するデータは、例えば、分離する必要がある。また、役割のサーバ上への再登録は、例えば、同期させておくことが必要である。これを達成するために、全体のプロセスを、例えば、役割切り換えのための準備(フェーズI)、役割の変更(フェーズII)、そして新た役割のサーバへの登録(フェーズIII)といった3つのフェーズに分けることができる。各フェーズの終わりに、全てのクライアントの状態を同期させることができる。
【0152】
このプロセスを、図50乃至52を用いて以下のようにまとめることができる。
【0153】
A.フェーズI(図50)
(1)ティーチャーは、自分のコントロールを移管した全てのスチューデントに合図を行う。全てのスチューデントから肯定応答を得た後、彼のツールはリセットされ、サーバは、彼が今役割切り換えの準備ができていることを通知し、ゾンビの状態(すなわち、機械がデータの受信のみ可能で、送信をすることができない状態)に入る。
【0154】
(2)スチューデントは、ティーチャーからシグナルを受けると、自分はティーチャーになるのか、またはスチューデントのままでいるのか彼の機械によって確認する。一方、またサーバは、ツールをリセットした後、役割切り換えの準備ができたことを通知する。このリセットは、ボリュームオブジェクトに対して既になされた変更には影響を及ぼさない。そして、彼は、受動状態または「ゾンビ」状態に入る。それは、記載したように、機械がメッセージを受信するだけで送信を行わない状態を意味する。
【0155】
本発明の実施態様において、ユーザは、役割切り換えプロセスにおける全ての通知を気にする必要はない。全ての役割切り換えプロセシングは、ユーザが「役割切り換え」ボタンを押すと自動的に行われることができる(そして、上記の記載および次に示す内容中のティーチャーまたはスチューデントについての言及「何かをする」は実際に、そのような行動を行うソフトウェアの例について言及している)。
【0156】
本発明の実施態様において、サーバは、ティーチャーとスチューデントの間の通信を管理するために使用することができる。例えば、それは彼らの役割の覚書である格納されたリストであることができる。したがって、役割が切り換えられたとき、サーバに通知されなければならない。さらに、役割切り換え中、ティーチャーとスチューデントの間の状態は、各フェーズの最後に同期させなければならない。サーバは、例えば、このプロセスを調整することもできる。例えば、フェーズIの最後に、スチューデント/ティーチャーは、サーバに役割切り換えの準備ができたかどうかを通知しなければならない。この後、彼はゾンビ状態に入り、役割変更が可能なサーバからの指示を待つことになる。サーバは、例えば、いくつのクライアントが役割切り換えの準備ができているかを数えることができる。全てのクライアントの準備ができたことを知ったあと、彼は全員に指示を出し、彼らはフェーズIIに入ることができる。
【0157】
(3)サーバが、全てのクライアントが役割切り換えの準備をしたことを知ると、彼らにメッセージを送信し、ゾンビ状態から再開させる。
【0158】
(4)クライアント(ティーチャー―スチューデント)が再開すると、クライアントは、彼の役割を変更し、サーバに通知し、再びゾンビ状態に入る。
【0159】
C.フェーズIII(図52)
(5)サーバは、全ての彼のクライアントから、役割切り換えを行ったとのメッセージを受けると、彼はまずティーチャーを再開させる。
【0160】
(6)ティーチャーは、サーバに再登録を行い、サーバに通知する。次いで、サーバは、スチューデントを再開させる。
【0161】
(7)スチューデントは、サーバに再登録を行い、ティーチャーは、最初のスナップショットをスチューデントから受信した後、ティーチャーは、サーバに、次のスチューデントを再開させるように要求する。
【0162】
(8)ステップ(7)は、例えば、全てのスチューデントが再登録するまで繰り返すことができる。
【0163】
さらに、本発明の実施態様において、上記プロセスを経て各役割切り換えを行って、ティーチャーの役割は、複数の関係者に対して、関係者から関係者に回すことができる。
【0164】
VIII.データフォーマット
本発明の実施態様において、以下の策を使用して、リモートターミナルへの適切な表示を確保することができる。
【0165】
A.データ
各サイド(ティーチャー―スチューデント) は、同じデータのコピーを保持している。もしデータが異なれば、全データセットを同期させることができる(データファイルの圧縮および送信)。
【0166】
B.初期化
本発明の実施態様において、ネットワーキング機能を初期化する際の両サイドでバーチャルコントロールパネルを同期させることができる。例えば、デキストロスコープ(Dextroscope)(登録商標)/デキストロビーム(DextroBeam)(登録商標)ワークステーションにおいて、バーチャルコントロールパネルは、解釈中、3Dトラッカーが休止している場合、物理的なアクリルベースを用いて正確に測定しなければならない。それによって、バーチャルツールは、バーチャルコントロールパネル上の対応する部分にタッチすることができる。こうして、目盛りおよび構成はローカルとなり、機械ごとに変わる。このことによって、例えば、ティーチャーのツールがスチューデントのコントロールパネルにタッチすることができなくなるといったミスマッチを、ネットワーキングの間に起こることがある。この問題を回避するために、本発明のいくつかの実施態様においては、コントロールパネルを同期させることができる。ネットワーキング機能が稼動している間に、ティーチャーのコントロールパネルの位置、方向、および大きさをスチューデントに送信することができ、スチューデント自身のコントロールパネルのパラメータを置き換えることができる。ネットワーキング機能が終了すると、スタンドアロンで作動するようにスチューデントの前の構成を回復させることができる。本発明の実施態様において、ネットワーキング機能を初期化する際に両サイドの視点を同期させることができる。適切な表示のために、ティーチャーとスチューデントは、同じ目の位置、見る位置、投影の幅と高さ、回転角度などを共有すべきである。したがって、視点に関する全ての情報は、ネットワーキング機能の開始時に同期させるべきである。
【0167】
本発明の実施態様において、ネットワーキング機能を初期化する際に、両サイドのズームボックスを同期させることができる。したがって、ネットワーキング機能が開始すれば、当該両サイドのズームボックスを位置、方向、境界、コンピュータスクリーン領域などによって、同期を取らなければならない。
【0168】
C.ウィジェットを同期する
本発明の実施態様において、ネットワーキング機能の開始時、両サイドのコントロールパネルのスライダーバーの位置、ボタンやタブの状態、色彩自動照合表のリストなどの初期状態は異なっているかもしれない。これらの全てのパラメータは、そろえる必要がある。
【0169】
D.通信
本発明の実施態様において、2つのタイプの座標系を用いることができる。世界座標とオブジェクト座標である。世界座標は、バーチャルワールドに取り付けらた座標である。オブジェクト座標は、バーチャルワールドの各バーチャルオブジェクトに取り付けらたものである。本発明の実施態様において、全バーチャルツールを世界座標に表示することができる。ティーチャーおよびスチューデントは、それぞれそれらが使用する座標系のタイプと通信することができる。
【0170】
スチューデントが従事しているモード(「ロックオン」)のとき、ティーチャーもスチューデントも、世界座標における自分のツール名、状態、位置、方向、および大きさを彼の仲間に送信する。
【0171】
スチューデントが開放されたモード(「ロックオン」でない)のとき、ティーチャー側でティーチャーのツールがコントロールパネルにタッチすれば、ティーチャーは、世界座標におけるツール名、状態、位置、方向、および大きさをスチューデントに送信する。そうでなければ、彼は、オブジェクト座標における位置、方向、および大きさをスチューデントに送信する。スチューデントは、ティーチャーのツールに関連する情報を受信すると、彼は、受信した情報をオブジェクト座標から世界座標に変換し、その後、彼の世界にティーチャーのツールを表示する。一方、スチューデントは、オブジェクト座標における彼のツール名、状態、位置、方向、および大きさをティーチャーに送信する。ティーチャーは、その後それらを世界座標に変換することができる。スチューデントのツールを表示する前に行うことができる。本発明の実施態様において、スチューデントは、何の行動が起こっているかを、彼の世界のティーチャーのバーチャルツールの位置、方向、および状態に基づいて決定することができる。
【0172】
本発明の実施態様において、デキストロネット(DextroNet)は、ティーチャー側およびスチューデント側の視点のモードの同期を取ることができる。スチューデントは、視点を開放することを選択することができる。彼は、例えば、彼のスタイラスのボタンを押すことができる。この行動によって、メッセージがティーチャーの機械に送信され、「私は、離れます」という効果が生じる。スチューデントは、例えば、実際に彼の視点を切り換えることはできない。彼は、ティーチャーからの世界座標を使用し続ける。ティーチャーの機械がスチューデントのメッセージを受信すると、例えば、次に当該スチューデントに肯定応答を送信することができ、そして、その後は、オブジェクト座標に変わる。スチューデント機は、そのような肯定応答をティーチャー機から受信すると、その後実際に離れるための変更を行い、その後オブジェクト座標を使用することができるようになる。
【0173】
例えば、スチューデントが再び従事する場合、状況は同じである。したがって、本発明の実施態様において、ティーチャー機が、スチューデントが離れることを決定したことを知ったとき、スチューデント機ができるのは、スチューデントの視点を変更することだけである。このようにすれば、離脱や再従事の前後に、ティーチャー機とスチューデント機の間の座標の種類についての衝突が、生じるのを回避することができる。
【0174】
E.電信フォーマット
本発明の実施態様においては、例えば、2つの電信フォーマットが存在し得る。1つは、例えば、メッセージの更新に用いることができ、他方は、例えば、ファイルに用いることができる。
【0175】
1.メッセージの更新のためのフォーマットI
図54は、メッセージの更新のための第1のフォーマットの例を示す。例えば、以下の属性を持つ以下のフィールドを使用することができる。
【0176】
開始タグ(Begin Tag):電信の開始を示す(符号なしの文字);
データ型(Data Type):コンテンツがメッセージの更新であるのかファイルであるかを示す。メッセージの更新の場合、この値は2である(符号なしの整数);
IP:送信元のIPアドレス(符号なしの文字);
オブジェクト名:このメッセージを利用するために割り当てられたオブジェクト;
座標系(Co-ord System):電信(符号なしの文字)中の位置、方向、および大きさを解釈するための座標系。例えば、2つの可能な値が存在する:世界座標には「wld」、オブジェクト座標には「app」;
位置(Position):「オブジェクト名」中のオブジェクトの位置。1つの位置は、浮動中に3つの値x、y、zを含む;
方向(Orientation): 「オブジェクト名」中のオブジェクトの方向。方向は、4x4マトリクスである。マトリクス中の各要素は浮動するものである;
状態(State):必要に応じて「オブジェクト名」中のオブジェクトの状態(符号なしの文字)。オブジェクトがツールであれば、その値は、4つの状態:MK_CHECK、MK_START_ACTION、MK_DO_ACTION、MK_END_ACTIONのうちの1つとなる。
大きさ(Size):「オブジェクト名」中のオブジェクトの大きさ。大きさは3つの値:x、y、zを浮動中に持つ;
終了タグ(End Tag):電信の終了を示す(符号なしの文字)
【0177】
図55(a)乃至55(c)は、図54のフォーマットを用いる3つの例を説明する図である。図55(a)は、コントロールパネルとの同期を取るためのメッセージの更新を説明する図である。図55(b)は、ウィジェットとの同期を取るためのメッセージの更新を説明する図である。図55(c)は、バーチャルツールとの同期を取るためのメッセージの更新を説明する図である。
【0178】
2.ファイル転送
本発明の実施態様において、長いファイルは、いくつかのブロックに分割して転送することができる。各電信は、そのようなブロックを含むことができる。本発明の実施態様において、ファイルを実際に転送する前に、更新メッセージを送信し、仲間にファイルを転送する旨を伝えることができる。「大きさ」フィールドが合計ブロック数(Total Block Number)(符号なしの整数)、ブロックの大きさ(Block Size)(符号なしの整数)、および最後のブロックの大きさ(Last Block Size)(符号なしの整数)を含むように修正することができるとすれば、図54に示されているフォーマット1は、そのような更新メッセージ中で送信することができる。図56にそのような更新メッセージの例を示している。図56は、991KB(1,014,921バイト)の例示的ファイルの転送に関する例示的更新メッセージを示す。したがって、大きさフィールド内のデータを考慮して、仲間は、そのファイルが248ブロックであり、最後のブロックを除いた各ブロックの大きさが4096バイトであり、最後のブロックが3209バイトであることを知る。ファイル自体は、ファイル転送に採用される更新メッセージのための第2のフォーマットを用いて送信することができる。
【0179】
3.メッセージの更新のためのフォーマットII
図57は、メッセージの更新のための第2のフォーマットの例を示す。本発明の実施態様において、以下のフィールドを使用することができる。
【0180】
開始タグ(Begin Tag):電信の開始を示す(符号なしの文字);
データ型(Data Type):コンテンツがメッセージの更新であるのかファイルであるかを示す。ファイルの場合、この値は1である(符号なしの整数);
ファイルブロック(File Block):二進法でのファイルのブロック(符号なしの文字);
終了タグ(End Tag):電信の終了を示す(符号なしの文字)
【0181】
例示のファイル転送送信においては、それぞれが4096バイトである最初の247ブロックは、例えば、図58(a)に示すように送信することができ、それぞれが3209バイトである最後のブロックは、フォーマットIIを用いて図58(b)に示すように送信することができる。
【0182】
本発明は、1以上の実施態様と関連付けて説明したが、それらの限定されるものではなく、添付の請求項は、特定のフォーマットおよび示されている本発明の変更例を含むだけでなく、本発明の真の範囲から逸脱せずに、当業者によって修正され得るものをさらに含むと解釈される。
【図面の簡単な説明】
【0183】
【図1】図1は、本発明のある実施態様における、ティーチャー型ワークステーションの例を示すプロセスフローチャートである。
【図2】図2は、本発明のある実施態様における、ネットワークを介して接続された種々のワークステーションの例を示すシステムレベル図である。
【図3】図3は、本発明のある実施態様における、スチューデント型ワークステーションの例を示すプロセスフローチャートである。
【図4】図4は、本発明のある実施態様における、外科医ワークステーションの例を示すプロセスフローチャートである。
【図5】図5は、本発明のある実施態様における、可視化援助ワークステーションの例を示すプロセスフローチャートである。
【図6】図6は、本発明のある実施態様における、外科医の標準的(空き)な図である。
【図7】図7は、本発明のある実施態様における、使用中の外科医の標準的な図である。
【図8】図8は、本発明のある実施態様における、可視化援助の例を示す図である。
【図9】図9は、本発明のある実施態様における、ティーチャー―スチューデントパラダイムアーキテクチャーの例を示す図である。
【図10】図10aないし10eは、本発明のある実施態様における、デキストロネット(デキストロネット(DextroNet))の一例の上で接続されたティーチャー―スチューデントパラダイムアーキテクチャーの例を示す図である。
【図11−13】図11乃至13は、図10a乃至10cを拡大して連続的に示した図である。
【図14】図14a乃至14cは、例として、図10のティーチャーと2人のスチューデントによってロックオンモードで観察される、3Dデータセットの例を示す図である。
【図15−17】図15乃至17は、図14a乃至14cを拡大して連続的に示した図である。
【図18】図18a乃至18cは、図14a乃至14cに示される3Dデータセットの例を示す図であり、そこでは、ティーチャーが測定を行い、スチューデント1が空きの図のモードに切り換えを行っている。
【図19−21】図19乃至21は、図18a乃至18cを拡大して連続的に示した図である。
【図22】図22a乃至22cは、ティーチャーがペンを動かした後の図18a乃至18cの例をそれぞれ示す図である。
【図23−25】図23乃至25は、図22a乃至22cを拡大して連続的に示した図である。
【図26−30】図26乃至39は、本発明のある実施態様における、二人のスチューデントがネットワーキングセッションに参加している、ティーチャーの見地からの順序の例を示す図である。
【図31】図31は、本発明のある実施態様における、可視化援助の2つの例を示す図である。
【図32−33】図32乃至33は、図31を拡大して連続的に示した図である。
【図34】図34は、本発明のある実施態様における、図31に示された可視化援助に対応する外科医の例を示す図である。
【図35】図35は、本発明のある実施態様における、両当事者が所与のポイントをファントムオブジェクト上に位置づけたときの、可視化援助と外科医の視点をそれぞれ示す図である。
【図36−37】図36乃至37は、図35を拡大して連続的にそれぞれ示した図である。
【図38】図38は、本発明のある実施態様における、外科医を援助して、あるポイントをオブジェクト上に位置づける可視化援助を示す図である。
【図39−40】図39乃至40は、図38を拡大して連続的にそれぞれ示した図である。
【図41】図41は、本発明のある実施態様における、外科医と協同して、あるポイントをオブジェクト上に位置づける例をさらに示す図である。
【図42−43】図42乃至43は、図41を拡大して連続的にそれぞれ示した図である。
【図44】蛍光透視法による画像の例を示す図である。
【図45】図45は、インターベンションを行う心臓病専門医の視点の例を示す図である。
【図46】図46は、本発明のある実施態様における、図45に対応する可視化援助の例を外科医と協同して、あるポイントをオブジェクト上に位置づける例をさらに示す図である。
【図47】図47は、本発明のある実施態様における、図46に示した可視化援助の例によって作成された図中図の例を示す図である。
【図48】図48は、本発明のある実施態様における、図46乃至47に示した可視化援助3D図の他の例を示す図である。
【図49】図49は、本発明のある実施態様における、インターベンションを行う心臓病専門医の視点の別の例を示す図である。
【図50】図50は、本発明のある実施態様における、第1ステージの役割スイッチプロセスの例を示す図である。
【図51】図51は、本発明のある実施態様における、第2ステージの役割スイッチプロセスの例を示す図である。
【図52】図52は、本発明のある実施態様における、第3ステージおよび最終ステージの役割スイッチプロセスの例を示す図である。
【図53】図53aおよび53bは、本発明のある実施態様における、ティーチャー(または、メインユーザ)システムの一例でデータ送信キューを示す図である。
【図54】図54は、本発明のある実施態様における、フォーマットを更新するするメッセージの例を示す図である。
【図55】図55a乃至55cは、本発明のある実施態様における、図54のメッセージフォーマットを用いて、コントロールパネル、ウィジェット、およびツールの一例を更新するメッセージの例を示す図である。
【図56】図56は、本発明のある実施態様における、図54のメッセージフォーマットを用いて、ファイル転送に関するメッセージの例を示す図である。
【図57】図57は、本発明のある実施態様における、フォーマットを更新する別のメッセージの例を示す図である。
【図58】図58a至58bは、本発明のある実施態様における、図54のメッセージフォーマットの一例を用いたファイル転送メッセージを示す図である。
【背景技術】
【0001】
他の出願とのクロスリファレンス
本願明細書は、(i)「ネットワーク(「デキストロネット」(“DextroNet”))上での、協同的でインタラクティブな可視化のためシステムおよび方法(SYSTEMS AND METHODS FOR COLLABORATIVE INTERACTIVE VISUALIZATION OVER A NETWORK ("DextroNet"))」という発明の名称で、2005年12月31日に出願された米国仮特許出願第60/755,658号、(ii)「2Dインターフェース(「デキストロラップ」(“DextroLap”))を用いて3D可視化システムと対話を行うための方法およびシステム(METHODS AND SYSTEMS FOR INTERACTING WITH A 3D VISUALIZATION SYSTEM USING A 2D INTERFACE ("DextroLap")」という発明の名称で、2006年9月19日に出願された米国仮特許出願第60/845,654号、および(iii)「3Dデータセットのネットワーク("DextroNet")上での、協同的でインタラクティブな可視化のためシステムおよび方法(SYSTEMS AND METHODS FOR COLLABORATIVE INTERACTIVE VISUALIZATION OF 3D DATA SETS OVER A NETWORK ("DEXTRONET")」という発明の名称で、2006年12月19日に出された出願第 号(出願人は、この後者の仮特許出願の正しい出願番号と出願日を提供するために本願を補正する権利を留保している)の優先権を主張し、この仮出願の内容全体を引用によって本願明細書に援用するものとする。さらに本願明細書は、(i)「ポインティング装置上に搭載されたカメラに基づく拡張現実感手術用ナビゲーションシステム(An Augmented Reality Surgical Navigation system Based on a Camera Mounted on a Pointing Device(「カメラプローブ」(Camera Probe))」という発明の名称で、2004年4月27日に出願された共係属中の出願された米国実用新案出願第10/832,902号、(ii)「ポインティング装置上に搭載されたカメラに基づく拡張現実感手術用ナビゲーションシステム(An Augmented Reality Surgical Navigation system Based on a Camera Mounted on a Pointing Device (「カメラプローブ」(Camera Probe))」という発明の名称で、2005年7月1日に出願された共係属中の出願された米国実用新案出願第11/172,729号を引用によって援用する。
【技術分野】
【0002】
本発明は、3次元(「3D」)データセットのインタラクティブな可視化に関する。特に、ネットワーク上で種々のプラットフォームを用いる、1以上の3Dデータセットの協同的なインタラクティブな可視化に関する。
【0003】
発明の背景
従来、3Dデータセットの3次元可視化は、所与の3Dデータセットを、専用のワークステーションまたはコンピュータに投入する(または、複数の2Dイメージの1つを作成する)ことによって行われている。一般的には、1人のユーザが、一台の専用のワークステーション上で、インタラクティブに3Dデータセットを可視化する。これは例えば、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデキストロスコープ(Dextroscope)(登録商標)によって行うことができる。デキストロスコープ(Dextroscope)(登録商標)は、ボリュームを立体的に表示することが可能であり、ユーザが3Dを完全に制御することが可能なハイエンド、ツルーインタラクティブ可視化システムである。さらにボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデックス―レイ(DEX-Ray)(登録商標)システムは、コレジスタされた3Dスキャンデータとリアルタイムビデオを組み合わせた専用の3Dインタラクティブ可視化システムである。デックス―レイ(DEX-Ray)(登録商標)は、術前のスキャンデータから区分化されたバーチャルオブジェクトとリアルタイムビデオを組み合わせて複合画像とすることによって、ユーザ(一般的には外科医)が実際の手術の現場で「後ろを見る」ことを可能にする。しかしながら、従来、同程度にハイエンドのデキストロスコープ(Dextroscope)(登録商標)またはデックス―レイ(DEX-Ray)(登録商標)といった3Dインタラクティブ可視化システムを用いた場合、たとえ複数の表示システムがあり、多くの人がそれらの表示を実際のユーザの近くに立つことによって見ることができたとしても、可視化をコントロールできる(コントロール可能である)のは一度に1人のユーザだけである。したがって、そのようなシステムにおいては、制御を行う人以外は、試験中の3Dデータセットの操作に真の参加または協同しているとは言えない。
【0004】
例えば、デックス―レイ(DEX-Ray)(登録商標)は、脳神経外科の処置などの複雑な手術の計画に使用することができる。そのような手術計画においては、上で引用したカメラプローブ(Camera Probe)に記載するように、神経外科医と彼のチームは、手術前スキャンデータと、このデータの区分化された関心オブジェクトを取得し、手術中に使用すべきアプローチなどのプランニングデータを追加することができる。さらに、カメラプローブ(Camera Probe)にさらに記載されているように、所与の3Dデータセット中の様々なポイントを「マーカー」として使用することができる。そのようなマーカーからのプローブをもつユーザの手の先端の位置が、手術中ずっとトラッキングされ、そして連続的に読み出される(可視化された、または聴覚化された手がかりを介して)。
【0005】
さらに、手術を行いながら、手術部位から3D入力をすることが望ましいことが多い。そのようなシナリオでは、例えば、トラッキングボールを付着することによって、1以上の手術機器をトラッキングすることができ、外科医と患者の間の相互作用を、真実に近づけてよりよく可視化することができる。こうして、カメラプローブ(Camera Probe)に記載されているように、一旦手術が始まると、リアルタイムデータとバーチャルオブジェクトの組み合わせ画像を作成し、可視化することができる。しかしながら、外科医は、表示されたバーチャルオブジェクトを、手術しながら動的に適応させる(マーカーとして指定されたポイントを変化させることを含む)ことができないのが通常である。手術しながら、可視化を最適化することに集中する時間があまりなく、したがって、3D可視化システムの能力を完全に利用することができないためである。
【0006】
デックス―レイ(DEX-Ray)(登録商標)タイプのシステムを使用することで、例えば、腫瘍近くの重要な神経または腫瘍自身などのような少量の関心バーチャルオブジェクトを、外科手術の前に指定することができ、これらのオブジェクトを外科手術中に表示することができる。マーカーポイントについても同じことが言える。上記したように、カメラプローブ(Camera Probe)は、所定数のマーカーポイントをどのように指定することができるか、また、プローブの先端からオブジェクトまでの動的な距離を処置の間どのようにトラッキングすることができるかについて記載している。理論的には、外科医は、処置しながら、マーカーポイントを適応することができるが、これも一般的には行われない。実際の処置は手術にかかりきりになり、進行中、拡張現実感パラメータを最適化するための時間はあまりないからである。
【0007】
処置しながら、外科医が一般的にバーチャルデータと対話できない理由は他にもある。第1に、大半のナビゲーションシステムのインターフェースは、そのような生の相互作用を非常に複雑なものにしている。第2に、ナビゲーションシステムのインターフェースは無菌でなく、したがって外科医は、ナースや技師に指示することによって調整を行わなければならないことになるだろうからである。デックス―レイ(DEX-Ray)(登録商標)においては、空中でプローブを動かすだけで可視化を修正することが可能(カメラプローブ(Camera Probe)に記載されているように)であり、したがって、外科医は、無菌状態を維持しながら、表示パラメータを直接修正することができるが、手術中、可視化の環境を修正する必要がなければより都合がよい。いずれにしても、専門家が外科医を可視化によって援助をすることができるようになることが最良であろう。
【0008】
同様に、例えば、手術の援助、ガイダンス、またはプランニングのためのデキストロスコープ(Dextroscope)(登録商標)などの標準的な3Dインタラクティブ可視化システムを用いた場合も、1つの場所にいるすべての関係者が協力することは困難であることが多い。例えば、外科医は、脳構造を共有しているシャム双生児の分離手術のような、完全に事前計画を立てることが困難な複雑な手術を行うことがある。そのような処置においては、実際の(長い)手術中に、術前のスキャンを連続的に参照し、実際に脳が露出している状態で映し出されるものに依存するチームのメンバー、または他の専門医に相談する必要があることがほとんどである。術前のスキャンデータのインタラクティブな3D可視化はそれを分析するための最もよい方法である一方、関連者のすべてが同一の物理的位置にいる場合でも、手術チームがそのようなシステムの表示の周りに集まることは困難である。さらに、症例が複雑であるほど、チームのメンバーがいるかもしれない地理的位置が離れていることが多く、データの可視化の利益を使って術前に相談することが困難なことが多い。
【0009】
最後に、離れた場所にいる二当事者がインタラクティブ3Dデータセット可視化システムを用いて、またはそれを用いた技術を用いて議論するとき、例えば、一方の当事者がその使用について他方に指示を出す場合、双方が同時に3Dデータセットおよび他方の操作を見ることができることが必要である。
【0010】
当業において必要なことは、遠隔の参加者に、そこに実際に存在するかのように操作させて、3Dインタラクティブ可視化システム中の3Dデータセット上で同時に手術させることである。
【発明の開示】
【課題を解決するための手段】
【0011】
発明の概略
物理的に離れた場所にいる多数の人が協同して、ほぼ同時にインタラクティブに3Dデータセットを可視化するシステムと方法の例を提供する。本発明の実施態様において、例えば、データネットワークを介して接続されているメインワークステーションと1以上のリモートワークステーションが存在することができる。所与のメインワークステーションは、例えば、拡張現実感外科手術用ナビゲーションシステム、または3D可視化システムであることができ、各ワークステーションは、配置された同じ3Dデータセットを持つことができる。さらに、所与のワークステーションは、例えば、リアルタイムのビデオ、もしくはあらかじめ記録されているビデオ、または、管理された3D超音波可視化システムが提供されるような情報などの既に取得している3Dデータと、リアルタイムの画像を組み合わせることができる。リモートワークステーションにいるユーザは、例えば、外科手術のナビゲーションもしくは蛍光透視法などの所与の診断的または治療的処置を行うことができ、または、共有して格納されている3Dデータセットを用いてレクチャーが行われているメインワークステーションにいる別のユーザからの指示を受けることができる。メインワークステーションにいる1人のユーザは、例えば、各リモートユーザによって使用されているバーチャルツールを見ることができ、各リモートユーザは、例えば、メインユーザのバーチャルツールとそれがリモートワークステーションのデータセットに及ぼすそれぞれの効果を見ることができる。例えば、リモートワークステーションは、各地の機械のバーチャルコントロールパネルを介してリモートワークステーションの3Dデータセット上でのメインワークステーションのバーチャルツールを、前記バーチャルツールがリモートワークステーションのそれと関連するプローブであるかのように、同じように表示することができる。本発明の実施態様において、各ユーザのバーチャルツールは、それらのIPアドレス、異なる色、および/または、他の区別するための表示によって表現することができる。本発明の実施態様において、データネットワークは、低または高帯域のいずれかとすることができる。低帯域の実施態様においては、3Dデータセットは、各ユーザのワークステーションにあらかじめ載せることができ、メインユーザのバーチャルツールおよびデータの操作のみをネットワーク上に送信することができる。高帯域の実施態様においては、例えば、リアルタイムの画像、例えば、ビデオ、超音波もしくは蛍光透視画像も同様にネットワーク上に送信することができる。
【発明の効果】
【0012】
発明の詳細な説明
I.概要
本発明の実施態様において、種々のタイプの3Dインタラクティブ可視化システムをデータネットワーク上に接続することができ、それによって、互いに離れたところにいる人どうしが同じ3Dデータセットを、様々な目的のためにほぼ同時に操作することができる。本発明の実施態様において、二人以上の人が互いに離れた位置にいながら、それぞれがワークステーション上に置かれた所与の3Dデータセット所有することができる。通常、そのような実施態様は、「メインユーザ」と1以上の「リモートユーザ」を考慮している。関係者は、例えば、手術の計画プロジェクト、例えば、シャム双生児の分離手術を行う医師のチームの協力者であることができる。または彼らは、ティーチャーもしくは講師や、スチューデントもしくは聴講者のグループであることができる。さらに、例えば、関係者には、(i)ナビゲーションシステム(例えば、デックス―レイ(DEX-Ray)(登録商標)システム)、もしくは他の診断もしくは治療システム(例えば、カスラボマシーン(Cathlab machine)、管理された超音波システムなど)を用いて、患者に対して手術を施す、または診断もしくは治療的処置を行う外科医もしくは臨床医、ならびに(ii)外科医もしくは臨床医のように治療もしくは手術室といった物理的制限を受けずに、いくつかの遠隔地からの関連する3Dデータセット中のバーチャルオブジェクトを動的に修正し、可視化を行う可視化の専門家を含むことができる。または、当該関係者には、様々な教育的、職業的、レビュー、もしくはカスタマーサポートのコンテクストにおけるティーチャーと1以上のスチューデントを含むことができる。以下では、本発明は、種々の可能なパラダイムの使用、または使用例を記載するが、本発明はそのような使用例に限定されるものではない。本発明の機能は、3Dデータセットの洗練された可視化における種々のタイプの研究や協同が望ましい、またはそれが有用である、広範な応用に適用可能であると理解できる。
【発明を実施するための最良の形態】
【0013】
説明を容易にするために、本発明の種々の実施態様では、時々「デキストロネット(DextroNet)」に言及する。これは、そのような種々の実施態様に関連する、譲受人によって使用されている考慮された登録商標である。
【0014】
A.デキストロスコープ(Dextroscope)(登録商標)−デキストロスコープ(Dextroscope)(登録商標)型相互作用
本発明の実施態様において、例えば、遠隔カスタマートレーニングもしくはテクニカルサポート、または、3Dインタラクティブ可視化システムの製造元とその顧客の間の遠隔相談のために、デキストロネット(DextroNet)を使用することができる。例えば、デキストロネット(DextroNet)は、3Dインタラクティブ可視化システムの製造者が使用して、遠隔オンデマンドテクニカルサービスをその顧客に提供することができる。そのような使用においては、例えば、そのような製造者によって提供された所与の3Dインタラクティブ可視化システムの使用に関して質問のある顧客は、常時トレーニングセンターに接続することができる。一度接続すれば、遠隔のトレーニング技術者が、例えば、顧客に所与のツール、例えば、デキストロスコープ(Dextroscope)(登録商標)上で輪郭線エディター(Contour Editor)をどのようにして使用すればよいのかを示すことができる。顧客が自分のデータセットのすべてを送信することを必要とせずに(患者の潜在的極秘事項に関する流出と、そういったデータを送信する時間の無駄を避ける)、そのようなトレーニングの一例は、遠隔トレーニングセッションの開始時に両当事者が持っている標準的なデータセットを用いて行うことができる。
【0015】
デキストロネット(DextroNet)の使用を進めている、顧客に提供され得る別のサービスには、例えば、オフラインで顧客のために患者データを準備する(区分化する)ものがある。例えば、医療分野において、顧客は、関連する1以上の患者もしくは症例に関連するデータをftpで使用し、「放射線医学サービス」部門は、それを区分化し、顧客に返送することができる。そのようなサービスについて、本発明のある実施態様においては、行われたことについてのオンラインのデモンストレーション、または、顧客が取り扱う実際の患者データに関する遠隔トレーニングさえ、提供することができるであろう。
【0016】
本発明の実施態様において、遠隔相談を提供することもできる。そのような実施態様においては、例えば、外科医と放射線専門医、画像診断の技師、顧問医師などの専門家のチームが、症例、その症例において採用すべき、さまざまな実行可能な外科手術的アプローチ、および類似の問題点について、すべて遠隔でデキストロネット(DextroNet)上で議論することができる。例えば、放射線専門医は、彼の見解、脳神経血管外科医としての見解を提供することができ、脳顔面頭蓋の専門家は、すべてを考慮しながら、別の見解を提供することができ、そして当該症例のデータをスキャニングすることによって作成された所与の3Dデータセット中の種々のボリュームオブジェクトを仮想的に「ポインティングする」。
【0017】
B.デキストロスコープ(Dextroscope)(登録商標)−デックス―レイ(DEX-Ray)(登録商標)型相互作用
カメラプローブ(Camera Probe)に記載しているように、デックス―レイ(DEX-Ray)(登録商標)システムは、外科手術のナビゲーション装置として使用することができる。そのような装置は、デキストロネット(DextroNet)上で標準的なインタラクティブ3D表示システムに接続することができる。したがって、本発明の実施態様において、3Dデータ操作が可能であることは、「アウトソーシング」ができるということであり、外科医の無菌の現場によって課された制限を排除できるということである。例えば、外科医がデックス―レイ(DEX-Ray)(登録商標)型プローブを患者の頭蓋骨中に有しているとき、彼は、ベース コンピュータの近くにいる誰かに指示を出さないかぎり、一般的にナビゲーションシステムのインターフェースを制御することが不可能である。もちろんこのことは、望ましいことではない。そのようなコンピュータは、通常、完全に画像/音声をレンダリングすることに占有されているからである。
【0018】
患者の頭蓋骨内のプローブを用いて、外科医は患者の脳の中の自分の方向を見つけようとする(すなわち、異なる領域を指示し、いまだ切断していない組織を超えてポイントすることはできない)ので、外科医は、プローブの位置を大きく変更することなく、他の画像モダリティー、他の区分化された構造(腫瘍、血管、神経(例えば、拡散テンソルイメージングなどを介して)を調べる助けが必要となるであろう。そのようなシナリオで、外科医は、プローブを使って指し示すことができ、また、話したり、聞いたりすることができるが、頭蓋骨に出入りすることができないことがしばしばある。この状況では、異なる可視化を提供する別の外科医(もしくは専門技術をもつアシスタント)の援助があれば有用であろう。そのような異なる可視化は、例えば、どの血管が最も近くにあり、どの神経が腫瘍の周りにあるかといったことを示すものである。そのような「可視化アシスタント」は、外科医のナビゲーションシステムと、デキストロネット(DextroNet)を介して接続することができる。
【0019】
C.デキストロスコープ(Dextroscope)(登録商標)−カスラボ(Cathlab)(登録商標)型相互作用
別法として、本発明の実施態様において、デックス―レイ(DEX-Ray)(登録商標)―デキストロスコープ(Dextroscope)(登録商標)相互作用と類似のパラダイムは、例えば、X線蛍光透視法表示の形態で、オンラインの情報を用いることができる。ここで遠隔援助は、例えば、同じ個体の以前のスキャンから作成されたリアルタイムのX線画像(2D透視図)と3D画像(例えば、心臓のCTもしくはMRスキャンからのもの)の間のコレジストレーションを正確に調節するのを助ける。血管は、X線では見えないので、インターベンション心臓病専門医は、造影剤を注入して血管を数秒間不透明して観察せざるを得ない。造影剤の注入は、腎臓に問題のある患者には指示されない、また、どんな症例においても、患者のためには、造影剤は、(健康面からも、医療費の面からも)最小限にとどめるべきである。したがって、可視化アシスタントは、患者のX線画像を、例えば、術前のCTと同期させるために、数秒間の造影剤の流れを利用することができる。この情報は、拡張バーチャルオブジェクトとして、X線画像上に提示することができる。例えば、それは、X線画像の隣の別のモニターに表示することができる。例えば、心臓は、X線画像上で拍動することができ、CTもそれに合わせて拍動することができる。または、心臓病専門医がカテーテルを有している正しい血管を追跡するのをガイドする際に、単に凍結の瞬間を示すこともできる。
【0020】
本発明の実施態様において、一人だけが3Dデータに影響を及ぼす相互作用をコントロールし(「メインユーザ」)、デキストロネット(DextroNet)上で接続している他の関係者(「リモートユーザ」)はこれらの作用を見ることができるが、データそのもの、もっと正確に言えばデータに関する彼らの見解を変えることはできないと想定される。さらに、そのような実施形態においては、デキストロネット(DextroNet)は、例えば、メインユーザの3D相互作用の詳細のみをネットワーク上に送信する。そして、その後、各リモートワークステーションまたはシステムにおいて対話させる。これは、1人のユーザが、彼の相互作用に関するデータをリモートサーバに送信していた従来のシステムとは対照的なものである。そして当該リモートサーバはその後、コンピュータ処理を行い、リモートビューアに、3Dデータの最終的な画像を作成する、ステップや操作の順序を指示することなく、最終的なコンピュータ処理画像を返信する。
【0021】
例えば、SGI's Vizサーバ(登録商標)のような従来の解決法は、一方向のネットワークのみを提供する。本発明の実施態様において、デキストロネット(DextroNet)は、多方向ネットワークである。SGI's Vizサーバ(登録商標)などのアプローチは、1人のユーザのみが最終的な投影図を所与の3Dシーンから要求するといった想定に頼っている。ちょうど1つの投影図(もしくは、例えば、ステレオのための一対の投影図)が必要である場合、リモートコンピュータは、画像を計算(レンダリング)し、得られたピクセルをクライアントに送信する。そしてそのクライアントは、局所でレンダリングすることによって得るものとは区別ができない画像を見ることになる。ユーザは、カーソルを動かして、例えば、回転操作を行い、指令をリモートサーバに送信し、3Dモデルが回転することができるようになる。当該モデルは、再びレンダリングすることができ、画像は、クライアントが見るように送信することができる。しかしながら、そのような従来のアプローチは、他のユーザにそれら自身の3D相互作用装置(そのようなスタイラス、プローブなど)を3Dモデルに介入させない。なぜなら、スタイラスに関するモデルについての深さ情報が存在しないからである。それはまた、クライアントに分離可能な視点を作成させない(以下に示す)。入手可能なものは、1人のユーザの視点からのピクセルだけだからである。
【0022】
さらに、そのようなアプローチでは、最終的なレンダリングを得るために、どのようなステップが取られているかをリモートユーザに対して正確に示すことができない。もし彼が、そのようなインタラクティブな指令順序を実際に学びたいと関心を持っても、それをすることができない。対照的に、本発明の実施態様において、3Dモデルが、各ワークステーション(例えば、ティーチャーおよびスチューデント、または、例えば、可視化アシスタントと外科医、または、例えば、可視化アシスタントと実際の患者に処置を施す他の診断医または治療専門家などのステーション)において入手可能であり、その後、モデルの3Dを、それぞれステーションを有しているユーザの3Dと組み合わせることができ(すなわち、ツールや他のオブジェクト)、そのそれぞれをレンダリングすることができる。
【0023】
データに対して遠隔から影響を及ぼすために、本発明の実施態様において、メインユーザのスタイラスの3D相互作用を、例えばリモートユーザの(リモート)バーチャルコントロールパネルと対話させるように、配置することができる。ことができる。そのような実施形態において、そのようなコントロールパネルの相互作用は、リモート機上でシステム指令に、例えば、「切断ボタンを押す」または「ズームスライダーを2.0にスライドさせる」のように翻訳される必要はない。むしろ、そのような実施態様においては、所与のメインユーザの操作は、リモートユーザの世界、例えば、リモートユーザ機の上に、操作されたメインユーザのツールの結果として、リモートユーザ機の上にメインユーザのツールを表示させることによって、現れるかもしれない。リモートユーザ側では、メインユーザのルールは、リモートユーザのバーチャルコントロールパネル上のボタンの上方の位置に現れ、その状態は、例えば、「起動動作」(ツールの4つの例示的な動作の1つ)であり、その後ボタンが押される。特別な指令は必要とされない。このように、リモートツールは、メインユーザもしくはリモートユーザの側でのローカルツールと同じ趣旨で作用することができる。したがって、メインユーザの機械の側(または、従来のVizサーバ(登録商標)アプローチを用いて)で示唆される余分なシステム指令を用いて操作に影響を及ぼす場合と比較して、これはよりシームレスな統合に到達することが可能である。システムレベルの指令を用いない別の理由は、リモートユーザの側の不連続な画面を避けるためである。例えば、もし、リモートユーザの側のバーチャルコントロールパネルとのスタイラス相互作用が連続的でなかったら、ツールは、依然としてシステム指令を介して機能することができたとしても、リモートユーザは、機能もしくは操作「B」が起こっている間、ボタン「A」の上にツールがあるかどうかについて混乱する。もし、ツールの位置の表示を、上記のように同期させることができれば、余分のシステム指令は必要でなく、ツール自身で行うことができるであろう。
【0024】
バーチャルコントロールパネルの目盛りは、異なるプラットフォームのユーザ間で変化し得ることがわかる。これは、例示したデキストロネット(DextroNet)を介して接続される種々の3D可視化システムのハードウェアおよびソフトウェアの構成が存在し得るためである。例えば、この譲受人であるボリュームインタラクション社(Volume Interactions Pte Ltd)によって提供される種々のシステムを用いることを説明すると、デキストロビーム(DextroBeam)(登録商標)は、ミラーを備えていないため、「反射された」目盛りを持たない。一方、デキストロラップ(DextroLAP)(登録商標)システムは、マウスを使用し、3Dトラッカーを使用しない。したがって、本発明の実施態様において、メインユーザの3D目盛りは、すべての接続されたリモートユーザに送信することができる。該リモートユーザは、一般に、異なる構造およびモデルの、種々の3Dインタラクティブ可視化システムプラットフォームを介して接続されている。そのような目盛り送信は、例えば、リモートユーザの側で正しいボタンを正しい時間に押すことによってメインユーザによって行われる3D相互作用を保障する。したがって、デキストロネット(DextroNet)と接続すると、プロトコルは、例えば、リモートユーザ側のコントロールパネルを、(位置、方向、大きさなどに関して)メインユーザ側のものと同一にする。その結果、コントロールパネル上でのメインユーザの操作が、様々なリモートユーザの機械上に複製される。
【0025】
メインワークステーションがインターフェースと視点とをリモートワークステーションに同期させると、それは、以下において図55(a)と関連付けて記載するように、例えば、コントロールパネルのパラメータをリモートワークステーションに送信する。こうして、リモートワークステーションがこれらのパラメータを受け取ると、例えば、この情報を用いて、自身のコントロールパネルや局所に表示されたオブジェクトを更新する。このプロセスが完了するとすぐ、メインユーザのツールは、例えば、リモートコントロールパネルを操作するために使用される。そして、メインユーザおよびリモートユーザの最初の視点を同じにすることができる。
【0026】
本明細書においては、種々の例示的パラダイムが記載されている。言葉の節約のために、特徴は、「ティーチャー―スチューデント」パラダイムに関連付けて詳細に記したが、これは、「外科医−可視化アシスタント」パラダイムにも適用可能なものである。逆も然りであり、繰り返して説明しないことにする。「外科医−可視化アシスタント」パラダイムは、「ティーチャー―スチューデント」パラダイムと同様に機能する。後者においては、記録された、もしくはリアルタイムのビデオ、リアルタイムのイメージング(例えば、蛍光透視法、超音波、など)またはリアルタイムの機器位置情報が追加されており、それぞれ3Dデータセットにコレジスタされている。
【0027】
D.デキストロネット(DextroNet)教育(ティーチャー―スチューデント)パラダイム
本発明の実施態様において、デキストロネット(DextroNet)接続は、教育用に使用することができる。例えば、デキストロネット(DextroNet)は、スチューデントに、外科手術の処置や計画、または、例えば、3Dインタラクティブ可視化システム、例えば、デキストロスコープ(Dextroscope)(登録商標)の使用について指導するために使用することができる。さらに、例示のデキストロネット(DextroNet)は、解剖学の指導に用いることができる。例えば、そのような遂行は、スチューデントたちに、人体の特定の複雑な解剖学の領域を習熟させるために使用することができる。さらに、例示のデキストロネット(DextroNet)は、例えば、 病理学の指導のために使用することもでき、したがって、検死試験の補足的な指導用ツールとして使用することができる(これは、患者が術中に死亡したときや、術前プランおよびそのような患者のスキャンデータが入手可能であるには特に有用かもしれない)。
【0028】
本発明の実施態様において、デキストロスコープ(Dextroscope)(登録商標)、デキストロビーム(DextroBeam)(登録商標)、もしくはデックス―レイ(DEX-Ray)(登録商標)システム、またはそれらの均等物を熟知したインストラクター(例えば、医師、外科医、もしくは他の専門家であってもよい)は、例えば、少なくとも一人の遠隔に所在するスチューデントに対して、デキストロネット(DextroNet)を介して指導を行う。スチューデントは、インストラクターと同じ視点の相手役となる3Dモデルをを持つことができる。または、例えば、異なる視点を持つことができる。例えば、スチューデントは、インストラクターの視点を持つ1つのディスプレイ(またはディスプレイウィンドウ)を持っていてもよいし、異なる視点を持つ別のディスプレイ(またはディスプレイウィンドウ)を持っていてもよい。別法として、例えば、スチューデントまたはインストラクターは、 異なる視点間を切り換えることもできるだろう。これは、例えば、1つの画像がリモート視点であり、他方がローカル所画像である画像中画像を持っているようなものであり、ビデオ会議の行われる方法に類似している。そのような実施態様においては、双方の画像は、ローカルワークステーションに作成される(一方はローカルパラメータをもち、他方はリモートパラメータをもつ)。または、例えば、リモート画像は、遠隔にレンダリングされ、Vizサーバ(登録商標)アプローチと類似した方法(最後のピクセルのみ送信し、相互作用は送信しない)で送信される。したがって、所与のユーザは、リモートユーザが見ているものと全く同じものを見ることができる。「あなたは、私が見ているものを見ていますか?」といった疑いをもつことはない。
【0029】
説明を簡易にするため、そのような教育的態様における関係者を「ティーチャー」もしくは「インストラクター」(メインユーザ)および「スチューデント」(リモートユーザ)と称する。次に、ティーチャー―スチューデントパラダイムの例を図1および3を用いて説明する。
【0030】
本発明の実施態様において、ティーチャーは、例えば、スチューデントのリアルタイムのビュー画像を見ることはできないが、ティーチャーのワールド内に表示されているスチューデントのツールのポインタの方向によって、スチューデントが見ているもの(スチューデントの関心領域を示唆し得るものである)を知ることができる。リモートスタイラスの見かけからリモートステーションの視点を正確に「知る」ことができないときには、周知もしくは想定される事実、例えば、右側の人によってスタイラスが使用されている。それを使って前方向に指し示しているといったことなどから推量することができる。
【0031】
そのような例示のシナリオは、ティーチャーが複数のスチューデントに教えることができるように設計されている。したがって、ティーチャーは、スチューデントがボイスや他のシグナルで質問をしてこない限り邪魔されることはない。その後、そのような質問のあるスチューデントの要望に基づいて、例示のティーチャーは、例えば、所与のオブジェクトを回転させ、容易に彼の視点をスチューデントの視点に並べることができる。彼はスチューデントがどのようにしてスチューデントのツールの方向からオブジェクトを見ているかについて実質的に明らかにすることができるからである。別法として、ティーチャーおよびスチューデントは、彼らの役割を逆転させることができる。これは、本発明の実施態様においては、例えば、以下に記載するように(「役割切り換え」(Role Switch))、2〜3のボタンをクリックすることによって、容易に実現することができる。記載しているように、本発明の実施態様において、ティーチャー―スチューデントパラダイムにおいては、スチューデントは、例えば、特定のオブジェクトに所属するボクセルもしくは複数の3D画像を変更しないいくつかの操作を除いては、オブジェクトを局所的に操作することはできない。そのような操作には、例えば、オブジェクトに対する翻訳、回転および/もしくはポインティング、またはオブジェクトのズーミング(倍率の変更)がある。これは通常、指示または複数の指示が、3Dデータセットと衝突するのを防ぐ。
【0032】
一般に、リモートユーザ(例えば、ティーチャーとして行動しない、スチューデント、外科医、または可視化アシスタント)が実行できるローカルコントロールは、しばしば限定することができる。なぜなら、上記したように、一般的に、ティーチャーの(または可視化アシスタントの)データセットの操作は、各スチューデントの(または外科医の)機械に局所的に実行されるからである。すなわち、メインユーザの相互作用は、ネットワークを介して送信され、局所的に実行される。メインユーザはこのように、リモートユーザの(ローカル)機械のコントロールを有している。このような実施態様において、もしスチューデントが、ティーチャーの処理が最早意味をなさないかのように彼/彼女のデータのローカルコピーを変更することができたとしたら、混乱が生じ得る。例えば、標準的なデキストロスコープ(Dextroscope)(登録商標)上で、ユーザは、3Dデータセット中のオブジェクトの区分化の完全なコントロールを有している。例えば、その区分化は、オブジェクトの色彩自動照合表を変更することによって、変更することができる。あるいは、区分化だけをそのままにすることもできるし、既に区分化されているオブジェクトと関連する色や透明性をただ変えることもできる。後者の操作は、オブジェクトのもともとのコンテンツを変更しないが、その可視化パラメータを変更することはできる。
【0033】
さらに、一般に、操作対象のオブジェクトの大きさについてのいくつかの想定に基づいて作動するデキストロスコープ(Dextroscope)(登録商標)型システム内ならびにインタラクティブ3Dデータセット可視化システム内には、多くのツールおよび操作が存在する。例えば、ツールの先端からオブジェクトの最も近い表面に光線を当てることによって作動するポインティングツールがある。ローカルユーザがオブジェクトの区分化を変更したために、オブジェクトの最も近い表面がそのようなポインティングツールに近づいたり、または、そのようなポインティングツールから離れたりすれば、ティーチャーが彼のポインティングツールを持ち上げ、オブジェクトを指し示したとき、スチューデントの画面上で、そのようなポインティングツールは、全く異なるオブジェクトにタッチするかもしれない。実際、スチューデント機では、ティーチャー機の上にあるものを通って、正しく進み、オブジェクトの表面へ行くことができる。一般に、ドリリングツール、ピッキングツール、輪郭線抽出ツール、イソ表面作成ツール、および種々の他のツールは同様に、それらが操作しているオブジェクトの大きさに依存している。したがって、記載したように、本発明の実施態様において、スチューデントのローカルコントロールパネルは、ティーチャーのコントロール下にある。そのような実施態様において、スチューデントができることは、ティーチャーの視点から離れ、彼が望むオブジェクトの回転、翻訳、拡大(ズーム)、または色もしくは透明性(大きさではない)を調節することだけである。したがって、ティーチャーと各オブジェクトの間の関係は保存される。どのくらい多くのコントロールがスチューデントに及ぶのかといった問題が常に生じる。本発明の実施態様において、その問題は、一般に、実際のデータセットを変更しないあらゆる局所の行動を可能にすることによって、解決することができる。
【0034】
それにもかかわらず、本発明の実施態様において、ローカルユーザに、彼のローカルデータに対して「真に」影響を与えないが、むしろ後にその影響が表示され、一方、メインユーザの操作は、「ゴースト化」されたように表示される、データのローカルコピー上で作動する特定の操作をさせるようにすることで、複雑さが増すことがあり得る。
【0035】
例えば、ティーチャーは、1以上のスチューデントに対して、種々のツールを用いた3Dデータセット間のオブジェクト間の種々の測定方法を説明していることもある。当該ティーチャーは、測定を行うことができ、それらは、スチューデントに見られるであろう。しかしながら、ティーチャーは、スチューデントが類似の測定を行うことができる能力をテストすることを望み、スチューデントに、教わったばかりのことを適用し、ティーチャーがまだ行っていない追加の測定を行うように求める場合もある。
【0036】
スチューデントは、例えば、それらの測定を行い、例えば、彼の機械上に表示することができる。その後、ティーチャーは、例えば、スチューデントの機械のスナップショットを撮影し、スチューデントの技量を評価する。同様に、スチューデントは、「真の」データセットおよび、「ゴースト化」されたようにではなく、ティーチャーによるその「真の」操作が示され得る、彼のディスプレイに表示され得るデータセットを操作することができる。このように、ティーチャーの操作のすべてが、スチューデントの機械に表示されるように、オブジェクトのゴースト化された境界上で作用する。そして、スチューデントの局所操作は、切れ目のない状態で、機械上の必要な範囲で(すなわち、3Dデータセットに影響を及ぼすであろう程度に) 作用する。したがって、多大な複雑さと更なるローカルプロセシングといった犠牲の上で、スチューデントは、例えば、上記の翻訳、回転、ポインティング、および/または拡大など以外の操作を行うことが許されている。
【0037】
尚、上記実施態様は、スチューデントが「増強した」分離モードに入る際には、彼が、データセット全体(3Dオブジェクトならびにコントロールパネルを含む)のコピーを作成することを要求している。この条件下では、スチューデントは、例えば、ローカル(コピー)データセット上で操作し、一方、ティーチャーは、リモートユーザまたはスチューデント機にゴースト化された状態で示されているオリジナルのデータセット上で操作することができる。こうして、2つの独立した画像処理プロセスは、例えば、同じ(スチューデントの)ワークステーション上で平行して作用することができる。もし、ティーチャーが、スチューデントによって開発された新しいアプローチを見たい場合、ティーチャーは、スチューデントの画像のスナップショットを撮影し、それについて両者で議論することができる。
【0038】
本発明の実施態様において、ティーチャーの役割をこのように関係者から関係者に渡す役割切り換えを用いると、スチューデントは、ティーチャーからコントロールを引き継ぐ。彼は、例えば、操作または他の処置をどのようにして行うかを実証することによって、ティーチャーのオブジェクトのワークを引き続いて行い、彼の意見を提供する。これによって、すべての関係者による協同が可能になる。そのような実施態様においては、所与の時間には、ネットワーク上にティーチャーが一人存在し、そのような協同は、対立の問題を生じることなく連続的に行われる。
【0039】
本発明の実施態様において、デキストロネット(DextroNet)は、異なる帯域幅の種々のネットワークによってサポートされている。ある実施態様において、デキストロネット(DextroNet)が教育的指導のために用いられる場合、例えば、低速ネットワークが行われる。例示のデキストロネット(DextroNet)を介して 接続されている3Dインタラクティブ可視化システムのそれぞれは、例えば、手術計画、手術の処置、または解剖学的構造のイメージングおよびビデオデータのコピーをもつことができる。したがって、典型的にはサイズの小さいトラッキングデータ、制御信号またはグラフィカルもしくは画像パラメータデータは、ネットワークを介して送信することができる。一般的には、デキストロネット(DextroNet)中では、ネットワーク情報は、例えば、メッセージおよびファイルの2つに分類することができる。メッセージは、例えば、トラッキングデータ、制御信号などを含むことができる。ファイルは、例えば、送信前に圧縮することが可能なグラフィカルおよび画像データを含むことができる。これを以下においてより詳細に説明する。
【0040】
記載したように、本発明の実施態様において、1人のユーザによって導入された行動は、少なくとも他の1人のユーザ(スチューデントもしくは ティーチャー)のリモートロケーションに送信することができる。そこでは、第2のワークステーションが局所的に対応する画像を計算する。ネットワークで結ばれた関係者間のボイスによる通信は、帯域外とすることができる。例えば、低速ネットワーク態様においては電話で、または、例えば、高速ネットワーク態様においては、ボイス−オーバー−ネットワークシステム、例えば、ボイス−オーバーインターネットプロトコル(「VoIP」)を介して行われる。さらに、高速ネットワークは、カメラプローブ(Camera Probe)出願に記載されているようにカメラプローブ(Camera Probe)によって作成されるモノ−もしくはステレオビデオ情報の転送を収容することができる。このビデオ情報は、例えば、コンピュータが作成する画像と組み合わせることができる。または、分離したディスプレイもしくは ディスプレイウインドウで見ることができるようにしてもよい。3Dではないビデオ(または画像、スナップショット)の表示は、通常、「背景」としてのみ見られる。これは、画像またはビデオ(連続的な画像)は、実世界の投影図であって、3D情報を含まないからである。したがって、そのような画像またはビデオにおいて視覚可能なオブジェクトは、正確に3Dオブジェクト前部に位置づけることができる。そのような表示の可能性についてより詳細に下記において説明する。
【0041】
本発明の実施態様において、デキストロネット(DextroNet)は、例えば、ワーキングを協同して、および独立してサポートすることができる。例示のシステムは、例えば、手術計画のためのスタンドアロンプラットフォームおよび独立したトレーニングとして使用することができる。そのような実施態様において、例えば、システム構成は、局所的に最適化することができる。スチューデントのシステムのインターフェースの位置や方向は、したがって、インストラクターのシステムのものと異ならせることができる。しかしながら、もしネットワーキング機能が起動すれば、スチューデントのシステムは、例えば、インストラクターのシステムのそれと合わせるよう、システム構成を変更することができる。これによって同等のシステム間に存在し得るミスマッチを避けることができる。
【0042】
E.デキストロネット(DextroNet)外科医−可視化アシスタントパラダイム
本発明の別の実施態様において、インストラクター は、例えば、遠隔に所在する少なくとも一人のスチューデントを教えることができる。そして、「可視化アシスタント」は、画像を操作し、そのようなアシスタントが見るものを見るために必要なステップを助言することによって、あるいは、彼の視点のすべてを見ることができるように周期的に転送するティーチャーの役割によって、インストラクターを援助することができる。例えば、可視化アシスタントは、関心オブジェクト(例えば、カラールックテーブルもしくはオブジェクトの透明性)を強調する;関心オブジェクトを拡大(ズーム)する;方向または視点を変化させる;記録された処置のビデオ画像の再生、停止、巻き戻し、早送り、もしくは一時停止を行う; 分割されたスクリーンに異なる視点を提供する;表示するために、ビデオ画像とコンピュータ生成画像とを組み合わせる;モノおよびステレオ画像の表示の間でトグルを行う(それらがビデオ画像であるか、コンピュータ生成画像であるか);ならびに、他の関連する操作およびプレゼンテーションタスクを行うために画像を処理することができる。インストラクターおよびスチューデントに加えて、可視化アシスタントを関与させることによって、インストラクターは、例えば、スチューデントを教えることに集中し、正確に言えば、画像の処理に注意を集中させる。さらに、アシスタントがシステムコントロールを渡し、それによってティーチャーとなったとき、3Dインタラクティブ画像システムを熟知していないかもしれないスチューデントは、彼らが必要とするかもしれない視点や情報を取得する際に助けてもらうことができる。
【0043】
本発明の実施態様において、外科医または内科医および「可視化アシスタント」は、実際の手術中、または他の医療処置の間、デキストロネット(DextroNet)上で協同することができる。そのような実施態様において、通常、当該可視化アシスタントはメインユーザとして、内科医はリモートユーザとして行動する。外科医または内科医は、手術室または治療室で、例えば、手術を行ったり、いくつかの医学的、診断的、または治療的処置を患者に施したりすることができる。そして、可視化アシスタントは、例えば、外科手術部、外科手術上のギャラリー、隣接した部屋、または異なる場所すべてといった、離れたところに居る。これは、外科医−アシスタントパラダイムとして、以下に詳細に、図4乃至8を用いて説明する。
【0044】
可視化アシスタントの仕事としては、例えば、手術をしている外科医と、例えば、ボイスで接触し、3D表示を外科医の最大限の援助となるように動的に操作することをあげることができる。他のリモートユーザは、観察することはできるが、例えば、リモートユーザとして、自由にデータを操作することはできないであろう。
【0045】
例えば、外科医が、脳神経外科の処置と関連付けてデックス―レイ(DEX-Ray)(登録商標)を使用する場合を想定する。そのような例示的な実行においては、彼のメインディスプレイは、カメラプローブ(Camera Probe)出願に記載されているように、カメラの視点から見ることができるデータセットのそれらの部分に限定される。しかしながら、可視化アシスタントは、視点からのバーチャルデータを自由に見ることができる。本発明の実施態様において、可視化アシスタントは、2つのディスプレイを持つことができ、外科医の視点と彼の視点の双方を見ることができる。例えば彼は、外科手術を反対の視点から見ることができる(すなわち、腫瘍または他の頭蓋内構造に固定された誰かのものと、外科医が、彼の視点に「外部」から「入ってくる」所を見ることができる。
【0046】
例えば、外科医が視神経の近くを手術しているとしよう。カメラプローブ(Camera Probe)出願に記載しているように、ユーザは、データセット中にマーカーとして、1以上のポイントをセットし、プローブの先端からそれらのマーカーまでの動的距離が連続的に読み出されるのを見る。さらに、ユーザは、1以上のトラッキングされた手術器具(ビデオ画像を取得しないであろう)を用いて同じことをすることができ、その結果、可視化の専門家は、例えば、外科医が実際に手術をしているときに入力を行うことができる。外科医が視神経近傍の位置に対する全体の表示に専念できないとき、可視化アシスタントはできる。
【0047】
こうして、例えば、可視化アシスタントは、外科医が手術を行っている領域をデジタルにズームし、外科医の近くの視神経に沿って5つのマーカーポイントを設定し、それぞれまでの距離をモニターすることができ、特定の安全限界に外科医が居るかどうかを彼に忠告する。さらに、場合によっては、可視化アシスタントによって設定された新たなマーカーおよび動的距離を、外科医のシステムディスプレイに可視化、可聴化することもできる。メインユーザである可視化アシスタントは、3Dデータセットをコントロールするからである。
【0048】
カメラプローブ(Camera Probe)に記載しているように、ユーザは、組み合わされた(拡張現実感)画像を含めた種々のバーチャル構造を特定することができる。理想的には、これは、外科手術の進行に合わせて動的に行われ、各段階において、その段階に関連する区分化を可視化することができる。しかしながら、実際には、一人で作業している外科医には、通常不可能である。外科医は、可視化の専門家でもなければ、当該システムの可能性を動的に自由に精神的に利用することもできないからである。しかしながら、可視化アシスタントはそれを行う。外科医が所与の領域に来ると、可視化アシスタントは、外科医に最良のガイドをするために構造を追加したり、取り除いたりすることができる。例えば、彼は、ある構造が外科手術前に区分化されなかったもの、例えば、術前のスキャンには現れなかった腫瘍の指状小片や繊維状のものといった脳構造の一部に関連する場合、オブジェクトをその場で区分化することができる。したがって、本発明の実施態様において、リモートビューアは、より多くの自由を持つことができ、したがって、計画前、例えば、いくつか挙げれば、カラライゼーション、透明性、区分化閾値などの間には行えなかった、あらゆる画像プロセシングを行うことができる。
【0049】
類似性を利用すれば、外科医は、競技場の情報のプレスボックスで、高い視線から鳥の目でゲームを見て、他のチームの作戦行動におけるパターンを見ながら無線でコーチに話をするアシスタント(可視化アシスタント)がいるフットボールのコーチに類似すると考えることができる。そのような専門的助言をする人は、本発明の実施態様においては、例えば、自分のスクリーンと外科医のスクリーンの両方を見て、その両方に表示されたバーチャルオブジェクトを動的にコントロールして、手術をしている外科医に対して最良の援助を行うことができる。
【0050】
II.ティーチャー―スチューデント相互作用
A.例示的プロセスフロー
次に、本発明の実施態様における、ティーチャー―スチューデントパラダイムのプロセスフローを説明する。
【0051】
図1は、本発明のある実施態様におけるティーチャー型コンソールの例を示す図である。この図を用いて説明する。101では、例示のシステムは、接続しているあらゆるスチューデントの確認をすることができる。こうして、102では、新たなスチューデントが参加したか否かを決定することができる。Yesであれば、103において、インターフェースおよびデータが、ティーチャーコンソールと、新たに参加したスチューデントのためのスチューデントのコンソールの間において同期を取ることができる。Noであれば、プロセスフローは101に戻り、当該システムは、参加するかもしれないあらゆるスチューデントの確認を行う。
【0052】
103に戻る。例えば、コンソールの3Dインターフェースのボタンを明確にクリックすることによって、新たなスチューデントがデキストロネット(DextroNet)に参加すると、ティーチャーは、例えば、当該スチューデントにメッセージを送信し、それぞれのインターフェースとオブジェクト、例えば、スライダー、ボタンなどを同期させる。そのようなメッセージには、例えば、ティーチャーのコントロールパネルの位置、方向、大きさ、コントロールパネル上のバーチャルウインドウ機器(「ウィジェット」)、例えば、ボタンの上げ下げ、色彩自動照合表の設定、データセット中のバーチャルオブジェクトの位置、方向、大きさ、あらゆる入手可能なビデオを含むことができる。あるいは、ティーチャーが、スチューデントの側のデータが自分のものとは違いすぎることを見つけた場合、ティーチャーは、自分とスチューデントのそれぞれのコンソールの間の全体のデータセットの完全な同期を選択して行うことができる。これは、例えば、ティーチャーのコンソールによって、データセットを圧縮(スナップショットや記録を除去)し、それを新たにデキストロネット(DextroNet)セッションに参加したスチューデントに転送する。一旦、ティーチャーと新たに参加したスチューデントによって共有されるインターフェースならびにデータが同期されると、それらの協同的インタラクティブな可視化のための準備が完了し、次に説明するように、プロセスフローが図1の残りの部分を含むメインループに続く。
【0053】
110において、例示のティーチャーシステムは、スチューデントビデオが受信されたかどうかを照会することができる。これは、例えば、スチューデントがデックス―レイ(DEX-Ray)(登録商標)型システムを操作すれば行われる。Yesであれば、プロセスフローは111に進むことができ、そこで、前記スチューデントのビデオがレンダリングされ、プロセスフローは125に進むことができる。Noであれば、スチューデントビデオが受信され、プロセスフローは直接125に進むことができる。さらに、ティーチャーのワークステーションがビデオを利用可能とすれば、105において読み取られ、106においてレンダリングされ、そしてプロセスフローは、120に進むことができ、そこで当該システムは、そのようなあらゆるビデオが利用可能かどうかを照会することができる。
【0054】
記載したように、120において、ティーチャーのビデオの利用可能性が決定される。Yesであれば、126においてビデオフレームを送信することができ、プロセスフローは125に進むことができる。Noであれば、プロセスフローは125に進むことができ、そこで、ティーチャー3Dデバイスが読み取られる。ここで、ティーチャーは、バーチャルツール(例えば、スタイラス、データセットにおけるティーチャーの現在位置を示すアバター、またはドリル)の位置、方向、および状態を、それによってオペレータがデータセットと対話する3次元のコントロールの動きおよび状態を連続的にトラッキングするローカルトラキングシステムから、更新することができる。例えば、結腸鏡検査法アプリケーションを行っている標準的なデキストロスコープ(Dextroscope)(登録商標)においては、そのような3Dコントロールは、例えば、スタイラスやユーザ(ここではティーチャー)が右手および左手にそれぞれ持つジョイスティックであることができる。または、例えば、デキストロスコープ(Dextroscope)(登録商標)で他のアプリケーションを行う場合、代わりにユーザは、例えば、6Dコントローラーを左手に持つ。ティーチャー側の3D装置が125において読み出されると、ネットワーク(スチューデント)3D装置を130において読み出すことができ、ティーチャーワークステーションは、例えば、スチューデントの代表的なツールの位置、方向および状態を、スチューデントのワークステーションからネットワークを介してから受信したメッセージを介して更新することができる。
【0055】
プロセスフローは、130から、例えば135に進み、そこでティーチャー側の相互作用がネットワークを介してスチューデントに送信される。ここで当該ティーチャーは、自分が使っているあらゆるツール、例えば、トリミングツール、ドリル、スライスビューアツール、など、ならびにキーボードイベントなどの位置、方向および状態をスチューデントに送信することができる。そのような位置および方向は、下記のデータフォーマットのセクションに記載したように世界座標に変換することができる。
【0056】
プロセスフローは、135から、例えば140に進むことができ、そこで、スチューデントが現在、ローカルスチューデントディスプレイにおいてティーチャーのビューに従うことを希望しているかどうかを判定する。Yesであれば、145において、当該視点は同期される。すなわち、ティーチャーは、スチューデントの視点の同期のリクエストを受信すると、当該ティーチャーは、彼のワークステーション内のバーチャルオブジェクトの位置、方向および大きさをスチューデントに送信する。Noであれば、140において、スチューデントは、したがって、彼の視点に従うことを選択する。そして、プロセスフローは150へ進み、そこで、データセットの3Dビューがレンダリングされる。こうした相互作用が進んでいるので、プロセスフローループは、150から110および120に回って戻り、そこで、例えば、デキストロネット(DextroNet)セッションが起動している限り繰り返され得る。そして、3Dデータセットの相互作用および操作は、連続的にネットワークに送信される。さらに、下記に示すように、スチューデントは、ティーチャーのものによるとは限らないが、ティーチャーの視点を見ることと、自身の(ローカル)視点を見ることの間でトグルすることができる。スチューデントの視点選択の現在の状態は、したがって、連続的にテストし、140までの各ループにおいて認識することができる。
【0057】
対応するスチューデントのコンソールでのプロセスフローを説明する前に、次に、本発明の実施態様におけるデキストロネット(DextroNet)の種々の例示的構成を図2を用いて説明する。
【0058】
図2は、デキストロネット(DextroNet)ネットワーク250とそれに接続する種々のコンソールの例を示す図である。例示の接続されている例示の装置はすべて、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)の製品または製品のプロトタイプである。例えば、デックス―レイ(DEX-Ray)(登録商標)型ワークステーション210は、デキストロネット(DextroNet)に接続することができる。上記したように、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、カメラプローブ(Camera Probe)出願に記載されている技術を行うワークステーションである。そのような技術は、例えば、脳神経外科のプランニングおよびナビゲーションを含む種々のコンテクストにおいて有用である。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションにおいては、例えば、脳の術前の3Dスキャンデータ、またはバーチャルデータ、およびリアルタイムビデオ区分化された、およびプロセシングされた組み合わせビューを作成することができる。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、ティーチャーコンソールとして機能することができ、そこでは、神経外科医が、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションを用いて、そのような組み合わせ画像を、手術プランニングを行っているとき、または外科手術を実行しているときでさえ、ネットワークで接続された他者へ示すことができる。または、より都合のよいことは、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションは、可視化アシスタントをティーチャーとして機能させ、スチューデントとして操作できることである。引き続き図2を用いて、220および230は、デキストロネット(DextroNet)に接続されたデックス―レイ(DEX-Ray)(登録商標)型ワークステーションを示す。標準的なデックス―レイ(DEX-Ray)(登録商標)型ワークステーションにおいては、3Dデータセットをインタラクティブに可視化することができるが、デックス―レイ(DEX-Ray)(登録商標)型コンソールとは異なり、一般的に生のビデオを捕捉し統合することはできない。しかしながら、標準的なデキストロスコープ(Dextroscope)(登録商標)があらかじめ記録しているビデオ3Dデータセットに統合し、例えば、神経外科手術の「ポストモーテム」分析およびレビューにおいて生じたように操作することができ、そこでは、デックス―レイ(DEX-Ray)(登録商標)が用いられる。
【0059】
デキストロビーム(DextroBeam)ワークステーション220およびデキストロスコープ(Dextroscope)(登録商標)ワークステーション230は、本質的に同じ装置で異なる特色を持つものである。それは、主にディスプレイインターフェースが異なっている。デキストロビーム(DextroBeam)は、標準的なコンピュータ ワークステーションのような接続されたディスプレイを持つ代わりに、そのディスプレイを220に示すように、例えば、壁やスクリーンに投射するためのプロジェクタを用いる。逆に、デキストロスコープ(Dextroscope)(登録商標)は、通常2つのディスプレイを有している。1つは、オペレータが、鏡の下で3Dコントローラをつかみながら自分で実際に3Dデータセット上で操作しているように、リーチインインタラクティブ感をもつことができるように画像を鏡に投射する統合されたモニターである。もう一方は、鏡に投射されたものと同じコンテンツを表示する標準的なディスプレイモニターである。
【0060】
したがって、図2に示すように、本発明の実施態様における例示のデキストロネット(DextroNet)ネットワークを用いた種々の協同的インタラクティブパラダイムが利用可能である。デックス―レイ(DEX-Ray)(登録商標)型ワークステーション210は、デキストロスコープ(Dextroscope)(登録商標)型ワークステーション230またはデキストロビーム(DextroBeam)ワークステーション220と協同することができる。あるいは、例えば、それは、デックス―レイ(DEX-Ray)(登録商標)ワークステーション210(図示せず)とも協同することができる。さらに、デキストロビーム(DextroBeam)ワークステーション220は、別のデキストロビーム(DextroBeam)ワークステーション220またはデキストロスコープ(Dextroscope)(登録商標)ワークステーション230とネットワーク250を介して対話することができる。
【0061】
さらに、図2には示されていないが、他の3Dインタラクティブ可視化システムをデキストロネット(DextroNet)に接続することができる。例えば、同じくボリューム・インターラクション社(Volume Interactions)により提供されるデキストロスコープ(Dextroscope)(登録商標)およびデキストロビーム(DextroBeam)システム上で動くソフトウェアである、ラジオデキスター(RadioDexter)(登録商標)の一バージョンがある。これは、3D操作が2Dコントロールにマッピングされるラップトップ(または他のPC)上、例えば、標準的なマウスやキーボードで起動する。そのようなソフトウェアの機能についてはデキストロラップ(DextroLap)出願に詳細に記載がある。そのようなソフトウェアを、ここでは「デキストロラップ(DextroLap)」と呼ぶ。デキストロラップ(DextroLap)コンソールは図2には示されていないが、これもデキストロネット(DextroNet)によく接続することができる。
【0062】
さらに、特にティーチャー―スチューデントコンテクストにおいて2つ以上の協同するワークステーションが デキストロネット(DextroNet)上に存在する。そこでは、一人のティーチャーがデータセットを操作し、ネットワーク250に接続している多くのスチューデントのすべてが参加または傍観することができる。そのような実施態様においては、他のスチューデントの誰もが、例えば、各スチューデントのバーチャルツールを、ティーチャーのものと同様に見ることができる。図10乃至30を用いて説明するように、ティーチャーは、例えば、各スチューデントのIPアドレスならびにバーチャルツールの位置およびスナップショットまたはそれらの表示のリアルタイムのビデオを見ることができる。
【0063】
本発明の別の実施態様においては、コントロール機能、すなわち、本明細書おいてはティーチャーとして記載されている操作機能性が、関係者から関係者に手渡され、あらゆる接続したシステムがそのデータとの相互作用を他の関係者に広めることを可能にしている。そのような実施態様においては、アイコンまたはメッセージは、例えば、どのシステムが次に操作するティーチャーであるのかを特定する。
【0064】
デキストロネット(DextroNet)が提供し得る種々の協同の可能性から、スチューデントワークステーション上のプロセスフローを次に説明する。それは、ティーチャー―スチューデント相互作用が図2との関連で(図2に記載されているかどうか)説明した可能な接続のいずれかを利用することができることが理解できる。
【0065】
図3を用いて説明すると、301において、スチューデントのコンソールは、利用可能なティーチャーとの接続を探す。これは、例えば、スチューデントのコンソールが、最初にインターネット上でデキストロネット(DextroNet)セッションに参加するという要求をブロードキャストすることによって行うことができる。もし、ティーチャーが利用可能であれば、当該スチューデントは、例えば、肯定応答を受信し、その後、接続されることができる。もし、インターネット(または他のデータネットワーク、例えば、VPN)上でティーチャーが誰もアクティブ状態でなければ)、当該スチューデントは、例えば、所与のシステム構成によって規定されているようにサーバに接続し、ティーチャーを待つことになる。
【0066】
ティーチャーが接続される(301において)と、プロセスフローが302に移動することができ、そこでは、スチューデントのコンソールが、当該スチューデントとティーチャーが協同的に対話するように、3Dデータセットに関連するインターフェースおよびデータを更新することを求めている。こうして、302において、スチューデントは、例えば、彼のコントロールパネルを、ネットワーク上で送信されてきたティーチャーのインターフェースとティーチャーのデータからのデータセットの位置、方向および大きさのパラメータを用いて更新することができる。彼はまた、ネットワーク上で送信されてきたメッセージを介して、コントロールパネル上のウィジェットの状態と、ティーチャーのシステム上のそれとを並べることができる。これらのメッセージは、例えば、バーチャルコントロールパネル上のボタンの上げ下げ、モジュールページ(例えば、デキストロスコープ(Dextroscope)(登録商標)に存在する;そのようなページは、種々の可能なモジュール、またはユーザが入る操作モードを示している、例えば、登録、区分化、可視化、など)、スライダーバーの現時点での値、コンボボックスの選択、色彩自動照合表設定などと関連付けることができる。
【0067】
スチューデントは、例えば、彼のインターフェースが更新されると、302において、データ同期メッセージ、例えば、3Dデータセット中のバーチャルオブジェクトの詳細の位置、方向、大きさ、透明性、およびレベルなどを受信することもできる。記載しているように、同じデータセットにおいて、スチューデントバージョンのデータセットとティーチャーバージョンのデータセットとの間の違いがあまりに大きいと判断されれば(または、自動化プロセス中において、スチューデントのシステムによって)、彼はまた、ティーチャーが分析中の圧縮データセットの全体を送信するように要求することもできる。そのような場合、次にスチューデントのコンソールは、データを減圧し、リモートシナリオを再ローディングすることができる。あるいは、ティーチャーがある地点で時間内に行ったデータセットの相互作用のすべてを、スチューデント機の上で、局所的に行うことによって、ティーチャーは、全データセットではなく、相互作用リストを送信することができ、スチューデントのワークステーションが連続的にティーチャーバージョンのデータセットを受け取るようにする。インターフェースとデータが更新され、スチューデントのコンソールをティーチャーのコンソールと同期させると、プロセスフローは、次に説明する310および320に進む。
【0068】
310において、ティーチャーのコンソールが何かビデオを送信したかどうかを判定する。Yesであれば、ティーチャーのビデオは、314でレンダリングされ、プロセスフローは、325に進むことができる。Noであれば、310において、プロセスフローは、直接325に進むことができる。ビデオ発信の逆をアドレス指定すれば、すなわち、スチューデントのコンソールが、ティーチャーのコンソールに送信すべきビデオを持っていれば、ビデオフレームを利用可能かどうかが320において決定される。320でのプロセスフローを説明する前に、スチューデント側ビデオが存在すれば、スチューデントのコンソールは、305においてそれを読み出し、306においてそれをレンダリングする。320において利用可能であり、その後326においてそれを送信する。326から、プロセスフローは325に移動することもできる。例えば、スチューデントビデオが利用可能でない場合、プロセスフローは、320乃至325に直接進む。
【0069】
325において、スチューデントのコンソールは、それ自身の3D装置(例えば、スタイラスおよびコントローラーまたはそれらの均等物、すなわち、ユーザが対話する実際の物理的インターフェース)を読み出す。これによって、示されているように、例えば、スタイラスおよび3Dコントローラーのトラッキングされた実際の位置によってバーチャルツールの位置、方向、および状態を計算できるようになる。スチューデントがデキストロラップ(DextroLap)システムを使用している場合、3D装置の代わりのマウスやキーボードが325において読み取られる。330において、スチューデントのコンソールは、例えば、ティーチャー3D装置を読み出すことができ、それに、ティーチャーの代表的なツールならびにキーボードイベントの位置、方向、および状態を、デキストロネット(DextroNet)で受け取ったメッセージから更新させる。330から、プロセスフローは、340に進むことができ、そこで、スチューデントが彼自身の視点をコントロールすることを選択するか、ティーチャーのものに従うかが決定される。Noの場合、スチューデントは、彼自身の視点をコントロールすることを選択し、プロセスフローは、次に345に進むことができ、そこでは、スチューデントは、例えば、ティーチャーの左手側のツール(この例では、3Dデータセット内のどこに所与のユーザが存在するか、どのオブジェクトが現在選択されているかを左手のツールがコントロールする。これは、2Dにおけるカーソルを動かすマウスに似ている)に関連するネットワーキングメッセージを無視する。そして、彼のローカルジョイスティックもしくは6Dコントローラーから直接的に、彼自身の左手側の位置、方向、および状態を読み出す。340において、Yesであれば、したがって、スチューデントがティーチャーのースペクティブに従うことを選択すれば、彼の機械は、346において、ティーチャーへメッセージを送信し、ティーチャーのバーチャルオブジェクトの現在の位置および方向を問い合わせる。彼は、返答を受信するとすぐ、自身のオブジェクトを更新する。
【0070】
340においてどの選択がなされたかにかかわらず、プロセスフローは、345または346乃至350のいずれかに進むことができる。そして、そこで、スチューデントのコンソールの3Dビューがレンダリングされ、その後プロセスフローは、決定310および320にもどり、その結果、上記したように、デキストロネット(DextroNet) インタラクティブプロセスフローは、連続的にセッションを通して繰り返す。
【0071】
B.ティーチャー―スチューデント相互作用の特徴例
上記ティーチャー―スチューデントパラダイムから、本発明の実施態様において、下記の特徴が実行される。以下は、2人用のバーチャルツールをもち、1つのツールは1つのボタンスイッチをもち、ボタンとスライダーを持ち、可視化アプリケーションをコントロールするバーチャルコントロールパネルを利用するシステム上のユーザを想定している。そのような例示的システムは、例えば、ラジオデキスター(RadioDexter)(登録商標)ソフトウェアを動かす、ボリューム・インターラクション社(Volume Interactions Pte Ltd)(シンガポール)製のデキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)システムとすることができる。.
【0072】
1.トラッキング負荷の軽減
本発明の実施態様において、ネットワークデータ転送レートの可変性を取り扱うため、ネットワークに課されるトラフィック負荷を軽減するため、ならびにキーユーザの3Dオブジェクト上での相互作用が見失われないことを確実にするために、例えば、バーチャルツールのボタンスイッチの4つの状態、確認、スタートアクション、ドゥアクション、およびアクションの停止を利用することができる。「確認」状態においては、ユーザは、バーチャルツールをコントロールするスタイラスをクリックせずに、それを動かすだけである(これによって、位置および方向データが生じるが、「ボタンが押された」というデータは生じない)。したがって、そのようなバーチャルツールは、活動的な操作は行わずに、バーチャルワールドではローミングとしてのみ現れるが、オブジェクトにおけるポインティングとして見ることができ、持続的なやり方ではないが、実際はいくつかのオブジェクトがその状態を変化させるように誘発する。例えば、ドリルツールは、バーチャルツールがそれと対話しているとき、3Dオブジェクトのシースルービューを示すことができるが、ボタンが押されるまでオブジェクトをドリルすることはない。「スタートアクション」状態においては、スタイラスのボタンを押すことができ、それが、押し下げられた状態が維持されると、それは、「ドゥアクション」状態をアクティブにする。例えば、ユーザがスタイラスボタンを解除するとすぐ、ツールは、「アクションの停止」状態に入り、「確認」状態に戻ることができる。したがって、ほとんどの時間、バーチャルツールは、「確認」状態である。この状態は、ツールが実際に機能しているときにはそれほど重要な状態ではない。
【0073】
したがって、「確認」状態では、バーチャルツールは、バーチャルワールドではローミングとしてのみ現れ、例えば、1つの位置から他の位置へ移動するなどの活動的な操作は行われない。この状態でそのようなツールの位置や方向を送信するデータパケットは、「意味がない」データパケットであると考えることができる。密集したネットワークが存在する場合、ティーチャーの「送信」バッファが未送出パケットでいっぱいになっている可能性がある。そのような状況においては、本発明の実施態様において、デキストロネット(DextroNet)ソフトウェアは、「送信」バッファを確認することができ、こうした「確認」状態のパケットを捨てることができる。大半の時間、バーチャルツールは、「確認」状態であるため、それによってトラフィック負荷を大幅に軽減することができる。これを、図53を用いて説明する。例えば、図53(a)に示すように、ティーチャーが、自分の「送信」バッファ中に1セットのメッセージを持っていると仮定する。ネットワーク接続が低速である場合、彼は、例えば、図53(b)に示すようにメッセージをスチューデントに送るだけである。この場合、スチューデントは、ティーチャーのツールが、位置1から位置Nのように、「ジャンプ」するのを見て、次に、例えば、ドリル操作を行うが、実際のドリル操作の情報で失われるものはない。
【0074】
本発明の実施態様において、デキストロネット(DextroNet)トラフィック負荷コントロールはこの事実を利用することができる。重要なメッセージは、優先的な転送に割り当てることができる。通常、ネットワーク速度が速いとき、ティーチャーのツールのすべての動きは、例えば、スチューデントに転送されることができる。こうして、スチューデントは、ティーチャーのツールの連続的な動きを見ることができる。しかしながら、ティーチャーのシステムが、(例えば、送出バッファ中で待っているメッセージが多すぎることに気づくことによって)ネットワーク速度が遅くなったことを検出したとき、本発明の実施態様においては、「確認」状態のメッセージを破棄することができる。このようにして、スチューデントは、密集したネットワーク条件の下であっても、ティーチャーのペースについていくことができる。そのようなメッセージ「圧縮」(損失性)スキームとの交換は、スチューデントのローカルビュー中のティーチャーのツールが、例えば、それほどスムーズに動いていないように見えるように行われる。にもかかわらず、バーチャルオブジェクト上の重要な操作は、失われることはないであろう。この軽減は、ネットワーク速度が速い場合には行う必要がない。このスイッチは、例えば、ティーチャーの「送出」バッファ中の列の長さとすることができる。「軽減」がない場合、ティーチャーのツールは、スチューデントのワールドにおいてスムーズに動くことができる。「軽減」が起こる場合、ティーチャーのツールは、連続的ではない。しかしながら、バーチャルオブジェクト上でのティーチャーの操作は失われることはなく、スチューデントのツールは、ティーチャーのツールのペースについていくことができるだろう。このように、本発明の実施態様においては、利用可能なネットワーク速度を動的に適用することができ、多解像度(すなわち、粗解像度および平滑解像度)でティーチャーのツールを表示することができる。
【0075】
2.視点のコントロール
記載しているように、本発明の実施態様において、デキストロネット(DextroNet) スチューデントは、所与の3Dオブジェクトをコントロールするか、ティーチャーの視点に従うかのいずれかをすることができる。当該スチューデントが3Dオブジェクトのローカルコントロールを選択すれば、彼のローカル処理、例えば、オブジェクトの回転、翻訳およびズーム(デジタル倍率拡大)は、ティーチャーまたは他のスチューデントの世界において、3Dオブジェクトの位置に影響を及ぼさない。 しかしながら、ティーチャーは、例えば、スチューデントのバーチャルツールの位置および3Dオブジェクトに対する方向を見ることができ、したがって、上記したように、ティーチャーが、スチューデントの視点を参照することを可能にしている。そのようなシナリオ例においては、スチューデントは、現在ティーチャーによって選択されているものとは別の関心領域または方向を見出すために、自分の世界のオブジェクトを回転させることができる。そして、例えば、ボイスによっておよび/または、それを指し示すことによって、これをティーチャーと通信させることができる。その後、スチューデントのメッセージを受信して、ティーチャーの世界においてスチューデントによって指し示された場所に気づいたとき、ティーチャーは、例えば、特定の場所に至ることができる。一方、もしスチューデントがティーチャーのビューに従うことを選択すれば、ティーチャーの世界のすべての動きがスチューデントの局所的な世界と共有されるであろう。
【0076】
本発明の実施態様において、ネットワーク上で送信されて、これら2つの状態間を切り換え、ユーザの視点に関連するリモートバーチャルツールを再度位置づけることが可能な特定の指令が存在し得る。そのような指令は、例えば、図1および3の140および340における決定を駆動することができる。
【0077】
3.データ同期
本発明の実施態様において、単一および完全の2つの同期モードがある。例示的な単一同期モードは、例えば、オブジェクトの唯一の位置、方向、大きさ、透明性、および詳細なレベルを通信することができる。これらのパラメータは、それらが大きな帯域幅を要求せずにデータネットワーク上を転送されるという意味において、「軽量」であるとみなすことができる。したがって、本発明の実施態様において、ティーチャーモジュールは、例えば、新たなスチューデントのネットワークへの参加を検出したときすぐにそのような単一同期を行うことができる。
【0078】
本発明の実施態様において、完全同期は、例えば、ユーザが明確にそれを求めている時(例えば、図1中の145)にのみ行うことができる。これは、すべてのティーチャーのデータ(報告目的で捕捉したデータ、例えば、スナップショットや3D記録を除く)の圧縮と転送に関与する。本発明の実施態様において、この同期は、時間がかかるため、任意とすることができる。そのような実施態様において、ティーチャーが完全同期を始めることができるのは、スチューデントがそれを要求したときだけである。多数のスチューデントがいる場合、例えば、データは、そのような要求を行ったスチューデントだけに送信される。さらに、完全同期は、2つの側の間に実質的な偏差が生じたときに、リカバリ策として使用することができる。帯域幅の利用可能性によるスループット限界がない場合、そのような完全同期は、自動的、周期的、または特に定められた事象がおこったときに行うことができる。
【0079】
C.3Dインターフェース(コントロールパネル)の同期
本発明の実施態様において、例示の同期は、次に説明するように、目盛りの同期およびウィジェットの同期の2つのプロセスを含むことができる。
【0080】
1.目盛りの同期
デキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)型システムを用いる場合、例えば、バーチャルコントロールパネルは、対話中、3Dトラッカーが静止し、バーチャルツールがバーチャルコントロールパネルの対応する部分に接触することができる場合、物理的基材(例えば、アクリル製)を用いて正確に測定されなければならない。したがって、目盛りおよび構成は局所的であり、機械ごとに異なる。これは、ネットワーキング中にミスマッチの問題を引き起こしうる。例えば、目盛りおよび/または構成のミスマッチによりティーチャーのツールが所与のスチューデントのコントロールパネルに接触することができないかもしれない。本発明の実施態様において、ティーチャーおよびスチューデントのコントロールパネルは、以下のようにして同期することができる。ネットワーキングセッションがアクティブの状態にある間、ティーチャーのコントロールパネルの位置、方向、および大きさは、スチューデントに送信されることができ、それによって、スチューデント自身のコントロールパネルのパラメータを置き換えることが可能となる。ネットワーキングセッションが終了した場合、スチューデント機のもとの構成を回復させることができ、それによって、彼は一人で作業することが可能になる。
【0081】
2.ウィジェットの同期
ネットワーキングセッションが開始すると、両サイドのコントロールパネルの最初の状態、例えば、スライダーバーの位置、ボタンやタブの状態、ルックアップテーブルのリストなどは、例えば、異なっていてもよい。これらのパラメータ全ては、ネットワーキングのためにはそろえる必要がある。
【0082】
D.異なるインタラクティブプラットフォーム間の接続
本発明の実施態様において、異なるタイプのインタラクティブプラットフォーム間、例えば、デキストロスコープ(Dextroscope)(登録商標)とデキストロビーム(DextroBeam)(登録商標)との間の接続をサポートすることができる。したがって、デキストロスコープ(Dextroscope)(登録商標)上のティーチャーは、デキストロビーム(DextroBeam)(登録商標)の前に集まっている多数のリモートスチューデントに指導することができる。あるいは、例えば、ティーチャーは、デキストロビーム(DextroBeam)(登録商標)の前のローカルスチューデントを指導することができ、デキストロスコープ(Dextroscope)(登録商標)上のリモートスチューデントは見ることができる。
【0083】
本発明の実施態様において、別のサポートされた接続としては、3Dインタラクティブプラットフォームと2Dデスクトップワークステーション間、例えば、上記のデキストロスコープ(Dextroscope)(登録商標)とデキストロラップ(DextroLap)システムのものがある。そのようなシステムによれば、関係者は、ユーザとシステムの間の相互作用がマウスやキーボードによって行われる場合(デキストロラップ出願に記載のように)、デスクトップワークステーションのみを使い、スタイラスおよびジョイスティックの3D入力装置を用いない。そのようなシナリオでは、ティーチャーおよびスチューデントの入力デバイスは、同一でない可能性がある。これは、3Dスタイラスやジョイスティックを持っていないスチューデントでも、全3Dで操作しているティーチャーを見て、マウスやキーボードを使ってティーチャーと通信することができるので、最も有用といえる。デスクトップワークステーション上には、キーボードイベントが、トラキングシステムからの動作と同様に転送され、補間され得る。そのような実施態様においては、キーネームやその変更子をネットワークメッセージに入れる必要がある。例えば、デキストロラップ(DextroLAP)カーソルは、3D位置を有している。この位置をティーチャーに送信することができ、そうすれば、ティーチャーは、スチューデントのカーソルの動きを3Dで見ることができる。
【0084】
本発明の実施態様において、ユニックス(登録商標)およびウィンドウズシステム(登録商標)(Unix and Windows systems)(登録商標)上で動く種々のインタラクティブな可視化システムは、全てデキストロネット(DextroNet)と接続することができる。
【0085】
E.自動的ティーチャー検出
本発明の実施態様において、所与のインターネット上にティーチャーとスチューデントが存在する場合、デキストロネット(DextroNet)は、自動的にティーチャーを検出することができる。以下においてより十分に説明するように、クライアントがサーバから返信を取得したら、それはサーバとネットワーク接続を開始し、サーバにティーチャーまたはスチューデントが存在するかどうかを伝える。サーバは、例えば、全てのクライアントの登録リスト(役割、IPアドレス、ポート)を保持することができる。サーバが、新たに参加したクライアントがスチューデントであることを知ると、ティーチャーが利用可能であるかどうかを確認し、ティーチャーのIPアドレスとポートをスチューデントに送信する。したがって、スチューデントは、自動的にティーチャーの情報を取得することができる。もし、ティーチャーが存在しない場合、サーバは、例えば、スチューデントにネットワーキング接続から退去するように警告することができる。あるいは、スチューデントは、ティーチャーがオンラインに現れるまで待つこともできる。したがって、そのような実施態様においては、スチューデントは、例えば、サーバIPアドレスやポートを構成するなどの、低レベルのネットワーキングタスクについて心配する必要がない。ティーチャーが存在すればすぐ、スチューデントのシステムは自動的にそれを検出することができる。
【0086】
III.外科医−可視化アシスタント相互作用
A.概論
次に、図4乃至8を用いて、本発明のある実施態様における外科医と可視化アシスタントとの間の例示の3Dデータセットの、例示の協同相互作用的な可視化について説明する。図4は、外科医のコンソールの例を示すプロセスフローチャートである。図5は、可視化アシスタントのコンソールのフローチャートの例を示す図である。図6乃至8は、そのようなシナリオにおける外科医と可視化アシスタントのそれぞれのビューの例を示す図である。
【0087】
一般に、そのようなパラダイムは、「外科医」自身に限定されるわけではなく、一方の関係者(「外科医」)が診断的または治療的処置を所与の対象に施す場合、そしてその対象についての処置前の画像データを利用可能であり、身体的対象にコレジスタされている場合、および別の関係者が処置前の画像データから作成された3Dデータセットから対象を見ることが可能である場合、あらゆるシナリオを含むことができる。そのような記載したような「外科医」は、例えば、音波検査者(記載のように、例えば、「ソノデックス("SonoDex")」中)、カスラボ(Cathlab)(登録商標)機械を使用するインターベンション心臓病専門医、メッドトロニック(Medtronic)外科手術用ナビゲーションシステムを使用する外科医などを含むことができる。
【0088】
記載した相互作用において、外科医は、デックス―レイ(DEX-Ray)(登録商標)型ワークステーションを使用し、したがって、位置データおよびリアルタイムのビデオを捕捉することが予期される。また、可視化アシスタントは、あらゆるタイプのワークステーションを使用することができる。
【0089】
図4を用いて説明すると、401において、外科医は、ネットワークに接続することができる。402において、可視化アシスタント側のデータを外科医側のデータに同期するすることができる。データの同期が完了するとすぐ、プロセスフローは、例えば、402から2つの平行な経路に沿って進むことができる。まず、410において、外科医は、可視化アシスタントのシナリオを要求することができる。要求があれば、411において、それはレンダリングされ得る。可視化アシスタントのシナリオが要求されない場合、プロセスフローは、410から直接420に進むことができ、そこで、外科医のコンソールは、ビデオプローブの位置および方向を読み出すことができる。ここで外科医のコンソールは、ビデオプローブ(ローカルである)の位置および方向を読み出し、それをバーチャルワールドの座標に変換する。次にプロセスフローは、420から、例えば425に進むことができる。
【0090】
上記のプロセシングと平行して、ローカルビデオプロセシングが存在することに留意されたい。デックス―レイ(DEX-Ray)(登録商標)型ワークステーションである外科医のコンソールは、リアルタイムのビデオを取得することもできることが思い出される。したがって、405において、外科医のコンソールは、それ自身のビデを読み出すことができ、406においてそれをレンダリングすることができる。次にプロセスフローは同様に425に進むことができる。
【0091】
425において、外科医のコンソールは、それがネットワーク上で取得したローカルビデオを可視化アシスタントに送信することができる。そこから、プロセスフローは430に進むことができ、そこで外科医のコンソールは、そのビデオプローブ情報を送信する。ここで、外科医のコンソールは、バーチャル世界の座標中のビデオプローブの位置および方向を可視化アシスタントに送信する。これは420において取得した情報の単なる送信である。435において、外科医のコンソールは、アシスタントの代表的なツールを通信することができる。ここで、外科医のコンソールは、外科医のバーチャル世界における可視化アシスタントの代表的なツールの位置および方向を受信し、通信することができる。このデータはネットワーク上で可視化アシスタントのコンソールから取得することができる。最後に、450において、外科医のコンソールは、ビデオおよび拡張現実感を含み得る3Dデータセットの3Dビューをレンダリングすることができ、それは、可視化アシスタントの代表的なツールの位置および方向を含む。現在の3Dレンダリングは、外科医ならびに可視化アシスタントの双方による3Dデータセットとの相互作用の結果となろう。可視化アシスタント側に着目した、外科医−可視化アシスタントパラダイムの別のサイドを次に図5を用いて説明する。
【0092】
501において、可視化アシスタントはネットワークに接続することができ、502において、彼または彼女は、自身のデータを更新することができる。ここで可視化アシスタントは、ネットワーク上で入力される外科医のデータを用いて、自身のバーチャルオブジェクト位置、方向、および大きさを更新する必要がある。プロセスフローは、502から平行して、510および520の決定に進むことができる。まず、510において、外科医のコンソールからビデオを受信したかどうかを判定することができる。Yesであれば、511において、外科医のビデオをレンダリングすることができる。Noであれば、プロセスフローは、530に進むことができる。第2に、決定520において、アシスタントのシナリオを送信すべきかどうかを判定することができる。これは、例えば、外科医のワークステーションからの問い合わせもしくは要求に返答して行うことができる。
【0093】
外科医が可視化アシスタントのシナリオを要求していれば、525において、アシスタントのシナリオを送信することができ、アシスタントは、スナップショットもしくは彼のビューのビデオを送信することができる。そのようなスナップショットは、例えば、立体的なものでもよいし、モノスコピック(monoscopic)であってもよい。520において、外科医が可視化アシスタントのシナリオを要求していなかったら、プロセスフローは次に530に進むことができる。そこでプロセスフローは、510からも同様に到達する。そして、可視化アシスタントのコンソールは、それ自身の3D装置を読み出すことができる。ここで、可視化アシスタントは、自分のツールの完全なコントロールを有しているため、彼のツールの位置、方向、および大きさは、彼自身のスタイリスト(原語:stylist)および操作装置によって行うことができる。ここから、プロセスフローは、540に進むことができ、そこで、外科医の代表的なツールが更新されることができる。ここで可視化アシスタントのコンソールは、可視化アシスタントのバーチャル世界において、外科医の代表的なツールの位置および方向を受信し、更新することができる。
【0094】
最後に、プロセスフローは、550に進み、そこで、可視化アシスタントのコンソールは、3Dデータセットの3Dビューをレンダリングする。この3Dビューは、可視化アシスタント自身の3D装置ならびに外科医の代表的なツールのそれに対する更新を含むことになり、外科医から受信するあらゆるビデも含むことができる。上記したように、外科医―可視化アシスタントパラダイムは、デキストロネット(DextroNet)上でのデックス―レイ(DEX-Ray)(登録商標)対デキストロスコープ(Dextroscope)(登録商標)型相互作用に関与すると想定される。このシナリオは、すでに述べたように、上記のティーチャー―スチューデントパラダイムの変形例である。外科医-可視化アシスタントシナリオにおいて、外科医は通常スチューデントの役割を担い、一方、アシスタントはティーチャーを担う。これは、外科医(スチューデント)が、手術に忙しく、データとの相互作用能力において、より制限されているためである。したがって、彼は主に可視化アシスタント(ティーチャー)がどのように3Dビジュアルバーチャルワールドをコントロールするかを見ることに関与する。
【0095】
B.独立した視点
手術室でデックス―レイ(DEX-Ray)(登録商標)型コンソールを用いる場合、例えば、外科医の見地は、図6に示すようにビデオプローブの方向によって制限される。カメラプローブ(Camera Probe)出願により詳細に記載されているように、デックス―レイ(DEX-Ray)(登録商標)型装置は、3Dシーンをビデオプローブの位置に基づいて、したがって、ビデオプローブ中のカメラが持つ視点からレンダリングする。したがって、例えば、デックス―レイ(DEX-Ray)(登録商標)型コンソールを使用する外科医は、ビデオプローブの先端がどのようにして内部から標的、すなわち、標的自身の内部に固定された視点、例えば、腫瘍もしくは他の頭蓋内の構造に固定された視点にアプローチするのかを見ることができない。しかしながら、デキストロスコープ(Dextroscope)(登録商標)型機械上で実行されるようなプランニングシステムにおいては、アシスタントは、図8に示したような標的を調べるための無制限の見地を有している。こうして、本発明の実施態様において、デキストロネット(DextroNet)は、外科医を助け、彼に、外科医が手術を行っている実際の患者と関連する3Dデータセットを介して無制限に動く第2の目を提供するために、デックス―レイ(DEX-Ray)(登録商標)をデキストロスコープ(Dextroscope)(登録商標)と接続するために使用することができる。これは、リアルタイムの複雑な手術に携わっている外科医にとって非常に有用である。ここでは、手術に携わっている外科医にとっては論理的に不可能な多くの可視化が確実にプロセスを助けるであろう。それは、可視化アシスタントが手術もしくは他の実地の治療(診断)努力に有意に貢献し得るのはこのようなシナリオにおいてである。
【0096】
C.交換可能な視点
別法として、本発明の実施態様において、外科医は、アシスタントの視点を見ることができる。その一例を図9に示す。このように、本発明の実施態様において、外科医には利用可能な2つのタイプのビューがある。1つは通常のカメラプローブ(Camera Probe)拡張現実感のビュー、すなわち、1つは、図6に示されるような3つの2Dの三面状画像が載ったビデオであり、他の1つは、図7に示されるような可視化アシスタント側の視点である。これらの2つのタイプのビューは、外科医がその間をトグルすることが可能な2つの別個のウインドウに表示される。こうして外科医は、例えば、図6と7の間をトグルすることができる。可視化アシスタントのビュー(図7)から、外科医は、バーチャルオブジェクトと彼のツールの関係を、異なる見地、例えば、腫瘍など標的オブジェクト上に位置づけられた視点から見ることができる。
【0097】
さらに、本発明の実施態様において、可視化アシスタントも同様に、彼のディスプレイ中に外科医のシナリオを見ることができる。これは、例えば、図8に示されている。メインウインドウは、可視化アシスタントのビューである。これは、外科医が持つビデオプローブツールのカメラの位置による制限を受けない。さらに、図8には「図中図」のビューが存在する。これは、図8の左上のコーナーの小さなウインドウ810に示されている。これは、外科医にビューを彼が見えるように示している。これはビデオフレームとして転送することができ、したがって、可視化アシスタントはどんな方法によってもこれを操作することはできない。したがって、図8は、外科医のツールも(上から下までの線として)可視化された仮想の3D世界を表示するメインウインドウを示す図である。他方の小さなウインドウ810は、外科医の実際のビューであり、ライブの映像信号および、外科医のシナリオ上で利用可能であり、その表示パラメータが外科医によってのみ選択され、操作される3Dオブジェクトの拡張現実感を含んでいる。したがって、可視化アシスタントは、図6のメインウインドウの3D世界と図8の左上部分の画像ウインドウ810内の画像の2Dビデオの双方の中に外科医のツールを見ることができる。
【0098】
IV.インターフェース相互作用の例
本発明の実施態様において、デキストロネット(DextroNet)のネットワーキング機能は、例えば、メインデキストロスコープ(Dextroscope)(登録商標)3Dインターフェース中の「ネットワーキング」タブからコントロールすることができる。
【0099】
A.接続を確立する
本発明の実施態様において、ユーザネットワーキングモジュールインターフェースの提供を受けることができる。そのようなインターフェースは、例えば、「ティーチャー」、「スチューデント」および「ネットワーキング停止」といった3つのボタンを備えている。そのような例示的インターフェースを介して、ユーザは、こうして、ティーチャーもしくはスチューデントのいずれかであることを選択し、またはデキストロネット(DextroNet)セッションの停止を選択することができる。本発明の実施態様において、ティーチャーがネットワーク内に存在するときのみ、スチューデントは、接続を確立することができる。そうでなければ、スチューデントは、「ティーチャーが存在しません」というメッセージを受け、接続を終了することになる。もし、スチューデントが3D入力デバイスを持っていない場合、例えば、デキストロラップ(DextroLAP)出願において、上記したように通信にはマウスを使うことができる。
【0100】
B.ティーチャーアクション
さらに、追加的インターフェース特徴をメインユーザ、すなわち「ティーチャー」として行動するユーザに表示することができる。そのような実施態様において、ティーチャーには、スチューデントのIPリストと「同期」ボタンが提供され得る。このパネルは、ティーチャーのみが利用可能とすることができる。新たなスチューデントが参加したとき、例えば、スチューデントの最初のシナリオの、例えばスナップショットがティーチャーに送信されたり、スチューデントリストに表示されたりなどする。さらに、スチューデントのIPアドレスは、例えば、テキストボックスに示されることが可能である。複数のスチューデントが存在する場合、ティーチャーは、リストをスクロールして、他のスチューデントのIPアドレスやスナップショットを見ることができる。本発明の実施態様において、そのようなスナップショットを使えば、ティーチャーは、自分のデータセットとスチューデントのデータセットとの相対的な同期を正確に測定することができる。例えば、ネットワーキングを開始する際に同期を達成するための方法は、単一同期と完全同期の2つ存在する。一般的は、ティーチャーとスチューデントが同一のデータセットを持っている場合、単一同期だけが必要である。しかしながら、彼らが搭載しているデータセットが異なるものである場合、ティーチャーは、完全同期を開始しなければならない。そうでなければ、後に、障害が生じることになる。種々のスチューデントから送信されたスナップショットは、それらの初期の状態(環境およびデータ)をティーチャー側に表示する。したがって、ティーチャーは、スチューデントが、自分がスナップショットを介して有しているものと同じデータを搭載しているかどうかを確認することができる。もし異なれば、彼は当該スチューデントに警告して、完全同期を実行することができる。
【0101】
C.スチューデントアクション
本発明の実施態様において、ユーザがスチューデントとなることを選択するとすぐ、彼は、自分のバーチャルコントロールパネルのコントロールを失う。彼は、ティーチャーの操作を見て、自分が関心を持った部分を指し示すことができる。しかしながら、彼にできることには制限がある。彼は、ティーチャーにコントロールされている自分のバーチャルコントロールパネルにタッチすることができないためである。記載したように、彼が行うことができる制限された相互作用のセットは、専用のボタンによって(デキストロラップ(DextroLap)に記載のPC遂行に用いられるものに類似している)、または、ティーチャーが例示のデキストロネット(DextroNet)を介して操作する「標準的な」コントロールパネルとは異なる専用の「スチューデント」バーチャルコントロールパネルを介して、容易に行うことができる。
【0102】
本発明の実施態様において、スチューデントには、ティーチャーの操作を見ることができる2つの方法がある。例えば、彼は、(i)ティーチャーの視点に従う、または(ii)ティーチャーのものとは異なる見地からのデータセットを見ることができる。そのような実施態様において、彼は、彼のスタイラスまたは他のいくつかのシステムが定義するシグナルをクリックするだけで、これら2つのモードの間をトグルすることができる。
【0103】
本発明の実施態様において、スチューデントが、「従事」(すなわち、ティーチャーの見地に従う)モードにあるとき、例えば、「ロックオン(LockOn)」という語の赤いテキスト表示が提供されるようにすることができる。そのようなモードのとき、彼はオブジェクトを回転させたり、動かしたりすることができない。彼がスタイラスをクリックするか、または別の何らかのシグナルを送信して、切断すれば、「ロックオン」("LockOn")テキストは、例えば、消える。これは、彼は、自分自身の視点からデータセットを見ることができることを示すものである。このような「切断」モードでは、スチューデントは、例えば、左手のツールを使って、表示されたオブジェクトを回転させたり、動かしたりなどができる。
【0104】
D.ネットワーク接続の停止
記載した例示の遂行においては、ティーチャーのツールだけがバーチャルコントロールパネルにタッチすることができるので、「ネットワーキングの停止」ボタンをクリックすることによってネットワーキング機能を終了させる責任はティーチャーにある。ネットワーキングが終了すると、ティーチャーは、彼/彼女が、ネットワーキングセッション中にデータに対して行った変更の全てを保存することができる。しかしながら、スチューデントは、例えば、望ましければ、自分のシナリオをネットワーキング前のものに回復して、ネットワーキングセッションに入る前に保存していたものに回復することができる。
【0105】
本発明の実施態様において、ネットワーキング中、スチューデントのデータはティーチャーのデータの同期させることが要求されることがある。したがって、スチューデントのローカルデータを損なうことを回避するために、ネットワーキングセッションが実際に始まる前にスチューデントがネットワーキングボタンを押すと、例えば、彼自身のデータが何らかのバックアップディレクトリーに自動的にコピーすることができる。したがって、ネットワーキングセッションが終了したとき、彼は自身のデータをバックアップディレクトリーからコピーすることによって回復することができる。本発明の実施態様において、これは、「ネットワーキング停止」ボタンを押すと自動的に行うことができる。
【0106】
E.サーバの例
本発明の実施態様において、デキストロネット(DextroNet)は、図9に示すように、サーバクライアントアーキテクチャー上に確立することができる。このような構成例においては、ティーチャー930およびスチューデント920の双方は、クライアントである。それらは、例えば、逓倍する接続、接続登録、および接続照会を管理するために使用することができるサーバ910に物理的に接続されている。送信元(クライアント)からの全ての情報が、例えば、最初にサーバ910に渡される。当該サーバは、例えば、受信機IPアドレスを分析し、その後メッセージを特定の目的地に渡す。こうして、そのような実施態様において、ネットワーキング機能を、ティーチャーまたはスチューデントのいずれかの側でアクティブな状態にする前に、そのようなサーバアプリケーションは最初に起動させなければならない。例示のサーバの特徴について以下において説明する。
【0107】
1.低レベルの観点から、本発明の実施態様において、サーバは、多重化技術を用いて、マルチプル接続をサポートすることができる。それは、例えば、データの到達が実行を誘発する、単一のプロセス並行サーバであることができる。タイムシェアリングは、例えば、負荷が大きすぎてCPUがそれを処理しきれない場合に引き継ぐ。さらに、高レベルの観点から、送信元(クライアント)からのIPアドレスに基づいて、サーバは、TCP/IPプロトコルを用いて、メッセージを目的地にユニキャスト、マルチキャスト、もしくはブロードキャストすることができる。
【0108】
2.接続登録
クライアントはサーバに接続すると、サーバ上に、例えばそのIPアドレスとネットワーキングの役割(例えば、ティーチャーまたはスチューデント)を登録する。例えば、2つの基準、すなわち、(1)スチューデントが参加する前にティーチャーが存在していること、および(2)サーバに接続するティーチャーは一人だけであること、を確実にすることはサーバの責任とすることができる。基準(1)が満たされない場合、スチューデントは、例えば、ネットワーキングから退去するよう警告されることがあり得、または、例えば、ティーチャーが接続するまで待つよう助言されることもあり得る。基準(2)が満たされない場合、第2の推定上のティーチャーは、例えば、ネットワーキングから退去するよう警告されることがあり得る、または、例えば、彼がスチューデントとして接続されることが望ましいかどうか照会されることがあり得る。
【0109】
3.接続照会
本発明の実施態様において、クライアントは、現在の接続環境に何人の仲間のクライアントが存在しているのか、そして、それが誰なのかについて、サーバに照会することができる。このようにして、クライアントは、誰が通信に関与しているのかを知ることができる。これは、現在のスチューデントのダイナミックリストを保持しているティーチャーにとって重要である。サーバは、「仲間の照会」のような要求を受信したら、例えば、全ての仲間のクライアントのIPアドレスやポートを要求者に返信することができる。
【0110】
4.サーバ照会へ回答する
本発明の実施態様において、サーバは、LAN上で自動検出され得る。例えば、サーバのUDPソケットが、予期していたサーバアプリケーションについてのクライアントのブロードキャスト照会をLANから受信すると、起動中のアプリケーションの名前を確認して、求めているものが利用可能かどうかを知ることができる。もし利用可能であれば、サーバは、自身のアドレス(IP:ポート)を照会しているクライアントへ返信することができる。
【0111】
したがって、本発明の実施態様において、あるユーザが自分のネットワーキングでの役割を選択すれば(例えば、ネットワーキング接続に参加したときの可視化環境内のネットワーキングインターフェース上の「ティーチャー」または「スチューデント」ボタンを押すことによって)、彼はイントラネットを介して、サーバプログラム名を含む照会をブロードキャストすることができる。このメッセージは、例えば、全てのイントラネット機械上の専用のポートに送信することができる。サーバプログラムが起動していれば、それは専用のポートを聞き続けることができる。それが、ブロードキャストメッセージをクライアントから受信すると、サーバ機上の全ての起動しているプログラム名を確認して、整合性があるかどうかを知ることができる。整合性があれば、サーバは、例えば、それ自身のアドレス(IP:ポート)を照会しているクライアントに返信することができる。一方、クライアントは、サーバからの回答を待っていることができる。一定時間経過後、否定の回答が返信されれば、クライアントは、「サーバが作動していません」というエラーを報告することができ、例えば、通常のスタンドアロンワーク状態を再開する。
【0112】
5.サーバの起動
本発明の実施態様において、デキストロネット(DextroNet)サーバは、可視化の機械にインストールされることなく、スタンドアロンアプリケーションとして動くことができる。通信がLAN内部で行われている場合、例えば、ティーチャーもスチューデントもサーバのIPアドレスを正確に知っている必要はない。デキストロネット(DextroNet)ソフトウェアは、例えば、自動的にサーバを突き止める。通信がWAN上で行われている場合、サーバのIPとポートがデキストロネット(DextroNet)に提供されなければならない。例えば、ローカルサーバが検出されない場合、およびリモートサーバが存在しない場合、ティーチャーは、ネットワーキング機能を開始しようとする場合、例えば、自分の機械上で自動的にサーバアプリケーションの起動を行う。
【0113】
別法として、例えば、サーバ機能をティーチャーの役割と組み合わせることができる場合、つまり、ティーチャーの機械がサーバの役割を担うことができる場合、スチューデントの機械は、クライアントを維持することができる。しかしながら、そのような実施態様においては、ティーチャー機の負担が比較的重いものとなる可能性がある。なぜなら、3D可視化ソフトウェアからの可視化の要求、ならびにデキストロネット(DextroNet)からの通信の要求が同時に起こるからである。したがって、例えば、デキストロネット(DextroNet)通信ループの速度が、例えば、デキストロスコープ(Dextroscope)(登録商標)可視化ループによって、遅くなる可能性がある。これによって、待機バッファに残る入力および出力データを増加させる原因となり得る。したがって、本発明の実施態様において、データの列が長くなれば、「意味のない」データパケットは、例えば、落とすことができる。すなわち、そのようなデータパケットは、例えば、処理されることなく列から除去されることが可能となる。この文脈での「意味のない」データパケットはとは、プログラム/可視化の結果に影響を及ぼさないデータパケット、例えば、主な操作(例えば、ドリリング、トリミングなど)を行うことがなく、したがってデータセットに影響を及ぼさない、ツール(ティーチャーのものとスチューデントのもの両方)の移動を転送するパケットを言う。
【0114】
この文脈においては、かなり詳細に以下に示すように、ツールには4つの基本的な状態:「確認」、「スタートアクション」、「ドゥアクション」、および「アクションの停止」がある。「確認」状態では、バーチャルツールは、バーチャルワールドではローミングとしてのみ現れ、例えば、1つの位置から他の位置へ移動するなどの活動的な操作は行われない。この状態でそのようなツールの位置や方向を送信するデータパケットは、「意味がない」データパケットであると考えることができる。密集したネットワークが存在する場合、ティーチャーの「送信」バッファが未送出パケットでいっぱいになるだろう。そのような状況においては、本発明の実施態様において、当該ソフトウェアは、「送信」バッファを確認し、こうした「確認」状態のパケットを捨てることができる。大半の時間、バーチャルツールは、「確認」状態であるため、それによってトラフィック負荷を大幅に軽減することができる。例えば、ティーチャーは、(a)自分の「送信」バッファ中に1セットのメッセージを持っている。ネットワーク接続が低速である場合、彼は、メッセージを(b)スチューデントに送る。この場合、スチューデントは、ティーチャーのツールが、位置1から位置nのように、「ジャンプ」するのを見て、次に、例えば、ドリル操作を行う。
【0115】
V.遂行の例
図10乃至49は、デキストロネット(DextroNet)の種々の例示の遂行を表す図である。そのような遂行は、例えば、ラジオデキスター(RadioDexter)(登録商標)ソフトウェアなどを動かすデキストロスコープ(Dextroscope)(登録商標)に統合するように設計されており、そのようなシステムの追加的な機能的なモジュールとして現れ得る。記載の例においては、ティーチャーおよびスチューデントは、サーバ プログラムを動かすサーバを介して互いに通信しあう。記載のように、各セッション中は、1つの時間にスチューデントは多数存在し得るが、ティーチャーは一人だけである。
【0116】
図10乃至25は、例示的ティーチャーと2人のスチューデントのビューの間の経時的関係を示す図である。図10、14、18および22のそれぞれは、3つのビューを並べて示している。そのそれぞれは、直後の3つの図に拡大して示している。
【0117】
図10乃至25は、本発明のある実施態様における、例示的ティーチャーと2人のスチューデントのそれぞれによって見られるそれぞれの図の間の例示的相互作用を示す図である。図10において、ティーチャーは、スチューデントが接続しているかどうかを確認する。ティーチャーのビューを図10(a)に示す。また、図10(b)および図10(c)は、例示の二人のスチューデントである、スチューデント1およびスチューデント2のそれぞれのビューを示している。示された例では、ティーチャーとスチューデント1は、デキストロスコープ(Dextroscope)(登録商標)型システムを使用している。そして、スチューデント2は、デキストロラップ(DextroLap)型システムを使用している。図11乃至13は、これらのビューをより詳細に示すものであり、次に述べる。
【0118】
図11において、ティーチャーは、彼自身のツール1100、スチューデント1のリモートツール1101、およびスチューデント2のリモートツール1102を見ることができる。スチューデント2のリモートツールは、スチューデント2がデキストロラップ(DextroLap)を使っているために、実際にはカーソルであることに留意されたい。したがって、全体の3Dコントロールを持っていない。さらに図11に示すように、各スチューデントのリモートツールには、スチューデントのコンピュータのIPアドレスがついている。本発明の実施態様において、そのようなIPアドレスは、スチューデントの名前を表示するために変更することができる。別法として、例えば、両方を表示することができる。本発明の実施態様においては、ティーチャーに表示された各スチューデントの名前が示されることで同時にスチューデントの数を教えるために使用されることは特に有用である。このように、ティーチャーは、自分が誰に講義しているのかを知ることができる。
【0119】
さらに、ティーチャーのビューは、さまざまなスチューデントのスナップショットのためのディスプレイウインドウ1120であることが図11から見て取れる。このスナップショットウインドウ1120によって、ティーチャーは、スチューデントのローカルビューを見ることができるのである。最後に、3つのネットワーキングツール、すなわち、「同期」1150、「リモートスナップショット」1160および「役割切り換え」1170が存在する。同期1150は、スチューデントとティーチャーの間の同期を取るために使用することができる。このツールは、それぞれのデータセットの状態が有意に離れて浮動していて混乱を引き起こすことがティーチャーにとって(またはスチューデントにとって)明らかな場合に用いることができる。リモートスナップショット1160は、スナップショットウインドウ1120に表示された特定のスチューデントのスナップショットを要求する。これは、例えば、接続しているスチューデントのスクロール可能なリストをもつティーチャーのコントロールパネルによって、容易に行うことができる。その後、ティーチャーは、例えば、スチューデントのリストをスクロールして、一人を選択することができる。その後、ティーチャーが、例えば、「捕捉」ボタンを押し、スナップショットがスチューデントのワークステーションから要求される。最後に、役割切り換え1170によって、ティーチャーとスチューデントの役割を切り換えることができる。このプロセスは、ティーチャー主導によるものに制限することができる。したがって、以下により詳細に示すように、このボタンは、例えば、ティーチャー機でのみアクティブな状態である。
【0120】
図12は、スチューデント1のビューを示す図である。それは、スチューデント1のツール1201ならびにティーチャーのツール1200を示す。スチューデント1自身1のIPアドレスが彼のツールとともに示されていることに留意されたい。この特徴はオフにする。または、例えば、ティーチャーのビューを用いたのと同様に、スチューデントの名前もしくは他のいくつかの識別子と置き換えることができる。スチューデントが見る3Dオブジェクト1225は、ティーチャーのビューが示すものと同じであり、同じ正確な見地もしくは視点に存在する。これは、スチューデント1のビューが、ティーチャーのものにロックオンしているためである。したがって、ロックオンサイン1290がスチューデント1のスクリーンの右上に表示されている。同期1250、リモートスナップショット1260および役割切り換え1270の3つのネットワーキングツールとしてティーチャーのツール1200が見える。スチューデント1がスチューデントであり、ネットワーキングの機能性をコントロールしないので、スナップショットウインドウ1220には、スナップショットが何も表示されていない。実際、スチューデントがティーチャーのビューを見たいときは、既に図12において示しているように、ティーチャーのビューにロックオンすればよいだけである。したがって、リモートスナップショット1260は、ゴースト化されている。同期1250も、役割切り換え1270も同様にゴースト化されている。ティーチャーのみ3つの機能を行うことができる。図13は、図12と同様に、スチューデント2のビューを示している。それによれば、同じ3Dオブジェクト1325が示されている。スチューデント1の3Dオブジェクトのビューは、ティーチャーやスチューデント2のものより透明に見えることがわかる。全てのワークステーションが同じプログラムを動かしているにもかかわらず、そのようなワークステーションは、異なる構成を備えているからである。例えば、「コントロールパネルがスタイラスによってタッチされたとき、3Dオブジェクトをゴースト化する」ように、例えば、いくつかは、特定の特徴が使用禁止であるかもしれない。そのような特徴は、例えば、スタイラスとコントロールパネルとのを促進することができる。
【0121】
これは、ユーザ(ラップトップ上で動くデキストロラップ(DextroLap)システムを利用しているかもしれないし、高速デキストロスコープ(Dextroscope)(登録商標)を利用しているかもしれない)が利用可能なグラフィックスカードに依存するためである。3Dインタラクティブ可視化ソフトウェアの、より「装飾的」な機能は、正確には同じ視覚的結果をもたらさないかもしれないが、3Dオブジェクトの効果の観点からは同一の振る舞いをするであろう(もちろん、同期のとれたビューを維持するためには、正確に同じである必要がある)。そのような装飾的機能の1つを、例えば、図13に示している。ユーザがコントロールパネルと対話する際(そして、したがって、応答性には、ボタンおよびスライダーを正確にクリックする必要がある)の表示を促進するために、コントロールパネルとスタイラスを再生するだけで、3Dオブジェクトのレンダリングされた画像を捕捉して、3Dビュー上に透明にペーストすることができる。スチューデントのワークステーションに複製されない場合、アプリケーション上の結果は同じであるが、相互作用速度が遅くなる。そして、オブジェクトの表示内容が異なったものとなるであろう(すなわち、透明でない)。
【0122】
図13において、スチューデント2もロックオンモードであり、したがって、ロックオンサイン1390が図13にも表示されている。スチューデント2は、彼自身のツール、この場合カーソル1302を見ることができる。スチューデント2のローカルIPアドレスも表示されている。別の実施態様においては、それは、例えば、上記したように、置き換えられ、もしくは拡張されている。スチューデント1のケースと同様に、スナップショットウインドウ1320にスナップショットは表示されておらず、ネットワーキングツールの同期1350およびリモートスナップショット1360は両方とも、役割切り換え1370と同様にゴースト化されている。
【0123】
次に、図14乃至17について説明する。これは、図10乃至13に示されたものに続くある例示的時点における、図10のティーチャーと二人のスチューデントを示すものである。図14において、ティーチャーは、3Dオブジェクトの右後ろ側の隅の立方体のオブジェクトから、3Dオブジェクトの左後ろ側に見える円錐形のオブジェクトの先端まで線を描いた。ティーチャーは、これを例示の測定ツールを用いて行った。したがって、測定の末端近くに測定ボックスが現れており、それには、「47.68mm」と示されている。両スチューデントは、ロックオンモードである。次に、図15乃至17を用いて、3つのビューを詳細に説明する。
【0124】
図15は、ティーチャーのビューを示す図である。隅の立方体のオブジェクトから、3Dオブジェクト1525の左後ろ側に見える円錐形のオブジェクトの先端までの測定を行うために用いられたティーチャーツール1500が見える。さらに、スチューデント1のIPアドレスが付いたスチューデント1のリモートツール1501、ならびにスチューデント2のIPアドレスが付いたスチューデント2のリモートツール(カーソル)1502も見える。図15のティーチャーのビューからわかるように、スチューデント1は、ティーチャーの測定が始まった、立方体上の点の近くに彼のリモートツールを指し示している。スチューデント2は、円錐のベースの近くのどこかを指している。
【0125】
スチューデント1のビューである図16には、ティーチャーのツール1600を見ることができる。ティーチャーのツールは、もちろん、スチューデント1から離れている。さらに、スチューデント1のツール1601、3Dオブジェクト1625、およびティーチャーが描いた測定線ならびに測定ボックス1692が見える。さらに、ロックオンサイン1690も見える。これは、スチューデント1がティーチャーのビューにロックオンしていることを示している。図17には、スチューデント2のビューが示されている。スチューデント2は、ティーチャーのビューにロックオンしている。したがって、ロックオンサイン1790が表示さている。ティーチャーのツール1700とともにスチューデント2のリモートツール1702が、彼のIPアドレスとともに示されている。さらに、3Dオブジェクト1725内の立方体のオブジェクトと円錐形のオブジェクトの間にティーチャーが描いた測定線が見える。したがって、ティーチャーが行った測定の長さを示す測定ボックス1792も同様に示されている。
【0126】
図18乃至21は、図10乃至17と有意に異なるティーチャーとスチューデントを示す図である。図18乃至21においては、スチューデント1は、自分のビューをティーチャーのものから切り離している。図19に詳細に示しているように、ティーチャーは、彼自身のツール1900と、スチューデント1のリモートツール1901とスチューデント2のリモートツール1902のそれぞれを見ることができる。図19からわかるように、ティーチャーは、立法体のオブジェクトの隅近くの左上から円錐形のオブジェクトの先端までを、彼のツール1900を用いて測定し終わったところである。同様に、図20には、今は、スチューデント1は、もはやロックオンされていない。したがって、ロックオンサインは彼のビューに現れていない。スチューデント1は、彼のビューをティーチャーのものから切り離したので、彼は、上方から3Dオブジェクト2025を見ることができる。あるいは、彼が選択するあらゆる他の視点を見ることができる。さらには、切り離されたモードにおいては、コントロールパネルは、例えば、ここには示していないが、ローカルの相互作用に影響を及ぼす必要はない。スチューデントには、例えば、デキストロラップ(DextroLap)出願に記載されているように、ディスプレイの側部に現れる1セットのコントロールボタンが示されることがある。または、例えば、局所が省略されたコントロールパネルが提供されることがある。そのようなローカルコントロールパネルは、上記したように、例えば、短縮されたルックによってゴースト化することができる。ティーチャーのコントロールを受けている「真の」コントロールパネルではないことが容易に認識できる場合は、ゴースト化する必要はない。図21に、スチューデント2のビューが示されている。スチューデント2はまだティーチャーにロックオンされているため、ロックオンサイン2102が表示されている。スチューデント2は、ティーチャーのツール2100ならびに自身のツール2102の両方を居ることができる。スチューデント2はまた、3Dオブジェクト2125およびティーチャーが施した測定線も見ることができる。
【0127】
次に図22乃至25について説明する。これらは、ティーチャーのペンの位置が変わったことを以外は図18の図と同様である。図23のティーチャーのビューは、ティーチャーのツールが少し移動したことを除いて図19と同じであることがわかる。したがって、ティーチャーのツール2300は、3Dオブジェクト2325中の円錐形オブジェクトの先端の周りを本質的に回転している。スチューデント1のリモートツール2301、ならびにスチューデント2のリモートツール2302が、図19においてそれらが占めていた同じ位置にまだ見える。図24のスチューデント1の分離されたビューにおいて、変更された唯一の点は、ティーチャーのツール2400の位置と方向である。そして、スチューデント1のツール2401も今ここで同様である。図20と図24の比較からわかるように、スチューデント1のツールは測定の末端点の周りに下向きに回転しており(本質的には、3Dオブジェクト2425の円錐の末端)、図20における測定線とのなす角度と比較して、測定線とのなす角度を小さくしている。スチューデント1のビューは、スチューデント2のカーソルを示していないことがわかる。これは、上記したように、ティーチャーのみが全てのスチューデントを見ることができ、各スチューデントが見ることができるのはティーチャーだけだからである。したがって、各スチューデントは、他のスチューデントの存在を事実上忘れている(もちろん、スチューデントの一人が役割を切り換えてティーチャーとなった場合は除く。プロセスを以下により十分に説明する)。
【0128】
同様に、図25は、スチューデント2のビューを示す図である。図25は、ティーチャーのリモートツール2500の位置と方向以外は図21とほぼ同じである。スチューデント2自身のツール2502も3Dオブジェクト2525も動いていない。スチューデント2は、ティーチャーのビューに対してまだロックオンモードであり、したがって、ロックオンサイン2590が、このスチューデント2のビューに表示されている。
【0129】
図26乃至29は、ティーチャーと二人のスチューデントがネットワーキングセッションに参加している別の実施態様を示す図である。図26において、ティーチャーは、ネットワークに接続している。当該システムは、「あなたはティーチャーです。」というメッセージを表示しており、ティーチャーのバーチャルツールが見える。まだスチューデントは接続していない。図27において、第1のスチューデントが参加する。彼のツールおよびIPアドレスがデータセッションに見られ、彼の最初の(彼が入った時間付けの)スナップショットも同様に見ることができる。図28において、第2のスチューデントが参加し、彼のツールとIPアドレスが、この時点でティーチャーにも利用可能となる。各スチューデントのIPアドレスは、彼らのバーチャルツールの隣にテキストボックスとして現れる。図29および30において、ティーチャーは、第1および第2のスチューデントとそれぞれ同期をとる。ティーチャーは、上記したように、ネットワーキングコントロールパネルの左パネルに表示されたスチューデントリストからスチューデントを選択することによって、どのスチューデントと同期を取るかを選択する。
【0130】
図31乃至43は、本発明のある実施態様における、様々な「外科医」および「可視化アシスタント」ビューの順序を示す図である。これらの図は、例えば、外科医がデックス―レイ(DEX-Ray)(登録商標)型システムを用いて手術を行い、例えば、デキストロスコープ(Dextroscope)(登録商標)またはデキストロビーム(DextroBeam)(登録商標)型システムを用いる可視化アシスタントがネットワーク上で外科医の機械と接続しているとき、どのようにして例示の協同が生じ得るかを示す。このパラダイムは、例えば、一人が診断的処置もしくは治療的処置を行い、したがって、対象に関するリアルタイムの情報を取得しており、他方の人がそのようなリアルタイムデータを受信し、それと対象に関する3Dデータを用いて第1の人を援助するために対象の可視化を作成するような、あらゆる状況に適用することができる。そのような可視化アシスタントの例は、例えば、利用可能な視点の自由を利用し(すなわち、彼は、自由に、彼が望むように、3Dデータ中のオブジェクトを回転、翻訳、および拡大する。外科医がそれらを見ている位置および方向におけるそのようなオブジェクトを見ることに限定されない)、外科医が見ることができないものを見る。そして、したがって、例えば、手術の現場にいる患者の組織に外科医を協同的にガイドする。これらの図について次に説明する。
【0131】
図31は、可視化アシスタント(「VA」)ビューの2つの例を示す図である。一般に、外科医/可視化アシスタントパラダイムにおいては、外科医は、ロックオンして、一般的には、患者または対象の処理において物理的に使用する視点およびアプローチの角度とは相関しないであろうVAが作成した最適な可視化を見ることを決めていない限り、VAのビューから切り離されている。図31の文脈においては、そして、一般的には、VAは、手術用ナビゲーションシステム、例えば、デックス―レイ(DEX-Ray)(登録商標)型システムを用いる外科医を援助するために使用される。上記したように、外科医は、スチューデントと類似した行動をし、上記したように、可視化アシスタントは、ティーチャーと類似した行動をする。これは、手術をしている外科医は、彼の視点が彼の保持するプローブや他の器具に限定されるため、3Dバーチャルデータの表示に関して自由が少ないという事実によるものである。例えば、デックス―レイ(DEX-Ray)(登録商標)システムを使用して、3Dデータからの視点を見ることは、手で持ったプローブ内のカメラで見るのと同じである。一方、VAは、3Dバーチャルデータだけを見ているので、制限なく視点の変更を行うことが可能である。外科医は一般的に、拡張現実感を表示することを望むため(または、もし他の手術用ナビゲーションシステムを用いるのであれば、視点によって見える3Dデータは、彼がトラッキングするものとほぼ同様である)、外科医のビューは通常VAから切り離されている。
【0132】
したがって、図31において、可視化アシスタントは、外科医の手術および処置における関心オブジェクトを表す頭蓋骨を回転させ、冠状面のビューが左側、矢状面が右側に見えるようにする。各可視化アシスタントのビューには、外科医(スチューデントとして機能する)のリモートツール3100が見える。矢状面のビューで、頭蓋骨の開口部を容易に見ることができる。分割している外科医の視点は、これらのそれぞれとは異なるものである。以下において図34を用いてより十分に説明する。図34に示されているように、外科医の実際のビューは、下記に示すように彼の手術経路にあるものより外科医のリモートツール3100の軸に沿ってより多くなっている。図32および図33はそれぞれ、図31の拡大図である。
【0133】
図34は、図31の可視化アシスタントのビューに対応する外科医のビューを例示した図である。このビューは、外科医が持っている実際の視点であって、彼の、例えば、デックス―レイ(DEX-Ray)(登録商標)型システム上に局所的に示された図である。外科医の視点は、カメラプローブ(Camera Probe)出願に記載のカメラプローブ(Camera Probe)のカメラの視点、または、例えば、別の手術用ナビゲーションシステムを使った場合は、彼の物理的方向および患者の内部へのアプローチの経路に対応している(そして、それによって制限されている)。図34では、外科医のツール3400は、彼が持っている実際のカメラプローブ(Camera Probe)、またはナビゲーションプローブもしくは器具に対応する。さらに図34には、上記したように、他の何らかの識別子と置換または拡張することができる頭蓋骨の開口部2410および外科医のIPアドレス3416、ならびに部分的に見える球体3405も示されている。可視化アシスタントが、彼の視点を最適化することによって、よりよいビューを取得し、それによって、外科医がポイントを突き止めるのは、まさにこのオブジェクトである。図31乃至43には、球体3405(図34に関して)は、外科医が処理している関心オブジェクト、例えば、腫瘍を表していると想定される。図35は、可視化アシスタントのビュー、および上記したように頭蓋骨の開口部を含む頭蓋骨を示す、対応する外科医の切り離されたビューを示す図である。図35においては、可視化アシスタントは、外科医が球体上のポイントを突き止めるのを援助する。可視化アシスタントは、このビューでは、頭蓋骨の側面を切り欠いて、球体を明らかに示している。一方、外科医のビューである図35(b)は、実際の世界では彼のプローブが動いているという事実に制限されており、頭蓋骨中の実際の穴もしくは上記頭蓋骨の開口部中にのみ動くことができる。対照的に、可視化アシスタントのビューは、制限がなく、データを自由に処理して、この球体を最も良好に可視化している。図35(a)の各ビューでは、外科医のツール3500が見えている。図35(b)に示されているように、外科医のツールの軸は、多かれ少なかれ彼の視点に対応している。一方、図35(a)では、可視化アシスタントは、外科医の実際の経路に対して後部からオブジェクトを見ている。図36および37は、それぞれ図35(a)および図35(b)を拡大して示した図である。図37からわかるように、外科医のIPアドレス3716がはっきりと表示されている。
【0134】
VI.他の手術用ナビゲーションシステムとの統合
本発明の実施態様において、種々の3Dインタラクティブ可視化システムの製造業者からの3Dトラッキング(または2Dトラッキング)能を持つ装置、例えば、デキストロネット(DextroNet)上のデキストロスコープ(Dextroscope)(登録商標)などを接続することが可能である。そのような「外来」装置は、そのようなネットワークを介して送信される質問または指令に対応して、所定の情報をデキストロネット(DextroNet)に提供するであろう。例えば、Medtronic(Louisville, Colorado, USA)は、脳神経外科的処置のための種々のナビゲーション(または、画像がガイドする)システムを製造している。そのようなナビゲーションシステムの1つが、例えば、トレオン(登録商標)(TREON)システムである。さらに、メドトロニック(Medtronic)は、アプリケーションプログラムインターフェース(API)ネットワーク インターフェースソフトウェアも製造している。それは、データをそのようなナビゲーションシステムから外部のアプリケーションへ、リアルタイムで流すことができる。
【0135】
同様に、別の製造業者であるブライアンラボエージー(BrainLAB AG)(Munich, Germany)は、類似のソフトウェア製品を持っている。この製品は、ベクタービジョンリンク(VectorVision Link)(VV Link)という名前の注文設計クライアント/サーバアーキテクチャーを使用し、可視化ツールキット(VTK)から機能を拡大したものである。VV Linkは、両方向データが画像データセット、可視化およびツール位置などをリアルタイムで転送することを可能にする。これらの装置は、登録情報とプローブ座標情報を、デックス―レイ(DEX-Ray)(登録商標)システムと同様のやり方で提供するが、それらは、拡張現実感ベースではないので、ビデオ情報は提供されない。本発明の実施態様において、デキストロネット(DextroNet)サーバの変更例は、ステルスリンク(Stealthlink)(登録商標)またはVV Linkソフトウェアなどを組み込むことができるであろう。患者情報と登録情報の詳細が、例えば、交換可能である接続後、デキストロネット(DextroNet)は、例えば、これらのシステムに照会して、それらのプローブ座標を取得する。こうして、本発明の実施態様において、そのようなシステムは、外科医のワークステーションとして機能し、ティーチャー(VA)ワークステーションに空間座標を提供することができる。上記のデックス―レイ(DEX-Ray)(登録商標)による遂行とは異なり、現在のように構成されているこれらのシステムは、外科医のビューに、VAワークステーションから外科手術中に表示を行うオプションを有していない。そうするためには、本発明のある実施態様の方法をナビゲーションシステム中に具体化するソフトウェアを組み込む必要がある。
【0136】
同様に、上記したように、本発明の実施態様において、例示のデキストロネット(DextroNet)を介して接続される機械は、異なる製造業者の製品とすることもでき、異なる構成、また異なるタイプであることができる。上記したように、手術用ナビゲーションシステム、例えば、デックス―レイ(DEX-Ray)(登録商標)システム、または、メドトロニック(Medtronic)やブライアンラボ(BrainLAB)のシステムをデキストロネット(DextroNet)を介して標準的な3Dインタラクティブ可視化ワークステーション、例えば、デキストロスコープ(Dextroscope)(登録商標)、デキストロビーム(DextroBeam)(登録商標)などに接続することができる。さらに上記したように、3D位置データを送信するシステム、例えば、拡張現実感を利用しない手術用ナビゲーションシステムを接続することもできる。
【0137】
次に説明する図44乃至49は、本発明のある実施態様におけるデキストロネット(DextroNet)のさらに別の使用である。この例は、デキストロネット(DextroNet)を介して3Dインタラクティブ可視化システム、例えば、デキストロスコープ(Dextroscope)(登録商標)に送信された、心臓病専門医が作成する2Dの蛍光透視画像の例に関するものである。パラダイムは、上記した外科医と可視化アシスタントのそれに類似する。しかしながら、このケースには、外科医は存在せず、代わって、インターベンション心臓病専門医が存在する。そのような実施態様においては、可視化アシスタントは、術前に取得しておいたCTAスキャンの可視化アシスタントによる制限のない3D処理によって、そのようなインターベンション心臓病専門医が彼の関心のある解剖学的構造を可視化するのを援助する。
【0138】
したがって、図44において、カスラボ(Cathlab)(登録商標)処置から取得した例示の蛍光透視画像を示す。当該画像は、X線を患者の胸郭に当てることによって取得した。画像中には、動脈、より正確には、造影剤を投与されて撮影された動脈内部の部分が見える。
【0139】
図45は、標準的なインターベンション心臓病専門医のビューの例を示す図である。図45において、インターベンション心臓病専門医は、例示の蛍光透視装置によって提供された視点から、造影剤を投与して撮影した血管の2D投影図のみを見る。図45に示された画像は、そのような従来のインターベンション心臓病専門医のビューのシミュレイトされた投影図である(一連の実際の蛍光透視画像にマッチしている。また、関連するCTAは入手できなかった)。シミュレーションは、CTAデータ上で操作することによって取得した(CTAの冠状動脈を区分化する(したがって、動脈だけ見ることができ、他の組織は見えない。それは、造影剤が動脈内を流れ、蛍光透視装置によって発光されたX線と相互作用する)、それらをあたかも蛍光透視法の結果のように暗く色づけする、そして、区分化された動脈を方向付け、スナップショットを撮影し、その後CTAのスナップショットを、区分化を行わずに撮影する)。
【0140】
図46は、図45の臨床医のビューに対応する可視化アシスタントのビューの例を示す図である。このような例示の可視化アシスタントは、図45のインターベンション心臓病専門医と協同することができる。記載しているように、そのような可視化アシスタントは、術前のCTAに対して制限のない3D処理を行う。図46は、VAが検査している冠状動脈の拡大図である。図46乃至48は、本発明のある実施態様における、インターベンション心臓病専門医と可視化アシスタントの間の相互作用の例を説明する図である。それらの図は、蛍光透視図とともにCTA図を手動で登録する方法を示している。ここで、例えば、VAは、デキストロネット(DextroNet)を介して図45のような蛍光透視法を取得し、次いで、例えば、当該画像を用いることでCTA(例えば、区分化された冠状動脈)を調整してこの受信画像と整合させることができる。VAは、方向決定を行い、心臓病専門医が見ているもの(蛍光透視装置上には制限があり、通常トラッキングされず、心臓病専門医がよく知っているいくつかの標準的な位置だけとなる)を知るとすぐ、制限のない3D処理によって、リアルタイムで心臓病専門医にそれが何であるかを指示することができる。彼は、例えば、「左冠状動脈」もしくは「LCA」、同様に、例えば、「右冠状動脈」もしくは「RCA」といった注釈つけて、それらの血管を標識する。あるいは、彼は、カスラボ(Cathlab)(登録商標)画像(投影図または、そのような表示が利用可能であれば立体)でインターベンション心臓病専門医に提供することができる血管中の狭穿部を(3Dで)指し示すことができる。さらに、例えば、VAは測定を行うことができる。そしてもしVAがフルオロスコープから新たな画像を見ることができれば、彼は、カテーテルがどこにあるかを特定し、3D位置を推定することができ、その後、重要な解剖学的ランドマークまでの距離を心臓病専門医に伝えることができる。
【0141】
図47は、上記した図8と類似したシナリオを示す図である。可視化アシスタントは、全体の3Dとメイン画像の両方を見ることができ、また、スナップショットまたは左上隅にある「図中図」画像を見ることができる。当該図中図の画像は、例えば、インターベンション心臓病専門医のカスラボ(Cathlab)(登録商標)機械中で例示の蛍光透視装置によって作成したものである。それは、本質的に上記の45に示した画像である。可視化アシスタントは、デキストロスコープ(Dextroscope)(登録商標)または均等の装置を使用して、術前のCTAデータを処理し、区分化し(もしくは再区分化する)、最適には蛍光透視装置中に見えるものと同じ視点の血管を可視化することができる。このことは例えば、視点を、彼が図中図に見ているものに揃えることによって行うことができる。さらに、VAのビューの遠方右側には、デキストロラップ(DextroLap)遂行に通常見えるものと類似した、例示の相互作用機能ボタンが見える。VAは、必要に応じて、例えばデキストロラップ(DextroLap)使用することができることがわかる。または、例えば、彼はデキストロスコープ(Dextroscope)(登録商標)を最大限に使用することができるであろう。
【0142】
図48は、さらに別の例示の、VAが作成することができる3Dビューを示す図である。すなわち、記載したように、VAは、全CTAデータにアクセスするので、したがって、例えば、図48の左の画像に示されているように、取得面をまとめることができる。または、例えば、データを区分化して、図48の右の画像に示すように、冠状動脈のみを明らかに示すことができる。
【0143】
最後に、図49は、例えば、インターベンション心臓病専門医のカスラボ(Cathlab)(登録商標)装置に表示され得る画像を並べて示している。インターベンション心臓病専門医は、彼のローカル機で取得した蛍光透視図(左)と可視化アシスタントが、例えば、デキストロスコープ(Dextroscope)(登録商標)またはデキストロラップ(DextroLap)機械で作成した図とを同じディスプレイ上で比較することができる。この比較は容易であるので、心臓病専門医は、蛍光投影図をよりよく解釈することができるようになる。インターベンション心臓病専門医と可視化アシスタント間で通信を行うことで、可視化アシスタントは、インターベンション心臓病専門医にとって望ましく、有用であるかもしれないように、彼が局所で作成したビューを、例えば、改良、再区分化、および最適化して、それをデキストロネット(DextroNet)でインターベンション心臓病専門医に送信して、表示(図49に示すように)し、インターベンション心臓病専門医による比較ができるようする。これは、例えば、蛍光透視法の処置を示すいくつかのモニターを備えたカスラボ(Cathlab)(登録商標)システムのような特徴を用いて行うことができる。別のモニターに3D画像を加えることは簡単なタスクであろう。これらの後者の画像は、例えば、蛍光透視と一致するかもしれないし、しないかもしれない。さらにそのようなシステムは蛍光透視装置の位置、ならびにその他の患者情報も示す。あるいは、例えば、無菌条件で使用される簡単なタッチスクリーンなどを備えたモニターなどの他のディスプレイを用いて、VAの可視化を臨床医に返送することもできる。
【0144】
VII.役割切り換え
本発明の実施態様において、役割切り換え機能をサポートすることができる。役割切り換えは、例示のデキストロネット(DextroNet)における特徴であり、ティーチャーおよびスチューデント(または外科医および可視化アシスタント)に彼らのそれぞれの役割をオンラインで交換させるものである。ティーチャー―スチューデントパラダイムにおいて、スチューデントは、オブジェクトにおける、翻訳、回転、およびインティングを除き、3Dデータセットのオブジェクトを処理することはできない。役割切り換えによって、スチューデントがティーチャーからのコントロールを引き継ぐと、彼は、例えばオブジェクトに対するティーチャーのワークを続けて行うことができる。これは、ある程度の協同のためのモードを示唆するものである。さらに、ある一時点においては、ティーチャーは、ネットワーク上に一人しか存在しない。この協同は、連続的であり衝突の問題を生じることはない。
【0145】
例示のデキストロネット(DextroNet)では、ティーチャーおよびスチューデントは、低レベルではともにクライアントであることができ、それによって、役割切り換えは自然に行われる。役割切り換えは、現時点の通信セッションを用いることができ (すなわち、ネットワーキングを停止させ、再接続させる必要はない)、ティーチャーとスチューデントの役割を高レベルで行うことができる。このようにして、役割切り換えは、再接続のために時間を使うことを回避することで、かなり迅速に行うことができる。
【0146】
役割切り換えは、多数のスチューデントをサポートしている。ティーチャーは、どのスチューデントに自分のコントロールの権利を移管するかを決定する。他のスチューデントは、そのままの状態を維持することができるが、例えば、ティーチャーが変わったことを知ることができる。上記したように、本発明の実施態様においては、ティーチャーもスチューデントも、例えば、低レベルの意味においてはクライアントである。図9に示したように、本発明の実施態様において、デキストロネット(DextroNet)は、サーバクライアントアーキテクチャーが用いられる。そのようなアーキテクチャーでは、ティーチャーもスチューデントもクライアントである。サーバも、例えば、ティーチャーと多数のスチューデントの間の通信を行うために使用することができる。したがって、役割切り換えは、ネットワーキングを停止させたり、再接続することなく、現時点の通信セッションを用いる。全体のプロセス中、物理的な接続の変化は何も起こらない。唯一の論理的な新たな役割をサーバに割り当てる、および再割り当てをする必要がある。全てのクライアント間の役割変更を伝える通常のプロセスは、例えば、下記のものがある。スチューデントがコントロールの権利を要求し、ティーチャーが他のスチューデントに伝え、サーバは役割切り換えの準備をする。その後、例えば、ティーチャーもスチューデントも、下記に示す例示の役割変更にしたがって、それらのツールをリセットし更新する。
【0147】
・スチューデントとなる予定のティーチャーの機械は、スチューデントツールをローカルツールに変更し、彼のティーチャーツールを専用のリモートツール(すなわち、新しいティーチャーの)に変更する。他のリモートスチューデントのツールは、表示から削除される。
【0148】
・ティーチャーとなる予定のスチューデントの機械は、彼のティーチャーツールをローカルツールに変更し、他のスチューデントならびにスチューデントとなる予定のティーチャーのためのツールの表現(スチューデントツール)を追加する。
【0149】
・他のスチューデントの機械は、それらのティーチャーツールを新しいティーチャーに変えて表現する。彼らのツールは、スチューデントツールのまま維持される。
【0150】
これらの役割変更が完了するとすぐ、すべてのクライアントは、それらの新たな役割をサーバ上に再登録する。こうして役割切り換えが完了する。
【0151】
進行中の通信セッションを用いて、多数のスチューデントをサポートすることができる。データフローの管理は、注意が必要であり得る。例示の役割切り換えの前後に受信するデータは、例えば、分離する必要がある。また、役割のサーバ上への再登録は、例えば、同期させておくことが必要である。これを達成するために、全体のプロセスを、例えば、役割切り換えのための準備(フェーズI)、役割の変更(フェーズII)、そして新た役割のサーバへの登録(フェーズIII)といった3つのフェーズに分けることができる。各フェーズの終わりに、全てのクライアントの状態を同期させることができる。
【0152】
このプロセスを、図50乃至52を用いて以下のようにまとめることができる。
【0153】
A.フェーズI(図50)
(1)ティーチャーは、自分のコントロールを移管した全てのスチューデントに合図を行う。全てのスチューデントから肯定応答を得た後、彼のツールはリセットされ、サーバは、彼が今役割切り換えの準備ができていることを通知し、ゾンビの状態(すなわち、機械がデータの受信のみ可能で、送信をすることができない状態)に入る。
【0154】
(2)スチューデントは、ティーチャーからシグナルを受けると、自分はティーチャーになるのか、またはスチューデントのままでいるのか彼の機械によって確認する。一方、またサーバは、ツールをリセットした後、役割切り換えの準備ができたことを通知する。このリセットは、ボリュームオブジェクトに対して既になされた変更には影響を及ぼさない。そして、彼は、受動状態または「ゾンビ」状態に入る。それは、記載したように、機械がメッセージを受信するだけで送信を行わない状態を意味する。
【0155】
本発明の実施態様において、ユーザは、役割切り換えプロセスにおける全ての通知を気にする必要はない。全ての役割切り換えプロセシングは、ユーザが「役割切り換え」ボタンを押すと自動的に行われることができる(そして、上記の記載および次に示す内容中のティーチャーまたはスチューデントについての言及「何かをする」は実際に、そのような行動を行うソフトウェアの例について言及している)。
【0156】
本発明の実施態様において、サーバは、ティーチャーとスチューデントの間の通信を管理するために使用することができる。例えば、それは彼らの役割の覚書である格納されたリストであることができる。したがって、役割が切り換えられたとき、サーバに通知されなければならない。さらに、役割切り換え中、ティーチャーとスチューデントの間の状態は、各フェーズの最後に同期させなければならない。サーバは、例えば、このプロセスを調整することもできる。例えば、フェーズIの最後に、スチューデント/ティーチャーは、サーバに役割切り換えの準備ができたかどうかを通知しなければならない。この後、彼はゾンビ状態に入り、役割変更が可能なサーバからの指示を待つことになる。サーバは、例えば、いくつのクライアントが役割切り換えの準備ができているかを数えることができる。全てのクライアントの準備ができたことを知ったあと、彼は全員に指示を出し、彼らはフェーズIIに入ることができる。
【0157】
(3)サーバが、全てのクライアントが役割切り換えの準備をしたことを知ると、彼らにメッセージを送信し、ゾンビ状態から再開させる。
【0158】
(4)クライアント(ティーチャー―スチューデント)が再開すると、クライアントは、彼の役割を変更し、サーバに通知し、再びゾンビ状態に入る。
【0159】
C.フェーズIII(図52)
(5)サーバは、全ての彼のクライアントから、役割切り換えを行ったとのメッセージを受けると、彼はまずティーチャーを再開させる。
【0160】
(6)ティーチャーは、サーバに再登録を行い、サーバに通知する。次いで、サーバは、スチューデントを再開させる。
【0161】
(7)スチューデントは、サーバに再登録を行い、ティーチャーは、最初のスナップショットをスチューデントから受信した後、ティーチャーは、サーバに、次のスチューデントを再開させるように要求する。
【0162】
(8)ステップ(7)は、例えば、全てのスチューデントが再登録するまで繰り返すことができる。
【0163】
さらに、本発明の実施態様において、上記プロセスを経て各役割切り換えを行って、ティーチャーの役割は、複数の関係者に対して、関係者から関係者に回すことができる。
【0164】
VIII.データフォーマット
本発明の実施態様において、以下の策を使用して、リモートターミナルへの適切な表示を確保することができる。
【0165】
A.データ
各サイド(ティーチャー―スチューデント) は、同じデータのコピーを保持している。もしデータが異なれば、全データセットを同期させることができる(データファイルの圧縮および送信)。
【0166】
B.初期化
本発明の実施態様において、ネットワーキング機能を初期化する際の両サイドでバーチャルコントロールパネルを同期させることができる。例えば、デキストロスコープ(Dextroscope)(登録商標)/デキストロビーム(DextroBeam)(登録商標)ワークステーションにおいて、バーチャルコントロールパネルは、解釈中、3Dトラッカーが休止している場合、物理的なアクリルベースを用いて正確に測定しなければならない。それによって、バーチャルツールは、バーチャルコントロールパネル上の対応する部分にタッチすることができる。こうして、目盛りおよび構成はローカルとなり、機械ごとに変わる。このことによって、例えば、ティーチャーのツールがスチューデントのコントロールパネルにタッチすることができなくなるといったミスマッチを、ネットワーキングの間に起こることがある。この問題を回避するために、本発明のいくつかの実施態様においては、コントロールパネルを同期させることができる。ネットワーキング機能が稼動している間に、ティーチャーのコントロールパネルの位置、方向、および大きさをスチューデントに送信することができ、スチューデント自身のコントロールパネルのパラメータを置き換えることができる。ネットワーキング機能が終了すると、スタンドアロンで作動するようにスチューデントの前の構成を回復させることができる。本発明の実施態様において、ネットワーキング機能を初期化する際に両サイドの視点を同期させることができる。適切な表示のために、ティーチャーとスチューデントは、同じ目の位置、見る位置、投影の幅と高さ、回転角度などを共有すべきである。したがって、視点に関する全ての情報は、ネットワーキング機能の開始時に同期させるべきである。
【0167】
本発明の実施態様において、ネットワーキング機能を初期化する際に、両サイドのズームボックスを同期させることができる。したがって、ネットワーキング機能が開始すれば、当該両サイドのズームボックスを位置、方向、境界、コンピュータスクリーン領域などによって、同期を取らなければならない。
【0168】
C.ウィジェットを同期する
本発明の実施態様において、ネットワーキング機能の開始時、両サイドのコントロールパネルのスライダーバーの位置、ボタンやタブの状態、色彩自動照合表のリストなどの初期状態は異なっているかもしれない。これらの全てのパラメータは、そろえる必要がある。
【0169】
D.通信
本発明の実施態様において、2つのタイプの座標系を用いることができる。世界座標とオブジェクト座標である。世界座標は、バーチャルワールドに取り付けらた座標である。オブジェクト座標は、バーチャルワールドの各バーチャルオブジェクトに取り付けらたものである。本発明の実施態様において、全バーチャルツールを世界座標に表示することができる。ティーチャーおよびスチューデントは、それぞれそれらが使用する座標系のタイプと通信することができる。
【0170】
スチューデントが従事しているモード(「ロックオン」)のとき、ティーチャーもスチューデントも、世界座標における自分のツール名、状態、位置、方向、および大きさを彼の仲間に送信する。
【0171】
スチューデントが開放されたモード(「ロックオン」でない)のとき、ティーチャー側でティーチャーのツールがコントロールパネルにタッチすれば、ティーチャーは、世界座標におけるツール名、状態、位置、方向、および大きさをスチューデントに送信する。そうでなければ、彼は、オブジェクト座標における位置、方向、および大きさをスチューデントに送信する。スチューデントは、ティーチャーのツールに関連する情報を受信すると、彼は、受信した情報をオブジェクト座標から世界座標に変換し、その後、彼の世界にティーチャーのツールを表示する。一方、スチューデントは、オブジェクト座標における彼のツール名、状態、位置、方向、および大きさをティーチャーに送信する。ティーチャーは、その後それらを世界座標に変換することができる。スチューデントのツールを表示する前に行うことができる。本発明の実施態様において、スチューデントは、何の行動が起こっているかを、彼の世界のティーチャーのバーチャルツールの位置、方向、および状態に基づいて決定することができる。
【0172】
本発明の実施態様において、デキストロネット(DextroNet)は、ティーチャー側およびスチューデント側の視点のモードの同期を取ることができる。スチューデントは、視点を開放することを選択することができる。彼は、例えば、彼のスタイラスのボタンを押すことができる。この行動によって、メッセージがティーチャーの機械に送信され、「私は、離れます」という効果が生じる。スチューデントは、例えば、実際に彼の視点を切り換えることはできない。彼は、ティーチャーからの世界座標を使用し続ける。ティーチャーの機械がスチューデントのメッセージを受信すると、例えば、次に当該スチューデントに肯定応答を送信することができ、そして、その後は、オブジェクト座標に変わる。スチューデント機は、そのような肯定応答をティーチャー機から受信すると、その後実際に離れるための変更を行い、その後オブジェクト座標を使用することができるようになる。
【0173】
例えば、スチューデントが再び従事する場合、状況は同じである。したがって、本発明の実施態様において、ティーチャー機が、スチューデントが離れることを決定したことを知ったとき、スチューデント機ができるのは、スチューデントの視点を変更することだけである。このようにすれば、離脱や再従事の前後に、ティーチャー機とスチューデント機の間の座標の種類についての衝突が、生じるのを回避することができる。
【0174】
E.電信フォーマット
本発明の実施態様においては、例えば、2つの電信フォーマットが存在し得る。1つは、例えば、メッセージの更新に用いることができ、他方は、例えば、ファイルに用いることができる。
【0175】
1.メッセージの更新のためのフォーマットI
図54は、メッセージの更新のための第1のフォーマットの例を示す。例えば、以下の属性を持つ以下のフィールドを使用することができる。
【0176】
開始タグ(Begin Tag):電信の開始を示す(符号なしの文字);
データ型(Data Type):コンテンツがメッセージの更新であるのかファイルであるかを示す。メッセージの更新の場合、この値は2である(符号なしの整数);
IP:送信元のIPアドレス(符号なしの文字);
オブジェクト名:このメッセージを利用するために割り当てられたオブジェクト;
座標系(Co-ord System):電信(符号なしの文字)中の位置、方向、および大きさを解釈するための座標系。例えば、2つの可能な値が存在する:世界座標には「wld」、オブジェクト座標には「app」;
位置(Position):「オブジェクト名」中のオブジェクトの位置。1つの位置は、浮動中に3つの値x、y、zを含む;
方向(Orientation): 「オブジェクト名」中のオブジェクトの方向。方向は、4x4マトリクスである。マトリクス中の各要素は浮動するものである;
状態(State):必要に応じて「オブジェクト名」中のオブジェクトの状態(符号なしの文字)。オブジェクトがツールであれば、その値は、4つの状態:MK_CHECK、MK_START_ACTION、MK_DO_ACTION、MK_END_ACTIONのうちの1つとなる。
大きさ(Size):「オブジェクト名」中のオブジェクトの大きさ。大きさは3つの値:x、y、zを浮動中に持つ;
終了タグ(End Tag):電信の終了を示す(符号なしの文字)
【0177】
図55(a)乃至55(c)は、図54のフォーマットを用いる3つの例を説明する図である。図55(a)は、コントロールパネルとの同期を取るためのメッセージの更新を説明する図である。図55(b)は、ウィジェットとの同期を取るためのメッセージの更新を説明する図である。図55(c)は、バーチャルツールとの同期を取るためのメッセージの更新を説明する図である。
【0178】
2.ファイル転送
本発明の実施態様において、長いファイルは、いくつかのブロックに分割して転送することができる。各電信は、そのようなブロックを含むことができる。本発明の実施態様において、ファイルを実際に転送する前に、更新メッセージを送信し、仲間にファイルを転送する旨を伝えることができる。「大きさ」フィールドが合計ブロック数(Total Block Number)(符号なしの整数)、ブロックの大きさ(Block Size)(符号なしの整数)、および最後のブロックの大きさ(Last Block Size)(符号なしの整数)を含むように修正することができるとすれば、図54に示されているフォーマット1は、そのような更新メッセージ中で送信することができる。図56にそのような更新メッセージの例を示している。図56は、991KB(1,014,921バイト)の例示的ファイルの転送に関する例示的更新メッセージを示す。したがって、大きさフィールド内のデータを考慮して、仲間は、そのファイルが248ブロックであり、最後のブロックを除いた各ブロックの大きさが4096バイトであり、最後のブロックが3209バイトであることを知る。ファイル自体は、ファイル転送に採用される更新メッセージのための第2のフォーマットを用いて送信することができる。
【0179】
3.メッセージの更新のためのフォーマットII
図57は、メッセージの更新のための第2のフォーマットの例を示す。本発明の実施態様において、以下のフィールドを使用することができる。
【0180】
開始タグ(Begin Tag):電信の開始を示す(符号なしの文字);
データ型(Data Type):コンテンツがメッセージの更新であるのかファイルであるかを示す。ファイルの場合、この値は1である(符号なしの整数);
ファイルブロック(File Block):二進法でのファイルのブロック(符号なしの文字);
終了タグ(End Tag):電信の終了を示す(符号なしの文字)
【0181】
例示のファイル転送送信においては、それぞれが4096バイトである最初の247ブロックは、例えば、図58(a)に示すように送信することができ、それぞれが3209バイトである最後のブロックは、フォーマットIIを用いて図58(b)に示すように送信することができる。
【0182】
本発明は、1以上の実施態様と関連付けて説明したが、それらの限定されるものではなく、添付の請求項は、特定のフォーマットおよび示されている本発明の変更例を含むだけでなく、本発明の真の範囲から逸脱せずに、当業者によって修正され得るものをさらに含むと解釈される。
【図面の簡単な説明】
【0183】
【図1】図1は、本発明のある実施態様における、ティーチャー型ワークステーションの例を示すプロセスフローチャートである。
【図2】図2は、本発明のある実施態様における、ネットワークを介して接続された種々のワークステーションの例を示すシステムレベル図である。
【図3】図3は、本発明のある実施態様における、スチューデント型ワークステーションの例を示すプロセスフローチャートである。
【図4】図4は、本発明のある実施態様における、外科医ワークステーションの例を示すプロセスフローチャートである。
【図5】図5は、本発明のある実施態様における、可視化援助ワークステーションの例を示すプロセスフローチャートである。
【図6】図6は、本発明のある実施態様における、外科医の標準的(空き)な図である。
【図7】図7は、本発明のある実施態様における、使用中の外科医の標準的な図である。
【図8】図8は、本発明のある実施態様における、可視化援助の例を示す図である。
【図9】図9は、本発明のある実施態様における、ティーチャー―スチューデントパラダイムアーキテクチャーの例を示す図である。
【図10】図10aないし10eは、本発明のある実施態様における、デキストロネット(デキストロネット(DextroNet))の一例の上で接続されたティーチャー―スチューデントパラダイムアーキテクチャーの例を示す図である。
【図11−13】図11乃至13は、図10a乃至10cを拡大して連続的に示した図である。
【図14】図14a乃至14cは、例として、図10のティーチャーと2人のスチューデントによってロックオンモードで観察される、3Dデータセットの例を示す図である。
【図15−17】図15乃至17は、図14a乃至14cを拡大して連続的に示した図である。
【図18】図18a乃至18cは、図14a乃至14cに示される3Dデータセットの例を示す図であり、そこでは、ティーチャーが測定を行い、スチューデント1が空きの図のモードに切り換えを行っている。
【図19−21】図19乃至21は、図18a乃至18cを拡大して連続的に示した図である。
【図22】図22a乃至22cは、ティーチャーがペンを動かした後の図18a乃至18cの例をそれぞれ示す図である。
【図23−25】図23乃至25は、図22a乃至22cを拡大して連続的に示した図である。
【図26−30】図26乃至39は、本発明のある実施態様における、二人のスチューデントがネットワーキングセッションに参加している、ティーチャーの見地からの順序の例を示す図である。
【図31】図31は、本発明のある実施態様における、可視化援助の2つの例を示す図である。
【図32−33】図32乃至33は、図31を拡大して連続的に示した図である。
【図34】図34は、本発明のある実施態様における、図31に示された可視化援助に対応する外科医の例を示す図である。
【図35】図35は、本発明のある実施態様における、両当事者が所与のポイントをファントムオブジェクト上に位置づけたときの、可視化援助と外科医の視点をそれぞれ示す図である。
【図36−37】図36乃至37は、図35を拡大して連続的にそれぞれ示した図である。
【図38】図38は、本発明のある実施態様における、外科医を援助して、あるポイントをオブジェクト上に位置づける可視化援助を示す図である。
【図39−40】図39乃至40は、図38を拡大して連続的にそれぞれ示した図である。
【図41】図41は、本発明のある実施態様における、外科医と協同して、あるポイントをオブジェクト上に位置づける例をさらに示す図である。
【図42−43】図42乃至43は、図41を拡大して連続的にそれぞれ示した図である。
【図44】蛍光透視法による画像の例を示す図である。
【図45】図45は、インターベンションを行う心臓病専門医の視点の例を示す図である。
【図46】図46は、本発明のある実施態様における、図45に対応する可視化援助の例を外科医と協同して、あるポイントをオブジェクト上に位置づける例をさらに示す図である。
【図47】図47は、本発明のある実施態様における、図46に示した可視化援助の例によって作成された図中図の例を示す図である。
【図48】図48は、本発明のある実施態様における、図46乃至47に示した可視化援助3D図の他の例を示す図である。
【図49】図49は、本発明のある実施態様における、インターベンションを行う心臓病専門医の視点の別の例を示す図である。
【図50】図50は、本発明のある実施態様における、第1ステージの役割スイッチプロセスの例を示す図である。
【図51】図51は、本発明のある実施態様における、第2ステージの役割スイッチプロセスの例を示す図である。
【図52】図52は、本発明のある実施態様における、第3ステージおよび最終ステージの役割スイッチプロセスの例を示す図である。
【図53】図53aおよび53bは、本発明のある実施態様における、ティーチャー(または、メインユーザ)システムの一例でデータ送信キューを示す図である。
【図54】図54は、本発明のある実施態様における、フォーマットを更新するするメッセージの例を示す図である。
【図55】図55a乃至55cは、本発明のある実施態様における、図54のメッセージフォーマットを用いて、コントロールパネル、ウィジェット、およびツールの一例を更新するメッセージの例を示す図である。
【図56】図56は、本発明のある実施態様における、図54のメッセージフォーマットを用いて、ファイル転送に関するメッセージの例を示す図である。
【図57】図57は、本発明のある実施態様における、フォーマットを更新する別のメッセージの例を示す図である。
【図58】図58a至58bは、本発明のある実施態様における、図54のメッセージフォーマットの一例を用いたファイル転送メッセージを示す図である。
【特許請求の範囲】
【請求項1】
3次元画像をインタラクティブに処理するための装置であって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記装置は、
通信リンク上で、1以上のリモート機の1以上のリモートプローブの位置データを受信し、
前記少なくとも1つのリモートプローブと前記3次元画像とを含む組み合わされた3次元シーンを、ローカルディスプレイ上に表示するために作成し、
前記装置に対してローカルであるユーザによるローカルプローブの処理に応答して、前記3次元画像を処理し、
前記通信リンク上で、前記装置に対してローカルである前記ユーザによる前記処理に関連するデータであって、前記少なくとも1つのリモート機に前記3次元画像上で処理を行うローカルプローブの画像を含む組み合わされた3次元シーンを表示させるのに十分なデータを送信する、
ように構成されている、装置。
【請求項2】
さらに、ネットワーク条件に応答して、前記装置に対してローカルである前記ユーザによる前記処理に関して送信された前記データをフィルタリングするように構成されている、請求項1に記載の装置。
【請求項3】
前記フィルタリングは、前記3次元画像を実質的に修正しないデータパケットを落とす、請求項3に記載の装置。
【請求項4】
前記フィルタリングは、ツールの動きとツールの状態のうちの1つに関連するパケットを落とす、請求項3に記載の装置。
【請求項5】
さらに、前記1以上のリモート機のIPアドレス、ユーザ名、およびユーザ識別子のうちの少なくとも1つを表示するように構成されている、請求項1に記載の装置。
【請求項6】
前記1以上のリモート機に送信された、前記装置に対してローカルである前記ユーザによる前記処理に関する前記データは、前記ローカルプローブが前記1以上のリモート機と関連するプローブであるかのように前記ローカル機のバーチャルコントロールパネルと対話することによって、前記1以上のリモート機に、前記3次元画像上での処理を行う前記ローカルプローブの画像を表示させるのに十分である、請求項1に記載の装置。
【請求項7】
さらに、前記装置に対してローカルである前記ユーザの指令に応答して、前記1以上のリモート機の表示のスナップショットを受信するように構成されている、請求項1に記載の装置。
【請求項8】
さらに、前記装置に対してローカルである前記ユーザの指令に応答して、前記装置と前記1以上のリモート機のいずれかとの間に3次元画像の同期を引き起こすように構成されている、請求項1に記載の装置。
【請求項9】
前記同期を引き起こすことは、前記装置上に格納されている前記3次元画像の圧縮されているコピーを、前記1以上のリモート機に送信することを含む、請求項8に記載の装置。
【請求項10】
前記同期を引き起こすことは、前記装置の前記3次元画像上で実行されたインタラクティブ指令のリストを送信することを含む、請求項8に記載の装置。
【請求項11】
前記装置はさらに、リモート機のリモートユーザによるリクエストに応答して、前記ローカル機と前記リモート機の役割を切り換えるように構成されている、請求項1乃至10のいずれかに記載の装置。
【請求項12】
3次元画像をインタラクティブに処理するための装置であって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記装置は、
通信リンク上で、1つのリモート機の1つのリモートプローブの位置データを受信し、
1つのローカルプローブの位置データを受信し、
前記リモートプローブと、前記ローカルプローブと、前記3次元画像とを含む、組み合わされた3次元シーンを、ディスプレイ上に表示するために作成し、
前記リモートプローブの処理に応答して、前記ローカルプローブを介して前記リモート機に対してローカルであるユーザによる前記3次元画像の処理と実質的に等しいやり方で前記3次元画像を処理する、
ように構成されている、装置。
【請求項13】
前記リモートプローブが前記装置と関連するプローブであるかのように、前記リモートプローブの処理に応答した前記3次元画像の処理が、前記ローカル機のバーチャルコントロールパネルと対話するリモートプローブの画像として表示される、請求項12に記載の装置。
【請求項14】
さらに、前記リモート機のIPアドレス、ユーザ名(原語:usemame)、およびユーザ識別子のうちの少なくとも1つを表示するように構成されている、請求項12に記載の装置。
【請求項15】
さらに、前記リモート機の指令に応答した前記表示のスナップショットを送信するように構成されている、請求項12に記載の装置。
【請求項16】
さらに、前記リモート機の指令に応答して、通信リンク上で、リモート機から送信された画像データを用いた3次元画像を同期させるように構成されている、請求項12に記載の装置。
【請求項17】
さらに、リモート機に対してローカルであるユーザのものと同じ視点、および前記リモート機に対してローカルであるユーザのものとは異なる任意の視点を持つ、3次元画像を表示するように構成されている、請求項12に記載の装置。
【請求項18】
さらに、バーチャルコントロールパネルを表示するように構成されている、請求項17に記載の装置。
【請求項19】
さらに、前記3次元画像が前記リモート機に対してローカルであるユーザのものとは異なる任意の視点で表示されるとき、前記装置に対してローカルであるユーザの指令に応答して、専用のローカルコントロールパネルを表示するように構成されている、請求項17に記載の装置。
【請求項20】
さらに、ユーザに、前記3次元画像上でローカル操作を行わせるように構成されている、請求項12乃至19のいずれかに記載の装置。
【請求項21】
前記ローカル操作は、どのボクセルがオブジェクトの一部であるとみなされるかということに影響を及ぼさない処理を含む、請求項20に記載の装置。
【請求項22】
前記ローカル操作は、オブジェクトの翻訳および回転、ならびに倍率および透明性の設定のうちの1以上を含む、請求項20に記載の装置。
【請求項23】
さらに、前記3次元画像の追加的ローカルコピーを作成し、前記追加的コピーを、前記装置に対してローカルである前記ユーザから受信した処理に応答して処理するように構成されている、請求項12または17に記載の装置。
【請求項24】
前記装置はさらに、前記対象に関する追加的データを、前記対象に対してローカルであり、前記リモート機の1つに対してローカルであるリモート装置から受信するように構成され、前記追加的データは、前記対象の3次元画像にコレジスタされている、請求項1に記載の装置。
【請求項25】
前記対象に関する前記追加的データは、ほぼリアルタイムで取得される、請求項24に記載の装置。
【請求項26】
前記対象に関する前記追加的データは、リアルタイムのビデオ、あらかじめ記録されたビデオ、前記対象に対してローカルであるプローブまたは機器の位置データ、蛍光透視画像、超音波画像、およびマルチモーダル画像のうちの1以上である、請求項24に記載の装置。
【請求項27】
さらに、前記対象に対してローカルであり、前記リモート機の1つに対してローカルであるリモート装置からの、前記対象に関する追加的データを表示するように構成されている、請求項1乃至12のいずれかに記載の装置。
【請求項28】
前記追加的データは、前記対象の3次元画像にコレジスタされている、請求項27に記載の装置。
【請求項29】
前記追加的データは、ほぼリアルタイムである、請求項27に記載の装置。
【請求項30】
前記追加的データは、前記対象に関する前記追加的データは(原文どおり)、リアルタイムのビデオ、あらかじめ記録されたビデオ、前記対象に対してローカルであるプローブまたは機器の位置データ、蛍光透視画像、超音波画像、およびマルチモーダル画像のうちの1以上である、請求項27に記載の装置。
【請求項31】
3次元画像をインタラクティブに処理するためのシステムであって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記システムは、
請求項1乃至11または27乃至30のいずれかに記載の装置を含むメインワークステーションと、
請求項12乃至26のいずれかに記載の装置を含む、1以上の離れたワークステーションと、
データネットワークとを含み、
前記メインワークステーションおよび前記1以上の離れたワークステーションのそれぞれは、前記データネットワークを介して接続されている、システム。
【請求項32】
3次元画像をインタラクティブに処理する方法であって、前記画像は、対象に関するイメージングデータから作成されるボリューメトリックデータを含み、前記方法は、
請求項1乃至11または27乃至30のいずれかに記載の第1の装置を提供するステップと;
請求項12乃至26のいずれかに記載の1以上の第2の装置を提供するステップと;
データネットワークを提供し、前記第1の装置と前記1以上の第2の装置を、データネットワークを介して接続するステップと;を含み、
操作において、前記第1の装置のユーザおよび前記1以上の第2の装置のユーザは、協同して共通の3Dデータセットを可視化する、方法。
【請求項33】
前記第1の装置の前記ユーザの初期化において、前記第1の装置の前記ユーザと第2の装置のユーザが役割を切り換える、請求項33に記載の方法。
【請求項34】
ネットワークで結ばれたインタラクティブ3次元データ可視化システムであって、
対象のリアルタイム画像を取得し、それらを前記対象のコレジスタされた3Dボリューメトリックモデルの部分と組み合わせるためのメインシステムと;
前記組み合わされた画像を少なくとも1人のユーザに対して表示するためのディスプレイと;
プローブと;
前記プローブの位置をトラッキングするためのトラッキングユニットと;
データネットワークと;
それぞれがトラッキングされたバーチャルツールを備えた前記データネットワークによって、前記メインシステムに、通信できるように接続された前記組み合わされた画像を、インタラクティブに可視化するための1以上のリモートシステムと、を含み、
前記メインシステムのプローブのトラッキングされた位置と、組み合わされた画像は、前記データネットワーク上の各リモートシステムによって受信され、
前記リモートシステムは、前記組み合わされた画像または前記コレジスタされた3Dボリューメトリックモデルをインタラクティブに処理し、そのような処理された画像を前記メインシステムおよび他の全てのリモートシステムのディスプレイに送信する、システム。
【請求項35】
前記組み合わされた画像は、前記対象上に載せられた2Dリアルタイムビデオである、請求項34に記載のシステム。
【請求項36】
前記メインワークステーションおよびリモートワークステーションを採用して、コンピュータ生成画像を修正し、前記対象上で行われる操作をシミュレイトする、請求項34または35に記載のシステム。
【請求項37】
前記シミュレイトされる操作は、対象のボリューメトリックモデルの部分の除去を含む、請求項36に記載のシステム。
【請求項38】
前記メインシステムまたはリモートシステムを採用して、少なくとも1人のユーザからの、前記ボリューメトリックモデルの区分化された部分の色付けに対する、変更を受信する、請求項34に記載のシステム。
【請求項39】
前記メインシステムを採用して、第1のユーザから測定のためのボリューメトリックモデルの選択されたポイントを受信し、前記第2のシステムを採用して、第2のユーザから測定のためのボリューメトリックモデルの選択されたポイントを受信する、請求項34に記載のシステム。
【請求項40】
前記メインシステムまたは1つのリモートシステムは、少なくとも1人のユーザからの入力を受け、表示された関心領域上で拡大する、請求項34に記載のシステム。
【請求項41】
前記メインシステムまたは1つのリモートシステムを採用して、ボリューメトリックモデルの少なくとも1つの区分化されたオブジェクトの透明性または不透明性を変更するために、少なくとも1人のユーザからの入力を受ける、請求項34に記載のシステム。
【請求項42】
前記メインシステムまたは1つのリモートシステムを採用して、前記組み合わされた画像を修正して、前記操作の対象の物理的形状の中に変更を表現し、前記修正は、前記プローブのトラッキングされた位置に依存する、請求項34に記載のシステム。
【請求項43】
限定された3次元領域で操作を行う少なくとも1人のユーザによって使用される方法であって、前記方法は、
操作の対象の画像を作成するステップと;
前記画像を、前記対象とコレジストレーションの関係にある少なくとも1人のユーザに対して、表示するステップと;
長手方向の軸を持つプローブの位置を第1のシステムによってトラッキングするステップと;
その位置を第1のデータプロセシング装置と第2のシステムに対して送信するステップであって、
前記第1のデータプロセシング装置は、前記プローブの長手方向の軸に平行に伸びるラインにしたがって画像を作成し、前記ラインは、第1のユーザによってコントロールされる延長コントロール装置の出力にしたがって延長がコントロールされており、
第2のデータプロセシング装置を持つ前記第2のシステムは、前記操作の対象の少なくとも1つの画像を、前記画像を前記少なくとも1人のユーザに対して表示を行う少なくとも1つのディスプレイ上に作成し、そして、
前記第1のシステムの前記プローブの前記トラッキングされた位置は、前記第2のシステムに、通信ネットワーク上で受信されるステップと;
前記第1および第2のデータプロセシング装置をコントロールして前記操作の対象の前記少なくとも1つの画像を前記ラインのコントロールされた延長に従って修正するステップとを含む、方法。
【請求項44】
前記第1のシステムの前記ディスプレイは、前記対象上に載せられた前記操作の対象の画像を作成する、請求項43に記載の方法。
【請求項45】
前記第1または第2のデータプロセシング装置は、コンピュータ生成画像を修正して、前記対象上で行われる操作をシミュレイトし、前記シミュレイトされる操作は、前記ラインの延長をコントロールすることによってコントロールされる、請求項43または44に記載の方法。
【請求項46】
前記シミュレイトされる操作は、コンピュータ生成画像の前記ラインの延長によって示される患者の深部にいたる部分の除去を含む、請求項45に記載の方法。
【請求項47】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからのコンピュータ生成画像の色付けに対する変更を受信する、請求項43に記載の方法。
【請求項48】
前記第1のシステムは、測定のための選択されたポイントを第1のユーザから受信し、前記第2のシステムは、測定のための選択されたポイントを第2のユーザから受信する、請求項43に記載の方法。
【請求項49】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからの入力を受け、表示された関心領域上で拡大する、請求項43に記載の方法。
【請求項50】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからの入力を受け、少なくとも1つの透明性または不透明性を変更する、請求項43に記載の方法。
【請求項51】
前記第1のデータプロセシング装置または第2のデータプロセシングは、画像を修正し、前記操作の対象の物理的形状の中に変更を表現し、前記修正は、前記プローブのトラッキングされた位置に依存する、請求項43に記載の方法。
【請求項52】
ネットワークで結ばれたインタラクティブ3次元データ可視化システムであって、
メインシステムと;
複数の画像を少なくとも1人のユーザに対して表示するためのディスプレイと;
プローブと;
前記プローブの位置をトラッキングするためのトラッキングユニットと;
データネットワークと;
それぞれがトラッキングされたバーチャルツールを備えた前記データネットワークによって、前記メインシステムに、通信できるように接続された前記画像を、インタラクティブに可視化するための1以上のリモートシステムと、を含み、
前記メインシステムのプローブのトラッキングされた位置と、前記画像は、前記データネットワーク上の各リモートシステムによって受信され、
前記リモートシステムのそれぞれは、前記組み合わされた画像または前記コレジスタされた3Dボリューメトリックモデルをインタラクティブに処理し、そのトラッキングされたバーチャルツールの位置を前記メインシステムに送信する、システム。
【請求項53】
メインシステムとリモートシステムの役割を繰り返し変更することができる、請求項52のシステム。
【請求項54】
前記リモートシステムは、データセットの前記メインシステムのビューまたはそれ自身のビューのいずれかを見ることができる、請求項52のシステム。
【請求項55】
前記リモートシステムは、あらゆる可視化処理を局所的に行うことができるが、データセットを修正することはできない、請求項52のシステム。
【請求項56】
前記メインシステムは、そのインターフェースおよびデータセットと、任意の時間に、任意のリモートシステムとの同期をとることができる、請求項52のシステム。
【請求項57】
協同的に、インタラクティブに、ボリューメトリックオブジェクトまたはシステムを可視化し、処理するための方法であって、
ローカルユーザが、オブジェクトまたはシステムのリアルタイム画像を取得し、それらと、同じオブジェクトまたはシステムのコレジスタされた3Dデータセットとを、メインワークステーションを使って組み合わせ、前記ローカルユーザは前記組み合わされた画像を局所的に表示し、それらをデータネットワークで送信するステップと;
それぞれが前記データネットワークに接続している1以上のリモートユーザが、前記組み合わされた画像を受信し、前記組み合わされた画像および前記コレジスタされたスキャン画像の少なくとも1つを、リモートワークステーションを用いて処理するステップと、を含み、
前記メインユーザおよび前記リモートユーザのそれぞれは、前記組み合わせ画像および前記3Dデータセットを処理することができ、
前記処理は、前記メインワークステーションおよび各リモートワークステーション上での実質的に周期のとれた表示のためにデータネットワークに送信される、方法。
【請求項1】
3次元画像をインタラクティブに処理するための装置であって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記装置は、
通信リンク上で、1以上のリモート機の1以上のリモートプローブの位置データを受信し、
前記少なくとも1つのリモートプローブと前記3次元画像とを含む組み合わされた3次元シーンを、ローカルディスプレイ上に表示するために作成し、
前記装置に対してローカルであるユーザによるローカルプローブの処理に応答して、前記3次元画像を処理し、
前記通信リンク上で、前記装置に対してローカルである前記ユーザによる前記処理に関連するデータであって、前記少なくとも1つのリモート機に前記3次元画像上で処理を行うローカルプローブの画像を含む組み合わされた3次元シーンを表示させるのに十分なデータを送信する、
ように構成されている、装置。
【請求項2】
さらに、ネットワーク条件に応答して、前記装置に対してローカルである前記ユーザによる前記処理に関して送信された前記データをフィルタリングするように構成されている、請求項1に記載の装置。
【請求項3】
前記フィルタリングは、前記3次元画像を実質的に修正しないデータパケットを落とす、請求項3に記載の装置。
【請求項4】
前記フィルタリングは、ツールの動きとツールの状態のうちの1つに関連するパケットを落とす、請求項3に記載の装置。
【請求項5】
さらに、前記1以上のリモート機のIPアドレス、ユーザ名、およびユーザ識別子のうちの少なくとも1つを表示するように構成されている、請求項1に記載の装置。
【請求項6】
前記1以上のリモート機に送信された、前記装置に対してローカルである前記ユーザによる前記処理に関する前記データは、前記ローカルプローブが前記1以上のリモート機と関連するプローブであるかのように前記ローカル機のバーチャルコントロールパネルと対話することによって、前記1以上のリモート機に、前記3次元画像上での処理を行う前記ローカルプローブの画像を表示させるのに十分である、請求項1に記載の装置。
【請求項7】
さらに、前記装置に対してローカルである前記ユーザの指令に応答して、前記1以上のリモート機の表示のスナップショットを受信するように構成されている、請求項1に記載の装置。
【請求項8】
さらに、前記装置に対してローカルである前記ユーザの指令に応答して、前記装置と前記1以上のリモート機のいずれかとの間に3次元画像の同期を引き起こすように構成されている、請求項1に記載の装置。
【請求項9】
前記同期を引き起こすことは、前記装置上に格納されている前記3次元画像の圧縮されているコピーを、前記1以上のリモート機に送信することを含む、請求項8に記載の装置。
【請求項10】
前記同期を引き起こすことは、前記装置の前記3次元画像上で実行されたインタラクティブ指令のリストを送信することを含む、請求項8に記載の装置。
【請求項11】
前記装置はさらに、リモート機のリモートユーザによるリクエストに応答して、前記ローカル機と前記リモート機の役割を切り換えるように構成されている、請求項1乃至10のいずれかに記載の装置。
【請求項12】
3次元画像をインタラクティブに処理するための装置であって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記装置は、
通信リンク上で、1つのリモート機の1つのリモートプローブの位置データを受信し、
1つのローカルプローブの位置データを受信し、
前記リモートプローブと、前記ローカルプローブと、前記3次元画像とを含む、組み合わされた3次元シーンを、ディスプレイ上に表示するために作成し、
前記リモートプローブの処理に応答して、前記ローカルプローブを介して前記リモート機に対してローカルであるユーザによる前記3次元画像の処理と実質的に等しいやり方で前記3次元画像を処理する、
ように構成されている、装置。
【請求項13】
前記リモートプローブが前記装置と関連するプローブであるかのように、前記リモートプローブの処理に応答した前記3次元画像の処理が、前記ローカル機のバーチャルコントロールパネルと対話するリモートプローブの画像として表示される、請求項12に記載の装置。
【請求項14】
さらに、前記リモート機のIPアドレス、ユーザ名(原語:usemame)、およびユーザ識別子のうちの少なくとも1つを表示するように構成されている、請求項12に記載の装置。
【請求項15】
さらに、前記リモート機の指令に応答した前記表示のスナップショットを送信するように構成されている、請求項12に記載の装置。
【請求項16】
さらに、前記リモート機の指令に応答して、通信リンク上で、リモート機から送信された画像データを用いた3次元画像を同期させるように構成されている、請求項12に記載の装置。
【請求項17】
さらに、リモート機に対してローカルであるユーザのものと同じ視点、および前記リモート機に対してローカルであるユーザのものとは異なる任意の視点を持つ、3次元画像を表示するように構成されている、請求項12に記載の装置。
【請求項18】
さらに、バーチャルコントロールパネルを表示するように構成されている、請求項17に記載の装置。
【請求項19】
さらに、前記3次元画像が前記リモート機に対してローカルであるユーザのものとは異なる任意の視点で表示されるとき、前記装置に対してローカルであるユーザの指令に応答して、専用のローカルコントロールパネルを表示するように構成されている、請求項17に記載の装置。
【請求項20】
さらに、ユーザに、前記3次元画像上でローカル操作を行わせるように構成されている、請求項12乃至19のいずれかに記載の装置。
【請求項21】
前記ローカル操作は、どのボクセルがオブジェクトの一部であるとみなされるかということに影響を及ぼさない処理を含む、請求項20に記載の装置。
【請求項22】
前記ローカル操作は、オブジェクトの翻訳および回転、ならびに倍率および透明性の設定のうちの1以上を含む、請求項20に記載の装置。
【請求項23】
さらに、前記3次元画像の追加的ローカルコピーを作成し、前記追加的コピーを、前記装置に対してローカルである前記ユーザから受信した処理に応答して処理するように構成されている、請求項12または17に記載の装置。
【請求項24】
前記装置はさらに、前記対象に関する追加的データを、前記対象に対してローカルであり、前記リモート機の1つに対してローカルであるリモート装置から受信するように構成され、前記追加的データは、前記対象の3次元画像にコレジスタされている、請求項1に記載の装置。
【請求項25】
前記対象に関する前記追加的データは、ほぼリアルタイムで取得される、請求項24に記載の装置。
【請求項26】
前記対象に関する前記追加的データは、リアルタイムのビデオ、あらかじめ記録されたビデオ、前記対象に対してローカルであるプローブまたは機器の位置データ、蛍光透視画像、超音波画像、およびマルチモーダル画像のうちの1以上である、請求項24に記載の装置。
【請求項27】
さらに、前記対象に対してローカルであり、前記リモート機の1つに対してローカルであるリモート装置からの、前記対象に関する追加的データを表示するように構成されている、請求項1乃至12のいずれかに記載の装置。
【請求項28】
前記追加的データは、前記対象の3次元画像にコレジスタされている、請求項27に記載の装置。
【請求項29】
前記追加的データは、ほぼリアルタイムである、請求項27に記載の装置。
【請求項30】
前記追加的データは、前記対象に関する前記追加的データは(原文どおり)、リアルタイムのビデオ、あらかじめ記録されたビデオ、前記対象に対してローカルであるプローブまたは機器の位置データ、蛍光透視画像、超音波画像、およびマルチモーダル画像のうちの1以上である、請求項27に記載の装置。
【請求項31】
3次元画像をインタラクティブに処理するためのシステムであって、前記画像は、対象に関するイメージングデータから作成されたボリューメトリックデータを含み、前記システムは、
請求項1乃至11または27乃至30のいずれかに記載の装置を含むメインワークステーションと、
請求項12乃至26のいずれかに記載の装置を含む、1以上の離れたワークステーションと、
データネットワークとを含み、
前記メインワークステーションおよび前記1以上の離れたワークステーションのそれぞれは、前記データネットワークを介して接続されている、システム。
【請求項32】
3次元画像をインタラクティブに処理する方法であって、前記画像は、対象に関するイメージングデータから作成されるボリューメトリックデータを含み、前記方法は、
請求項1乃至11または27乃至30のいずれかに記載の第1の装置を提供するステップと;
請求項12乃至26のいずれかに記載の1以上の第2の装置を提供するステップと;
データネットワークを提供し、前記第1の装置と前記1以上の第2の装置を、データネットワークを介して接続するステップと;を含み、
操作において、前記第1の装置のユーザおよび前記1以上の第2の装置のユーザは、協同して共通の3Dデータセットを可視化する、方法。
【請求項33】
前記第1の装置の前記ユーザの初期化において、前記第1の装置の前記ユーザと第2の装置のユーザが役割を切り換える、請求項33に記載の方法。
【請求項34】
ネットワークで結ばれたインタラクティブ3次元データ可視化システムであって、
対象のリアルタイム画像を取得し、それらを前記対象のコレジスタされた3Dボリューメトリックモデルの部分と組み合わせるためのメインシステムと;
前記組み合わされた画像を少なくとも1人のユーザに対して表示するためのディスプレイと;
プローブと;
前記プローブの位置をトラッキングするためのトラッキングユニットと;
データネットワークと;
それぞれがトラッキングされたバーチャルツールを備えた前記データネットワークによって、前記メインシステムに、通信できるように接続された前記組み合わされた画像を、インタラクティブに可視化するための1以上のリモートシステムと、を含み、
前記メインシステムのプローブのトラッキングされた位置と、組み合わされた画像は、前記データネットワーク上の各リモートシステムによって受信され、
前記リモートシステムは、前記組み合わされた画像または前記コレジスタされた3Dボリューメトリックモデルをインタラクティブに処理し、そのような処理された画像を前記メインシステムおよび他の全てのリモートシステムのディスプレイに送信する、システム。
【請求項35】
前記組み合わされた画像は、前記対象上に載せられた2Dリアルタイムビデオである、請求項34に記載のシステム。
【請求項36】
前記メインワークステーションおよびリモートワークステーションを採用して、コンピュータ生成画像を修正し、前記対象上で行われる操作をシミュレイトする、請求項34または35に記載のシステム。
【請求項37】
前記シミュレイトされる操作は、対象のボリューメトリックモデルの部分の除去を含む、請求項36に記載のシステム。
【請求項38】
前記メインシステムまたはリモートシステムを採用して、少なくとも1人のユーザからの、前記ボリューメトリックモデルの区分化された部分の色付けに対する、変更を受信する、請求項34に記載のシステム。
【請求項39】
前記メインシステムを採用して、第1のユーザから測定のためのボリューメトリックモデルの選択されたポイントを受信し、前記第2のシステムを採用して、第2のユーザから測定のためのボリューメトリックモデルの選択されたポイントを受信する、請求項34に記載のシステム。
【請求項40】
前記メインシステムまたは1つのリモートシステムは、少なくとも1人のユーザからの入力を受け、表示された関心領域上で拡大する、請求項34に記載のシステム。
【請求項41】
前記メインシステムまたは1つのリモートシステムを採用して、ボリューメトリックモデルの少なくとも1つの区分化されたオブジェクトの透明性または不透明性を変更するために、少なくとも1人のユーザからの入力を受ける、請求項34に記載のシステム。
【請求項42】
前記メインシステムまたは1つのリモートシステムを採用して、前記組み合わされた画像を修正して、前記操作の対象の物理的形状の中に変更を表現し、前記修正は、前記プローブのトラッキングされた位置に依存する、請求項34に記載のシステム。
【請求項43】
限定された3次元領域で操作を行う少なくとも1人のユーザによって使用される方法であって、前記方法は、
操作の対象の画像を作成するステップと;
前記画像を、前記対象とコレジストレーションの関係にある少なくとも1人のユーザに対して、表示するステップと;
長手方向の軸を持つプローブの位置を第1のシステムによってトラッキングするステップと;
その位置を第1のデータプロセシング装置と第2のシステムに対して送信するステップであって、
前記第1のデータプロセシング装置は、前記プローブの長手方向の軸に平行に伸びるラインにしたがって画像を作成し、前記ラインは、第1のユーザによってコントロールされる延長コントロール装置の出力にしたがって延長がコントロールされており、
第2のデータプロセシング装置を持つ前記第2のシステムは、前記操作の対象の少なくとも1つの画像を、前記画像を前記少なくとも1人のユーザに対して表示を行う少なくとも1つのディスプレイ上に作成し、そして、
前記第1のシステムの前記プローブの前記トラッキングされた位置は、前記第2のシステムに、通信ネットワーク上で受信されるステップと;
前記第1および第2のデータプロセシング装置をコントロールして前記操作の対象の前記少なくとも1つの画像を前記ラインのコントロールされた延長に従って修正するステップとを含む、方法。
【請求項44】
前記第1のシステムの前記ディスプレイは、前記対象上に載せられた前記操作の対象の画像を作成する、請求項43に記載の方法。
【請求項45】
前記第1または第2のデータプロセシング装置は、コンピュータ生成画像を修正して、前記対象上で行われる操作をシミュレイトし、前記シミュレイトされる操作は、前記ラインの延長をコントロールすることによってコントロールされる、請求項43または44に記載の方法。
【請求項46】
前記シミュレイトされる操作は、コンピュータ生成画像の前記ラインの延長によって示される患者の深部にいたる部分の除去を含む、請求項45に記載の方法。
【請求項47】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからのコンピュータ生成画像の色付けに対する変更を受信する、請求項43に記載の方法。
【請求項48】
前記第1のシステムは、測定のための選択されたポイントを第1のユーザから受信し、前記第2のシステムは、測定のための選択されたポイントを第2のユーザから受信する、請求項43に記載の方法。
【請求項49】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからの入力を受け、表示された関心領域上で拡大する、請求項43に記載の方法。
【請求項50】
前記第1のシステムまたは前記第2のシステムは、少なくとも1人のユーザからの入力を受け、少なくとも1つの透明性または不透明性を変更する、請求項43に記載の方法。
【請求項51】
前記第1のデータプロセシング装置または第2のデータプロセシングは、画像を修正し、前記操作の対象の物理的形状の中に変更を表現し、前記修正は、前記プローブのトラッキングされた位置に依存する、請求項43に記載の方法。
【請求項52】
ネットワークで結ばれたインタラクティブ3次元データ可視化システムであって、
メインシステムと;
複数の画像を少なくとも1人のユーザに対して表示するためのディスプレイと;
プローブと;
前記プローブの位置をトラッキングするためのトラッキングユニットと;
データネットワークと;
それぞれがトラッキングされたバーチャルツールを備えた前記データネットワークによって、前記メインシステムに、通信できるように接続された前記画像を、インタラクティブに可視化するための1以上のリモートシステムと、を含み、
前記メインシステムのプローブのトラッキングされた位置と、前記画像は、前記データネットワーク上の各リモートシステムによって受信され、
前記リモートシステムのそれぞれは、前記組み合わされた画像または前記コレジスタされた3Dボリューメトリックモデルをインタラクティブに処理し、そのトラッキングされたバーチャルツールの位置を前記メインシステムに送信する、システム。
【請求項53】
メインシステムとリモートシステムの役割を繰り返し変更することができる、請求項52のシステム。
【請求項54】
前記リモートシステムは、データセットの前記メインシステムのビューまたはそれ自身のビューのいずれかを見ることができる、請求項52のシステム。
【請求項55】
前記リモートシステムは、あらゆる可視化処理を局所的に行うことができるが、データセットを修正することはできない、請求項52のシステム。
【請求項56】
前記メインシステムは、そのインターフェースおよびデータセットと、任意の時間に、任意のリモートシステムとの同期をとることができる、請求項52のシステム。
【請求項57】
協同的に、インタラクティブに、ボリューメトリックオブジェクトまたはシステムを可視化し、処理するための方法であって、
ローカルユーザが、オブジェクトまたはシステムのリアルタイム画像を取得し、それらと、同じオブジェクトまたはシステムのコレジスタされた3Dデータセットとを、メインワークステーションを使って組み合わせ、前記ローカルユーザは前記組み合わされた画像を局所的に表示し、それらをデータネットワークで送信するステップと;
それぞれが前記データネットワークに接続している1以上のリモートユーザが、前記組み合わされた画像を受信し、前記組み合わされた画像および前記コレジスタされたスキャン画像の少なくとも1つを、リモートワークステーションを用いて処理するステップと、を含み、
前記メインユーザおよび前記リモートユーザのそれぞれは、前記組み合わせ画像および前記3Dデータセットを処理することができ、
前記処理は、前記メインワークステーションおよび各リモートワークステーション上での実質的に周期のとれた表示のためにデータネットワークに送信される、方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57】
【図58】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57】
【図58】
【公表番号】特表2009−521985(P2009−521985A)
【公表日】平成21年6月11日(2009.6.11)
【国際特許分類】
【出願番号】特願2008−548472(P2008−548472)
【出願日】平成19年1月3日(2007.1.3)
【国際出願番号】PCT/SG2007/000002
【国際公開番号】WO2007/108776
【国際公開日】平成19年9月27日(2007.9.27)
【出願人】(508005163)
【氏名又は名称原語表記】BRACCO IMAGING S.P.A.
【住所又は居所原語表記】Via XXV Aprile No.4, 20097 San Donato Milanese
【Fターム(参考)】
【公表日】平成21年6月11日(2009.6.11)
【国際特許分類】
【出願日】平成19年1月3日(2007.1.3)
【国際出願番号】PCT/SG2007/000002
【国際公開番号】WO2007/108776
【国際公開日】平成19年9月27日(2007.9.27)
【出願人】(508005163)
【氏名又は名称原語表記】BRACCO IMAGING S.P.A.
【住所又は居所原語表記】Via XXV Aprile No.4, 20097 San Donato Milanese
【Fターム(参考)】
[ Back to top ]