説明

人体内部情報投影システム

【構成】人体内部情報投影システムはコンピュータを含む。コンピュータはサーマルカメラ14で撮影された遠赤外線画像を取得して、当該画像からサーマルマーカ18の位置および姿勢を検出し、たとえば当該サーマルマーカ18の装着された患者を特定する。コンピュータはサーマルマーカの位置および姿勢から患者の位置および姿勢を推定し、たとえば当該患者の体内情報の3DCGモデルの投影位置を当該患者の位置に合わせて算出するとともに、当該3DCGモデルの姿勢を患者の姿勢に合わせて変形する。そして、コンピュータは、体内情報の3DCGモデルをプロジェクタ16を用いて患者の体表に投影する。
【効果】患者の動きに追随して体内情報を患者体表に投影でき、しかも患者のプライバシを保護できる。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は人体内部情報投影システムに関し、特にたとえば、臓器、筋肉、骨、関節、血管等の人体の内部情報を投影する、人体内部情報投影システムに関する。
【背景技術】
【0002】
たとえば非特許文献1には、再帰性反射材を塗布または貼付したデバイスに、胸部骨格画像を投影する技術が記載されている。この技術では、再帰性反射光を観察するので、観察者の視点と光学的に共役な位置にプロジェクタが配置されて、当該位置からハーフミラーを介してスクリーンに対して投影が行われる。
【0003】
また、拡張現実感(Augmented Reality)システムにおいて現実世界と仮想世界の位置合わせのために画像処理によって基準となるマーカの位置姿勢を計測する手段として、加藤らによって開発されたARToolKitと呼ばれるソフトフェアライブラリが知られている(非特許文献2参照)。この技術では、HMD(Head Mounted Display)に取り付けられたカラーカメラで撮影された画像に基づいて、マーカに対する当該カメラの位置姿勢がリアルタイムに計測される。そして、たとえば3次元仮想キャラクタがカード(マーカ)上に出現する画像がHMDに表示される。
【非特許文献1】稲見、川上、柳田、前田、舘、「現実感融合の研究(第1報)−シームレスな現実感融合手法の提案と試験的実装−」、日本バーチャルリアリティ学会第3回大会論文集、281−284、1998
【非特許文献2】ARToolKit,http://www.hitl.washington.edu/artoolkit/
【発明の開示】
【発明が解決しようとする課題】
【0004】
非特許文献1の技術では、再帰性反射材をスクリーンとしており、たとえば患者の手やシャツなどには映像を投影することができなかった。また、観察者はスクリーンからの再帰性反射光を観察可能な位置に存在しなければならなかった。しかし、患者は再帰性反射スクリーンを手に持って身体の前に構えるので、患者自身が投影画像を見ることは困難であった。このように、医療従事者と患者とが投影された情報を共有することが困難であったので、両者間で円滑なコミュニケーションが成立し得なかった。また、患者の動きを検出することができなかったので、スクリーンを手にした患者はその場に静止している必要があった。このように、患者の動きや移動に対応することができなかった。たとえば、リハビリテーションのような運動を伴う場面では、スクリーンを患者に所持させるのが困難であるばかりでなく、患者に画像を投影することが困難であった。
【0005】
また、非特許文献2の技術では、マーカを追跡してその位置および姿勢を検出することが可能であるが、カラーのビデオカメラを使用している。したがって、プロジェクタを使用して仮想オブジェクトを現実世界に投影することを想定した場合、マーカと投影画像が重なるので、マーカの検出が困難になってしまう。なお、キャリブレーション誤差を低減するにはマーカは投影領域に配置されるのが望ましい。このように、マーカの位置および姿勢を追跡することができなくなるので、プロジェクタに基づく拡張現実感システムには適用することが不可能であり、つまり、マーカの位置および姿勢に対応した仮想オブジェクトを実世界に投影することは困難であった。なお、実世界に仮想オブジェクトを重畳した画像をHMDもしくは携帯型ディスプレイなどに表示したとしても、医療従事者と患者との円滑なコミュニケーションは望むべくもないし、リハビリテーションのような運動を伴う状況では患者に更なる負担を強いることとなる。したがって、HMDの装着やディスプレイ所持等は現実的ではない。また、カラーのビデオカメラによってマーカを検出するようにしているので、患者の身体や顔などのプライバシに関わる情報がカラー映像として撮影されてしまう。したがって、非特許文献2の技術を医療に使用する場合には、患者のプライバシを保護することができないという重大な問題があった。
【0006】
それゆえに、この発明の主たる目的は、患者と医療従事者間の円滑なコミュニケーションを実現できる、人体内部情報投影システムを提供することである。
【0007】
この発明の他の目的は、患者の動きに追随して体内情報を患者の体表に投影することができ、しかも患者のプライバシを保護することができる、人体内部情報投影システムを提供することである。
【課題を解決するための手段】
【0008】
請求項1の発明は、人体内部情報を人に投影するためのシステムであって、人の所定位置に装着されるサーマルマーカ、遠赤外線画像を取得するためのサーマルカメラ、人体内部情報を記憶する記憶手段、サーマルカメラによって取得された遠赤外線画像に基づいてサーマルマーカの位置を検出する第1検出手段、第1検出手段によって検出されたサーマルマーカの位置に基づいて人体内部情報を投影する位置を算定する位置算定手段、および位置算定手段によって算定された位置に基づいて人体内部情報を人の体表上に投影する投影手段を備える、人体内部情報投影システムである。
【0009】
請求項1の発明では、たとえば臓器、骨格、筋肉または血管といった人体内部情報をたとえば患者のような人に投影するためのシステムである。人体内部情報は、たとえば当該器官の3DCGモデルであり、記憶手段に予め記憶されている。人にはサーマルマーカが所定の位置に装着される。サーマルマーカには熱線の強度分布を与えるパターンが形成されており、当該サーマルマーカを通して人の遠赤外線画像をサーマルカメラで撮影すると、当該パターンが遠赤外線画像中に現れる。第1検出手段は、このような遠赤外線画像に基づいてサーマルマーカの位置を検出する。位置算定手段は、検出されたサーマルマーカの位置に基づいて人体内部情報を投影する位置を算定する。そして、投影手段によって、人体内部情報は、人の体表上であり、かつ、当該人体内部情報が存在する位置に対応する位置に投影される。
【0010】
このようにして、請求項1の発明によれば、サーマルカメラによって撮影された遠赤外線画像に基づいてサーマルマーカの位置を検出するようにしたので、当該サーマルマーカの装着された人の位置を追跡することができる。そして、当該サーマルマーカの検出位置に基づいて決められた位置に人体内部情報が投影される。患者体表上に人体内部情報が投影されても、サーマルカメラで遠赤外線画像を撮影するようにしているので、サーマルマーカすなわち患者を検出することができる。したがって、患者の動きに追随して当該患者の体表上に人体内部情報を投影することができる。このように、医療従事者と患者との間で人体内部情報を共有することができるので、両者の間の円滑なコミュニケーションを実現することができる。また、患者の熱という不可視情報を利用するサーマルマーカとサーマルカメラによって患者の位置を検出するようにしたので、患者に負担をかけることがないし、患者のプライバシを保護することができる。
【0011】
請求項2の発明は、請求項1の発明に従属し、第1検出手段はサーマルマーカの姿勢をさらに検出し、第1検出手段によって検出されたサーマルマーカの位置および姿勢に基づいて人体内部情報の姿勢を変形する姿勢変形手段をさらに備える。投影手段は、人体内部情報を姿勢変形手段によって変形された姿勢で投影する。
【0012】
請求項2の発明では、第1検出手段は、遠赤外線画像に基づいてサーマルマーカの姿勢をさらに検出する。姿勢変形手段は、検出されたサーマルマーカの位置および姿勢に基づいて人体内部情報の姿勢を変形する。サーマルマーカは患者の所定位置に装着されるので、サーマルマーカの位置および姿勢を検出することによって当該患者の位置および姿勢を把握することができる。したがって、当該患者の姿勢に合わせて変形された姿勢の体内情報を患者の体表に投影することができる。
【0013】
請求項3の発明は、請求項1または2の発明に従属し、サーマルマーカには人の識別情報に対応付けられたパターンが形成され、第1検出手段はサーマルマーカのパターンをさらに検出し、投影手段は、第1検出手段によって検出されたパターンに対応する人体内部情報を投影する。
【0014】
請求項3の発明では、サーマルマーカには装着される人の識別情報に対応付けられたパターンが形成される。第1検出手段はサーマルマーカのパターンをさらに検出し、したがって、検出パターンによって当該サーマルマーカを装着している人を特定できる。投影手段は、検出パターンに対応する人体内部情報を投影する。つまり、サーマルマーカを装着している人に対応する人体内部情報、たとえば当該患者自身の人体内部情報や当該患者の患部に対応する人体内部情報を投影できる。
【発明の効果】
【0015】
この発明によれば、サーマルマーカの位置を検出し当該検出位置に基づいて人体内部情報の投影位置を算出するので、サーマルマーカの装着された患者の動きに追随して、人体内部情報を当該患者の体表上に投影することができる。したがって、患者に人体内部を分かり易く提示することができるとともに、患者と医療スタッフとが人体内部情報を共有することができる。このように、視覚的な支援によって患者と医療スタッフ間で円滑なコミュニケーションが可能になり、たとえば効果的にリハビリテーションを行うことが可能になる。しかも、サーマルマーカを装着した患者をサーマルカメラで撮影するようにしているので、たとえばカラーカメラで患者の顔や身体のようなプライバシに関わる情報を撮影する事態を回避でき、患者のプライバシを守ることができる。
【0016】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【発明を実施するための最良の形態】
【0017】
図1を参照して、この実施例の人体内部情報投影システム(以下単に「システム」とも言う。)10は、人体内部情報を人の体表に投影するためのものであり、たとえば問診やリハビリテーションなどの医療コンサルテーションにおいて適用され得る。システム10はコンピュータ12、サーマルカメラ14およびプロジェクタ16を含む。投影対象である人すなわち患者にはサーマルマーカ18が取り付けられる。
【0018】
コンピュータ12は、CPU、RAM、HDD、入力装置、表示装置等を備える。HDDには、このシステム10の全体的な動作を制御するためのプログラムおよび必要なデータが記憶される。CPUはプログラムをRAMにロードして当該プログラムに従ってRAMに一時的なデータを生成しまたは取得しつつ処理を実行する。また、コンピュータ12はビデオキャプチャカードおよびグラフィックボードをさらに備えており、ビデオキャプチャカードにサーマルカメラ14が接続され、グラフィックボードにプロジェクタ16が接続される。
【0019】
サーマルカメラ14は、遠赤外線(熱線)を検出または観測するイメージセンサである。サーマルカメラ14は、人すなわち患者を撮影可能なように、診察やリハビリテーションなどの医療が行われる部屋の所定の位置に所定の方向へ向けて設置される。人体の温度は環境温度よりも高いので、体温を源に放射されている遠赤外線は環境から区別して検出可能である。このサーマルカメラ14によって取得される遠赤外線画像に基づいて、サーマルマーカ18の装着された患者の身体の動きを獲得する。たとえば、サーマルカメラ14は撮影した赤外線の映像信号をコンピュータ12に出力し、コンピュータ12のビデオキャプチャカードは当該映像信号を所定のフレームレートでディジタルデータに変換し、CPUは当該赤外線画像データをRAMに取得する。
【0020】
サーマルカメラ14は可視光波長に敏感ではないので、その撮影画像で個人の顔を認識することは不可能であり、また患者の皮膚自体を撮影することも不可能である。したがって、患者のプライバシが保護される。なお、医学分野ではサーモグラフィが既に広く使用されており、サーマルカメラ14を医療現場に設置することに抵抗はないと考えられる。
【0021】
プロジェクタ16は、画像を患者の体表へ投影する。プロジェクタ16は、患者の体表に投影可能なように、医療が行われる部屋の所定の位置に所定の方向へ向けて設置される。たとえばLCDプロジェクタが使用されてよい。画像を投影する際には、CPUは、たとえば、グラフィックボードを用いて3DCGオブジェクトデータに基づいて当該3DCGオブジェクトが所望の姿勢で所望の位置に配置される2次元画像を表示するための画像データを生成し、当該画像データをプロジェクタ16に与えて、当該画像をプロジェクタ16から投影させる。
【0022】
サーマルマーカ18は、サーマルカメラ14で撮影される赤外線画像に基づいて被写体である患者を検出するための目印であり、たとえば、患者の体表に貼り付けられる。患者の体温を源とする熱線を利用して、当該サーマルマーカ18の装着箇所に熱線の強度分布を形成することによって、目印として機能する。患者はたとえば綿のTシャツなど遠赤外線を透過する素材の服を着ることが可能である。つまり、体内情報の投影される患者の体表は、皮膚だけでなく、衣類を含む。患者が衣類を着用する場合、衣類は白色など投影される体内情報の視認性に悪影響を及ぼさない色であることが必要とされる。サーマルマーカ18の裏面には人間の皮膚または服に貼り付けることができるように粘着物質が設けられる。サーマルマーカ18は所定の形状およびサイズ(たとえば30mm×30mmの正方形)を有し、身体の所定の位置(たとえば胸骨)に貼り付けられる。視認性を考慮して、複数のサーマルマーカ18が体表に分散配置されてよい。リハビリテーションの場面では、患者の姿勢や身体動作を精度よく検出することができるように、複数のサーマルマーカ18が身体の複数の適宜な位置に装着される。サーマルマーカ18のサイズ、形状および装着部位等は、実験によって、患者の動作をより精度良く検出可能であるように、適切に決定される。
【0023】
サーマルマーカ18には、熱線に対する透過性、遮断性または熱線放射性などの物理的特性の分布すなわちパターンが、各特性を有する素材または素材の有無によって形成されている。たとえば、サーマルマーカ18では、遠赤外線を放射する素材、遠赤外線を遮断する素材、および遠赤外線を透過する素材のうちのいずれかを組み合わせることによってパターンが形成されてよい。あるいは、遠赤外線を遮断する素材から所定のパターンを切り抜くことによってサーマルマーカ18が形成されてよい。なお、サーマルマーカ18は、上記各素材を組み合わせることによって患者の着用する衣類に埋め込まれてもよい。
【0024】
形成されるパターンは、英字、数字、記号、図形など、認識可能であればどのような形状であってもよい。ただし、サーマルマーカ18の姿勢(方向)を検出可能なパターンでなければならない。図2に示すように、パターンは、逆三角形(A)、2つの異なる矩形を組み合わせた形状(B)、郵便記号に似た形状(C)等であってよい。この実施例では、ウレタンフォームで覆われたアルミ箔が使用され、切り抜くことによってパターンが形成される。つまり、切り抜かれた部分では熱線が透過し、素材の部分では熱線が遮断される。
【0025】
サーマルマーカ18の取り付けられた箇所では、体温を源とする熱線が、パターンの形状に対応して透過され、遮断され、または放射されたりすることによって、温度差が形成される。したがって、サーマルカメラ14で撮影された赤外線画像中におけるサーマルマーカ18の存在箇所では、当該サーマルマーカ18のパターンに対応する遠赤外線の強度分布が生じる。たとえば、図2(A)のサーマルマーカ18が使用される場合には、赤外線画像では、図3に示すように、中央の逆三角形の部分は熱線透過によって白く表示され、周囲の部分は熱線遮断によって黒く表示される。したがって、サーマルマーカ18を通して患者の熱線を観測することによって、当該サーマルマーカ18のパターンを検出することができる。
【0026】
サーマルマーカ18のパターンは、この実施例では、装着される患者ごとに異なるパターンである。つまり、サーマルマーカ18のパターンは、患者の識別情報に対応付けられる。したがって、この実施例では、サーマルマーカ18の識別情報すなわちパターンを検出することで、患者を特定することができる。
【0027】
なお、サーマルマーカ18やそれを用いた個人識別などの技術の一例が、本件出願人が2004年7月13日に出願した特願2004−205809号に記載されるので参照されたい。
【0028】
また、サーマルカメラ14で撮影した赤外線画像からパターンを抽出して、当該サーマルマーカ18の位置および方向(姿勢)を検出することができる。このサーマルマーカ18のパターンの抽出および位置姿勢検出のために、背景技術の欄で記載したARToolKit(http://www.hitl.washington.edu/artoolkit/)を使用することができる。
【0029】
ARToolKitは、現実世界と仮想世界の位置合わせのために画像処理によってマーカの位置姿勢を計測するソフトフェアライブラリである。ARToolKitは、入力画像から2次元マーカの位置(3次元座標)、および姿勢ないし方向(パン、チルト、ロール)を検出するための機能を提供する。また、当該マーカの識別情報すなわちパターンを自動的に抽出することもできる。
【0030】
コンピュータ12のHDDなどの記憶装置には、このARToolKitの機能を含むプログラムが記憶されている。コンピュータ12は、ARToolKitの機能を使用して、サーマルカメラ14の取得した赤外線画像に基づいて、サーマルマーカ18のパターンとともにその位置および姿勢を検出する。
【0031】
サーマルマーカ18は上述のように患者の身体の所定位置に装着されるので、検出されたサーマルマーカ18の位置および姿勢に基づいて、患者の位置および姿勢を推定することができる。たとえば、コンピュータ12のHDDまたはRAMなどの記憶装置には、たとえば自然体または所定の姿勢のときのサーマルマーカ18の装着位置や方向などを示す初期データが記憶されている。したがって、コンピュータ12は、サーマルマーカ18の検出された位置および方向と、記憶された初期位置および方向とに基づいて、患者の位置および姿勢などの身体動作をリアルタイムで検出することができる。なお、実験等によって、標準的な初期データを取得して、予めコンピュータ12の記憶装置に記憶しておいてよい。あるいは、当該患者自身にサーマルマーカ18を装着して、自然体または所定の姿勢にさせることによって、初期データを予めまたは診察およびリハビリテーションの前に取得するようにしてもよい。
【0032】
このように、人体の熱という不可視情報を情報源として用いるので、患者の見た目には何ら変化を生じさせず、不必要に管理情報を第3者に知られることがない。したがって、サーマルマーカ18およびサーマルカメラ14の使用によって、患者に新たな負荷を加えることなく、かつ、そのプライバシ情報を侵害することなく、患者の身体の位置および姿勢を検出することができる。
【0033】
サーマルマーカ18の検出位置に患者が存在するので、コンピュータ12は、プロジェクタ16を用いて当該患者の体表上に映像を重畳することができる。プロジェクタ16によって投影される画像は、人体内部情報であり、具体的には、骨格、筋肉、血管、内臓など、皮膚以外の身体の器官ないし構成部分である。
【0034】
コンピュータ12は、図1に示すように、体内情報データベース(DB)20および患者情報DB22を内部または外部に備える。体内情報DB20には、患者に投影される人体内部情報(体内情報)が登録されている。人体内部情報は3次元CGモデルであり、当該患者自身を撮影することによって得られたものであってもよいし、標準モデルであってもよい。
【0035】
具体的には、体内情報DB20には、図4に示すように、複数の3次元CGオブジェクトデータが体内情報IDに対応付けて記憶されている。3次元オブジェクトデータのファイルフォーマットは、たとえばVRML(Virtual Reality Modeling Language)2.0であってよい。たとえば、肺の見本、心臓の見本、消化器系の見本、胴体骨格の見本などの標準モデルとともに、AAさんの股関節のように患者個人の3DCGモデルが記憶される。患者個人の3DCGモデルが登録されていない場合等には、標準モデルが投影される。患者個人の3次元CGオブジェクトデータは、当該患者の医療用画像(X線CT、MRI、超音波など)から作成した3次元モデルデータである。標準モデルは、CGソフトウェアで人の手によって作成されたものであってもよいし、不特定の人の医療用画像から作成されたものであってもよい。また、標準モデルとしては、体格(外見上の大きさや性別など)ごとに異なるデータを準備してもよい。
【0036】
患者情報DB22には、図5に示すように、患者に関する情報が記憶されている。たとえば電子カルテが記憶されてよい。具体的には、患者IDに対応付けられて、マーカID、患者自身の体内情報、患部情報、体格情報等に関する情報が記憶されている。マーカIDは、当該患者に装着されたサーマルマーカ18の識別情報である。たとえば、サーマルマーカ18に形成されたパターンのIDが記憶されてよい。
【0037】
患者自身の体内情報には、当該患者自身の3DCGモデルが体内情報DB20に登録されている場合には当該体内情報のIDが記憶され、患者自身の3DCGモデルが体内情報DB20に登録されていない場合にはたとえば無しを示すデータが記憶される。図4および図5の例では、体内情報DB20に「AAさんの股関節」が記憶されているので、患者DB22におけるAAさんの患者自身の体内情報としては、当該体内情報IDである「100005」が記憶されている。
【0038】
患部情報には、当該患者の患部を示す情報が記憶されている。たとえば、患者自身の体内情報が登録されていない場合には、この患部情報に対応する標準モデルの体内情報が投影されてよい。また、当該患者の体格に合わせた標準モデルが選択されてよい。
【0039】
体格情報は、当該患者の体格を示す情報が記憶される。たとえば、大人男性、大人女性、子供男性および子供女性のような外見上の大きさと性別で区別した情報が記憶される。あるいは、体格情報は、身長、体重および性別等で区別した情報であってもよい。この実施例では、この体格情報に基づいて各3DCGモデルの投影位置が調整される。各体内情報すなわち各器官の配置は人の体格に応じて異なるためである。患者の体格を考慮して体内情報を投影する位置を算定することによって、より正確な位置に体内情報を投影することができる。
【0040】
体内情報の投影位置は、検出されたサーマルマーカ18の位置を基準として算定される。たとえば、コンピュータ12の記憶装置には、サーマルマーカ18の装着位置を基準とした各体内情報の位置を示す体内情報配置データが記憶されていて、当該体内情報配置データと検出されたサーマルマーカ18の位置に基づいて、各体内情報の投影位置が決められる。したがって、各体内情報は、患者の体表上において、当該体内情報の存在する位置に対応する位置で投影される。なお、この実施例のように体格を考慮する場合、体格ごとの体内情報配置データが記憶され、患者の体格情報に対応する体内情報配置データが使用されてよい。
【0041】
また、投影される体内情報すなわち3DCGモデルの姿勢は、患者の姿勢に応じて変形される。患者の姿勢は、上述のように、検出されたサーマルマーカ18の位置および姿勢に基づいて推定可能である。したがって、投影される3DCGモデルの姿勢を患者の姿勢に合わせて変化させることができる。
【0042】
なお、ARToolKitの通常の使用では、撮影装置(たとえばカラーカメラ)による撮影処理と表示装置(たとえばLCDモニタ)による表示処理とでは、同一の座標系を共有するので、キャリブレーションの必要がない。しかし、このシステム10で、サーマルカメラ14とプロジェクタ16とを単に配置しただけでは、両者の座標系は同一ではないので、患者の体表の指定した場所に正確に仮想世界を投影することができない。そのため、サーマルカメラ14およびプロジェクタ16の座標系を共通の座標系に統一するキャリブレーションが必要である。発明者らは、事前処理としてサーマルカメラ14とプロジェクタ16の位置合わせの実験を行い、投影位置を補正するための情報を予め準備し、当該投影位置補正情報をコンピュータ12のHDDなどの記憶装置に記憶している。体内情報の投影前には、当該投影位置補正情報に基づいて当該体内情報の投影位置が補正される。
【0043】
このようにして、サーマルマーカ18の検出によって獲得した患者の位置および姿勢を用いて、たとえばリハビリテーション中の患者と体内情報との間に幾何学的および時間的整合性が保たれるように、実時間で体内情報を変形することができ、当該変形した体内情報を動いている領域である患者の体表に重畳することができる。
【0044】
たとえば、図6に示すように、患者Pが投影範囲内で比較的長い距離を移動した場合であっても、当該患者Pの動きに追随して体内情報Qの投影位置を変化させることによって、当該体内情報Qを当該患者Pの体表において当該体内情報Qの存在位置に対応する位置に投影することができる。また、図7に示すように、リハビリテーションのような患者Pの動きを伴う医療場面でも、当該患者Pの動きに合わせて、リアルタイムに体内情報Q(図7では股関節を含む下肢の骨格)の位置および姿勢を変化させて当該患者Pの体表に投影することができる。したがって、体内情報Qを、患者Pと医者や看護師等の医療従事者Mとの間で共有することができる。
【0045】
なお、顔や背中など患者の視点から直接見ることができない部位に投影される体内情報については、鏡を利用することによって患者に無理なく観察させることができる。
【0046】
さらに、患者Pの体表上にプロジェクタ16によって体内情報Qが投影されても、サーマルカメラ14で遠赤外放射を観測することによってサーマルマーカ18を検出できるので、サーマルマーカ18を見失うようなことなく常に追跡することができ、常に患者Pの位置および姿勢を把握できる。しかも、取得される患者の画像は不可視であり、患者に装着されるサーマルマーカ18は衣類内に隠したり埋め込んだりすることが可能であり、また、そのパターンは外見上は個人情報を特定不可能であるので、患者のプライバシを保護することができる。
【0047】
したがって、現場での経験に委ねられていた患者の精神面でのケアや医療スタッフと患者とのコミュニケーション等の作業を視覚的に支援できる。患者の体表に投影された体内情報を患者と医療スタッフとが共有することができるので、患者と医療スタッフとの間で円滑なコミュニケーションが可能になり、たとえば効果的なリハビリテーションを行うことが可能になる。具体的には、患者が自分の体表上に投影された体内情報によって自分の目でリハビリテーションの効果を確かめながら治療を受けることができるので、患者の積極的な取り組みを導き出すことができる。また、患者が自身の体内の様子を確認しながらリハビリテーションを進めることができるので、無理なリハビリテーションによる事故を回避することもできる。たとえば、股関節など人工関節置換手術後のリハビリテーションにおいて、患者が自身の関節の可動範囲を思い違ったまま無理に動かしてしまうことによって脱臼事故を引き起こしていたような事態を防止することが可能になる。
【0048】
図8には、コンピュータ12のCPUによる投影処理の動作の一例が示される。この投影処理は一定時間ごと、たとえば1フレームまたは所定数フレームごとに、繰り返し実行される。投影処理が開始されると、まず、ステップS1で、サーマルカメラ14で撮影された遠赤外線画像が取得される。上述のように、コンピュータ12はサーマルカメラ14で撮影された映像から所定のサンプリングレートで画像データを取得する。
【0049】
次に、ステップS3で、画像処理が実行される。具体的には、サーマルマーカ18を認識するための前処理が実行される。上述のARToolKitでは、可視光画像が入力情報に想定されており、赤外線は可視光よりも非常に弱い。そのため、サーマルマーカ18の部分と体表の部分とのコントラスト比を増大させるために、取得した赤外線画像に前処理を施す。
【0050】
続いて、ステップS5で、ARToolKitの機能を用いてサーマルマーカ18の認識が行われる。たとえば、前処理された画像からパターン認識によってサーマルマーカ18が抽出される。サーマルマーカ18のマーカIDに対応付けられたパターン、大きさおよび外形等の情報を含むマーカに関するデータは予め記憶装置に記憶されている。そして、サーマルマーカ18のパターンを特定するとともに、当該サーマルマーカ18の位置および方向(姿勢)を検出する。
【0051】
そして、ステップS7で、体内情報読出処理が実行される。これによって、必要に応じて体内情報が読み出される。体内情報読出処理の動作の一例は図9に示される。
【0052】
図9の最初のステップS31では、認識されたサーマルマーカ18のパターンから当該マーカIDを特定して患者情報DB22を検索し、当該サーマルマーカ18に対応する患者IDを特定する。
【0053】
次に、ステップS33で、当該患者IDが初めて認識されたか否かを判断する。つまり、当該患者には未だ体内情報が投影されていないか否かを判定している。ステップS33で“YES”であれば、ステップS35で、当該患者IDに対応する体内情報IDが特定される。たとえば、患者情報DB22において患者自身の体内情報として体内情報IDが登録されている場合には、当該患者自身の体内情報IDが患者情報DB22からRAMに読み出される。一方、患者自身の体内情報が登録されていない場合には、患者情報DB22から当該患者の患部情報を読み出して、当該患部に対応する体内情報IDを特定する。なお、患部情報としては当該患部に対応する体内情報IDが記憶されていてもよい。また、患者に複数の体内情報または患部情報が登録されている場合には、当該複数の体内情報IDの全てを投影情報として特定してもよいし、あるいは、当該複数の体内情報IDのうち入力装置の入力に応じて選択された1つまたは幾つかを投影情報として特定するようにしてもよい。ステップS35を終了すると処理はステップS41へ進む。
【0054】
一方、ステップS33で“NO”であれば、つまり、既に何らかの体内情報が患者に投影されている場合には、ステップS37で、表示すべき体内情報の選択があったか否かを入力装置からの入力データに基づいて判断する。たとえば、コンピュータ12の表示装置には、投影する体内情報を選択可能な入力画面が表示されており、医療スタッフは入力装置の操作によって投影する体内情報を選択可能になっているので、体内情報がリストから選択されて決定ボタンがクリックされたか否かが判定される。
【0055】
ステップS37で“YES”であれば、つまり、体内情報の選択が行われた場合には、ステップS39で、選択された体内情報に対応する体内情報IDを特定する。ステップS39を終了すると処理はステップS41へ進む。
【0056】
また、ステップS37で“NO”であれば、つまり、既に体内情報が患者に重畳されており、かつ、体内情報の選択が行われなかったときには、そのままこの体内情報読出処理を終了する。したがって、現在の体内情報の投影が継続される。
【0057】
ステップS41では、特定された体内情報IDに基づいて体内情報DB20が検索されて、該当する3DCGオブジェクトデータがRAMに読み出される。ステップS41を終了するとこの体内情報読出処理を終了して、処理は図8のステップS9へ戻る。このようにして、サーマルマーカ18に対応する体内情報または医療スタッフによって選択された体内情報が必要なタイミングで読み出される。
【0058】
図8のステップS9では、体内情報すなわち3DCGモデルの投影位置が算出される。上述のように、たとえば、検出されたサーマルマーカ18の位置と、記憶装置に記憶されている当該サーマルマーカ18の装着位置、当該患者の体格情報およびサーマルマーカ18の装着位置を基準とした体内情報の配置情報とに基づいて、当該体内情報の投影位置が決められる。これによって、当該3DCGモデルは、投影面上において算出された投影位置に存在するように仮想3次元世界で対応する位置に配置される。
【0059】
続いて、ステップS11で、サーマルマーカ18の位置および方向から患者の姿勢を推定する。上述のようにサーマルマーカ18の装着情報(初期の位置および方向)が記憶されているので、検出された位置および方向に基づいて、現在の患者の姿勢を推定することができる。
【0060】
そして、ステップS13で、体内情報すなわち3DCGモデルの姿勢を患者の姿勢に応じて変換する。たとえば、患者の姿勢に合わせて当該3DCGモデルが仮想3次元世界でとるべき姿勢が算出される。この姿勢情報に基づいて3DCGモデルは仮想3次元世界で回転される。
【0061】
さらに、ステップS15で、投影位置の補正を実行する。たとえば、記憶装置に記憶されている投影位置補正情報に基づいて当該3DCGモデルの投影位置の座標を変換する。これによって、当該3DCGモデルは、投影面上で補正位置に存在するように仮想3次元世界で移動される。
【0062】
そして、ステップS17で、プロジェクタ16によって、体内情報すなわち3DCGモデルを患者体表に投影する。たとえば、当該体内情報すなわち3DCGオブジェクトデータ、姿勢情報および補正された位置情報等とともに描画コマンドがグラフィックボードに与えられて、当該3DCGモデルを所望の位置および姿勢で投影するための画像データが生成される。そして、グラフィックボードから当該画像データないし画像信号がプロジェクタ16に与えられて、プロジェクタ16は当該画像を投影する。したがって、患者の姿勢に合わせた姿勢に変形された器官が、患者の体表上において当該器官が実際に存在する位置に対応する位置に重畳される。ステップS17を終了すると処理はステップS1に戻る。このようにして、患者の動きを追跡することができ、患者の姿勢に合った体内情報を、当該体内情報の存在位置に対応する位置で当該患者の体表に投影することができる。
【0063】
なお、上述の実施例では、サーマルマーカ18で患者の位置および姿勢を検出するだけでなく、当該患者の個人認識も行えるようにした。しかし、他の実施例では、サーマルマーカ18には患者の識別情報を対応付けないようにしてもよい。この場合、投影対象である患者の識別情報は、コンピュータ12の入力装置を用いて医療従事者によって入力されるようにしてもよい。
【0064】
また、上述の各実施例では、患者の位置に応じて体内情報の投影位置を変化させた画像を生成してプロジェクタ16から投影させるようにしていた。しかし、他の実施例では、投影方向をパンおよび/またはチルト可能な変位機構を有するプロジェクタ16によって、患者の位置に応じて投影位置を変化させて体内情報を患者体表上に投影するようにしてもよい。
【0065】
また、上述の各実施例では、1つのサーマルカメラ14を設けるようにした。しかし、他の実施例では、複数のサーマルカメラ14のそれぞれを部屋の各所定位置に設けることによって、サーマルマーカ18の視認性とともに患者の位置および姿勢の検出精度を向上させるようにしてもよい。
【図面の簡単な説明】
【0066】
【図1】この発明の一実施例の人体内部情報投影システムの構成の一例を示す図解図である。
【図2】サーマルマーカのパターンの一例を示す図解図である。
【図3】図2(A)のサーマルマーカのサーマルイメージを示す図解図である。
【図4】体内情報DBに登録されるデータの一例を示す図解図である。
【図5】患者情報DBに登録されるデータの一例を示す図解図である。
【図6】患者に追随して体内情報が投影されることを示す図解図である。
【図7】図1実施例がリハビリテーションに適用された場合の概要を示す図解図である。
【図8】図1実施例のコンピュータのCPUの投影処理における動作の一例を示すフロー図である。
【図9】図8の体内情報読出処理の動作の一例を示すフロー図である。
【符号の説明】
【0067】
10 …人体内部情報投影システム
12 …コンピュータ
14 …サーマルカメラ
16 …プロジェクタ
18 …サーマルマーカ
20 …体内情報DB
22 …患者情報DB

【特許請求の範囲】
【請求項1】
人体内部情報を人に投影するためのシステムであって、
前記人の所定位置に装着されるサーマルマーカ、
遠赤外線画像を取得するためのサーマルカメラ、
前記人体内部情報を記憶する記憶手段、
前記サーマルカメラによって取得された前記遠赤外線画像に基づいて前記サーマルマーカの位置を検出する第1検出手段、
前記第1検出手段によって検出された前記サーマルマーカの前記位置に基づいて前記人体内部情報を投影する位置を算定する位置算定手段、および
前記位置算定手段によって算定された前記位置に基づいて前記人体内部情報を前記人の体表上に投影する投影手段を備える、人体内部情報投影システム。
【請求項2】
前記第1検出手段は前記サーマルマーカの姿勢をさらに検出し、
前記第1検出手段によって検出された前記サーマルマーカの位置および姿勢に基づいて前記人体内部情報の姿勢を変形する姿勢変形手段をさらに備え、
前記投影手段は、前記人体内部情報を前記姿勢変形手段によって変形された姿勢で投影する、請求項1記載の人体内部情報投影システム。
【請求項3】
前記サーマルマーカには前記人の識別情報に対応付けられたパターンが形成され、
前記第1検出手段は前記サーマルマーカの前記パターンをさらに検出し、
前記投影手段は、前記第1検出手段によって検出された前記パターンに対応する前記人体内部情報を投影する、請求項1または2記載の人体内部情報投影システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2007−151686(P2007−151686A)
【公開日】平成19年6月21日(2007.6.21)
【国際特許分類】
【出願番号】特願2005−348455(P2005−348455)
【出願日】平成17年12月1日(2005.12.1)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成17年度独立行政法人情報通信研究機構、研究テーマ「日常行動・状況理解に基づく知識共有システムの研究開発」に関する委託研究、産業活力再生特別措置法第30条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】