説明

画像処理装置、画像処理方法、撮影システム及びプログラム

【課題】 そこで本発明は、撮影された3次元画像を基準として断層画像が位置を把握しやすくする。
【解決手段】 3次元画像取得部1010は、MRI撮影装置110が撮影した被検体のMRI画像を取得する。規則算出部1020は3次元画像取得部1010が取得したMRI画像に基づき、変形前の被検体を基準として変形後の被検体に生じる変形を推定した結果として、被検体の変形に関する変換規則を算出する。断層画像取得部1030は、超音波撮影装置120が撮影した被検体の超音波画像を取得する。対応算出部1050は、超音波画像診断装置120が撮影した撮影面および撮影領域に対応する前記MRI画像におけるMRI対応面およびMRI対応領域を前記変換規則に基づいて算出する。表示制御部1080は、撮像領域に対応する領域を表示部140に表示させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の撮影画像を処理する画像処理装置、画像処理方法、撮影システム及び当該画像処理をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【0002】
現在、医療をはじめとする様々な分野で、異なる複数の撮影装置で同一の被検体を撮影し各撮影装置の利点を生かして多面的に観察することが行われている。
例えば医療の分野において、医師は医用画像収集装置で患者を撮影し、得られた医用画像を読影して病変部の位置や状態、経時変化を観察する。医用画像を生成する装置としては、単純X線撮影装置、X線コンピュータ断層撮影装置(X線CT撮影装置)、核磁気共鳴映像装置(MRI撮影装置)、超音波撮影装置(US)などがあげられる。夫々の装置は特性が異なるため、撮影する部位や疾病などに適した装置を複数選択して用いる。例えば患者のMRIを撮影し、MRIの画像を参照しながら超音波画像を撮影することで、病変部の位置や広がりなどの診断に有効な情報を得ることができる。
超音波画像と3次元MRI画像の両画像間の対応する部位を対応付けて診断することは効果的であり、そのためには夫々の画像の位置や対応をわかりやすく表示することが求められる。
特に超音波画像とMRI画像の両画像間の対応する部位に変形が生じている場合には、撮影画像をそのまま表示しただけでは空間的に複雑な対応関係を把握することが難しい。そこで非特許文献1では画像間の被検体の変形を推定し3次元MRI画像に変形補正を施すことで、両者の画像の対応を示す技術が非特許文献1に開示されている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】T. Carter, C. Tanner, N .B. Newman, D. Barratt and D. Hawkes, “MR Navigated Breast Surgery: Method and Initial Clinical Experience,” MICCAI2008, Part II, LNCS 5242, pp.356−363, 2008.
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら上述のような3次元画像に変形より3次元画像が観察しにくくなる場合がある。そこで本発明は、撮影された3次元画像を基準として断層画像が位置を把握しやすくすることを目的とする。
【課題を解決するための手段】
【0005】
そこで本発明の一態様に係る画像処理装置は、第一の変形状態の被検体を撮影して得られる、3次元画像を取得する3次元画像取得手段と、第二の変形状態の前記被検体を撮影して得られる、断層画像を取得する断層取得手段と、前記3次元画像において前記断層画像の撮像領域に対応する領域を前記第一の変形状態と前記第二の変形状態との間の変換規則に基づき算出する対応算出手段と、前記対応する領域を表示部に表示させる表示制御手段と、を有することを特徴とする。
【発明の効果】
【0006】
このように断層撮影の撮影領域が撮影された3次元画像中においてどのような領域に対応するかを表示させることで、医師等の観察者に3次元画像を基準とした被検体の観察を容易にすることができる。
【図面の簡単な説明】
【0007】
【図1】第1実施形態に係る撮影システム10の機能構成を示す図である。
【図2】第1実施形態に係る撮影システム10の装置構成を示す図である。
【図3】第1実施形態に係る画像処理装置100の処理手順を示すフローチャートである。
【図4】第1実施形態に係るMRI画像を説明する図である
【図5】第1実施形態に係る超音波画像を説明する図である
【図6】第1実施形態に係る図3のステップS307の処理を説明する図である。
【図7】第2実施形態に係る撮影システム70の機能構成を示す図である。
【図8】第2実施形態に係る画像処理装置700の処理手順を示すフローチャートである。
【図9】第2実施形態に係るステップS807の処理を説明する図である。
【図10】第3実施形態に係る撮影システム30の機能構成を示す図である。
【発明を実施するための形態】
【0008】
以下、添付図面に従って本発明の好ましい実施形態を説明する。
【0009】
[第1実施形態]
本実施例に係る画像処理装置は、変形を生じる被検体の三次元のMRI画像および二次元の超音波画像を異なる変形状態において撮影した画像を取得する。そして、三次元のMRI画像において、超音波画像を撮影した二次元の断面に対応する曲面を算出し、その曲面上に超音波画像を投影した変形超音波画像を生成する。さらに前記曲面でMRI画像を切断したMRI対応面画像(曲面画像)も生成し、前記変形超音波画像と共に表示する。なお、本実施例では人体の乳房を被検体とし、MRI画像撮影時と超音波画像撮影時との間で、被検体に対して異なる方向に重力が作用し、被検体に変形が生じる場合を例として説明する。より具体的には伏臥位(第1の変形状態)で撮影したMRI画像と、仰臥位(第2の変形状態)で撮影した超音波画像を取得する場合を例として説明する。以後、説明を簡易化するために、MRI画像撮影時の伏臥位における被検体の変形状態(第一の変形状態)を変形前態、超音波撮影時の仰臥位における被検体の変形状態(第二の変形状態)を変形後と呼称する。
【0010】
図1に基づいて本実施形態に係る撮影システム10の構成を説明する。
【0011】
MRI撮影装置110は、被検体の所定の三次元領域をMRI撮影したMRI画像を取得する。ここでMRI画像には変形前の状態で被検体が撮影される。
【0012】
超音波撮影装置120は超音波を送受信する不図示の超音波プローブを被検体に接触させることで、被検体の内部を断層撮影し、二次元超音波断層画像を得る。本実施形態では、被検体の所定の二次元領域を撮影した二次元のBモード超音波画像を取得する。
【0013】
位置姿勢計測装置130は超音波撮影装置120が持つ不図示の超音波プローブの位置と姿勢を計測する。例えば、米国Polhemus社のFASTRAK等によって構成され、センサ座標系(位置姿勢計測装置130が基準として定める座標系)における超音波プローブの位置姿勢を計測する。なお、位置姿勢計測装置130は、超音波プローブの位置姿勢が計測できるのであれば、どのように構成されていても良い。
【0014】
画像処理装置100にはMRI撮影装置110、超音波撮影装置120、位置姿勢計測装置130、表示部140が接続されている。
3次元画像取得部1010は、MRI撮影装置110が撮影した被検体のMRI画像を取得し、規則算出部1020、対応画像生成部1060、及び表示制御部1080へ出力する。
【0015】
規則算出部1020は3次元画像取得部1010が取得したMRI画像に基づき、変形前の被検体を基準として変形後の被検体に生じる変形を推定した結果として、被検体の変形に関する変換規則を算出する。そして、算出した変換規則は、対応算出部1050へ出力する。
【0016】
断層画像取得部1030(断層取得部)は、超音波撮影装置120が撮影した被検体の超音波画像を取得し、対応算出部1050、変形画像生成部1070へ出力する。
【0017】
計測値取得部1040は、位置姿勢計測装置130が出力する超音波プローブの位置姿勢の計測値を取得し、対応算出部1050へ出力する。
【0018】
対応算出部1050は、計測値取得部1040が取得した超音波プローブの位置姿勢と、規則算出部1020が算出した変形推定値と、断層画像取得部1030が取得した超音波画像に基づき、次の処理を行う。すなわち、超音波画像診断装置120が撮影した撮影面および撮影領域に対応するような、前記MRI画像におけるMRI対応面およびMRI対応領域を前記変形推定値に基づいて算出する。そして、MRI対応面およびMRI対応領域に関する情報を対応画像生成部1060、変形画像生成部1070へ出力する。
【0019】
対応画像生成部1060(第一の生成部)は、対応算出部1050が算出したMRI対応面の位置でMRI画像を切断した断面画像(MRI対応面画像)を生成し、表示制御部1080へ出力する。
【0020】
変形画像生成部1070(第二の生成部)は、対応算出部1050が算出したMRI対応領域に断層画像取得部1030が取得した超音波画像を投影した変形超音波画像を生成し、表示制御部1080へ出力する。
【0021】
表示制御部1080は、生成された画像を表示部140に表示させる制御を行う。表示制御部1080は3次元画像取得部1010から得たMRI画像と、対応画像生成部1060が生成したMRI対応面画像および、変形画像生成部1070が生成した変形超音波画像に基づき表示画像データを生成する。そして、表示画像を表示部140へと出力する。
【0022】
表示部140は、表示制御部1080が生成した表示画像を表示する。
【0023】
上述の図2、第1実施形態に係る画像処理装置100のハードウェア構成を示す図である。本実施形態の撮影システム10は画像処理装置100、MRI撮影装置110、医用画像記録装置230、ローカルエリアネットワーク(LAN)240、超音波撮影装置120、位置姿勢計測装置130により構成される。
【0024】
画像処理装置100は、例えばパーソナルコンピュータ(PC)などで実現することができる。画像処理装置100は、中央演算処理装置(CPU)211、主メモリ212、磁気ディスク213、表示メモリ214を有し、モニタ215、マウス216、キーボード217が接続されている。 CPU211は、主として画像処理装置100の各構成要素の動作を制御する。主メモリ212は、図3に示す処理を実行するための制御プログラムを格納したり、CPU211によるプログラム実行時の作業領域を提供したりする。
【0025】
磁気ディスク213は、オペレーティングシステム(OS)、周辺機器のデバイスドライブ、後述する位置合わせ処理等を行うためのプログラムを含む各種アプリケーションソフト等を格納する。
【0026】
表示メモリ214は、モニタ215のための表示用データを一時記憶する。モニタ215は、例えばCRTモニタや液晶モニタ等であり、表示メモリ214からのデータに基づいて画像を表示する。マウス216及びキーボード217はユーザによるポインティング入力及び文字やコマンド等の入力をそれぞれ行う。上記各構成要素は共通バス218により互いに通信可能に接続されている。
【0027】
本実例において、画像処理装置100は、LAN240を介して医用画像記録装置230から医用画像データ等を読み出して取得することができる。また、LAN240を経由してMRI撮影装置110から直接に医用画像データ等を取得できるようにしても良い。本発明の形態はこれに限定されず、例えば画像処理装置100にUSBメモリ等の外部記憶装置を接続し、これらの装置から医用画像データ等を読み込んで取得するようにしても良い。また、これらの装置に本システムの処理結果を保存するようにしても良い。また、超音波撮影装置120で撮影した超音波画像を医用画像記録装置230に記録しておいて、画像処理装置100が医用画像記録装置230から超音波画像を読み出して取得できるようにしても良い。
【0028】
主メモリ212に格納されているプログラムをCPU211が実行することにより、画像処理装置100のハードウェアとソフトウェアが協働して図1に示す各部の機能が実現される。なお、図1の各部の一部または全部がハードウェアとして実装され、プログラムは各部のパラメータ設定や処理手順を制御するものであってもよい。
【0029】
次に、画像処理装置100が行う全体の動作に関して、図3のフローチャートを用いて詳しく説明する。本実施形態では、主メモリ212に格納されている各部の機能を実現するプログラムをCPU211が実行することにより実現される。
【0030】
(ステップS300):医用画像の取得
ステップS300において、3次元画像取得部1010は、MRI撮影装置110によって被検体を撮影した3次元画像を取得する。図4に3次元画像の一例を示す。ここでMRI画像400はMRI画像座標系401により定義された三次元空間において複数枚の断面画像により構成され、各断面画像上の各画素の三次元座標値と輝度値の対をMRI画像400の情報として取得するものとする。ここでMRI画像400を構成する座標値の集合をRMRIとする。
【0031】
(ステップS301):被検体の変形推定
ステップS301において、規則算出部1020は、3次元画像取得部1010が取得したMRI画像に基づいて、被検体の変形を推定した結果として、被検体の変形に関する変換規則を算出する処理を実行する。ここで被検体の変形に関する変換規則とは、変形前と変形後との間に被検体に生じる変形を、変形前を基準として記述した情報であり、例えば数1に示す関数fdeform(x,y,z)である。
【0032】
【数1】

【0033】
ここで(x,y,z)はMRI画像座標系における任意の位置を表す座標値であり、(x’,y’,z’)は前記座標値が示す部位に対応する変形後の被検体における位置をMRI画像座標系で表した座標値である。関数fdeformは例えば(x,y,z)に関する多項式などの連続的な関数であっても良いし、離散的な関数であっても良い。関数fdeformを求める処理は、例えば非特許文献1に記載の有限要素法などに基づく既知の変形シミュレーション技術により実現できる。変形の推定結果の一例を図4に示す。ここで変形前の被検体402はMRI画像で撮影された被検体の形状を表している。変形後の被検体の推定結果403は、前記変形前の被検体402の形状が重力による影響で変形した状態の推定結果を示している。MRI画像座標系401において変形前の被検体402の形状と変形後の被検体の推定結果403の関係は前記数1の関数fdeformによって記述される。すなわち、数1の右辺の関数fdeformの引数として変形前の被検体402の任意の部位の座標値を与えると、変形後の被検体の推定結果403における前記部位と対応する部位の座標値が左辺値として得られる。
【0034】
(ステップS302):超音波画像の取得
ステップS302において、断層画像取得部1030は、超音波撮影装置120によって対象物体を撮影した超音波画像を取得する。なお、超音波画像はドップラーや、エラストグラフィなどであっても良い。本実施例では、取得する超音波画像が対象物体の二次元Bモード断層画像である場合を例として説明を行う。図5に超音波画像の一例を示す。超音波画像500は超音波画像座標系501における座標値と輝度値の対として取得される。ここで超音波画像座標系501は、超音波画像を含む平面をx−y平面とし、それと直行する軸をz軸と定義する。したがって、本実施形態では超音波画像500の画素はz=0の平面上のみに存在することになる。ここでz=0の平面を超音波画像座標系501における超音波画像面SUSと表記する。また、超音波画像面SUSに含まれ、超音波画像500が含まれる有限な平面領域を超音波画像領域RUSと表記する。また超音波画像500を構成する各画素の輝度値の集合をIUSと表記し、各要素は前記RUSの各要素と対応づけて記録する。なお、超音波画像面SUSと超音波画像領域RUSは前記超音波画像座標系501を基準として記述されていることとすする。
【0035】
(ステップS303):撮影断面の位置・姿勢の取得
ステップS303において、計測値取得部1040は、位置姿勢計測装置130の計測結果に基づいて、対象物体を撮影した際の超音波画像座標系501とMRI画像座標系401の位置姿勢の関係を取得する。ここで位置姿勢計測装置130は、装置固有の基準座標系を持ち、その座標系における位置姿勢計測値を出力する。本実施形態における計測値取得部1040は、既知の校正技術を用いて前記計測値を変換することでMRI画像座標系401における超音波画像座標系501の位置姿勢の関係を取得する。具体的には超音波画像座標601における座標値をMRI画像座標系401における座標値へと変換するための4行4列の剛体変換行列を取得する。
【0036】
(ステップS304):対応の算出
S304において、対応算出部1050は、ステップS302で取得した超音波画像に関する超音波画像面SUSと超音波画像領域RUSに関し、変形前の被検体を撮影したMRI画像400におけるMRI対応領域とMRI対応面を算出する。ここで、MRI対応領域とは超音波画像領域RUSが示す被検体の領域に対応するMRI画像400における領域である。同様にMRI対応面とは超音波画像面SUSに対応するMRI画像における面である。超音波画像500の撮影時とMRI画像400の撮影時との間では被検体に変形が生じているため、超音波画像領域RUSはMRI対応領域とはMRI画像座標系401において必ずしも一致した領域とはならない。同様に、超音波画像面SUSとMRI対応面とも必ずしも一致した面とはならない。対応算出部1050は、ステップS301で取得した被検体の変形の推定値に基づいて、MRI対応面とMRI対応領域を算出する処理を実行する。以下、ステップS304において対応算出部1050が実行する具体的な処理を詳しく説明する。
【0037】
対応算出部1050は、ステップS303で取得した剛体変換行列を用いて、ステップS302で取得した超音波画像面SUS(すなわちz=0の平面)をMRI画像座標系401における平面S’USへと変換する。具体的には、ステップS303で取得した剛体変換行列の逆行列をTとし、MRI画像座標系401における座標値(x,y,z)に関して、(T31)x+(T32)y+(T33)z+(T34)=0となる平面をS’USとする。ここでTijは行列Tのi行j列の要素を表すものとする。また、超音波画像領域RUSの夫々を、MRI画像座標系401における超音波画像領域R’USへと変換する。具体的には超音波画像領域RUSの各要素の座標値に、ステップS303で取得した剛体変換行列を乗じる処理を実行する。
【0038】
次に、ステップS301で取得したMRI画像400を構成する画素の座標値RMRIの夫々に対して、数1を用いることで変形後の座標値群RMRI_Dを算出する。変形前の座標値群RMRIと変形後の座標値群RMRI_Dの夫々を構成する個々の要素は互いに対応づけて保存する。そして、変形後の座標値群RMRI_Dの夫々の座標値に関して、超音波画像領域R’USを構成する夫々の座標値との間の距離を算出し、その距離が最も小さい(近接する)座標値を求める。そして、その距離が所定の範囲内となるRMRI_Dの部分集合(RMRI_D_NEAREST)を求め、さらにそれと対応付けられている変形前の座標値の集合(RMRI_NEAREST)も求める。さらにRMRI_D_NEARESTの各要素と最近傍となるR’USの要素の集合(R’US_NEAREST)を得る。つまり、RMRI_NEARESTとRMRI_D_NEARESTを構成する各要素は数1に示した関係となり、RMRI_D_NEARESTの各要素はR’US_NEARESTの対応する要素との距離が前記所定の範囲内となる。本実施形態において、対応算出部1050が算出するMRI対応領域はRMRI_NEARESTであり、その付帯情報として、各要素が対応付けられているRMRI_D_NEAREST及びR’US_NEARESTと共に記録する。
【0039】
同様に前記算出した変形後の座標値群RMRI_Dの中で、前記超音波画像面S’USとの距離が所定の範囲内の座標値の集合(SMRI_D)を求め、これと対応づけられている変形前の座標値の集合(SMRI)を得る。これをMRI対応面として記録する。
【0040】
MRI対応領域及びMRI対応面は、前記の説明のように座標値の集合として記録しても良いし、これをさらに多項式等を用いた陰関数として連続的な曲面として記録し直しても良い。これは既知の技術で実行可能であるから説明は省略する。
【0041】
またMRI対応領域及びMRI対応面を求める方法は前記の方法に限らない。例えば数1に示した関数fdeformの逆関数を予め求めておく。そして、超音波画像領域R’USおよびそれを含む超音波画像面S’USを構成する座標値の集合を前記逆関数により変換した座標値を求め、それらの集合としてMRI対応領域、MRI対応面を求めるようにしても良い。
【0042】
MRI画像座標系401において超音波画像領域R’US、超音波画像面S’USは平面上に存在するが、MRI対応領域、MRI対応面は被検体の変形の推定に基づいて算出されるため、必ずしも平面上に存在するとは限らない。例えばステップS301で推定した変形が空間に対して非線形であれば、MRI対応領域、MRI対応面は曲面等となる。
【0043】
(ステップS305): MRI対応面画像の生成
ステップS305において、対応画像生成部1060は、ステップS304で得たMRI対応面に基づいてMRI対応面画像を生成する。MRI対応面画像はステップS304で取得したMRI対応面を構成する座標値の集合SMRIと、その各要素の座標値に対応するMRI画像400の輝度値の対として生成する。
【0044】
(ステップS306):変形超音波画像の生成
ステップS306において、変形画像生成部1070は、変形後の被検体を撮影した超音波画像500を、変形前の被検体の対応する領域に変形させた変形超音波画像を生成する処理を実行する。ここで生成する変形超音波画像もステップS305で生成したMRI対応面画像と同様に画像を構成する座標値と輝度値の対として生成する。ここで座標値は、ステップS304で取得したMRI対応領域(RMRI_NEAREST)を用いることができる。輝度値は、ステップS304でMRI対応領域の付帯情報として記録した前記RMRI_NEARESTの各要素と最近傍となる超音波画像の座標値の集合R’US_NEARESTにおける超音波画像500の輝度値である。すなわち、変形超音波画像とはMRI画像座標系401においてMRI対応領域が示す領域に、ステップS301で推定した変形に基づいて、超音波画像を投影した画像となる。
【0045】
(ステップS307):表示画像の生成
ステップS307において、表示制御部1080はステップS300で取得したMRI画像及び、ステップS305で生成したMRI対応面画像及び、ステップS306で生成した変形超音波画像に基づいて表示画像を生成する処理を実行する。表示画像の生成については様々な方法が考えられるが、例えばMRI画像をボリュームレンダリングした二次元画像上に、前記MRI対応面画像および変形超音波画像を重畳して表示するようにできる。これについて図6に基づき用いて詳しく説明する。図6(a)は、ステップS300で取得したMRI画像のボリュームレンダリングしたレンダリング画像600を示している。ここでレンダリング画像600は二次元画像であり、変形前の被検体を撮影したMRI画像を任意に定めた仮想的な視点から観察した様子をレンダリングした画像である。図6(b)は、ステップS305で生成したMRI対応面画像を前記同様の仮想的な視点から観察した様子を示している。図6(c)には、ステップS306で生成した変形超音波画像を前記同様に仮想的な視点から観察した様子を示している。表示制御部1080は、図6(d)に示すように、レンダリング画像600にMRI対応面画像610を重畳し、さらに変形超音波画像620を重畳した画像を表示画像630として生成する。ここでレンダリング画像600を生成する際には、MRI画像の前記MRI対応面よりも視点側に近い手間側領域640の不透明度を下げる、もしくは、その領域をレンダリング処理の対象外とするなどとしても良い。これにより、変形前の被検体402とMRI対応面画像610、変形超音波画像620の位置関係を把握しやすい表示画像を生成できる。
【0046】
(ステップS308):画像を表示
ステップS308において、表示部140は、ステップS307で生成した表示画像を表示メモリ214に送信することで、モニタ215に表示する処理を実行する。
【0047】
(ステップS309):終了判定
ステップS309において画像処理装置100は、全体の処理を終了するか否かの判定を行う。例えば、モニタ215上に表示された終了ボタンを操作者がマウス216でクリックするなどして、終了の判定を入力する。終了すると判定した場合には、画像処理装置100の処理の全体を終了させる。一方、終了すると判定しなかった場合には、ステップS302へと処理を戻し、新たに取得される超音波画像500および位置姿勢の計測結果に対して、ステップS302からステップS308までの処理を再度実行する。
以上によって、画像処理装置100の処理が実施される。
【0048】
以上に説明した、本実施形態における撮影システム10によれば、変形後の被検体を超音波撮影する際に、その撮影領域と、変形前の被検体を撮影したMRI画像との対応領域との位置関係を分かりやすく表示することができる。また、超音波撮影した撮影領域に対応するMRI画像の対応領域の画像を好適な条件で観察することができる。
【0049】
さらに、超音波撮影により取得した被検体の断面画像を、三次元画像の中の対応領域に投影して表示する仕組みを提供できる。そのため、前記超音波画像の各部位が、変形状態の異なる被検体を撮影した三次元画像中においてどの位置に対応するのかを医師に明確に提示することができる。
【0050】
超音波撮影をしている被検体の断面領域に対応する、三次元画像の対応領域の画像を表示する仕組みを提供できる。そのため、前記変形状態の異なる被検体を撮影した三次元画像の前記超音波撮影をしている領域に対応する領域の画像を医師に明確に提示することができる。
【0051】
(変形例1−1):MRI断面画像を重畳しない
前記の第1実施形態では、MRI対応面画像を生成し、MRI画像のボリュームレンダリング画像に重畳して表示する場合を例として説明したが、本発明の実施はこれに限定されない。例えば、ステップS305の処理を省略し、ステップS307ではMRI画像をステップS304で算出したMRI対応面でクリッピングしたボリュームレンダリング画像を生成し、それに変形超音波画像を重畳するようにできる。これによれば、MRI対応面画像の生成処理と、その画像の重畳処理を実行する必要がないため、処理を簡略化・高速化できる。
【0052】
また前記の第1実施形態では、MRI対応領域RMRI_NEARESTに超音波画像500の輝度値を投影した画像を前記変形超音波画像とする場合を例として説明したが、本発明の実施はこれに限定されない。例えば変形超音波画像は、変形後のMRI画像における超音波画像500の撮影領域R’USの境界に対応する枠線であっても良い。具体的には、前記R’USのうち超音波画像500の撮影領域の境界に対応する座標値の部分集合をR’’USとし、以下の処理を実行する。すなわち、変形後の座標値群RMRI_Dの夫々の座標値に対し、R’’USを構成する夫々の座標値との間の距離を算出し、その距離が最も小さい(近接する)座標値を求める。そして、その距離が所定の範囲内となるRMRI_Dの部分集合(R’’MRI_D_NEAREST)を求め、さらにそれと対応付けられている変形前の座標値の集合(R’’MRI_NEAREST)も求める。そして、変形超音波画像は、前記R’’MRI_NEARESTにより構成される枠線とすることができる。これによれば、前記MRI対応領域の算出処理では、前記枠線に対応する処理だけを実行すれば良いから、処理を簡略化・高速化できる。
【0053】
(変形例1−3):ボリュームレンダリング以外
前記の第1実施形態では、表示画像の生成方法としてMRI画像をボリュームレンダリングした画像に基づく場合を例として説明したが、本発明の実施形態はこれに限らない。例えば、対象とするMRI画像に映る被検体の皮膚や大胸筋、乳腺などの内部組織構造を抽出し、それらの輪郭に基づくサーフェスレンダリングした画像に基づくようにしても良い。
【0054】
[第2実施形態]
本実施形態では、変形した超音波画像に対応するMRI断面を表示する代わりに、三次元のMRI画像を構成する複数の断面画像のうち任意の断面画像を注目断面画像として設定し、その断面画像と共に前記第1実施形態で説明した変形超音波画像を表示する。
【0055】
図7は本実施形態に係る撮影システム70の構成を説明する図である。なお、第1実施形態の撮影システム10と共通する構成には同一の符号を付し、その説明は省略する。
【0056】
断面生成部1100は、3次元画像取得部1010が取得した三次元のMRI画像と、ユーザの操作入力などに基づき、前記MRI画像から注目断面画像を生成する。生成した注目断面画像は表示制御部1080へ送信する。
【0057】
次に、本実施形態に係る画像処理装置700が行う全体の動作に関して、図8のフローチャートを用いて詳しく説明する。なお、ステップS800からステップS801の処理は図3に示した第1実施形態の画像処理装置100が行うステップS300からステップS301と同一の処理であるため説明は省略する。同様に、ステップS803からステップS806の処理もステップS302からステップS306の処理と、ステップS808からステップS809の処理はステップS308からステップS309と同一であるため説明は省略する。以降、ステップS802とステップS807の処理について説明する。
【0058】
(ステップS802):MRI注目断面画像を取得
ステップS802において、断面生成部1100は、ステップS800で取得したMRI画像からユーザの操作などに基づき病変等が映る注目断面を選択し、それをMRI注目断面画像として取得する。MRI注目断面画像は二次元の画像であり、その画像を構成する各画素の座標値と輝度値の対として取得する。ここで座標値はステップS800で取得したMRI画像に関するMRI画像座標系を基準とした座標値である。
【0059】
(ステップS807):表示画像の生成
ステップS807において表示制御部1080は、ステップS802で生成したMRI注目断面画像とステップS806で生成した変形超音波画像に基づき表示画像を生成する処理を実行する。この処理の具体的な例を図9に示す。図9は表示制御部1080が生成する表示画像950の一例を表す図である。表示画像950には変形超音波画像720とMRI注目断面画像951とが描画される。これらの画像を構成する各画素値はMRI画像座標系における座標値と輝度値を持っている。前記座標値が示す位置に前記輝度値を持つ画素を配置する処理を前記各画像について実行する。それをMRI画像座標系において任意に設定した仮想的な視点位置から観察した様子をレンダリングすることで、表示画像950を生成する。
【0060】
以上によって、画像処理装置700の処理が実施される。
【0061】
以上、本実施形態における撮影システム70によれば、変形超音波画像と共にユーザが指定したMRI注目断面画像が常に表示される。そのため、超音波撮影装置が撮影している領域と前記MRI注目断面画像との位置関係を把握することができる。例えば注目する病変の領域がMRI画像上で定まっている場合に、その領域を含むMRI注目断面画像をユーザが設定することで、当該領域と超音波画像との位置関係を容易に把握できる画像を表示できる。
【0062】
(変形例2−1):MRI注目断面画像は複数枚でも良い
前記第2実施形態では、MRI画像中から1枚の断面画像をユーザが選択し、それをMRI注目断面画像として生成する場合を例として説明したが、本発明の実施はこれに限定されない。例えば、MRI画像中に複数の病変等を含む領域が存在する場合に、断面生成部1100は、ユーザ入力の取得等により夫々の領域を含むMRI注目断面画像を複数枚生成するようにしても良い。また、MRI注目断面画像の設定は、ユーザによる直接的な設定を取得する場合に限らない。例えばユーザが入力した注目する領域の座標値を取得し、その領域を含む直行三断面を自動的にMRI注目断面画像として設定するようにしても良い。これ以外にも、例えば本実施形態の画像処理装置700を不図示の読影レポートシステムと接続し、MRI画像の注目断面に関する情報を前記読影レポートシステムから取得し、これに基づいてMRI注目断面画像を生成するようにしても良い。
【0063】
また、複数のMRI注目断面画像が生成される場合には、表示制御部1080は、前記複数のMRI注目断面画像の全てを描画するようにしても良いし、その一部だけを表示するようにしても良い。一部だけを表示する場合には、ユーザの入力操作等によってその切り替えを行うようにしても良い。それ以外にも例えば、変形超音波画像とMRI注目断面画像との位置関係や、視点位置との位置関係等に基づいて表示を切り替えるようにもできる。
【0064】
以上の第2実施形態の変形例によれば、三次元画像中のユーザが注目する断面画像と共に、超音波撮影をしている被検体の断面領域に対応する対応領域を表示する仕組みを提供できる。MRI画像中における病変等の注目領域が描出される複数のMRI断面と、超音波画像の撮影領域および撮影画像との比較を容易に行えるという効果がある。そのため、前記注目する断面画像と前記三次元画像の中の超音波撮影の領域の関係を医師に明確に提示することができる。
【0065】
[第3実施形態]
3次元MRI画像と2次元超音波断層画像(超音波画像)のそれぞれの撮影時の変形状態が同一または実質的に同一とみなされる場合には変形規則の算出や変形画像の生成を行わず、3次元MRI画像上に超音波断層画像を重畳して表示する。
【0066】
加えて変形状態が異なる場合には3次元MRI画像を基準に超音波画像を変形する表示と、超音波画像を基準に3次元MRI画像を変形する表示とを同時にまたは切り替えて行う。
【0067】
図10に従い本発明の構成及び処理の流れを説明する。なお、先述の実施例と同様の構成及び処理については説明を省略する。
【0068】
撮影システム30は超音波撮影装置120と画像処理装置1000を有しており、超音波撮影に応じて断層画像取得部1030が断層画像を適宜取得し表示制御部1080が表示部140に表示させる。また3次元画像取得部1010は、医用画像記録装置230から超音波撮影の同一被検者の既に撮影済みの3次元MRI画像を取得する。3次元MRI画像の付帯情報として3次元MRI画像の撮影体位の情報を取得する。
【0069】
判定部1090は、3次元MRI画像の撮影体位の情報から被検体の変形状態を取得する。なお、撮影体位の情報そのものを変形状態を示す情報として扱っても良い。また、超音波撮影装置120に対して設定された被検体の撮影条件に基づいて被検体の変形状態を取得する。判定部1090は3次元MRI画像と超音波断層画像の変形状態を比較し、異なっているか否かを判定する。ここで、変形状態が実質的に同一と判断できる場合には異なっているという判定をしないこととする。例えば、立位と座位で撮影体位が異なっていたとしても、被検体を乳房とした撮影である場合には変形状態は実質的に同一と考えられるため、変形状態は異なっているという判定をしない。
【0070】
なお判定は異ならないという判定をされるか否かに応じて行うこととしたが、これに限らず同一であるか否かを判定することとしても、同一であるか異なるかを判定することとしてもよい。
【0071】
判定の結果、変形状態が異なっていると判定されなかった場合には、3次元MRI画像および超音波画像の変形を行わず、対応算出部1050は両画像の対応関係を算出し、3次元MRI画像の対応する位置に2次元超音波断層画像を重畳表示する。
【0072】
判定の結果、変形状態が異なっていると判定された場合には、先述の実施形態通りの3次元MRI画像を基準に超音波画像を変形する表示を行うが、ユーザの指定に応じて超音波画像を基準に3次元MRI画像を変形する表示を同時にまたは切り替えて行う。
【0073】
以下、3次元MRI画像を変形して表示する場合を説明する。
【0074】
規則算出部1020で異なる変形状態間での変換規則を3次元MRI画像に基づき算出する。もちろん予め医用画像記録装置230に記録された変換規則を用いることとしてもよい。また、当該3次元MRI画像から算出せずとも、平均的な変換規則を用いることとしてもよく、その場合には処理が簡便になる。
【0075】
対応算出部1050は変換規則に基づいてMRI画像を変形し、2次元超音波断層画像の撮像領域の対応位置を算出する。2次元の超音波断層画像である場合、撮像領域は面となる。断面生成部1100は2次元超音波断層画像の撮像面に対応する断面によるMRI断面画像を生成する。
【0076】
表示制御部1080は変形された3次元MRI画像から生成されたMRI断面画像と、変形されていない2次元の超音波断層画像とを表示部140に表示する。並べて表示することとしても、対応関係が分かりやすいように超音波断層画像をMRI断面画像に重畳して表示することとしてもよい。
【0077】
表示前、または表示中に受けたユーザによる不図示の操作部(マウス216やキーボード217)を介した指示に応じて、表示制御部1080は超音波画像を変形した表示のみか、MRI画像を変形した表示のみか、両方を同時に表示するかを切り替える。
【0078】
これによって、変形状態が著しく大きい場合や、超音波画像を基準に観察したい場合には超音波画像を変形せず3次元MRI画像を変形して表示させることでユーザがより被検体を観察しやすくなる。
【0079】
また、変形状態が異ならない場合には変形せずに対応関係を表示するとともに、変形状態が異なる場合には一方を変形して対応関係を表示することで、医師等の検査者に2種類の画像の対応関係を容易に把握させることができる。乳房ではMRI撮影と超音波撮影での変形状態が異なる場合が多く、腹部等の撮影では変形状態が異ならない場合がある。よって、異なる撮影部位で得られた画像についても本実施形態の処理により統一的に扱うことができる。また、同じ乳房撮影でも撮影目的その他の状況に応じてMRI撮影と超音波撮影で変形状態が異なる場合と、異ならない場合とを統一的に扱うことができる。
【0080】
なお、撮影時の変形状態が異なっている場合で、一方の画像を他方に合わせて変形表示した場合には、いずれの画像が変形され、いずれの画像が変形されていないかを示す表示を、文字によるメッセージ、色、点滅、枠線の形状等の表示形態を変えることでユーザに知らせることができる。また、変形状態が異ならない場合には、両画像とも変形された画像ではないことを示す情報を表示することで、特に本実施例のように複数の表示が可能なシステムにおいてはユーザにどのような処理を経て表示された画像であるかを分かりやすく示すことができる。
【0081】
なお、本実施形態では変形状態の判別処理と、MRI画像を変形する表示と超音波画像を変形する表示とを並べて/切り替えて表示する表示制御処理との両方を実現するシステムを説明した。これに限らず、判別処理と表示制御処理の一方のみを実現するシステムであっても良い。
【0082】
[その他の実施形態]
なお、上述した本実施の形態における記述は、本発明に係る好適な画像処理装置の一例であり、本発明はこれに限定されるものではない。
【0083】
上述の実施例では、被検体を人体の乳房とする場合を例として説明したが、本発明の実施はこれに限らず、任意の被検体であってもよい。
【0084】
上述の実施形態では、三次元画像はMRI画像である場合を例として説明したが、本発明の実施はこれに限らない。例えば、MRI撮影装置110はX線CT撮影装置や、光音響トモグラフィ装置、三次元超音波装置であってもよい。
【0085】
上述の実施形態では、第一の変形状態である被写体を撮影した画像と、第二の変形状態である被写体を撮影した画像のうち、一方を他方に合わせて変形する例を説明しているが、これに限られず、ユーザの便宜である場合には、第一の変形状態及び第二の変形状態のいずれとも異なる第三の変形状態に合わせて両方の画像を変形することとしてもよい。この場合、第一の実施形態を例にとれば規則算出部1020は第一の変形状態から第三の変形状態へと変形するための変換規則と、第二の変形状態から第三の変形状態へと変形するための変換規則と算出する。変換規則は、所定の変形状態で撮影された3次元画像を第一、第二、第三の変形状態とした際の画像情報に基づいて算出することができる。対応算出部1050は第3の変形状態とした場合の2画像の対応関係を算出する。対応画像生成部1060と変形画像生成部は1070それぞれMRI画像と超音波画像から第三の変形状態へと変形した画像を生成する。そして表示制御部1080の制御に応じてこれら変形された2画像を表示させることとする。これにより、例えばある基準となる変形状態(第三の変形状態)があり、撮影された2画像がいずれも第三の変形状態と異なる画像であった場合には、基準の変形状態に合わせて複数の画像を統一的に観察することができる。
【0086】
上述の実施形態では、超音波画像を変形して表示することとしたが、変形前の超音波画像に付いても並べて/切り替えて表示させることとすることができる。例えば、変形状態が大きく超音波画像が観察し難い画像となったときには、ユーザの指示に応じて変形前の超音波画像を表示制御部1080が表示部140に表示させることとすれば、MRI画像と超音波画像の対応関係を分かりやすく表示しつつ、超音波画像を観察しやすくすることができる。
【0087】
第一実施形態または第二実施形態では画像処理装置にMRI撮影装置110及び超音波撮影装置120の両方が接続することとしているがこれに限られない。例えば第三実施形態のように超音波撮影装置120だけが接続されることとしても、MRI撮影装置110だけが接続されることとしてもよい。あるいは、撮影装置とは直接接続されず、撮影装置により撮影された医用画像記録装置230に記録された画像を画像処理装置が取得することとしてもよい。
【0088】
3次元MRI画像及び2次元超音波断層画像をそれぞれ医用画像記録装置230から取得する場合、3次元画像取得部1010及び断層画像取得部1030は同一の機能およびハードウェアにより達成されうる。
【0089】
また本発明の目的は、前述した実施形態の機能を実現するプログラムコードを記録した記録媒体を装置に供給し、その装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても達成される。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
【0090】
また、コンピュータが読み出したプログラムコードを実行することにより、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、前述した実施形態の機能が実現される場合も本発明に含まれる。
【0091】
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
【符号の説明】
【0092】
10 撮影システム
100 画像処理装置
110 MRI画像撮影装置
120 超音波撮影装置
140 表示部
1010 3次元画像取得部
1020 規則算出部
1030 断層画像取得部
1040 計測値取得部
1050 対応算出部
1060 対応画像生成部
1070 変形画像生成部
1080 表示制御部

【特許請求の範囲】
【請求項1】
第一の変形状態の被検体を撮影して得られる、3次元画像を取得する3次元画像取得手段と、
第二の変形状態の前記被検体を撮影して得られる、断層画像を取得する断層取得手段と、
前記3次元画像において前記断層画像の撮像領域に対応する領域を前記第一の変形状態と前記第二の変形状態との間の変換規則に基づき算出する対応算出手段と、
前記対応する領域を表示部に表示させる表示制御手段と、
を有することを特徴とする画像処理装置。
【請求項2】
第一の変形状態と第二の変形状態との間の変換規則に基づいて前記断層画像を変換し新たな断層画像を生成する生成手段を更に有し、
前記表示制御手段は、前記新たな断層画像を前記3次元画像と対応させて表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記対応算出手段により算出された、前記断層画像の撮像面に対応する面による前記3次元画像の断面画像を生成する断面生成手段を更に有し、
前記表示制御手段は、前記対応する領域を前記生成された断面画像に重畳して表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記対応算出手段により算出された、前記断層画像の撮像面に対応する面による前記3次元画像の断面画像を生成する第一の生成手段を更に有し、
第一の変形状態と第二の変形状態との間の変換規則に基づいて前記断層画像を変換し新たな断層画像を生成する第二の生成手段と、
前記表示制御手段は、前記断層画像を前記生成された断面画像に重畳して表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記対応算出手段は、前記断層画像の撮像面に対応する曲面を算出することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
【請求項6】
前記3次元画像から注目断面を取得する断面生成部を更に有し、
前記表示制御手段は、前記対応する領域と前記注目断面との位置関係を示すように表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記3次元画像と前記断層画像について前記被検者の変形状態が異なるか否かを判定する判定手段を更に有し、
前記表示制御手段は、前記判定手段により変形状態が異なると判定された場合には前記対応する領域を表示部に表示させ、変形状態が異なると判定されなかった場合には前記撮像領域を表示部に表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項8】
前記表示制御手段は、前記3次元画像を前記変換規則に基づいて変換した3次元画像に前記撮像領域を重畳して表示させる
ことを特徴とする請求項1または7に記載の画像処理装置。
【請求項9】
前記3次元画像に基づいて前記変換規則を算出する算出手段を更に有する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項10】
前記断層取得手段は、前記画像処理装置と接続された超音波撮影装置で撮影された断層画像を取得し、
前記3次元画像取得手段は、前記画像処理装置と接続されたMRI撮影装置またはCT撮影装置の少なくとも一方で撮影された3次元画像を取得する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項11】
前記断層取得手段は、仰臥位の被検体が撮影されることで得られる断層画像を取得し、
前記3次元画像取得手段は、伏臥位の被検体が撮影されることで得られる3次元画像を取得する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項12】
仰臥位の被検体を撮影して得られる仰臥位の2次元超音波画像を取得する取得手段と、
伏臥位の前記被検体を撮影して得られる伏臥位の3次元画像を取得する取得手段と、
伏臥位と仰臥位との間の変換規則を算出する算出手段と、
前記変換規則に基づいて前記仰臥位の2次元超音波画像から伏臥位の2次元超音波画像を得る生成手段と、
を有することを特徴とする画像処理装置。
【請求項13】
前記生成された伏臥位の2次元超音波画像と前記伏臥位の3次元画像とを表示部に表示させる表示制御手段を更に有することを特徴とする請求項12に記載の画像処理装置。
【請求項14】
請求項1乃至13のいずれか1項に記載の画像処理装置と、
前記表示部と、
前記断層画像を撮影する超音波撮影装置と、
を有することを特徴とする撮影システム。
【請求項15】
第一の変形状態の被検体を撮影して得られる、3次元画像を取得するステップと、
第二の変形状態の前記被検体を撮影して得られる、断層画像を取得するステップと、
前記3次元画像において前記断層画像の撮像領域に対応する領域を前記第一の変形状態と前記第二の変形状態との間の変換規則に基づき算出するステップと、
前記対応する領域を表示部に表示させるステップと、
を有することを特徴とする画像処理方法。
【請求項16】
第一の変形状態の被検体を撮影して得られる、3次元画像を取得する処理と、
第二の変形状態の前記被検体を撮影して得られる、断層画像を取得する処理と、
前記3次元画像において前記断層画像の撮像領域に対応する領域を前記第一の変形状態と前記第二の変形状態との間の変換規則に基づき算出する処理と、
前記対応する領域を表示部に表示するための表示画像データを生成する処理と、
をコンピュータに実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2013−398(P2013−398A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−135353(P2011−135353)
【出願日】平成23年6月17日(2011.6.17)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】