プログラムおよび情報処理装置
【課題】患者の撮影部位の状態の変化を予測することを支援する。
【解決手段】診断支援装置10の入力受付部100は、処理対象の画像であるクエリ画像の入力を受け付ける。特徴量算出部106は、クエリ画像の特徴量を算出する。類似画像検索部114は、過去に撮影された患者の画像それぞれの特徴量を記憶した特徴量DB108を参照し、クエリ画像に類似する患者の画像を検索する。予測画像生成部116は、過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変形モデルDB112から、類似画像検索部114が検索した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する。予測画像生成部116は、この変換関数を用いてクエリ画像を変換して予測画像を生成する。生成された予測画像は、出力処理部120により出力される。
【解決手段】診断支援装置10の入力受付部100は、処理対象の画像であるクエリ画像の入力を受け付ける。特徴量算出部106は、クエリ画像の特徴量を算出する。類似画像検索部114は、過去に撮影された患者の画像それぞれの特徴量を記憶した特徴量DB108を参照し、クエリ画像に類似する患者の画像を検索する。予測画像生成部116は、過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変形モデルDB112から、類似画像検索部114が検索した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する。予測画像生成部116は、この変換関数を用いてクエリ画像を変換して予測画像を生成する。生成された予測画像は、出力処理部120により出力される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラムおよび情報処理装置に関する。
【背景技術】
【0002】
医療用画像に基づく診断を支援する技術が知られている。例えば、特許文献1には、異常な陰影(特徴)を有する画像を優先的に表示させる画像保管通信システムが開示されている。特許文献1に記載の技術では、入力された画像の特徴を検出すると、その特徴を示す情報を当該入力画像に付加し、このように付加された情報に基づいて、表示させる画像を選択する。
【0003】
特許文献2に記載の技術では、撮影された患者の画像における病変位置や病変種類などの特徴量を検出し、当該画像および当該特徴量をデータベースに格納し、患者の画像および特徴量をデータベースから取得して表示させたり、指定された画像について、データベースから取得した特徴量および当該患者の画像の情報を含む仮レポート報告書を作成したりする。
【0004】
特許文献3には、病気または医学的状態についての分類された重症度レベルを持つ画像のデータベースを、人による重症度の指定に基づいて作成しておき、患者画像とデータベース内の画像との比較によって、病気または医学的状態の重症度を求める技術が開示されている。
【0005】
特許文献4には、患者を撮影して得られた医用画像から異常陰影候補の画像領域を検出し、発病した複数の患者について得られた異常陰影候補の検出結果を用いて、診断対象の患者の将来の発病の可能性を示す予測値を算出する技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平05−205018号公報
【特許文献2】特開2003−33327号公報
【特許文献3】特開2007−105461号公報
【特許文献4】特開2007−135683号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、医療の診断においては、患者を撮影した画像に基づいて、患者の現在の症状を特定するだけでなく、その後の撮影対象の状態の変化を予測することが望まれる場合がある。
【0008】
本発明の目的は、患者を撮影した画像における撮影対象の状態の変化を予測することを支援するプログラムおよび情報処理装置を提供することである。
【課題を解決するための手段】
【0009】
請求項1に係る発明は、処理対象の画像である対象画像の特徴を表す特徴量を算出するステップと、過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定するステップと、前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定するステップで特定された画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成するステップと、前記生成するステップで生成された変換関数を用いて前記対象画像を変換した画像を出力するステップと、をコンピュータに実行させるためのプログラムである。
【0010】
請求項2に係る発明は、請求項1に係る発明において、前記変化情報記憶手段は、患者を撮影した第一の画像と、当該第一の画像の撮影時期以降に当該患者を撮影した第二の画像に変換する変換関数を定めるパラメータであって当該第一の画像および当該第二の画像を用いて算出されたパラメータと、当該第一の画像の撮影時期から当該第二の画像の撮影時期までの経過時間と、を関連づけて記憶し、前記特徴量記憶手段は、前記第一の画像のそれぞれの前記特徴量を記憶し、前記特定するステップにおいて、前記対象画像に類似する前記第一の画像が特定され、前記画像の変換関数を生成するステップにおいて、前記特定するステップで特定された第一の画像に関連づけられたパラメータであって共通の前記経過時間に関連づけられたパラメータを前記変化情報記憶手段から取得し、取得したパラメータを用いて前記画像の変換関数を生成する。
【0011】
請求項3に係る発明は、請求項2に係る発明において、前記対象画像および前記第一の画像のそれぞれの前記特徴量は、当該画像において病変を含む領域であると判定された病変領域の特徴を表し、前記パラメータは、前記第一の画像における前記病変領域の画像を前記第二の画像における前記病変領域の画像に変換する変換関数を定めるパラメータである。
【0012】
請求項4に係る発明は、請求項2または3に係る発明において、患者と、患者を撮影した画像と、当該画像の撮影時期と、を関連づけて記憶した画像記憶手段に記憶された画像のうちの少なくとも1つを初期状態画像とし、当該初期状態画像の撮影時期以降に当該初期状態画像の患者を撮影した画像を前記画像記憶手段から取得し、取得した画像と前記初期状態画像とを用いて、前記初期状態画像を当該取得した画像に変換する変換関数を定めるパラメータを算出するステップと、前記初期状態画像を前記第一の画像とし、前記パラメータを算出するステップで前記画像記憶手段から取得した画像を前記第二の画像として、前記第一の画像とした前記初期状態画像と、前記パラメータを算出するステップで算出したパラメータと、前記初期状態画像の撮影時期から前記第二の画像とした画像の撮影時期までの経過時間と、を互いに関連づけて前記変化情報記憶手段に対して出力するステップと、を前記コンピュータにさらに実行させる。
【0013】
請求項5に係る発明は、請求項2から4のいずれか1項に係る発明において、前記対象画像の撮影時期から、前記画像の変換関数を生成するステップで用いられたパラメータに共通して関連づけられた経過時間が経過したときに前記対象画像に係る患者を撮影した画像である結果画像を取得するステップと、前記画像の変換関数を生成するステップで用いられたパラメータを前記結果画像に基づいて評価して求めた評価値を当該パラメータに関連づけて前記変化情報記憶手段に対して出力するステップと、をさらに前記コンピュータに実行させ、前記画像の変換関数を生成するステップにおいて、前記取得したパラメータの前記評価値をさらに用いて前記画像の変換関数を生成する。
【0014】
請求項6に係る発明は、処理対象の画像である対象画像の特徴を表す特徴量を算出する算出手段と、過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定する特定手段と、前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定手段が特定した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する生成手段と、前記生成手段が生成した変換関数を用いて前記対象画像を変換した画像を出力する出力手段と、を備えることを特徴とする情報処理装置である。
【発明の効果】
【0015】
請求項1または6に係る発明によると、患者を撮影した画像における撮影対象の状態の変化を予測することを支援できる。
【0016】
請求項2に係る発明によると、経過時間毎の撮影対象の状態を予測した画像をユーザに提示できる。
【0017】
請求項3に係る発明によると、患者を撮影した画像における病変領域の時間による変化を予測することを支援できる。
【0018】
請求項4に係る発明によると、患者を撮影した画像から、ある時間の経過による画像の変化を表すパラメータを算出して記録できる。
【0019】
請求項5に係る発明によると、ある経過時間における撮影対象の状態を予測した画像の生成に用いられたパラメータを、当該経過時間が経過した時点で実際に撮影された画像を用いて評価して求めた評価値を用いて、画像の変換関数を生成できる。
【図面の簡単な説明】
【0020】
【図1】診断支援装置の構成の例を示す機能ブロック図である。
【図2】読影レポートDBのデータ内容の例を示す図である。
【図3】特徴量DBのデータ内容の例を示す図である。
【図4】変形係数を求める処理の手順の例を説明するための図である。
【図5】変形モデルDBのデータ内容の例を示す図である。
【図6】予測画像DBのデータ内容の例を示す図である。
【図7】変形モデル生成処理の手順の例を示すフローチャートである。
【図8】予測画像生成処理の手順の例を示すフローチャートである。
【図9】予測画像生成処理において変形モデルDBから取得される変形ベクトルの例を示す図である。
【図10】各種のデータベースを更新する処理の手順の例を示すフローチャートである。
【図11】変形係数の重みを求める処理の手順の例を示すフローチャートである。
【図12】コンピュータのハードウエア構成の例を示す図である。
【発明を実施するための形態】
【0021】
図1に、本発明の一実施形態の例の情報処理装置として機能する診断支援装置10の構成の例を示す。診断支援装置10は、入力受付部100、過去病例DB(データベース)102、読影レポートDB104、特徴量算出部106、特徴量DB108、変形モデル生成部110、変形モデルDB112、類似画像検索部114、予測画像生成部116、予測画像DB118、および出力処理部120を備える。
【0022】
入力受付部100は、診断支援装置10に対するユーザの指示などを表す入力を受け付ける。ユーザによる入力は、マウスやキーボードなどの図示しない入力装置を介して入力受付部100により取得される。また、入力受付部100は、診断支援装置10の処理対象となる医用画像の入力を受け付けることもある。医用画像は、患者を撮影して得られる画像であり、例えば、X線写真、MRI(Magnetic Resonance Imaging)画像、またはCT(Computed Tomography)画像など、医療の診断に用いられる各種の画像のいずれであってもよい。入力受付部100は、例えば、診断支援装置10に通信手段を介して接続された他の情報処理装置から医用画像を受信したり、医用画像を形成する装置から医用画像を取得したりする。
【0023】
過去病例DB102は、過去に撮影された医用画像の画像データを記憶するデータベースである。画像データは、画素ごとに色相、輝度、または明度などの値を有するデジタル画像データであってよい。以下の説明では、画像データを単に「画像」と呼ぶこともある。また、本実施形態の例において、過去病例DB102に記憶される画像には、それぞれ、画像を識別するための識別情報である画像IDが付与されているものとする。例えば、当該画像の名称および過去病例DB102における当該画像の格納位置を含む情報を画像IDとして用いてもよい。
【0024】
読影レポートDB104は、過去病例DB102に記憶された各画像について、診断に関する情報を記憶するデータベースである。図2に、読影レポートDB104の内容の例を示す。図2の例の読影レポートDB104には、各画像の画像IDに対応づけて、患者ID、疾病ID、処置ID、撮影日、患者情報、および所見の各項目の内容が登録される。患者IDは、対応する画像データの撮影対象の患者を識別するための識別情報である。疾病IDは、対応する患者の疾病の種類を識別するための識別情報である。処置IDは、対応する患者に対して行われた処置(投薬や手術など)を識別するための識別情報である。撮影日は、対応する画像IDの画像が撮影された日付を表す。「撮影日」の代わりに、画像が撮影された時期を表す「撮影時期」の項目を設け、日付と共に撮影の時刻を登録しておいてもよい。患者情報は、対応する患者の氏名、年齢、および性別など、患者に関する情報を表す。所見は、対応する画像IDの画像についての医師の見解を表す。以上に例示した各項目の値は、画像IDを指定する情報と共にユーザにより入力され、指定された画像IDに対応づけて読影レポートDB104に登録される。なお、読影レポートDB104には、過去病例DB102に記憶された各画像についての上述の情報だけでなく、後述の予測画像生成部116が生成した予測画像に関する情報をさらに記憶しておいてもよい。
【0025】
再び図1を参照し、特徴量算出部106は、医用画像の特徴を表す特徴量を算出する。特徴量算出部106は、過去病例DB102に記憶された画像の特徴量を算出することもあるし、入力受付部100が取得した画像の特徴量を算出することもある。本実施形態の例では、特徴量算出部106は、画像における病変の領域を特定し、特定した病変領域の画像中の位置、大きさ、および形状を表す値を当該画像の特徴量として算出する。画像における病変の領域を特定する手法としては、医用画像における病変領域(異常領域)の特定において従来から用いられている手法を用いればよい。例えば、画像中に存在する円形状の陰影を強調する処理を行った上でモルフォロジカルフィルタを用いて腫瘍影などの孤立陰影を抽出する手法(特開2004−336378号公報を参照)や、健康な人物を撮影して得られた画像のデータと処理対象の画像のデータとを比較することで処理対象の画像のデータの異常領域を特定する手法などを用いればよい。特徴量算出部106は、画像について算出した特徴量を当該画像の画像IDと対応づけて特徴量DB108に登録する。
【0026】
特徴量DB108は、画像の特徴量を記憶するデータベースである。図3は、本実施形態の例における特徴量DB108のデータ内容の例を示す。図3の例の表では、各画像の画像IDに対応づけて、その画像IDの画像について特徴量算出部106が算出した特徴量が登録されている。特徴量は、病変の位置、病変の大きさ、および病変の形状の各項目を含む。病変の位置は、画像における病変領域の位置を表し、例えば、画像に対して定義された座標系における、病変領域の中心点の座標で表される。病変の大きさは、例えば、画像における病変領域の面積を表す。あるいは、例えば、画像全体の面積に対する病変領域の面積の割合を病変の大きさの値としてもよい。病変の形状は、例えば、画像中の病変領域の形状の種類(円形、楕円形、多角形など)を表す値であってもよいし、病変領域の形状を近似した関数であってもよい。あるいは、画像において特定された病変領域の画像データを当該画像から抽出し、抽出した画像データ自体を病変の形状として登録しておいてもよい。
【0027】
図1の説明に戻り、変形モデル生成部110は、医用画像の時間変化のモデルである変形モデルを生成する。本実施形態の例の変形モデル生成部110は、過去病例DB102、読影レポートDB104、および特徴量DB108を参照し、同じ患者を撮影した画像の時系列における非線形の変化を表す変形係数を求める。
【0028】
以下、変形係数を求める手順の例を説明する。変形モデル生成部110は、読影レポートDB104において特定の患者ID、疾病ID、および処置IDの組に対応づけられた画像IDを特定する。さらに、特定した画像IDの画像を過去病例DB102から読み出し、特定した画像IDの特徴量を特徴量DB108から読み出す。本例では、図4に示すように、1人の肺癌患者の肺を撮影した画像I0,I1,I2を過去病例DB102から読み出し、各画像I0,I1,I2の特徴量(病変領域(円r0,r1,r2で囲んだ領域)の位置、大きさ、および形状)を特徴量DB108から読み出したとする。また、画像I0,I1,I2は、この順に3ヶ月間隔で撮影されたものであるとする。変形モデル生成部110は、読影レポートDB104に登録された各画像の撮影日から、画像I0,I1,I2の撮影の順番および時間間隔を求める。変形モデル生成部110は、画像Iiにおける病変領域の画像を画像Ijにおける病変領域の画像に変換する変換関数Tを定義するパラメータを、画像Iiから画像Ijへの変形係数として求める(ここで、i,j=0,1,2;i<jとする)。本例では、この変換関数Tは、2つの変換マトリクスTglobal,Tlocalにより、T=Tglobal+Tlocalとして表される変換マトリクスであるとする。
【0029】
変換マトリクスTglobalは、画像における撮影対象部位の全体の変化を表現する。同じ患者の同じ撮影対象部位を撮影した画像であっても、撮影のタイミングが異なると、完全に同一の画像になるとは限らない。このような画像間の差異を表現するため、本例の変換マトリクスTglobalは、式(1)に示すとおり、アフィン変換を表す行列とする。
[数1]
ここで、(x,y)は、変換前の画像Iiにおける一画素の座標を表す。式(1)のθ11,θ12,θ21,θ22,θ13,θ23は、変換マトリクスTglobalを定義するパラメータである。
【0030】
変換マトリクスTlocalは、画像における病変領域の変化を表現する。本例の変換マトリクスTlocalは、自由形状変形(Free Form Deformation,FFD)による変換を表す。具体的には、画像における病変領域において、Nx×Nyのメッシュによる制御点を生成し、この制御点を用いる式(2)の変換マトリクスTlocalにより、病変領域の変化を表す。
[数2]
ただし、
[数3]
である。また、式(2)において、関数BはB−スプライン関数である。式(2)の変換マトリクスTlocalを定義するパラメータは、Nx,Nyである。
【0031】
変形モデル生成部110は、画像Iiおよび画像Ijと、各画像の特徴量(病変領域の位置、大きさ、形状)と、を用いて、変換マトリクスTglobal,Tlocalのパラメータθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値を求める。例えば、画像Iiにおける病変領域の画像と画像Ijの病変領域における画像との間の相互情報量(Mutual Information,MI)を最大化するパラメータθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値を求める。相互情報量は、次の式(3)により表される。
[数4]
式(3)において、H(I(Si)),H(I(Sj))は、それぞれ、画像Ii,Ijの病変領域の画像のエントロピーを表す。また、H(I(Si),I(Sj))は、画像Iiおよび画像Ijの病変領域の画像の結合エントロピーを表す。
【0032】
式(3)の相互情報量を最大化するよう求めたパラメータの値を、変形モデル生成部110は、画像Iiから画像Ijへの変形係数P=(θ11,θ12,θ21,θ22,θ13,θ23,Nx,Ny)とする。変形モデル生成部110は、画像Iiから画像Ijへの変形係数Pを求めると、画像Iiを初期状態Sとし、画像Iiの撮影時期と画像Ijの撮影時期との間の時間間隔を経過時間tとし、求めた変形係数Pを初期状態Sおよび経過時間tと関連づけて変形モデルDB112に登録する。以下では、初期状態S、変形係数P、および経過時間tにより表されるベクトル(S,P,t)を「変形ベクトル」と呼ぶ。また、過去病例DB102に記憶された複数の画像のそれぞれを初期状態とする変形ベクトルの集合を「変形モデル」と呼ぶ。
【0033】
変形モデルDB112は、変形モデル生成部110が生成した変形モデルを記憶するデータベースである。図5に、変形モデルDB112のデータ内容の一例を示す。図5の例の表では、患者ID、疾病ID、処置ID、初期状態S、および(変形係数P,経過時間t)の各項目が互いに関連づけられている。図5の例の表の一行は、1つの画像を初期状態として求められた変形ベクトルの情報を表すレコードである。図5の例の表において、患者ID、疾病ID、および処置IDの値は、対応する初期状態Sの画像に関連づけて読影レポートDB104に登録された値であり、変形モデル生成部110により読影レポートDB104から取得されて変形モデルDB112に登録される。また、本例において、初期状態Sの値は、対応する画像の画像IDであるとする。また、図5の例の表において、(変形係数P,経過時間t)の項目における各列は、同じ経過時間を含む変形ベクトルの情報を表す。文字列「N/A」は、対応する行の初期状態の画像について対応する列の経過時間の変形ベクトルが生成されていないことを表す。つまり、当該行の初期状態の画像の撮影日から当該列の経過時間が経過した時に撮影された画像であって、当該初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられる画像が過去病例DB102に登録されていないことを表す。
【0034】
類似画像検索部114は、過去病例DB102に登録された画像のうち、入力受付部100が処理対象として受け付けたクエリ画像に類似する画像を検索する。類似画像検索部114は、例えば、特徴量算出部106が算出したクエリ画像の特徴量と、特徴量DB108に登録された各画像の特徴量と、の間の類似度を求め、類似度が予め設定された閾値より大きい画像を類似画像として特定する。2つの特徴量間の類似度は、例えば、各特徴量をベクトル形式で表し、2つの特徴量のベクトル間の類似の程度を表す値を算出することで得られる。ベクトル間の類似の程度を表す値として、例えば、相関係数またはユークリッド距離などを算出すればよい。
【0035】
予測画像生成部116は、入力受付部100が処理対象として受け付けたクエリ画像の撮影時期から、ある時間が経過したときの撮影対象の状態を予測した画像である予測画像を生成する。予測画像生成部116は、類似画像検索部114により検索された、クエリ画像の類似画像のそれぞれを初期状態Sとする変形ベクトルを変形モデルDB112から取得する。取得した変形ベクトルのうち、同じ経過時間を含む変形ベクトルの集合ごとに、当該集合の変形ベクトルに含まれる変形係数を平均し、この結果の値を変形パラメータとする。以下の説明において、「変形パラメータ」の語は、画像の変換関数を定義するパラメータであって、複数の変形ベクトルに含まれる変形係数を用いて求められるパラメータを意味する。予測画像生成部116は、変形パラメータにより定義される変換関数T=Tglobal+Tlocal(式(1),式(2)参照)を用いてクエリ画像を変換し、変換した画像を予測画像とする。このように生成された予測画像は、変形パラメータの生成に用いられた変形ベクトルに含まれる経過時間が経過した時点での、クエリ画像の撮影対象の状態を予測した画像であると言える。
【0036】
予測画像DB118は、予測画像を記憶するデータベースである。予測画像DB118は、元のクエリ画像に対応づけて、経過時間と当該経過時間に係る予測画像とを記憶する。図6に、予測画像DB118のデータ内容の一例を示す。図6の例の表では、各クエリ画像の画像IDに対応づけて、「経過時間」の項目の時間が経過した場合について生成された予測画像の識別情報である予測画像IDが登録されている。予測画像IDの代わりに、該当する予測画像の予測画像DB118における格納位置を登録しておいてもよい。
【0037】
出力処理部120は、予測画像を出力する処理を行う。出力処理部120は、例えば、予測画像DB118に記憶された予測画像を図示しない表示装置に表示させる。このとき、当該予測画像の基になったクエリ画像、対応する経過時間、およびクエリ画像の撮影対象の患者に関する情報などを予測画像と共に表示装置に表示させてもよい。また、出力処理部120は、予め定義された書式に従って、予測画像を含む文書である予測レポートを生成して出力してもよい。予測レポートは、予測画像と予測画像に関連する各種の情報とを含む。予測画像に関連する各種の情報とは、例えば、予測の基になったクエリ画像、経過時間、撮影対象の患者、疾病、処置、および検査結果などである。予測レポートは、例えば、XML(Extensible Markup Language)形式の文書であってよい。予測レポートの出力先は、読影レポートDB104であってもよいし、診断支援装置10に接続された他の情報処理装置であってもよい。
【0038】
図7は、診断支援装置10において行われる変形モデル生成処理の手順の例を示すフローチャートである。図7の例の手順が開始される前に、過去病例DB102には過去に撮影された画像が登録済みであり、読影レポートDB104には、過去病例DB102に登録済みの各画像についての情報(図2参照)が登録済みであるとする。
【0039】
図7を参照し、まず、診断支援装置10の特徴量算出部106は、過去病例DB102に記憶された各画像の特徴量を算出する(ステップS10)。本例において、特徴量算出部106は、各画像における病変領域を特定し、その病変領域の位置、大きさ、および形状を当該画像の特徴量として求める。特徴量算出部106は、算出した特徴量を、各画像の画像IDに対応づけて特徴量DB108に登録する(ステップS12)。
【0040】
特徴量の算出および特徴量DBへの登録が終了すると、変形モデル生成部110は、過去病例DB102に記憶された画像のうちの1つを、変形ベクトルにおける初期状態の画像として選択する(ステップS14)。
【0041】
次に、選択された初期状態の画像からの変化を表す画像の有無を判定する(ステップS16)。本例では、読影レポートDB104を参照し、当該初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像のうち、当該初期状態の画像の撮影日の後に撮影された画像の有無を判定する。
【0042】
初期状態の画像からの変化を表す画像が存在すれば(ステップS16でYES)、変形モデル生成部110は、当該変化を表す画像のそれぞれについて、初期状態の画像からの変化を表す変形ベクトルを生成する(ステップS18)。本例のステップS18では、初期状態の画像を画像Iiとし、ステップS16で存在が確認された画像のそれぞれを画像Ijとし、式(1)〜式(3)を用いる上述の手順に従って、変換関数T(=Tglobal+Tlocal)のパラメータを求める。そして、ステップS16で存在が確認された画像のそれぞれについて、求めたパラメータを変形係数Pとし、当該画像の撮影日と初期状態の画像の撮影日との間の差を経過時間tとする変形ベクトル(S,P,t)を生成する(Sは初期状態の画像の画像ID)。一具体例として、初期状態の画像が図4の例の画像I0であるとすると、ステップS16で、画像I0からの変化を表す画像として画像I1および画像I2の存在が確認される。この場合、ステップS18で、式(1)〜式(3)を用いて、画像I0から画像I1への変換関数Tのパラメータ(PI0→I1)と画像I0から画像I2への変換関数Tのパラメータ(PI0→I2)とを求める。さらに、画像I0から画像I1への変化を表す変形ベクトル(I0,PI0→I1,3ヶ月)と画像I0から画像I2への変化を表す変形ベクトル(I0,PI0→I2,6ヶ月)とを生成する。
【0043】
なお、ステップS18において、変形係数を求める計算において用いられる画像Iiおよび各画像Ijは、過去病例DB102から取得され、これらの画像の特徴量は、特徴量DB108から取得される。
【0044】
初期状態の画像からステップS16で存在が確認された画像それぞれへの変化を表す変形ベクトルを生成すると、変形モデル生成部110は、生成した変形ベクトルを変形モデルDB112に登録する(ステップS20)。本例において、変形モデル生成部110は、初期状態の画像に係る患者ID、疾病ID、および処置IDの組合せに関連づけて、初期状態の画像の画像IDと、生成した各変形ベクトルの変形係数Pおよび経過時間tの組と、を変形モデルDB112に登録する(図5参照)。
【0045】
ステップS20の後、または、ステップS14で選択された初期状態の画像からの変化を表す画像が存在しない場合(ステップS16でNO)、過去病例DB102中の全画像のそれぞれを初期状態として処理済みであるか否かを判定する(ステップS22)。処理済みであれば(ステップS22でYES)、図7の例の手順の処理は終了し、処理済みでなければ(ステップS22でNO)、未処理の画像に対しステップS14〜ステップS20の処理が行われる。
【0046】
図7の例の手順の処理により、変形モデルDB112には、過去病例DB102に記憶された各画像の時間による変化を表す変形ベクトルの集合(変形モデル)が記憶される。この変形モデルを用いて、診断支援装置10は、過去病例DB102に未登録の画像について、ある時間が経過したときの当該画像の撮影対象の状態を表す予測画像を生成する。
【0047】
図8は、診断支援装置10において行われる予測画像生成処理の手順の例を示すフローチャートである。
【0048】
図8を参照し、入力受付部100により、処理対象の画像であるクエリ画像が取得される(ステップS30)。クエリ画像は、患者を撮影した医用画像であり、過去病例DB102に未登録の画像である。また、ステップS30において、クエリ画像に係る患者の疾病IDおよび処置IDの少なくとも一方をクエリ画像と共に取得してもよい。
【0049】
次に、特徴量算出部106は、ステップS30で取得されたクエリ画像の特徴量を算出する(ステップS32)。本例では、クエリ画像における病変領域を特定し、その病変領域の位置、大きさ、形状が特徴量として算出される。
【0050】
クエリ画像の特徴量が算出されると、類似画像検索部114は、過去病例DB102中の画像のうちクエリ画像に類似する画像を検索する(ステップS34)。本例では、類似画像検索部114は、クエリ画像の特徴量と、特徴量DB108に記憶された各画像の特徴量と、の間の類似度を求め、類似度が予め設定された閾値より大きい画像の画像IDを特定する。特定された画像IDの画像は、過去病例DB102に記憶された画像である。以下の説明のための具体例として、ステップS34で、類似画像Ia,Ib,Ic,…,Inが検索されたとする。なお、ステップS30でクエリ画像に係る患者の疾病IDおよび処置IDの少なくとも一方を取得していた場合、ステップS34では、当該疾病IDおよび当該処置ID(の少なくとも一方)に関連づけられた画像のみを検索対象とすればよい。
【0051】
予測画像生成部116は、変形モデルDB112から、ステップS34で検索した類似画像のそれぞれを初期状態とする変形ベクトルを取得する(ステップS36)。図9に、上述の具体例の場合に取得される変形ベクトルの例を示す。図9の例の表の一行は、類似画像Ia,Ib,Ic,…,Inそれぞれを初期状態とする変形ベクトルの情報を表す。図9の例の表において、(変形係数P,経過時間t)の項目における各列は、同じ経過時間ti(i=1,2,…,m)を含む変形ベクトルの情報を表す。また、図9において、文字列「N/A」は、対応する行の初期状態の画像について対応する列の経過時間の変形ベクトルが生成されていないことを表す。
【0052】
再び図8を参照し、ステップS36の後、予測画像生成部116は、取得した変形ベクトルを用いて、これらの変形ベクトルに含まれる経過時間tごとに、当該経過時間が経過した時点でのクエリ画像の変化を表す変形パラメータを生成する(ステップS38)。図9の具体例の場合、(変形係数P,経過時間t)の項目の各列について、変形係数Pの値の平均を求め、求めた平均値を当該列の経過時間tに関する変形パラメータPtとする。つまり、経過時間ti(i=1,2,…,m)に関する変形パラメータPtiは、経過時間tiの変形係数Pai,Pbi,…,Pniの平均である。また、本実施形態の例において、変形ベクトルにおける各変形係数Pは、式(1)の変換マトリクスTglobalのパラメータθ11,θ12,θ21,θ22,θ13,θ23と、式(2)の変換マトリクスTlocalのパラメータNx,Nyと、を含むことから、経過時間tiに関する変形パラメータPtiは、θ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの各値の平均を含む。
【0053】
各経過時間に関する変形パラメータを生成すると、予測画像生成部116は、生成した変形パラメータにより定義される変換関数Tを用いてクエリ画像を変換した結果の画像を生成し、生成した画像を各経過時間についての予測画像とする(ステップS40)。図9を参照する上述の具体例では、各経過時間t1,t2,…,tmに関する変形パラメータPt1,Pt2,…,Ptmのそれぞれに含まれるθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値により定まる各変換関数T=Tglobal+Tlocalを用いてクエリ画像を変換することで、各経過時間t1,t2,…,tmについての予測画像を生成する。
【0054】
予測画像生成部116は、各経過時間と当該経過時間について生成した予測画像とを関連づけて予測画像DB118に登録する。
【0055】
また、ステップS40で生成された予測画像は、出力処理部120により出力される(ステップS42)。ステップS42において、出力処理部120は、例えば、生成された予測画像と、当該予測画像に関連づけられる経過時間と、を対応づけて図示しない表示装置に表示させる。このとき、予測画像と共にクエリ画像も表示させてよい。あるいは、例えば、予め定義された書式に従って各予測画像の予測レポートを生成し、生成した予測レポートを読影レポートDB104に登録してもよい。また例えば、生成した予測レポートを表示装置に表示させたり、診断支援装置10に接続された他の情報処理装置に送信したりしてもよい。ステップS42の後、図8の例の手順の処理は終了する。
【0056】
なお、以上で説明した図8の例の予測画像生成処理では、ステップS34で検索された類似画像のそれぞれを初期状態とする変形ベクトルのすべてを変形モデルDB112から取得し、これらの変形ベクトルに含まれる経過時間のすべてに関し、それぞれ予測画像を求める。予測画像生成処理の他の例では、変形ベクトルを取得する処理(ステップS36)の前に、入力受付部100において経過時間の指定を受け付け、ステップS36で、各類似画像を初期状態とする変形ベクトルのうち、指定された経過時間を含む変形ベクトルだけを変形モデルDB112から取得してもよい。この例において、ステップS38以降の処理を上述と同様に行うと、指定された経過時間が経過した時点でのクエリ画像の撮影対象の状態を表す予測画像が生成されて出力される。
【0057】
また、予測画像生成処理のさらに他の例では、生成した予測画像、当該予測画像の生成に用いた変形パラメータ、および当該変形パラメータの生成に用いた変形ベクトルなど、予測画像生成処理で求められる各種の情報を図示しないキャッシュ記憶装置に記憶しておいてもよい。この例では、ステップS36〜ステップS40の各処理において、取得対象または生成対象の情報がキャッシュ記憶装置に記憶済みであれば、その情報をキャッシュ記憶装置から取得すればよい。例えば、ステップS34の検索結果の類似画像を初期状態とする変形ベクトルがキャッシュ記憶装置に記憶済みであれば、その変形ベクトルをキャッシュ記憶装置から読み出して変形パラメータの生成(ステップS38)を行う。また例えば、ステップS36で取得した変形ベクトルと同じ変形ベクトルから生成された変形パラメータがキャッシュ記憶装置に記憶済みであれば、変形パラメータの生成処理を省略して、キャッシュ記憶装置から読み出した変形パラメータを用いて予測画像の生成(ステップS40)を行う。また、ステップS38で生成すべき変形パラメータと同じ変形パラメータを用いて生成された予測画像がキャッシュ記憶装置に記憶済みである場合に、その予測画像をクエリ画像の予測画像としてステップS42で出力し、ステップS38,S40を省略してもよい。キャッシュ記憶装置を利用すると、キャッシュ記憶装置を利用しない場合と比較して処理が高速化される。
【0058】
図8の例の手順による予測画像生成処理の対象となったクエリ画像を用いて、過去病例DB102、読影レポートDB104、特徴量DB108、および変形モデルDB112の各データベースを更新してもよい。図10は、各データベースを更新する処理の手順の例を示すフローチャートである。図10の例の手順の処理は、例えば、図8の例の手順の処理の終了後に開始される。
【0059】
図10を参照し、まず、クエリ画像に新たな画像IDが付与され、この新たな画像IDと共に当該クエリ画像が過去病例DB102に登録される(ステップS50)。
【0060】
次に、ステップS50で当該クエリ画像に付与された新たな画像IDと関連づけて、図8のステップS32で算出されたクエリ画像の特徴量を特徴量DB108に登録する(ステップS52)。
【0061】
ステップS52の後、当該クエリ画像に関連づけて読影レポートDB104に登録される各項目の情報を取得する(ステップS54)。各項目の情報は、例えば、入力受付部100においてユーザの入力を受け付けることで取得される。図2の例の読影レポートDB104の場合、当該クエリ画像の撮影対象の患者の患者ID、当該患者の疾病の疾病ID、当該患者に対して行われた処置の処置ID、当該クエリ画像の撮影日、および当該クエリ画像に関する医師の所見の各項目の内容が取得される。
【0062】
ステップS54で取得された情報は、ステップS50で当該クエリ画像に付与された新たな画像IDに関連づけて読影レポートDB104に登録される(ステップS56)。
【0063】
以上で説明したステップS50〜ステップS56の処理により、過去病例DB102、読影レポートDB104、および特徴量DB108が更新される。以下、変形モデルDB112を更新するステップS58〜ステップS62の処理を説明する。
【0064】
変形モデル生成部110は、まず、クエリ画像の撮影時期よりも前に撮影された画像であって、クエリ画像と同じ患者を撮影した画像を過去病例DB102から取得する(ステップS58)。本実施形態の例では、ステップS58で、変形モデル生成部110は、読影レポートDB104を参照し、クエリ画像の撮影日よりも前の撮影日に関連づけられた画像IDのうち、クエリ画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像IDを取得する。そして、取得した画像IDの画像を過去病例DB102から取得する。
【0065】
次に、変形モデル生成部110は、ステップS58で取得した画像のそれぞれを初期状態の画像とし、当該初期状態の画像からクエリ画像への変化を表す変形ベクトルを生成する(ステップS60)。変形ベクトルの生成の処理の詳細は、図7のステップS18を参照して説明したのと同様であってよい。
【0066】
ステップS60の後、変形モデル生成部110は、生成した変形ベクトルを変形モデルDB112に登録する(ステップS62)。すなわち、変形モデルDB112において、ステップS58で取得した画像のそれぞれを初期状態とするレコードにステップS60で求めた変形係数Pおよび経過時間tの組を追加登録する。
【0067】
図10の例の手順により、クエリ画像を過去の画像として各種のデータベースが更新され、更新後の各種データベースの内容が、その後の他のクエリ画像についての予測画像の生成に用いられる。
【0068】
予測画像の生成の後、当該予測画像に係る経過時間が経過したときに、実際に同一患者の画像が撮影される場合がある。このとき撮影された画像を用いて、予測画像の予測の精度を評価し、この評価結果をその後の予測画像生成処理に反映させてもよい。例えば、図8のステップS38において、変形ベクトル中の変形係数を単純に平均して変形パラメータを生成する代わりに、前述の評価結果に基づいて各変形ベクトル中の変形係数を重み付けし、変形係数の加重平均を変形パラメータとしてもよい。変形係数の重みは、例えば、図11に示す手順により求められる。
【0069】
図11を参照し、入力受付部100において、画像および当該画像に関する情報を取得する(ステップS70)。本例では、画像に関する情報として、患者ID、疾病ID、処置ID、および撮影日を取得するものとする。
【0070】
次に、ステップS70で取得した画像に対応する予測画像を特定する(ステップS72)。ステップS72の処理は、例えば、次の手順で実行される。まず、ステップS70で取得した患者ID、疾病ID、および処置IDの組合せに関連づけられた画像IDと、その撮影日と、を読影レポートDB104から取得する。そして、取得した画像IDと、その撮影日からステップS70で取得した撮影日までの経過時間と、の組に関連づけて予測画像DB118に登録された予測画像IDを特定する。特定された予測画像IDの予測画像は、ステップS70で取得した画像に対応する予測画像である。なお、対応する予測画像をユーザが把握している場合、上述のステップS72の処理の代わりに、ユーザによる予測画像IDの入力を受け付けてもよい。
【0071】
対応する予測画像を特定すると、ステップS70で取得した画像を用いて、ステップS72で特定した予測画像の生成に用いられた変形ベクトルを評価する(ステップS74)。ステップS74の処理の手順の例を以下で説明する。まず、当該予測画像の生成に用いられた変形ベクトルを特定する。予測画像の生成に用いられた変形ベクトルは、例えば、当該予測画像の生成時のクエリ画像(当該予測画像に関連づけて予測画像DB118に登録された画像IDの画像)の類似画像を過去病例DB102から検索し、検索した類似画像を初期状態とし、当該予測画像に関連づけられた経過時期を含む変形ベクトルを変形モデルDB112から検索することで特定すればよい。あるいは、予測画像生成処理(図8)において、生成した予測画像に関連づけて、この予測画像の生成に用いた変形ベクトルを予測画像DB118に記憶しておけば、ステップS74では、予測画像DB118から対応する予測画像の生成に用いられた変形ベクトルを取得するだけでよい。予測画像の生成に用いられた変形ベクトルが特定されると、各変形ベクトルについて、初期状態の画像を過去病例DB102から読み出す。読み出した画像を、当該変形ベクトルにおける変形係数で定義される変換関数を用いて変換し、その変換後の画像の特徴量を求める。また、ステップS70で取得した画像の特徴量も求め、ステップS70で取得した画像の特徴量と、上述の変換後の画像の特徴量と、の間の類似度を求める。この類似度を変換後の画像に係る変形ベクトルの評価値とする。
【0072】
予測画像の生成に用いられた各変形ベクトルに関連づけて、ステップS74で求めた各変形ベクトルの評価に基づく重みを変形モデルDB112に登録する(ステップS76)。重みの値は、ステップS74で求めた評価が高いほど大きな値になるように決定すればよい。例えば、上述のステップS74の処理手順の例の場合、ステップS70で取得した画像の特徴量と、各変形ベクトルについての変換後の画像の特徴量と、の間の類似度が大きいほど、当該変形ベクトルに関連づけられる重みの値を大きくすればよい。この類似度が大きいほど、当該変形ベクトルの変形係数は、クエリ画像の撮影時期から当該変形ベクトルの経過時間が経過したときに実際に撮影された画像により類似した画像へクエリ画像を変換する変換関数を定義するパラメータであると言える。ステップS76の後、図11の例の手順の処理は終了する。
【0073】
本発明の実施の形態は、以上で説明した各種の実施形態および変形例に限定されない。例えば、診断支援装置10が備える各種のデータベースの具体的な態様は、上述した例と異なっていてよい。例えば、各データベースにおける画像IDの登録を省略し、患者IDと撮影日との組を画像の識別情報として用いてもよい。また例えば、読影レポートDB104において、図2に例示する項目の他に、当該患者に対して行われた検査の種類とその結果などを登録しておいてもよい。また、過去病例DB102、読影レポートDB104、および特徴量DB108のうちの2以上のデータベースを1つのデータベースとして纏めてもよい。
【0074】
また、上述の実施形態では、変換関数Tとして、式(1)のTglobalおよび式(2)のTlocalにより表される変換関数T=Tglobal+Tlocalを用いるが、他の形式で表される変換関数Tを用いてもよい。1つの画像を他の画像に変換する関数を表し、1以上のパラメータにより定義される関数であれば、上述と異なる形式の変換関数Tを用いて、上述の説明と同様の処理手順により変形モデルの生成および予測画像の生成を実行してよい。また、上述の実施形態では、変換関数Tは、患者を撮影した画像における病変領域の画像データを変換する関数であるが、患者を撮影した画像の全体を変換する関数を変換関数Tとして用いてもよい。
【0075】
また、上述の実施形態では、初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像について変形ベクトルを生成するが、少なくとも患者IDが初期状態の画像と同じであれば、疾病IDまたは処置IDが異なる画像について変形ベクトルを生成してもよい。
【0076】
以上に例示した診断支援装置10は、例えば、図12に示すようなハードウエア構成を備えるコンピュータにて上述の診断支援装置10の各部の機能又は処理内容を記述したプログラムを実行することにより実現される。図12の例のコンピュータは、CPU(中央演算装置)80、画像処理に関する演算を行うGPU(Graphics Processing Unit)81、メモリ(一次記憶)82、各種I/O(入出力)インタフェース84等がバス86を介して接続された回路構成を有する。また、バス86に対し、例えばI/Oインタフェース84経由で、ハードディスクドライブ(HDD)88やCDやDVD、フラッシュメモリなどの各種規格の可搬型の不揮発性記録媒体を読み取るためのディスクドライブ90が接続される。このようなドライブ88又は90は、メモリに対する外部記憶装置として機能する。実施形態の処理内容が記述されたプログラムがCDやDVD等の記録媒体を経由して、又はネットワーク経由で、HDD88等の固定記憶装置に保存され、コンピュータにインストールされる。固定記憶装置に記憶されたプログラムがメモリに読み出されCPUまたはGPUにより実行されることにより、実施形態の処理が実現される。GPUは、類似画像の検索や画像の特徴量の算出など、画像処理に関する演算を担当する。CPUとGPUとで、画像処理に関する演算を並列化して行ってもよい。
【0077】
なお、以上の説明では、診断支援装置10を1台のコンピュータにより実現する例の実施形態を説明したが、診断支援装置10の上述の例の各種の機能を複数のコンピュータに分散させて実現してもよい。
【符号の説明】
【0078】
10 診断支援装置、80 CPU、81 GPU、82 メモリ、84 I/Oインタフェース、86 バス、88 HDD、90 ディスクドライブ、100 入力受付部、102 過去病例DB、104 読影レポートDB、106 特徴量算出部、108 特徴量DB、110 変形モデル生成部、112 変形モデルDB、114 類似画像検索部、116 予測画像生成部、118 予測画像DB、120 出力処理部。
【技術分野】
【0001】
本発明は、プログラムおよび情報処理装置に関する。
【背景技術】
【0002】
医療用画像に基づく診断を支援する技術が知られている。例えば、特許文献1には、異常な陰影(特徴)を有する画像を優先的に表示させる画像保管通信システムが開示されている。特許文献1に記載の技術では、入力された画像の特徴を検出すると、その特徴を示す情報を当該入力画像に付加し、このように付加された情報に基づいて、表示させる画像を選択する。
【0003】
特許文献2に記載の技術では、撮影された患者の画像における病変位置や病変種類などの特徴量を検出し、当該画像および当該特徴量をデータベースに格納し、患者の画像および特徴量をデータベースから取得して表示させたり、指定された画像について、データベースから取得した特徴量および当該患者の画像の情報を含む仮レポート報告書を作成したりする。
【0004】
特許文献3には、病気または医学的状態についての分類された重症度レベルを持つ画像のデータベースを、人による重症度の指定に基づいて作成しておき、患者画像とデータベース内の画像との比較によって、病気または医学的状態の重症度を求める技術が開示されている。
【0005】
特許文献4には、患者を撮影して得られた医用画像から異常陰影候補の画像領域を検出し、発病した複数の患者について得られた異常陰影候補の検出結果を用いて、診断対象の患者の将来の発病の可能性を示す予測値を算出する技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平05−205018号公報
【特許文献2】特開2003−33327号公報
【特許文献3】特開2007−105461号公報
【特許文献4】特開2007−135683号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、医療の診断においては、患者を撮影した画像に基づいて、患者の現在の症状を特定するだけでなく、その後の撮影対象の状態の変化を予測することが望まれる場合がある。
【0008】
本発明の目的は、患者を撮影した画像における撮影対象の状態の変化を予測することを支援するプログラムおよび情報処理装置を提供することである。
【課題を解決するための手段】
【0009】
請求項1に係る発明は、処理対象の画像である対象画像の特徴を表す特徴量を算出するステップと、過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定するステップと、前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定するステップで特定された画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成するステップと、前記生成するステップで生成された変換関数を用いて前記対象画像を変換した画像を出力するステップと、をコンピュータに実行させるためのプログラムである。
【0010】
請求項2に係る発明は、請求項1に係る発明において、前記変化情報記憶手段は、患者を撮影した第一の画像と、当該第一の画像の撮影時期以降に当該患者を撮影した第二の画像に変換する変換関数を定めるパラメータであって当該第一の画像および当該第二の画像を用いて算出されたパラメータと、当該第一の画像の撮影時期から当該第二の画像の撮影時期までの経過時間と、を関連づけて記憶し、前記特徴量記憶手段は、前記第一の画像のそれぞれの前記特徴量を記憶し、前記特定するステップにおいて、前記対象画像に類似する前記第一の画像が特定され、前記画像の変換関数を生成するステップにおいて、前記特定するステップで特定された第一の画像に関連づけられたパラメータであって共通の前記経過時間に関連づけられたパラメータを前記変化情報記憶手段から取得し、取得したパラメータを用いて前記画像の変換関数を生成する。
【0011】
請求項3に係る発明は、請求項2に係る発明において、前記対象画像および前記第一の画像のそれぞれの前記特徴量は、当該画像において病変を含む領域であると判定された病変領域の特徴を表し、前記パラメータは、前記第一の画像における前記病変領域の画像を前記第二の画像における前記病変領域の画像に変換する変換関数を定めるパラメータである。
【0012】
請求項4に係る発明は、請求項2または3に係る発明において、患者と、患者を撮影した画像と、当該画像の撮影時期と、を関連づけて記憶した画像記憶手段に記憶された画像のうちの少なくとも1つを初期状態画像とし、当該初期状態画像の撮影時期以降に当該初期状態画像の患者を撮影した画像を前記画像記憶手段から取得し、取得した画像と前記初期状態画像とを用いて、前記初期状態画像を当該取得した画像に変換する変換関数を定めるパラメータを算出するステップと、前記初期状態画像を前記第一の画像とし、前記パラメータを算出するステップで前記画像記憶手段から取得した画像を前記第二の画像として、前記第一の画像とした前記初期状態画像と、前記パラメータを算出するステップで算出したパラメータと、前記初期状態画像の撮影時期から前記第二の画像とした画像の撮影時期までの経過時間と、を互いに関連づけて前記変化情報記憶手段に対して出力するステップと、を前記コンピュータにさらに実行させる。
【0013】
請求項5に係る発明は、請求項2から4のいずれか1項に係る発明において、前記対象画像の撮影時期から、前記画像の変換関数を生成するステップで用いられたパラメータに共通して関連づけられた経過時間が経過したときに前記対象画像に係る患者を撮影した画像である結果画像を取得するステップと、前記画像の変換関数を生成するステップで用いられたパラメータを前記結果画像に基づいて評価して求めた評価値を当該パラメータに関連づけて前記変化情報記憶手段に対して出力するステップと、をさらに前記コンピュータに実行させ、前記画像の変換関数を生成するステップにおいて、前記取得したパラメータの前記評価値をさらに用いて前記画像の変換関数を生成する。
【0014】
請求項6に係る発明は、処理対象の画像である対象画像の特徴を表す特徴量を算出する算出手段と、過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定する特定手段と、前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定手段が特定した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する生成手段と、前記生成手段が生成した変換関数を用いて前記対象画像を変換した画像を出力する出力手段と、を備えることを特徴とする情報処理装置である。
【発明の効果】
【0015】
請求項1または6に係る発明によると、患者を撮影した画像における撮影対象の状態の変化を予測することを支援できる。
【0016】
請求項2に係る発明によると、経過時間毎の撮影対象の状態を予測した画像をユーザに提示できる。
【0017】
請求項3に係る発明によると、患者を撮影した画像における病変領域の時間による変化を予測することを支援できる。
【0018】
請求項4に係る発明によると、患者を撮影した画像から、ある時間の経過による画像の変化を表すパラメータを算出して記録できる。
【0019】
請求項5に係る発明によると、ある経過時間における撮影対象の状態を予測した画像の生成に用いられたパラメータを、当該経過時間が経過した時点で実際に撮影された画像を用いて評価して求めた評価値を用いて、画像の変換関数を生成できる。
【図面の簡単な説明】
【0020】
【図1】診断支援装置の構成の例を示す機能ブロック図である。
【図2】読影レポートDBのデータ内容の例を示す図である。
【図3】特徴量DBのデータ内容の例を示す図である。
【図4】変形係数を求める処理の手順の例を説明するための図である。
【図5】変形モデルDBのデータ内容の例を示す図である。
【図6】予測画像DBのデータ内容の例を示す図である。
【図7】変形モデル生成処理の手順の例を示すフローチャートである。
【図8】予測画像生成処理の手順の例を示すフローチャートである。
【図9】予測画像生成処理において変形モデルDBから取得される変形ベクトルの例を示す図である。
【図10】各種のデータベースを更新する処理の手順の例を示すフローチャートである。
【図11】変形係数の重みを求める処理の手順の例を示すフローチャートである。
【図12】コンピュータのハードウエア構成の例を示す図である。
【発明を実施するための形態】
【0021】
図1に、本発明の一実施形態の例の情報処理装置として機能する診断支援装置10の構成の例を示す。診断支援装置10は、入力受付部100、過去病例DB(データベース)102、読影レポートDB104、特徴量算出部106、特徴量DB108、変形モデル生成部110、変形モデルDB112、類似画像検索部114、予測画像生成部116、予測画像DB118、および出力処理部120を備える。
【0022】
入力受付部100は、診断支援装置10に対するユーザの指示などを表す入力を受け付ける。ユーザによる入力は、マウスやキーボードなどの図示しない入力装置を介して入力受付部100により取得される。また、入力受付部100は、診断支援装置10の処理対象となる医用画像の入力を受け付けることもある。医用画像は、患者を撮影して得られる画像であり、例えば、X線写真、MRI(Magnetic Resonance Imaging)画像、またはCT(Computed Tomography)画像など、医療の診断に用いられる各種の画像のいずれであってもよい。入力受付部100は、例えば、診断支援装置10に通信手段を介して接続された他の情報処理装置から医用画像を受信したり、医用画像を形成する装置から医用画像を取得したりする。
【0023】
過去病例DB102は、過去に撮影された医用画像の画像データを記憶するデータベースである。画像データは、画素ごとに色相、輝度、または明度などの値を有するデジタル画像データであってよい。以下の説明では、画像データを単に「画像」と呼ぶこともある。また、本実施形態の例において、過去病例DB102に記憶される画像には、それぞれ、画像を識別するための識別情報である画像IDが付与されているものとする。例えば、当該画像の名称および過去病例DB102における当該画像の格納位置を含む情報を画像IDとして用いてもよい。
【0024】
読影レポートDB104は、過去病例DB102に記憶された各画像について、診断に関する情報を記憶するデータベースである。図2に、読影レポートDB104の内容の例を示す。図2の例の読影レポートDB104には、各画像の画像IDに対応づけて、患者ID、疾病ID、処置ID、撮影日、患者情報、および所見の各項目の内容が登録される。患者IDは、対応する画像データの撮影対象の患者を識別するための識別情報である。疾病IDは、対応する患者の疾病の種類を識別するための識別情報である。処置IDは、対応する患者に対して行われた処置(投薬や手術など)を識別するための識別情報である。撮影日は、対応する画像IDの画像が撮影された日付を表す。「撮影日」の代わりに、画像が撮影された時期を表す「撮影時期」の項目を設け、日付と共に撮影の時刻を登録しておいてもよい。患者情報は、対応する患者の氏名、年齢、および性別など、患者に関する情報を表す。所見は、対応する画像IDの画像についての医師の見解を表す。以上に例示した各項目の値は、画像IDを指定する情報と共にユーザにより入力され、指定された画像IDに対応づけて読影レポートDB104に登録される。なお、読影レポートDB104には、過去病例DB102に記憶された各画像についての上述の情報だけでなく、後述の予測画像生成部116が生成した予測画像に関する情報をさらに記憶しておいてもよい。
【0025】
再び図1を参照し、特徴量算出部106は、医用画像の特徴を表す特徴量を算出する。特徴量算出部106は、過去病例DB102に記憶された画像の特徴量を算出することもあるし、入力受付部100が取得した画像の特徴量を算出することもある。本実施形態の例では、特徴量算出部106は、画像における病変の領域を特定し、特定した病変領域の画像中の位置、大きさ、および形状を表す値を当該画像の特徴量として算出する。画像における病変の領域を特定する手法としては、医用画像における病変領域(異常領域)の特定において従来から用いられている手法を用いればよい。例えば、画像中に存在する円形状の陰影を強調する処理を行った上でモルフォロジカルフィルタを用いて腫瘍影などの孤立陰影を抽出する手法(特開2004−336378号公報を参照)や、健康な人物を撮影して得られた画像のデータと処理対象の画像のデータとを比較することで処理対象の画像のデータの異常領域を特定する手法などを用いればよい。特徴量算出部106は、画像について算出した特徴量を当該画像の画像IDと対応づけて特徴量DB108に登録する。
【0026】
特徴量DB108は、画像の特徴量を記憶するデータベースである。図3は、本実施形態の例における特徴量DB108のデータ内容の例を示す。図3の例の表では、各画像の画像IDに対応づけて、その画像IDの画像について特徴量算出部106が算出した特徴量が登録されている。特徴量は、病変の位置、病変の大きさ、および病変の形状の各項目を含む。病変の位置は、画像における病変領域の位置を表し、例えば、画像に対して定義された座標系における、病変領域の中心点の座標で表される。病変の大きさは、例えば、画像における病変領域の面積を表す。あるいは、例えば、画像全体の面積に対する病変領域の面積の割合を病変の大きさの値としてもよい。病変の形状は、例えば、画像中の病変領域の形状の種類(円形、楕円形、多角形など)を表す値であってもよいし、病変領域の形状を近似した関数であってもよい。あるいは、画像において特定された病変領域の画像データを当該画像から抽出し、抽出した画像データ自体を病変の形状として登録しておいてもよい。
【0027】
図1の説明に戻り、変形モデル生成部110は、医用画像の時間変化のモデルである変形モデルを生成する。本実施形態の例の変形モデル生成部110は、過去病例DB102、読影レポートDB104、および特徴量DB108を参照し、同じ患者を撮影した画像の時系列における非線形の変化を表す変形係数を求める。
【0028】
以下、変形係数を求める手順の例を説明する。変形モデル生成部110は、読影レポートDB104において特定の患者ID、疾病ID、および処置IDの組に対応づけられた画像IDを特定する。さらに、特定した画像IDの画像を過去病例DB102から読み出し、特定した画像IDの特徴量を特徴量DB108から読み出す。本例では、図4に示すように、1人の肺癌患者の肺を撮影した画像I0,I1,I2を過去病例DB102から読み出し、各画像I0,I1,I2の特徴量(病変領域(円r0,r1,r2で囲んだ領域)の位置、大きさ、および形状)を特徴量DB108から読み出したとする。また、画像I0,I1,I2は、この順に3ヶ月間隔で撮影されたものであるとする。変形モデル生成部110は、読影レポートDB104に登録された各画像の撮影日から、画像I0,I1,I2の撮影の順番および時間間隔を求める。変形モデル生成部110は、画像Iiにおける病変領域の画像を画像Ijにおける病変領域の画像に変換する変換関数Tを定義するパラメータを、画像Iiから画像Ijへの変形係数として求める(ここで、i,j=0,1,2;i<jとする)。本例では、この変換関数Tは、2つの変換マトリクスTglobal,Tlocalにより、T=Tglobal+Tlocalとして表される変換マトリクスであるとする。
【0029】
変換マトリクスTglobalは、画像における撮影対象部位の全体の変化を表現する。同じ患者の同じ撮影対象部位を撮影した画像であっても、撮影のタイミングが異なると、完全に同一の画像になるとは限らない。このような画像間の差異を表現するため、本例の変換マトリクスTglobalは、式(1)に示すとおり、アフィン変換を表す行列とする。
[数1]
ここで、(x,y)は、変換前の画像Iiにおける一画素の座標を表す。式(1)のθ11,θ12,θ21,θ22,θ13,θ23は、変換マトリクスTglobalを定義するパラメータである。
【0030】
変換マトリクスTlocalは、画像における病変領域の変化を表現する。本例の変換マトリクスTlocalは、自由形状変形(Free Form Deformation,FFD)による変換を表す。具体的には、画像における病変領域において、Nx×Nyのメッシュによる制御点を生成し、この制御点を用いる式(2)の変換マトリクスTlocalにより、病変領域の変化を表す。
[数2]
ただし、
[数3]
である。また、式(2)において、関数BはB−スプライン関数である。式(2)の変換マトリクスTlocalを定義するパラメータは、Nx,Nyである。
【0031】
変形モデル生成部110は、画像Iiおよび画像Ijと、各画像の特徴量(病変領域の位置、大きさ、形状)と、を用いて、変換マトリクスTglobal,Tlocalのパラメータθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値を求める。例えば、画像Iiにおける病変領域の画像と画像Ijの病変領域における画像との間の相互情報量(Mutual Information,MI)を最大化するパラメータθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値を求める。相互情報量は、次の式(3)により表される。
[数4]
式(3)において、H(I(Si)),H(I(Sj))は、それぞれ、画像Ii,Ijの病変領域の画像のエントロピーを表す。また、H(I(Si),I(Sj))は、画像Iiおよび画像Ijの病変領域の画像の結合エントロピーを表す。
【0032】
式(3)の相互情報量を最大化するよう求めたパラメータの値を、変形モデル生成部110は、画像Iiから画像Ijへの変形係数P=(θ11,θ12,θ21,θ22,θ13,θ23,Nx,Ny)とする。変形モデル生成部110は、画像Iiから画像Ijへの変形係数Pを求めると、画像Iiを初期状態Sとし、画像Iiの撮影時期と画像Ijの撮影時期との間の時間間隔を経過時間tとし、求めた変形係数Pを初期状態Sおよび経過時間tと関連づけて変形モデルDB112に登録する。以下では、初期状態S、変形係数P、および経過時間tにより表されるベクトル(S,P,t)を「変形ベクトル」と呼ぶ。また、過去病例DB102に記憶された複数の画像のそれぞれを初期状態とする変形ベクトルの集合を「変形モデル」と呼ぶ。
【0033】
変形モデルDB112は、変形モデル生成部110が生成した変形モデルを記憶するデータベースである。図5に、変形モデルDB112のデータ内容の一例を示す。図5の例の表では、患者ID、疾病ID、処置ID、初期状態S、および(変形係数P,経過時間t)の各項目が互いに関連づけられている。図5の例の表の一行は、1つの画像を初期状態として求められた変形ベクトルの情報を表すレコードである。図5の例の表において、患者ID、疾病ID、および処置IDの値は、対応する初期状態Sの画像に関連づけて読影レポートDB104に登録された値であり、変形モデル生成部110により読影レポートDB104から取得されて変形モデルDB112に登録される。また、本例において、初期状態Sの値は、対応する画像の画像IDであるとする。また、図5の例の表において、(変形係数P,経過時間t)の項目における各列は、同じ経過時間を含む変形ベクトルの情報を表す。文字列「N/A」は、対応する行の初期状態の画像について対応する列の経過時間の変形ベクトルが生成されていないことを表す。つまり、当該行の初期状態の画像の撮影日から当該列の経過時間が経過した時に撮影された画像であって、当該初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられる画像が過去病例DB102に登録されていないことを表す。
【0034】
類似画像検索部114は、過去病例DB102に登録された画像のうち、入力受付部100が処理対象として受け付けたクエリ画像に類似する画像を検索する。類似画像検索部114は、例えば、特徴量算出部106が算出したクエリ画像の特徴量と、特徴量DB108に登録された各画像の特徴量と、の間の類似度を求め、類似度が予め設定された閾値より大きい画像を類似画像として特定する。2つの特徴量間の類似度は、例えば、各特徴量をベクトル形式で表し、2つの特徴量のベクトル間の類似の程度を表す値を算出することで得られる。ベクトル間の類似の程度を表す値として、例えば、相関係数またはユークリッド距離などを算出すればよい。
【0035】
予測画像生成部116は、入力受付部100が処理対象として受け付けたクエリ画像の撮影時期から、ある時間が経過したときの撮影対象の状態を予測した画像である予測画像を生成する。予測画像生成部116は、類似画像検索部114により検索された、クエリ画像の類似画像のそれぞれを初期状態Sとする変形ベクトルを変形モデルDB112から取得する。取得した変形ベクトルのうち、同じ経過時間を含む変形ベクトルの集合ごとに、当該集合の変形ベクトルに含まれる変形係数を平均し、この結果の値を変形パラメータとする。以下の説明において、「変形パラメータ」の語は、画像の変換関数を定義するパラメータであって、複数の変形ベクトルに含まれる変形係数を用いて求められるパラメータを意味する。予測画像生成部116は、変形パラメータにより定義される変換関数T=Tglobal+Tlocal(式(1),式(2)参照)を用いてクエリ画像を変換し、変換した画像を予測画像とする。このように生成された予測画像は、変形パラメータの生成に用いられた変形ベクトルに含まれる経過時間が経過した時点での、クエリ画像の撮影対象の状態を予測した画像であると言える。
【0036】
予測画像DB118は、予測画像を記憶するデータベースである。予測画像DB118は、元のクエリ画像に対応づけて、経過時間と当該経過時間に係る予測画像とを記憶する。図6に、予測画像DB118のデータ内容の一例を示す。図6の例の表では、各クエリ画像の画像IDに対応づけて、「経過時間」の項目の時間が経過した場合について生成された予測画像の識別情報である予測画像IDが登録されている。予測画像IDの代わりに、該当する予測画像の予測画像DB118における格納位置を登録しておいてもよい。
【0037】
出力処理部120は、予測画像を出力する処理を行う。出力処理部120は、例えば、予測画像DB118に記憶された予測画像を図示しない表示装置に表示させる。このとき、当該予測画像の基になったクエリ画像、対応する経過時間、およびクエリ画像の撮影対象の患者に関する情報などを予測画像と共に表示装置に表示させてもよい。また、出力処理部120は、予め定義された書式に従って、予測画像を含む文書である予測レポートを生成して出力してもよい。予測レポートは、予測画像と予測画像に関連する各種の情報とを含む。予測画像に関連する各種の情報とは、例えば、予測の基になったクエリ画像、経過時間、撮影対象の患者、疾病、処置、および検査結果などである。予測レポートは、例えば、XML(Extensible Markup Language)形式の文書であってよい。予測レポートの出力先は、読影レポートDB104であってもよいし、診断支援装置10に接続された他の情報処理装置であってもよい。
【0038】
図7は、診断支援装置10において行われる変形モデル生成処理の手順の例を示すフローチャートである。図7の例の手順が開始される前に、過去病例DB102には過去に撮影された画像が登録済みであり、読影レポートDB104には、過去病例DB102に登録済みの各画像についての情報(図2参照)が登録済みであるとする。
【0039】
図7を参照し、まず、診断支援装置10の特徴量算出部106は、過去病例DB102に記憶された各画像の特徴量を算出する(ステップS10)。本例において、特徴量算出部106は、各画像における病変領域を特定し、その病変領域の位置、大きさ、および形状を当該画像の特徴量として求める。特徴量算出部106は、算出した特徴量を、各画像の画像IDに対応づけて特徴量DB108に登録する(ステップS12)。
【0040】
特徴量の算出および特徴量DBへの登録が終了すると、変形モデル生成部110は、過去病例DB102に記憶された画像のうちの1つを、変形ベクトルにおける初期状態の画像として選択する(ステップS14)。
【0041】
次に、選択された初期状態の画像からの変化を表す画像の有無を判定する(ステップS16)。本例では、読影レポートDB104を参照し、当該初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像のうち、当該初期状態の画像の撮影日の後に撮影された画像の有無を判定する。
【0042】
初期状態の画像からの変化を表す画像が存在すれば(ステップS16でYES)、変形モデル生成部110は、当該変化を表す画像のそれぞれについて、初期状態の画像からの変化を表す変形ベクトルを生成する(ステップS18)。本例のステップS18では、初期状態の画像を画像Iiとし、ステップS16で存在が確認された画像のそれぞれを画像Ijとし、式(1)〜式(3)を用いる上述の手順に従って、変換関数T(=Tglobal+Tlocal)のパラメータを求める。そして、ステップS16で存在が確認された画像のそれぞれについて、求めたパラメータを変形係数Pとし、当該画像の撮影日と初期状態の画像の撮影日との間の差を経過時間tとする変形ベクトル(S,P,t)を生成する(Sは初期状態の画像の画像ID)。一具体例として、初期状態の画像が図4の例の画像I0であるとすると、ステップS16で、画像I0からの変化を表す画像として画像I1および画像I2の存在が確認される。この場合、ステップS18で、式(1)〜式(3)を用いて、画像I0から画像I1への変換関数Tのパラメータ(PI0→I1)と画像I0から画像I2への変換関数Tのパラメータ(PI0→I2)とを求める。さらに、画像I0から画像I1への変化を表す変形ベクトル(I0,PI0→I1,3ヶ月)と画像I0から画像I2への変化を表す変形ベクトル(I0,PI0→I2,6ヶ月)とを生成する。
【0043】
なお、ステップS18において、変形係数を求める計算において用いられる画像Iiおよび各画像Ijは、過去病例DB102から取得され、これらの画像の特徴量は、特徴量DB108から取得される。
【0044】
初期状態の画像からステップS16で存在が確認された画像それぞれへの変化を表す変形ベクトルを生成すると、変形モデル生成部110は、生成した変形ベクトルを変形モデルDB112に登録する(ステップS20)。本例において、変形モデル生成部110は、初期状態の画像に係る患者ID、疾病ID、および処置IDの組合せに関連づけて、初期状態の画像の画像IDと、生成した各変形ベクトルの変形係数Pおよび経過時間tの組と、を変形モデルDB112に登録する(図5参照)。
【0045】
ステップS20の後、または、ステップS14で選択された初期状態の画像からの変化を表す画像が存在しない場合(ステップS16でNO)、過去病例DB102中の全画像のそれぞれを初期状態として処理済みであるか否かを判定する(ステップS22)。処理済みであれば(ステップS22でYES)、図7の例の手順の処理は終了し、処理済みでなければ(ステップS22でNO)、未処理の画像に対しステップS14〜ステップS20の処理が行われる。
【0046】
図7の例の手順の処理により、変形モデルDB112には、過去病例DB102に記憶された各画像の時間による変化を表す変形ベクトルの集合(変形モデル)が記憶される。この変形モデルを用いて、診断支援装置10は、過去病例DB102に未登録の画像について、ある時間が経過したときの当該画像の撮影対象の状態を表す予測画像を生成する。
【0047】
図8は、診断支援装置10において行われる予測画像生成処理の手順の例を示すフローチャートである。
【0048】
図8を参照し、入力受付部100により、処理対象の画像であるクエリ画像が取得される(ステップS30)。クエリ画像は、患者を撮影した医用画像であり、過去病例DB102に未登録の画像である。また、ステップS30において、クエリ画像に係る患者の疾病IDおよび処置IDの少なくとも一方をクエリ画像と共に取得してもよい。
【0049】
次に、特徴量算出部106は、ステップS30で取得されたクエリ画像の特徴量を算出する(ステップS32)。本例では、クエリ画像における病変領域を特定し、その病変領域の位置、大きさ、形状が特徴量として算出される。
【0050】
クエリ画像の特徴量が算出されると、類似画像検索部114は、過去病例DB102中の画像のうちクエリ画像に類似する画像を検索する(ステップS34)。本例では、類似画像検索部114は、クエリ画像の特徴量と、特徴量DB108に記憶された各画像の特徴量と、の間の類似度を求め、類似度が予め設定された閾値より大きい画像の画像IDを特定する。特定された画像IDの画像は、過去病例DB102に記憶された画像である。以下の説明のための具体例として、ステップS34で、類似画像Ia,Ib,Ic,…,Inが検索されたとする。なお、ステップS30でクエリ画像に係る患者の疾病IDおよび処置IDの少なくとも一方を取得していた場合、ステップS34では、当該疾病IDおよび当該処置ID(の少なくとも一方)に関連づけられた画像のみを検索対象とすればよい。
【0051】
予測画像生成部116は、変形モデルDB112から、ステップS34で検索した類似画像のそれぞれを初期状態とする変形ベクトルを取得する(ステップS36)。図9に、上述の具体例の場合に取得される変形ベクトルの例を示す。図9の例の表の一行は、類似画像Ia,Ib,Ic,…,Inそれぞれを初期状態とする変形ベクトルの情報を表す。図9の例の表において、(変形係数P,経過時間t)の項目における各列は、同じ経過時間ti(i=1,2,…,m)を含む変形ベクトルの情報を表す。また、図9において、文字列「N/A」は、対応する行の初期状態の画像について対応する列の経過時間の変形ベクトルが生成されていないことを表す。
【0052】
再び図8を参照し、ステップS36の後、予測画像生成部116は、取得した変形ベクトルを用いて、これらの変形ベクトルに含まれる経過時間tごとに、当該経過時間が経過した時点でのクエリ画像の変化を表す変形パラメータを生成する(ステップS38)。図9の具体例の場合、(変形係数P,経過時間t)の項目の各列について、変形係数Pの値の平均を求め、求めた平均値を当該列の経過時間tに関する変形パラメータPtとする。つまり、経過時間ti(i=1,2,…,m)に関する変形パラメータPtiは、経過時間tiの変形係数Pai,Pbi,…,Pniの平均である。また、本実施形態の例において、変形ベクトルにおける各変形係数Pは、式(1)の変換マトリクスTglobalのパラメータθ11,θ12,θ21,θ22,θ13,θ23と、式(2)の変換マトリクスTlocalのパラメータNx,Nyと、を含むことから、経過時間tiに関する変形パラメータPtiは、θ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの各値の平均を含む。
【0053】
各経過時間に関する変形パラメータを生成すると、予測画像生成部116は、生成した変形パラメータにより定義される変換関数Tを用いてクエリ画像を変換した結果の画像を生成し、生成した画像を各経過時間についての予測画像とする(ステップS40)。図9を参照する上述の具体例では、各経過時間t1,t2,…,tmに関する変形パラメータPt1,Pt2,…,Ptmのそれぞれに含まれるθ11,θ12,θ21,θ22,θ13,θ23,Nx,Nyの値により定まる各変換関数T=Tglobal+Tlocalを用いてクエリ画像を変換することで、各経過時間t1,t2,…,tmについての予測画像を生成する。
【0054】
予測画像生成部116は、各経過時間と当該経過時間について生成した予測画像とを関連づけて予測画像DB118に登録する。
【0055】
また、ステップS40で生成された予測画像は、出力処理部120により出力される(ステップS42)。ステップS42において、出力処理部120は、例えば、生成された予測画像と、当該予測画像に関連づけられる経過時間と、を対応づけて図示しない表示装置に表示させる。このとき、予測画像と共にクエリ画像も表示させてよい。あるいは、例えば、予め定義された書式に従って各予測画像の予測レポートを生成し、生成した予測レポートを読影レポートDB104に登録してもよい。また例えば、生成した予測レポートを表示装置に表示させたり、診断支援装置10に接続された他の情報処理装置に送信したりしてもよい。ステップS42の後、図8の例の手順の処理は終了する。
【0056】
なお、以上で説明した図8の例の予測画像生成処理では、ステップS34で検索された類似画像のそれぞれを初期状態とする変形ベクトルのすべてを変形モデルDB112から取得し、これらの変形ベクトルに含まれる経過時間のすべてに関し、それぞれ予測画像を求める。予測画像生成処理の他の例では、変形ベクトルを取得する処理(ステップS36)の前に、入力受付部100において経過時間の指定を受け付け、ステップS36で、各類似画像を初期状態とする変形ベクトルのうち、指定された経過時間を含む変形ベクトルだけを変形モデルDB112から取得してもよい。この例において、ステップS38以降の処理を上述と同様に行うと、指定された経過時間が経過した時点でのクエリ画像の撮影対象の状態を表す予測画像が生成されて出力される。
【0057】
また、予測画像生成処理のさらに他の例では、生成した予測画像、当該予測画像の生成に用いた変形パラメータ、および当該変形パラメータの生成に用いた変形ベクトルなど、予測画像生成処理で求められる各種の情報を図示しないキャッシュ記憶装置に記憶しておいてもよい。この例では、ステップS36〜ステップS40の各処理において、取得対象または生成対象の情報がキャッシュ記憶装置に記憶済みであれば、その情報をキャッシュ記憶装置から取得すればよい。例えば、ステップS34の検索結果の類似画像を初期状態とする変形ベクトルがキャッシュ記憶装置に記憶済みであれば、その変形ベクトルをキャッシュ記憶装置から読み出して変形パラメータの生成(ステップS38)を行う。また例えば、ステップS36で取得した変形ベクトルと同じ変形ベクトルから生成された変形パラメータがキャッシュ記憶装置に記憶済みであれば、変形パラメータの生成処理を省略して、キャッシュ記憶装置から読み出した変形パラメータを用いて予測画像の生成(ステップS40)を行う。また、ステップS38で生成すべき変形パラメータと同じ変形パラメータを用いて生成された予測画像がキャッシュ記憶装置に記憶済みである場合に、その予測画像をクエリ画像の予測画像としてステップS42で出力し、ステップS38,S40を省略してもよい。キャッシュ記憶装置を利用すると、キャッシュ記憶装置を利用しない場合と比較して処理が高速化される。
【0058】
図8の例の手順による予測画像生成処理の対象となったクエリ画像を用いて、過去病例DB102、読影レポートDB104、特徴量DB108、および変形モデルDB112の各データベースを更新してもよい。図10は、各データベースを更新する処理の手順の例を示すフローチャートである。図10の例の手順の処理は、例えば、図8の例の手順の処理の終了後に開始される。
【0059】
図10を参照し、まず、クエリ画像に新たな画像IDが付与され、この新たな画像IDと共に当該クエリ画像が過去病例DB102に登録される(ステップS50)。
【0060】
次に、ステップS50で当該クエリ画像に付与された新たな画像IDと関連づけて、図8のステップS32で算出されたクエリ画像の特徴量を特徴量DB108に登録する(ステップS52)。
【0061】
ステップS52の後、当該クエリ画像に関連づけて読影レポートDB104に登録される各項目の情報を取得する(ステップS54)。各項目の情報は、例えば、入力受付部100においてユーザの入力を受け付けることで取得される。図2の例の読影レポートDB104の場合、当該クエリ画像の撮影対象の患者の患者ID、当該患者の疾病の疾病ID、当該患者に対して行われた処置の処置ID、当該クエリ画像の撮影日、および当該クエリ画像に関する医師の所見の各項目の内容が取得される。
【0062】
ステップS54で取得された情報は、ステップS50で当該クエリ画像に付与された新たな画像IDに関連づけて読影レポートDB104に登録される(ステップS56)。
【0063】
以上で説明したステップS50〜ステップS56の処理により、過去病例DB102、読影レポートDB104、および特徴量DB108が更新される。以下、変形モデルDB112を更新するステップS58〜ステップS62の処理を説明する。
【0064】
変形モデル生成部110は、まず、クエリ画像の撮影時期よりも前に撮影された画像であって、クエリ画像と同じ患者を撮影した画像を過去病例DB102から取得する(ステップS58)。本実施形態の例では、ステップS58で、変形モデル生成部110は、読影レポートDB104を参照し、クエリ画像の撮影日よりも前の撮影日に関連づけられた画像IDのうち、クエリ画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像IDを取得する。そして、取得した画像IDの画像を過去病例DB102から取得する。
【0065】
次に、変形モデル生成部110は、ステップS58で取得した画像のそれぞれを初期状態の画像とし、当該初期状態の画像からクエリ画像への変化を表す変形ベクトルを生成する(ステップS60)。変形ベクトルの生成の処理の詳細は、図7のステップS18を参照して説明したのと同様であってよい。
【0066】
ステップS60の後、変形モデル生成部110は、生成した変形ベクトルを変形モデルDB112に登録する(ステップS62)。すなわち、変形モデルDB112において、ステップS58で取得した画像のそれぞれを初期状態とするレコードにステップS60で求めた変形係数Pおよび経過時間tの組を追加登録する。
【0067】
図10の例の手順により、クエリ画像を過去の画像として各種のデータベースが更新され、更新後の各種データベースの内容が、その後の他のクエリ画像についての予測画像の生成に用いられる。
【0068】
予測画像の生成の後、当該予測画像に係る経過時間が経過したときに、実際に同一患者の画像が撮影される場合がある。このとき撮影された画像を用いて、予測画像の予測の精度を評価し、この評価結果をその後の予測画像生成処理に反映させてもよい。例えば、図8のステップS38において、変形ベクトル中の変形係数を単純に平均して変形パラメータを生成する代わりに、前述の評価結果に基づいて各変形ベクトル中の変形係数を重み付けし、変形係数の加重平均を変形パラメータとしてもよい。変形係数の重みは、例えば、図11に示す手順により求められる。
【0069】
図11を参照し、入力受付部100において、画像および当該画像に関する情報を取得する(ステップS70)。本例では、画像に関する情報として、患者ID、疾病ID、処置ID、および撮影日を取得するものとする。
【0070】
次に、ステップS70で取得した画像に対応する予測画像を特定する(ステップS72)。ステップS72の処理は、例えば、次の手順で実行される。まず、ステップS70で取得した患者ID、疾病ID、および処置IDの組合せに関連づけられた画像IDと、その撮影日と、を読影レポートDB104から取得する。そして、取得した画像IDと、その撮影日からステップS70で取得した撮影日までの経過時間と、の組に関連づけて予測画像DB118に登録された予測画像IDを特定する。特定された予測画像IDの予測画像は、ステップS70で取得した画像に対応する予測画像である。なお、対応する予測画像をユーザが把握している場合、上述のステップS72の処理の代わりに、ユーザによる予測画像IDの入力を受け付けてもよい。
【0071】
対応する予測画像を特定すると、ステップS70で取得した画像を用いて、ステップS72で特定した予測画像の生成に用いられた変形ベクトルを評価する(ステップS74)。ステップS74の処理の手順の例を以下で説明する。まず、当該予測画像の生成に用いられた変形ベクトルを特定する。予測画像の生成に用いられた変形ベクトルは、例えば、当該予測画像の生成時のクエリ画像(当該予測画像に関連づけて予測画像DB118に登録された画像IDの画像)の類似画像を過去病例DB102から検索し、検索した類似画像を初期状態とし、当該予測画像に関連づけられた経過時期を含む変形ベクトルを変形モデルDB112から検索することで特定すればよい。あるいは、予測画像生成処理(図8)において、生成した予測画像に関連づけて、この予測画像の生成に用いた変形ベクトルを予測画像DB118に記憶しておけば、ステップS74では、予測画像DB118から対応する予測画像の生成に用いられた変形ベクトルを取得するだけでよい。予測画像の生成に用いられた変形ベクトルが特定されると、各変形ベクトルについて、初期状態の画像を過去病例DB102から読み出す。読み出した画像を、当該変形ベクトルにおける変形係数で定義される変換関数を用いて変換し、その変換後の画像の特徴量を求める。また、ステップS70で取得した画像の特徴量も求め、ステップS70で取得した画像の特徴量と、上述の変換後の画像の特徴量と、の間の類似度を求める。この類似度を変換後の画像に係る変形ベクトルの評価値とする。
【0072】
予測画像の生成に用いられた各変形ベクトルに関連づけて、ステップS74で求めた各変形ベクトルの評価に基づく重みを変形モデルDB112に登録する(ステップS76)。重みの値は、ステップS74で求めた評価が高いほど大きな値になるように決定すればよい。例えば、上述のステップS74の処理手順の例の場合、ステップS70で取得した画像の特徴量と、各変形ベクトルについての変換後の画像の特徴量と、の間の類似度が大きいほど、当該変形ベクトルに関連づけられる重みの値を大きくすればよい。この類似度が大きいほど、当該変形ベクトルの変形係数は、クエリ画像の撮影時期から当該変形ベクトルの経過時間が経過したときに実際に撮影された画像により類似した画像へクエリ画像を変換する変換関数を定義するパラメータであると言える。ステップS76の後、図11の例の手順の処理は終了する。
【0073】
本発明の実施の形態は、以上で説明した各種の実施形態および変形例に限定されない。例えば、診断支援装置10が備える各種のデータベースの具体的な態様は、上述した例と異なっていてよい。例えば、各データベースにおける画像IDの登録を省略し、患者IDと撮影日との組を画像の識別情報として用いてもよい。また例えば、読影レポートDB104において、図2に例示する項目の他に、当該患者に対して行われた検査の種類とその結果などを登録しておいてもよい。また、過去病例DB102、読影レポートDB104、および特徴量DB108のうちの2以上のデータベースを1つのデータベースとして纏めてもよい。
【0074】
また、上述の実施形態では、変換関数Tとして、式(1)のTglobalおよび式(2)のTlocalにより表される変換関数T=Tglobal+Tlocalを用いるが、他の形式で表される変換関数Tを用いてもよい。1つの画像を他の画像に変換する関数を表し、1以上のパラメータにより定義される関数であれば、上述と異なる形式の変換関数Tを用いて、上述の説明と同様の処理手順により変形モデルの生成および予測画像の生成を実行してよい。また、上述の実施形態では、変換関数Tは、患者を撮影した画像における病変領域の画像データを変換する関数であるが、患者を撮影した画像の全体を変換する関数を変換関数Tとして用いてもよい。
【0075】
また、上述の実施形態では、初期状態の画像と同じ患者ID、疾病ID、および処置IDの組合せに関連づけられた画像について変形ベクトルを生成するが、少なくとも患者IDが初期状態の画像と同じであれば、疾病IDまたは処置IDが異なる画像について変形ベクトルを生成してもよい。
【0076】
以上に例示した診断支援装置10は、例えば、図12に示すようなハードウエア構成を備えるコンピュータにて上述の診断支援装置10の各部の機能又は処理内容を記述したプログラムを実行することにより実現される。図12の例のコンピュータは、CPU(中央演算装置)80、画像処理に関する演算を行うGPU(Graphics Processing Unit)81、メモリ(一次記憶)82、各種I/O(入出力)インタフェース84等がバス86を介して接続された回路構成を有する。また、バス86に対し、例えばI/Oインタフェース84経由で、ハードディスクドライブ(HDD)88やCDやDVD、フラッシュメモリなどの各種規格の可搬型の不揮発性記録媒体を読み取るためのディスクドライブ90が接続される。このようなドライブ88又は90は、メモリに対する外部記憶装置として機能する。実施形態の処理内容が記述されたプログラムがCDやDVD等の記録媒体を経由して、又はネットワーク経由で、HDD88等の固定記憶装置に保存され、コンピュータにインストールされる。固定記憶装置に記憶されたプログラムがメモリに読み出されCPUまたはGPUにより実行されることにより、実施形態の処理が実現される。GPUは、類似画像の検索や画像の特徴量の算出など、画像処理に関する演算を担当する。CPUとGPUとで、画像処理に関する演算を並列化して行ってもよい。
【0077】
なお、以上の説明では、診断支援装置10を1台のコンピュータにより実現する例の実施形態を説明したが、診断支援装置10の上述の例の各種の機能を複数のコンピュータに分散させて実現してもよい。
【符号の説明】
【0078】
10 診断支援装置、80 CPU、81 GPU、82 メモリ、84 I/Oインタフェース、86 バス、88 HDD、90 ディスクドライブ、100 入力受付部、102 過去病例DB、104 読影レポートDB、106 特徴量算出部、108 特徴量DB、110 変形モデル生成部、112 変形モデルDB、114 類似画像検索部、116 予測画像生成部、118 予測画像DB、120 出力処理部。
【特許請求の範囲】
【請求項1】
処理対象の画像である対象画像の特徴を表す特徴量を算出するステップと、
過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定するステップと、
前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定するステップで特定された画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成するステップと、
前記生成するステップで生成された変換関数を用いて前記対象画像を変換した画像を出力するステップと、
をコンピュータに実行させるためのプログラム。
【請求項2】
前記変化情報記憶手段は、患者を撮影した第一の画像と、当該第一の画像の撮影時期以降に当該患者を撮影した第二の画像に変換する変換関数を定めるパラメータであって当該第一の画像および当該第二の画像を用いて算出されたパラメータと、当該第一の画像の撮影時期から当該第二の画像の撮影時期までの経過時間と、を関連づけて記憶し、
前記特徴量記憶手段は、前記第一の画像のそれぞれの前記特徴量を記憶し、
前記特定するステップにおいて、前記対象画像に類似する前記第一の画像が特定され、
前記画像の変換関数を生成するステップにおいて、前記特定するステップで特定された第一の画像に関連づけられたパラメータであって共通の前記経過時間に関連づけられたパラメータを前記変化情報記憶手段から取得し、取得したパラメータを用いて前記画像の変換関数を生成する、
ことを特徴とする請求項1に記載のプログラム。
【請求項3】
前記対象画像および前記第一の画像のそれぞれの前記特徴量は、当該画像において病変を含む領域であると判定された病変領域の特徴を表し、
前記パラメータは、前記第一の画像における前記病変領域の画像を前記第二の画像における前記病変領域の画像に変換する変換関数を定めるパラメータである、
ことを特徴とする請求項2に記載のプログラム。
【請求項4】
患者と、患者を撮影した画像と、当該画像の撮影時期と、を関連づけて記憶した画像記憶手段に記憶された画像のうちの少なくとも1つを初期状態画像とし、当該初期状態画像の撮影時期以降に当該初期状態画像の患者を撮影した画像を前記画像記憶手段から取得し、取得した画像と前記初期状態画像とを用いて、前記初期状態画像を当該取得した画像に変換する変換関数を定めるパラメータを算出するステップと、
前記初期状態画像を前記第一の画像とし、前記パラメータを算出するステップで前記画像記憶手段から取得した画像を前記第二の画像として、前記第一の画像とした前記初期状態画像と、前記パラメータを算出するステップで算出したパラメータと、前記初期状態画像の撮影時期から前記第二の画像とした画像の撮影時期までの経過時間と、を互いに関連づけて前記変化情報記憶手段に対して出力するステップと、
を前記コンピュータにさらに実行させる、
ことを特徴とする請求項2または3に記載のプログラム。
【請求項5】
前記対象画像の撮影時期から、前記画像の変換関数を生成するステップで用いられたパラメータに共通して関連づけられた経過時間が経過したときに前記対象画像に係る患者を撮影した画像である結果画像を取得するステップと、
前記画像の変換関数を生成するステップで用いられたパラメータを前記結果画像に基づいて評価して求めた評価値を当該パラメータに関連づけて前記変化情報記憶手段に対して出力するステップと、
をさらに前記コンピュータに実行させ、
前記画像の変換関数を生成するステップにおいて、前記取得したパラメータの前記評価値をさらに用いて前記画像の変換関数を生成する、
ことを特徴とする請求項2から4のいずれか1項に記載のプログラム。
【請求項6】
処理対象の画像である対象画像の特徴を表す特徴量を算出する算出手段と、
過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定する特定手段と、
前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定手段が特定した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する生成手段と、
前記生成手段が生成した変換関数を用いて前記対象画像を変換した画像を出力する出力手段と、
を備えることを特徴とする情報処理装置。
【請求項1】
処理対象の画像である対象画像の特徴を表す特徴量を算出するステップと、
過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定するステップと、
前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定するステップで特定された画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成するステップと、
前記生成するステップで生成された変換関数を用いて前記対象画像を変換した画像を出力するステップと、
をコンピュータに実行させるためのプログラム。
【請求項2】
前記変化情報記憶手段は、患者を撮影した第一の画像と、当該第一の画像の撮影時期以降に当該患者を撮影した第二の画像に変換する変換関数を定めるパラメータであって当該第一の画像および当該第二の画像を用いて算出されたパラメータと、当該第一の画像の撮影時期から当該第二の画像の撮影時期までの経過時間と、を関連づけて記憶し、
前記特徴量記憶手段は、前記第一の画像のそれぞれの前記特徴量を記憶し、
前記特定するステップにおいて、前記対象画像に類似する前記第一の画像が特定され、
前記画像の変換関数を生成するステップにおいて、前記特定するステップで特定された第一の画像に関連づけられたパラメータであって共通の前記経過時間に関連づけられたパラメータを前記変化情報記憶手段から取得し、取得したパラメータを用いて前記画像の変換関数を生成する、
ことを特徴とする請求項1に記載のプログラム。
【請求項3】
前記対象画像および前記第一の画像のそれぞれの前記特徴量は、当該画像において病変を含む領域であると判定された病変領域の特徴を表し、
前記パラメータは、前記第一の画像における前記病変領域の画像を前記第二の画像における前記病変領域の画像に変換する変換関数を定めるパラメータである、
ことを特徴とする請求項2に記載のプログラム。
【請求項4】
患者と、患者を撮影した画像と、当該画像の撮影時期と、を関連づけて記憶した画像記憶手段に記憶された画像のうちの少なくとも1つを初期状態画像とし、当該初期状態画像の撮影時期以降に当該初期状態画像の患者を撮影した画像を前記画像記憶手段から取得し、取得した画像と前記初期状態画像とを用いて、前記初期状態画像を当該取得した画像に変換する変換関数を定めるパラメータを算出するステップと、
前記初期状態画像を前記第一の画像とし、前記パラメータを算出するステップで前記画像記憶手段から取得した画像を前記第二の画像として、前記第一の画像とした前記初期状態画像と、前記パラメータを算出するステップで算出したパラメータと、前記初期状態画像の撮影時期から前記第二の画像とした画像の撮影時期までの経過時間と、を互いに関連づけて前記変化情報記憶手段に対して出力するステップと、
を前記コンピュータにさらに実行させる、
ことを特徴とする請求項2または3に記載のプログラム。
【請求項5】
前記対象画像の撮影時期から、前記画像の変換関数を生成するステップで用いられたパラメータに共通して関連づけられた経過時間が経過したときに前記対象画像に係る患者を撮影した画像である結果画像を取得するステップと、
前記画像の変換関数を生成するステップで用いられたパラメータを前記結果画像に基づいて評価して求めた評価値を当該パラメータに関連づけて前記変化情報記憶手段に対して出力するステップと、
をさらに前記コンピュータに実行させ、
前記画像の変換関数を生成するステップにおいて、前記取得したパラメータの前記評価値をさらに用いて前記画像の変換関数を生成する、
ことを特徴とする請求項2から4のいずれか1項に記載のプログラム。
【請求項6】
処理対象の画像である対象画像の特徴を表す特徴量を算出する算出手段と、
過去に撮影された患者の画像のそれぞれの特徴を表す特徴量を記憶した特徴量記憶手段を参照し、前記対象画像の前記特徴量と前記患者の画像のそれぞれの前記特徴量とを用いて前記対象画像に類似する前記患者の画像を特定する特定手段と、
前記過去に撮影された患者の画像を用いて求められた、患者の画像の時間による変化を表す情報を記憶した変化情報記憶手段から、前記特定手段が特定した画像の時間による変化を表す情報を取得し、取得した情報を用いて画像の変換関数を生成する生成手段と、
前記生成手段が生成した変換関数を用いて前記対象画像を変換した画像を出力する出力手段と、
を備えることを特徴とする情報処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−182960(P2011−182960A)
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願番号】特願2010−51576(P2010−51576)
【出願日】平成22年3月9日(2010.3.9)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願日】平成22年3月9日(2010.3.9)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
[ Back to top ]