画像処理装置および方法ならびにプログラム
【課題】画像データから抽出した候補点を形状モデルのノードに的確に対応づけする。
【解決手段】画像データDVから複数の候補点Spが抽出し、その中から、形状モデルMrefを構成する教師ラベルTqに対応する対応点を選択する。この対応点の選択は、「互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみふくまれるか、または前記決定されたいずれの経路にも含まれないこと」という制約条件の下で行う。そして、選択された複数の対応点を用いて画像データDVから構造物Mを検出する。
【解決手段】画像データDVから複数の候補点Spが抽出し、その中から、形状モデルMrefを構成する教師ラベルTqに対応する対応点を選択する。この対応点の選択は、「互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみふくまれるか、または前記決定されたいずれの経路にも含まれないこと」という制約条件の下で行う。そして、選択された複数の対応点を用いて画像データDVから構造物Mを検出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データから所定の構造物に属する複数の候補点を抽出し、所定の構造物の形状を表す既知の形状モデルのノードとのマッチングを行う画像処理装置および方法ならびにプログラムに関するものである。
【背景技術】
【0002】
従来、ボリュームデータ等の3次元画像データから冠動脈などの構造物を自動的に抽出することが行われている(たとえば特許文献1参照)。特許文献1には、ボリュームデータを構成するボクセルデータの値に基づいて、冠動脈を構成する複数の候補点を抽出し、抽出された候補点の中から、複数の教師ラベルから構成される形状モデルに最も類似するグラフ構造を構成する、教師ラベルの各々に対応する対応点を選択し、選択された対応点間の経路を、複数の候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定することが開示されている。
【0003】
ここで、対応点の選択は、教師ラベルの対応づけられた候補点の集合により形成されるグラフ構造と形状モデルとの類似度を評価する評価関数を設け、その評価関数の最適解(候補点と教師ラベルの対応づけ)を求めることによって行われる。このとき、評価関数の許容解xの集合Cは通常下記式(1)のように規定される。
【数1】
ここで、Pは候補点Spの集合を表し、Qは教師ラベルTqの集合を表す。xSpTqは候補点Spと教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。xは変数xSpTqを要素とするP×Q次元のベクトルである。
【0004】
この式(1)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは教師ラベルの各々が、全ての候補点のうちいずれか1つにのみ対応づけられるか、または候補点のいずれにも対応づけられないことを意味する。右側の不等式は、任意の候補点Spと集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは候補点の各々が、全ての教師ラベルのうちいずれか1つにのみ対応づけられるか、または教師ラベルのいずれにも対応づけられないことを意味する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2011−98195号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、上記集合Cに属する許容解x中から教師ラベルに対応づけする候補点の集合を選択する上記従来の方法では、評価関数の最適解として得られる候補点と教師ラベルの対応づけが、教師ラベルに対応づけする候補点の選択が不適切なものとなる場合があり、問題となる。
【0007】
たとえば、図11Aに示すように、画像データから複数の候補点S11〜S19が抽出されているときに、教師ラベルT11〜T14により形成される形状モデルMref1に一致もしくは最も類似するグラフ構造を構成する対応点として候補点S11,S15,S17,S19が選択され、それらの対応点間を接続してグラフ構造Ms1が形成されることがある。しかし、このグラフ構造Ms1では、構造物の分枝点に位置する教師ラベルT12に対応づけする候補点の選択が不適切であり、対応点間を接続する経路同士が一部重複している。これに対し、適切な対応づけとして、図11Bに示すようなグラフ構造Ms1′を形成することが望まれる
【0008】
また、たとえば、図12Aに示すように、画像データから複数の候補点S21〜S27が抽出されているときに、教師ラベルT21〜T23により形成される形状モデルMref2に一致もしくは最も類似するグラフ構造を形成する対応点として候補点S21,S26,S27が選択され、それらの対応点間を接続してグラフ構造Ms2が形成されることがある。しかし、このグラフ構造Ms2では、構造物の分枝点に位置する教師ラベルT11に対応づけする候補点の選択が不適切であり、対応点間を接続する経路同士が重複している。これに対し、適切な対応づけとして、図12Bに示すようなグラフ構造Ms2′を形成することが望まれる。
【0009】
そこで、本発明は、画像データから抽出した候補点を形状モデルのノードにより的確に対応づけすることができる画像処理装置および方法ならびにプログラムを提供することを目的とするものである。
【課題を解決するための手段】
【0010】
本発明の画像処理装置は、画像データから所定の構造物に属する複数の候補点を抽出する候補点抽出手段と、前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルが記憶された形状モデル記憶手段と、下記(a)〜(c)の制約条件の下で、前記候補点抽出手段により抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する対応点選択手段とを備えたことを特徴とするものである。
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路に含まれるか、または前記決定されたいずれの経路に含まれないこと
【0011】
本発明の画像処理方法は、画像データから所定の構造物に属する複数の候補点を抽出し、形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、上記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択し、前記選択された複数の対応点を用いて前記画像データから前記所定の構造物を検出することを特徴とするものである。
【0012】
本発明の画像処理プログラムは、上記画像処理方法を少なくとも1台のコンピュータに実行させるプログラムである。このプログラムは、CD−ROM,DVDなどの記録メディアに記録され、またはサーバコンピュータに付属するストレージやネットワークストレージにダウンロード可能な状態で記録されて、ユーザに提供される。
【0013】
ここで、所定の構造物は、点とそれを結ぶ線とによりグラフ構造化可能なオブジェクトであればなんでもよく、特に、気管、腸、冠動脈、脳血管、肺血管、肝臓血管、気管支等の人体の管状構造物や人物の顔等を含む。
【0014】
画像データは、たとえばCT、MR、超音波装置、PET―CT、SPECT、4D-CT、OCT、X線撮影装置(CR、DR)により撮像された医用画像データであってもよいし、たとえばボリュームデータ等の3次元画像データであってもよいし、デジタルカメラ等により撮影された画像データであってもよい。
【0015】
形状モデルは、所定の構造物の既知の形状、言い換えると、所定の構造物の検出されるべき(検出したい)形状を表すものである。例えば、形状モデルは、所定の構造物の一般的な解剖学的形状や、正常な状態にある所定の構造物の解剖学的形状を表すものである。
【0016】
また、上記(c)の制約条件における前記経路は、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定することができる。
【0017】
また、上記本発明の画像処理装置および方法ならびにプログラムにおいて、対応点の選択処理は、前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、下記式(2)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであってもよい。
【数2】
【0018】
ここで、xSpTq(xSp′Tq、xSp″Tq)は、候補点Sp(Sp′、Sp″)と教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。ySpSp′Sp″は、候補点Spが集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【0019】
この式(2)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式の左辺は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和を意味し、右側の不等式の左辺の第1項は、前記任意の候補点Spと前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和を意味する。また、右側の不等式の左辺の第2項におけるΣxSp′Tqは、候補点Sp′と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp′Tqの総和を意味し、ΣxSp″Tqは、候補点Sp″と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp″Tqの総和を意味する。
【0020】
対応点の選択処理は、前記ベクトルxを変数とする下記式(3)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであってもよい。
【数3】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【0021】
候補点の抽出処理は、画像データから所定の構造物の画像的特徴および/または構造的特徴を有する領域を検出し、検出された領域から複数の候補点を抽出する処理であってもよい。
【0022】
対応点の選択処理は、複数の候補点のうち形状モデルに一致もしくは最も類似する対応点を選択するものであればその手法を問わず、たとえばグラフマッチングにより形状モデルに一致もしくは最も類似するグラフ構造となる対応点の集合を選択するものであってもよい。
【0023】
さらに、形状モデル記憶手段は、所定の構造物であることが既知の教師画像データを用いて学習された、複数の候補点が形状モデルであることの尤度を示す評価関数を記憶したものであってもよい。このとき、対応点の選択処理では評価関数を用いて対応点を選択する。
【0024】
上記本発明の画像処理装置は、対応点の選択処理により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、画像データから所定の構造物を検出する構造物検出手段をさらに備えたものであってもよい。
【0025】
対応点選択手段は、前記経路を、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定するものであってもよい。
【発明の効果】
【0026】
本発明の画像処理装置および方法ならびにプログラムによれば、画像データから所定の構造物に属する複数の候補点を抽出し、形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、上記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から教師ラベルに対応する対応点を選択しているので、図11Aのグラフ構造Ms1や図12Aのグラフ構造Ms2に示すような、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、上記従来の方法に比べて、画像データから抽出した候補点を形状モデルの教師ラベル(ノード)により的確に対応づけすることができる。
【0027】
また、対応点の選択処理が、前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、上記式(2)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであれば、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、画像データから抽出した候補点を形状モデルの教師ラベルにより的確に対応づけすることができる。
【0028】
また、対応点の選択処理が、前記ベクトルxを変数とする上記式(3)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであるとき、高速に精度良く対応点を選択することができる。
【0029】
さらに、対応点の選択処理により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、画像データから所定の構造物を検出するようにした場合には、画像データから所定の構造物を精度良く検出することができる。
【図面の簡単な説明】
【0030】
【図1】構造物検出装置の概略構成を示すブロック図
【図2】候補領域検出手段において所定の構造物として検出される冠動脈の一例を示す模式図
【図3】候補点抽出手段において候補領域から候補点が抽出される様子を示す模式図
【図4】対応点選択手段において所定の対応点が選択される様子を示す模式図
【図5A】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図5B】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図6】対応点(教師ラベル)を結ぶことにより形成されるグラフ(エッジ)の一例を示す模式図
【図7】対応点選択手段において対応点を選択する様子を示す模式図
【図8】構造物検出装置によって構造物を検出する処理の流れを示すフローチャート
【図9A】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図9B】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図10】対応点(教師ラベル)を結ぶことにより形成されるグラフ(エッジ)の一例を示す模式図
【図11A】従来の方法により形成されたグラフ構造の一例を示す模式図
【図11B】図11Aにおいて本来形成されるべきグラフ構造を示す模式図
【図12A】従来の方法により形成されたグラフ構造の一例を示す模式図
【図12B】図12Aにおいて本来形成されるべきグラフ構造を示す模式図
【発明を実施するための形態】
【0031】
以下、図面を参照して本発明の一実施の形態について説明する。図1は、構造物検出装置1の概略構成を示すブロック図である。なお、図1のような構造物検出装置1の構成は、補助記憶装置に読み込まれた構造物検出プログラムをコンピュータ上で実行することにより実現される。このとき、この構造物検出プログラムは、CD−ROM等の記憶媒体に記憶され、もしくはインターネット等のネットワークを介して配布され、コンピュータにインストールされる。図1の構造物検出装置1は、画像データからたとえば冠動脈等の構造物Mを検出するものであって、候補領域検出手段10、候補点抽出手段20、正規化手段30、対応点選択手段40、構造物検出手段50を備えている。
【0032】
候補領域検出手段10は、画像データにおいて所定の構造物Mの一部を構成するか否かを判断することにより候補領域Rcを検出するものである。なお、画像データDVは、データ記憶手段VDBに記憶されたたとえば撮影装置もしくは放射線検出装置により撮像された2次元の画像もしくは複数の2次元画像から生成された3次元のボリュームデータからなっている。
【0033】
ここで、候補領域検出手段10はたとえば特願2009−48679号もしくは特願2009−69895号に開示された手法やその他公知の技術により候補領域を検出する。一例として、所定の構造物Mが図2に示すような心臓の冠動脈であり、ボリュームデータから候補領域Rcを検出する場合について説明する。
【0034】
まず、候補領域検出手段10は、ボリュームデータDVを構成するボクセルデータの値に基づいて、冠動脈の芯線を構成する複数の候補点の位置と主軸方向とを算出する。あるいは、候補領域検出手段10が、ボリュームデータDVについてヘッセ行列を算出し、算出されたヘッセ行列の固有値を解析することにより、冠動脈の芯線を構成する複数の候補点の位置情報と主軸方向とを算出するようにしてもよい。そして、候補領域検出手段10は、候補点周辺のボクセルデータについて冠動脈らしさを表す特徴量を算出し、算出した特徴量に基づいてそのボクセルデータが冠動脈領域を表すものであるか否かを判別する。なお、特徴量に基づく判別は、たとえばマシンラーニングにより予め取得された評価関数に基づいて行なう。これにより、画像データのうち冠動脈領域であると判断された画像データDVが候補領域Rcとして抽出される。
【0035】
図1の候補点抽出手段20は、候補領域検出手段10において検出された候補領域Rcから複数の候補点Sp(p=1〜n:nは候補点の抽出数)を抽出するものである。図3は候補領域Rcから候補点Spを抽出する様子を示す模式図である。図3において、候補点抽出手段20は、候補領域Rc内から複数の(第1次)候補点Sp0を抽出し、抽出した複数の(第1次)候補点Sp0を連結する。ここで、連結方法として最小全域木アルゴリズムを用いれば、すべての(第1次)候補点Sp0を最小のコストで連結することができる。なお、このコストには、各(第1次)候補点Sp0間の距離等を用いることができる。(第1次)候補点Sp0間の距離を用いる場合、その距離が大きいほどコストが大きいと定義すればよい。そして、候補点抽出手段20は複数の(第1次)候補点Sp0を所定の長さ単位毎に分割し(セグメント化)、分割した際の分割点を(第2次)候補点Spとして選択する。そして、候補点抽出手段20は各(第2次)候補点に対しラベルSpを付与する。なお、候補点抽出手段20が、(第1次)候補点Sp0から(第2次)候補点Spを再設定する場合について例示しているが、(第1次)候補点Sp0を用いて後述のグラフ構造Msの検出を行うようにしてもよい。このとき、候補領域検出手段10が候補点抽出手段20として機能していることになる。
【0036】
図1の正規化手段30は、候補点抽出手段20により抽出された複数の候補点Spの座標を所定の基準位置Srefに基づいて正規化するものである。たとえば所定の構造物が冠動脈である場合、正規化手段30は図2に示す大動脈弁、僧帽弁、心尖部を検出して基準位置Srefとして設定し、心尖部を原点、心尖部から大動脈弁に向かう軸をZ軸、心尖部から僧帽弁に向かうベクトルとZ軸との外積をX軸、X軸とZ軸との外積をY軸とし、心尖部から大動脈弁までの長さを1とする新たな座標系で、各候補点Spの位置を表現する。大動脈弁、僧帽弁、心尖部は個体差によるばらつきが少なく、基準位置Srefを用いて正規化することにより候補点Spの個体差によるばらつきを抑えることができる。
【0037】
図1の対応点選択手段40は、正規化手段30により正規化された複数の候補点Spのうち、形状モデル記憶手段DBに記憶された形状モデルMrefに一致もしくは最も類似するグラフ構造Msを構成する対応点を選択し、選択した複数の対応点を形状モデルMrefに略一致するように接続しグラフ構造Msを形成する。たとえば図4に示すように、候補点抽出手段20により複数の候補点Sp(p=1〜8)が抽出され、形状モデル記憶手段DBに所定の接続関係を有する4つの教師ラベルTq(q=1〜4)により形成される形状モデルMrefが記憶されているものとする。このとき、対応点選択手段40は、形状モデルMrefに一致もしくは最も類似するグラフ構造を形成する対応点(T1はS2、T2はS4、T3はS6、T4はS7)を選択しグラフ構造Msを形成する。
【0038】
ここで、対応点選択手段40はグラフマッチングにより複数の対応点を選択するものであり、形状モデル記憶手段DBにはグラフマッチングにおけるエネルギ関数Eが形状モデルMrefとして記憶されている。そこで、対応点選択手段40は、下記式(4)の制約条件を満たす解候補の集合C´から、エネルギ関数Eの最小化を達成する最適解を求める。
【数4】
【0039】
ここで、Pは候補点Spの集合を表し、Qは教師ラベルTqの集合を表す。xSpTq(xSp′Tq、xSp″Tq)は、候補点Sp(Sp′、Sp″)と教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。xは変数xSpTqを要素とするP×Q次元のベクトルである。
【0040】
この式(4)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは教師ラベルの各々が、全ての候補点のうちいずれか1つにのみ対応づけられるか、または候補点のいずれにも対応づけられないことを意味する。
【0041】
右側の不等式の左辺の第1項は、任意の候補点Spと前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和であって、対象の候補点pがいずれの教師ラベルqに対応付けられている場合には1となり、いずれの教師ラベルqにも対応付けられていない場合には0となる。
【0042】
右側の不等式の左辺の第2項は、ySpSp′Sp″、ΣxSp′TqおよびΣxSp″Tqから構成されている。ここで、ySpSp′Sp″は、候補点Sp′と候補点Sp″の間の経路を、教師ラベルに対応づけられていない候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定したときに、候補点Spがそれらの候補点Sp′とSp″の間の経路の決定において選択されている場合には1の値を有し、選択されていない場合には0の値を有する2値の変数である。ΣxSp′Tqは、候補点Sp′と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp′Tqの総和であり、候補点Sp′がいずれの教師ラベルTqに対応付けられている場合には1となり、いずれの教師ラベルTqにも対応付けられていない場合には0となる。また、ΣxSp″Tqは、候補点Sp″と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp″Tqの総和であり、候補点Sp″がいずれの教師ラベルTqに対応付けられている場合には1となり、いずれの教師ラベルTqにも対応付けられていない場合には0となる。
【0043】
また、右側の不等式は、第1項と第2項を足し合わせた全体で1以下であることを要求するので、第1項と第2項はそのいずれか一方が1でもう一方が0であるか、両方とも0であることが要求される。すなわち、第1項が1の値を有するときに、第2項が1の値を有するような解は除外されることとなる。これは、候補点Spの各々が、全ての教師ラベルTqのうちいずれか1つにのみ対応づけられるか、または教師ラベルTqのいずれにも対応づけられないこと、および、教師ラベルに対応づけられた2つの候補点Sp′と候補点Sp″間の経路を、教師ラベルに対応づけられていない候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定したときに、教師ラベルに対応づけられていない候補点Spの各々が、その決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または決定されたいずれの経路にも含まれないことを意味する。
【0044】
エネルギ関数Eは、ベクトルxを変数とする下記式(5)で表すことができる。
【数5】
【0045】
ここで、Rは許容解xにおける候補点と教師ラベルの対応づけの集合を表す。θaは集合Rに属する任意の対応づけa(候補点Sp′と教師ラベルTq′)に対するコストであり、下記(6)で表すことができる。
【数6】
【0046】
上記式(6)において、LTq′(CSp′)は教師ラベルTq′が候補点Sp′に対応づけられる確率を表し、その分布はガウス関数で近似され、下記式(7)で表すことができる。ここで、CSpは候補点Sp′の座標を表し、μTq′およびσTq′2はそれぞれ所定の構造物Mであることが既知の複数の教師データから取得した教師ラベルTq′の平均座標および分散値である。これにより、LTq′(CSp′)の値は、候補点Sp′の座標がある教師ラベルTq′の座標から離れるほど小さくなり、近づくほど大きくなる。
【数7】
【0047】
なお、図5A、図5Bに示すような予め所定の構造物Mであることが既知の教師データから複数の教師ラベルTq(たとえばq=1〜26)が抽出される。なお、図5A、図5Bにおいて教師ラベルT1〜T20は所定の構造物Mである冠動脈から抽出したものであり、教師ラベルT21〜T26は冠静脈から抽出したものである。そして、図6に示すように、教師ラベルT1〜T26のうち所定のラベル同士をエッジ(線)により結ぶことにより形状モデル(グラフ)Mrefが形成される。この教師ラベルTq′の抽出が複数の教師データについて行われる。そして、各教師データの教師ラベルTq′について平均座標μTq′および分散値σTq′2が算出され、教師ラベルTq′毎に式(7)に示す確率密度関数LTq′(CSp′)が導出される。
【0048】
一方、式(5)中のθabは、集合Rに属する2つの対応づけaとb(a:候補点Sp′と教師ラベルTq′の対応づけ、b:候補点Sp″と教師ラベルTq″の対応づけ)の組み合わせに対するコストであり、下記式(8)で表すことができる。なお、ここではマッチングのコストθabに、Sp′とSp″の間をコストの和が最小になるように辿って経路を求めた結果、得られたコストの和をそのまま利用している。しかし、求まった経路に関する別の評価値をマッチングのコストに用いてもよい。例えば、その経路上に位置する画素の輝度の平均や分散、その経路上の各位置における構造物Mの半径の平均や分散、その経路全体の長さなどの評価値を利用することができる。
【数8】
【0049】
ここで、LTq′Tq″(CSp′CSp″)は、教師ラベルのペア(Tq′,Tq″)が候補点のペア(Sp′,Sp″)に対応づけられる確率を表し、下記式(9)で表すことができる。ここで、(CSp′−CSp″)は候補点Sp′に対する候補点Sp″の相対座標であり、μTq′Tq″およびσTq′Tq″2はそれぞれ所定の構造物Mであることが既知の複数の教師データから取得した教師ラベルTqに対する教師ラベルTq′の相対座標の平均値および分散値である(図7参照)。
【数9】
【0050】
また、式(8)の第2項中のelocalは、教師ラベルに対応づけられた候補点Sp′とSp″の間を他の候補点を辿ることによって接続する場合における、直接接続される2つの他の候補点Si、Sjの接続に対するコストを表すものであり、例えば、2点Si、Sjの距離が近いほど、あるいは、輝度値の差が小さいほど、あるいは、血管の太さの差が小さいほど、小さい値を持つように定義しておくことができる。Σelocalは、候補点Sp′とSp″の間の経路上の、直接接続される2つの候補点のすべてについてのelocalの総和であり、minΣelocalは、例えば、各候補点を、各候補点間を結ぶ辺(エッジ)に対して上記elocalで定義された重みを持たせたグラフ構造として取り扱い、ダイクストラ法等を用いて、候補点Sp′とSp″の間の最適経路を算出することにより求めることができる。
【0051】
また、対応点選択手段40は、Σelocalが最小値となるときの候補点Sp′とSp″の間の候補点の接続経路を構造物検出装置1の所定のメモリ領域に記憶しておく。これにより、候補点Sp′とSp″の間の様々な候補点の接続経路の中から、候補点Sp′とSp″を他の候補点を経由して滑らかに結ばれるように接続する最適経路が決定される。
【0052】
対応点選択手段40は、上述の制約条件付きエネルギ関数Eの最小化問題をDual Decomposition (DD)法を用いて解く(最適解を求める)。DD法とは解きたい主問題を計算可能な複数のサブ問題に分割するものである。主問題は下記式(10)で表す条件を満たせば凸結合となる。ここでθは主問題のエネルギ関数を表すベクトルであり、各サブ問題はベクトルθσ(σ∈I)で表されている。ρσは正の値をもつ重み係数であり、I はサブ問題のインデックスである。
【数10】
【0053】
そして、サブ問題から定義される、下記式(11)で表す下界関数Ф(θ)は凸関数であるから、projected subgradient methodによって最大化することができる。下界値は主問題の解(上界値)以下という関係が成り立つため、下界値が上界値と一致したとき主問題の最小解が得られる。
【数11】
【0054】
ここで、サブ問題への分割は次のように行なう。それぞれのノードについて、そのノードとエッジで接続された近傍ノードのみを考慮する一つのサブ問題を生成する。それぞれのサブ問題は考慮しないノードに関するコストθaとθabは無視する(0として扱う)。サブ問題が十分に小さければ、その解は全組み合わせを探索しても計算できる。また分岐限定法(branch-and-bound method)を用いればより高速に解を得ることができる。分岐限定法を用いる場合、まず緩和下界(relaxed lower bound)を設定する。ここでは緩和下界を、あるノードがuniqueness constraintの条件なしに取る可能性がある最小のコストと定義する。この緩和下界を参照しながら、解が改善する可能性のない組み合わせの詳細な計算を省けば、計算量を大幅に減らすことができる。
【0055】
なお、対応点選択手段40は、上記エネルギ関数Eの最小化問題をループ有り確率伝播法を用いて解くこともできる。また、式(5)においてはエネルギ関数Eを最小化したが、1変数項および2変数項にマイナスを乗算し、エネルギ関数Eの評価値を大きくするようにしてもよい。
【0056】
図1の構造物検出手段50は、対応点選択手段40によって選択された対応点、および、直接接続されている対応点間を他の候補点で結んだ最適経路に基づいて構造物Mを検出する。なお、この最適経路は、対応点選択手段40においてminΣelocalの算出時に既に算出済みで、構造物検出装置1の所定のメモリ領域に記憶されている。
【0057】
ここで、形状モデルMrefが検出対象の構造物M全体を表すものではない場合には、構造物検出手段50は、上記の対応点間の最適経路に用いられなかった候補点について、最小全域木アルゴリズムを用いて接続することによって、構造物M全体を検出する。このとき、候補点間の距離が所定の値以上に離れているところは、候補点間の接続を行わないようにし、最終的に形状モデルMrefに基づいて検出された構造物Mの部分と接続されなかった候補点群は、構造物Mには属さないものとして取り扱う。逆に、形状モデルMrefが検出対象の構造物M全体を表すものである場合には、上記の対応点間の最適経路に用いられなかった候補点は、検出対象の構造物Mに属さない余剰領域(例えば肺血管や心筋等)のものであるから、接続処理を行う必要はない。
【0058】
図8は構造物検出装置によって構造物を検出する処理の流れを示すフローチャートである。図8に示すように、まず、候補領域検出手段10において画像データDVから候補領域Rcが検出され(ステップST1、図2参照)、候補点抽出手段20により候補領域Rcから複数の(第1次)候補点Sp0が抽出され、セグメント化により(第2次)候補点Spが抽出される(ステップST2、図3参照)。その後、正規化手段30により正規化が行われた後、対応点選択手段40において式(5)により複数の候補点Spから形状モデルMrefに最も類似するグラフ構造Msを形成する対応点の集合が選択される(ステップST3、図4参照)。そして、構造物検出手段50において、選択された対応点間を他の候補点で結んだ最適経路に基づいて構造物Mが検出される(ステップST4)。
【0059】
以上に説明したとおり、本実施形態の構造物検出装置および方法ならびにプログラムによれば、画像データDVから前記所定の構造物Mに属する複数の候補点を抽出し、上記(a)〜(c)の制約条件の下で、抽出された複数の候補点のうち、形状モデル記憶手段DBに予め記憶された構造物Mの既知の形状を表す、所定の接続関係を有する複数の教師ラベルTqから構成される形状モデルMrefに一致もしくは最も類似するグラフ構造Msを構成する対応点を選択し、選択された複数の対応点を用いて画像データDVから構造物Mを検出することにより、画像データDVから構造物Mを精度よく検出することができる。特に、上記(c)の制約条件を設けていることにより、図11Aのグラフ構造Ms1や図12Aのグラフ構造Ms2に示すような、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、特許文献1等に記載されている従来の方法に比べて、構造物Mの検出精度を向上させることができる。
【0060】
また、対応点選択手段40が、集合Pに属する任意の候補点Spおよび前記集合Qに属する任意の教師ラベルTqが上記式(4)を満たすという制約条件の下で、対応点を選択するものであるとき、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、画像データDVから精度良く構造物Mを検出することができる。
【0061】
なお、上記実施の形態では、本発明の画像処理装置および方法ならびにプログラムを、画像データDVから冠動脈を検出するものに適用した場合について説明したが、たとえば、気管、腸、脳血管、肺血管、肝臓血管、気管支等の抽出に適用することもできる。この場合、脳血管等の他の構造物Mに対する形状モデルが形状モデル記憶手段DBに記憶されており、構造物Mの種類に合った設計形状を用いて対応点を選択する。
【0062】
たとえば、構造物Mが脳血管である場合、図9A、図9Bに示すように、脳血管であることが既知の教師データから複数の教師ラベルTq(たとえばq=1〜25)が抽出される。なお、図9A、図9Bにおいて教師ラベルT1〜T12は所定の構造物Mである動脈から抽出したものであり、教師ラベルT13〜T25は静脈から抽出したものである。そして、図10に示すように、教師ラベルT1〜T25のうち所定のラベル同士をエッジ(線)により結ぶことにより形状モデル(グラフ)Mrefが形成される。
【0063】
また、本発明の画像処理装置および方法ならびにプログラムは、同一の患者を異なるフェーズで撮影した複数の画像について、各々の画像から抽出したグラフ構造同士を対応付けするものに適用することもできる。この場合、いずれか1つのフェーズから抽出したグラフ構造を形状モデルとし、そのグラフ構造を構成するノードが教師ラベルとすればよい。
【0064】
また、上記実施の形態では、正規化手段30と構造物検出手段50を備えたものである場合について例示しているが、これらの構成は必ずしも必要ではなく、必要に応じて設ければよい。
【0065】
また、構造物検出装置1は、複数の異なるサブ構造物(たとえば、動脈と静脈)が含まれている所定の構造物Mを形状モデルMrefとした場合、異なるサブ構造物毎にそれぞれ異なる色で表示する表示制御手段をさらに備えたものであってもよい。
【0066】
また、対応点選択手段40は、所定の構造物が血管である場合に候補点の座標とともに候補点における血管半径または輝度値を用いて対応点を選択するものであってもよい。
【符号の説明】
【0067】
1 構造物検出装置
10 候補領域検出手段(候補点抽出手段)
20 候補点抽出手段
30 正規化手段
40 対応点選択手段
50 構造物検出手段
DB 形状モデル記憶手段
DV 画像データ
M 構造物
Mref 形状モデル
Ms グラフ構造
Rc 候補領域
Sp0 (第1次)候補点
Sp (第2次)候補点
Sref 基準位置
Tq 教師ラベル
【技術分野】
【0001】
本発明は、画像データから所定の構造物に属する複数の候補点を抽出し、所定の構造物の形状を表す既知の形状モデルのノードとのマッチングを行う画像処理装置および方法ならびにプログラムに関するものである。
【背景技術】
【0002】
従来、ボリュームデータ等の3次元画像データから冠動脈などの構造物を自動的に抽出することが行われている(たとえば特許文献1参照)。特許文献1には、ボリュームデータを構成するボクセルデータの値に基づいて、冠動脈を構成する複数の候補点を抽出し、抽出された候補点の中から、複数の教師ラベルから構成される形状モデルに最も類似するグラフ構造を構成する、教師ラベルの各々に対応する対応点を選択し、選択された対応点間の経路を、複数の候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定することが開示されている。
【0003】
ここで、対応点の選択は、教師ラベルの対応づけられた候補点の集合により形成されるグラフ構造と形状モデルとの類似度を評価する評価関数を設け、その評価関数の最適解(候補点と教師ラベルの対応づけ)を求めることによって行われる。このとき、評価関数の許容解xの集合Cは通常下記式(1)のように規定される。
【数1】
ここで、Pは候補点Spの集合を表し、Qは教師ラベルTqの集合を表す。xSpTqは候補点Spと教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。xは変数xSpTqを要素とするP×Q次元のベクトルである。
【0004】
この式(1)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは教師ラベルの各々が、全ての候補点のうちいずれか1つにのみ対応づけられるか、または候補点のいずれにも対応づけられないことを意味する。右側の不等式は、任意の候補点Spと集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは候補点の各々が、全ての教師ラベルのうちいずれか1つにのみ対応づけられるか、または教師ラベルのいずれにも対応づけられないことを意味する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2011−98195号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、上記集合Cに属する許容解x中から教師ラベルに対応づけする候補点の集合を選択する上記従来の方法では、評価関数の最適解として得られる候補点と教師ラベルの対応づけが、教師ラベルに対応づけする候補点の選択が不適切なものとなる場合があり、問題となる。
【0007】
たとえば、図11Aに示すように、画像データから複数の候補点S11〜S19が抽出されているときに、教師ラベルT11〜T14により形成される形状モデルMref1に一致もしくは最も類似するグラフ構造を構成する対応点として候補点S11,S15,S17,S19が選択され、それらの対応点間を接続してグラフ構造Ms1が形成されることがある。しかし、このグラフ構造Ms1では、構造物の分枝点に位置する教師ラベルT12に対応づけする候補点の選択が不適切であり、対応点間を接続する経路同士が一部重複している。これに対し、適切な対応づけとして、図11Bに示すようなグラフ構造Ms1′を形成することが望まれる
【0008】
また、たとえば、図12Aに示すように、画像データから複数の候補点S21〜S27が抽出されているときに、教師ラベルT21〜T23により形成される形状モデルMref2に一致もしくは最も類似するグラフ構造を形成する対応点として候補点S21,S26,S27が選択され、それらの対応点間を接続してグラフ構造Ms2が形成されることがある。しかし、このグラフ構造Ms2では、構造物の分枝点に位置する教師ラベルT11に対応づけする候補点の選択が不適切であり、対応点間を接続する経路同士が重複している。これに対し、適切な対応づけとして、図12Bに示すようなグラフ構造Ms2′を形成することが望まれる。
【0009】
そこで、本発明は、画像データから抽出した候補点を形状モデルのノードにより的確に対応づけすることができる画像処理装置および方法ならびにプログラムを提供することを目的とするものである。
【課題を解決するための手段】
【0010】
本発明の画像処理装置は、画像データから所定の構造物に属する複数の候補点を抽出する候補点抽出手段と、前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルが記憶された形状モデル記憶手段と、下記(a)〜(c)の制約条件の下で、前記候補点抽出手段により抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する対応点選択手段とを備えたことを特徴とするものである。
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路に含まれるか、または前記決定されたいずれの経路に含まれないこと
【0011】
本発明の画像処理方法は、画像データから所定の構造物に属する複数の候補点を抽出し、形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、上記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択し、前記選択された複数の対応点を用いて前記画像データから前記所定の構造物を検出することを特徴とするものである。
【0012】
本発明の画像処理プログラムは、上記画像処理方法を少なくとも1台のコンピュータに実行させるプログラムである。このプログラムは、CD−ROM,DVDなどの記録メディアに記録され、またはサーバコンピュータに付属するストレージやネットワークストレージにダウンロード可能な状態で記録されて、ユーザに提供される。
【0013】
ここで、所定の構造物は、点とそれを結ぶ線とによりグラフ構造化可能なオブジェクトであればなんでもよく、特に、気管、腸、冠動脈、脳血管、肺血管、肝臓血管、気管支等の人体の管状構造物や人物の顔等を含む。
【0014】
画像データは、たとえばCT、MR、超音波装置、PET―CT、SPECT、4D-CT、OCT、X線撮影装置(CR、DR)により撮像された医用画像データであってもよいし、たとえばボリュームデータ等の3次元画像データであってもよいし、デジタルカメラ等により撮影された画像データであってもよい。
【0015】
形状モデルは、所定の構造物の既知の形状、言い換えると、所定の構造物の検出されるべき(検出したい)形状を表すものである。例えば、形状モデルは、所定の構造物の一般的な解剖学的形状や、正常な状態にある所定の構造物の解剖学的形状を表すものである。
【0016】
また、上記(c)の制約条件における前記経路は、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定することができる。
【0017】
また、上記本発明の画像処理装置および方法ならびにプログラムにおいて、対応点の選択処理は、前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、下記式(2)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであってもよい。
【数2】
【0018】
ここで、xSpTq(xSp′Tq、xSp″Tq)は、候補点Sp(Sp′、Sp″)と教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。ySpSp′Sp″は、候補点Spが集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【0019】
この式(2)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式の左辺は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和を意味し、右側の不等式の左辺の第1項は、前記任意の候補点Spと前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和を意味する。また、右側の不等式の左辺の第2項におけるΣxSp′Tqは、候補点Sp′と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp′Tqの総和を意味し、ΣxSp″Tqは、候補点Sp″と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp″Tqの総和を意味する。
【0020】
対応点の選択処理は、前記ベクトルxを変数とする下記式(3)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであってもよい。
【数3】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【0021】
候補点の抽出処理は、画像データから所定の構造物の画像的特徴および/または構造的特徴を有する領域を検出し、検出された領域から複数の候補点を抽出する処理であってもよい。
【0022】
対応点の選択処理は、複数の候補点のうち形状モデルに一致もしくは最も類似する対応点を選択するものであればその手法を問わず、たとえばグラフマッチングにより形状モデルに一致もしくは最も類似するグラフ構造となる対応点の集合を選択するものであってもよい。
【0023】
さらに、形状モデル記憶手段は、所定の構造物であることが既知の教師画像データを用いて学習された、複数の候補点が形状モデルであることの尤度を示す評価関数を記憶したものであってもよい。このとき、対応点の選択処理では評価関数を用いて対応点を選択する。
【0024】
上記本発明の画像処理装置は、対応点の選択処理により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、画像データから所定の構造物を検出する構造物検出手段をさらに備えたものであってもよい。
【0025】
対応点選択手段は、前記経路を、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定するものであってもよい。
【発明の効果】
【0026】
本発明の画像処理装置および方法ならびにプログラムによれば、画像データから所定の構造物に属する複数の候補点を抽出し、形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、上記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から教師ラベルに対応する対応点を選択しているので、図11Aのグラフ構造Ms1や図12Aのグラフ構造Ms2に示すような、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、上記従来の方法に比べて、画像データから抽出した候補点を形状モデルの教師ラベル(ノード)により的確に対応づけすることができる。
【0027】
また、対応点の選択処理が、前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、上記式(2)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであれば、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、画像データから抽出した候補点を形状モデルの教師ラベルにより的確に対応づけすることができる。
【0028】
また、対応点の選択処理が、前記ベクトルxを変数とする上記式(3)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであるとき、高速に精度良く対応点を選択することができる。
【0029】
さらに、対応点の選択処理により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、画像データから所定の構造物を検出するようにした場合には、画像データから所定の構造物を精度良く検出することができる。
【図面の簡単な説明】
【0030】
【図1】構造物検出装置の概略構成を示すブロック図
【図2】候補領域検出手段において所定の構造物として検出される冠動脈の一例を示す模式図
【図3】候補点抽出手段において候補領域から候補点が抽出される様子を示す模式図
【図4】対応点選択手段において所定の対応点が選択される様子を示す模式図
【図5A】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図5B】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図6】対応点(教師ラベル)を結ぶことにより形成されるグラフ(エッジ)の一例を示す模式図
【図7】対応点選択手段において対応点を選択する様子を示す模式図
【図8】構造物検出装置によって構造物を検出する処理の流れを示すフローチャート
【図9A】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図9B】形状モデル記憶手段における設定モデルを学習する際の教師データの一例を示す模式図
【図10】対応点(教師ラベル)を結ぶことにより形成されるグラフ(エッジ)の一例を示す模式図
【図11A】従来の方法により形成されたグラフ構造の一例を示す模式図
【図11B】図11Aにおいて本来形成されるべきグラフ構造を示す模式図
【図12A】従来の方法により形成されたグラフ構造の一例を示す模式図
【図12B】図12Aにおいて本来形成されるべきグラフ構造を示す模式図
【発明を実施するための形態】
【0031】
以下、図面を参照して本発明の一実施の形態について説明する。図1は、構造物検出装置1の概略構成を示すブロック図である。なお、図1のような構造物検出装置1の構成は、補助記憶装置に読み込まれた構造物検出プログラムをコンピュータ上で実行することにより実現される。このとき、この構造物検出プログラムは、CD−ROM等の記憶媒体に記憶され、もしくはインターネット等のネットワークを介して配布され、コンピュータにインストールされる。図1の構造物検出装置1は、画像データからたとえば冠動脈等の構造物Mを検出するものであって、候補領域検出手段10、候補点抽出手段20、正規化手段30、対応点選択手段40、構造物検出手段50を備えている。
【0032】
候補領域検出手段10は、画像データにおいて所定の構造物Mの一部を構成するか否かを判断することにより候補領域Rcを検出するものである。なお、画像データDVは、データ記憶手段VDBに記憶されたたとえば撮影装置もしくは放射線検出装置により撮像された2次元の画像もしくは複数の2次元画像から生成された3次元のボリュームデータからなっている。
【0033】
ここで、候補領域検出手段10はたとえば特願2009−48679号もしくは特願2009−69895号に開示された手法やその他公知の技術により候補領域を検出する。一例として、所定の構造物Mが図2に示すような心臓の冠動脈であり、ボリュームデータから候補領域Rcを検出する場合について説明する。
【0034】
まず、候補領域検出手段10は、ボリュームデータDVを構成するボクセルデータの値に基づいて、冠動脈の芯線を構成する複数の候補点の位置と主軸方向とを算出する。あるいは、候補領域検出手段10が、ボリュームデータDVについてヘッセ行列を算出し、算出されたヘッセ行列の固有値を解析することにより、冠動脈の芯線を構成する複数の候補点の位置情報と主軸方向とを算出するようにしてもよい。そして、候補領域検出手段10は、候補点周辺のボクセルデータについて冠動脈らしさを表す特徴量を算出し、算出した特徴量に基づいてそのボクセルデータが冠動脈領域を表すものであるか否かを判別する。なお、特徴量に基づく判別は、たとえばマシンラーニングにより予め取得された評価関数に基づいて行なう。これにより、画像データのうち冠動脈領域であると判断された画像データDVが候補領域Rcとして抽出される。
【0035】
図1の候補点抽出手段20は、候補領域検出手段10において検出された候補領域Rcから複数の候補点Sp(p=1〜n:nは候補点の抽出数)を抽出するものである。図3は候補領域Rcから候補点Spを抽出する様子を示す模式図である。図3において、候補点抽出手段20は、候補領域Rc内から複数の(第1次)候補点Sp0を抽出し、抽出した複数の(第1次)候補点Sp0を連結する。ここで、連結方法として最小全域木アルゴリズムを用いれば、すべての(第1次)候補点Sp0を最小のコストで連結することができる。なお、このコストには、各(第1次)候補点Sp0間の距離等を用いることができる。(第1次)候補点Sp0間の距離を用いる場合、その距離が大きいほどコストが大きいと定義すればよい。そして、候補点抽出手段20は複数の(第1次)候補点Sp0を所定の長さ単位毎に分割し(セグメント化)、分割した際の分割点を(第2次)候補点Spとして選択する。そして、候補点抽出手段20は各(第2次)候補点に対しラベルSpを付与する。なお、候補点抽出手段20が、(第1次)候補点Sp0から(第2次)候補点Spを再設定する場合について例示しているが、(第1次)候補点Sp0を用いて後述のグラフ構造Msの検出を行うようにしてもよい。このとき、候補領域検出手段10が候補点抽出手段20として機能していることになる。
【0036】
図1の正規化手段30は、候補点抽出手段20により抽出された複数の候補点Spの座標を所定の基準位置Srefに基づいて正規化するものである。たとえば所定の構造物が冠動脈である場合、正規化手段30は図2に示す大動脈弁、僧帽弁、心尖部を検出して基準位置Srefとして設定し、心尖部を原点、心尖部から大動脈弁に向かう軸をZ軸、心尖部から僧帽弁に向かうベクトルとZ軸との外積をX軸、X軸とZ軸との外積をY軸とし、心尖部から大動脈弁までの長さを1とする新たな座標系で、各候補点Spの位置を表現する。大動脈弁、僧帽弁、心尖部は個体差によるばらつきが少なく、基準位置Srefを用いて正規化することにより候補点Spの個体差によるばらつきを抑えることができる。
【0037】
図1の対応点選択手段40は、正規化手段30により正規化された複数の候補点Spのうち、形状モデル記憶手段DBに記憶された形状モデルMrefに一致もしくは最も類似するグラフ構造Msを構成する対応点を選択し、選択した複数の対応点を形状モデルMrefに略一致するように接続しグラフ構造Msを形成する。たとえば図4に示すように、候補点抽出手段20により複数の候補点Sp(p=1〜8)が抽出され、形状モデル記憶手段DBに所定の接続関係を有する4つの教師ラベルTq(q=1〜4)により形成される形状モデルMrefが記憶されているものとする。このとき、対応点選択手段40は、形状モデルMrefに一致もしくは最も類似するグラフ構造を形成する対応点(T1はS2、T2はS4、T3はS6、T4はS7)を選択しグラフ構造Msを形成する。
【0038】
ここで、対応点選択手段40はグラフマッチングにより複数の対応点を選択するものであり、形状モデル記憶手段DBにはグラフマッチングにおけるエネルギ関数Eが形状モデルMrefとして記憶されている。そこで、対応点選択手段40は、下記式(4)の制約条件を満たす解候補の集合C´から、エネルギ関数Eの最小化を達成する最適解を求める。
【数4】
【0039】
ここで、Pは候補点Spの集合を表し、Qは教師ラベルTqの集合を表す。xSpTq(xSp′Tq、xSp″Tq)は、候補点Sp(Sp′、Sp″)と教師ラベルTqの対応関係を表す2値の変数であって、両者が対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する。xは変数xSpTqを要素とするP×Q次元のベクトルである。
【0040】
この式(4)において、許容解xの制約条件は2つの不等式で構成されており、左側の不等式は、任意の教師ラベルTqと集合Pに属する全ての候補点Spの各々との関係で取得された変数xSpTqの総和が1以下であることを表す。これは教師ラベルの各々が、全ての候補点のうちいずれか1つにのみ対応づけられるか、または候補点のいずれにも対応づけられないことを意味する。
【0041】
右側の不等式の左辺の第1項は、任意の候補点Spと前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSpTqの総和であって、対象の候補点pがいずれの教師ラベルqに対応付けられている場合には1となり、いずれの教師ラベルqにも対応付けられていない場合には0となる。
【0042】
右側の不等式の左辺の第2項は、ySpSp′Sp″、ΣxSp′TqおよびΣxSp″Tqから構成されている。ここで、ySpSp′Sp″は、候補点Sp′と候補点Sp″の間の経路を、教師ラベルに対応づけられていない候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定したときに、候補点Spがそれらの候補点Sp′とSp″の間の経路の決定において選択されている場合には1の値を有し、選択されていない場合には0の値を有する2値の変数である。ΣxSp′Tqは、候補点Sp′と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp′Tqの総和であり、候補点Sp′がいずれの教師ラベルTqに対応付けられている場合には1となり、いずれの教師ラベルTqにも対応付けられていない場合には0となる。また、ΣxSp″Tqは、候補点Sp″と前記集合Qに属する全ての教師ラベルTqの各々との関係で取得された変数xSp″Tqの総和であり、候補点Sp″がいずれの教師ラベルTqに対応付けられている場合には1となり、いずれの教師ラベルTqにも対応付けられていない場合には0となる。
【0043】
また、右側の不等式は、第1項と第2項を足し合わせた全体で1以下であることを要求するので、第1項と第2項はそのいずれか一方が1でもう一方が0であるか、両方とも0であることが要求される。すなわち、第1項が1の値を有するときに、第2項が1の値を有するような解は除外されることとなる。これは、候補点Spの各々が、全ての教師ラベルTqのうちいずれか1つにのみ対応づけられるか、または教師ラベルTqのいずれにも対応づけられないこと、および、教師ラベルに対応づけられた2つの候補点Sp′と候補点Sp″間の経路を、教師ラベルに対応づけられていない候補点を所定の指標値に基づくコストが最小となるように選択的に辿ることによって決定したときに、教師ラベルに対応づけられていない候補点Spの各々が、その決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または決定されたいずれの経路にも含まれないことを意味する。
【0044】
エネルギ関数Eは、ベクトルxを変数とする下記式(5)で表すことができる。
【数5】
【0045】
ここで、Rは許容解xにおける候補点と教師ラベルの対応づけの集合を表す。θaは集合Rに属する任意の対応づけa(候補点Sp′と教師ラベルTq′)に対するコストであり、下記(6)で表すことができる。
【数6】
【0046】
上記式(6)において、LTq′(CSp′)は教師ラベルTq′が候補点Sp′に対応づけられる確率を表し、その分布はガウス関数で近似され、下記式(7)で表すことができる。ここで、CSpは候補点Sp′の座標を表し、μTq′およびσTq′2はそれぞれ所定の構造物Mであることが既知の複数の教師データから取得した教師ラベルTq′の平均座標および分散値である。これにより、LTq′(CSp′)の値は、候補点Sp′の座標がある教師ラベルTq′の座標から離れるほど小さくなり、近づくほど大きくなる。
【数7】
【0047】
なお、図5A、図5Bに示すような予め所定の構造物Mであることが既知の教師データから複数の教師ラベルTq(たとえばq=1〜26)が抽出される。なお、図5A、図5Bにおいて教師ラベルT1〜T20は所定の構造物Mである冠動脈から抽出したものであり、教師ラベルT21〜T26は冠静脈から抽出したものである。そして、図6に示すように、教師ラベルT1〜T26のうち所定のラベル同士をエッジ(線)により結ぶことにより形状モデル(グラフ)Mrefが形成される。この教師ラベルTq′の抽出が複数の教師データについて行われる。そして、各教師データの教師ラベルTq′について平均座標μTq′および分散値σTq′2が算出され、教師ラベルTq′毎に式(7)に示す確率密度関数LTq′(CSp′)が導出される。
【0048】
一方、式(5)中のθabは、集合Rに属する2つの対応づけaとb(a:候補点Sp′と教師ラベルTq′の対応づけ、b:候補点Sp″と教師ラベルTq″の対応づけ)の組み合わせに対するコストであり、下記式(8)で表すことができる。なお、ここではマッチングのコストθabに、Sp′とSp″の間をコストの和が最小になるように辿って経路を求めた結果、得られたコストの和をそのまま利用している。しかし、求まった経路に関する別の評価値をマッチングのコストに用いてもよい。例えば、その経路上に位置する画素の輝度の平均や分散、その経路上の各位置における構造物Mの半径の平均や分散、その経路全体の長さなどの評価値を利用することができる。
【数8】
【0049】
ここで、LTq′Tq″(CSp′CSp″)は、教師ラベルのペア(Tq′,Tq″)が候補点のペア(Sp′,Sp″)に対応づけられる確率を表し、下記式(9)で表すことができる。ここで、(CSp′−CSp″)は候補点Sp′に対する候補点Sp″の相対座標であり、μTq′Tq″およびσTq′Tq″2はそれぞれ所定の構造物Mであることが既知の複数の教師データから取得した教師ラベルTqに対する教師ラベルTq′の相対座標の平均値および分散値である(図7参照)。
【数9】
【0050】
また、式(8)の第2項中のelocalは、教師ラベルに対応づけられた候補点Sp′とSp″の間を他の候補点を辿ることによって接続する場合における、直接接続される2つの他の候補点Si、Sjの接続に対するコストを表すものであり、例えば、2点Si、Sjの距離が近いほど、あるいは、輝度値の差が小さいほど、あるいは、血管の太さの差が小さいほど、小さい値を持つように定義しておくことができる。Σelocalは、候補点Sp′とSp″の間の経路上の、直接接続される2つの候補点のすべてについてのelocalの総和であり、minΣelocalは、例えば、各候補点を、各候補点間を結ぶ辺(エッジ)に対して上記elocalで定義された重みを持たせたグラフ構造として取り扱い、ダイクストラ法等を用いて、候補点Sp′とSp″の間の最適経路を算出することにより求めることができる。
【0051】
また、対応点選択手段40は、Σelocalが最小値となるときの候補点Sp′とSp″の間の候補点の接続経路を構造物検出装置1の所定のメモリ領域に記憶しておく。これにより、候補点Sp′とSp″の間の様々な候補点の接続経路の中から、候補点Sp′とSp″を他の候補点を経由して滑らかに結ばれるように接続する最適経路が決定される。
【0052】
対応点選択手段40は、上述の制約条件付きエネルギ関数Eの最小化問題をDual Decomposition (DD)法を用いて解く(最適解を求める)。DD法とは解きたい主問題を計算可能な複数のサブ問題に分割するものである。主問題は下記式(10)で表す条件を満たせば凸結合となる。ここでθは主問題のエネルギ関数を表すベクトルであり、各サブ問題はベクトルθσ(σ∈I)で表されている。ρσは正の値をもつ重み係数であり、I はサブ問題のインデックスである。
【数10】
【0053】
そして、サブ問題から定義される、下記式(11)で表す下界関数Ф(θ)は凸関数であるから、projected subgradient methodによって最大化することができる。下界値は主問題の解(上界値)以下という関係が成り立つため、下界値が上界値と一致したとき主問題の最小解が得られる。
【数11】
【0054】
ここで、サブ問題への分割は次のように行なう。それぞれのノードについて、そのノードとエッジで接続された近傍ノードのみを考慮する一つのサブ問題を生成する。それぞれのサブ問題は考慮しないノードに関するコストθaとθabは無視する(0として扱う)。サブ問題が十分に小さければ、その解は全組み合わせを探索しても計算できる。また分岐限定法(branch-and-bound method)を用いればより高速に解を得ることができる。分岐限定法を用いる場合、まず緩和下界(relaxed lower bound)を設定する。ここでは緩和下界を、あるノードがuniqueness constraintの条件なしに取る可能性がある最小のコストと定義する。この緩和下界を参照しながら、解が改善する可能性のない組み合わせの詳細な計算を省けば、計算量を大幅に減らすことができる。
【0055】
なお、対応点選択手段40は、上記エネルギ関数Eの最小化問題をループ有り確率伝播法を用いて解くこともできる。また、式(5)においてはエネルギ関数Eを最小化したが、1変数項および2変数項にマイナスを乗算し、エネルギ関数Eの評価値を大きくするようにしてもよい。
【0056】
図1の構造物検出手段50は、対応点選択手段40によって選択された対応点、および、直接接続されている対応点間を他の候補点で結んだ最適経路に基づいて構造物Mを検出する。なお、この最適経路は、対応点選択手段40においてminΣelocalの算出時に既に算出済みで、構造物検出装置1の所定のメモリ領域に記憶されている。
【0057】
ここで、形状モデルMrefが検出対象の構造物M全体を表すものではない場合には、構造物検出手段50は、上記の対応点間の最適経路に用いられなかった候補点について、最小全域木アルゴリズムを用いて接続することによって、構造物M全体を検出する。このとき、候補点間の距離が所定の値以上に離れているところは、候補点間の接続を行わないようにし、最終的に形状モデルMrefに基づいて検出された構造物Mの部分と接続されなかった候補点群は、構造物Mには属さないものとして取り扱う。逆に、形状モデルMrefが検出対象の構造物M全体を表すものである場合には、上記の対応点間の最適経路に用いられなかった候補点は、検出対象の構造物Mに属さない余剰領域(例えば肺血管や心筋等)のものであるから、接続処理を行う必要はない。
【0058】
図8は構造物検出装置によって構造物を検出する処理の流れを示すフローチャートである。図8に示すように、まず、候補領域検出手段10において画像データDVから候補領域Rcが検出され(ステップST1、図2参照)、候補点抽出手段20により候補領域Rcから複数の(第1次)候補点Sp0が抽出され、セグメント化により(第2次)候補点Spが抽出される(ステップST2、図3参照)。その後、正規化手段30により正規化が行われた後、対応点選択手段40において式(5)により複数の候補点Spから形状モデルMrefに最も類似するグラフ構造Msを形成する対応点の集合が選択される(ステップST3、図4参照)。そして、構造物検出手段50において、選択された対応点間を他の候補点で結んだ最適経路に基づいて構造物Mが検出される(ステップST4)。
【0059】
以上に説明したとおり、本実施形態の構造物検出装置および方法ならびにプログラムによれば、画像データDVから前記所定の構造物Mに属する複数の候補点を抽出し、上記(a)〜(c)の制約条件の下で、抽出された複数の候補点のうち、形状モデル記憶手段DBに予め記憶された構造物Mの既知の形状を表す、所定の接続関係を有する複数の教師ラベルTqから構成される形状モデルMrefに一致もしくは最も類似するグラフ構造Msを構成する対応点を選択し、選択された複数の対応点を用いて画像データDVから構造物Mを検出することにより、画像データDVから構造物Mを精度よく検出することができる。特に、上記(c)の制約条件を設けていることにより、図11Aのグラフ構造Ms1や図12Aのグラフ構造Ms2に示すような、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、特許文献1等に記載されている従来の方法に比べて、構造物Mの検出精度を向上させることができる。
【0060】
また、対応点選択手段40が、集合Pに属する任意の候補点Spおよび前記集合Qに属する任意の教師ラベルTqが上記式(4)を満たすという制約条件の下で、対応点を選択するものであるとき、対応点間を接続する経路同士が重複する候補点と教師ラベルの対応づけを除外することができ、画像データDVから精度良く構造物Mを検出することができる。
【0061】
なお、上記実施の形態では、本発明の画像処理装置および方法ならびにプログラムを、画像データDVから冠動脈を検出するものに適用した場合について説明したが、たとえば、気管、腸、脳血管、肺血管、肝臓血管、気管支等の抽出に適用することもできる。この場合、脳血管等の他の構造物Mに対する形状モデルが形状モデル記憶手段DBに記憶されており、構造物Mの種類に合った設計形状を用いて対応点を選択する。
【0062】
たとえば、構造物Mが脳血管である場合、図9A、図9Bに示すように、脳血管であることが既知の教師データから複数の教師ラベルTq(たとえばq=1〜25)が抽出される。なお、図9A、図9Bにおいて教師ラベルT1〜T12は所定の構造物Mである動脈から抽出したものであり、教師ラベルT13〜T25は静脈から抽出したものである。そして、図10に示すように、教師ラベルT1〜T25のうち所定のラベル同士をエッジ(線)により結ぶことにより形状モデル(グラフ)Mrefが形成される。
【0063】
また、本発明の画像処理装置および方法ならびにプログラムは、同一の患者を異なるフェーズで撮影した複数の画像について、各々の画像から抽出したグラフ構造同士を対応付けするものに適用することもできる。この場合、いずれか1つのフェーズから抽出したグラフ構造を形状モデルとし、そのグラフ構造を構成するノードが教師ラベルとすればよい。
【0064】
また、上記実施の形態では、正規化手段30と構造物検出手段50を備えたものである場合について例示しているが、これらの構成は必ずしも必要ではなく、必要に応じて設ければよい。
【0065】
また、構造物検出装置1は、複数の異なるサブ構造物(たとえば、動脈と静脈)が含まれている所定の構造物Mを形状モデルMrefとした場合、異なるサブ構造物毎にそれぞれ異なる色で表示する表示制御手段をさらに備えたものであってもよい。
【0066】
また、対応点選択手段40は、所定の構造物が血管である場合に候補点の座標とともに候補点における血管半径または輝度値を用いて対応点を選択するものであってもよい。
【符号の説明】
【0067】
1 構造物検出装置
10 候補領域検出手段(候補点抽出手段)
20 候補点抽出手段
30 正規化手段
40 対応点選択手段
50 構造物検出手段
DB 形状モデル記憶手段
DV 画像データ
M 構造物
Mref 形状モデル
Ms グラフ構造
Rc 候補領域
Sp0 (第1次)候補点
Sp (第2次)候補点
Sref 基準位置
Tq 教師ラベル
【特許請求の範囲】
【請求項1】
画像データから所定の構造物に属する複数の候補点を抽出する候補点抽出手段と、
前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルが記憶された形状モデル記憶手段と、
下記(a)〜(c)の制約条件の下で、前記候補点抽出手段により抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する対応点選択手段と
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
を備えたことを特徴とする画像処理装置。
【請求項2】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点選択手段が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項1記載の画像処理装置。
【数1】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項3】
前記対応点選択手段が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項1または2記載の画像処理装置。
【数2】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【請求項4】
前記対応点選択手段により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、前記画像データから前記所定の構造物を検出する構造物検出手段を備えたことを特徴とする請求項1から3のいずれか1項記載の画像処理装置。
【請求項5】
前記対応点選択手段が、前記経路を、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定するものであることを特徴とする請求項1から4のいずれか1項記載の画像処理装置。
【請求項6】
画像データから所定の構造物に属する複数の候補点を抽出し、
形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、
下記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
ことを特徴とする画像処理方法。
【請求項7】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点の選択処理が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項6記載の画像処理方法。
【数3】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項8】
前記対応点の選択処理が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項6または7記載の画像処理方法。
【数4】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【請求項9】
コンピュータに、
画像データから所定の構造物に属する複数の候補点を抽出する手順と、
形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得する手順と、
下記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する手順と、
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路の決定にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
を実行させるためのものであることを特徴とする画像処理プログラム。
【請求項10】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点を選択する手順が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項9記載の画像処理プログラム。
【数5】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項11】
前記対応点を選択する手順が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項9または10記載の画像処理プログラム。
【数6】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【請求項1】
画像データから所定の構造物に属する複数の候補点を抽出する候補点抽出手段と、
前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルが記憶された形状モデル記憶手段と、
下記(a)〜(c)の制約条件の下で、前記候補点抽出手段により抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する対応点選択手段と
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
を備えたことを特徴とする画像処理装置。
【請求項2】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点選択手段が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項1記載の画像処理装置。
【数1】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項3】
前記対応点選択手段が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項1または2記載の画像処理装置。
【数2】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【請求項4】
前記対応点選択手段により選択された複数の対応点および前記決定された前記対応点間の経路に基づいて、前記画像データから前記所定の構造物を検出する構造物検出手段を備えたことを特徴とする請求項1から3のいずれか1項記載の画像処理装置。
【請求項5】
前記対応点選択手段が、前記経路を、所定の指標値に基づくコストが最小となるように前記候補点を選択的に辿ることによって決定するものであることを特徴とする請求項1から4のいずれか1項記載の画像処理装置。
【請求項6】
画像データから所定の構造物に属する複数の候補点を抽出し、
形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得し、
下記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
ことを特徴とする画像処理方法。
【請求項7】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点の選択処理が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項6記載の画像処理方法。
【数3】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項8】
前記対応点の選択処理が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項6または7記載の画像処理方法。
【数4】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【請求項9】
コンピュータに、
画像データから所定の構造物に属する複数の候補点を抽出する手順と、
形状モデル記憶手段に予め記憶された前記所定の構造物の既知の形状を表す、所定の接続関係を有する複数の教師ラベルから構成される形状モデルを取得する手順と、
下記(a)〜(c)の制約条件の下で、前記抽出された複数の候補点の中から前記教師ラベルに対応する対応点を選択する手順と、
(a)前記教師ラベルの各々が、全ての前記候補点のうちいずれか1つにのみ対応づけられるか、または前記候補点のいずれにも対応づけられないこと
(b)前記候補点の各々が、全ての前記教師ラベルのうちいずれか1つにのみ対応づけられるか、または前記教師ラベルのいずれにも対応づけられないこと
(c)互いに接続される2つの前記教師ラベル毎に、該2つの教師ラベルの各々に対応づけられた2つの前記候補点間の経路を決定したときに、前記教師ラベルに対応づけられていない候補点の各々が、前記決定された全ての経路のうちいずれか1つの経路の決定にのみ含まれるか、または前記決定されたいずれの経路にも含まれないこと
を実行させるためのものであることを特徴とする画像処理プログラム。
【請求項10】
前記複数の候補点の集合をPとし、前記複数の教師ラベルの集合をQとし、前記複数の候補点と前記複数の教師ラベルとの対応関係をP×Qの要素を持つベクトルxで表したとき、
前記対応点を選択する手順が、下記式(1)の制約条件を満たす解候補集合Cから、前記対応関係を選択するものであることを特徴とする請求項9記載の画像処理プログラム。
【数5】
ここで、前記xSpTqは、特定の前記候補点Spと特定の前記教師ラベルTqとが対応づけられている場合には1の値を有し、対応づけられていない場合には0の値を有する2値の変数であり、前記ySpSp′Sp″は、特定の前記候補点Spが前記集合Pに属している他の2つの候補点Sp′とSp″の間の経路に含まれる場合には1の値を有し、含まれない場合には0の値を有する2値の変数である。
【請求項11】
前記対応点を選択する手順が、前記ベクトルxを変数とする下記式(2)のエネルギ関数EをDual Decomposition法を用いて最小化することによって、前記対応点を選択するものであることを特徴とする請求項9または10記載の画像処理プログラム。
【数6】
ここで、a,b(≠a)は、前記ベクトルxで表された対応関係における、前記候補点と前記教師ラベルの個々の対応づけを表すものであり(a,b∈R⊆P×Q)、θaは対応付けa∈Rに対するコストであり、θabは対応付けaとbの組み合わせ(a,b)∈R×Rに対するコストである。
【図1】
【図2】
【図3】
【図4】
【図5A】
【図5B】
【図6】
【図7】
【図8】
【図9A】
【図9B】
【図10】
【図11A】
【図11B】
【図12A】
【図12B】
【図2】
【図3】
【図4】
【図5A】
【図5B】
【図6】
【図7】
【図8】
【図9A】
【図9B】
【図10】
【図11A】
【図11B】
【図12A】
【図12B】
【公開番号】特開2013−66667(P2013−66667A)
【公開日】平成25年4月18日(2013.4.18)
【国際特許分類】
【出願番号】特願2011−209246(P2011−209246)
【出願日】平成23年9月26日(2011.9.26)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成25年4月18日(2013.4.18)
【国際特許分類】
【出願日】平成23年9月26日(2011.9.26)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]