説明

画像処理装置、画像処理方法、及び画像処理プログラム

【課題】画像から検出された注目領域が優先的に観察すべきものであるか否かを分類することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供する。
【解決手段】画像処理装置は、画像内に含まれる注目領域を複数の分類項目に分類する画像処理装置において、注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出部110と、初期領域を拡張することにより拡張領域を検出する拡張領域検出120と、初期領域及び拡張領域の特徴量を算出し、該特徴量に基づいて注目領域が複数の分類項目の内のいずれに相当するかを判定する領域判定部130とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、生体を撮像した画像に対して画像処理を施す画像処理装置、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
近年、患者の管腔内を非侵襲に観察可能な医用観察装置として、内視鏡が広く普及している。最近では、被検体内に導入され、蠕動運動により管腔内を進行しつつ撮像を行うカプセル型内視鏡も浸透してきている。
【0003】
一方、このような医用観察装置を用いた診断は、ユーザ(医師等)にとっては多くの経験が必要とされると共に、負担の大きい作業でもある。特に、カプセル型内視鏡を用いた検査においては、例えば8時間程度に渡って数万枚の管腔内画像が取得されるため、大量の管腔内画像から病変部等を識別する作業は非常に困難である。このため、診断を補助する様々な医療診断支援機能が望まれており、支援機能を実現する画像認識技術の1つとして、管腔内画像から自動的に異常部(注目領域)を検出し、重点的に診断すべき画像を示す技術が提案されている。
【0004】
例えば、特許文献1には、入力された画像における色調に基づく特徴量を算出し、この特徴量に基づいて上記画像における異常所見領域を決定する画像処理方法が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−192880号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、管腔内画像から検出された異常部は、周囲と何らかの特性が異なるために検出された部分であり、必ずしも病変部であるとは限らない。このため、異常部には、医師が診断時に優先的に確認すべきものとそうでないものが存在する。このような優先度を判断する際の異常部の分類にあたっては、例えば異常部の面積や色の濃淡が一つの指針とされている。しかしながら、従来の画像処理装置を用いた異常部の検出方法においては、画像内に映った異常部内部の一部しか検出されない場合があるため、画像処理装置は、検出された部分のみの情報では、当該異常部を優先的にユーザが確認すべきか否かを判定してユーザに対して表示することができず、ユーザは基本的に検出された全ての異常部を確認することが求められていた。
【0007】
本発明は、上記に鑑みて為されたものであって、画像から検出された注目領域が優先的に確認すべきものであるか否かを判定することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、画像内に含まれる注目領域を複数の分類項目に分類する画像処理装置において、前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出手段と、前記初期領域を拡張することにより拡張領域を検出する拡張領域検出手段と、前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定手段とを備えることを特徴とする。
【0009】
本発明に係る画像処理方法は、画像内に含まれる注目領域を複数の分類項目に分類する画像処理方法において、前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出ステップと、前記初期領域を拡張することにより拡張領域を検出する拡張領域検出ステップと、前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定ステップとを含むことを特徴とする。
【0010】
本発明に係る画像処理プログラムは、画像内に含まれる注目領域を複数の分類項目に分類する処理をコンピュータに実行させる画像処理プログラムにおいて、前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出ステップと、前記初期領域を拡張することにより拡張領域を検出する拡張領域検出ステップと、前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定ステップとを含むことを特徴とする。
【発明の効果】
【0011】
本発明によれば、画像内に含まれる注目領域の少なくとも一部を検出して初期領域として設定すると共に、該初期領域を拡張した拡張領域を検出し、初期領域及び拡張領域の特徴量に基づいて、上記異常部を含む注目領域が複数の分類項目のいずれかに相当するかを判別するので、ユーザは、当該注目領域が優先的に観察すべきものであるか否かを容易に判断することが可能となる。
【図面の簡単な説明】
【0012】
【図1】図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。
【図2】図2は、異常部の分類項目と確認優先度との関係を示す表である。
【図3】図3は、図1に示す画像処理装置の動作を示すフローチャートである。
【図4】図4は、図1に示す初期領域検出部が実行する詳細な処理を示すフローチャートである。
【図5】図5は、管腔内画像から検出された初期領域を拡張する概念を模式的に示す図である。
【図6】図6は、図1に示す拡張領域検出部が実行する詳細な処理を示すフローチャートである。
【図7】図7は、図1に示す領域判定部が実行する詳細な処理を示すフローチャートである。
【図8】図8(a)は、拡張領域が異常部の内部に留まっている場合を示す模式図であり、図8(b)は、その際の色特徴量の変化を示すグラフである。
【図9】図9(a)は、拡張領域が異常部を超えて拡張した場合を示す模式図であり、図9(b)は、その際の色特徴量の変化を示すグラフである。
【図10】図10は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。
【図11】図11は、図10に示す拡張領域検出部が実行する詳細な処理を示す模式図である。
【図12】図12は、本発明の実施の形態3に係る画像処理装置の構成を示すブロック図である。
【図13】図13は、図12に示す領域判定部が実行する詳細な処理を示すブロック図である。
【図14】図14(a)は、拡張領域が異常部の内部に留まっている場合を示す模式図であり、図14(b)は、その際の色特徴量の変化を示すグラフである。
【図15】図15(a)は、拡張領域が異常部を超えて拡張した場合を示す模式図であり、図15(b)は、その際の色特徴量の変化を示すグラフである。
【発明を実施するための形態】
【0013】
以下、本発明の実施の形態に係る画像処理装置について、図面を参照しながら説明する。なお、これら実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
【0014】
以下の実施の形態においては、一例として、カプセル内視鏡等の医用観察装置を用いて被検体の管腔内を撮像することにより取得された管腔内画像(以下、単に画像ともいう)に対する処理を説明する。この管腔内画像は、例えば、各画素位置においてR(赤)、G(緑)、B(青)の各色成分に対する画素レベル(画素値)を持つカラー画像である。
なお、本発明は、管腔内画像に限定されることなく、他の一般的な画像取得装置によって取得された画像に対して広く適用することができる。
【0015】
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。図1に示す画像処理装置1は、画像処理装置1全体の動作を制御する制御部10と、カプセル内視鏡等の医用観察装置によって撮像された一連の画像に対応する画像データを取得する画像取得部20と、外部から入力される入力信号を受け付ける入力部30と、各種表示を行う表示部40と、画像取得部20によって取得された画像データや種々のプログラムを格納する記録部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
【0016】
制御部10は、CPU等のハードウェアによって実現され、記録部50に格納された各種プログラムを読み込むことにより、画像取得部20から入力される画像データや入力部30から入力される操作信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
【0017】
画像取得部20は、医用観察装置を含むシステムの態様に応じて適宜構成される。例えば、医用観察装置がカプセル内視鏡であり、医用観察装置との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、画像取得部20は、この記録媒体を着脱自在に装着し、記録媒体に記録された画像データを読み出すリーダ装置により構成される。また、医用観察装置により撮像された画像の画像データを保存しておくサーバを設置する場合、画像取得部20は、サーバと接続される通信装置等によって構成され、サーバとデータ通信を行うことにより画像データを取得する。或いは、画像取得部20を、内視鏡等の医用観察装置からケーブルを介して画像信号を入力するインターフェース装置等により構成しても良い。
【0018】
入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、受け付けた入力信号を制御部10に出力する。
表示部40は、LCDやELディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
【0019】
記録部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、又は、CD−ROM等の情報記録媒体及びその読取装置等によって実現される。記録部50は、画像取得部20によって取得された画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を格納する。具体的には、記録部50は、管腔内画像から周囲とは何らかの特性が異なる注目領域(以下、異常部という)を検出し、当該異常部が所定の複数の分類項目のいずれに分類されるかを判定する画像処理プログラム51を記録する。
【0020】
図2は、異常部の分類項目と、ユーザが診断の際に確認すべき画像の優先度(確認優先度)との関係を示す表である。ここで、異常部は、一例として、面積の大小及び周囲との色(例えば赤色)の濃度差の大小に基づいて分類することができる。この内、面積の大きい異常部の確認優先度は、濃度差の大小によらず高い。一方、面積の小さい異常部については、濃度差の大きい(周囲よりも著しく色が濃い又は薄い)異常部の確認優先度は高いが、濃度差の小さい異常部の確認優先度は、前者に比べると低い。そこで、本実施の形態においては、管腔内画像から検出された異常部を、面積の大きい異常部、面積が小さく周囲との濃度差の大きい異常部、及び面積が小さく周囲との濃度差の小さい異常部の3項目に分類する。なお、面積の大/小の閾値、及び濃度差の大/小の閾値は、ユーザの経験等に基づいて設定される。
【0021】
演算部100は、CPU等のハードウェアによって実現され、画像処理プログラム51を読み込むことにより、管腔内画像に対応する画像データに画像処理を施し、画像内から検出した異常部を上記3つの分類項目に分類するための種々の演算処理を行う。
【0022】
次に、演算部100の詳細な構成について説明する。
図1に示すように、演算部100は、画像内の異常部に対応する領域を初期領域として検出する初期領域検出部110と、初期領域を拡張することにより拡張領域を検出する拡張領域検出部120と、初期領域及び拡張領域の特徴量に基づいて、上記異常部を含む注目領域が分類項目の何れに相当するかを判定する領域判定部130とを備える。
【0023】
拡張領域検出部120は、初期領域を統合領域の初期状態として設定し、該統合領域に隣接する隣接領域を特定する隣接領域特定部121と、統合領域及び隣接領域の特徴量に基づいて、隣接領域を統合領域に統合するべきか否かを判定する統合判定部122と、統合領域の面積に基づいて、上記隣接領域の上記統合領域への統合を終了するか否かを判定する終了判定部123とを有する。より詳細には、統合判定部122は、統合領域と隣接領域との間のエッジ強度を算出するエッジ強度算出部122a、及び統合領域と隣接領域との間の色特徴量の差分を算出する色特徴量差分算出部122bを含み、エッジ強度及び色特徴量の差分を基に隣接領域を統合領域に統合するべきか否かを判定する。
【0024】
領域判定部130は、初期領域における特徴量(以下、初期領域特徴量という)を算出する初期領域特徴量算出部131と、拡張領域における特徴量(以下、拡張領域特徴量という)を算出する拡張領域特徴量算出部132と、初期領域特徴量と拡張領域特徴量との差分を算出する差分算出部133とを有し、差分算出部133により算出された差分を基に、注目領域が分類項目の何れに相当するかを判定する。この内、初期領域特徴量算出部131は、初期領域における色特徴量の平均値(以下、平均色特徴量ともいう)を算出する平均色特徴量算出部131aを含む。また、拡張領域特徴量算出部132は、拡張領域における色特徴量の平均値(以下、平均色特徴量ともいう)を算出する平均色特徴量算出部132aを含む。
【0025】
次に、図1に示す画像処理装置1の動作について説明する。図3は、画像処理装置1の動作を示すフローチャートである。
まず、ステップS10において、画像取得部20は、医用観察装置によって撮像された一連の管腔内画像の画像データを取得して記録部50に格納する。演算部100は、画像処理を施す画像に対応する画像データを記録部50から順次読み込む。
【0026】
続くステップS11において、初期領域検出部110は、画像から異常部を検出し、検出した異常部を初期領域として設定する。ここで検出される異常部は、画像に映った異常部の全体であっても良いし、画像に映った異常部内部の一部のみであっても構わない。異常部の検出方法として公知の様々な方法を利用することができる。以下においては一例として、管腔内画像に含まれる各画素の特徴量に基づいて異常部を検出する方法を説明する。
【0027】
図4は、ステップS11における詳細な処理を示すフローチャートである。
まず、ステップS110において、初期領域検出部110は、管腔内画像に含まれる各画素の特徴量を取得又は算出する。特徴量としては、各画素のR、G、B成分の値や、これらの成分をもとに2次的に計算される輝度、色差、色相、彩度、明度、色比等の値を用いることができる。本実施の形態1においては、特徴量として色度C=r/(r+g+b)、及びC=g/(r+g+b)を用いる(r、g、bは、それぞれ、画素のR、G、B各成分の値)。ここで、通常、管腔内画像の色調変化は、光の吸収変動、具体的には血液中のヘモグロビンの吸収帯域(波長)に最も依存する。そのため、管腔内画像における粘膜色調が赤色調であれば、前者のCの値が相対的に大となり、後者のCの値が小となる。また、褪色等により粘膜色調が白色調であれば、相対的に後者のCの値が上昇する。
【0028】
続くステップS111において、初期領域検出部110は、各画素を特徴量C及びCを2軸とする特徴空間に投影し、特徴量分布をクラスタリングする。
【0029】
ステップS112において、初期領域検出部110は、クラスタリングの結果生成されたクラスタの内から、異常な色調を反映したクラスタ(異常部クラスタ)を検出する。異常部クラスタの検出は、例えば、各クラスタの重心座標を所定の閾値と比較することにより検出することができる。
【0030】
ステップS113において、初期領域検出部110は、異常部クラスタに含まれる画素からなる画像上の領域を検出し、これを初期領域とする。図5(a)は、画像処理対象の画像G0から検出された初期領域Dを示す模式図である。
なお、異常部の検出方法の詳細については、例えば特開2005−192880号公報を参照されたい。
この後、処理はメインルーチンに戻る。
【0031】
ステップS12において、統合判定部122は、図5(b)に示すように、初期領域Dに対して所定の統合条件に基づき隣接する画素を統合することにより、初期領域Dを拡張した拡張領域Eを検出する。
【0032】
図6は、ステップS12における詳細な処理を示すフローチャートである。
最初に、ステップS120において、拡張領域検出部120は、初期領域Dを統合領域の初期状態として設定する。
【0033】
続いて、拡張領域検出部120は、設定された統合領域に隣接する画素(以下、隣接画素ともいう)の全てに対し、ループAの処理を実行する。
まず、ステップS121において、隣接領域特定部121は、統合領域の隣接画素を探索する。
【0034】
ステップS122において、エッジ強度算出部122aは、探索された隣接画素と統合領域との間のエッジ強度を算出する。実施の形態1においては、隣接画素と、統合領域内の画素であって隣接画素と隣り合う画素とのR成分の値の差分をエッジ強度とする。
【0035】
ステップS123において、色特徴量差分算出部122bは、隣接画素と統合領域との間の色特徴量の差分を算出する。実施の形態1においては、色特徴量としてR成分とG成分の比率であるG/R値を用い、隣接画素のG/R値と、統合領域内に含まれる画素の平均G/R値との差分を算出する。
【0036】
ステップS124において、統合判定部122は、ステップS122において算出されたエッジ強度が所定の閾値Th_edge以下であり、且つ、ステップS123において算出された色特徴量の差分が所定の閾値Th_ch以下であるか否かを判定する。ここで、エッジ強度が閾値Th_edgeより大きくなる状況としては、例えば判定対象である隣接画素と統合領域との間に構造的な境界が存在する場合が考えられる。また、色特徴量の差分が閾値Th_chより大きくなる状況としては、例えば判定対象である隣接画素と統合領域との間に色の濃い領域とそうでない領域との境界が存在する場合が考えられる。ステップS124における判定は、このような構造の境界や色の境界を挟む隣接画素を統合領域に含めないために行われる。
【0037】
エッジ強度及び色特徴量の差分が共に閾値以下であると判定された場合(ステップS124:Yes)、拡張領域検出部120は、判定対象の隣接画素を統合領域に統合して、新たな統合領域を作成する(ステップS125)。
【0038】
ステップS126において、終了判定部123は、統合領域の面積が所定の閾値Th_area以下であるか否かを判定する。この閾値Th_areaは、観察し易い大きさといった観点から、ユーザの経験に基づいて決定される。
【0039】
統合領域の面積が閾値Th_area以下であると判定された場合(ステップS126:Yes)、拡張領域検出部120は、新たな統合領域の隣接画素の内、未だ判定対象になっていない隣接画素に対してループAの処理を繰り返す。
【0040】
一方、統合領域の面積が閾値Th_areaよりも大きいと判定された場合(ステップS126:No)、拡張領域検出部120は、拡張領域の検出処理を終了し、新たに作成した統合領域を拡張領域として設定する(ステップS127)。その後、処理はメインルーチンに戻る。
【0041】
また、ステップS124においてエッジ強度と色特徴量の差分との内のいずれか、又は両方が閾値よりも大きいと判定された場合(ステップS124:No)、拡張領域検出部120は、判定対象である隣接画素は統合せずに、未判定の隣接画素に対してループAの処理を繰り返す。そして、統合領域を囲む全ての隣接画素に対する処理が終了すると、拡張領域の検出処理を終了し、現在の統合領域を拡張領域として設定する(ステップS128)。その後、処理はメインルーチンに戻る。
【0042】
ステップS13において、領域判定部130は、拡張領域Eの面積、並びに初期領域D及び拡張領域Eの色特徴量に基づいて、画像から検出された異常部の分類(図2参照)を判定する。
【0043】
図7は、ステップS13における詳細な処理を示すフローチャートである。
まず、ステップS130において、領域判定部130は、ステップS12における統合領域拡張処理(ループA内の処理)が終了した際の終了条件を判定する。
【0044】
統合領域の全ての隣接画素に対する判定を終了したことによりループAを抜けた場合(ステップS130:全ての隣接画素に対して判定済み)、領域判定部130は、初期領域Dを含む異常部を、面積が小さく、且つ周囲との差異が明確な(即ち、周囲との濃度差が大きい)異常部と判定する(ステップS131)。これは、統合領域の面積が閾値Th_areaまで広がる前に統合処理が収束し、統合領域と隣接画素との間における色特徴量の差分又はエッジ強度が閾値より大きいとの判定(ステップS124:No)に基づいて統合領域の輪郭が画定したからである。従って、当該異常部の確認優先度は高いと判断される。
【0045】
一方、統合領域の面積が閾値Th_areaよりも大きいとの判定(ステップS126:No)に基づいてループAを抜けた場合(ステップS130:統合領域の面積が閾値より大きい)、領域判定部130は、ステップS132以降の処理を実行する。
【0046】
ここで、統合領域の面積が閾値Th_areaよりも大きくなる場合、以下の2つの状況が考えられる。第1に、図8(a)に示すように、初期領域Dから拡張を開始した拡張領域Eは、画像G1内に本来存在する異常部Q内に留まっており、拡張の途上であったという状況である。第2に、図9(a)に示すように、初期領域Dから拡張を開始した拡張領域Eは、画像G2内に本来存在する異常部Qを超えて拡張し続けたという状況である。そのため、領域判定部130は、上記第1及び第2の状況を判別する処理を実行する。なお、図8(b)は、画像G1のA−A線における色特徴量の変化を示すグラフである。また、図9(b)は、画像G2のA−A線における色特徴量の変化を示すグラフである。
【0047】
ステップS132において、初期領域特徴量算出部131は、初期領域内の平均色特徴量として、G/R値の平均値を算出する。また、ステップS133において、拡張領域特徴量算出部132は、拡張領域内の平均色特徴量として、G/R値の平均値を算出する。
ステップS134において、差分算出部133は、初期領域内の平均色特徴量と、拡張領域内の平均色特徴量との差分をそれぞれ算出する。
【0048】
ステップS135において、領域判定部130は、初期領域内及び拡張領域内の平均色特徴量の差分が所定の閾値以上であるか否かを判定する。ここで、図8に示すように、拡張領域Eが異常部Q内に留まっている場合、初期領域D及び拡張領域Eは同様の色特徴量を有していると言えるため、両者間における平均色特徴量の差分ΔCはあまり大きくない。一方、図9に示すように、拡張領域Eが異常部Qを超えて拡張した場合、異常部Q内の初期領域D及び異常部Q外の拡張領域Eにおける平均色特徴量の差分ΔCは、大きくなることが予測される。そこで、差分ΔC、ΔCを所定の閾値と比較することにより、拡張領域E、Eが異常部Q、Qに対してどのような状況にあるのかを判定することができる。
【0049】
平均色特徴量の差分が閾値よりも小さい場合(ステップS135:No)、領域判定部130は、初期領域を含む異常部を面積の大きい異常部と判定する(ステップS136)。これは、図8に示す状況に相当する。
【0050】
一方、平均色特徴量の差分が閾値以上である場合(ステップS135:Yes)、領域判定部130は、初期領域を含む異常部を、面積が小さく、且つ周囲との差異が明確でない(即ち、周囲との濃度差が小さい)異常部と判定する(ステップS137)。これは、図9に示す状況に相当するものであると共に、ステップS124における判定に適合することなく統合領域が拡張したものだからである。従って、当該異常部の確認優先度は相対的に低いと判断される。
その後、処理はメインルーチンに戻る。
【0051】
ステップS14において、演算部100は、ステップS13における判定結果を表すフラグを判定対象の画像に対応する画像データに付加して記録部50に記録する。
【0052】
以上説明したように、実施の形態1によれば、管腔内画像から検出された初期領域を拡張し、拡張領域の面積、並びに初期領域及び拡張領域の平均色特徴量に基づいて、管腔内画像に含まれる異常部を、面積の大小及び周囲との濃度差の大小からなる分類項目のいずれに相当するかを判別することができる。従って、このような分類に基づいて、一連の管腔内画像から確認優先度の高い管腔内画像のみを抽出して表示部40に表示させたり、確認優先度の高い管腔内画像から順に表示部40に表示させたりすることが可能となる。
なお、実施の形態1においては、G/R値を用いて異常部を分類したが、当然ながら、それ以外の色特徴量を用いることができる。
【0053】
(変形例)
実施の形態1においては、初期領域及び拡張領域の特徴量として各領域全体の色特徴量(G/R値)の平均値を用いたが、拡張領域が本来の異常部の境界を越えているか否かを判定可能な量であれば、他の量を用いても良い。具体的には、初期領域の特徴量として、初期領域内の画素が有する最小の色特徴量(最小G/R値)を用いても良い。また、拡張領域の特徴量として、拡張領域の輪郭部に含まれる画素の色特徴量の平均値(輪郭の平均G/R値)を用いても良い。或いは、拡張領域の特徴量として、拡張領域から初期領域を除いた領域を抽出し、抽出した領域における色特徴量の平均値を用いても良い。
【0054】
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図10は、実施の形態2に係る画像処理装置の構成を示すブロック図である。実施2に係る画像処理装置2は、図1に示す演算部100の代わりに、演算部200を備える。
【0055】
演算部200は、図1に示す拡張領域検出部120の代わりに、画像内エッジ強度算出部211と、領域分割部212と、隣接領域特定部213と、エッジ強度算出部214a及び色特徴量差分算出部214bを含む統合判定部214と、終了判定部215とを有する拡張領域検出部210を有する。画像内エッジ強度算出部211は、処理対象である画像内の各画素におけるエッジ強度を算出する。領域分割部212は、エッジ強度の尾根を境界として管腔内画像を複数の領域(以下、エッジ領域と呼ぶ)に分割する。隣接領域特定部213〜終了判定部215は、画像内から検出された初期領域を、画素単位ではなく、領域分割部212によって分割されたエッジ領域単位で拡張する。
【0056】
次に、実施の形態2に係る画像処理装置の動作について説明する。本変形例に係る画像処理装置全体の動作は図3に示すものと同様であり、ステップS12における処理の内容が実施の形態1とは異なる。
【0057】
図11は、ステップS12における詳細な処理を示すフローチャートである。
まず、ステップS220において、画像内エッジ強度算出部211は、処理対象の画像に含まれる各画素のエッジ強度を算出する。エッジ強度の算出に際しては、ソーベルフィルタ等の微分フィルタ処理など、公知の手法を用いれば良い。
【0058】
続くステップS221において、領域分割部212は、画像をエッジ強度の尾根を境界とする複数のエッジ領域に分割する。より詳細には、ステップS220において算出されたエッジ強度に基づいてエッジ強度画像を作成し、エッジ強度画像内の各画素におけるエッジ強度の勾配方向を取得する。このときの勾配方向は、エッジ強度の値が小さくなる方向とする。そして、各画素から出発して勾配方向に沿って移動した際に到達する極小値の画素を探索し、互いに隣接する極小値の画素に到達した出発点の画素が同一の領域に含まれるように画像を分割する(参考:国際公開第2006/080239号)。
【0059】
なお、画像の分割方法としては、この他にも、分水嶺(watershed)アルゴリズム(参考:Luc Vincent and Pierre Soille,“Watersheds in Digital Spaces: An Efficient Algorithm Based on Immersion Simulations”,IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.13,No.6, pp.583−598,June 1991)等の公知の手法を利用することができる。
【0060】
ステップS222において、拡張領域検出部210は、ステップS11において検出された初期領域と重複するエッジ領域を選出し、このエッジ領域を統合領域の初期状態として設定する。
【0061】
続いて、拡張領域検出部210は、設定された統合領域に隣接するエッジ領域(以下、隣接領域ともいう)の全てに対し、ループBの処理を実行する。
まず、ステップS223において、隣接領域特定部213は、統合領域に隣接するエッジ領域(以下、隣接領域という)を探索する。
【0062】
ステップS224において、エッジ強度算出部214aは、探索された隣接領域と統合領域との間のエッジ強度を算出する。実施の形態2においては、隣接領域と統合領域との境界において隣接する画素同士(統合領域内の輪郭画素と、これと接する隣接領域内の輪郭画素)におけるR成分の値の差分の平均値をエッジ強度として算出する。
【0063】
ステップS225において、色特徴量差分算出部214bは、隣接領域と統合領域との間の色特徴量の差分を算出する。実施の形態2においては、色特徴量としてR成分とG成分との比率であるG/R値を用い、隣接領域内のG/R値の平均値と、統合領域内のG/R値の平均値との差分を算出する。
【0064】
ステップS226において、統合判定部214は、ステップS224において算出されたエッジ強度が所定の閾値Th_edge以下であり、且つ、ステップS225において算出された色特徴量の差分が所定の閾値Th_ch以下であるか否かを判定する。
【0065】
エッジ強度及び色特徴量の差分が共に所定の閾値以下であると判定された場合(ステップS226:Yes)、拡張領域検出部210は、判定対象の隣接領域を統合領域に統合して、新たな統合領域を作成する(ステップS227)。
【0066】
さらに、ステップS228において、終了判定部215は、統合領域の面積が所定の閾値Th_area以下であるか否かを判定する。統合領域の面積が閾値Th_area以下であると判定された場合(ステップS228:Yes)、拡張領域検出部210は、新たな統合領域の隣接領域の内、未だ判定対象になっていない隣接領域に対し、ループBの処理を繰り返す。
【0067】
一方、統合領域の面積が閾値Th_areaよりも大きいと判定された場合(ステップS228:No)、拡張領域検出部210は、拡張領域の検出処理を終了し、新たに作成した統合領域を拡張領域として設定する(ステップS229)。その後、処理はメインルーチンに戻る。
【0068】
また、ステップS226においてエッジ強度と色特徴量の差分との内のいずれか、又は両方が閾値よりも大きいと判定された場合(ステップS226:No)、拡張領域検出部210は、判定対象である隣接領域は統合せずに、未判定の隣接領域に対してループBの処理を繰り返す。そして、統合領域を囲む全ての隣接領域に対する処理が終了すると、拡張領域の検出処理を終了し、現在の統合領域を拡張領域として設定する(ステップS230)。その後、処理はメインルーチンに戻る。
【0069】
以上説明したように、実施の形態2によれば、複数の画素がまとまったエッジ領域単位で統合領域を拡張するので、エッジ領域ごとの特徴が反映された拡張領域を生成することができると共に、演算速度を向上させることが可能となる。
【0070】
(実施の形態3)
次に、本発明の実施の形態3について説明する。
図12は、実施の形態3に係る画像処理装置の構成を示すブロック図である。図12に示すように、実施の形態3に係る画像処理装置3は、図1に示す演算部100の代わりに、演算部300を備える。
【0071】
演算部300は、図1に示す領域判定部130の代わりに、拡張領域の内部に設定した領域(内部領域)における特徴量(拡張領域内特徴量)を算出する拡張領域内特徴量算出部311と、拡張領域の外部に設定した領域(外部領域)における特徴量(拡張領域外特徴量)を算出する拡張領域外特徴量算出部312と、拡張領域内特徴量及び拡張領域外特徴量の間の差分を算出する差分算出部313とを有する領域判定部310を備える。
【0072】
拡張領域内特徴量算出部311は、画像内の各画素から拡張領域の輪郭までの距離を示す距離画像を作成する距離画像作成部311aと、距離画像内の拡張領域内部に相当する領域に対して閾値処理を行う閾値処理部311bと、内部領域における色特徴量の平均値を算出する平均色特徴量算出部311cとを含む。
【0073】
拡張領域外特徴量算出部312は、画像内の各画素から拡張領域の輪郭までの距離を示す距離画像を作成する距離画像作成部312aと、距離画像内の拡張領域外部に相当する領域に対して閾値処理を行う閾値処理部312bと、外部領域における色特徴量の平均値を算出する平均色特徴量算出部312cとを含む。
【0074】
次に、画像処理装置2の動作について説明する。画像処理装置2全体の動作は図3に示すものと同様であり、ステップS13における内容が実施の形態1とは異なる。即ち、実施の形態1においては、異常部の面積の大小を判別する際に、初期領域の色特徴量と拡張領域の色特徴量との差分を用いたのに対して、実施の形態3においては、拡張領域内部の色特徴量と拡張領域外部の色特徴量との差分を用いる。
【0075】
図13は、ステップS13における詳細な処理を示すフローチャートである。
まず、ステップS330において、領域判定部310は、ステップS12における統合領域拡張処理(ループA内の処理)が終了した際の終了条件を判定する。
【0076】
統合領域の全ての隣接画素に対する判定を終了したことによりループAを抜けた場合(ステップS330:全ての隣接画素に対して判定済み)、領域判定部310は、初期領域Dを含む異常部を、面積が小さく、且つ周囲との差異が明確な(即ち、周囲との濃度差が大きい)異常部と判定する(ステップS331)。これは、統合領域の面積が閾値Th_areaまで広がる前に統合処理が収束し、統合領域と隣接画素との間における色特徴量の差分又はエッジ強度が閾値より大きいとの判定(ステップS124:No)に基づいて統合領域の輪郭が画定したからである。
【0077】
一方、統合領域の面積が閾値Th_areaよりも大きいとの判定(ステップS126:No)に基づいてループAを抜けた場合(ステップS330:統合領域の面積が閾値より大きい)、領域判定部130は、ステップS332以降の処理を実行する。
【0078】
ここで、統合領域の面積が閾値Th_areaよりも大きくなる場合、以下の2つの状況が考えられる。第1に、図14(a)に示すように、初期領域Dから拡張を開始した拡張領域Eは、画像G3内に本来存在する異常部Q内にまだ留まっており、拡張の途上であったという状況である。第2に、図15(a)に示すように、初期領域Dから拡張を開始した拡張領域Eは、既に画像G4内に本来存在する異常部Qを超えて拡張し続けたという状況である。そのため、領域判定部130は、上記第1及び第2の状況を判別する処理を実行する。なお、図14(b)は、画像G3のA−Aにおけるx方向に沿った色特徴量の変化を示すグラフである。また、図15(b)は、画像G4のA−Aにおけるx方向に沿った色特徴量の変化を示すグラフである。
【0079】
ステップS332において、距離画像作成部311aは、画像内の各画素と拡張領域の輪郭との距離に対応する値を各画素の画素値とする距離画像を作成する。なお、距離画像の作成方法としては、公知の手法を用いることができる(参考:平田富夫、加藤敏洋、「ユークリッド距離変換アルゴリズム」、情報処理学会研究報告,AL,アルゴリズム研究会報告、94(82)、25−31、1994年9月21日)。また、この処理は、距離画像作成部312aが実行しても構わない。
【0080】
ステップS333において、閾値処理部311bは、距離画像上で、拡張領域内において画素値が所定の閾値以下である画素の領域を抽出し、抽出された領域を拡張領域の内部領域として設定する。
ステップS334において、閾値処理部312bは、距離画像上で、拡張領域外において画素値が所定の閾値以下である画素の領域を抽出し、抽出された領域を拡張領域の外部領域として設定する。
【0081】
ステップS335において、平均色特徴量算出部311cは、拡張領域の内部領域における平均色特徴量を算出する。実施の形態3においては、平均色特徴量として内部領域に含まれる各画素のG/R値の平均値を算出する。
同様に、ステップS336において、平均色特徴量算出部312cは、外部領域における平均色特徴量として、外部領域に含まれる各画素のG/R値の平均値を算出する。
ステップS337において、差分算出部313は、内部領域の平均色特徴量と外部領域の平均色特徴量との差分を算出する。
【0082】
ステップS338において、領域判定部310は、平均色特徴量の差分が所定の閾値以下であるか否かを判定する。ここで、図14に示すように、拡張領域Eが異常部Q内に留まっている場合、拡張領域Eの境界は異常部Qの境界近辺に存在していると想定される。この場合、拡張領域Eの内部領域ΔxIN3の平均色特徴量と外部領域ΔxOUT3の平均色特徴量との差分ΔCはある程度大きくなるものと考えられる。一方、図15に示すように、拡張領域Eが異常部Qを超えて拡張した場合、拡張領域Eの境界は異常部Qの境界とは離れているものと想定される。この場合、拡張領域E近傍の色特徴量の変化は少なく、拡張領域Eの内部領域ΔxIN4の平均色特徴量と外部領域ΔxOUT4の平均色特徴量との差分ΔCは、図14の場合と比較して小さくなるものと考えられる。そこで、差分ΔC、ΔCを所定の閾値と比較することにより、拡張領域E、Eが異常部Q、Qに対してどのような状況にあるのかを判定することができる。
【0083】
平均色特徴量の差分が閾値よりも大きい場合(ステップS338:No)、領域判定部310は、初期領域Dを含む異常部を、面積の大きい異常部と判定する(ステップS339)。これは、図14に示す状況に相当する。
【0084】
一方、平均色特徴量の差分が閾値以下である場合(ステップS338:Yes)、領域判定部310は、初期領域Dを含む異常部を、面積が小さく、且つ周囲との差異が明確でない(即ち、周囲との濃度差が小さい)異常部と判定する(ステップS340)。これは、図15に示す状況に相当するものであると共に、ステップS124における判定に適合することなく統合領域が拡張したものだからである。
その後、処理はメインルーチンに戻る。
【0085】
以上説明したように、実施の形態3によれば、拡張領域内部及び外部の色特徴量の差分に基づいて異常部の面積を判定するので、拡張領域の輪郭近傍の情報を反映した分類を行うことが可能となる。
【0086】
(変形例)
実施の形態3においては、距離画像に対して閾値処理を行うことにより拡張領域の内部領域及び外部領域を設定したが、他の方法により拡張領域の内部及び外部に領域を設定しても良い。例えば、距離画像において、距離画像内の拡張領域内部(外部)に対応する領域において、特定の範囲内の画素値(即ち、拡張領域からの距離に対応する値)を有する画素の領域を検出し、該画素の領域を内部(外部)領域として設定しても良い。
【0087】
なお、本発明は、実施の形態1〜3及びこれらの変形例に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。
【符号の説明】
【0088】
1、2、3 画像処理装置
10 制御部
20 画像取得部
30 入力部
40 表示部
50 記録部
51 画像処理プログラム
100、200、300 演算部
110 初期領域検出部
120 拡張領域検出部
121 隣接領域特定部
122 統合判定部
122a エッジ強度算出部
122b 色特徴量差分算出部
123 終了判定部
130 領域判定部
131 初期領域特徴量算出部
131a 平均色特徴量算出部
132 拡張領域特徴量算出部
132a 平均色特徴量算出部
133 差分算出部
210 拡張領域検出部
211 画像内エッジ強度算出部
212 領域分割部
213 隣接領域特定部
214 統合判定部
214a エッジ強度算出部
214b 色特徴量差分算出部
215 終了判定部
310 領域判定部
311 拡張領域内特徴量算出部
312 拡張領域外特徴量算出部
311a、312a 距離画像作成部
311b、312b 閾値処理部
311c、312c 平均色特徴量算出部
313 差分算出部

【特許請求の範囲】
【請求項1】
画像内に含まれる注目領域を複数の分類項目に分類する画像処理装置において、
前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出手段と、
前記初期領域を拡張することにより拡張領域を検出する拡張領域検出手段と、
前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて、前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記拡張領域検出手段は、
前記初期領域を統合領域の初期状態として設定して、前記統合領域に対して該統合領域に隣接する所定の隣接領域を統合する統合処理を行い、
前記統合領域に隣接する隣接領域を特定する隣接領域特定手段と、
前記統合領域及び前記隣接領域の特徴量を算出し、該特徴量に基づいて、前記隣接領域を前記統合領域に統合するか否かを判定する統合判定手段と、
前記統合領域の面積に基づいて前記統合処理を終了するか否かを判定する終了判定手段、
をさらに備えることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記統合判定手段は、
前記統合領域と前記隣接領域との間のエッジ強度を算出するエッジ強度算出手段を備え、
前記エッジ強度を基に、前記隣接領域を前記統合領域に統合するか否かを判定することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記統合判定手段は、
前記統合領域と前記隣接領域との間の色特徴量の差分を算出する色特徴量差分算出手段を備え、
前記色特徴量の差分を基に、前記隣接領域を前記統合領域に統合するか否かを判定することを特徴とする請求項2に記載の画像処理装置。
【請求項5】
前記終了判定手段は、前記統合領域の面積が所定の大きさ以上になった場合に、前記隣接領域の前記統合領域への統合処理を終了することを特徴とする請求項2に記載の画像処理装置。
【請求項6】
前記拡張領域検出手段は、
前記画像に含まれる各画素におけるエッジ強度を算出するエッジ強度算出手段と、
前記エッジ強度の尾根を境界として前記画像を複数の領域に分割する領域分割手段と、
を備え、
前記領域分割手段により分割された前記領域単位で拡張することを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記領域判定手段は、
前記初期領域における特徴量を算出する初期領域特徴量算出手段と
前記拡張領域における特徴量を算出する拡張領域特徴量算出手段と、
前記初期領域特徴量と前記拡張領域特徴量の差分を算出する差分算出手段と、
を備え、
前記差分を基に前記注目領域の分類項目を判定することを特徴とする請求項1に記載の画像処理装置。
【請求項8】
前記初期領域特徴量算出手段は、前記初期領域における色特徴量の平均値を算出することを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記初期領域特徴量算出手段は、前記初期領域における色特徴量の最小値を算出することを特徴とする請求項7に記載の画像処理装置。
【請求項10】
前記拡張領域特徴量算出手段は、前記拡張領域における色特徴量の平均値を算出することを特徴とする請求項7に記載の画像処理装置。
【請求項11】
前記拡張領域特徴量算出手段は、前記拡張領域内の前記初期領域以外の領域を抽出し、該領域における色特徴量の平均値を算出することを特徴とする請求項7に記載の画像処理装置。
【請求項12】
前記拡張領域特徴量算出手段は、前記拡張領域の輪郭部における色特徴量の平均値を算出することを特徴とする請求項7に記載の画像処理装置。
【請求項13】
前記領域判定手段は、
前記拡張領域の内部領域における特徴量を算出する拡張領域内特徴量算出手段と、
前記拡張領域の外部領域における特徴量を算出する拡張領域外特徴量算出手段と、
前記拡張領域内特徴量と前記拡張領域外特徴量の差分を算出する差分算出手段と、
を備え、
前記差分を基に前記注目領域の分類項目を判定することを特徴とする請求項1に記載の画像処理装置。
【請求項14】
前記拡張領域内特徴量算出手段は、
前記画像内の各画素から前記拡張領域の輪郭までの距離に対応する値を前記各画素の画素値とする距離画像を作成する距離画像作成手段を備え、
前記距離画像を基に前記内部領域を設定することを特徴とする請求項13に記載の画像処理装置。
【請求項15】
前記拡張領域内特徴量算出手段は、
前記距離画像内の前記拡張領域内部に対応する領域を所定の閾値で閾値処理する閾値処理手段を備え、
前記閾値処理により抽出された領域を前記内部領域として設定することを特徴とする請求項14に記載の画像処理装置。
【請求項16】
前記拡張領域内特徴量算出手段は、前記距離画像内の前記拡張領域内部に対応する領域において所定の範囲内の画素値を有する画素の領域を検出し、該画素の領域を前記内部領域として設定することを特徴とする請求項14に記載の画像処理装置。
【請求項17】
前記拡張領域内特徴量算出手段は、前記内部領域における色特徴量の平均値を算出する平均色特徴量算出手段を備えることを特徴とする請求項13に記載の画像処理装置。
【請求項18】
前記拡張領域外特徴量算出手段は、
前記画像内の各画素から前記拡張領域の輪郭までの距離に対応する値を前記各画素の画素値とする距離画像を作成する距離画像作成手段を備え、
前記距離画像を基に前記外部領域を設定することを特徴とする請求項13に記載の画像処理装置。
【請求項19】
前記拡張領域外特徴量算出手段は、
前記距離画像内の前記拡張領域外部に対応する領域を所定の閾値で閾値処理する閾値処理手段を備え、
前記閾値処理により抽出された領域を前記外部領域として設定することを特徴とする請求項18に記載の画像処理装置。
【請求項20】
前記拡張領域外特徴量算出手段は、前記距離画像内の前記拡張領域外部に対応する領域において所定の範囲内の画素値を有する画素の領域を検出し、該画素の領域を前記外部領域として設定することを特徴とする請求項18に記載の画像処理装置。
【請求項21】
前記拡張領域外特徴量算出手段は、前記外部領域における色特徴量の平均値を算出する平均色特徴量算出手段を備えることを特徴とする請求項13に記載の画像処理装置。
【請求項22】
前記画像は、被検体の管腔内を撮像した管腔内画像であり、
前記複数の分類項目は、前記注目領域の面積が所定の閾値よりも大きい領域、及び前記注目領域の面積が前記所定の閾値以下である領域、であることを特徴とする請求項1に記載の画像処理装置。
【請求項23】
前記画像は、被検体の管腔内を撮像した管腔内画像であり、
前記複数の分類項目は、前記注目領域の色特徴量と該注目領域の周囲の色特徴量との差が所定の閾値よりも大きい領域、及び、前記注目領域の色特徴量と該注目領域の周囲の色特徴量との差が所定の閾値以下である領域、であることを特徴とする請求項1に記載の画像処理装置。
【請求項24】
画像内に含まれる注目領域を複数の分類項目に分類する画像処理方法において、
前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出ステップと、
前記初期領域を拡張することにより拡張領域を検出する拡張領域検出ステップと、
前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定ステップと、
を含むことを特徴とする画像処理方法。
【請求項25】
画像内に含まれる注目領域を複数の分類項目に分類する処理をコンピュータに実行させる画像処理プログラムにおいて、
前記注目領域の少なくとも一部を検出して初期領域として設定する初期領域検出ステップと、
前記初期領域を拡張することにより拡張領域を検出する拡張領域検出ステップと、
前記初期領域及び前記拡張領域の特徴量を算出し、該特徴量に基づいて前記注目領域が前記複数の分類項目の内のいずれに相当するかを判定する領域判定ステップと、
を含むことを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2013−27637(P2013−27637A)
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願番号】特願2011−167270(P2011−167270)
【出願日】平成23年7月29日(2011.7.29)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】