画像処理方法、画像処理装置及びプログラム
【課題】ユーザによる観察の効率化をはかることができるような画像処理方法、画像処理装置及びプログラムを提供する。
【解決手段】本発明の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行う。
【解決手段】本発明の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理方法、画像処理装置及びプログラムに関し、特に、生体粘膜表面の像が良好に撮像されていない画像を除外することができる画像処理方法、画像処理装置及びプログラムに関するものである。
【背景技術】
【0002】
従来、医療分野において、X線、CT、MRI、超音波観測装置及び内視鏡装置等の画像撮像機器を用いた観察が広く行われている。このような画像撮像機器のうち、内視鏡装置は、例えば、生体としての体腔内に挿入される細長の挿入部を有し、該挿入部の先端部に配置された対物光学系により結像した体腔内の像を固体撮像素子等の撮像手段により撮像して撮像信号として出力し、該撮像信号に基づいてモニタ等の表示手段に体腔内の像の画像を表示するという作用及び構成を有する。そして、ユーザは、モニタ等の表示手段に表示された体腔内の像の画像に基づき、例えば、体腔内における臓器等の観察を行う。また、内視鏡装置は、消化管粘膜の像を直接的に撮像することが可能である。そのため、ユーザは、例えば、粘膜の色調、病変の形状及び粘膜表面の微細な構造等の様々な所見を総合的に観察することができる。
【0003】
そして、近年、前述したような内視鏡装置と略同様の有用性が期待できる画像撮像機器として、例えば、カプセル型内視鏡装置が提案されている。一般的に、カプセル型内視鏡装置は、被検者が口から飲み込むことにより体腔内に配置され、撮像した該体腔内の像を撮像信号として外部に送信するカプセル型内視鏡と、送信された該撮像信号を体腔外で受信した後、受信した該撮像信号を蓄積するレシーバと、レシーバに蓄積された撮像信号に基づく体腔内の像の画像を観察するための観察装置とから構成される。
【0004】
カプセル型内視鏡装置を構成するカプセル型内視鏡は、消化管の蠕動運動により進むため、例えば、口から体腔内に入れられた後、肛門から排出されるまで数時間程度の時間がかかることが一般的である。そして、カプセル型内視鏡は、体腔内に入れられた後、排出されるまでの間、レシーバに対して撮像信号を略常時出力し続けるため、例えば、数時間分の動画像における、レシーバに蓄積されたフレーム画像としての静止画像の枚数は膨大なものとなる。そのため、ユーザによる観察の効率化という点において、例えば、蓄積された画像のうち、出血部位等の病変部位が含まれる所定の画像を検出するような画像処理方法が行われた上において、該所定の画像以外の画像を表示または記憶しないという処理が行われることにより、画像のデータ量が削減されるような提案が望まれている。
【0005】
前述したような画像処理方法としては、例えば、特許文献1に記載されているようなものがある。特許文献1に記載されている、生体内での比色分析の異常を検出するための方法は、正常粘膜と出血部位との色調の違いに着目し、色調を特徴量と設定した特徴空間における各平均値からの距離に基づき、画像の分割領域毎に出血部位の検出を行う方法、すなわち、病変部位としての出血部位が含まれる所定の画像を検出するための方法を有する画像処理方法である。
【0006】
【特許文献1】PCT WO 02/073507 A2号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかし、特許文献1に記載されている画像処理方法においては、以下に記すような課題がある。
【0008】
一般に、消化管においては、常に生体粘膜表面の像のみの撮像が行われている訳ではなく、例えば、便、泡、粘液または食物残渣等の異物の像と、生体粘膜表面の像とが混在した状態において撮像が行われている。そのため、前述したような異物の存在を考慮していない特許文献1に記載されている画像処理方法においては、例えば、該異物により正常粘膜を出血部位と誤検出してしまう可能性、及び該異物の像が大部分を占めるような画像を検出する可能性が考えられる。その結果、ユーザによる観察の効率化をはかることができないという課題が生じている。
【0009】
本発明は、前述した点に鑑みてなされたものであり、例えば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像の小領域毎に識別して分類することにより、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、さらに、前記分類結果に基づいて撮像された臓器を特定することができ、その結果、ユーザによる観察の効率化をはかることのできる画像処理方法、画像処理装置及びプログラムを提供することを目的としている。
【0010】
また、本発明は、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる画像処理方法、画像処理装置及びプログラムを提供することを目的としている。
【課題を解決するための手段】
【0011】
本発明における第1の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、 前記画像を複数の領域に分割する領域分割ステップと、 前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする。
【0012】
本発明における第2の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする。
【0013】
本発明における第3の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを有する画像処理方法であって、前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする。
【0014】
本発明における第4の画像処理方法は、前記第1乃至第3の画像処理方法において、さらに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを有することを特徴とする。
【0015】
本発明における第5の画像処理方法は、前記第4の画像処理方法において、前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする。
【0016】
本発明における第6の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとからなることを特徴とする。
【0017】
本発明における第1の画像処理装置は、撮像機能を有する医療機器により撮像された画像を入力する画像入力手段と、前記画像が生体粘膜を十分に撮像した像であるか否かを判定する判定手段とを有する画像処理装置であって、前記画像処理装置は、前記判定手段における判定結果に基づき、表示手段に対する前記画像の出力制御を行う画像表示制御手段、または、記憶手段に対する前記画像の出力制御を行う画像記憶制御手段のうち、少なくともいずれか一方を有することを特徴とする。
【0018】
本発明における第2の画像処理装置は、前記第1の画像処理装置において、前記画像表示制御手段は、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記表示手段に表示させないような制御を行うことを特徴とする。
【0019】
本発明における第3の画像処理装置は、前記第1または第2の画像処理装置において、前記画像記憶制御手段は、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記記憶手段に記憶しないような制御を行うことを特徴とする。
【0020】
本発明における第4の画像処理装置は、前記第1乃至第3の画像処理装置において、前記画像記憶制御手段は、前記記憶手段に記憶された画像のうち、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記記憶手段から削除するような制御を行うことを特徴とする。
【0021】
本発明における第5の画像処理装置は、撮像機能を有する医療機器により撮像された複数の画像を入力する画像入力手段と、前記画像を記憶する記憶手段と、前記画像を表示する表示手段と、前記画像の中から病変の存在が疑われる画像を検出する検出手段と、前記画像に対して領域を設定する領域設定手段と、前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段とを有することを特徴とする。
【0022】
本発明における第6の画像処理装置は、前記第5の画像処理装置において、前記検出手段は、前記領域設定手段により前記画像に対して設定された領域のうち、病変の存在が疑われる領域を検出し、前記検出結果判定手段は、前記検出手段により検出された前記領域が前記領域判定手段において生体粘膜を撮像した領域であると判定された場合に、前記検出手段による検出結果が正しいと判定することを特徴とする。
【0023】
本発明における第7の画像処理装置は、時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段と、前記医用画像に対して領域を設定する領域設定手段と、前記領域設定手段により設定された各領域において、撮像対象を判定する判定手段と、前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、前記特定手段における特定結果を表示する特定結果表示手段とを備えたことを特徴とする。
【0024】
本発明における第8の画像処理装置は、前記第7の画像処理装置において、前記判定手段は、前記各領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする。
【0025】
本発明における第1のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする。
【0026】
本発明における第2のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする。
【0027】
本発明における第3のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとをコンピュータに実行させるためのプログラムであって、前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする。
【0028】
本発明における第4のプログラムは、前記第1のプログラム乃至第3のプログラムにおいて、さらに、当該コンピュータに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを実行させることを特徴とする。
【0029】
本発明における第5のプログラムは、前記第4のプログラムにおいて、前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする。
【0030】
本発明における第6のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとを実行させる。
【0031】
本発明における第7のプログラムは、複数の色信号からなる医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段として機能させる。
【0032】
本発明における第8のプログラムは、前記第7のプログラムにおいて、前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする。
【0033】
本発明における第9のプログラムは、前記第7のプログラムまたは前記第8のプログラムにおいて、前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする。
【0034】
本発明における第10のプログラムは、前記第7のプログラム乃至前記第9のプログラムにおいて、さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段として機能させるプログラムであって、前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする。
【0035】
本発明における第11のプログラムは、複数の色信号からなる複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段とを有する画像処理装置を制御するための画像処理装置を制御するためのコンピュータを、前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段として機能させる。
【0036】
本発明における第12のプログラムは、前記第11のプログラムにおいて、前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする。
【0037】
本発明における第13のプログラムは、時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する画像表示手段とを有する画像処理装置を制御するためのコンピュータを、前記医用画像に複数の領域を設定する領域設定手段と、前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、前記特定手段における特定結果を表示する特定結果表示手段として機能させる。
【0038】
本発明における第14のプログラムは、前記第13のプログラムにおいて、前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする。
【発明の効果】
【0039】
本発明における画像処理方法、画像処理装置及びプログラムによると、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、さらに、前記分類結果に基づいて撮像された臓器を特定することができ、その結果、ユーザによる観察の効率化をはかることができる。
【0040】
また、本発明における画像処理方法、画像処理装置及びプログラムによると、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる。
【発明を実施するための最良の形態】
【0041】
以下、図面を参照して本発明の実施の形態を説明する。
【0042】
(第1の実施形態)
図1から図20は、本発明の第1の実施形態に係るものである。図1は、本発明の第1の実施形態である画像処理動作が行われる画像処理装置および周辺機器の外観を示した外観正面図である。図2は、本実施形態の画像処理装置において処理する所定の画像情報を生成するカプセル型内視鏡の一部を切り取って示した要部拡大断面図である。図3は、本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の概略内部構成を示すブロック図である。図4は、本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の一使用例を示した図である。図5は、図2に示すカプセル型内視鏡から出力される信号の一例を示したタイミングチャートである。図6は、図2に示すカプセル型内視鏡の位置検出を説明する説明図である。図7は、図3に示すカプセル型内視鏡装置を使用した際におけるアンテナユニットを示した要部拡大断面図である。図8は、図3に示すカプセル型内視鏡装置を使用した際におけるシールドジャケットを説明する説明図である。図9は、図3に示すカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図である。図10は、図2に示すカプセル型内視鏡の電気的な構成を示すブロック図である。図11は、本実施形態に係る画像処理動作を示すフローチャートである。図12は、本実施形態に係る画像処理動作において、入力された画像が(m×n)個の領域に分割される際の一例を示す図である。図13は、教師データを構成する複数の画像のうち、胃粘膜の画像の一例を示す図である。図14は、教師データを構成する複数の画像のうち、絨毛の画像の一例を示す図である。図15は、教師データを構成する複数の画像のうち、便の画像の一例を示す図である。図16は、教師データを構成する複数の画像のうち、泡の画像の一例を示す図である。図17は、カプセル型内視鏡により撮像された体腔内の像の画像の一例を示す模式図である。図18は、図17に示す画像の分類結果の一例を示す図である。図19は、本実施形態に係る画像処理動作において、図11とは異なる画像処理動作を示すフローチャートである。図20は、ディスプレイに表示されるビュワーの画像のうち、メインメニュー画面の一例を示す図である。
【0043】
本発明の第1の実施形態である画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置1は、図3に示すように、カプセル型内視鏡3、アンテナユニット4及び外部装置5とにより主要部が構成されている。
【0044】
医療機器としてのカプセル型内視鏡3は、詳細は後述するが、被検体である患者2の口から体腔内に飲み込まれることにより体腔内に配置された後、蠕動運動により消化管内を進行する形状に形成され、かつ、内部に体腔内を撮像し、その撮像画像情報を生成する撮像機能と、その撮像画像情報を体外に送信する送信機能とを有している。アンテナユニット4は、詳細は後述するが、患者2の身体表面上に設置され、前記カプセル型内視鏡3から送信される撮像画像情報を受信する複数の受信アンテナ11を有している。外部装置5は、外形が箱形形状に形成されており、詳細は後述するが、前記アンテナユニット4が受信した撮像画像情報の各種処理、撮像画像情報の記憶、及び撮像画像情報による撮像画像表示等の機能を有している。この外部装置5の外装の表面に前記撮像画像を表示させる液晶モニタ12と、各種機能の操作指示を行う操作部13とが設けられている。
【0045】
また、この外部装置5は、駆動電源用の電池の残量に関する警告表示用のLEDと、電源スイッチ等のスイッチからなる操作部13とが外装の表面に設けられている。又、カプセル型内視鏡3の内部には、CPU及びメモリを用いた演算実行部が設けられており、例えば、該演算実行部において、受信及び記憶した撮像画像情報に対して後述する本発明に係る画像処理方法が実行されるような構成であっても良い。
【0046】
この外部装置5は、患者2の身体に着脱自在に装着されると共に、図1に示すように、クレードル6に装着されることにより、本発明の第1の実施形態である画像処理装置(以下、端末装置と記す)7に着脱自在に接続されるようになっている。この端末装置7は、たとえば、パーソナルコンピュータが用いられ、各種データの処理機能や記憶機能を有する端末本体9と、各種操作処理入力用のキーボード8a及びマウス8bと、及び各種処理結果を表示する、表示手段としてのディスプレイ8cとを有している。この端末装置7は、基本的機能として、例えば、前記外部装置5に記憶されている撮像画像情報をクレードル6を介して取り込み、端末本体9に内蔵されている書換可能なメモリ、或いは端末本体9に着脱自在な書換可能な半導体メモリ等の可搬型メモリに書込記憶させ、かつ、その記憶した撮像画像情報をディスプレイ8cに表示する画像処理を行うような機能を有している。なお、前記外部装置5に記憶されている撮像画像情報は、前記クレードル6に代えて、USBケーブル等によって端末装置7に取り込まれるようにしても良い。
【0047】
なお、端末装置7が行う画像処理は、例えば、前記外部装置5から取り込み、図示しない記憶手段としてのメモリ等に記憶された撮像画像情報から経過時間に応じて表示させる画像を選択する処理、及び後述する本発明に係る画像処理方法に基づく処理として、端末本体9が有する制御部9aにおいて行われるものであるとする。制御部9aは、CPU(中央処理装置)等からなり、例えば、前述したような処理を行う場合に、処理結果を一時的に図示しないレジスタ等に保持することができる。
【0048】
次に、前記カプセル型内視鏡3の外形と内部構造について、図2を用いて説明する。カプセル型内視鏡3は、断面がU字状の外装部材14と、この外装部材14の先端側の開放端に接着剤により水密装着された透明部材により形成された略半球形状のカバー部材14aとからなる。そのため、カプセル型内視鏡3の外装は、外装部材14と、カバー部材14aとが接続された状態においては、水密構造かつカプセル形状を有するように形成されている。
【0049】
この外装部材14とカバー部材14aからなるカプセル形状の内部中空部であって、前記カバー部材14aの半球の円弧の略中央にあたる部分には、カバー部材14aを介して入射された観察部位像を取り込む対物レンズ15がレンズ枠16に収納されて配置されている。この対物レンズ15の結像位置には、撮像素子である電荷結合素子(以降、CCDと記す)17が配置されている。また、前記対物レンズ15を収納するレンズ枠16の周囲には、照明光を発光放射させる4つの白色系のLED18が同一平面上に配置されている(図中には2つのLEDのみを表記している)。前記CCD17の後端側の前記外装部材14の内部中空部には、前記CCD17を駆動制御して光電変換された撮像信号の生成、その撮像信号に所定の信号処理を施して撮像画像信号を生成する撮像処理、及び前記LED18の点灯/非点灯の動作を制御するLED駆動の処理を行う処理回路19と、この処理回路19の撮像処理により生成された撮像画像信号を無線信号に変換して送信する通信処理回路20と、この通信処理回路20からの無線信号を外部に送信する送信アンテナ23と、前記処理回路19と通信処理回路20の駆動用電源を供給する複数のボタン型の電池21とが配置されている。
【0050】
なお、CCD17、LED18、処理回路19、通信処理回路20及び送信アンテナ23は、図示しない基板上に配置され、それらの基板の間は、図示しないフレキシブル基板にて接続されている。また、前記処理回路19には、後述する画像処理を行うための図示しない演算回路を備えている。つまり、前記カプセル型内視鏡3は、図3に示すように、前記CCD17、LED18及び処理回路19を有する撮像装置43と、前記通信処理回路20を有する送信器37と、送信アンテナ23とを有する。
【0051】
次に、前記カプセル型内視鏡3の撮像装置43の詳細構成について、図10を用いて説明する。撮像装置43は、LED18の点灯/非点灯の動作を制御するLEDドライバ18Aと、CCD17の駆動を制御して光電変換された電荷の転送を行う為のCCDドライバ17Aと、前記CCD17から転送された電荷を用いて撮像信号を生成し、かつ、その撮像信号に所定の信号処理を施して撮像画像信号を生成する処理回路19Aと、前記LEDドライバ18A、CCDドライバ17A、処理回路19A、及び送信器37に電池21からの駆動電源を供給するスイッチ部と、前記スイッチ部及びCCDドライバ17Aにタイミング信号を供給するタイミングジェネレータ19Bとを有する。なお、前記スイッチ部は、電池21から前記LEDドライバ18Aへの電源供給をオン/オフをするスイッチ19Cと、前記CCD17、CCDドライバ17A及び処理回路19Aへの電源供給をオン・オフするスイッチ19Dと、前記送信器37への電源供給をオン/オフするスイッチ19Eとを有する。また、前記タイミングジェネレータ19Bには、電池21から常時駆動電源が供給されるようになっている。
【0052】
このような構成を有するカプセル型内視鏡3の撮像装置43においては、スイッチ19Cと、スイッチ19Dと、スイッチ19Eとがオフ状態である場合、タイミングジェネレータ19B以外の各部は非動作状態である。そして、タイミングジェネレータ19Bからタイミング信号が出力されると、前記スイッチ19Dがオンされ、これにより、電池21から電源が供給されたCCD17、CCDドライバ17A及び処理回路19Aは動作状態となる。
【0053】
前記CCD17の駆動初期時に、CCD17の電子シャッターを動作させて、不要な暗電流を除去した後、タイミングジェネレータ19Bは、スイッチ19CをオンさせてLEDドライバ18Aを駆動させてLED18を点灯させCCD17を露光する。LED18は、CCD17の露光に必要な所定の時間だけ点灯された後、消費電力低減の為に、スイッチ19Cがオフしたタイミングにおいて消灯される。
【0054】
前記CCD17の露光が行われた前記所定の時間内に蓄えられた電荷は、CCDドライバ17Aの制御により処理回路19Aへ転送される。処理回路19Aは、CCD17から転送された電荷を基に撮像信号を生成し、その撮像信号に所定の信号処理を施して内視鏡画像信号を生成する。処理回路19Aは、例えば、送信器37から送信される信号がアナログ無線方式である場合、CDS出力信号に対して複合同期信号を重畳させたアナログ撮像信号を生成した後、該アナログ撮像信号を内視鏡画像信号として送信器37へ出力する。また、処理回路19Aは、例えば、送信器37から送信される信号がデジタル無線方式である場合、アナログ/デジタルコンバータにより生成したシリアルなデジタル信号に対し、さらにスクランブル等の符号化処理を施したデジタル撮像画像信号を生成し、該デジタル撮像信号を内視鏡画像信号として送信器37へ出力する。
【0055】
この送信器37は、前記処理回路19Aから供給された内視鏡画像信号である、アナログ撮像画像信号またはデジタル撮像画像信号に対して変調処理を施して送信アンテナ23から外部へ無線送信する。この時、スイッチ19Eは、前記処理回路19Aから撮像画像信号が出力されたタイミングにおいてのみ送信器37に駆動電力が供給されるように、タイミングジェネレータ19Bによりオン/オフされる。
【0056】
なお、スイッチ19Eは、処理回路19Aから撮像画像信号が出力されてから所定の時間が経過した後に、送信器37に駆動電力が供給されるように制御されても良い。また、スイッチ19Eは、カプセル型内視鏡3に設けられた、図示しないpHセンサーによる所定値のpH値の検出、図示しない湿度センサーによる所定値以上の湿度の検出、図示しない圧力センサーまたは図示しない加速度センサーによる所定値以上の圧力または加速度の検出等の検出結果に基づいてタイミングジェネレータ19Bから出力される信号により、被検体である患者2の体腔内に挿入された際に、送信器37に電源を供給するように制御されるような構成を有していても良い。
【0057】
なお、前記カプセル型内視鏡2の撮像装置43は、通常毎秒2枚の画像(毎秒2フレーム=2fps)を撮像するものであるが、例えば、食道の検査の場合は、毎秒15〜30枚の画像(15fps〜30fps)を撮像できるようにする。具体的には、カプセル型内視鏡3に、図示しないタイマー回路を設け、このタイマー回路により、例えば、タイマーカウントが所定時間以内においては毎秒当たりの撮像枚数の多い高速撮像とし、所定時間が経過した後は、毎秒当たりの撮像枚数の少ない低速撮像となるように撮像装置43の駆動を制御させる。或いは、カプセル型内視鏡3の電源の投入と共にタイマー回路を作動させて、このタイマー回路により、例えば、患者2が飲み込んだ直後の食道を通過するまでの時間は高速撮像となるように、撮像装置43の駆動を制御させることも可能である。さらに、低速撮像用カプセル型内視鏡と高速撮像用カプセル型内視鏡とを個別に設けて、観察対象部位に応じて使い分けるようにしても良い。
【0058】
次に、前記患者2の身体表面上に設置されるアンテナユニット4について説明する。図4に示すように、カプセル型内視鏡3を飲み込んで内視鏡検査を行う場合、患者2は、複数の受信アンテナ11からなるアンテナユニット4が設置されたジャケット10を装着する。このアンテナユニット4は、図7に示すように、たとえば、GPSに使用されているパッチアンテナのような単方向の指向性を有する複数の受信アンテナ11を患者2の身体内方向にその指向性を向けて配置する。つまり、カプセル型内視鏡3のカプセル本体3Dは、身体内に留置されるため、その身体内のカプセル本体3Dを取り囲むように前記複数のアンテナ11が配置される。この指向性の高いアンテナ11を使用することにより、身体内のカプセル本体3D以外からの電波による干渉妨害の影響を受けにくくしている。
【0059】
前記ジャケット10は、図8に示すように、患者2の身体表面に設置する前記アンテナユニット4と、ベルトにより患者2の腰に設置された外部装置5の本体部5Dを覆うように電磁シールド繊維で形成されたシールドジャケット72とからなる。このシールドジャケット72を形成する電磁シールド繊維は、金属繊維、金属化学繊維、硫化銅含有繊維等が用いられている。なお、このシールドジャケット72は、ジャケット形状に限るものではなく、例えば、ベスト、ワンピース形状等であっても良い。
【0060】
又、前記シールドジャケット72に前記外部装置5を装着する例として、図9に示すように、前記外部装置5の外部本体5Dに鍵穴74を設け、前記シールドジャケット72に設けた鍵75を前記鍵穴74に差し込むことにより、ベルト73に着脱自在に装着できるようにする。或いは、単にシールドジャケット72に図示しないポケットを設け、そのポケットに外部本体5Dを収納したり、又は、外部装置5の外部本体5Dとシールドジャケット72にマジックテープ(登録商標)を設置し、そのマジックテープ(登録商標)により取付固定しても良い。
【0061】
つまり、アンテナユニット4が配置された身体にシールドジャケット72を装着することにより、アンテナユニット4に対する外部からの電波がシールド遮蔽されて、外部電波による干渉妨害の影響を一層受けにくくしている。
【0062】
次に、前記アンテナユニット4と外部装置5の構成について、図3を用いて説明する。前記アンテナユニット4は、前記カプセル型内視鏡3の送信アンテナ23から送信された無線信号を受信する複数の受信アンテナ11a〜11dと、このアンテナ11a〜11dを切り替えるアンテナ切換スイッチ45とからなる。前記外部装置5は、アンテナ切換スイッチ45からの無線信号を撮像画像信号に変換及び増幅等の受信処理を行う受信回路33と、この受信回路33から供給された撮像画像信号に所定の信号処理を施して、撮像画像の表示用信号及び撮像画像データを生成する信号処理回路35と、この信号処理回路35により生成された撮像画像表示用信号に基づいて撮像画像を表示する液晶モニタ12と、前記信号処理回路35により生成された撮像画像データを記憶するメモリ47と、前記受信回路33により受信処理された無線信号の大きさにより前記アンテナ切換スイッチ45を制御するアンテナ選択回路46とからなる。
【0063】
前記アンテナユニット4の図中受信アンテナ11a〜11dとして示した複数の受信アンテナ11は、前記カプセル型内視鏡3の送信アンテナ23から一定の電波強度により送信された無線信号を受信する。この複数の受信アンテナ11a〜11dは、前記外部装置5のアンテナ選択回路46からのアンテナ選択信号によりアンテナ切替スイッチ45が制御されて、前記無線信号を受信する受信アンテナを順次切り替える。つまり、前記アンテナ切替スイッチ45により順次切り替えられた各受信アンテナ11a〜d毎に受信した無線信号が前記受信器33に出力される。この受信器33において、各受信アンテナ11a〜11d毎の無線信号の受信強度を検出して、各受信アンテナ11a〜11dとカプセル型内視鏡3の位置関係を算出すると共に、その無線信号を復調処理して撮像画像信号を信号処理回路35へと出力する。前記アンテナ選択回路46は、前記受信器33からの出力によって制御される。
【0064】
前記アンテナ選択回路46によるアンテナ切替スイッチ45の動作について説明する。前記カプセル型内視鏡3から送信される無線信号は、図5に示すように、撮像画像信号の1フレームの送信期間に、無線信号の受信強度を示す受信強度信号の送信期間である強度受信期間と、撮像画像信号の送信期間である映像信号期間とが順次繰り返されて送信されるとする。
【0065】
前記アンテナ選択回路46は、前記受信回路33を介して、各受信アンテナ11a〜11dが受信した受信強度信号の受信強度が供給される。前記アンテナ選択回路46は、前記受信器33からの供給された各アンテナ11a〜11dの受信強度信号の強度を比較して、映像信号期間の撮像画像信号を受信する最適な受信アンテナ、つまり、受信強度信号の強度が最も高いアンテナ11i(i=a〜d)を決定して、アンテナ切替回路45をそのアンテナ11iに切り替えるための制御信号を生成出力する。これにより、現在画像信号を受信しているアンテナよりも、他のアンテナの受信強度信号の受信強度が高い場合には、映像信号期間の受信アンテナを次フレーム分から切り替えるようにする。
【0066】
このように、カプセル型内視鏡3からの無線信号を受信するたびに、撮像画像信号、又は受信強度信号の受信強度を比較し、この比較結果を受けたアンテナ選択回路46によって受信強度が最大となるアンテナ11iを画像信号受信用のアンテナとを指定するようにしている。これにより、カプセル型内視鏡3が患者2の体内で移動しても、その移動位置において最も受信強度の高い信号を検出できるアンテナ11により取得した画像信号を受信することができる。また、体内でのカプセル型内視鏡3の移動速度は非常に遅い部分と早い部分に分かれるので、撮像動作1回につき常にアンテナ切替動作を1回行うとは限らず、高速撮像モードなどでは複数回の撮像動作に対してアンテナ切替動作を1回行うようにしてもよい。
【0067】
なお、カプセル型内視鏡3は、患者2の体内を移動しているので、適宜の時間間隔で外部装置5から電波強度を検出した結果である検出結果信号を送り、その信号に基づいてカプセル型内視鏡3が送信する際のその出力を更新するようにしてもよい。このようにすれば、カプセル型内視鏡3が患者2の体内を移動した場合にも、適切な送信出力に設定でき、電池21のエネルギを無駄に消費すること等を防止でき、信号の送受信状態を適切な状態に維持できるようになる。
【0068】
次に、前記複数の受信アンテナ11とカプセル型内視鏡3の位置関係を示す情報の取得方法について、図6を用いて説明する。なお、図6において、カプセル型内視鏡3を3次元座標X、Y、Zの原点に設定した場合を例に説明する。又、前記複数の受信アンテナ11a〜11dのうち、説明を簡単化するために、3つの受信アンテナ11a、11b、11cを用い、受信アンテナ11aと受信アンテナ11bとの間の距離をDab、受信アンテナ11bと受信アンテナ11cとの間の距離をDbc、受信アンテナ11aと受信アンテナ11cとの間の距離Dacとしている。さらに、この受信アンテナ11a〜11cとカプセル型内視鏡3の間は、所定の距離関係としている。
【0069】
カプセル型内視鏡3の送信された一定の送信強度の無線信号は、各受信アンテナ11j(j=a、b、c)で受信した場合の受信強度は、カプセル型内視鏡3(カプセル型内視鏡3の送信アンテナ23)からの距離Li(i=a,b,c)の関数となる。具体的には電波減衰量が伴う距離Liに依存する。従って、カプセル型内視鏡3から送信された無線信号の受信アンテナ11jにより受信した受信強度からカプセル型内視鏡3と各受信アンテナ11jとの間の距離Liを算出する。この距離Liの算出には、前記カプセル型内視鏡3と受信アンテナ11jの間の距離による電波の減衰量などの関係データを事前に前記アンテナ選択回路46に設定する。又、その算出されたカプセル型内視鏡3と各受信アンテナ11jの位置関係を示す距離データは、前記メモリ47にカプセル型内視鏡3の位置情報として記憶させる。このメモリ47に記憶された撮像画像情報及びカプセル型内視鏡3の位置情報を基に、前記端末機7による後述する画像情報処理方法において、内視鏡観察所見の位置設定に有用となる。
【0070】
次に、本実施形態の画像処理装置における画像処理動作について説明を行う。
【0071】
なお、本実施形態においては、カプセル型内視鏡3により撮像された体腔内の像の画像は、大きさISX×ISY(1≦ISX、1≦ISYを満たす値であり、例えば、ISX=300、ISY=300)、RGBの3プレーンからなり、各プレーンにおける各画素は各々8bit、すなわち、0から255の値をとるものとする。また、本実施形態においては、時間的に連続して撮像されたN枚の画像(1≦N)におけるi番目の画像をIi(1≦i≦N)、そのRGB各プレーンをそれぞれRi、Gi及びBiと示すものとする。さらに、本実施形態においては、各プレーンにおけるk番目の画素(1≦k≦ISX×ISY)をそれぞれrik、gik及びbikと示すものとする。
【0072】
なお、本実施形態における画像処理装置における画像処理動作は、上述した端末装置7の端末本体9が有する制御部9aにおける処理として行われるものとする。
【0073】
まず、制御部9aは、入力されたi番目の画像Iiを構成するRi、Gi及びBiの各プレーンに対し、前処理として、例えば、メディアンフィルタリングによるノイズ除去及び逆γ補正を行うと共に、ハレーション画素及び暗部画素を以降の処理対象から除外するため、閾値に基づく処理により検出しておく(図11のステップS1)。そして、前記閾値に基づく処理は、例えば、rik、gik及びbikの濃度値の全てが10以下の値であれば暗部画素、また、rik、gik及びbikの濃度値の全てが230以上の値であればハレーション画素とするような処理として行われる。
【0074】
その後、制御部9aは、Ri、Gi及びBiの各プレーンを小領域に分割する(図11のステップS2)。なお、本実施形態において、制御部9aは、図12に示すように、Ri、Gi及びBiの各プレーンを、x軸方向の画素数lx×y軸方向の画素数ly(1≦lx、1≦ly)からなる矩形領域に分割するものとし、その領域数は(m×n)個(m=ISX/lx、n=ISY/ly)であるものとする。また、制御部9aは、mまたはnが整数とならない場合においては、大きさが端数となる最端部の領域を、端数の画素数を有する領域として処理するか、または以降の処理対象から除外するものとする。
【0075】
制御部9aは、分割した各領域において、撮像対象の像の画像上における色の違いを反映する色調情報、及び撮像対象の像の画像上における構造の違いを反映するテクスチャ情報を特徴量として算出する(図11のステップS3)。なお、以降の説明においては、制御部9aにおいて分割された領域のうち、一の領域をHst(1≦s≦m、1≦t≦n)と示すものとする。
【0076】
本実施形態において、制御部9aが算出する色調情報は、一の領域Hstに含まれる各画素のRGB値の比に基づく値としての、gik/rikの平均値(以降、μgstと記す)及びbik/rikの平均値(以降、μbstと記す)からなる、2つの特徴量として示される値である。なお、μgst及びμbstの各値は、0から1の値をとるものとする。また、μgst及びμbstの各値は、例えば、胃粘膜のような比較的赤色調を示す領域においては、略同様に小さな値をとる。一方、μgst及びμbstの各値は、例えば、小腸のような比較的白色調を示す領域においては、略同様に大きな値をとる。また、μgst及びμbstの各値は、例えば、便のような比較的黄色調を示す領域においては、μgst>μbstとなるような値をとる。
【0077】
本実施形態において、制御部9aが算出するテクスチャ情報は、前述したように、撮像対象の像の画像上における構造の違いを反映するものである。そして、撮像対象の像の画像上における構造は、例えば、粘膜表面における絨毛等の微細構造、及び便が有する不定形な模様等として示されるものである。具体的には、制御部9aが算出するテクスチャ情報は、一の領域Hstに含まれる各画素のRGB値の標準偏差σrst、σgst及びσbstを、一の領域Hstに含まれる各画素のRGB値の平均値mrst、mgst及びmbstで除したものである、3つの特徴量として示されるRGB値の変動係数CVrst、CVgst及びCVbstである。なお、変動係数CVrst、CVgst及びCVbstを算出するための計算式は、下記数式(1)、数式(2)及び数式(3)として示される。
【0078】
CVrst=σrst/mrst ・・・(1)
CVgst=σgst/mgst ・・・(2)
CVbst=σbst/mbst ・・・(3)
上記数式(1)、数式(2)及び数式(3)により算出される変動係数CVrst、CVgst及びCVbstにより、撮像対象に対して供給される照明光量の違い等による影響によらず、テクスチャ構造による画素変動の程度を数値化することができる。CVrst、CVgst及びCVbstの各値は、例えば、拡大観察を行っていない状態である、通常観察において撮像された胃粘膜のような、画像上における構造が比較的平坦な領域においては、明瞭なテクスチャ構造がないため、略同様に小さな値をとる。一方、CVrst、CVgst及びCVbstの各値は、例えば、小腸の絨毛のような、画像上における構造にエッジを比較的多く含む領域においては、略同様に大きな値をとる。
【0079】
なお、本実施形態の制御部9aが行う以降の処理においては、色調情報及びテクスチャ情報を有する5つの特徴量を使用するが、この特徴量を構成する値は、ユーザの用途等に応じ、適宜変更または追加することが可能である。例えば、制御部9aは、色調情報としてのμgstの値及びμbstの値に代わり、色度として示される値である、各領域の各画素におけるrik、gik及びbikの比率、すなわち、rik/(rik+gik+bik)、gik/(rik+gik+bik)及びbik/(rik+gik+bik)の値を使用して以降の処理を行うものであっても良い。
【0080】
そして、制御部9aは、色調情報及びテクスチャ情報からなる5つの特徴量、すなわち、μgst、μbst、CVrst、CVgst及びCVbstの各値を、ハレーション画素及び暗部画素を除いた各画素のRGB値に基づき、(m×n)個の領域Hst各々において算出する。なお、本実施形態においては、一の領域Hstが有する、(lx×ly)個の画素において、例えば、ハレーション画素の個数と、暗部画素の個数との和が占める割合が50%を超えた場合、一の領域Hstを以降の処理から除外するような制御が行われるものであっても良い。
【0081】
その後、制御部9aは、分割した領域Hstにおいて各々算出された5個の特徴量に基づく識別分類を実行することにより、領域毎の撮像対象が何であるかを識別した後、該識別結果に基づいて領域Hstを各々分類する。
【0082】
具体的には、まず、制御部9aは、胃粘膜、絨毛、便及び泡からなる4つのクラス(群またはカテゴリとも呼ぶ)の教師データを構成する画像として予め用意された、例えば、図13、図14、図15及び図16に示すような画像に基づき、該画像の一の領域各々において都度決定される、前述した5個の特徴量を算出した後、該4つのクラス各々についての線形判別関数を作成する。そして、制御部9aは、前述した手順により算出した、識別器としての線形判別関数を用い、例えば、胃粘膜、絨毛、便及び泡からなる4つのクラスのうち、一の領域Hstがどのクラスに属するかを識別し、該識別結果に基づく分類を行う。制御部9aは、以上に述べたような識別及び分類を画像Iiが有する領域Hst全てに対して行うことにより、例えば、図17に示すような画像が入力された場合、図18に示すような、絨毛と泡とが分類されたような分類結果を得る(図11のステップS4)。
【0083】
なお、本実施形態の制御部9aが画像の一の領域各々に対し、識別器を用いて行う識別及び分類は、線形判別関数によるものに限るものではなく、例えば、2次分類規則、ニューラルネットワーク等の手法によるものであっても良い。また、本実施形態においては、制御部9aは、胃粘膜、絨毛、便及び泡の4クラスのいずれかということとして、入力される画像の一の領域各々に対する識別及び分類を行ったが、分類されるクラスの数及び種類は、ユーザの用途等に応じ、適宜変更または追加することが可能である。制御部9aは、前述した4クラスに加え、例えば、食道あるいは大腸粘膜の分類を行うものであっても良いし、また、十二指腸と絨毛とを別のクラスとして扱った上において分類を行うものであっても良い。
【0084】
さらに、制御部9aは、前述した分類結果に基づき、生体粘膜表面として分類された、すなわち、胃粘膜または絨毛として分類された領域数の合計数zが画像Iiの全領域数(m×n)に占める割合pの値を、下記数式(4)に基づいて算出する(図11のステップS5)。
【0085】
p=z/(m×n) ・・・(4)
そして、制御部9aは、画像Iiが生体粘膜表面を十分に撮像されている画像か否かを識別するため、数式(4)により算出された割合pの値と、閾値thrとの比較を行う。制御部9aは、画像Iiにおける割合pの値が、閾値thrより大きいことを検出する(図11のステップS6)と、画像Iiを、生体粘膜表面が十分に撮像されている画像である、すなわち、観察が必要な画像として識別及び分類し、参照値としてのフラグ値flagiを1とする(図11のステップS7)。なお、本実施形態においては、例えば、閾値thrの値は0.5であるとする。
【0086】
また、制御部9aは、画像Iiにおける割合pの値が、閾値thr以下であることを検出する(図11のステップS6)と、画像Iiを、便及び泡により生体粘膜表面が十分に撮像されていない画像である、すなわち、観察が不必要な画像として識別及び分類し、フラグ値flagiを0とする(図11のステップS8)。
【0087】
その後、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図11のステップS9)、画像番号iに1を加え(図11のステップS10)、次の画像について、図11のステップS1からステップS9までに示す処理を引き続き行う。
【0088】
制御部9aは、以上に述べたような処理を行うことにより、ユーザが撮像対象の像の観察を行う際に、フラグ値flagiの値に基づき、例えば、フラグ値flagiが1である、観察が必要な画像のみをディスプレイ8cに表示し、また、フラグ値flagiが0である、観察が不必要な画像をディスプレイ8cに非表示とすることができる。なお、制御部9aは、フラグ値flagiが0である、観察が不必要な画像を削除することにより、記憶する画像データのサイズを削減するようにしても良い。
【0089】
また、以上に述べた処理のうち、図11のステップS5に示す処理において、制御部9aは、胃粘膜または絨毛として分類された領域数を合計した値zから割合pを算出した。しかし、制御部9aが行う処理は、このようなものに限るものではなく、例えば、以下に記すような、胃粘膜として分類された領域数z1と、絨毛として分類された領域数z2とを個別に扱うようなものであっても良い。
【0090】
その場合、制御部9aは、図11のステップS5に示す処理において、胃粘膜または絨毛として分類された領域数の合計数(z1+z2)が画像Iiの全領域数(m×n)に占める割合pの値を、下記数式(5)に基づいて算出する。
【0091】
p=(z1+z2)/(m×n) ・・・(5)
また、制御部9aは、各々のクラスに分類された領域数に基づき、該領域数が画像Iiの全領域数(m×n)に占める割合を、クラス毎に個別に算出するような処理を行うものであっても良い。
【0092】
まず、制御部9aは、図11のステップS1からステップS4までの処理を行うことにより、画像Iiが有する領域Hst全てに対しての分類結果を得る(図19のステップS11)。そして、胃粘膜として分類された領域数をz1、絨毛として分類された領域数をz2、便として分類された領域数をz3とすると、制御部9aは、上記数式(4)に基づき、胃粘膜として分類された領域数z1が画像Iiの全領域数(m×n)に占める割合p1と、絨毛として分類された領域数z2が画像Iiの全領域数(m×n)に占める割合p2と、便として分類された領域数z3が画像Iiの全領域数(m×n)に占める割合p3とを各々算出する(図19のステップS12)。
【0093】
そして、制御部9aは、割合p1の値と、閾値thr1との比較を行う。制御部9aは、画像Iiにおける割合p1の値が、閾値thr1より大きいことを検出する(図19のステップS13)と、画像Iiを、被写体として胃が撮像されたものであるとして識別及び分類する(図19のステップS14)。なお、本実施形態においては、例えば、閾値thr1の値は0.8であるとする。
【0094】
また、制御部9aは、画像Iiにおける割合p1の値が、閾値thr1以下であることを検出する(図11のステップS13)と、今度は、割合p2の値と、閾値thr2との比較を行う。制御部9aは、画像Iiにおける割合p2の値が、閾値thr2より大きいことを検出する(図19のステップS15)と、画像Iiを、被写体として小腸(の絨毛)が撮像されたものであるとして識別及び分類する(図19のステップS16)。なお、本実施形態においては、例えば、閾値thr2の値は0.8であるとする。
【0095】
さらに、制御部9aは、画像Iiにおける割合p2の値が、閾値thr2以下であることを検出する(図11のステップS15)と、今度は、割合p3の値と、閾値thr3との比較を行う。制御部9aは、画像Iiにおける割合p3の値が、閾値thr3より大きいことを検出する(図19のステップS17)と、画像Ii中における便の占める割合が大きいことから、画像Iiを、被写体として大腸が撮像されたものであるとして識別及び分類する(図19のステップS18)。なお、本実施形態においては、例えば、閾値thr3の値は0.8であるとする。
【0096】
その後、制御部9aは、以上までの処理において、胃粘膜、絨毛及び便のいずれの画像としても識別及び分類されなかった画像に対しての識別及び分類を保留する。そして、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図19のステップS19)、画像番号iに1を加え(図19のステップS20)、次の画像について、図19のステップS11からステップS19までに示す処理を引き続き行う。
【0097】
制御部9aは、以上に述べた、図19のステップS11からステップS19までの処理を行うことにより、小腸が撮像された画像及び大腸が撮像された画像として識別及び分類された画像を各々特定する。換言すると、制御部9aは、以上に述べた、図19のステップS11からステップS19までの処理を行うことにより、被写体として撮像された臓器が胃、小腸または大腸のいずれであるかを検出することができる。
【0098】
また、ユーザが撮像対象の像の観察を行う際には、図20に示すような、グラフィックインターフェース(GUI)を備えたビュアーが端末装置7のディスプレイ8cに表示される。図20に示すビュワーのメイン画面(ウィンドウ)101は、撮像対象の像の画像が表示される画像表示部102と、患者及び検査内容についての情報が表示される患者/検査情報表示部103と、画像の枚数等が表示される画像情報表示部104と、画像表示部102に対する表示制御を行う画像表示制御部105と、スライダ106とを有している。
【0099】
スライダ106は、図示しないマウスカーソルを用いた指示が行われることにより、該指示に基づく所望の画像を画像表示部102に表示する機能を有している。また、このスライダ106は、小腸が撮像された画像及び大腸が撮像された画像の開始位置を指し示すための案内表示部107を有する。そのため、ユーザは、例えば、小腸出血を最も疑う症例については、小腸を優先的かつ効率的に観察するといったような、体腔内の所望の部位の観察を容易に行うことができる。また、図20に示すビュワーのメイン画面101においては、例えば、図示しない「小腸」等の記載がなされたボタンが設けられていても良い。この場合、ユーザは、前記ボタンを図示しないマウスカーソルを用いてクリックすることにより、小腸が撮像された画像を直接表示して観察を行うことができる。
【0100】
なお、本実施形態の画像処理方法においては、端末装置7の制御部9aは、画像Iiを、x軸方向の画素数lx×y軸方向の画素数lyからなる矩形領域に分割したが、さらに、例えば、x軸方向の画素数lx/2及びy軸方向の画素数ly/2の大きさからなる領域を該矩形領域に重複させて同様の処理を行うものであっても良い。この場合、分類対象となる各クラスの境界が前記矩形領域に含まれた際に生じ得る誤分類を軽減することが可能となる。
【0101】
また、前述したように、端末装置7の制御部9aは、本実施形態の画像処理方法を用いることにより、胃粘膜と絨毛とを個別のクラスとして識別及び分類を行ったが、例えば、胃粘膜及び絨毛を1つのクラスである「生体粘膜表面」として識別及び分類を行った後、さらに、「生体粘膜表面」として分類された領域Hstに対し、胃粘膜及び絨毛の2つのクラスにおける識別及び分類を再度行うものであっても良い。
【0102】
また、カプセル型内視鏡3は、体腔内に配置された後、胃から小腸へと順次進んでゆく。そのため、端末装置7の制御部9aは、得られた分類結果に基づき、例えば、全領域数に対して絨毛に分類された領域の割合が0.7を超えた時点において、胃粘膜クラスへの分類を停止するような処理を行うものであっても良い。
【0103】
また、本実施形態の画像処理方法は、例えば、食道クラス及び大腸クラスを設定することにより、粘膜表面の色調及び模様の違いによる識別器を実現するという用途として用いることも可能である。さらに、本実施形態の画像処理方法は、全領域数に対して便に分類された領域の割合が多く、かつ、全領域数に対して絨毛に分類された領域の割合が少なくなった場合に大腸と識別するような用途として用いることも可能である。
【0104】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、生体粘膜表面とは異なるものである、異物の像としての便及び泡の像とを画像毎に識別及び分類し、観察が必要な画像のみをディスプレイ8cに表示することができる。そのため、ユーザは、生体粘膜表面の像が良好に撮像されていない画像が除外された状態において体腔内の観察を行うことができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0105】
また、以上に述べた本実施形態の画像処理方法は、出血、発赤等の病変部位の検出を行う画像処理方法と組み合わせて用いられることにより、病変部位の検出結果が生体粘膜表面上から得られたものであるか否かを判定でき、その結果、病変部位の検出精度を高めることができる。例えば、端末装置7の制御部9aは、出血、発赤等の病変部位の検出を行う画像処理方法により、病変が疑われる領域として抽出された領域Hstの分類結果を参照し、該分類結果が便、泡等の非生体粘膜表面像である場合には誤検出として扱うことにより、病変部位の検出精度を高めることができる。
【0106】
また、本実施形態によれば、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる。
【0107】
(第2の実施形態)
図21は、本発明の第2の実施形態に係るものである。なお、第1の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0108】
図21は、本実施形態に係る画像処理動作を示すフローチャートである。
【0109】
まず、制御部9aは、入力されたi番目の画像Iiを構成するRi、Gi及びBiの各プレーンに対し、前処理として、例えば、メディアンフィルタリングによるノイズ除去及び逆γ補正を行うと共に、ハレーション画素及び暗部画素を以降の処理対象から除外するため、閾値に基づく処理により検出しておく(図21のステップS21)。そして、前記閾値に基づく処理は、例えば、rik、gik及びbikの濃度値の全てが10以下の値であれば暗部画素、また、rik、gik及びbikの濃度値の全てが230以上の値であればハレーション画素とするような処理として行われる。
【0110】
その後、制御部9aは、Ri、Gi及びBiの各プレーンを小領域に分割する(図21のステップS22)。なお、本実施形態において、制御部9aは、第1の実施形態において行った方法と同様に、Ri、Gi及びBiの各プレーンを、x軸方向の画素数lx×y軸方向の画素数ly(1≦lx、1≦ly)からなる矩形領域に分割するものとし、その領域数は(m×n)個(m=ISX/lx、n=ISY/ly)であるものとする。また、制御部9aは、mまたはnが整数とならない場合においては、大きさが端数となる最端部の領域を、端数の画素数を有する領域として処理するか、または以降の処理対象から除外するものとする。
【0111】
制御部9aは、分割した各領域において、撮像対象の像の画像上における色の違いを反映する色調情報、及び撮像対象の像の画像上における構造の違いを反映するテクスチャ情報を特徴量として算出する(図21のステップS23)。なお、本実施形態の画像処理方法においては、制御部9aにおいて分割された領域のうち、一の領域をHj(1≦j≦m×n)と示すものとする。
【0112】
本実施形態において、制御部9aが算出する色調情報は、一の領域Hjに含まれる各画素のRGB値の比に基づく値としての、gik/rikの平均値(以降、μgjと記す)及びbik/rikの平均値(以降、μbjと記す)からなる、2つの特徴量として示される値である。なお、μgj及びμbjの各値は、0から1の値をとるものとする。また、μgj及びμbjの各値は、例えば、胃粘膜のような比較的赤色調を示す領域においては、略同様に小さな値をとる。一方、μgj及びμbjの各値は、例えば、小腸のような比較的白色調を示す領域においては、略同様に大きな値をとる。また、μgj及びμbjの各値は、例えば、便のような比較的黄色調を示す領域においては、μgj>μbjとなるような値をとる。
【0113】
本実施形態において、制御部9aが算出するテクスチャ情報は、前述したように、撮像対象の像の画像上における構造の違いを反映するものである。そして、撮像対象の像の画像上における構造は、例えば、粘膜表面における絨毛等の微細構造、及び便が有する不定形な模様等として示されるものである。具体的には、制御部9aが算出するテクスチャ情報は、一の領域Hjに含まれる各画素のRGB値の標準偏差σrj、σgj及びσbjを、一の領域Hjに含まれる各画素のRGB値の平均値mrj、mgj及びmbjで除したものである、3つの特徴量として示されるRGB値の変動係数CVrj、CVgj及びCVbjである。なお、変動係数CVrj、CVgj及びCVbjを算出するための計算式は、下記数式(6)、数式(7)及び数式(8)として示される。
【0114】
CVrj=σrj/mrj ・・・(6)
CVgj=σgj/mgj ・・・(7)
CVbj=σbj/mbj ・・・(8)
上記数式(6)、数式(7)及び数式(8)により算出される変動係数CVrj、CVgj及びCVbjにより、撮像対象に対して供給される照明光量の違い等による影響によらず、テクスチャ構造による画素変動の程度を数値化することができる。CVrj、CVgj及びCVbjの各値は、例えば、拡大観察を行っていない状態である、通常観察において撮像された胃粘膜のような、画像上における構造が比較的平坦な領域においては、明瞭なテクスチャ構造がないため、略同様に小さな値をとる。一方、CVrj、CVgj及びCVbjの各値は、例えば、小腸の絨毛のような、画像上における構造にエッジを比較的多く含む領域においては、略同様に大きな値をとる。
【0115】
そして、制御部9aは、色調情報及びテクスチャ情報からなる5つの特徴量、すなわち、μgj、μbj、CVrj、CVgj及びCVbjの各値を、ハレーション画素及び暗部画素を除いた各画素のRGB値に基づき、(m×n)個の領域Hj各々において算出する。なお、本実施形態においては、一の領域Hjが有する、(lx×ly)個の画素において、例えば、ハレーション画素の個数と、暗部画素の個数との和が占める割合が50%を超えた場合、一の領域Hjを以降の処理から除外するような制御が行われるものであっても良い。
【0116】
その後、制御部9aは、以降に説明する処理を行うため、一の領域Hjの領域番号jをj=1とする(図21のステップS24)。そして、制御部9aは、ベイズの定理に基づく統計的識別器を用い、胃粘膜、絨毛、便及び泡からなる4つのクラスのうち、一の領域Hjがどのクラスに属するかを識別し、該識別結果に基づく分類を行う。
【0117】
具体的には、4つのクラスの識別及び分類において、一のクラスωa(a=1、2、…、C、Cはクラス数を示す)が発生する事前確率をP(ωa)とし、一の領域Hjにおける5つの特徴量から決定された特徴ベクトルをxとし、全クラスからの特徴ベクトルxの発生確率に基づく確率密度関数をp(x)とし、一のクラスωaからの特徴ベクトルxの発生確率に基づく状態依存確率密度(多変量正規確率密度)関数をp(x|ωa)とすると、発生した特徴ベクトルxが一のクラスωaに属する事後確率P(ωa|x)を算出するための計算式は、下記数式(9)として示される。
【0118】
なお、状態依存確率密度関数p(x|ωa)及び確率密度関数p(x)は、下記数式(10)及び数式(11)として示される。
【0119】
なお、上記数式(10)及び数式(11)において、dはxの特徴量の個数と同数である次元数を示し、μa及びΣaはクラスωaにおける特徴ベクトルxの平均ベクトル及び一のクラスωaにおける分散共分散行列を示すものとする。また、(x−μa)tは(x−μa)の転置行列を示し、|Σa|はΣaの行列式を示し、Σa−1はΣaの逆行列を示すものとする。さらに、説明の簡単のため、事前確率P(ωa)は、全クラスにおいて等しい値をとると仮定し、また、確率密度関数p(x)は、上記数式(11)により全クラス共通の関数として表されるものとする。
【0120】
分類基準としての平均ベクトルμa及び分散共分散行列Σaは、一のクラスωaにおける母数を構成する要素であり、1番目の画像I1が端末装置7に入力される以前の段階において、胃粘膜、絨毛、便及び泡からなる4つのクラスの教師データを構成する複数の画像、例えば、図13、図14、図15及び図16に示すような画像に基づき、該画像の一の領域各々において都度決定される特徴ベクトルxから、クラス毎に予め算出された後、初期値として端末装置7に各々記憶される。
【0121】
なお、平均ベクトルμaは、特徴ベクトルxが有する5つの特徴量各々の平均値からなり、かつ、特徴ベクトルxと同一の次元数を有するベクトルである。すなわち、特徴ベクトルxがx=(x1,x2,x3,x4,x5)として表される場合、平均ベクトルμaは、特徴ベクトルxが有する5つの特徴量各々の平均値である、μx1、μx2、μx3、μx4及びμx5を用いて、μa=(μx1,μx2,μx3,μx4,μx5)として表されるものとする。また、分散共分散行列Σaは、一のクラスωaに属する特徴ベクトルxの分布のバラツキ及び広がり具合を示す行列であり、特徴ベクトルxの特徴量の個数と同数である次元数dに対し、d×d行列として表されるものとする。
【0122】
制御部9aは、発生した特徴ベクトルxがクラスω1に属する事後確率P(ω1|x)と、発生した特徴ベクトルxがクラスω2に属する事後確率P(ω2|x)と、発生した特徴ベクトルxがクラスω3に属する事後確率P(ω3|x)と、発生した特徴ベクトルxがクラスω4に属する事後確率P(ω4|x)とを、ベイズの定理に基づいた上記数式(9)から数式(11)を用いて各々算出する。そして、制御部9aは、これら4つの事後確率のうち、最大の事後確率P1(ωa|x)を与えるクラスωaに特徴ベクトルxが属するものとして識別を行い、該識別結果に基づいて特徴ベクトルxが発生した領域である一の領域Hjをクラスωaに分類する(図21のステップS25)と共に、最大の事後確率P1(ωa|x)を与える確率密度関数p1(x|ωa)の値を算出する。
【0123】
そして、制御部9aは、以上までの処理において、クラスωaに分類された一の領域Hjの分類結果が正確なものであるか否かを判定するため、平均値からの距離に基づく処理、すなわち、最大の事後確率P1(ωa|x)を与える確率密度関数p1(x|ωa)の値に対する閾値に基づく処理をさらに行う。
【0124】
具体的には、まず、制御部9aは、平均ベクトルμaが有する5つの特徴量各々の平均値のうち、例えば、特徴量x1の平均値μx1に対し、特徴量x1の標準偏差σx1と、所定の定数としての乗算係数αとの積を加えた値を含む、閾値ベクトルxb1を決定する。なお、このような閾値ベクトルxb1は、例えば、下記数式(12)として示されるものであり、また、本実施形態においては、乗算係数αの値は1.5であるとする。
【0125】
xb1=(μx1+α×σx1,μx2,μx3,μx4,μx5) ・・・(12)
上記数式(12)により閾値ベクトルxb1が決定されると、制御部9aは、閾値ベクトルxb1を上記数式(9)、数式(10)及び数式(11)のxとして代入し、一の領域Hjが分類されたクラスωaの閾値としての、確率密度関数p(xb1|ωa)の値を算出する。
【0126】
そして、制御部9aは、p1(x|ωa)の値がp(xb1|ωa)の値より大きいことを検出する(図21のステップS26)と、図21のステップS25に示す処理において、一の領域Hjをクラスωaに分類した分類結果が正確であると判断する(図21のステップS27)。
【0127】
また、制御部9aは、p1(x|ωa)の値がp(xb1|ωa)の値以下であることを検出する(図21のステップS26)と、図21のステップS25に示す処理において、一の領域Hjをクラスωaに分類した分類結果が不正確であると判断し、一の領域Hjを不明クラスに分類する(図21のステップS28)。
【0128】
そして、制御部9aは、分割した(m×n)個の領域全てについての分類が完了していない場合(図21のステップS29)、領域番号jに1を加え(図21のステップS30)、次の領域について、図21のステップS25からステップS29までに示す処理を行う。
【0129】
また、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図21のステップS31)、画像番号iに1を加え(図21のステップS32)、次の画像について、図21のステップS21からステップS31までに示す処理を引き続き行う。
【0130】
また、以上の説明においては、色調情報及びテクスチャ情報に基づく5個の特徴量の全てを一度に用いて特徴ベクトルxを決定するような、5次元の多変量正規確率密度を規定する場合について述べた。しかし、本実施形態における画像処理方法においては、例えば、色調情報及びテクスチャ情報についての各々の特徴量を個別に用いて2種類の特徴ベクトルxc及びxtを決定し、1つのクラスにつき2個の多変量正規確率密度を規定することにより、画像の分類をさらに高精度に行うことができる。
【0131】
具体的には、まず、制御部9aは、色調情報を構成する2個の特徴量μgj及びμbjについての状態依存確率密度関数をpc(xc|ωa)として、また、テクスチャ情報を構成する3個の特徴量CVrj、CVgj及びCVbjについての状態依存確率密度関数をpt(xt|ωa)として各々算出する。なお、xcは、xc=(μgj,μbj)として表される2次元のベクトルであり、また、xtは、xt=(Cvrj、Cvgj、Cvbj)として表される3次元のベクトルである。
【0132】
制御部9aは、これら2つの状態依存確率密度関数pc(xc|ωa)及びpt(xt|ωa)を用いて数式(10)に基づく事後確率Pc(ωa|xc)及びPt(ωa|xt)を算出した後、最終的な事後確率P(ωa|x)を下記数式(13)により算出する。
【0133】
P(ωa|x)=Pc(ωa|xc)×Pt(ωa|xt) ・・・(13)
また、クラスωaへの分類結果の正確性を判断するための閾値は、色調情報及びテクスチャ情報の特徴量各々の平均ベクトルμc及びμtと、標準偏差σc1及びσt1に基づき、例えば、p(xcb|ωa)及びp(xtb|ωa)として設定される。そして、制御部9aは、p1(xc|ωa)>p(xcb|ωa)であり、かつ、p1(xt|ωa)>p(xtb|ωa)であれば、分類結果は正確であるとして、特徴ベクトルxc及び特徴ベクトルxtを有する一の領域Hjを、胃粘膜、絨毛、便または泡のいずれかのクラスとして分類し、そうでなければ不明クラスとして分類する。
【0134】
なお、以上の説明において、事前確率P(ωa)は、全クラスにおいて等しいと仮定したが、これに限るものではない。事前確率P(ωa)は、例えば、カプセル型内視鏡3が撮像する部位の時間配分に基づき、絨毛クラスまたは便クラスの事前確率P(ωa)を高めに設定したり、カプセル型内視鏡3が撮像した部位の誤分類によるリスクに基づき、胃粘膜クラス及び絨毛クラスの事前確率P(ωa)を、観察不要とする便クラス及び泡クラスより高めに設定したり等、種々の用途に応じた値に設定されるものであっても良い。
【0135】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像の小領域毎に識別及び分類することができる。そのため、ユーザは、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0136】
さらに、本実施形態における画像処理方法によれば、例えば、特徴量が分類対象クラスの分布境界または分布重複範囲に該当する等の理由により、確実な分類が困難となるような画像が存在する場合、該画像を不明クラスとして分類することができる。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、信頼性の高い画像分類結果を得ることができる。
【0137】
(第3の実施形態)
図22は、本発明の第3の実施形態に係るものである。なお、第1の実施形態及び第2の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態及び第2の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態及び第2の実施形態の形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0138】
図22は、本実施形態に係る画像処理動作を示すフローチャートである。
【0139】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiに対し、第2の実施形態において説明した、図21に示す、ステップS21からステップS30までの処理を行い、画像Iiについての分類結果を得る(図22のステップS41)。なお、本実施形態において、図22のステップS41に示す処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。
【0140】
そして、制御部9aは、画像Iiについての分類結果に基づき、絨毛クラスに分類された領域数が画像Iiの全領域数(m×n)に占める割合Jの値を算出する(図22のステップS42)。なお、割合Jは、具体的には、例えば、上記数式(4)におけるpをJに、また、zを絨毛クラスに分類された領域数zaをzに置換することにより算出される値である。
【0141】
その後、制御部9aは、割合Jの値と閾値thrJとの比較を行う。制御部9aは、画像Iiにおける割合pの値が、閾値thrJより大きいことを検出する(図22のステップS43)と、画像Iiの各領域Hjにおいて、胃粘膜クラスに分類されていた領域を絨毛クラスとして再分類する(図22のステップS44)。なお、本実施形態においては、例えば、閾値thrJの値は0.5であるとする。
【0142】
また、制御部9aは、画像Iiにおける割合pの値が、閾値thrJ以下であることを検出する(図22のステップS43)と、画像Iiの各領域Hjにおいて、絨毛クラスに分類されていた領域を胃粘膜クラスとして再分類する(図22のステップS45)。
【0143】
そして、制御部9aは、画像Iiについての、前述したような処理による再分類が完了すると、今度は(i+1)番目の画像Ii+1に対し、図22のステップS41からの一連の処理を行う(図22のステップS46)。
【0144】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0145】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、分類結果を得た画像に対し、さらに、胃粘膜及び絨毛の各クラスに分類された領域Hjを排他的に置換して再分類するような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、一の画像内に混在して存在し得ないような、胃粘膜の像の画像と(小腸の)絨毛の像の画像との分類を行う場合における誤分類を無くすことができ、その結果、精度の高い画像分類結果を得ることができる。
【0146】
(第4の実施形態)
図23は、本発明の第4の実施形態に係るものである。なお、第1の実施形態から第3の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第3の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第3の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0147】
図23は、本実施形態に係る画像処理動作を示すフローチャートである。
【0148】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiに対し、第2の実施形態において説明した、図21に示す、ステップS21からステップS30までの処理を行い、画像Iiについての分類結果を得る(図23のステップS51)。なお、本実施形態において、図23のステップS51に示す処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が便クラス、泡クラス、不明クラス及び生体粘膜クラスからなる4つのクラスのいずれかに分類されたような分類結果であるとする。
【0149】
その後、制御部9aは、以降に説明する処理を行うため、一の領域Hjの領域番号jをj=1とする(図23のステップS52)。そして、制御部9aは、画像Iiについての分類結果から、領域Hjを生体粘膜クラスに分類したか否かを判定する(図23のステップS53)。
【0150】
制御部9aは、領域Hjを生体粘膜クラスに分類したことを検出すると、教師データを構成する胃粘膜の画像及び絨毛の画像が各々有する特徴量に基づいて算出された平均ベクトルμa及び分散共分散行列Σaが代入された上記数式(9)から数式(11)を用い、該領域Hjにおいて発生した特徴ベクトルxが胃粘膜クラス(a=1とする)に属する事後確率P(ω1|x)と、発生した特徴ベクトルxが絨毛クラス(a=2とする)に属する事後確率P(ω2|x)とを各々算出する。そして、制御部9aは、これら2つの事後確率のうち、最大の事後確率P2(ωa|x)を与えるクラスに特徴ベクトルxが属するものとして識別を行い、該識別結果に基づいて特徴ベクトルxが発生した領域である一の領域Hjを胃粘膜クラスまたは絨毛クラスのいずれかに分類する(図23のステップS54)。
【0151】
そして、制御部9aは、分割した(m×n)個の領域全てについての分類が完了していない場合(図23のステップS55)、領域番号jに1を加え(図23のステップS56)、次の領域について、図23のステップS53からステップS55までに示す処理を行う。
【0152】
また、制御部9aは、画像Iiについての、前述したような処理による分類を完了すると、今度は(i+1)番目の画像Ii+1に対し、図23のステップS51からの一連の処理を行う(図23のステップS57)。
【0153】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0154】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、分類結果を得た画像に対し、さらに、生体粘膜クラスに分類された領域Hjを、胃粘膜クラスまたは絨毛クラスとして再分類するような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、胃粘膜の像の画像と(小腸の)絨毛の像の画像との分類を高精度に行うことができる。そして、端末装置7の制御部9aは、本実施形態における画像処理方法と、第3の実施形態における画像処理方法と組み合わせて用いることにより、胃粘膜の像の画像と(小腸の)絨毛の像の画像とがさらに高精度に分類されたような分類結果を得ることができる。
【0155】
なお、本発明における第1の実施形態から第4の実施形態において説明した画像処理方法は、カプセル型内視鏡装置1のカプセル型内視鏡3が撮像した像の画像に対して用いられるものに限らず、例えば、撮像素子及び対物光学系を挿入部の先端部に有するような内視鏡を有する内視鏡装置が撮像した像の画像に対して用いられるものであっても良い。
【0156】
(第5の実施形態)
図24及び図25は、本発明の第5の実施形態に係るものである。なお、第1の実施形態から第4の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第4の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。また、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第4の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。さらに、本実施形態においては、制御部9aは、端末装置7に予め入力された状態の一連の画像に対し、以降に説明する画像処理を用いるものとする。
【0157】
図24は、本実施形態に係る画像処理動作の一部を示すフローチャートである。図25は、本実施形態に係る画像処理動作の一部として、図24のフローチャートに示す処理が行われた後に行われる、画像の表示制御動作を示すフローチャートである。
【0158】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、全部でN枚(1≦N)からなる画像のうち、入力されたi番目の画像Ii(I1≦Ii≦IN)についての分類結果を得る(図24のステップS61)。なお、本実施形態において、制御部9aは、画像Iiについての分類結果を得るための処理方法として、例えば、図11に示すステップS1からステップS4までの処理、または図21に示すステップS21からステップS30までの処理のうち、いずれの処理方法を用いるものであっても良い。また、画像Iiについての分類結果を得るための処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。さらに、制御部9aは、画像Iiについての分類結果を得るための処理を行う際に、一の領域において、極端な暗部あるいはハレーション等の画素数が所定の閾値以上含まれることを検出した場合、例えば、該一の領域を便クラス、泡クラスまたは不明クラスのいずれかとして分類するものであっても良い。
【0159】
そして、制御部9aは、図24のステップS61の処理により得た分類結果に基づき、例えば、便クラス、泡クラス及び不明クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合Kを算出する(図24のステップS62)。その後、制御部9aは、割合Kの値と閾値thlx(本実施形態においては、例えば0.7とする)との比較を行うことにより、画像Iiが観察不要の画像であるか否かを判定する。なお、前述したような判定を行うための処理において、制御部9aが得た分類結果に不明クラスの分類結果が含まれない場合、制御部9aは、便クラス及び泡クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合K1を算出した後、割合K1の値と閾値thlxとの比較を行うものであっても良い。また、前述したような判定を行うための処理においては、制御部9aは、胃粘膜クラス及び絨毛クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合K2を算出した後、割合K2の値と閾値thly(例えば0.3とする)との比較を行うものであっても良い。なお、閾値thlx及び閾値thlyは、予め固定された値に限るものではなく、例えば、端末装置7の操作により、ユーザが所望の値を設定できるものであっても良い。これにより、ユーザは、どの程度生体粘膜表面が撮像された画像を観察対象とするかを選択することができる。そのため、ユーザは、例えば、病変発見のためにスクリーニング検査を行う場合には観察効率を重視し、精密検査を行う場合にはより詳細に多くの画像を観察するといったように、用途に応じて使い分けるような処理として、制御部9aに本実施形態の画像処理方法を実行させることができる。
【0160】
その後、制御部9aは、画像Iiにおける割合Kの値が、閾値thlx以上であることを検出する(図24のステップS63)と、画像Iiを観察不要の画像であるとし、参照値としてのフラグ値kflagiの値を例えば1とする(図24のステップS64)。
【0161】
また、制御部9aは、画像Iiにおける割合Kの値が、閾値thlxより小さいことを検出する(図24のステップS63)と、画像Iiを観察不要な画像ではないとし、フラグ値kflagiの値を例えば0とする(図24のステップS65)。
【0162】
制御部9aは、以上に述べたような処理により決定されたフラグ値kflagiを、画像Iiに関連付けて保持する(図24のステップS66)。
【0163】
その後、制御部9aは、画像I1から画像INまでの全ての画像について、前述したような処理による分類を行ったかどうかを判定し(図24のステップS67)、全ての画像について分類が行われていない場合、今度は(i+1)番目の画像Ii+1に対し、図24のステップS61からの一連の処理を行う(図24のステップS68)。また、制御部9aは、画像I1から画像INまでの全ての画像について、前述したような処理による分類を行った場合、端末装置7に予め入力された状態の一連の画像に対しての処理を完了する(図24のステップS69)。
【0164】
次に、前述したような処理により分類された画像I1から画像INまでの一連の画像を、例えば、ユーザが画像I1(画像番号i=1の画像)から順次観察すると想定した場合、制御部9aは、画像Iiに関連付けて保持したフラグ値kflagiの値を読み込む(図25のステップS71)。そして、制御部9aは、フラグ値kflagiの値に基づき、画像Iiが観察不要の画像か否かを判定する。
制御部9aは、画像Iiに関連付けられたフラグ値kflagiの値が1である場合(図25のステップS72)、画像Iiをディスプレイ8cに表示させないような表示制御を、端末装置7の各部に対して行う(図25のステップS73)。
【0165】
また、制御部9aは、画像Iiに関連付けられたフラグ値kflagiの値が1でない場合、すなわち、フラグ値kflagiの値が0である場合(図25のステップS72)、画像Iiをディスプレイ8cに表示させるような表示制御を、端末装置7の各部に対して行う(図25のステップS74)。
【0166】
その後、制御部9aは、画像Iiから画像INまでの全ての画像について、前述したような表示制御処理を行ったかどうかを判定し(図25のステップS75)、全ての画像について処理が行われていない場合、画像番号iに1を加えた後、次の画像Ii+1に対し、図25のステップS71からの一連の処理を行う(図25のステップS76)。また、制御部9aは、画像I1から画像INまでの全ての画像について前述したような表示制御処理を行った場合、ユーザが画像I1から画像INまでの一連の画像を順次観察し終えたものであるとし、表示制御処理を完了する(図25のステップS77)。
【0167】
なお、以上に述べた画像処理方法は、画像I1から画像INまでの一連の画像を、ユーザが画像I1から順次観察する場合についてのみに用いられるものに限らず、例えば、画像I1から画像INまでの一連の画像のうち、ユーザが所望の画像を選択して観察する場合について用いられるものであっても良い。また、以上に述べた画像処理方法において、制御部9aは、観察不要の画像として分類した画像を記憶しないように端末装置7の各部に制御を行っても良いし、また、観察不要の画像として分類した後、図示しない記憶手段に記憶させた画像を削除するように端末装置7の各部に制御を行っても良い。
【0168】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像毎に識別及び分類し、観察が必要な画像のみをディスプレイ8cに表示することができる。そのため、ユーザは、生体粘膜表面の像が良好に撮像されていない画像が除外された状態において体腔内の観察を行うことができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0169】
(第6の実施形態)
図26から図31は、本発明の第6の実施形態に係るものである。なお、第1の実施形態から第5の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第5の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。また、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第5の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0170】
図26は、本実施形態に係る画像処理動作の一部を示すフローチャートである。図27は、図26の処理に引き続いて行われる、本実施形態に係る画像処理動作の一部を示すフローチャートである。図28は、図27の処理に引き続いて行われる、本実施形態に係る画像処理動作の一部を示すフローチャートである。図29は、本実施形態に係る画像処理動作において、エッジ特徴量(エッジ特徴ベクトルとも記す)を決定する際に指標となる8つの方向を示す図である。図30は、本実施形態に係る画像処理動作において設定される、中心領域と最外周領域との位置関係を示す図である。図31は、本実施形態に係る画像処理動作において設定される、エッジ特徴ベクトルの方向と、ベクトルVlの方向とがなす角度を示す図である。
【0171】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiについての分類結果を得る(図26のステップS81)。なお、本実施形態において、制御部9aは、画像Iiについての分類結果を得るための処理方法として、例えば、図11に示すステップS1からステップS4までの処理、または図21に示すステップS21からステップS30までの処理のうち、いずれの処理方法を用いるものであっても良い。また、画像Iiについての分類結果を得るための処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。さらに、本実施形態において、制御部9aは、図26のステップS81の処理を行う場合、入力されたi番目の画像IiをM×M個の領域Hk(1≦k≦M×M)に分割するものとする。換言すると、制御部9aは、画像Iiの分類結果として、M×M個の領域Hk各々が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果を得るものであるとする。
【0172】
制御部9aは、画像Iiについての分類結果を得た後、M×M個の領域Hk各々におけるG(緑)画素の濃度値の平均値gakを算出する(図26のステップS82)。そして、制御部9aは、領域HkにおけるG画素の濃度値の平均値gakと、領域Hkに隣接する領域Hkt(t≦8)各々におけるG画素の濃度値の平均値gaktとに基づき、G画素の濃度値の変動量Gbtを下記数式(14)により算出する(図26のステップS83)。
【0173】
Gbt=log(gakt)−log(gak) ・・・(14)
制御部9aは、上記数式(14)により得られた、領域Hkt各々におけるGbtの値のうち、最大のものを最大値Gbmとし、また、領域Hktのうち、最大値Gbmを与える領域Hktmが、領域Hkに対して存在する方向をdirGbmとした後、これら2つを領域Hkのエッジ特徴量として保持する(図26のステップS84)。なお、G画素の濃度値の変動量の最大値Gbmを与える領域Hktmが、領域Hkに対して存在する方向は、図29に示す方向1から方向8のうち、いずれか1つの方向として決定されるものであるとする。
【0174】
その後、制御部9aは、最大値Gbmと、閾値thre1との比較を行い(図26のステップS85)、最大値Gbmが閾値thre1よりも大きい場合、領域Hkには画像Iiにおけるエッジが存在すると判定し(図26のステップS86)、また、最大値Gbmが閾値thre1以下である場合、領域Hkには画像Iiにおけるエッジが存在しないと判定する(図26のステップS87)。なお、本実施形態においては、閾値thre1の値は、例えば0.3であるとする。そして、制御部9aは、領域番号kの値に1を加えつつ、(M×M)個の領域Hk全てに対して、図26のステップS83からステップS87に示す、上記数式(14)を用いた処理を繰り返し行うことにより、画像Iiにおいてエッジが存在する領域を特定する(図26のステップS88およびステップS89)。
【0175】
なお、以上に述べたような、画像Iiにおけるエッジを検出するための処理を行う以前の段階において、制御部9aは、画像Iiに対する前処理として、例えば、逆ガンマ補正、シェーディング補正等の処理を行うものであっても良い。
【0176】
制御部9aは、(M×M)個の領域Hk全てに対して前述したような処理を行うことにより、画像Iiにおいてエッジが存在する領域を特定した後、領域Hkを中心領域とする、M1×M1(M1≦M)個の領域からなる配置評価領域を取得する(図27のステップS91)。その後、制御部9aは、配置評価領域を構成する領域のうち、最外周に存在する領域の数である最外周領域数Dを検出する(図27のステップS92)。また、制御部9aは、配置評価領域におけるD個の最外周領域Hkl各々において、領域Hkが存在する方向を向くベクトルであるベクトルVlを算出する(図27のステップS93)。なお、領域Hkと最外周領域Hklとの位置関係は、例えば、図30に示すようなものとなる。
【0177】
制御部9aは、最外周領域Hklとして定められた領域各々が有する、エッジ特徴ベクトルの方向を示すdirGbmと、ベクトルVlの方向とに基づき、図31に示すような、これら2つのベクトルがなす角度θlを算出する(図27のステップS94)。その後、制御部9aは、D個の最外周領域Hklのうち、図26のステップS81からステップS89までの処理においてエッジが存在する領域であると判定され、かつ、θl≦thre2となる領域数Eを検出する(図27のステップS95)。なお、本実施形態においては、閾値thre2の値は、例えば45°であるとする。
【0178】
そして、制御部9aは、E/Dの値を算出し、E/Dの値が閾値thre3よりも大きい場合(図27のステップS96)、領域Hkを、画像Iiにおいて出血部が存在する可能性のある、出血部候補領域であると判定する(図27のステップS97)。また、制御部9aは、E/Dの値が閾値thre3よりも大きい場合(図27のステップS96)、図26のステップS81からステップS89までの処理においてエッジが存在する領域であると判定され、かつ、θl≦thre2を満たすE個の最外周領域Hklを、出血部のエッジが存在する可能性のある、出血部エッジ候補領域であると判定する(図27のステップS97)。
【0179】
なお、本実施形態においては、閾値thre3の値は、例えば0.7であるとする。そして、制御部9aは、領域番号kの値に1を加えつつ、(M×M)個の領域Hk全てに対して、図27のステップS91からステップS97に示す、上記数式(14)を用いた処理を繰り返し行うことにより、画像Iiにおいて、出血部が存在する領域の候補と、出血部のエッジが存在する領域の候補とを特定する(図27のステップS98およびステップS99)。
【0180】
制御部9aは、(M×M)個の領域Hk全てに対して前述したような処理を行うことにより、画像Iiにおける出血部候補領域と、出血部エッジ候補領域とを特定した後、出血部候補領域の領域数Hを検出する(図28のステップS101)。その後、制御部9aは、各々の出血部候補領域に対応する、E個の出血部エッジ候補領域を検出する(図28のステップS102)。
【0181】
そして、制御部9aは、出血部候補領域としての領域Hkに対応する、出血部エッジ候補領域としての最外周領域Hklにおいて、領域Hklとして定められた領域が有するG画素の濃度値の平均値gaklと、領域Hklに隣接する領域Hklt(t≦8)各々におけるG画素の濃度値の平均値gakltとに基づき、G画素の濃度値の変動量Gbltを下記数式(15)により算出する(図28のステップS103)。
【0182】
Gblt=log(gaklt)−log(gakl) ・・・(15)
また、制御部9aは、出血部候補領域としての領域Hkに対応する、出血部エッジ候補領域としての最外周領域Hklにおいて、領域Hklとして定められた領域におけるR(赤)画素の濃度値の平均値raklと、領域Hklに隣接する領域Hklt(t≦8)各々におけるR画素の濃度値の平均値rakltとを算出する。そして、制御部9aは、平均値raklと、平均値rakltと基づき、R画素の濃度値の変動量Rbltを下記数式(16)により算出する(図28のステップS104)。
【0183】
Rblt=log(raklt)−log(rakl) ・・・(16)
制御部9aは、領域Hklとして定められた領域が有する最大値Gbmと、方向dirGbmにおける変動量Rbltとに基づき、カラーエッジ特徴量としてのGbm/Rbltの値を算出する。その後、制御部9aは、E個の領域Hklのうち、Gbm/Rblt>thre4となる領域数Fを検出する(図28のステップS105)。なお、本実施形態においては、閾値thre4の値は、例えば1.0であるとする。また、本実施形態においては、制御部9aが行う処理においてカラーエッジ特徴量として用いる値はGbm/Rbltの値に限るものではない。制御部9aは、前述した処理において、例えば、変動量Rbltと略同様の方法により算出したB画素の濃度値の変動量Bbltに基づき、Gbm/Bbltの値をカラーエッジ特徴量として用いるものであっても良い。
【0184】
そして、制御部9aは、F/Eの値を算出し、F/Eの値が閾値thre5よりも大きい場合(図28のステップS106)、領域Hkを画像Iiにおける出血部であると判定し、また、領域Hklを領域Hkに対応する出血部エッジ領域として判定する(図28のステップS107)。また、制御部9aは、F/Eの値が閾値thre5以下である場合(図28のステップS106)、領域Hkを出血部ではないと判定する(図28のステップS108)。なお、本実施形態においては、閾値thre5の値は、例えば0.7であるとする。そして、制御部9aは、出血部候補領域として検出したH個の領域Hk全てに対して、図28のステップS101からステップS108に示す処理を繰り返し行うことにより、画像Iiにおいて、出血部が存在する領域と、出血部のエッジが存在する領域とを特定する(図28のステップS109およびステップS110)。
【0185】
さらに、制御部9aは、画像Iiにおける出血部が存在する領域を特定すると、図26のステップS81の処理において得た、画像Iiについての分類結果を参照することにより、出血部が存在する領域として特定した領域Hkを、どのクラスに分類したかを検出する(図28のステップS111)。そして、制御部9aは、出血部が存在する領域として特定した領域Hkが胃粘膜クラス、絨毛クラスまたは不明クラスのいずれかとして分類されていることを検出した場合(図28のステップS112)、画像Iiにおける領域Hkの分類結果は正しいものであると判定する(図28のステップS113)。また、制御部9aは、出血部が存在する領域として特定した領域Hkが便クラスまたは泡クラスとして分類されていることを検出した場合(図28のステップS112)、画像Iiにおける領域Hkの分類結果は誤りであると判定する(図28のステップS114)。なお、制御部9aは、出血部が存在する領域として特定した領域Hkが不明クラスとして分類されていることを検出した場合については、領域Hkの分類結果についての正誤の判定を行わず、例えば、「病変部位が撮像されている可能性のある領域」として別途判定を行うものであっても良い。
【0186】
その後、制御部9aは、入力された画像Ii全てについて、前述したような処理を行ったかどうかを判定し(図28のステップS115)、全ての画像について処理が行われていない場合、次の画像Ii+1に対し、図25のステップS71からの一連の処理を行う(図28のステップS116)。また、制御部9aは、入力された画像Ii全てについて前述したような処理を行った場合、処理を完了する(図28のステップS117)。
【0187】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0188】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、画像Ii内の出血部が存在する領域Hkを特定した後、予め得た画像Iiの領域Hkの分類結果に対して正誤判定を行うような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、例えば、便等の異物の像が撮像されている領域に、病変部位としての出血部位が存在するといったような、出血部位の誤検出を防ぐことができ、その結果、従来に比べ、より信頼性の高い病変部位の検出結果を得ることができる。
【0189】
[付記]
以上詳述したような本発明の前記実施形態によれば、以下のような構成を得ることができる。
【0190】
(付記項1)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が生体粘膜表面を撮像した領域であるか否かに基づき分類を行うことを特徴とする画像処理方法。
【0191】
(付記項2)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、いずれにも分類することができない領域とに基づく分類を行うことを特徴とする画像処理方法。
【0192】
(付記項3)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を複数の異なるクラスのいずれかに分類する領域分類ステップと、
前記複数のクラスにおいて混在することを許さない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記医用画像において前記排他クラスの組み合わせのいずれのクラスを優先するかを設定する優先クラス設定ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類し得る場合、前記優先クラス設定ステップで設定されたクラスに分類することを特徴とする画像処理方法。
【0193】
(付記項4)
前記領域分類ステップによる各領域の分類結果に基づき前記医用画像が生体粘膜表面を
撮像したか否かを判定する判定ステップをさらに備えることを特徴とする付記項1乃至付記項3のいずれか一に記載の画像処理方法。
【0194】
(付記項5)
前記判定ステップは前記領域分類ステップによる各領域の分類において生体粘膜表面を撮像したと分類された領域が前記医用画像に対し十分大きな割合を占めた場合に生体粘膜表面を撮像したものと判定することを特徴とする付記項4に記載の画像処理方法。
【0195】
(付記項6)
前記領域分割ステップは前記医用画像を矩形に分割することを特徴とする付記項1乃至付記項5のいずれか一に記載の画像処理方法。
【0196】
(付記項7)
前記特徴量算出ステップは前記分割された各領域における色調または模様に基づく特徴量を算出することを特徴とする付記項1乃至付記項6のいずれか一に記載の画像処理方法。
【0197】
(付記項8)
前記領域分類ステップは識別器による識別ステップを含み前記算出された特徴量に基づく識別分類を行うことを特徴とする付記項1乃至付記項7のいずれか一に記載の画像処理方法。
【0198】
(付記項9)
前記領域分類ステップは統計的識別器は正規確率密度関数に基づく識別を行うことを特徴とする付記項8に記載の画像処理方法。
【0199】
(付記項10)
前記領域分類ステップは前記正規確率密度関数における平均値からの距離に基づく識別を行うことを特徴とする付記項9に記載の画像処理方法。
【0200】
(付記項11)
前記医用画像はR、G及びBの3プレーンから構成されるとともに、前記特徴量算出手段はR、G及びBの比率に基づく特徴量を算出することを特徴とする付記項1乃至付記項10のいずれか一に記載の画像処理方法。
【0201】
(付記項12)
前記医用画像はR、G及びBの3プレーンから構成されるとともに、前記特徴量算出手段はR、G及びBの変動の大きさに基づく特徴量を算出することを特徴とする付記項1乃至付記項11のいずれか一に記載の画像処理方法。
【0202】
(付記項13)
前記領域分類ステップは前記分割された各領域を生体粘膜表面として少なくとも胃粘膜及び小腸粘膜表面のいずれかに分類することを特徴とする付記項1乃至付記項12のいずれか一に記載の画像処理方法。
【0203】
(付記項14)
前記領域分類ステップは前記分割された各領域を少なくとも液体、泡または便を生体粘膜表面ではないものとして分類することを特徴とする付記項1乃至付記項13のいずれか一に記載の画像処理方法。
【0204】
(付記項15)
前記医用画像はカプセル型内視鏡装置による撮像画像であることを特徴とする付記項1乃至付記項14のいずれか一に記載の画像処理方法。
【0205】
(付記項16)
前記医用画像は内視鏡装置による撮像画像であることを特徴とする付記項1乃至付記項15のいずれか一に記載の画像処理方法。
【0206】
(付記項17)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき撮像臓器を推定する撮像臓器推定ステップとからなることを特徴とする画像処理方法。
【0207】
(付記項18)
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを備えるとともに、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段と、
を備えたことを特徴とする画像処理装置。
【0208】
(付記項19)
前記制御手段は前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないよう制御することを特徴とする付記項18記載の画像処理装置。
【0209】
(付記項20)
前記制御手段は前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないよう制御することを特徴とする付記項18または付記項19に記載の画像処理装置。
【0210】
(付記項21)
前記記憶手段に記憶された前記医用画像を削除する画像削除手段を備え、
前記画像削除手段は前記判定手段により生体粘膜を十分に撮像していないと判定された
前記医用画像を削除することを特徴とする付記項18乃至付記項20のいずれか一に記載の画像処理装置。
【0211】
(付記項22)
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段と、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、
前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段とを備えたことを特徴とする画像処理装置。
【0212】
(付記項23)
前記検出手段は前記医用画像において病変の存在が疑われる領域を検出するとともに、前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に検出結果が正しいと判定することを特徴とする付記項22に記載の画像処理装置。
【0213】
(付記項24)
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを備えるとともに、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段とを備えたことを特徴とする画像処理装置。
【0214】
(付記項25)
前記判定手段は前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする付記項24に記載の画像処理装置。
【0215】
(付記項26)
前記生体粘膜は胃粘膜または小腸粘膜であることを特徴とする付記項18乃至付記項25のいずれか一に記載の画像処理装置。
【0216】
(付記項27)
付記項1乃至付記項17に記載の画像処理方法及び請求項18乃至請求項26に記載の画像処理装置のうち、いずれか一を実現するためのプログラム。
【0217】
(付記項28)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割ステップと、
前記画像分割ステップにより分割された複数の領域各々における特徴量を算出する特徴量算出ステップと、
前記特徴量算出ステップにおいて算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する領域分類ステップと、
前記領域分類ステップによる分類結果に基づいて、前記複数のクラスの内、所定のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出ステップと、
前記分類判定値算出ステップにより算出された前記割合と、所定の閾値とに基づき、前記領域群を有する前記画像を分類する画像分類ステップと、
を有することを特徴とする画像処理方法。
【0218】
(付記項29)
前記所定のクラスは、胃粘膜クラス、絨毛クラス及び便クラスのうち、少なくとも一のクラスを有することを特徴とする付記項28に記載の画像処理方法。
【0219】
(付記項30)
前記複数の領域は、複数の矩形領域であることを特徴とする付記項28または付記項29に記載の画像処理方法。
【0220】
(付記項31)
前記特徴量は、前記画像の前記複数の領域各々における色調情報及びテクスチャ情報からなることを特徴とする付記項28乃至付記項30のいずれか一に記載の画像処理方法。
【0221】
(付記項32)
前記領域分類ステップは、前記特徴量算出ステップにおいて算出された前記特徴量に関する識別器を用いて、前記複数の領域を前記複数のクラスのいずれかに各々分類することを特徴とする付記項28乃至付記項31のいずれか一に記載の画像処理方法。
【0222】
(付記項33)
前記統計的識別器は、前記特徴量の平均値及び前記特徴量に関する分散共分散行列を前記母数とし、かつ、正規確率密度関数を用いた識別を行うことを特徴とする付記項32に記載の画像処理方法。
【0223】
(付記項34)
前記正規確率密度関数を用いた前記識別は、前記平均値に基づく閾値を用いて行われることを特徴とする付記項33に記載の画像処理方法。
【0224】
(付記項35)
前記画像は、赤、緑及び青の3プレーンからなり、前記特徴量は、前記画像の前記複数の領域各々における赤の濃度値、緑の濃度値及び青の濃度値の比率に基づく値を有することを特徴とする付記項28乃至付記項34のいずれか一に記載の画像処理方法。
【0225】
(付記項36)
前記画像は、赤、緑及び青の3プレーンからなり、前記特徴量は、前記画像の前記複数の領域各々における赤の濃度値、緑の濃度値及び青の濃度値の変動の大きさに基づく値を有することを特徴とする付記項28乃至付記項35のいずれか一に記載の画像処理方法。
【0226】
(付記項37)
前記複数のクラスは、胃粘膜クラス及び絨毛クラスのうち、少なくとも一方のクラスを有することを特徴とする付記項28乃至付記項36のいずれか一に記載の画像処理方法。
【0227】
(付記項38)
前記複数のクラスは、便クラス及び泡クラスのうち、少なくとも一方のクラスを有することを特徴とする付記項28乃至付記項37のいずれか一に記載の画像処理方法。
【0228】
(付記項39)
前記医療機器は、カプセル型内視鏡装置であることを特徴とする付記項28乃至付記項38のいずれか一に記載の画像処理方法。
【0229】
(付記項40)
前記医療機器は、内視鏡装置であることを特徴とする付記項28乃至付記項39のいずれか一に記載の画像処理方法。
【0230】
(付記項41)
前記画像分類ステップにおいては、前記画像は参照値に関連付けて保持され、
さらに、前記参照値の値に基づいて前記画像を表示するか否かを決定する画像表示制御ステップを有することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0231】
(付記項42)
前記画像分類ステップにおいては、前記画像は参照値に関連付けて保持され、
さらに、前記参照値の値に基づいて前記画像を削除するか否かを決定する画像削除制御ステップを有することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0232】
(付記項43)
前記画像分類ステップは、前記領域群を有する前記画像を、前記所定のクラスに関連した被写体が撮像された画像であるとして分類することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0233】
(付記項44)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割ステップと、
前記画像分割ステップにより分割された複数の領域各々における特徴量を算出する特徴量算出ステップと、
前記特徴量算出ステップにおいて算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する第1の領域分類ステップと、
前記第1の領域分類ステップによる分類結果に基づいて、前記複数のクラスの内、第1のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出ステップと、
前記分類判定値算出ステップにより算出された前記割合と、所定の閾値とに基づき、前記第1のクラスに分類された前記領域群を、第2のクラスとして排他的に置換して再分類する第2の領域分類ステップと、
を有することを特徴とする画像処理方法。
【0234】
(付記項45)
付記項28乃至付記項44のいずれか一に記載の画像処理方法に基づく動作を行う画像処理装置。
【0235】
(付記項46)
付記項28乃至付記項44のいずれか一に記載の画像処理方法に基づく動作を画像処理装置に行わせるためのプログラム。
【0236】
(付記項47)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段と、
前記画像信号入力手段において入力した画像信号に基づき、当該医療機器により撮像された画像を複数の領域に分割する画像分割手段と、
前記画像分割手段により分割された複数の領域各々における特徴量を算出する特徴量算出手段と、
前記特徴量算出手段において算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する領域分類手段と、
前記領域分類手段による分類結果に基づいて、前記複数のクラスの内、所定のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出手段と、
前記分類判定値算出手段により算出された前記割合と、所定の閾値とに基づき、前記領域群を有する前記画像を分類する画像分類手段と、
を具備したことを特徴とする画像処理装置。
【0237】
(付記項48)
前記所定のクラスは、胃粘膜クラス、絨毛クラス及び便クラスのうち、少なくとも一のクラスを有することを特徴とする付記項47に記載の画像処理装置。
【0238】
(付記項49)
前記画像分類手段は、前記領域群を有する前記画像を、前記所定のクラスに関連した被写体が撮像された画像であるとして分類することを特徴とする付記項47または付記項48に記載の画像処理装置。
【0239】
(付記項50)
撮像機能を有する医療機器で撮像された画像に基づく画像信号を入力する画像信号入力手段と、
前記画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割手段と、
前記画像分割手段により分割された複数の領域各々における特徴量を算出する特徴量算出手段と、
前記特徴量算出手段において算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する第1の領域分類手段と、
前記第1の領域分類手段による分類結果に基づいて、前記複数のクラスの内、第1のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出手段と、
前記分類判定値算出手段により算出された前記割合と、所定の閾値とに基づき、前記第1のクラスに分類された前記領域群を、第2のクラスとして排他的に置換して再分類する第2の領域分類手段と、
を具備したことを特徴とする画像処理装置。
【0240】
(付記項51)
前記画像分類手段は、前記画像を参照値に関連付けて保持し、
さらに、前記参照値の値に基づいて前記画像を表示手段に表示するか否かを決定する画像表示制御手段を有することを特徴とする付記項47または付記項48に記載の画像処理装置。
【0241】
(付記項52)
前記画像分類手段は、前記画像を参照値に関連付けて保持し、
さらに、前記参照値の値に基づいて前記画像を削除するか否かを決定する画像削除制御手段を有することを特徴とする付記項47または付記項48に記載の画像処理装置。
【図面の簡単な説明】
【0242】
【図1】本発明の第1の実施形態である画像処理動作が行われる画像処理装置および周辺機器の外観を示した外観正面図。
【図2】本実施形態の画像処理装置において処理する所定の画像情報を生成するカプセル型内視鏡の一部を切り取って示した要部拡大断面図。
【図3】本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の概略内部構成を示すブロック図。
【図4】本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の一使用例を示した図。
【図5】図2に示すカプセル型内視鏡から出力される信号の一例を示したタイミングチャート。
【図6】図2に示すカプセル型内視鏡の位置検出を説明する説明図。
【図7】図3に示すカプセル型内視鏡装置を使用した際におけるアンテナユニットを示した要部拡大断面図。
【図8】図3に示すカプセル型内視鏡装置を使用した際におけるシールドジャケットを説明する説明図。
【図9】図3に示すカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図。
【図10】図2に示すカプセル型内視鏡の電気的な構成を示すブロック図。
【図11】第1の実施形態に係る画像処理動作を示すフローチャート。
【図12】第1の実施形態に係る画像処理動作において、入力された画像が(m×n)個の領域に分割される際の一例を示す図。
【図13】教師データを構成する複数の画像のうち、胃粘膜の画像の一例を示す図。
【図14】データを構成する複数の画像のうち、絨毛の画像の一例を示す図。
【図15】教師データを構成する複数の画像のうち、便の画像の一例を示す図。
【図16】教師データを構成する複数の画像のうち、泡の画像の一例を示す図。
【図17】カプセル型内視鏡により撮像された体腔内の像の画像の一例を示す模式図。
【図18】図17に示す画像の分類結果の一例を示す図。
【図19】第1の実施形態に係る画像処理動作において、図11とは異なる画像処理方法を示すフローチャート。
【図20】ディスプレイに表示されるビュワーの画像のうち、メインメニュー画面の一例を示す図。
【図21】第2の実施形態に係る画像処理動作を示すフローチャート。
【図22】第3の実施形態に係る画像処理動作を示すフローチャート。
【図23】第4の実施形態に係る画像処理動作を示すフローチャート。
【図24】第5の実施形態に係る画像処理動作の一部を示すフローチャート。
【図25】第5の実施形態に係る画像処理動作の一部として、図24のフローチャートに示す処理が行われた後に行われる、画像の表示制御動作を示すフローチャート。
【図26】第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図27】図26の処理に引き続いて行われる、第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図28】図27の処理に引き続いて行われる、第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図29】第6の実施形態に係る画像処理動作において、エッジ特徴ベクトルを決定する際に指標となる8つの方向を示す図。
【図30】第6の実施形態に係る画像処理動作において設定される、中心領域と最外周領域との位置関係を示す図。
【図31】第6の実施形態に係る画像処理動作において設定される、エッジ特徴ベクトルの方向と、ベクトルVlの方向とがなす角度を示す図。
【符号の説明】
【0243】
1・・・カプセル型内視鏡装置、2・・・患者、3・・・カプセル型内視鏡、3D・・・カプセル本体、4・・・アンテナユニット、5・・・外部装置、5D・・・本体部、6・・・クレードル、7・・・端末装置、8a・・・キーボード、8b・・・マウス、8c・・・ディスプレイ、9・・・端末本体、9a・・・制御部、10・・・ジャケット、11,11a,11b,11c,11d・・・受信アンテナ、12・・・液晶モニタ、13・・・操作部、14・・・外装部材、14a・・・カバー部材、15・・・対物レンズ、16・・・レンズ枠、17・・・電荷結合素子、17A・・・CCDドライバ、18・・・LED、18A・・・LEDドライバ、19,19A・・・処理回路、19B・・・タイミングジェネレータ、19C,19D,19E・・・スイッチ、20・・・通信処理回路、21・・・電池、23・・・送信アンテナ、 33・・・受信回路、35・・・信号処理回路、37・・・送信器、43・・・撮像装置、45・・・アンテナ切換スイッチ、46・・・アンテナ選択回路、47・・・メモリ、72・・・シールドジャケット、73・・・ベルト、74・・・鍵穴、 75・・・鍵、101・・・メイン画面、102・・・画像表示部、103・・・検査情報表示部、104・・・画像情報表示部、105・・・画像表示制御部、106・・・スライダ、107・・・案内表示部
【技術分野】
【0001】
本発明は、画像処理方法、画像処理装置及びプログラムに関し、特に、生体粘膜表面の像が良好に撮像されていない画像を除外することができる画像処理方法、画像処理装置及びプログラムに関するものである。
【背景技術】
【0002】
従来、医療分野において、X線、CT、MRI、超音波観測装置及び内視鏡装置等の画像撮像機器を用いた観察が広く行われている。このような画像撮像機器のうち、内視鏡装置は、例えば、生体としての体腔内に挿入される細長の挿入部を有し、該挿入部の先端部に配置された対物光学系により結像した体腔内の像を固体撮像素子等の撮像手段により撮像して撮像信号として出力し、該撮像信号に基づいてモニタ等の表示手段に体腔内の像の画像を表示するという作用及び構成を有する。そして、ユーザは、モニタ等の表示手段に表示された体腔内の像の画像に基づき、例えば、体腔内における臓器等の観察を行う。また、内視鏡装置は、消化管粘膜の像を直接的に撮像することが可能である。そのため、ユーザは、例えば、粘膜の色調、病変の形状及び粘膜表面の微細な構造等の様々な所見を総合的に観察することができる。
【0003】
そして、近年、前述したような内視鏡装置と略同様の有用性が期待できる画像撮像機器として、例えば、カプセル型内視鏡装置が提案されている。一般的に、カプセル型内視鏡装置は、被検者が口から飲み込むことにより体腔内に配置され、撮像した該体腔内の像を撮像信号として外部に送信するカプセル型内視鏡と、送信された該撮像信号を体腔外で受信した後、受信した該撮像信号を蓄積するレシーバと、レシーバに蓄積された撮像信号に基づく体腔内の像の画像を観察するための観察装置とから構成される。
【0004】
カプセル型内視鏡装置を構成するカプセル型内視鏡は、消化管の蠕動運動により進むため、例えば、口から体腔内に入れられた後、肛門から排出されるまで数時間程度の時間がかかることが一般的である。そして、カプセル型内視鏡は、体腔内に入れられた後、排出されるまでの間、レシーバに対して撮像信号を略常時出力し続けるため、例えば、数時間分の動画像における、レシーバに蓄積されたフレーム画像としての静止画像の枚数は膨大なものとなる。そのため、ユーザによる観察の効率化という点において、例えば、蓄積された画像のうち、出血部位等の病変部位が含まれる所定の画像を検出するような画像処理方法が行われた上において、該所定の画像以外の画像を表示または記憶しないという処理が行われることにより、画像のデータ量が削減されるような提案が望まれている。
【0005】
前述したような画像処理方法としては、例えば、特許文献1に記載されているようなものがある。特許文献1に記載されている、生体内での比色分析の異常を検出するための方法は、正常粘膜と出血部位との色調の違いに着目し、色調を特徴量と設定した特徴空間における各平均値からの距離に基づき、画像の分割領域毎に出血部位の検出を行う方法、すなわち、病変部位としての出血部位が含まれる所定の画像を検出するための方法を有する画像処理方法である。
【0006】
【特許文献1】PCT WO 02/073507 A2号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
しかし、特許文献1に記載されている画像処理方法においては、以下に記すような課題がある。
【0008】
一般に、消化管においては、常に生体粘膜表面の像のみの撮像が行われている訳ではなく、例えば、便、泡、粘液または食物残渣等の異物の像と、生体粘膜表面の像とが混在した状態において撮像が行われている。そのため、前述したような異物の存在を考慮していない特許文献1に記載されている画像処理方法においては、例えば、該異物により正常粘膜を出血部位と誤検出してしまう可能性、及び該異物の像が大部分を占めるような画像を検出する可能性が考えられる。その結果、ユーザによる観察の効率化をはかることができないという課題が生じている。
【0009】
本発明は、前述した点に鑑みてなされたものであり、例えば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像の小領域毎に識別して分類することにより、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、さらに、前記分類結果に基づいて撮像された臓器を特定することができ、その結果、ユーザによる観察の効率化をはかることのできる画像処理方法、画像処理装置及びプログラムを提供することを目的としている。
【0010】
また、本発明は、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる画像処理方法、画像処理装置及びプログラムを提供することを目的としている。
【課題を解決するための手段】
【0011】
本発明における第1の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、 前記画像を複数の領域に分割する領域分割ステップと、 前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする。
【0012】
本発明における第2の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする。
【0013】
本発明における第3の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを有する画像処理方法であって、前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする。
【0014】
本発明における第4の画像処理方法は、前記第1乃至第3の画像処理方法において、さらに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを有することを特徴とする。
【0015】
本発明における第5の画像処理方法は、前記第4の画像処理方法において、前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする。
【0016】
本発明における第6の画像処理方法は、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとからなることを特徴とする。
【0017】
本発明における第1の画像処理装置は、撮像機能を有する医療機器により撮像された画像を入力する画像入力手段と、前記画像が生体粘膜を十分に撮像した像であるか否かを判定する判定手段とを有する画像処理装置であって、前記画像処理装置は、前記判定手段における判定結果に基づき、表示手段に対する前記画像の出力制御を行う画像表示制御手段、または、記憶手段に対する前記画像の出力制御を行う画像記憶制御手段のうち、少なくともいずれか一方を有することを特徴とする。
【0018】
本発明における第2の画像処理装置は、前記第1の画像処理装置において、前記画像表示制御手段は、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記表示手段に表示させないような制御を行うことを特徴とする。
【0019】
本発明における第3の画像処理装置は、前記第1または第2の画像処理装置において、前記画像記憶制御手段は、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記記憶手段に記憶しないような制御を行うことを特徴とする。
【0020】
本発明における第4の画像処理装置は、前記第1乃至第3の画像処理装置において、前記画像記憶制御手段は、前記記憶手段に記憶された画像のうち、前記判定手段が生体粘膜を十分に撮像した像ではないと判定した画像を、前記記憶手段から削除するような制御を行うことを特徴とする。
【0021】
本発明における第5の画像処理装置は、撮像機能を有する医療機器により撮像された複数の画像を入力する画像入力手段と、前記画像を記憶する記憶手段と、前記画像を表示する表示手段と、前記画像の中から病変の存在が疑われる画像を検出する検出手段と、前記画像に対して領域を設定する領域設定手段と、前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段とを有することを特徴とする。
【0022】
本発明における第6の画像処理装置は、前記第5の画像処理装置において、前記検出手段は、前記領域設定手段により前記画像に対して設定された領域のうち、病変の存在が疑われる領域を検出し、前記検出結果判定手段は、前記検出手段により検出された前記領域が前記領域判定手段において生体粘膜を撮像した領域であると判定された場合に、前記検出手段による検出結果が正しいと判定することを特徴とする。
【0023】
本発明における第7の画像処理装置は、時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段と、前記医用画像に対して領域を設定する領域設定手段と、前記領域設定手段により設定された各領域において、撮像対象を判定する判定手段と、前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、前記特定手段における特定結果を表示する特定結果表示手段とを備えたことを特徴とする。
【0024】
本発明における第8の画像処理装置は、前記第7の画像処理装置において、前記判定手段は、前記各領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする。
【0025】
本発明における第1のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする。
【0026】
本発明における第2のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする。
【0027】
本発明における第3のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとをコンピュータに実行させるためのプログラムであって、前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする。
【0028】
本発明における第4のプログラムは、前記第1のプログラム乃至第3のプログラムにおいて、さらに、当該コンピュータに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを実行させることを特徴とする。
【0029】
本発明における第5のプログラムは、前記第4のプログラムにおいて、前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする。
【0030】
本発明における第6のプログラムは、コンピュータに、撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、前記画像を複数の領域に分割する領域分割ステップと、前記複数の領域各々から特徴量を算出する特徴量算出ステップと、前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとを実行させる。
【0031】
本発明における第7のプログラムは、複数の色信号からなる医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段として機能させる。
【0032】
本発明における第8のプログラムは、前記第7のプログラムにおいて、前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする。
【0033】
本発明における第9のプログラムは、前記第7のプログラムまたは前記第8のプログラムにおいて、前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする。
【0034】
本発明における第10のプログラムは、前記第7のプログラム乃至前記第9のプログラムにおいて、さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段として機能させるプログラムであって、前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする。
【0035】
本発明における第11のプログラムは、複数の色信号からなる複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する表示手段とを有する画像処理装置を制御するための画像処理装置を制御するためのコンピュータを、前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段として機能させる。
【0036】
本発明における第12のプログラムは、前記第11のプログラムにおいて、前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする。
【0037】
本発明における第13のプログラムは、時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、前記医用画像を記憶する記憶手段と、前記医用画像を表示する画像表示手段とを有する画像処理装置を制御するためのコンピュータを、前記医用画像に複数の領域を設定する領域設定手段と、前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、前記特定手段における特定結果を表示する特定結果表示手段として機能させる。
【0038】
本発明における第14のプログラムは、前記第13のプログラムにおいて、前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする。
【発明の効果】
【0039】
本発明における画像処理方法、画像処理装置及びプログラムによると、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、さらに、前記分類結果に基づいて撮像された臓器を特定することができ、その結果、ユーザによる観察の効率化をはかることができる。
【0040】
また、本発明における画像処理方法、画像処理装置及びプログラムによると、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる。
【発明を実施するための最良の形態】
【0041】
以下、図面を参照して本発明の実施の形態を説明する。
【0042】
(第1の実施形態)
図1から図20は、本発明の第1の実施形態に係るものである。図1は、本発明の第1の実施形態である画像処理動作が行われる画像処理装置および周辺機器の外観を示した外観正面図である。図2は、本実施形態の画像処理装置において処理する所定の画像情報を生成するカプセル型内視鏡の一部を切り取って示した要部拡大断面図である。図3は、本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の概略内部構成を示すブロック図である。図4は、本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の一使用例を示した図である。図5は、図2に示すカプセル型内視鏡から出力される信号の一例を示したタイミングチャートである。図6は、図2に示すカプセル型内視鏡の位置検出を説明する説明図である。図7は、図3に示すカプセル型内視鏡装置を使用した際におけるアンテナユニットを示した要部拡大断面図である。図8は、図3に示すカプセル型内視鏡装置を使用した際におけるシールドジャケットを説明する説明図である。図9は、図3に示すカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図である。図10は、図2に示すカプセル型内視鏡の電気的な構成を示すブロック図である。図11は、本実施形態に係る画像処理動作を示すフローチャートである。図12は、本実施形態に係る画像処理動作において、入力された画像が(m×n)個の領域に分割される際の一例を示す図である。図13は、教師データを構成する複数の画像のうち、胃粘膜の画像の一例を示す図である。図14は、教師データを構成する複数の画像のうち、絨毛の画像の一例を示す図である。図15は、教師データを構成する複数の画像のうち、便の画像の一例を示す図である。図16は、教師データを構成する複数の画像のうち、泡の画像の一例を示す図である。図17は、カプセル型内視鏡により撮像された体腔内の像の画像の一例を示す模式図である。図18は、図17に示す画像の分類結果の一例を示す図である。図19は、本実施形態に係る画像処理動作において、図11とは異なる画像処理動作を示すフローチャートである。図20は、ディスプレイに表示されるビュワーの画像のうち、メインメニュー画面の一例を示す図である。
【0043】
本発明の第1の実施形態である画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置1は、図3に示すように、カプセル型内視鏡3、アンテナユニット4及び外部装置5とにより主要部が構成されている。
【0044】
医療機器としてのカプセル型内視鏡3は、詳細は後述するが、被検体である患者2の口から体腔内に飲み込まれることにより体腔内に配置された後、蠕動運動により消化管内を進行する形状に形成され、かつ、内部に体腔内を撮像し、その撮像画像情報を生成する撮像機能と、その撮像画像情報を体外に送信する送信機能とを有している。アンテナユニット4は、詳細は後述するが、患者2の身体表面上に設置され、前記カプセル型内視鏡3から送信される撮像画像情報を受信する複数の受信アンテナ11を有している。外部装置5は、外形が箱形形状に形成されており、詳細は後述するが、前記アンテナユニット4が受信した撮像画像情報の各種処理、撮像画像情報の記憶、及び撮像画像情報による撮像画像表示等の機能を有している。この外部装置5の外装の表面に前記撮像画像を表示させる液晶モニタ12と、各種機能の操作指示を行う操作部13とが設けられている。
【0045】
また、この外部装置5は、駆動電源用の電池の残量に関する警告表示用のLEDと、電源スイッチ等のスイッチからなる操作部13とが外装の表面に設けられている。又、カプセル型内視鏡3の内部には、CPU及びメモリを用いた演算実行部が設けられており、例えば、該演算実行部において、受信及び記憶した撮像画像情報に対して後述する本発明に係る画像処理方法が実行されるような構成であっても良い。
【0046】
この外部装置5は、患者2の身体に着脱自在に装着されると共に、図1に示すように、クレードル6に装着されることにより、本発明の第1の実施形態である画像処理装置(以下、端末装置と記す)7に着脱自在に接続されるようになっている。この端末装置7は、たとえば、パーソナルコンピュータが用いられ、各種データの処理機能や記憶機能を有する端末本体9と、各種操作処理入力用のキーボード8a及びマウス8bと、及び各種処理結果を表示する、表示手段としてのディスプレイ8cとを有している。この端末装置7は、基本的機能として、例えば、前記外部装置5に記憶されている撮像画像情報をクレードル6を介して取り込み、端末本体9に内蔵されている書換可能なメモリ、或いは端末本体9に着脱自在な書換可能な半導体メモリ等の可搬型メモリに書込記憶させ、かつ、その記憶した撮像画像情報をディスプレイ8cに表示する画像処理を行うような機能を有している。なお、前記外部装置5に記憶されている撮像画像情報は、前記クレードル6に代えて、USBケーブル等によって端末装置7に取り込まれるようにしても良い。
【0047】
なお、端末装置7が行う画像処理は、例えば、前記外部装置5から取り込み、図示しない記憶手段としてのメモリ等に記憶された撮像画像情報から経過時間に応じて表示させる画像を選択する処理、及び後述する本発明に係る画像処理方法に基づく処理として、端末本体9が有する制御部9aにおいて行われるものであるとする。制御部9aは、CPU(中央処理装置)等からなり、例えば、前述したような処理を行う場合に、処理結果を一時的に図示しないレジスタ等に保持することができる。
【0048】
次に、前記カプセル型内視鏡3の外形と内部構造について、図2を用いて説明する。カプセル型内視鏡3は、断面がU字状の外装部材14と、この外装部材14の先端側の開放端に接着剤により水密装着された透明部材により形成された略半球形状のカバー部材14aとからなる。そのため、カプセル型内視鏡3の外装は、外装部材14と、カバー部材14aとが接続された状態においては、水密構造かつカプセル形状を有するように形成されている。
【0049】
この外装部材14とカバー部材14aからなるカプセル形状の内部中空部であって、前記カバー部材14aの半球の円弧の略中央にあたる部分には、カバー部材14aを介して入射された観察部位像を取り込む対物レンズ15がレンズ枠16に収納されて配置されている。この対物レンズ15の結像位置には、撮像素子である電荷結合素子(以降、CCDと記す)17が配置されている。また、前記対物レンズ15を収納するレンズ枠16の周囲には、照明光を発光放射させる4つの白色系のLED18が同一平面上に配置されている(図中には2つのLEDのみを表記している)。前記CCD17の後端側の前記外装部材14の内部中空部には、前記CCD17を駆動制御して光電変換された撮像信号の生成、その撮像信号に所定の信号処理を施して撮像画像信号を生成する撮像処理、及び前記LED18の点灯/非点灯の動作を制御するLED駆動の処理を行う処理回路19と、この処理回路19の撮像処理により生成された撮像画像信号を無線信号に変換して送信する通信処理回路20と、この通信処理回路20からの無線信号を外部に送信する送信アンテナ23と、前記処理回路19と通信処理回路20の駆動用電源を供給する複数のボタン型の電池21とが配置されている。
【0050】
なお、CCD17、LED18、処理回路19、通信処理回路20及び送信アンテナ23は、図示しない基板上に配置され、それらの基板の間は、図示しないフレキシブル基板にて接続されている。また、前記処理回路19には、後述する画像処理を行うための図示しない演算回路を備えている。つまり、前記カプセル型内視鏡3は、図3に示すように、前記CCD17、LED18及び処理回路19を有する撮像装置43と、前記通信処理回路20を有する送信器37と、送信アンテナ23とを有する。
【0051】
次に、前記カプセル型内視鏡3の撮像装置43の詳細構成について、図10を用いて説明する。撮像装置43は、LED18の点灯/非点灯の動作を制御するLEDドライバ18Aと、CCD17の駆動を制御して光電変換された電荷の転送を行う為のCCDドライバ17Aと、前記CCD17から転送された電荷を用いて撮像信号を生成し、かつ、その撮像信号に所定の信号処理を施して撮像画像信号を生成する処理回路19Aと、前記LEDドライバ18A、CCDドライバ17A、処理回路19A、及び送信器37に電池21からの駆動電源を供給するスイッチ部と、前記スイッチ部及びCCDドライバ17Aにタイミング信号を供給するタイミングジェネレータ19Bとを有する。なお、前記スイッチ部は、電池21から前記LEDドライバ18Aへの電源供給をオン/オフをするスイッチ19Cと、前記CCD17、CCDドライバ17A及び処理回路19Aへの電源供給をオン・オフするスイッチ19Dと、前記送信器37への電源供給をオン/オフするスイッチ19Eとを有する。また、前記タイミングジェネレータ19Bには、電池21から常時駆動電源が供給されるようになっている。
【0052】
このような構成を有するカプセル型内視鏡3の撮像装置43においては、スイッチ19Cと、スイッチ19Dと、スイッチ19Eとがオフ状態である場合、タイミングジェネレータ19B以外の各部は非動作状態である。そして、タイミングジェネレータ19Bからタイミング信号が出力されると、前記スイッチ19Dがオンされ、これにより、電池21から電源が供給されたCCD17、CCDドライバ17A及び処理回路19Aは動作状態となる。
【0053】
前記CCD17の駆動初期時に、CCD17の電子シャッターを動作させて、不要な暗電流を除去した後、タイミングジェネレータ19Bは、スイッチ19CをオンさせてLEDドライバ18Aを駆動させてLED18を点灯させCCD17を露光する。LED18は、CCD17の露光に必要な所定の時間だけ点灯された後、消費電力低減の為に、スイッチ19Cがオフしたタイミングにおいて消灯される。
【0054】
前記CCD17の露光が行われた前記所定の時間内に蓄えられた電荷は、CCDドライバ17Aの制御により処理回路19Aへ転送される。処理回路19Aは、CCD17から転送された電荷を基に撮像信号を生成し、その撮像信号に所定の信号処理を施して内視鏡画像信号を生成する。処理回路19Aは、例えば、送信器37から送信される信号がアナログ無線方式である場合、CDS出力信号に対して複合同期信号を重畳させたアナログ撮像信号を生成した後、該アナログ撮像信号を内視鏡画像信号として送信器37へ出力する。また、処理回路19Aは、例えば、送信器37から送信される信号がデジタル無線方式である場合、アナログ/デジタルコンバータにより生成したシリアルなデジタル信号に対し、さらにスクランブル等の符号化処理を施したデジタル撮像画像信号を生成し、該デジタル撮像信号を内視鏡画像信号として送信器37へ出力する。
【0055】
この送信器37は、前記処理回路19Aから供給された内視鏡画像信号である、アナログ撮像画像信号またはデジタル撮像画像信号に対して変調処理を施して送信アンテナ23から外部へ無線送信する。この時、スイッチ19Eは、前記処理回路19Aから撮像画像信号が出力されたタイミングにおいてのみ送信器37に駆動電力が供給されるように、タイミングジェネレータ19Bによりオン/オフされる。
【0056】
なお、スイッチ19Eは、処理回路19Aから撮像画像信号が出力されてから所定の時間が経過した後に、送信器37に駆動電力が供給されるように制御されても良い。また、スイッチ19Eは、カプセル型内視鏡3に設けられた、図示しないpHセンサーによる所定値のpH値の検出、図示しない湿度センサーによる所定値以上の湿度の検出、図示しない圧力センサーまたは図示しない加速度センサーによる所定値以上の圧力または加速度の検出等の検出結果に基づいてタイミングジェネレータ19Bから出力される信号により、被検体である患者2の体腔内に挿入された際に、送信器37に電源を供給するように制御されるような構成を有していても良い。
【0057】
なお、前記カプセル型内視鏡2の撮像装置43は、通常毎秒2枚の画像(毎秒2フレーム=2fps)を撮像するものであるが、例えば、食道の検査の場合は、毎秒15〜30枚の画像(15fps〜30fps)を撮像できるようにする。具体的には、カプセル型内視鏡3に、図示しないタイマー回路を設け、このタイマー回路により、例えば、タイマーカウントが所定時間以内においては毎秒当たりの撮像枚数の多い高速撮像とし、所定時間が経過した後は、毎秒当たりの撮像枚数の少ない低速撮像となるように撮像装置43の駆動を制御させる。或いは、カプセル型内視鏡3の電源の投入と共にタイマー回路を作動させて、このタイマー回路により、例えば、患者2が飲み込んだ直後の食道を通過するまでの時間は高速撮像となるように、撮像装置43の駆動を制御させることも可能である。さらに、低速撮像用カプセル型内視鏡と高速撮像用カプセル型内視鏡とを個別に設けて、観察対象部位に応じて使い分けるようにしても良い。
【0058】
次に、前記患者2の身体表面上に設置されるアンテナユニット4について説明する。図4に示すように、カプセル型内視鏡3を飲み込んで内視鏡検査を行う場合、患者2は、複数の受信アンテナ11からなるアンテナユニット4が設置されたジャケット10を装着する。このアンテナユニット4は、図7に示すように、たとえば、GPSに使用されているパッチアンテナのような単方向の指向性を有する複数の受信アンテナ11を患者2の身体内方向にその指向性を向けて配置する。つまり、カプセル型内視鏡3のカプセル本体3Dは、身体内に留置されるため、その身体内のカプセル本体3Dを取り囲むように前記複数のアンテナ11が配置される。この指向性の高いアンテナ11を使用することにより、身体内のカプセル本体3D以外からの電波による干渉妨害の影響を受けにくくしている。
【0059】
前記ジャケット10は、図8に示すように、患者2の身体表面に設置する前記アンテナユニット4と、ベルトにより患者2の腰に設置された外部装置5の本体部5Dを覆うように電磁シールド繊維で形成されたシールドジャケット72とからなる。このシールドジャケット72を形成する電磁シールド繊維は、金属繊維、金属化学繊維、硫化銅含有繊維等が用いられている。なお、このシールドジャケット72は、ジャケット形状に限るものではなく、例えば、ベスト、ワンピース形状等であっても良い。
【0060】
又、前記シールドジャケット72に前記外部装置5を装着する例として、図9に示すように、前記外部装置5の外部本体5Dに鍵穴74を設け、前記シールドジャケット72に設けた鍵75を前記鍵穴74に差し込むことにより、ベルト73に着脱自在に装着できるようにする。或いは、単にシールドジャケット72に図示しないポケットを設け、そのポケットに外部本体5Dを収納したり、又は、外部装置5の外部本体5Dとシールドジャケット72にマジックテープ(登録商標)を設置し、そのマジックテープ(登録商標)により取付固定しても良い。
【0061】
つまり、アンテナユニット4が配置された身体にシールドジャケット72を装着することにより、アンテナユニット4に対する外部からの電波がシールド遮蔽されて、外部電波による干渉妨害の影響を一層受けにくくしている。
【0062】
次に、前記アンテナユニット4と外部装置5の構成について、図3を用いて説明する。前記アンテナユニット4は、前記カプセル型内視鏡3の送信アンテナ23から送信された無線信号を受信する複数の受信アンテナ11a〜11dと、このアンテナ11a〜11dを切り替えるアンテナ切換スイッチ45とからなる。前記外部装置5は、アンテナ切換スイッチ45からの無線信号を撮像画像信号に変換及び増幅等の受信処理を行う受信回路33と、この受信回路33から供給された撮像画像信号に所定の信号処理を施して、撮像画像の表示用信号及び撮像画像データを生成する信号処理回路35と、この信号処理回路35により生成された撮像画像表示用信号に基づいて撮像画像を表示する液晶モニタ12と、前記信号処理回路35により生成された撮像画像データを記憶するメモリ47と、前記受信回路33により受信処理された無線信号の大きさにより前記アンテナ切換スイッチ45を制御するアンテナ選択回路46とからなる。
【0063】
前記アンテナユニット4の図中受信アンテナ11a〜11dとして示した複数の受信アンテナ11は、前記カプセル型内視鏡3の送信アンテナ23から一定の電波強度により送信された無線信号を受信する。この複数の受信アンテナ11a〜11dは、前記外部装置5のアンテナ選択回路46からのアンテナ選択信号によりアンテナ切替スイッチ45が制御されて、前記無線信号を受信する受信アンテナを順次切り替える。つまり、前記アンテナ切替スイッチ45により順次切り替えられた各受信アンテナ11a〜d毎に受信した無線信号が前記受信器33に出力される。この受信器33において、各受信アンテナ11a〜11d毎の無線信号の受信強度を検出して、各受信アンテナ11a〜11dとカプセル型内視鏡3の位置関係を算出すると共に、その無線信号を復調処理して撮像画像信号を信号処理回路35へと出力する。前記アンテナ選択回路46は、前記受信器33からの出力によって制御される。
【0064】
前記アンテナ選択回路46によるアンテナ切替スイッチ45の動作について説明する。前記カプセル型内視鏡3から送信される無線信号は、図5に示すように、撮像画像信号の1フレームの送信期間に、無線信号の受信強度を示す受信強度信号の送信期間である強度受信期間と、撮像画像信号の送信期間である映像信号期間とが順次繰り返されて送信されるとする。
【0065】
前記アンテナ選択回路46は、前記受信回路33を介して、各受信アンテナ11a〜11dが受信した受信強度信号の受信強度が供給される。前記アンテナ選択回路46は、前記受信器33からの供給された各アンテナ11a〜11dの受信強度信号の強度を比較して、映像信号期間の撮像画像信号を受信する最適な受信アンテナ、つまり、受信強度信号の強度が最も高いアンテナ11i(i=a〜d)を決定して、アンテナ切替回路45をそのアンテナ11iに切り替えるための制御信号を生成出力する。これにより、現在画像信号を受信しているアンテナよりも、他のアンテナの受信強度信号の受信強度が高い場合には、映像信号期間の受信アンテナを次フレーム分から切り替えるようにする。
【0066】
このように、カプセル型内視鏡3からの無線信号を受信するたびに、撮像画像信号、又は受信強度信号の受信強度を比較し、この比較結果を受けたアンテナ選択回路46によって受信強度が最大となるアンテナ11iを画像信号受信用のアンテナとを指定するようにしている。これにより、カプセル型内視鏡3が患者2の体内で移動しても、その移動位置において最も受信強度の高い信号を検出できるアンテナ11により取得した画像信号を受信することができる。また、体内でのカプセル型内視鏡3の移動速度は非常に遅い部分と早い部分に分かれるので、撮像動作1回につき常にアンテナ切替動作を1回行うとは限らず、高速撮像モードなどでは複数回の撮像動作に対してアンテナ切替動作を1回行うようにしてもよい。
【0067】
なお、カプセル型内視鏡3は、患者2の体内を移動しているので、適宜の時間間隔で外部装置5から電波強度を検出した結果である検出結果信号を送り、その信号に基づいてカプセル型内視鏡3が送信する際のその出力を更新するようにしてもよい。このようにすれば、カプセル型内視鏡3が患者2の体内を移動した場合にも、適切な送信出力に設定でき、電池21のエネルギを無駄に消費すること等を防止でき、信号の送受信状態を適切な状態に維持できるようになる。
【0068】
次に、前記複数の受信アンテナ11とカプセル型内視鏡3の位置関係を示す情報の取得方法について、図6を用いて説明する。なお、図6において、カプセル型内視鏡3を3次元座標X、Y、Zの原点に設定した場合を例に説明する。又、前記複数の受信アンテナ11a〜11dのうち、説明を簡単化するために、3つの受信アンテナ11a、11b、11cを用い、受信アンテナ11aと受信アンテナ11bとの間の距離をDab、受信アンテナ11bと受信アンテナ11cとの間の距離をDbc、受信アンテナ11aと受信アンテナ11cとの間の距離Dacとしている。さらに、この受信アンテナ11a〜11cとカプセル型内視鏡3の間は、所定の距離関係としている。
【0069】
カプセル型内視鏡3の送信された一定の送信強度の無線信号は、各受信アンテナ11j(j=a、b、c)で受信した場合の受信強度は、カプセル型内視鏡3(カプセル型内視鏡3の送信アンテナ23)からの距離Li(i=a,b,c)の関数となる。具体的には電波減衰量が伴う距離Liに依存する。従って、カプセル型内視鏡3から送信された無線信号の受信アンテナ11jにより受信した受信強度からカプセル型内視鏡3と各受信アンテナ11jとの間の距離Liを算出する。この距離Liの算出には、前記カプセル型内視鏡3と受信アンテナ11jの間の距離による電波の減衰量などの関係データを事前に前記アンテナ選択回路46に設定する。又、その算出されたカプセル型内視鏡3と各受信アンテナ11jの位置関係を示す距離データは、前記メモリ47にカプセル型内視鏡3の位置情報として記憶させる。このメモリ47に記憶された撮像画像情報及びカプセル型内視鏡3の位置情報を基に、前記端末機7による後述する画像情報処理方法において、内視鏡観察所見の位置設定に有用となる。
【0070】
次に、本実施形態の画像処理装置における画像処理動作について説明を行う。
【0071】
なお、本実施形態においては、カプセル型内視鏡3により撮像された体腔内の像の画像は、大きさISX×ISY(1≦ISX、1≦ISYを満たす値であり、例えば、ISX=300、ISY=300)、RGBの3プレーンからなり、各プレーンにおける各画素は各々8bit、すなわち、0から255の値をとるものとする。また、本実施形態においては、時間的に連続して撮像されたN枚の画像(1≦N)におけるi番目の画像をIi(1≦i≦N)、そのRGB各プレーンをそれぞれRi、Gi及びBiと示すものとする。さらに、本実施形態においては、各プレーンにおけるk番目の画素(1≦k≦ISX×ISY)をそれぞれrik、gik及びbikと示すものとする。
【0072】
なお、本実施形態における画像処理装置における画像処理動作は、上述した端末装置7の端末本体9が有する制御部9aにおける処理として行われるものとする。
【0073】
まず、制御部9aは、入力されたi番目の画像Iiを構成するRi、Gi及びBiの各プレーンに対し、前処理として、例えば、メディアンフィルタリングによるノイズ除去及び逆γ補正を行うと共に、ハレーション画素及び暗部画素を以降の処理対象から除外するため、閾値に基づく処理により検出しておく(図11のステップS1)。そして、前記閾値に基づく処理は、例えば、rik、gik及びbikの濃度値の全てが10以下の値であれば暗部画素、また、rik、gik及びbikの濃度値の全てが230以上の値であればハレーション画素とするような処理として行われる。
【0074】
その後、制御部9aは、Ri、Gi及びBiの各プレーンを小領域に分割する(図11のステップS2)。なお、本実施形態において、制御部9aは、図12に示すように、Ri、Gi及びBiの各プレーンを、x軸方向の画素数lx×y軸方向の画素数ly(1≦lx、1≦ly)からなる矩形領域に分割するものとし、その領域数は(m×n)個(m=ISX/lx、n=ISY/ly)であるものとする。また、制御部9aは、mまたはnが整数とならない場合においては、大きさが端数となる最端部の領域を、端数の画素数を有する領域として処理するか、または以降の処理対象から除外するものとする。
【0075】
制御部9aは、分割した各領域において、撮像対象の像の画像上における色の違いを反映する色調情報、及び撮像対象の像の画像上における構造の違いを反映するテクスチャ情報を特徴量として算出する(図11のステップS3)。なお、以降の説明においては、制御部9aにおいて分割された領域のうち、一の領域をHst(1≦s≦m、1≦t≦n)と示すものとする。
【0076】
本実施形態において、制御部9aが算出する色調情報は、一の領域Hstに含まれる各画素のRGB値の比に基づく値としての、gik/rikの平均値(以降、μgstと記す)及びbik/rikの平均値(以降、μbstと記す)からなる、2つの特徴量として示される値である。なお、μgst及びμbstの各値は、0から1の値をとるものとする。また、μgst及びμbstの各値は、例えば、胃粘膜のような比較的赤色調を示す領域においては、略同様に小さな値をとる。一方、μgst及びμbstの各値は、例えば、小腸のような比較的白色調を示す領域においては、略同様に大きな値をとる。また、μgst及びμbstの各値は、例えば、便のような比較的黄色調を示す領域においては、μgst>μbstとなるような値をとる。
【0077】
本実施形態において、制御部9aが算出するテクスチャ情報は、前述したように、撮像対象の像の画像上における構造の違いを反映するものである。そして、撮像対象の像の画像上における構造は、例えば、粘膜表面における絨毛等の微細構造、及び便が有する不定形な模様等として示されるものである。具体的には、制御部9aが算出するテクスチャ情報は、一の領域Hstに含まれる各画素のRGB値の標準偏差σrst、σgst及びσbstを、一の領域Hstに含まれる各画素のRGB値の平均値mrst、mgst及びmbstで除したものである、3つの特徴量として示されるRGB値の変動係数CVrst、CVgst及びCVbstである。なお、変動係数CVrst、CVgst及びCVbstを算出するための計算式は、下記数式(1)、数式(2)及び数式(3)として示される。
【0078】
CVrst=σrst/mrst ・・・(1)
CVgst=σgst/mgst ・・・(2)
CVbst=σbst/mbst ・・・(3)
上記数式(1)、数式(2)及び数式(3)により算出される変動係数CVrst、CVgst及びCVbstにより、撮像対象に対して供給される照明光量の違い等による影響によらず、テクスチャ構造による画素変動の程度を数値化することができる。CVrst、CVgst及びCVbstの各値は、例えば、拡大観察を行っていない状態である、通常観察において撮像された胃粘膜のような、画像上における構造が比較的平坦な領域においては、明瞭なテクスチャ構造がないため、略同様に小さな値をとる。一方、CVrst、CVgst及びCVbstの各値は、例えば、小腸の絨毛のような、画像上における構造にエッジを比較的多く含む領域においては、略同様に大きな値をとる。
【0079】
なお、本実施形態の制御部9aが行う以降の処理においては、色調情報及びテクスチャ情報を有する5つの特徴量を使用するが、この特徴量を構成する値は、ユーザの用途等に応じ、適宜変更または追加することが可能である。例えば、制御部9aは、色調情報としてのμgstの値及びμbstの値に代わり、色度として示される値である、各領域の各画素におけるrik、gik及びbikの比率、すなわち、rik/(rik+gik+bik)、gik/(rik+gik+bik)及びbik/(rik+gik+bik)の値を使用して以降の処理を行うものであっても良い。
【0080】
そして、制御部9aは、色調情報及びテクスチャ情報からなる5つの特徴量、すなわち、μgst、μbst、CVrst、CVgst及びCVbstの各値を、ハレーション画素及び暗部画素を除いた各画素のRGB値に基づき、(m×n)個の領域Hst各々において算出する。なお、本実施形態においては、一の領域Hstが有する、(lx×ly)個の画素において、例えば、ハレーション画素の個数と、暗部画素の個数との和が占める割合が50%を超えた場合、一の領域Hstを以降の処理から除外するような制御が行われるものであっても良い。
【0081】
その後、制御部9aは、分割した領域Hstにおいて各々算出された5個の特徴量に基づく識別分類を実行することにより、領域毎の撮像対象が何であるかを識別した後、該識別結果に基づいて領域Hstを各々分類する。
【0082】
具体的には、まず、制御部9aは、胃粘膜、絨毛、便及び泡からなる4つのクラス(群またはカテゴリとも呼ぶ)の教師データを構成する画像として予め用意された、例えば、図13、図14、図15及び図16に示すような画像に基づき、該画像の一の領域各々において都度決定される、前述した5個の特徴量を算出した後、該4つのクラス各々についての線形判別関数を作成する。そして、制御部9aは、前述した手順により算出した、識別器としての線形判別関数を用い、例えば、胃粘膜、絨毛、便及び泡からなる4つのクラスのうち、一の領域Hstがどのクラスに属するかを識別し、該識別結果に基づく分類を行う。制御部9aは、以上に述べたような識別及び分類を画像Iiが有する領域Hst全てに対して行うことにより、例えば、図17に示すような画像が入力された場合、図18に示すような、絨毛と泡とが分類されたような分類結果を得る(図11のステップS4)。
【0083】
なお、本実施形態の制御部9aが画像の一の領域各々に対し、識別器を用いて行う識別及び分類は、線形判別関数によるものに限るものではなく、例えば、2次分類規則、ニューラルネットワーク等の手法によるものであっても良い。また、本実施形態においては、制御部9aは、胃粘膜、絨毛、便及び泡の4クラスのいずれかということとして、入力される画像の一の領域各々に対する識別及び分類を行ったが、分類されるクラスの数及び種類は、ユーザの用途等に応じ、適宜変更または追加することが可能である。制御部9aは、前述した4クラスに加え、例えば、食道あるいは大腸粘膜の分類を行うものであっても良いし、また、十二指腸と絨毛とを別のクラスとして扱った上において分類を行うものであっても良い。
【0084】
さらに、制御部9aは、前述した分類結果に基づき、生体粘膜表面として分類された、すなわち、胃粘膜または絨毛として分類された領域数の合計数zが画像Iiの全領域数(m×n)に占める割合pの値を、下記数式(4)に基づいて算出する(図11のステップS5)。
【0085】
p=z/(m×n) ・・・(4)
そして、制御部9aは、画像Iiが生体粘膜表面を十分に撮像されている画像か否かを識別するため、数式(4)により算出された割合pの値と、閾値thrとの比較を行う。制御部9aは、画像Iiにおける割合pの値が、閾値thrより大きいことを検出する(図11のステップS6)と、画像Iiを、生体粘膜表面が十分に撮像されている画像である、すなわち、観察が必要な画像として識別及び分類し、参照値としてのフラグ値flagiを1とする(図11のステップS7)。なお、本実施形態においては、例えば、閾値thrの値は0.5であるとする。
【0086】
また、制御部9aは、画像Iiにおける割合pの値が、閾値thr以下であることを検出する(図11のステップS6)と、画像Iiを、便及び泡により生体粘膜表面が十分に撮像されていない画像である、すなわち、観察が不必要な画像として識別及び分類し、フラグ値flagiを0とする(図11のステップS8)。
【0087】
その後、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図11のステップS9)、画像番号iに1を加え(図11のステップS10)、次の画像について、図11のステップS1からステップS9までに示す処理を引き続き行う。
【0088】
制御部9aは、以上に述べたような処理を行うことにより、ユーザが撮像対象の像の観察を行う際に、フラグ値flagiの値に基づき、例えば、フラグ値flagiが1である、観察が必要な画像のみをディスプレイ8cに表示し、また、フラグ値flagiが0である、観察が不必要な画像をディスプレイ8cに非表示とすることができる。なお、制御部9aは、フラグ値flagiが0である、観察が不必要な画像を削除することにより、記憶する画像データのサイズを削減するようにしても良い。
【0089】
また、以上に述べた処理のうち、図11のステップS5に示す処理において、制御部9aは、胃粘膜または絨毛として分類された領域数を合計した値zから割合pを算出した。しかし、制御部9aが行う処理は、このようなものに限るものではなく、例えば、以下に記すような、胃粘膜として分類された領域数z1と、絨毛として分類された領域数z2とを個別に扱うようなものであっても良い。
【0090】
その場合、制御部9aは、図11のステップS5に示す処理において、胃粘膜または絨毛として分類された領域数の合計数(z1+z2)が画像Iiの全領域数(m×n)に占める割合pの値を、下記数式(5)に基づいて算出する。
【0091】
p=(z1+z2)/(m×n) ・・・(5)
また、制御部9aは、各々のクラスに分類された領域数に基づき、該領域数が画像Iiの全領域数(m×n)に占める割合を、クラス毎に個別に算出するような処理を行うものであっても良い。
【0092】
まず、制御部9aは、図11のステップS1からステップS4までの処理を行うことにより、画像Iiが有する領域Hst全てに対しての分類結果を得る(図19のステップS11)。そして、胃粘膜として分類された領域数をz1、絨毛として分類された領域数をz2、便として分類された領域数をz3とすると、制御部9aは、上記数式(4)に基づき、胃粘膜として分類された領域数z1が画像Iiの全領域数(m×n)に占める割合p1と、絨毛として分類された領域数z2が画像Iiの全領域数(m×n)に占める割合p2と、便として分類された領域数z3が画像Iiの全領域数(m×n)に占める割合p3とを各々算出する(図19のステップS12)。
【0093】
そして、制御部9aは、割合p1の値と、閾値thr1との比較を行う。制御部9aは、画像Iiにおける割合p1の値が、閾値thr1より大きいことを検出する(図19のステップS13)と、画像Iiを、被写体として胃が撮像されたものであるとして識別及び分類する(図19のステップS14)。なお、本実施形態においては、例えば、閾値thr1の値は0.8であるとする。
【0094】
また、制御部9aは、画像Iiにおける割合p1の値が、閾値thr1以下であることを検出する(図11のステップS13)と、今度は、割合p2の値と、閾値thr2との比較を行う。制御部9aは、画像Iiにおける割合p2の値が、閾値thr2より大きいことを検出する(図19のステップS15)と、画像Iiを、被写体として小腸(の絨毛)が撮像されたものであるとして識別及び分類する(図19のステップS16)。なお、本実施形態においては、例えば、閾値thr2の値は0.8であるとする。
【0095】
さらに、制御部9aは、画像Iiにおける割合p2の値が、閾値thr2以下であることを検出する(図11のステップS15)と、今度は、割合p3の値と、閾値thr3との比較を行う。制御部9aは、画像Iiにおける割合p3の値が、閾値thr3より大きいことを検出する(図19のステップS17)と、画像Ii中における便の占める割合が大きいことから、画像Iiを、被写体として大腸が撮像されたものであるとして識別及び分類する(図19のステップS18)。なお、本実施形態においては、例えば、閾値thr3の値は0.8であるとする。
【0096】
その後、制御部9aは、以上までの処理において、胃粘膜、絨毛及び便のいずれの画像としても識別及び分類されなかった画像に対しての識別及び分類を保留する。そして、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図19のステップS19)、画像番号iに1を加え(図19のステップS20)、次の画像について、図19のステップS11からステップS19までに示す処理を引き続き行う。
【0097】
制御部9aは、以上に述べた、図19のステップS11からステップS19までの処理を行うことにより、小腸が撮像された画像及び大腸が撮像された画像として識別及び分類された画像を各々特定する。換言すると、制御部9aは、以上に述べた、図19のステップS11からステップS19までの処理を行うことにより、被写体として撮像された臓器が胃、小腸または大腸のいずれであるかを検出することができる。
【0098】
また、ユーザが撮像対象の像の観察を行う際には、図20に示すような、グラフィックインターフェース(GUI)を備えたビュアーが端末装置7のディスプレイ8cに表示される。図20に示すビュワーのメイン画面(ウィンドウ)101は、撮像対象の像の画像が表示される画像表示部102と、患者及び検査内容についての情報が表示される患者/検査情報表示部103と、画像の枚数等が表示される画像情報表示部104と、画像表示部102に対する表示制御を行う画像表示制御部105と、スライダ106とを有している。
【0099】
スライダ106は、図示しないマウスカーソルを用いた指示が行われることにより、該指示に基づく所望の画像を画像表示部102に表示する機能を有している。また、このスライダ106は、小腸が撮像された画像及び大腸が撮像された画像の開始位置を指し示すための案内表示部107を有する。そのため、ユーザは、例えば、小腸出血を最も疑う症例については、小腸を優先的かつ効率的に観察するといったような、体腔内の所望の部位の観察を容易に行うことができる。また、図20に示すビュワーのメイン画面101においては、例えば、図示しない「小腸」等の記載がなされたボタンが設けられていても良い。この場合、ユーザは、前記ボタンを図示しないマウスカーソルを用いてクリックすることにより、小腸が撮像された画像を直接表示して観察を行うことができる。
【0100】
なお、本実施形態の画像処理方法においては、端末装置7の制御部9aは、画像Iiを、x軸方向の画素数lx×y軸方向の画素数lyからなる矩形領域に分割したが、さらに、例えば、x軸方向の画素数lx/2及びy軸方向の画素数ly/2の大きさからなる領域を該矩形領域に重複させて同様の処理を行うものであっても良い。この場合、分類対象となる各クラスの境界が前記矩形領域に含まれた際に生じ得る誤分類を軽減することが可能となる。
【0101】
また、前述したように、端末装置7の制御部9aは、本実施形態の画像処理方法を用いることにより、胃粘膜と絨毛とを個別のクラスとして識別及び分類を行ったが、例えば、胃粘膜及び絨毛を1つのクラスである「生体粘膜表面」として識別及び分類を行った後、さらに、「生体粘膜表面」として分類された領域Hstに対し、胃粘膜及び絨毛の2つのクラスにおける識別及び分類を再度行うものであっても良い。
【0102】
また、カプセル型内視鏡3は、体腔内に配置された後、胃から小腸へと順次進んでゆく。そのため、端末装置7の制御部9aは、得られた分類結果に基づき、例えば、全領域数に対して絨毛に分類された領域の割合が0.7を超えた時点において、胃粘膜クラスへの分類を停止するような処理を行うものであっても良い。
【0103】
また、本実施形態の画像処理方法は、例えば、食道クラス及び大腸クラスを設定することにより、粘膜表面の色調及び模様の違いによる識別器を実現するという用途として用いることも可能である。さらに、本実施形態の画像処理方法は、全領域数に対して便に分類された領域の割合が多く、かつ、全領域数に対して絨毛に分類された領域の割合が少なくなった場合に大腸と識別するような用途として用いることも可能である。
【0104】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、生体粘膜表面とは異なるものである、異物の像としての便及び泡の像とを画像毎に識別及び分類し、観察が必要な画像のみをディスプレイ8cに表示することができる。そのため、ユーザは、生体粘膜表面の像が良好に撮像されていない画像が除外された状態において体腔内の観察を行うことができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0105】
また、以上に述べた本実施形態の画像処理方法は、出血、発赤等の病変部位の検出を行う画像処理方法と組み合わせて用いられることにより、病変部位の検出結果が生体粘膜表面上から得られたものであるか否かを判定でき、その結果、病変部位の検出精度を高めることができる。例えば、端末装置7の制御部9aは、出血、発赤等の病変部位の検出を行う画像処理方法により、病変が疑われる領域として抽出された領域Hstの分類結果を参照し、該分類結果が便、泡等の非生体粘膜表面像である場合には誤検出として扱うことにより、病変部位の検出精度を高めることができる。
【0106】
また、本実施形態によれば、生体粘膜表面の像として分類された各々の領域に対し、さらに、例えば、前記各々の領域が有する特徴量に基づき、正常な粘膜の像と病変部位の像と分類するような画像処理方法を用いることにより、病変部位の検出精度を高めることができる。
【0107】
(第2の実施形態)
図21は、本発明の第2の実施形態に係るものである。なお、第1の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0108】
図21は、本実施形態に係る画像処理動作を示すフローチャートである。
【0109】
まず、制御部9aは、入力されたi番目の画像Iiを構成するRi、Gi及びBiの各プレーンに対し、前処理として、例えば、メディアンフィルタリングによるノイズ除去及び逆γ補正を行うと共に、ハレーション画素及び暗部画素を以降の処理対象から除外するため、閾値に基づく処理により検出しておく(図21のステップS21)。そして、前記閾値に基づく処理は、例えば、rik、gik及びbikの濃度値の全てが10以下の値であれば暗部画素、また、rik、gik及びbikの濃度値の全てが230以上の値であればハレーション画素とするような処理として行われる。
【0110】
その後、制御部9aは、Ri、Gi及びBiの各プレーンを小領域に分割する(図21のステップS22)。なお、本実施形態において、制御部9aは、第1の実施形態において行った方法と同様に、Ri、Gi及びBiの各プレーンを、x軸方向の画素数lx×y軸方向の画素数ly(1≦lx、1≦ly)からなる矩形領域に分割するものとし、その領域数は(m×n)個(m=ISX/lx、n=ISY/ly)であるものとする。また、制御部9aは、mまたはnが整数とならない場合においては、大きさが端数となる最端部の領域を、端数の画素数を有する領域として処理するか、または以降の処理対象から除外するものとする。
【0111】
制御部9aは、分割した各領域において、撮像対象の像の画像上における色の違いを反映する色調情報、及び撮像対象の像の画像上における構造の違いを反映するテクスチャ情報を特徴量として算出する(図21のステップS23)。なお、本実施形態の画像処理方法においては、制御部9aにおいて分割された領域のうち、一の領域をHj(1≦j≦m×n)と示すものとする。
【0112】
本実施形態において、制御部9aが算出する色調情報は、一の領域Hjに含まれる各画素のRGB値の比に基づく値としての、gik/rikの平均値(以降、μgjと記す)及びbik/rikの平均値(以降、μbjと記す)からなる、2つの特徴量として示される値である。なお、μgj及びμbjの各値は、0から1の値をとるものとする。また、μgj及びμbjの各値は、例えば、胃粘膜のような比較的赤色調を示す領域においては、略同様に小さな値をとる。一方、μgj及びμbjの各値は、例えば、小腸のような比較的白色調を示す領域においては、略同様に大きな値をとる。また、μgj及びμbjの各値は、例えば、便のような比較的黄色調を示す領域においては、μgj>μbjとなるような値をとる。
【0113】
本実施形態において、制御部9aが算出するテクスチャ情報は、前述したように、撮像対象の像の画像上における構造の違いを反映するものである。そして、撮像対象の像の画像上における構造は、例えば、粘膜表面における絨毛等の微細構造、及び便が有する不定形な模様等として示されるものである。具体的には、制御部9aが算出するテクスチャ情報は、一の領域Hjに含まれる各画素のRGB値の標準偏差σrj、σgj及びσbjを、一の領域Hjに含まれる各画素のRGB値の平均値mrj、mgj及びmbjで除したものである、3つの特徴量として示されるRGB値の変動係数CVrj、CVgj及びCVbjである。なお、変動係数CVrj、CVgj及びCVbjを算出するための計算式は、下記数式(6)、数式(7)及び数式(8)として示される。
【0114】
CVrj=σrj/mrj ・・・(6)
CVgj=σgj/mgj ・・・(7)
CVbj=σbj/mbj ・・・(8)
上記数式(6)、数式(7)及び数式(8)により算出される変動係数CVrj、CVgj及びCVbjにより、撮像対象に対して供給される照明光量の違い等による影響によらず、テクスチャ構造による画素変動の程度を数値化することができる。CVrj、CVgj及びCVbjの各値は、例えば、拡大観察を行っていない状態である、通常観察において撮像された胃粘膜のような、画像上における構造が比較的平坦な領域においては、明瞭なテクスチャ構造がないため、略同様に小さな値をとる。一方、CVrj、CVgj及びCVbjの各値は、例えば、小腸の絨毛のような、画像上における構造にエッジを比較的多く含む領域においては、略同様に大きな値をとる。
【0115】
そして、制御部9aは、色調情報及びテクスチャ情報からなる5つの特徴量、すなわち、μgj、μbj、CVrj、CVgj及びCVbjの各値を、ハレーション画素及び暗部画素を除いた各画素のRGB値に基づき、(m×n)個の領域Hj各々において算出する。なお、本実施形態においては、一の領域Hjが有する、(lx×ly)個の画素において、例えば、ハレーション画素の個数と、暗部画素の個数との和が占める割合が50%を超えた場合、一の領域Hjを以降の処理から除外するような制御が行われるものであっても良い。
【0116】
その後、制御部9aは、以降に説明する処理を行うため、一の領域Hjの領域番号jをj=1とする(図21のステップS24)。そして、制御部9aは、ベイズの定理に基づく統計的識別器を用い、胃粘膜、絨毛、便及び泡からなる4つのクラスのうち、一の領域Hjがどのクラスに属するかを識別し、該識別結果に基づく分類を行う。
【0117】
具体的には、4つのクラスの識別及び分類において、一のクラスωa(a=1、2、…、C、Cはクラス数を示す)が発生する事前確率をP(ωa)とし、一の領域Hjにおける5つの特徴量から決定された特徴ベクトルをxとし、全クラスからの特徴ベクトルxの発生確率に基づく確率密度関数をp(x)とし、一のクラスωaからの特徴ベクトルxの発生確率に基づく状態依存確率密度(多変量正規確率密度)関数をp(x|ωa)とすると、発生した特徴ベクトルxが一のクラスωaに属する事後確率P(ωa|x)を算出するための計算式は、下記数式(9)として示される。
【0118】
なお、状態依存確率密度関数p(x|ωa)及び確率密度関数p(x)は、下記数式(10)及び数式(11)として示される。
【0119】
なお、上記数式(10)及び数式(11)において、dはxの特徴量の個数と同数である次元数を示し、μa及びΣaはクラスωaにおける特徴ベクトルxの平均ベクトル及び一のクラスωaにおける分散共分散行列を示すものとする。また、(x−μa)tは(x−μa)の転置行列を示し、|Σa|はΣaの行列式を示し、Σa−1はΣaの逆行列を示すものとする。さらに、説明の簡単のため、事前確率P(ωa)は、全クラスにおいて等しい値をとると仮定し、また、確率密度関数p(x)は、上記数式(11)により全クラス共通の関数として表されるものとする。
【0120】
分類基準としての平均ベクトルμa及び分散共分散行列Σaは、一のクラスωaにおける母数を構成する要素であり、1番目の画像I1が端末装置7に入力される以前の段階において、胃粘膜、絨毛、便及び泡からなる4つのクラスの教師データを構成する複数の画像、例えば、図13、図14、図15及び図16に示すような画像に基づき、該画像の一の領域各々において都度決定される特徴ベクトルxから、クラス毎に予め算出された後、初期値として端末装置7に各々記憶される。
【0121】
なお、平均ベクトルμaは、特徴ベクトルxが有する5つの特徴量各々の平均値からなり、かつ、特徴ベクトルxと同一の次元数を有するベクトルである。すなわち、特徴ベクトルxがx=(x1,x2,x3,x4,x5)として表される場合、平均ベクトルμaは、特徴ベクトルxが有する5つの特徴量各々の平均値である、μx1、μx2、μx3、μx4及びμx5を用いて、μa=(μx1,μx2,μx3,μx4,μx5)として表されるものとする。また、分散共分散行列Σaは、一のクラスωaに属する特徴ベクトルxの分布のバラツキ及び広がり具合を示す行列であり、特徴ベクトルxの特徴量の個数と同数である次元数dに対し、d×d行列として表されるものとする。
【0122】
制御部9aは、発生した特徴ベクトルxがクラスω1に属する事後確率P(ω1|x)と、発生した特徴ベクトルxがクラスω2に属する事後確率P(ω2|x)と、発生した特徴ベクトルxがクラスω3に属する事後確率P(ω3|x)と、発生した特徴ベクトルxがクラスω4に属する事後確率P(ω4|x)とを、ベイズの定理に基づいた上記数式(9)から数式(11)を用いて各々算出する。そして、制御部9aは、これら4つの事後確率のうち、最大の事後確率P1(ωa|x)を与えるクラスωaに特徴ベクトルxが属するものとして識別を行い、該識別結果に基づいて特徴ベクトルxが発生した領域である一の領域Hjをクラスωaに分類する(図21のステップS25)と共に、最大の事後確率P1(ωa|x)を与える確率密度関数p1(x|ωa)の値を算出する。
【0123】
そして、制御部9aは、以上までの処理において、クラスωaに分類された一の領域Hjの分類結果が正確なものであるか否かを判定するため、平均値からの距離に基づく処理、すなわち、最大の事後確率P1(ωa|x)を与える確率密度関数p1(x|ωa)の値に対する閾値に基づく処理をさらに行う。
【0124】
具体的には、まず、制御部9aは、平均ベクトルμaが有する5つの特徴量各々の平均値のうち、例えば、特徴量x1の平均値μx1に対し、特徴量x1の標準偏差σx1と、所定の定数としての乗算係数αとの積を加えた値を含む、閾値ベクトルxb1を決定する。なお、このような閾値ベクトルxb1は、例えば、下記数式(12)として示されるものであり、また、本実施形態においては、乗算係数αの値は1.5であるとする。
【0125】
xb1=(μx1+α×σx1,μx2,μx3,μx4,μx5) ・・・(12)
上記数式(12)により閾値ベクトルxb1が決定されると、制御部9aは、閾値ベクトルxb1を上記数式(9)、数式(10)及び数式(11)のxとして代入し、一の領域Hjが分類されたクラスωaの閾値としての、確率密度関数p(xb1|ωa)の値を算出する。
【0126】
そして、制御部9aは、p1(x|ωa)の値がp(xb1|ωa)の値より大きいことを検出する(図21のステップS26)と、図21のステップS25に示す処理において、一の領域Hjをクラスωaに分類した分類結果が正確であると判断する(図21のステップS27)。
【0127】
また、制御部9aは、p1(x|ωa)の値がp(xb1|ωa)の値以下であることを検出する(図21のステップS26)と、図21のステップS25に示す処理において、一の領域Hjをクラスωaに分類した分類結果が不正確であると判断し、一の領域Hjを不明クラスに分類する(図21のステップS28)。
【0128】
そして、制御部9aは、分割した(m×n)個の領域全てについての分類が完了していない場合(図21のステップS29)、領域番号jに1を加え(図21のステップS30)、次の領域について、図21のステップS25からステップS29までに示す処理を行う。
【0129】
また、制御部9aは、入力された画像Iiの全てに対し、前述した処理が完了していない場合(図21のステップS31)、画像番号iに1を加え(図21のステップS32)、次の画像について、図21のステップS21からステップS31までに示す処理を引き続き行う。
【0130】
また、以上の説明においては、色調情報及びテクスチャ情報に基づく5個の特徴量の全てを一度に用いて特徴ベクトルxを決定するような、5次元の多変量正規確率密度を規定する場合について述べた。しかし、本実施形態における画像処理方法においては、例えば、色調情報及びテクスチャ情報についての各々の特徴量を個別に用いて2種類の特徴ベクトルxc及びxtを決定し、1つのクラスにつき2個の多変量正規確率密度を規定することにより、画像の分類をさらに高精度に行うことができる。
【0131】
具体的には、まず、制御部9aは、色調情報を構成する2個の特徴量μgj及びμbjについての状態依存確率密度関数をpc(xc|ωa)として、また、テクスチャ情報を構成する3個の特徴量CVrj、CVgj及びCVbjについての状態依存確率密度関数をpt(xt|ωa)として各々算出する。なお、xcは、xc=(μgj,μbj)として表される2次元のベクトルであり、また、xtは、xt=(Cvrj、Cvgj、Cvbj)として表される3次元のベクトルである。
【0132】
制御部9aは、これら2つの状態依存確率密度関数pc(xc|ωa)及びpt(xt|ωa)を用いて数式(10)に基づく事後確率Pc(ωa|xc)及びPt(ωa|xt)を算出した後、最終的な事後確率P(ωa|x)を下記数式(13)により算出する。
【0133】
P(ωa|x)=Pc(ωa|xc)×Pt(ωa|xt) ・・・(13)
また、クラスωaへの分類結果の正確性を判断するための閾値は、色調情報及びテクスチャ情報の特徴量各々の平均ベクトルμc及びμtと、標準偏差σc1及びσt1に基づき、例えば、p(xcb|ωa)及びp(xtb|ωa)として設定される。そして、制御部9aは、p1(xc|ωa)>p(xcb|ωa)であり、かつ、p1(xt|ωa)>p(xtb|ωa)であれば、分類結果は正確であるとして、特徴ベクトルxc及び特徴ベクトルxtを有する一の領域Hjを、胃粘膜、絨毛、便または泡のいずれかのクラスとして分類し、そうでなければ不明クラスとして分類する。
【0134】
なお、以上の説明において、事前確率P(ωa)は、全クラスにおいて等しいと仮定したが、これに限るものではない。事前確率P(ωa)は、例えば、カプセル型内視鏡3が撮像する部位の時間配分に基づき、絨毛クラスまたは便クラスの事前確率P(ωa)を高めに設定したり、カプセル型内視鏡3が撮像した部位の誤分類によるリスクに基づき、胃粘膜クラス及び絨毛クラスの事前確率P(ωa)を、観察不要とする便クラス及び泡クラスより高めに設定したり等、種々の用途に応じた値に設定されるものであっても良い。
【0135】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像の小領域毎に識別及び分類することができる。そのため、ユーザは、画像の小領域の多くを異物の像が占めるような、生体粘膜表面の像が良好に撮像されていない画像を、観察不要の画像として容易に除外することができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0136】
さらに、本実施形態における画像処理方法によれば、例えば、特徴量が分類対象クラスの分布境界または分布重複範囲に該当する等の理由により、確実な分類が困難となるような画像が存在する場合、該画像を不明クラスとして分類することができる。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、信頼性の高い画像分類結果を得ることができる。
【0137】
(第3の実施形態)
図22は、本発明の第3の実施形態に係るものである。なお、第1の実施形態及び第2の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態及び第2の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態及び第2の実施形態の形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0138】
図22は、本実施形態に係る画像処理動作を示すフローチャートである。
【0139】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiに対し、第2の実施形態において説明した、図21に示す、ステップS21からステップS30までの処理を行い、画像Iiについての分類結果を得る(図22のステップS41)。なお、本実施形態において、図22のステップS41に示す処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。
【0140】
そして、制御部9aは、画像Iiについての分類結果に基づき、絨毛クラスに分類された領域数が画像Iiの全領域数(m×n)に占める割合Jの値を算出する(図22のステップS42)。なお、割合Jは、具体的には、例えば、上記数式(4)におけるpをJに、また、zを絨毛クラスに分類された領域数zaをzに置換することにより算出される値である。
【0141】
その後、制御部9aは、割合Jの値と閾値thrJとの比較を行う。制御部9aは、画像Iiにおける割合pの値が、閾値thrJより大きいことを検出する(図22のステップS43)と、画像Iiの各領域Hjにおいて、胃粘膜クラスに分類されていた領域を絨毛クラスとして再分類する(図22のステップS44)。なお、本実施形態においては、例えば、閾値thrJの値は0.5であるとする。
【0142】
また、制御部9aは、画像Iiにおける割合pの値が、閾値thrJ以下であることを検出する(図22のステップS43)と、画像Iiの各領域Hjにおいて、絨毛クラスに分類されていた領域を胃粘膜クラスとして再分類する(図22のステップS45)。
【0143】
そして、制御部9aは、画像Iiについての、前述したような処理による再分類が完了すると、今度は(i+1)番目の画像Ii+1に対し、図22のステップS41からの一連の処理を行う(図22のステップS46)。
【0144】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0145】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、分類結果を得た画像に対し、さらに、胃粘膜及び絨毛の各クラスに分類された領域Hjを排他的に置換して再分類するような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、一の画像内に混在して存在し得ないような、胃粘膜の像の画像と(小腸の)絨毛の像の画像との分類を行う場合における誤分類を無くすことができ、その結果、精度の高い画像分類結果を得ることができる。
【0146】
(第4の実施形態)
図23は、本発明の第4の実施形態に係るものである。なお、第1の実施形態から第3の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第3の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第3の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0147】
図23は、本実施形態に係る画像処理動作を示すフローチャートである。
【0148】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiに対し、第2の実施形態において説明した、図21に示す、ステップS21からステップS30までの処理を行い、画像Iiについての分類結果を得る(図23のステップS51)。なお、本実施形態において、図23のステップS51に示す処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が便クラス、泡クラス、不明クラス及び生体粘膜クラスからなる4つのクラスのいずれかに分類されたような分類結果であるとする。
【0149】
その後、制御部9aは、以降に説明する処理を行うため、一の領域Hjの領域番号jをj=1とする(図23のステップS52)。そして、制御部9aは、画像Iiについての分類結果から、領域Hjを生体粘膜クラスに分類したか否かを判定する(図23のステップS53)。
【0150】
制御部9aは、領域Hjを生体粘膜クラスに分類したことを検出すると、教師データを構成する胃粘膜の画像及び絨毛の画像が各々有する特徴量に基づいて算出された平均ベクトルμa及び分散共分散行列Σaが代入された上記数式(9)から数式(11)を用い、該領域Hjにおいて発生した特徴ベクトルxが胃粘膜クラス(a=1とする)に属する事後確率P(ω1|x)と、発生した特徴ベクトルxが絨毛クラス(a=2とする)に属する事後確率P(ω2|x)とを各々算出する。そして、制御部9aは、これら2つの事後確率のうち、最大の事後確率P2(ωa|x)を与えるクラスに特徴ベクトルxが属するものとして識別を行い、該識別結果に基づいて特徴ベクトルxが発生した領域である一の領域Hjを胃粘膜クラスまたは絨毛クラスのいずれかに分類する(図23のステップS54)。
【0151】
そして、制御部9aは、分割した(m×n)個の領域全てについての分類が完了していない場合(図23のステップS55)、領域番号jに1を加え(図23のステップS56)、次の領域について、図23のステップS53からステップS55までに示す処理を行う。
【0152】
また、制御部9aは、画像Iiについての、前述したような処理による分類を完了すると、今度は(i+1)番目の画像Ii+1に対し、図23のステップS51からの一連の処理を行う(図23のステップS57)。
【0153】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0154】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、分類結果を得た画像に対し、さらに、生体粘膜クラスに分類された領域Hjを、胃粘膜クラスまたは絨毛クラスとして再分類するような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、胃粘膜の像の画像と(小腸の)絨毛の像の画像との分類を高精度に行うことができる。そして、端末装置7の制御部9aは、本実施形態における画像処理方法と、第3の実施形態における画像処理方法と組み合わせて用いることにより、胃粘膜の像の画像と(小腸の)絨毛の像の画像とがさらに高精度に分類されたような分類結果を得ることができる。
【0155】
なお、本発明における第1の実施形態から第4の実施形態において説明した画像処理方法は、カプセル型内視鏡装置1のカプセル型内視鏡3が撮像した像の画像に対して用いられるものに限らず、例えば、撮像素子及び対物光学系を挿入部の先端部に有するような内視鏡を有する内視鏡装置が撮像した像の画像に対して用いられるものであっても良い。
【0156】
(第5の実施形態)
図24及び図25は、本発明の第5の実施形態に係るものである。なお、第1の実施形態から第4の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第4の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。また、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第4の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。さらに、本実施形態においては、制御部9aは、端末装置7に予め入力された状態の一連の画像に対し、以降に説明する画像処理を用いるものとする。
【0157】
図24は、本実施形態に係る画像処理動作の一部を示すフローチャートである。図25は、本実施形態に係る画像処理動作の一部として、図24のフローチャートに示す処理が行われた後に行われる、画像の表示制御動作を示すフローチャートである。
【0158】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、全部でN枚(1≦N)からなる画像のうち、入力されたi番目の画像Ii(I1≦Ii≦IN)についての分類結果を得る(図24のステップS61)。なお、本実施形態において、制御部9aは、画像Iiについての分類結果を得るための処理方法として、例えば、図11に示すステップS1からステップS4までの処理、または図21に示すステップS21からステップS30までの処理のうち、いずれの処理方法を用いるものであっても良い。また、画像Iiについての分類結果を得るための処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。さらに、制御部9aは、画像Iiについての分類結果を得るための処理を行う際に、一の領域において、極端な暗部あるいはハレーション等の画素数が所定の閾値以上含まれることを検出した場合、例えば、該一の領域を便クラス、泡クラスまたは不明クラスのいずれかとして分類するものであっても良い。
【0159】
そして、制御部9aは、図24のステップS61の処理により得た分類結果に基づき、例えば、便クラス、泡クラス及び不明クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合Kを算出する(図24のステップS62)。その後、制御部9aは、割合Kの値と閾値thlx(本実施形態においては、例えば0.7とする)との比較を行うことにより、画像Iiが観察不要の画像であるか否かを判定する。なお、前述したような判定を行うための処理において、制御部9aが得た分類結果に不明クラスの分類結果が含まれない場合、制御部9aは、便クラス及び泡クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合K1を算出した後、割合K1の値と閾値thlxとの比較を行うものであっても良い。また、前述したような判定を行うための処理においては、制御部9aは、胃粘膜クラス及び絨毛クラスとして分類された領域数の合計が画像Iiの全領域数(m×n)に占める割合K2を算出した後、割合K2の値と閾値thly(例えば0.3とする)との比較を行うものであっても良い。なお、閾値thlx及び閾値thlyは、予め固定された値に限るものではなく、例えば、端末装置7の操作により、ユーザが所望の値を設定できるものであっても良い。これにより、ユーザは、どの程度生体粘膜表面が撮像された画像を観察対象とするかを選択することができる。そのため、ユーザは、例えば、病変発見のためにスクリーニング検査を行う場合には観察効率を重視し、精密検査を行う場合にはより詳細に多くの画像を観察するといったように、用途に応じて使い分けるような処理として、制御部9aに本実施形態の画像処理方法を実行させることができる。
【0160】
その後、制御部9aは、画像Iiにおける割合Kの値が、閾値thlx以上であることを検出する(図24のステップS63)と、画像Iiを観察不要の画像であるとし、参照値としてのフラグ値kflagiの値を例えば1とする(図24のステップS64)。
【0161】
また、制御部9aは、画像Iiにおける割合Kの値が、閾値thlxより小さいことを検出する(図24のステップS63)と、画像Iiを観察不要な画像ではないとし、フラグ値kflagiの値を例えば0とする(図24のステップS65)。
【0162】
制御部9aは、以上に述べたような処理により決定されたフラグ値kflagiを、画像Iiに関連付けて保持する(図24のステップS66)。
【0163】
その後、制御部9aは、画像I1から画像INまでの全ての画像について、前述したような処理による分類を行ったかどうかを判定し(図24のステップS67)、全ての画像について分類が行われていない場合、今度は(i+1)番目の画像Ii+1に対し、図24のステップS61からの一連の処理を行う(図24のステップS68)。また、制御部9aは、画像I1から画像INまでの全ての画像について、前述したような処理による分類を行った場合、端末装置7に予め入力された状態の一連の画像に対しての処理を完了する(図24のステップS69)。
【0164】
次に、前述したような処理により分類された画像I1から画像INまでの一連の画像を、例えば、ユーザが画像I1(画像番号i=1の画像)から順次観察すると想定した場合、制御部9aは、画像Iiに関連付けて保持したフラグ値kflagiの値を読み込む(図25のステップS71)。そして、制御部9aは、フラグ値kflagiの値に基づき、画像Iiが観察不要の画像か否かを判定する。
制御部9aは、画像Iiに関連付けられたフラグ値kflagiの値が1である場合(図25のステップS72)、画像Iiをディスプレイ8cに表示させないような表示制御を、端末装置7の各部に対して行う(図25のステップS73)。
【0165】
また、制御部9aは、画像Iiに関連付けられたフラグ値kflagiの値が1でない場合、すなわち、フラグ値kflagiの値が0である場合(図25のステップS72)、画像Iiをディスプレイ8cに表示させるような表示制御を、端末装置7の各部に対して行う(図25のステップS74)。
【0166】
その後、制御部9aは、画像Iiから画像INまでの全ての画像について、前述したような表示制御処理を行ったかどうかを判定し(図25のステップS75)、全ての画像について処理が行われていない場合、画像番号iに1を加えた後、次の画像Ii+1に対し、図25のステップS71からの一連の処理を行う(図25のステップS76)。また、制御部9aは、画像I1から画像INまでの全ての画像について前述したような表示制御処理を行った場合、ユーザが画像I1から画像INまでの一連の画像を順次観察し終えたものであるとし、表示制御処理を完了する(図25のステップS77)。
【0167】
なお、以上に述べた画像処理方法は、画像I1から画像INまでの一連の画像を、ユーザが画像I1から順次観察する場合についてのみに用いられるものに限らず、例えば、画像I1から画像INまでの一連の画像のうち、ユーザが所望の画像を選択して観察する場合について用いられるものであっても良い。また、以上に述べた画像処理方法において、制御部9aは、観察不要の画像として分類した画像を記憶しないように端末装置7の各部に制御を行っても良いし、また、観察不要の画像として分類した後、図示しない記憶手段に記憶させた画像を削除するように端末装置7の各部に制御を行っても良い。
【0168】
以上に述べたように、本実施形態における画像処理方法によれば、生体粘膜表面の像としての胃粘膜及び絨毛の像と、異物の像としての便及び泡の像とを画像毎に識別及び分類し、観察が必要な画像のみをディスプレイ8cに表示することができる。そのため、ユーザは、生体粘膜表面の像が良好に撮像されていない画像が除外された状態において体腔内の観察を行うことができ、その結果、カプセル型内視鏡装置1を用いた観察の効率化をはかることができる。
【0169】
(第6の実施形態)
図26から図31は、本発明の第6の実施形態に係るものである。なお、第1の実施形態から第5の実施形態までと同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態から第5の実施形態までと同様の構成要素については、同一の符号を用いて説明は省略する。また、本実施形態におけるカプセル型内視鏡装置1の構成は、第1の実施形態から第5の実施形態までの形態と同様であると共に、本実施形態における画像処理方法もまた同様に、端末装置7としての、例えば、パーソナルコンピュータにおいて実行されるプログラムとして実現されているものとする。そして、本実施形態における画像処理方法は、端末本体9が有する制御部9aにおける処理として行われるものとする。
【0170】
図26は、本実施形態に係る画像処理動作の一部を示すフローチャートである。図27は、図26の処理に引き続いて行われる、本実施形態に係る画像処理動作の一部を示すフローチャートである。図28は、図27の処理に引き続いて行われる、本実施形態に係る画像処理動作の一部を示すフローチャートである。図29は、本実施形態に係る画像処理動作において、エッジ特徴量(エッジ特徴ベクトルとも記す)を決定する際に指標となる8つの方向を示す図である。図30は、本実施形態に係る画像処理動作において設定される、中心領域と最外周領域との位置関係を示す図である。図31は、本実施形態に係る画像処理動作において設定される、エッジ特徴ベクトルの方向と、ベクトルVlの方向とがなす角度を示す図である。
【0171】
制御部9aは、本実施形態に係る画像処理方法を行う前に、まず、入力されたi番目の画像Iiについての分類結果を得る(図26のステップS81)。なお、本実施形態において、制御部9aは、画像Iiについての分類結果を得るための処理方法として、例えば、図11に示すステップS1からステップS4までの処理、または図21に示すステップS21からステップS30までの処理のうち、いずれの処理方法を用いるものであっても良い。また、画像Iiについての分類結果を得るための処理を行うことにより制御部9aが得る分類結果は、画像内の各領域が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果であるとする。さらに、本実施形態において、制御部9aは、図26のステップS81の処理を行う場合、入力されたi番目の画像IiをM×M個の領域Hk(1≦k≦M×M)に分割するものとする。換言すると、制御部9aは、画像Iiの分類結果として、M×M個の領域Hk各々が胃粘膜クラス、絨毛クラス、便クラス、泡クラス及び不明クラスからなる5つのクラスのいずれかに分類されたような分類結果を得るものであるとする。
【0172】
制御部9aは、画像Iiについての分類結果を得た後、M×M個の領域Hk各々におけるG(緑)画素の濃度値の平均値gakを算出する(図26のステップS82)。そして、制御部9aは、領域HkにおけるG画素の濃度値の平均値gakと、領域Hkに隣接する領域Hkt(t≦8)各々におけるG画素の濃度値の平均値gaktとに基づき、G画素の濃度値の変動量Gbtを下記数式(14)により算出する(図26のステップS83)。
【0173】
Gbt=log(gakt)−log(gak) ・・・(14)
制御部9aは、上記数式(14)により得られた、領域Hkt各々におけるGbtの値のうち、最大のものを最大値Gbmとし、また、領域Hktのうち、最大値Gbmを与える領域Hktmが、領域Hkに対して存在する方向をdirGbmとした後、これら2つを領域Hkのエッジ特徴量として保持する(図26のステップS84)。なお、G画素の濃度値の変動量の最大値Gbmを与える領域Hktmが、領域Hkに対して存在する方向は、図29に示す方向1から方向8のうち、いずれか1つの方向として決定されるものであるとする。
【0174】
その後、制御部9aは、最大値Gbmと、閾値thre1との比較を行い(図26のステップS85)、最大値Gbmが閾値thre1よりも大きい場合、領域Hkには画像Iiにおけるエッジが存在すると判定し(図26のステップS86)、また、最大値Gbmが閾値thre1以下である場合、領域Hkには画像Iiにおけるエッジが存在しないと判定する(図26のステップS87)。なお、本実施形態においては、閾値thre1の値は、例えば0.3であるとする。そして、制御部9aは、領域番号kの値に1を加えつつ、(M×M)個の領域Hk全てに対して、図26のステップS83からステップS87に示す、上記数式(14)を用いた処理を繰り返し行うことにより、画像Iiにおいてエッジが存在する領域を特定する(図26のステップS88およびステップS89)。
【0175】
なお、以上に述べたような、画像Iiにおけるエッジを検出するための処理を行う以前の段階において、制御部9aは、画像Iiに対する前処理として、例えば、逆ガンマ補正、シェーディング補正等の処理を行うものであっても良い。
【0176】
制御部9aは、(M×M)個の領域Hk全てに対して前述したような処理を行うことにより、画像Iiにおいてエッジが存在する領域を特定した後、領域Hkを中心領域とする、M1×M1(M1≦M)個の領域からなる配置評価領域を取得する(図27のステップS91)。その後、制御部9aは、配置評価領域を構成する領域のうち、最外周に存在する領域の数である最外周領域数Dを検出する(図27のステップS92)。また、制御部9aは、配置評価領域におけるD個の最外周領域Hkl各々において、領域Hkが存在する方向を向くベクトルであるベクトルVlを算出する(図27のステップS93)。なお、領域Hkと最外周領域Hklとの位置関係は、例えば、図30に示すようなものとなる。
【0177】
制御部9aは、最外周領域Hklとして定められた領域各々が有する、エッジ特徴ベクトルの方向を示すdirGbmと、ベクトルVlの方向とに基づき、図31に示すような、これら2つのベクトルがなす角度θlを算出する(図27のステップS94)。その後、制御部9aは、D個の最外周領域Hklのうち、図26のステップS81からステップS89までの処理においてエッジが存在する領域であると判定され、かつ、θl≦thre2となる領域数Eを検出する(図27のステップS95)。なお、本実施形態においては、閾値thre2の値は、例えば45°であるとする。
【0178】
そして、制御部9aは、E/Dの値を算出し、E/Dの値が閾値thre3よりも大きい場合(図27のステップS96)、領域Hkを、画像Iiにおいて出血部が存在する可能性のある、出血部候補領域であると判定する(図27のステップS97)。また、制御部9aは、E/Dの値が閾値thre3よりも大きい場合(図27のステップS96)、図26のステップS81からステップS89までの処理においてエッジが存在する領域であると判定され、かつ、θl≦thre2を満たすE個の最外周領域Hklを、出血部のエッジが存在する可能性のある、出血部エッジ候補領域であると判定する(図27のステップS97)。
【0179】
なお、本実施形態においては、閾値thre3の値は、例えば0.7であるとする。そして、制御部9aは、領域番号kの値に1を加えつつ、(M×M)個の領域Hk全てに対して、図27のステップS91からステップS97に示す、上記数式(14)を用いた処理を繰り返し行うことにより、画像Iiにおいて、出血部が存在する領域の候補と、出血部のエッジが存在する領域の候補とを特定する(図27のステップS98およびステップS99)。
【0180】
制御部9aは、(M×M)個の領域Hk全てに対して前述したような処理を行うことにより、画像Iiにおける出血部候補領域と、出血部エッジ候補領域とを特定した後、出血部候補領域の領域数Hを検出する(図28のステップS101)。その後、制御部9aは、各々の出血部候補領域に対応する、E個の出血部エッジ候補領域を検出する(図28のステップS102)。
【0181】
そして、制御部9aは、出血部候補領域としての領域Hkに対応する、出血部エッジ候補領域としての最外周領域Hklにおいて、領域Hklとして定められた領域が有するG画素の濃度値の平均値gaklと、領域Hklに隣接する領域Hklt(t≦8)各々におけるG画素の濃度値の平均値gakltとに基づき、G画素の濃度値の変動量Gbltを下記数式(15)により算出する(図28のステップS103)。
【0182】
Gblt=log(gaklt)−log(gakl) ・・・(15)
また、制御部9aは、出血部候補領域としての領域Hkに対応する、出血部エッジ候補領域としての最外周領域Hklにおいて、領域Hklとして定められた領域におけるR(赤)画素の濃度値の平均値raklと、領域Hklに隣接する領域Hklt(t≦8)各々におけるR画素の濃度値の平均値rakltとを算出する。そして、制御部9aは、平均値raklと、平均値rakltと基づき、R画素の濃度値の変動量Rbltを下記数式(16)により算出する(図28のステップS104)。
【0183】
Rblt=log(raklt)−log(rakl) ・・・(16)
制御部9aは、領域Hklとして定められた領域が有する最大値Gbmと、方向dirGbmにおける変動量Rbltとに基づき、カラーエッジ特徴量としてのGbm/Rbltの値を算出する。その後、制御部9aは、E個の領域Hklのうち、Gbm/Rblt>thre4となる領域数Fを検出する(図28のステップS105)。なお、本実施形態においては、閾値thre4の値は、例えば1.0であるとする。また、本実施形態においては、制御部9aが行う処理においてカラーエッジ特徴量として用いる値はGbm/Rbltの値に限るものではない。制御部9aは、前述した処理において、例えば、変動量Rbltと略同様の方法により算出したB画素の濃度値の変動量Bbltに基づき、Gbm/Bbltの値をカラーエッジ特徴量として用いるものであっても良い。
【0184】
そして、制御部9aは、F/Eの値を算出し、F/Eの値が閾値thre5よりも大きい場合(図28のステップS106)、領域Hkを画像Iiにおける出血部であると判定し、また、領域Hklを領域Hkに対応する出血部エッジ領域として判定する(図28のステップS107)。また、制御部9aは、F/Eの値が閾値thre5以下である場合(図28のステップS106)、領域Hkを出血部ではないと判定する(図28のステップS108)。なお、本実施形態においては、閾値thre5の値は、例えば0.7であるとする。そして、制御部9aは、出血部候補領域として検出したH個の領域Hk全てに対して、図28のステップS101からステップS108に示す処理を繰り返し行うことにより、画像Iiにおいて、出血部が存在する領域と、出血部のエッジが存在する領域とを特定する(図28のステップS109およびステップS110)。
【0185】
さらに、制御部9aは、画像Iiにおける出血部が存在する領域を特定すると、図26のステップS81の処理において得た、画像Iiについての分類結果を参照することにより、出血部が存在する領域として特定した領域Hkを、どのクラスに分類したかを検出する(図28のステップS111)。そして、制御部9aは、出血部が存在する領域として特定した領域Hkが胃粘膜クラス、絨毛クラスまたは不明クラスのいずれかとして分類されていることを検出した場合(図28のステップS112)、画像Iiにおける領域Hkの分類結果は正しいものであると判定する(図28のステップS113)。また、制御部9aは、出血部が存在する領域として特定した領域Hkが便クラスまたは泡クラスとして分類されていることを検出した場合(図28のステップS112)、画像Iiにおける領域Hkの分類結果は誤りであると判定する(図28のステップS114)。なお、制御部9aは、出血部が存在する領域として特定した領域Hkが不明クラスとして分類されていることを検出した場合については、領域Hkの分類結果についての正誤の判定を行わず、例えば、「病変部位が撮像されている可能性のある領域」として別途判定を行うものであっても良い。
【0186】
その後、制御部9aは、入力された画像Ii全てについて、前述したような処理を行ったかどうかを判定し(図28のステップS115)、全ての画像について処理が行われていない場合、次の画像Ii+1に対し、図25のステップS71からの一連の処理を行う(図28のステップS116)。また、制御部9aは、入力された画像Ii全てについて前述したような処理を行った場合、処理を完了する(図28のステップS117)。
【0187】
以上に述べたように、本実施形態における画像処理方法を用いた場合、第2の実施形態において述べた効果と同様の効果として、カプセル型内視鏡装置1を用いた観察の効率化をはかることができるような効果を得ることができる。
【0188】
また、本実施形態における画像処理方法を用いた場合、端末装置7の制御部9aは、画像Ii内の出血部が存在する領域Hkを特定した後、予め得た画像Iiの領域Hkの分類結果に対して正誤判定を行うような処理を行う。そのため、端末装置7の制御部9aは、本実施形態における画像処理方法を用いることにより、例えば、便等の異物の像が撮像されている領域に、病変部位としての出血部位が存在するといったような、出血部位の誤検出を防ぐことができ、その結果、従来に比べ、より信頼性の高い病変部位の検出結果を得ることができる。
【0189】
[付記]
以上詳述したような本発明の前記実施形態によれば、以下のような構成を得ることができる。
【0190】
(付記項1)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が生体粘膜表面を撮像した領域であるか否かに基づき分類を行うことを特徴とする画像処理方法。
【0191】
(付記項2)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、いずれにも分類することができない領域とに基づく分類を行うことを特徴とする画像処理方法。
【0192】
(付記項3)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を複数の異なるクラスのいずれかに分類する領域分類ステップと、
前記複数のクラスにおいて混在することを許さない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記医用画像において前記排他クラスの組み合わせのいずれのクラスを優先するかを設定する優先クラス設定ステップとからなる画像処理方法であって、
前記領域分類ステップは前記領域が前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類し得る場合、前記優先クラス設定ステップで設定されたクラスに分類することを特徴とする画像処理方法。
【0193】
(付記項4)
前記領域分類ステップによる各領域の分類結果に基づき前記医用画像が生体粘膜表面を
撮像したか否かを判定する判定ステップをさらに備えることを特徴とする付記項1乃至付記項3のいずれか一に記載の画像処理方法。
【0194】
(付記項5)
前記判定ステップは前記領域分類ステップによる各領域の分類において生体粘膜表面を撮像したと分類された領域が前記医用画像に対し十分大きな割合を占めた場合に生体粘膜表面を撮像したものと判定することを特徴とする付記項4に記載の画像処理方法。
【0195】
(付記項6)
前記領域分割ステップは前記医用画像を矩形に分割することを特徴とする付記項1乃至付記項5のいずれか一に記載の画像処理方法。
【0196】
(付記項7)
前記特徴量算出ステップは前記分割された各領域における色調または模様に基づく特徴量を算出することを特徴とする付記項1乃至付記項6のいずれか一に記載の画像処理方法。
【0197】
(付記項8)
前記領域分類ステップは識別器による識別ステップを含み前記算出された特徴量に基づく識別分類を行うことを特徴とする付記項1乃至付記項7のいずれか一に記載の画像処理方法。
【0198】
(付記項9)
前記領域分類ステップは統計的識別器は正規確率密度関数に基づく識別を行うことを特徴とする付記項8に記載の画像処理方法。
【0199】
(付記項10)
前記領域分類ステップは前記正規確率密度関数における平均値からの距離に基づく識別を行うことを特徴とする付記項9に記載の画像処理方法。
【0200】
(付記項11)
前記医用画像はR、G及びBの3プレーンから構成されるとともに、前記特徴量算出手段はR、G及びBの比率に基づく特徴量を算出することを特徴とする付記項1乃至付記項10のいずれか一に記載の画像処理方法。
【0201】
(付記項12)
前記医用画像はR、G及びBの3プレーンから構成されるとともに、前記特徴量算出手段はR、G及びBの変動の大きさに基づく特徴量を算出することを特徴とする付記項1乃至付記項11のいずれか一に記載の画像処理方法。
【0202】
(付記項13)
前記領域分類ステップは前記分割された各領域を生体粘膜表面として少なくとも胃粘膜及び小腸粘膜表面のいずれかに分類することを特徴とする付記項1乃至付記項12のいずれか一に記載の画像処理方法。
【0203】
(付記項14)
前記領域分類ステップは前記分割された各領域を少なくとも液体、泡または便を生体粘膜表面ではないものとして分類することを特徴とする付記項1乃至付記項13のいずれか一に記載の画像処理方法。
【0204】
(付記項15)
前記医用画像はカプセル型内視鏡装置による撮像画像であることを特徴とする付記項1乃至付記項14のいずれか一に記載の画像処理方法。
【0205】
(付記項16)
前記医用画像は内視鏡装置による撮像画像であることを特徴とする付記項1乃至付記項15のいずれか一に記載の画像処理方法。
【0206】
(付記項17)
複数の色信号からなる医用画像を入力する画像入力ステップと、
前記入力された医用画像を複数の領域に分割する領域分割ステップと、
前記分割された各領域から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき各領域を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき撮像臓器を推定する撮像臓器推定ステップとからなることを特徴とする画像処理方法。
【0207】
(付記項18)
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを備えるとともに、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段と、
を備えたことを特徴とする画像処理装置。
【0208】
(付記項19)
前記制御手段は前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないよう制御することを特徴とする付記項18記載の画像処理装置。
【0209】
(付記項20)
前記制御手段は前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないよう制御することを特徴とする付記項18または付記項19に記載の画像処理装置。
【0210】
(付記項21)
前記記憶手段に記憶された前記医用画像を削除する画像削除手段を備え、
前記画像削除手段は前記判定手段により生体粘膜を十分に撮像していないと判定された
前記医用画像を削除することを特徴とする付記項18乃至付記項20のいずれか一に記載の画像処理装置。
【0211】
(付記項22)
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段と、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、
前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段とを備えたことを特徴とする画像処理装置。
【0212】
(付記項23)
前記検出手段は前記医用画像において病変の存在が疑われる領域を検出するとともに、前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に検出結果が正しいと判定することを特徴とする付記項22に記載の画像処理装置。
【0213】
(付記項24)
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを備えるとともに、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段とを備えたことを特徴とする画像処理装置。
【0214】
(付記項25)
前記判定手段は前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする付記項24に記載の画像処理装置。
【0215】
(付記項26)
前記生体粘膜は胃粘膜または小腸粘膜であることを特徴とする付記項18乃至付記項25のいずれか一に記載の画像処理装置。
【0216】
(付記項27)
付記項1乃至付記項17に記載の画像処理方法及び請求項18乃至請求項26に記載の画像処理装置のうち、いずれか一を実現するためのプログラム。
【0217】
(付記項28)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割ステップと、
前記画像分割ステップにより分割された複数の領域各々における特徴量を算出する特徴量算出ステップと、
前記特徴量算出ステップにおいて算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する領域分類ステップと、
前記領域分類ステップによる分類結果に基づいて、前記複数のクラスの内、所定のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出ステップと、
前記分類判定値算出ステップにより算出された前記割合と、所定の閾値とに基づき、前記領域群を有する前記画像を分類する画像分類ステップと、
を有することを特徴とする画像処理方法。
【0218】
(付記項29)
前記所定のクラスは、胃粘膜クラス、絨毛クラス及び便クラスのうち、少なくとも一のクラスを有することを特徴とする付記項28に記載の画像処理方法。
【0219】
(付記項30)
前記複数の領域は、複数の矩形領域であることを特徴とする付記項28または付記項29に記載の画像処理方法。
【0220】
(付記項31)
前記特徴量は、前記画像の前記複数の領域各々における色調情報及びテクスチャ情報からなることを特徴とする付記項28乃至付記項30のいずれか一に記載の画像処理方法。
【0221】
(付記項32)
前記領域分類ステップは、前記特徴量算出ステップにおいて算出された前記特徴量に関する識別器を用いて、前記複数の領域を前記複数のクラスのいずれかに各々分類することを特徴とする付記項28乃至付記項31のいずれか一に記載の画像処理方法。
【0222】
(付記項33)
前記統計的識別器は、前記特徴量の平均値及び前記特徴量に関する分散共分散行列を前記母数とし、かつ、正規確率密度関数を用いた識別を行うことを特徴とする付記項32に記載の画像処理方法。
【0223】
(付記項34)
前記正規確率密度関数を用いた前記識別は、前記平均値に基づく閾値を用いて行われることを特徴とする付記項33に記載の画像処理方法。
【0224】
(付記項35)
前記画像は、赤、緑及び青の3プレーンからなり、前記特徴量は、前記画像の前記複数の領域各々における赤の濃度値、緑の濃度値及び青の濃度値の比率に基づく値を有することを特徴とする付記項28乃至付記項34のいずれか一に記載の画像処理方法。
【0225】
(付記項36)
前記画像は、赤、緑及び青の3プレーンからなり、前記特徴量は、前記画像の前記複数の領域各々における赤の濃度値、緑の濃度値及び青の濃度値の変動の大きさに基づく値を有することを特徴とする付記項28乃至付記項35のいずれか一に記載の画像処理方法。
【0226】
(付記項37)
前記複数のクラスは、胃粘膜クラス及び絨毛クラスのうち、少なくとも一方のクラスを有することを特徴とする付記項28乃至付記項36のいずれか一に記載の画像処理方法。
【0227】
(付記項38)
前記複数のクラスは、便クラス及び泡クラスのうち、少なくとも一方のクラスを有することを特徴とする付記項28乃至付記項37のいずれか一に記載の画像処理方法。
【0228】
(付記項39)
前記医療機器は、カプセル型内視鏡装置であることを特徴とする付記項28乃至付記項38のいずれか一に記載の画像処理方法。
【0229】
(付記項40)
前記医療機器は、内視鏡装置であることを特徴とする付記項28乃至付記項39のいずれか一に記載の画像処理方法。
【0230】
(付記項41)
前記画像分類ステップにおいては、前記画像は参照値に関連付けて保持され、
さらに、前記参照値の値に基づいて前記画像を表示するか否かを決定する画像表示制御ステップを有することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0231】
(付記項42)
前記画像分類ステップにおいては、前記画像は参照値に関連付けて保持され、
さらに、前記参照値の値に基づいて前記画像を削除するか否かを決定する画像削除制御ステップを有することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0232】
(付記項43)
前記画像分類ステップは、前記領域群を有する前記画像を、前記所定のクラスに関連した被写体が撮像された画像であるとして分類することを特徴とする付記項28乃至付記項40のいずれか一に記載の画像処理方法。
【0233】
(付記項44)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割ステップと、
前記画像分割ステップにより分割された複数の領域各々における特徴量を算出する特徴量算出ステップと、
前記特徴量算出ステップにおいて算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する第1の領域分類ステップと、
前記第1の領域分類ステップによる分類結果に基づいて、前記複数のクラスの内、第1のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出ステップと、
前記分類判定値算出ステップにより算出された前記割合と、所定の閾値とに基づき、前記第1のクラスに分類された前記領域群を、第2のクラスとして排他的に置換して再分類する第2の領域分類ステップと、
を有することを特徴とする画像処理方法。
【0234】
(付記項45)
付記項28乃至付記項44のいずれか一に記載の画像処理方法に基づく動作を行う画像処理装置。
【0235】
(付記項46)
付記項28乃至付記項44のいずれか一に記載の画像処理方法に基づく動作を画像処理装置に行わせるためのプログラム。
【0236】
(付記項47)
撮像機能を有する医療機器により撮像された画像に基づく画像信号を入力する画像信号入力手段と、
前記画像信号入力手段において入力した画像信号に基づき、当該医療機器により撮像された画像を複数の領域に分割する画像分割手段と、
前記画像分割手段により分割された複数の領域各々における特徴量を算出する特徴量算出手段と、
前記特徴量算出手段において算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する領域分類手段と、
前記領域分類手段による分類結果に基づいて、前記複数のクラスの内、所定のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出手段と、
前記分類判定値算出手段により算出された前記割合と、所定の閾値とに基づき、前記領域群を有する前記画像を分類する画像分類手段と、
を具備したことを特徴とする画像処理装置。
【0237】
(付記項48)
前記所定のクラスは、胃粘膜クラス、絨毛クラス及び便クラスのうち、少なくとも一のクラスを有することを特徴とする付記項47に記載の画像処理装置。
【0238】
(付記項49)
前記画像分類手段は、前記領域群を有する前記画像を、前記所定のクラスに関連した被写体が撮像された画像であるとして分類することを特徴とする付記項47または付記項48に記載の画像処理装置。
【0239】
(付記項50)
撮像機能を有する医療機器で撮像された画像に基づく画像信号を入力する画像信号入力手段と、
前記画像信号入力手段において入力した画像信号に基づいて当該医療機器で撮像された画像を複数の領域に分割する画像分割手段と、
前記画像分割手段により分割された複数の領域各々における特徴量を算出する特徴量算出手段と、
前記特徴量算出手段において算出された特徴量に基づき、前記複数の領域を複数のクラスのいずれかに各々分類する第1の領域分類手段と、
前記第1の領域分類手段による分類結果に基づいて、前記複数のクラスの内、第1のクラスに分類された領域群が前記複数の領域に占める割合を算出する分類判定値算出手段と、
前記分類判定値算出手段により算出された前記割合と、所定の閾値とに基づき、前記第1のクラスに分類された前記領域群を、第2のクラスとして排他的に置換して再分類する第2の領域分類手段と、
を具備したことを特徴とする画像処理装置。
【0240】
(付記項51)
前記画像分類手段は、前記画像を参照値に関連付けて保持し、
さらに、前記参照値の値に基づいて前記画像を表示手段に表示するか否かを決定する画像表示制御手段を有することを特徴とする付記項47または付記項48に記載の画像処理装置。
【0241】
(付記項52)
前記画像分類手段は、前記画像を参照値に関連付けて保持し、
さらに、前記参照値の値に基づいて前記画像を削除するか否かを決定する画像削除制御手段を有することを特徴とする付記項47または付記項48に記載の画像処理装置。
【図面の簡単な説明】
【0242】
【図1】本発明の第1の実施形態である画像処理動作が行われる画像処理装置および周辺機器の外観を示した外観正面図。
【図2】本実施形態の画像処理装置において処理する所定の画像情報を生成するカプセル型内視鏡の一部を切り取って示した要部拡大断面図。
【図3】本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の概略内部構成を示すブロック図。
【図4】本実施形態の画像処理装置に所定の画像情報を供給するカプセル型内視鏡装置の一使用例を示した図。
【図5】図2に示すカプセル型内視鏡から出力される信号の一例を示したタイミングチャート。
【図6】図2に示すカプセル型内視鏡の位置検出を説明する説明図。
【図7】図3に示すカプセル型内視鏡装置を使用した際におけるアンテナユニットを示した要部拡大断面図。
【図8】図3に示すカプセル型内視鏡装置を使用した際におけるシールドジャケットを説明する説明図。
【図9】図3に示すカプセル型内視鏡装置の外部装置の被検体への装着状態を説明する説明図。
【図10】図2に示すカプセル型内視鏡の電気的な構成を示すブロック図。
【図11】第1の実施形態に係る画像処理動作を示すフローチャート。
【図12】第1の実施形態に係る画像処理動作において、入力された画像が(m×n)個の領域に分割される際の一例を示す図。
【図13】教師データを構成する複数の画像のうち、胃粘膜の画像の一例を示す図。
【図14】データを構成する複数の画像のうち、絨毛の画像の一例を示す図。
【図15】教師データを構成する複数の画像のうち、便の画像の一例を示す図。
【図16】教師データを構成する複数の画像のうち、泡の画像の一例を示す図。
【図17】カプセル型内視鏡により撮像された体腔内の像の画像の一例を示す模式図。
【図18】図17に示す画像の分類結果の一例を示す図。
【図19】第1の実施形態に係る画像処理動作において、図11とは異なる画像処理方法を示すフローチャート。
【図20】ディスプレイに表示されるビュワーの画像のうち、メインメニュー画面の一例を示す図。
【図21】第2の実施形態に係る画像処理動作を示すフローチャート。
【図22】第3の実施形態に係る画像処理動作を示すフローチャート。
【図23】第4の実施形態に係る画像処理動作を示すフローチャート。
【図24】第5の実施形態に係る画像処理動作の一部を示すフローチャート。
【図25】第5の実施形態に係る画像処理動作の一部として、図24のフローチャートに示す処理が行われた後に行われる、画像の表示制御動作を示すフローチャート。
【図26】第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図27】図26の処理に引き続いて行われる、第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図28】図27の処理に引き続いて行われる、第6の実施形態に係る画像処理動作の一部を示すフローチャート。
【図29】第6の実施形態に係る画像処理動作において、エッジ特徴ベクトルを決定する際に指標となる8つの方向を示す図。
【図30】第6の実施形態に係る画像処理動作において設定される、中心領域と最外周領域との位置関係を示す図。
【図31】第6の実施形態に係る画像処理動作において設定される、エッジ特徴ベクトルの方向と、ベクトルVlの方向とがなす角度を示す図。
【符号の説明】
【0243】
1・・・カプセル型内視鏡装置、2・・・患者、3・・・カプセル型内視鏡、3D・・・カプセル本体、4・・・アンテナユニット、5・・・外部装置、5D・・・本体部、6・・・クレードル、7・・・端末装置、8a・・・キーボード、8b・・・マウス、8c・・・ディスプレイ、9・・・端末本体、9a・・・制御部、10・・・ジャケット、11,11a,11b,11c,11d・・・受信アンテナ、12・・・液晶モニタ、13・・・操作部、14・・・外装部材、14a・・・カバー部材、15・・・対物レンズ、16・・・レンズ枠、17・・・電荷結合素子、17A・・・CCDドライバ、18・・・LED、18A・・・LEDドライバ、19,19A・・・処理回路、19B・・・タイミングジェネレータ、19C,19D,19E・・・スイッチ、20・・・通信処理回路、21・・・電池、23・・・送信アンテナ、 33・・・受信回路、35・・・信号処理回路、37・・・送信器、43・・・撮像装置、45・・・アンテナ切換スイッチ、46・・・アンテナ選択回路、47・・・メモリ、72・・・シールドジャケット、73・・・ベルト、74・・・鍵穴、 75・・・鍵、101・・・メイン画面、102・・・画像表示部、103・・・検査情報表示部、104・・・画像情報表示部、105・・・画像表示制御部、106・・・スライダ、107・・・案内表示部
【特許請求の範囲】
【請求項1】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、
前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする画像処理方法。
【請求項2】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、
前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする画像処理方法。
【請求項3】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、
前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを有する画像処理方法であって、
前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする画像処理方法。
【請求項4】
さらに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを有することを特徴とする請求項1乃至請求項3のいずれか一に記載の画像処理方法。
【請求項5】
前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする請求項4に記載の画像処理方法。
【請求項6】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとからなることを特徴とする画像処理方法。
【請求項7】
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを備えるとともに、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段とを備えたことを特徴とする画像処理装置。
【請求項8】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする請求項7または請求項8に記載の画像観察装置。
【請求項10】
さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段を備え、
前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする請求項7から請求項9のいずれか一に記載の画像処理装置。
【請求項11】
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段と、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段と、
を備えたことを特徴とする画像処理装置。
【請求項12】
前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、 前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする請求項11に記載の画像処理装置。
【請求項13】
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを備えるとともに、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段と、
を備えたことを特徴とする画像処理装置。
【請求項14】
前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする請求項13に記載の画像処理装置。
【請求項15】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とするプログラム。
【請求項16】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とするプログラム。
【請求項17】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、
前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とするプログラム。
【請求項18】
さらに、当該コンピュータに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを実行させることを特徴とする請求項15乃至請求項17のいずれか一に記載のプログラム。
【請求項19】
前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする請求項18に記載のプログラム。
【請求項20】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップと、
を実行させるためのプログラム。
【請求項21】
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段として機能させるためのプログラム。
【請求項22】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする請求項21に記載のプログラム。
【請求項23】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする請求項21または請求項22に記載のプログラム。
【請求項24】
さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段として機能させるためのプログラムであって、
前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする請求項21から請求項23のいずれか一に記載のプログラム。
【請求項25】
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段として機能させるためのプログラム。
【請求項26】
前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、 前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする請求項25に記載のプログラム。
【請求項27】
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段として機能させるためのプログラム。
【請求項28】
前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする請求項27に記載のプログラム。
【請求項1】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、
前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とする画像処理方法。
【請求項2】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを有する画像処理方法であって、
前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とする画像処理方法。
【請求項3】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、
前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを有する画像処理方法であって、
前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とする画像処理方法。
【請求項4】
さらに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを有することを特徴とする請求項1乃至請求項3のいずれか一に記載の画像処理方法。
【請求項5】
前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする請求項4に記載の画像処理方法。
【請求項6】
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップとからなることを特徴とする画像処理方法。
【請求項7】
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを備えるとともに、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段とを備えたことを特徴とする画像処理装置。
【請求項8】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする請求項7または請求項8に記載の画像観察装置。
【請求項10】
さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段を備え、
前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする請求項7から請求項9のいずれか一に記載の画像処理装置。
【請求項11】
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段と、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段と、
を備えたことを特徴とする画像処理装置。
【請求項12】
前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、 前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする請求項11に記載の画像処理装置。
【請求項13】
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを備えるとともに、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段と、
を備えたことを特徴とする画像処理装置。
【請求項14】
前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする請求項13に記載の画像処理装置。
【請求項15】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、前記複数の領域各々が生体粘膜表面を撮像した領域であるか否かに基づいて分類を行うことを特徴とするプログラム。
【請求項16】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、生体粘膜表面を撮像した領域と、生体内に存在する異物を撮像した領域と、前記生体粘膜表面及び前記異物のどちらにも該当しない領域とのいずれかに前記複数の領域各々を分類することを特徴とするプログラム。
【請求項17】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を、複数の異なるクラスのうち、いずれか一のクラスに分類する領域分類ステップと、
前記複数の異なるクラスにおいて、前記画像上に混在することを許可しない排他クラスの組み合わせを設定する排他クラス設定ステップと、
前記排他クラスの組み合わせのうち、いずれのクラスを優先するかを設定する優先クラス設定ステップとを実行させるためのプログラムであって、
前記領域分類ステップは、前記排他クラス設定ステップで設定された排他クラスの組み合わせのいずれかのクラスに分類された領域が存在する場合、前記領域を前記優先クラス設定ステップにおいて設定されたクラスに分類することを特徴とするプログラム。
【請求項18】
さらに、当該コンピュータに、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、前記画像が生体粘膜表面を撮像したか否かを判定する判定ステップを実行させることを特徴とする請求項15乃至請求項17のいずれか一に記載のプログラム。
【請求項19】
前記判定ステップは、前記領域分類ステップにおける前記複数の領域各々の分類結果に基づき、生体粘膜表面の像であると分類された領域が前記画像において十分大きな割合を占めた場合に、前記画像を生体粘膜表面を撮像した画像であると判定することを特徴とする請求項18に記載のプログラム。
【請求項20】
コンピュータに、
撮像機能を有する医療機器により撮像された画像を入力する画像入力ステップと、
前記画像を複数の領域に分割する領域分割ステップと、
前記複数の領域各々から特徴量を算出する特徴量算出ステップと、
前記特徴量に基づき、前記複数の領域各々を分類する領域分類ステップと、
前記領域分類ステップにおける分類結果に基づき、前記医療機器が撮像した臓器を推定する撮像臓器推定ステップと、
を実行させるためのプログラム。
【請求項21】
複数の色信号からなる医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記入力された医用画像が生体粘膜を十分に撮像したか否かを判定する判定手段と、
前記判定手段における判定結果に基づき前記医用画像の表示または記憶の少なくとも1つを制御する制御手段として機能させるためのプログラム。
【請求項22】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を表示しないように制御することを特徴とする請求項21に記載のプログラム。
【請求項23】
前記制御手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を記憶しないように制御することを特徴とする請求項21または請求項22に記載のプログラム。
【請求項24】
さらに、前記記憶手段に記憶された前記医用画像を削除する画像削除手段として機能させるためのプログラムであって、
前記画像削除手段は、前記判定手段により生体粘膜を十分に撮像していないと判定された前記医用画像を削除することを特徴とする請求項21から請求項23のいずれか一に記載のプログラム。
【請求項25】
複数の色信号からなる複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記医用画像の中から病変の存在が疑われる画像を検出する検出手段とを備えるとともに、前記入力された医用画像に対し領域を設定する領域設定手段と、
前記領域設定手段により設定された領域が生体粘膜を撮像した領域であるか否かを判定する領域判定手段と、
前記領域判定手段における判定結果に基づき、前記検出手段による検出結果が正しいか否かを判定する検出結果判定手段として機能させるためのプログラム。
【請求項26】
前記検出手段は、前記医用画像において病変の存在が疑われる領域を検出するとともに、 前記検出結果判定手段は前記検出された領域が前記領域判定手段において生体粘膜を撮像した領域である場合に、検出結果が正しいと判定することを特徴とする請求項25に記載のプログラム。
【請求項27】
時間的に連続して撮像された複数の医用画像を入力する画像入力手段と、
前記医用画像を記憶する記憶手段と、
前記医用画像を表示する画像表示手段とを有する画像処理装置を制御するためのコンピュータを、
前記医用画像に複数の領域を設定する領域設定手段と、
前記領域設定手段により設定された各領域における撮像対象を判定する判定手段と、
前記判定手段に基づき前記医用画像に撮像されている臓器を特定する特定手段と、
前記特定手段における特定結果を表示する特定結果表示手段として機能させるためのプログラム。
【請求項28】
前記判定手段は、前記領域の撮像対象として生体粘膜であるか否か及びその種類を判定することを特徴とする請求項27に記載のプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2006−288879(P2006−288879A)
【公開日】平成18年10月26日(2006.10.26)
【国際特許分類】
【出願番号】特願2005−115961(P2005−115961)
【出願日】平成17年4月13日(2005.4.13)
【出願人】(304050923)オリンパスメディカルシステムズ株式会社 (1,905)
【Fターム(参考)】
【公開日】平成18年10月26日(2006.10.26)
【国際特許分類】
【出願日】平成17年4月13日(2005.4.13)
【出願人】(304050923)オリンパスメディカルシステムズ株式会社 (1,905)
【Fターム(参考)】
[ Back to top ]