医療用画像処理装置及び医療用画像処理方法
【課題】ユーザによるポリープ等の病変部位の見落としを防止可能である医療用画像処理装置及び医療用画像処理方法を提供する。
【解決手段】入力される生体組織の像の二次元画像のエッジを抽出するエッジ抽出部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、前記形状特徴量に基づき、三次元モデルが所定の形状として推定されたボクセル群を抽出する三次元形状抽出部と、前記ボクセル群を前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群とする隆起形状検出部とを有する。
【解決手段】入力される生体組織の像の二次元画像のエッジを抽出するエッジ抽出部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、前記形状特徴量に基づき、三次元モデルが所定の形状として推定されたボクセル群を抽出する三次元形状抽出部と、前記ボクセル群を前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群とする隆起形状検出部とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療用画像処理装置及び医療用画像処理方法に関し、特に、体腔内の生体組織の三次元モデルにおける隆起形状を検出可能な医療用画像処理装置及び医療用画像処理方法に関するものである。
【背景技術】
【0002】
内視鏡及び医療用画像処理装置等を具備して構成される内視鏡システムは、医療分野等において広く用いられている。具体的には、内視鏡システムは、例えば、生体としての体腔内に挿入される挿入部と、該挿入部の先端部に配置された対物光学系と、該対物光学系により結像された体腔内の像を撮像して撮像信号として出力する撮像部とを有して構成される内視鏡と、該撮像信号に基づき、表示部としてのモニタ等に該体腔内の像を画像表示させるための処理を行う医療用画像処理装置とを具備して構成されている。そして、ユーザは、表示部としてのモニタ等に画像表示された体腔内の像に基づき、例えば、体腔内における被写体としての臓器等の観察を行う。
【0003】
また、前述した構成を具備する内視鏡システムは、体腔内における被写体として、例えば、大腸等の消化管粘膜の像を撮像することもまた可能である。そのため、ユーザは、例えば、粘膜の色調、病変の形状及び粘膜表面の微細な構造等の様々な所見を総合的に観察することができる。
【0004】
さらに、近年においては、内視鏡により撮像された被写体の像の撮像信号に応じた二次元画像のデータに基づき、該被写体の三次元モデルを生成することが可能である、例えば、特許文献1に記載されているような内視鏡装置が提案されている。
【0005】
一方、三次元モデルにおいてポリープ等の病変部位を検出するための方法として、例えば、ShapeIndex及びCurvednessといった、曲率に基づく形状特徴量を用いつつ該三次元モデルの形状の評価を行うことにより、該三次元モデルにおける病変部位を検出可能である、特許文献2に記載されている方法が提案されている。
【特許文献1】特開平11−337845号公報
【特許文献2】US Patent Application No.20030223627
【発明の開示】
【発明が解決しようとする課題】
【0006】
特に、内視鏡により撮像された隆起形状を有する生体組織の像としての、例えば、大腸のひだまたはポリープ等の生体組織の像を含む二次元画像は、該内視鏡の視野方向に対して不可視領域を含む場合が多い。そして、前述した二次元画像における不可視領域は、一般的にオクルージョンと呼ばれており、正確な三次元モデルの推定が困難な領域である。そのため、二次元画像のオクルージョンが発生している部分においては、例えば、該二次元画像に基づく三次元モデルの対応する位置に推定結果が存在しない、または、該二次元画像に基づく三次元モデルの対応する位置に信頼性の低い推定結果が算出されるといったことが起こり得る。
【0007】
その結果、従来の画像処理としての、例えば、特許文献1の内視鏡装置において行われている画像処理により推定された被写体の三次元モデルが用いられつつ該被写体の観察が行われた場合、ユーザがポリープ等の病変部位を見つける際の負担が大きくなってしまうという課題が生じている。
【0008】
また、特許文献2において提案されているポリープ等の病変部位を検出するための方法は、例えば、CT(Computed Tomograpy)を用いた観察により得られる、オクルージョンとなる部分が発生しない三次元モデルに対する適用を想定した方法である。そのため、特許文献2において提案されているポリープ等の病変部位を検出するための方法は、例えば、内視鏡を用いた観察により得られる、オクルージョンとなる部分を有する二次元画像に基づいて推定された三次元モデルに対して適用された場合に、ポリープ等の病変部位の検出精度が低下してしまう。その結果、特許文献2において提案されている方法が採用された内視鏡システムが用いられつつ被写体の観察が行われた場合、ユーザがポリープ等の病変部位を見つける際の負担が大きくなってしまうという課題が生じている。
【0009】
本発明は、前述した点に鑑みてなされたものであり、オクルージョンを有する二次元画像に基づいて推定された三次元モデルを用いて観察が行われる場合に、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることのできる医療用画像処理装置及び医療用画像処理方法を提供することを目的としている。
【課題を解決するための手段】
【0010】
本発明における第1の医療用画像処理装置は、医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、前記ボクセル抽出部により抽出された前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出部と、を有することを特徴とする。
【0011】
本発明における第2の医療用画像処理装置は、前記第1の医療用画像処理装置において、前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする。
【0012】
本発明における第3の医療用画像処理装置は、前記第2の医療用画像処理装置において、前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする。
【0013】
本発明における第4の医療用画像処理装置は、前記第1乃至第3の医療用画像処理装置において、前記所定の形状は、凸型形状であることを特徴とする。
【0014】
本発明における第5の医療用画像処理装置は、入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出部と、前記エッジ抽出部が抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得部と、前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出部と、を有することを特徴とする。
【0015】
本発明における第6の医療用画像処理装置は、前記第5の医療用画像処理装置において、前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする。
【0016】
本発明における第1の医療用画像処理方法は、医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出ステップと、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出ステップと、前記ボクセル抽出ステップにより抽出された前記ボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出ステップと、前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出ステップと、を有することを特徴とする。
【0017】
本発明における第2の医療用画像処理方法は、前記第1の医療用画像処理方法において、前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする。
【0018】
本発明における第3の医療用画像処理方法は、前記第2の医療用画像処理方法において、前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項8に記載の医療用画像処理方法。
【0019】
本発明における第4の医療用画像処理方法は、前記第1乃至第3の医療用画像処理方法において、前記所定の形状は、凸型形状であることを特徴とする。
【0020】
本発明における第5の医療用画像処理方法は、入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出ステップと、前記エッジ抽出ステップが抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得ステップと、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得ステップと、前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出ステップと、を有することを特徴とする。
【0021】
本発明における第6の医療用画像処理方法は、前記第5の医療用画像処理方法において、前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする。
【発明の効果】
【0022】
本発明における医療用画像処理装置及び医療用画像処理方法によると、オクルージョンを有する二次元画像に基づいて推定された三次元モデルを用いて観察が行われる場合に、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【発明を実施するための最良の形態】
【0023】
以下、図面を参照して本発明の実施の形態を説明する。
【0024】
(第1の実施形態)
図1から図8は、本発明の第1の実施形態に係るものである。図1は、本実施形態に係る医療用画像処理装置が用いられる内視鏡システムの全体構成の一例を示す図である。図2は、図1の内視鏡が管状器官内に挿入された場合の状態を示す模式図である。図3は、図2の状態において、内視鏡により撮像される管状器官及び生体組織の像を示す模式図である。図4は、生体組織の像の二次元画像におけるエッジ部を抽出する場合に、図1の医療用画像処理装置が行う処理の手順を示すフローチャートである。図5は、生体組織の三次元モデルにおける隆起形状を検出する場合に、図1の医療用画像処理装置が行う処理の手順を示すフローチャートである。図6は、図1の医療用画像処理装置により推定された、生体組織の三次元モデルの一例を示す図である。図7は、図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の一例を示す図である。図8は、図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の、図7とは異なる例を示す図である。
【0025】
内視鏡システム1は、図1に示すように、被写体を撮像するとともに、該被写体の像の二次元画像を出力する医療用観察装置2と、パーソナルコンピュータ等により構成され、医療用観察装置2から出力される二次元画像の映像信号に対して画像処理を行うとともに、該画像処理を行った後の映像信号を画像信号として出力する医療用画像処理装置3と、医療用画像処理装置3から出力される画像信号に基づく画像を表示するモニタ4とを有して要部が構成されている。
【0026】
また、医療用観察装置2は、体腔内に挿入されるとともに、該体腔内の被写体を撮像して撮像信号として出力する内視鏡6と、内視鏡6により撮像される被写体を照明するための照明光を供給する光源装置7と、内視鏡6に対する各種制御を行うとともに、内視鏡6から出力される撮像信号に対して信号処理を行い、二次元画像の映像信号として出力するカメラコントロールユニット(以降、CCUと略記する)8と、CCU8から出力される二次元画像の映像信号に基づき、内視鏡6により撮像された被写体の像を画像表示するモニタ9とを有して要部が構成されている。
【0027】
医療用撮像装置としての内視鏡6は、体腔内に挿入される挿入部11と、挿入部11の基端側に設けられた操作部12とを有して構成されている。また、挿入部11内の基端側から、挿入部11内の先端側の先端部14にかけての部分には、光源装置7から供給される照明光を伝送するためのライトガイド13が挿通されている。
【0028】
ライトガイド13は、先端側が内視鏡6の先端部14に配置されるとともに、後端側が光源装置7に接続される。ライトガイド13がこのような構成を有することにより、光源装置7から供給される照明光は、ライトガイド13により伝送された後、挿入部11の先端部14の先端面に設けられた、図示しない照明窓から出射される。そして、図示しない照明窓から照明光が出射されることにより、被写体としての生体組織等が照明される。
【0029】
内視鏡6の先端部14には、図示しない照明窓に隣接する図示しない観察窓に取り付けられた対物光学系15と、対物光学系15の結像位置に配置され、例えば、CCD(電荷結合素子)等により構成される撮像素子16とを有する撮像部17が設けられている。このような構成により、対物光学系15により結像された被写体の像は、撮像素子16により撮像された後、撮像信号として出力される。
【0030】
撮像素子16は、信号線を介してCCU8に接続されている。そして、撮像素子16は、CCU8から出力される駆動信号に基づいて駆動するとともに、CCU8に対して撮像信号を出力する。
【0031】
また、CCU8に入力された撮像信号は、CCU8の内部に設けられた図示しない信号処理回路において信号処理されることにより、二次元画像の映像信号として変換されて出力される。CCU8から出力された二次元画像の映像信号は、モニタ9及び医療用画像処理装置3に対して出力される。これにより、モニタ9には、CCU8から出力される映像信号に基づく被写体の像が二次元の画像として表示される。
【0032】
医療用画像処理装置3は、医療用観察装置2から出力される二次元画像の映像信号に対し、A/D変換を行って出力する画像入力部21と、画像入力部21から出力される映像信号に対して画像処理を行う、中央演算処理装置としてのCPU22と、該画像処理に関する処理プログラムが書き込まれた処理プログラム記憶部23と、画像入力部21から出力される映像信号等を記憶する画像記憶部24と、CPU22の画像処理結果としての画像データ等を記憶する情報記憶部25とを有する。
【0033】
また、医療用画像処理装置3は、記憶装置インターフェース26と、記憶装置インターフェース26を介してCPU22の画像処理結果としての画像データ等を記憶する、記憶装置としてのハードディスク27と、CPU22の画像処理結果としての画像データに基づき、該画像データをモニタ4に画像表示するための表示処理を行うとともに、該表示処理を行った後の画像データを画像信号として出力する表示処理部28と、CPU22が行う画像処理におけるパラメータ及び医療用画像処理装置3に対する操作指示をユーザが入力可能な、キーボード等により構成される入力操作部29とを有する。そして、モニタ4は、表示処理部28から出力される画像信号に基づく画像を表示する。
【0034】
なお、医療用画像処理装置3の画像入力部21、CPU22、処理プログラム記憶部23、画像記憶部24、情報記憶部25、記憶装置インターフェース26、表示処理部28及び入力操作部29は、データバス30を介して相互に接続されている。
【0035】
次に、内視鏡システム1の作用について説明を行う。
【0036】
まず、ユーザは、図2に示すように、例えば、大腸等である管状器官31内に内視鏡6の挿入部11を挿入する。そして、ユーザにより挿入部11が管状器官31に挿入されると、例えば、管状器官31の内壁に存在する病変部位である生体組織31Aの像が、先端部14に設けられた撮像部17により、図3に示すような像として撮像される。そして、図3に示すような像として撮像部17により撮像された、管状器官31及び生体組織31Aの像は、撮像信号としてCCU8に対して出力される。
【0037】
CCU8は、図示しない信号処理回路において、撮像部17の撮像素子16から出力される撮像信号に対して信号処理を行うことにより、該撮像信号を二次元画像の映像信号として変換して出力する。そして、モニタ9は、CCU8から出力される映像信号に基づき、管状器官31及び生体組織31Aの像を、例えば、図3に示すような二次元の画像として表示する。また、CCU8は、撮像部17の撮像素子16から出力される撮像信号に対して信号処理を行うことにより得られた二次元画像の映像信号を、医療用画像処理装置3に対して出力する。
【0038】
医療用画像処理装置3に対して出力された二次元画像の映像信号は、画像入力部21においてA/D変換された後、CPU22に入力される。
【0039】
CPU22は、画像入力部21から出力された二次元画像の映像信号と、処理プログラム記憶部23に書き込まれた処理プログラムとに基づき、例えば、以降に述べるような処理を行うことにより、該二次元画像における生体組織31Aのエッジ部を抽出する。
【0040】
まず、エッジ抽出部としての機能を有するCPU22は、画像入力部21から出力された二次元画像の映像信号に基づき、例えば、該二次元画像の赤色成分に対してバンドパスフィルタを適用することにより、該二次元画像に含まれる全てのエッジ部を抽出する(図4のステップS1)。
【0041】
その後、エッジ抽出部としての機能を有するCPU22は、抽出した全てのエッジ部を細線化する(図4のステップS2)とともに、細線化した該全てのエッジ部のうち、一のエッジ部Eの長さLを算出する(図4のステップS3)。さらに、CPU22は、一のエッジ部Eの長さLが、閾値thL1より長く、かつ、閾値thL2より短いか否かの判断を行う。
【0042】
そして、CPU22は、一のエッジ部Eの長さLが、所定の閾値thL1以下の長さであること、または、閾値thL2以上であることを検出した場合(図4のステップS4)、後述する図4のステップS11に示す処理を行う。また、CPU22は、一のエッジ部Eの長さLが、閾値thL1より長く、かつ、閾値thL2より短いことを検出した場合(図4のステップS4)、該一のエッジ部Eを制御点Cn(n=1,2,…,N)によりN等分する(図4のステップS5)。
【0043】
さらに、CPU22は、一のエッジ部Eの中点Ccから引いた法線NCcを取得するとともに、各制御点Cnから引いたN本の法線NCnを取得する(図4のステップS6)。その後、CPU22は、N本の法線NCnのうち、法線NCcと交わるものの本数Naを検出する(図4のステップS7)。
【0044】
また、CPU22は、N本の法線NCnのうち、法線NCcと交わるものの本数Naが、閾値thaより多いか否かの判断を行う。そして、CPU22は、法線NCcと交わるものの本数Naが閾値thaより多いことを検出した場合(図4のステップS8)、一のエッジ部Eに含まれるピクセル群ipを生体組織31Aのエッジ部に含まれるピクセル群であると判断し、該ピクセル群ipが有する各ピクセルにおける変数edge(i)の値をONとする(図4のステップS9)。さらに、そして、CPU22は、法線NCcと交わるものの本数Naが閾値tha以下であることを検出した場合(図4のステップS8)、一のエッジ部Eに含まれるピクセル群ipを生体組織31Aのエッジ部に含まれるピクセル群ではないと判断し、該ピクセル群ipが有する各ピクセルにおける変数edge(i)の値をOFFとする(図4のステップS10)。
【0045】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図4のステップS11)、他の一のエッジ部に対し、前述した、図4のステップS3から図4のステップS10までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図4のステップS11)、二次元画像における生体組織31Aのエッジ部を抽出するための一連の処理を終了する。
【0046】
その後、CPU22は、前述した、二次元画像における生体組織31Aのエッジ部を抽出するための一連の処理を行うことにより得た処理結果としての、二次元画像の各エッジ部に含まれるピクセル群ipにおける変数edge(i)の値を、情報記憶部25に一時的に記憶させる。
【0047】
そして、三次元モデル推定部としての機能を有するCPU22は、例えば、幾何学的な変換等の処理により、画像入力部21から出力された二次元画像の映像信号の輝度情報等に基づき、管状器官31及び生体組織31Aの三次元モデルを推定する際に必要となる画像データを取得するための画像処理を行う。換言すると、CPU22は、例えば、幾何学的な変換等の処理により、二次元画像における各ピクセルに対応するボクセルを生成するとともに、該ボクセルを、三次元モデルを推定するための画像データとして取得する。すなわち、ピクセル群ipは、前述した処理によりボクセル群ibとして変換される。
【0048】
CPU22は、前述した処理により、図3に示した生体組織31Aの三次元モデルを推定するための画像データとして、変数edge(i)がONであるボクセル群ibを含む平面である生体組織境界部31bのデータを得る。これにより、生体組織31Aは、例えば、z軸方向を内視鏡6による観察時の視野方向とした場合、図6に示すような形状を有する三次元モデルとして推定される。
【0049】
その後、CPU22は、生体組織境界部31bのデータに基づき、さらに、以降に述べるような処理を行うことにより、生体組織31Aの三次元モデルにおける隆起形状を検出する。
【0050】
まず、CPU22は、処理プログラム記憶部23に書き込まれた処理プログラムと、生体組織境界部31bのデータとに基づき、変数edge(i)がONであるボクセル群ibのうち、内視鏡6の視野方向の最も奥側に存在する所定の一のボクセルとして、z座標が最大である一のボクセルを抽出するとともに、該一のボクセルのz座標をMaxzとして設定する(図5のステップS21)。
【0051】
そして、CPU22は、管状器官31及び生体組織31Aの三次元モデルを推定するための画像データとして得た全てのボクセルのうち、前記一のボクセルの位置よりも内視鏡6の視野方向手前側に存在するボクセルとして、z座標がMaxzよりも小さいボクセル群rbを検出する(図5のステップS22)。
【0052】
なお、前述したボクセル群rbは、図7に示す、隆起形状検出対象領域AR内に含まれるボクセル群、すなわち、形状特徴量の算出対象となるボクセル群であるとともに、R個のボクセルを有するボクセル群であるとする。
【0053】
また、前述した、図5のステップS21及びS22の処理を換言すると、ボクセル抽出部としての機能を有するCPU22は、変数edge(i)がONであるボクセル群ibが有する各ボクセルの位置に基づき、隆起形状検出対象領域AR内に含まれる、R個のボクセルを有するボクセル群rbを、形状特徴量の算出対象となる所定のボクセル群として抽出する。
【0054】
さらに、形状特徴量算出部としての機能を有するCPU22は、変数aを1に設定した(図5のステップS23)後、ボクセル群rbが有するR個のボクセルのうち、一のボクセルであるBa(a=1,2,…,R−1,R)を抽出するとともに(図5のステップS24)、該一のボクセルBaにおける形状特徴量として、ShapeIndex値SBa及びCurvedness値CBaを算出する(図5のステップS25)。
【0055】
なお、前述したShapeIndex値及びCurvedness値は、例えば、US Patent Application No.20030223627に記載されている方法と同様の方法を用いることにより算出可能である。そのため、本実施形態においては、一のボクセルBaにおけるShapeIndex値及びCurvedness値の算出方法に関しては、説明を省略する。
【0056】
また、CPU22は、ShapeIndex値SBaと、予め設定されたShapeIndex値の閾値Sthとの比較を行うとともに、Curvedness値CBaと、予め設定されたCurvedness値の閾値Cthとの比較を行う。換言すると、隆起形状検出部としての機能を有するCPU22は、前述した処理を行うことにより、生体組織31Aが隆起形状であるか否かを検出するための処理として、三次元モデルが凸型形状と推定されたボクセル群を抽出する処理を行う。なお、図5に示す一連の処理においては、隆起形状として凸型形状を有する生体組織31Aを検出するために、例えば、閾値Sthは0.9として設定されているとし、また、閾値Cthは0.2として設定されているとする。
【0057】
そして、隆起形状検出部としての機能を有するCPU22は、ShapeIndex値SBaが閾値Sthより大きく、かつ、Curvedness値CBaが閾値Cthより大きいことを検出した場合(図5のステップS26)、一のボクセルBaを隆起形状の一部を構成するボクセルであると判断し、該一のボクセルBaにおける変数ryuuki(Ba)の値をONとする(図5のステップS27)。
【0058】
また、CPU22は、ShapeIndex値SBaが閾値Sth以下であること、または、Curvedness値CBaが閾値Cth以下であることを検出した場合(図5のステップS26)、一のボクセルBaを隆起形状の一部を構成するボクセルではないと判断し、該一のボクセルBaにおける変数ryuuki(Ba)の値をOFFとする(図5のステップS28)。
【0059】
その後、CPU22は、R個のボクセル全てにおいて、前述した処理が行われたかどうか、すなわち、変数a=Rであるか否かの判定を行う。
【0060】
そして、CPU22は、a=Rではないことを検知した場合(図5のステップS29)、変数iに1を加える処理を行った(図5のステップS30)後、前述した、図5のステップS24からステップS29に示す処理を再度行う。
【0061】
また、CPU22は、a=Rであることを検知した場合(図5のステップS29)、生体組織31Aの三次元モデルにおける隆起形状を検出するための一連の処理を完了する。
【0062】
そして、CPU22は、例えば、ryuuki(Ba)の値がONであるボクセルを有する三次元モデルにおいて、生体組織31Aが隆起形状であることを示すための文字列または着色等を該三次元モデルに重畳させるような制御を表示処理部28に対して行う。これにより、モニタ4には、隆起形状を有する生体組織31Aをユーザが容易に発見可能であるような、管状器官31及び生体組織31Aの三次元モデルが画像表示される。
【0063】
また、CPU22は、ryuuki(Ba)の値がONである各ボクセルの位置に基づき、該各ボクセルの位置に対応する位置に存在する二次元画像上の各ピクセルを検出するとともに、生体組織31Aが隆起形状であることを示すための文字列または着色等を、該各ピクセルを有する該二次元画像に重畳させるような制御を表示処理部28に対して行うものであっても良い。
【0064】
なお、前述した一連の処理において、隆起形状検出対象領域ARは、z座標がMaxzよりも小さいボクセル群を含む領域として定められるものに限らず、例えば、図8に示すように、生体組織境界部31b近傍に存在するボクセル群のみを含む領域として定められるものであっても良い。
【0065】
本実施形態の医療用画像処理装置3は、以上に述べた一連の処理を行うことにより、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【0066】
また、本実施形態の医療用画像処理装置3は、前述した、生体組織31Aの隆起形状を検出するための処理を、三次元モデルにおける隆起形状検出対象領域AR内に含まれるボクセル群に対してのみ行う。そのため、本実施形態の医療用画像処理装置3は、生体組織31Aの隆起形状の検出を高速に行うことができる。
【0067】
(第2の実施形態)
図9から図15は、本発明の第2の実施形態に係るものである。なお、第1の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態に用いる内視鏡システム1の構成は、第1の実施形態と同様である。
【0068】
図9は、図1の医療用画像処理装置が第2の実施形態において行う処理の手順の概要を示すフローチャートである。図10は、図9における注目点抽出処理の具体的な手順を示すフローチャートである。図11は、図9における隆起形状検出処理の具体的な手順を示すフローチャートである。図12は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより、生体組織のエッジ部を含む二次元画像が細線化された場合の一例を示す図である。図13は、図12の細線化された二次元画像における、各注目点の位置関係の一例を示す図である。図14は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の一例を示す図である。図15は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の、図14とは異なる一例を示す図である。
【0069】
まず、エッジ抽出部としての機能を有するCPU22は、画像入力部21から出力される、管状器官31及び生体組織31Aが撮像された二次元画像の映像信号に基づき、例えば、該二次元画像の赤色成分に対してバンドパスフィルタを適用することにより、該二次元画像に含まれる全てのエッジ部を抽出する(図9のステップS31)。
【0070】
その後、エッジ抽出部としての機能を有するCPU22は、抽出した全てのエッジ部を2値化及び細線化する(図9のステップS32)とともに、細線化された二次元画像における注目点抽出処理を行う(図9のステップS33)。
【0071】
具体的には、エッジ部が細線化された二次元画像として、例えば、図12に示すような生体組織31Aの一のエッジ部E1が含まれている画像を取得した場合、まず、エッジ情報取得部としての機能を有するCPU22は、該一のエッジ部E1の細線における、一のエッジの端部となる位置の位置情報として、端点K1及びK2を取得する(図10のステップS331)。
【0072】
次に、エッジ情報取得部としての機能を有するCPU22は、一のエッジ部E1の形状に関する形状情報として、該一のエッジ部E1の細線の線分長LE1を算出する(図10のステップS332)とともに、LE1×1/2となる中点KEを取得する(図10のステップS333)。
【0073】
また、エッジ情報取得部としての機能を有するCPU22は、一のエッジ部E1の形状に関する形状情報として、端点K1と端点K2とを結ぶ直線F1を抽出し、該直線の長さLF1を算出する(図10のステップS334)とともに、LF1×1/2となる中点KFを取得する(図10のステップS335)。
【0074】
そして、CPU22は、端点K1、端点K2、中点KE及び中点KFを、一のエッジ部E1における注目点として抽出する(図10のステップS336)。なお、一のエッジ部E1における端点K1、端点K2、中点KE及び中点KFは、例えば、各々が図13に示すような位置関係を有する注目点として抽出される。
【0075】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図10のステップS337)、他の一のエッジ部に対し、前述した、図10のステップS331から図10のステップS336までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図10のステップS337)、二次元画像における注目点抽出処理を終了する。
【0076】
そして、CPU22は、前述した、二次元画像における注目点抽出処理を行うことにより得た処理結果として、該二次元画像の各エッジ部が有する注目点である、端点K1、端点K2、中点KE及び中点KFのデータを、情報記憶部25に一時的に記憶させる。
【0077】
三次元モデル推定部としての機能を有するCPU22は、二次元画像における注目点抽出処理を行った後、例えば、幾何学的な変換等の処理により、画像入力部21から出力された二次元画像の映像信号の輝度情報等に基づき、管状器官31及び生体組織31Aの三次元モデルを推定する際に必要となる画像データを取得するための画像処理を行う(図9のステップS34)。換言すると、CPU22は、例えば、幾何学的な変換等の処理により、二次元画像における各ピクセルに対応するボクセルを生成するとともに、該ボクセルを、三次元モデルを推定するための画像データとして取得する。
【0078】
さらに、CPU22は、情報記憶部25に記憶されている各注目点のデータである、端点K1、端点K2、中点KE及び中点KFのデータに基づき、生体組織31Aの一のエッジ部E1の三次元モデルにおける該各注目点の座標を推定する(図9のステップS35)。なお、一のエッジ部E1の三次元モデルにおける端点K1、端点K2、中点KE及び中点KFは、前述した処理により、例えば、各々が図14に示すような位置関係を有するとして推定される。
【0079】
そして、CPU22は、前述した処理により推定された各注目点の座標に基づき、さらに、以降に述べるような隆起形状検出処理を行うことにより、生体組織31Aの三次元モデルにおける隆起形状を検出する(図9のステップS36)。
【0080】
具体的には、まず、三次元モデル情報取得部としての機能を有するCPU22は、生体組織31Aの三次元モデルにおける奥行情報として、一のエッジ部E1の三次元モデルにおける、中点KFのz座標KFzと、端点K1のz座標K1zと、端点K2のz座標K2zとを抽出する(図11のステップS361)。
【0081】
次に、隆起形状検出部としての機能を有するCPU22は、中点KFのz座標KFzの値と、端点K1のz座標K1zの値及び端点K2のz座標K2zの値との比較を行う。そして、CPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値よりも小さく、かつ、中点KFのz座標KFzの値が端点K2のz座標K2zの値よりも小さいことを検出した場合(図11のステップS362)、後述する、図11のステップS363に示す処理をさらに行う。また、CPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値以上であるか、または、中点KFのz座標KFzの値が端点K2のz座標K2zの値以上であることを検出した場合(図11のステップS362)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断し、後述する、図11のステップS367に示す処理を行う。
【0082】
三次元モデル情報取得部としての機能を有するCPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値よりも小さく、かつ、中点KFのz座標KFzの値が端点K2のz座標K2zの値よりも小さいことを検出した場合(図11のステップS362)、三次元モデルにおける端点K1と端点K2とを結ぶ直線F2を抽出するとともに、三次元モデルにおける中点KEと該直線F2とを結ぶ直線である垂直線F3を取得する(図11のステップS363)。その後、CPU22は、生体組織31Aの三次元モデルにおける高さ情報として、垂直線F3の線分長LF3を取得する(図11のステップS364)とともに、該線分長LF3と、該線分長LF3の閾値thLF3との比較を行う。
【0083】
そして、隆起形状検出部としての機能を有するCPU22は、線分長LF3の値が閾値thLF3よりも大きいことを検出した場合(図11のステップS365)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部であると判断するとともに、該一のエッジ部E1が有するボクセル群全てにおける変数ryuuki(E1)の値をONとする(図11のステップS366)。また、CPU22は、線分長LF3の値が閾値thLF3以下であることを検出した場合(図11のステップS365)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断するとともに、該一のエッジ部E1が有するボクセル群全てにおける変数ryuuki(E1)の値をOFFとする(図11のステップS367)。
【0084】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図11のステップS368)、他の一のエッジ部に対し、前述した、図11のステップS361から図11のステップS367までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図11のステップS368)、生体組織31Aの三次元モデルにおける隆起形状検出処理を終了する。
【0085】
そして、CPU22は、前述した、図11に示す隆起形状検出処理が終了した時点において、図9に示す一連の画像処理を完了する。
【0086】
なお、前述した隆起形状検出処理の、図11のステップS362に示す処理において、CPU22は、各注目点のz座標の値に基づく比較及び判断を行うものに限らず、例えば、以降に記すような、各注目点の赤色成分値に基づく比較及び判断を行うものであっても良い。
【0087】
具体的には、まず、CPU22は、中点KFにおける赤色成分値RKFと、端点K1における赤色成分値RK1と、端点K2における赤色成分値RK2とを抽出する。そして、CPU22は、中点KFにおける赤色成分値RKFが端点K1における赤色成分値RK1よりも大きく、かつ、中点KFにおける赤色成分値RKFが端点K2における赤色成分値RK2よりも大きいことを検出した場合、前述した、図11のステップS363の処理をさらに行う。また、CPU22は、中点KFにおける赤色成分値RKFが端点K1における赤色成分値RK1以下であるか、または、中点KFにおける赤色成分値RKFが端点K2における赤色成分値RK2以下であることを検出した場合、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断し、前述した、図11のステップS367の処理を行う。
【0088】
そして、CPU22は、例えば、ryuuki(E1)の値がONであるボクセルを有する三次元モデルにおいて、生体組織31Aが隆起形状であることを示すための文字列または着色等を該三次元モデルに重畳させるような制御を表示処理部28に対して行う。これにより、モニタ4には、隆起形状を有する生体組織31Aをユーザが容易に発見可能であるような、管状器官31及び生体組織31Aの三次元モデルが画像表示される。
【0089】
また、CPU22は、ryuuki(E1)の値がONである各ボクセルの位置に基づき、該各ボクセルの位置に対応する位置に存在する二次元画像上の各ピクセルを検出するとともに、生体組織31Aが隆起形状であることを示すための文字列または着色等を、該各ピクセルを有する該二次元画像に重畳させるような制御を表示処理部28に対して行うものであっても良い。
【0090】
本実施形態の医療用画像処理装置3は、以上に述べた一連の処理を行うことにより、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【0091】
また、本実施形態の医療用画像処理装置3は、前述した、生体組織31Aが隆起形状であるか否かを、隆起形状特有の値を算出しつつ定量的に検出する。そのため、本実施形態の医療用画像処理装置3は、生体組織31Aの隆起形状の検出を精度良く行うことができる。
【0092】
なお、本発明は、上述した実施形態に限定されるものではなく、発明の趣旨を逸脱しない範囲内において種々の変更や応用が可能であることは勿論である。
【図面の簡単な説明】
【0093】
【図1】本発明の各実施形態に係る医療用画像処理装置が用いられる内視鏡システムの全体構成の一例を示す図。
【図2】図1の内視鏡が管状器官内に挿入された場合の状態を示す模式図。
【図3】図2の状態において、内視鏡により撮像される管状器官及び生体組織の像を示す模式図。
【図4】生体組織の像の二次元画像におけるエッジ部を抽出する場合に、図1の医療用画像処理装置が第1の実施形態において行う処理の手順を示すフローチャート。
【図5】生体組織の三次元モデルにおける隆起形状を検出する場合に、図1の医療用画像処理装置が第1の実施形態において行う処理の手順を示すフローチャート。
【図6】図1の医療用画像処理装置により推定された、生体組織の三次元モデルの一例を示す図。
【図7】図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の一例を示す図。
【図8】図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の、図7とは異なる例を示す図。
【図9】図1の医療用画像処理装置が第2の実施形態において行う処理の手順の概要を示すフローチャート。
【図10】図9における注目点抽出処理の具体的な手順を示すフローチャート。
【図11】図9における隆起形状検出処理の具体的な手順を示すフローチャート。
【図12】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより、生体組織のエッジ部を含む二次元画像が細線化された場合の一例を示す図。
【図13】図12の細線化された二次元画像における、各注目点の位置関係の一例を示す図。
【図14】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の一例を示す図。
【図15】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の、図14とは異なる一例を示す図。
【符号の説明】
【0094】
1・・・内視鏡システム、2・・・医療用観察装置、3・・・医療用画像処理装置、4,9・・・モニタ、6・・・内視鏡、7・・・光源装置、11・・・挿入部、12・・・操作部、13・・・ライトガイド、14・・・先端部、15・・・対物光学系、16・・・撮像素子、17・・・撮像部、21・・・画像入力部、23・・・処理プログラム記憶部、24・・・画像記憶部、25・・・情報記憶部、26・・・記憶装置インターフェース、27・・・ハードディスク、28・・・表示処理部、29・・・入力操作部、30・・・データバス、31・・・管状器官、31A・・・生体組織、31b・・・生体組織境界部
【技術分野】
【0001】
本発明は、医療用画像処理装置及び医療用画像処理方法に関し、特に、体腔内の生体組織の三次元モデルにおける隆起形状を検出可能な医療用画像処理装置及び医療用画像処理方法に関するものである。
【背景技術】
【0002】
内視鏡及び医療用画像処理装置等を具備して構成される内視鏡システムは、医療分野等において広く用いられている。具体的には、内視鏡システムは、例えば、生体としての体腔内に挿入される挿入部と、該挿入部の先端部に配置された対物光学系と、該対物光学系により結像された体腔内の像を撮像して撮像信号として出力する撮像部とを有して構成される内視鏡と、該撮像信号に基づき、表示部としてのモニタ等に該体腔内の像を画像表示させるための処理を行う医療用画像処理装置とを具備して構成されている。そして、ユーザは、表示部としてのモニタ等に画像表示された体腔内の像に基づき、例えば、体腔内における被写体としての臓器等の観察を行う。
【0003】
また、前述した構成を具備する内視鏡システムは、体腔内における被写体として、例えば、大腸等の消化管粘膜の像を撮像することもまた可能である。そのため、ユーザは、例えば、粘膜の色調、病変の形状及び粘膜表面の微細な構造等の様々な所見を総合的に観察することができる。
【0004】
さらに、近年においては、内視鏡により撮像された被写体の像の撮像信号に応じた二次元画像のデータに基づき、該被写体の三次元モデルを生成することが可能である、例えば、特許文献1に記載されているような内視鏡装置が提案されている。
【0005】
一方、三次元モデルにおいてポリープ等の病変部位を検出するための方法として、例えば、ShapeIndex及びCurvednessといった、曲率に基づく形状特徴量を用いつつ該三次元モデルの形状の評価を行うことにより、該三次元モデルにおける病変部位を検出可能である、特許文献2に記載されている方法が提案されている。
【特許文献1】特開平11−337845号公報
【特許文献2】US Patent Application No.20030223627
【発明の開示】
【発明が解決しようとする課題】
【0006】
特に、内視鏡により撮像された隆起形状を有する生体組織の像としての、例えば、大腸のひだまたはポリープ等の生体組織の像を含む二次元画像は、該内視鏡の視野方向に対して不可視領域を含む場合が多い。そして、前述した二次元画像における不可視領域は、一般的にオクルージョンと呼ばれており、正確な三次元モデルの推定が困難な領域である。そのため、二次元画像のオクルージョンが発生している部分においては、例えば、該二次元画像に基づく三次元モデルの対応する位置に推定結果が存在しない、または、該二次元画像に基づく三次元モデルの対応する位置に信頼性の低い推定結果が算出されるといったことが起こり得る。
【0007】
その結果、従来の画像処理としての、例えば、特許文献1の内視鏡装置において行われている画像処理により推定された被写体の三次元モデルが用いられつつ該被写体の観察が行われた場合、ユーザがポリープ等の病変部位を見つける際の負担が大きくなってしまうという課題が生じている。
【0008】
また、特許文献2において提案されているポリープ等の病変部位を検出するための方法は、例えば、CT(Computed Tomograpy)を用いた観察により得られる、オクルージョンとなる部分が発生しない三次元モデルに対する適用を想定した方法である。そのため、特許文献2において提案されているポリープ等の病変部位を検出するための方法は、例えば、内視鏡を用いた観察により得られる、オクルージョンとなる部分を有する二次元画像に基づいて推定された三次元モデルに対して適用された場合に、ポリープ等の病変部位の検出精度が低下してしまう。その結果、特許文献2において提案されている方法が採用された内視鏡システムが用いられつつ被写体の観察が行われた場合、ユーザがポリープ等の病変部位を見つける際の負担が大きくなってしまうという課題が生じている。
【0009】
本発明は、前述した点に鑑みてなされたものであり、オクルージョンを有する二次元画像に基づいて推定された三次元モデルを用いて観察が行われる場合に、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることのできる医療用画像処理装置及び医療用画像処理方法を提供することを目的としている。
【課題を解決するための手段】
【0010】
本発明における第1の医療用画像処理装置は、医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、前記ボクセル抽出部により抽出された前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出部と、を有することを特徴とする。
【0011】
本発明における第2の医療用画像処理装置は、前記第1の医療用画像処理装置において、前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする。
【0012】
本発明における第3の医療用画像処理装置は、前記第2の医療用画像処理装置において、前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする。
【0013】
本発明における第4の医療用画像処理装置は、前記第1乃至第3の医療用画像処理装置において、前記所定の形状は、凸型形状であることを特徴とする。
【0014】
本発明における第5の医療用画像処理装置は、入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出部と、前記エッジ抽出部が抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得部と、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得部と、前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出部と、を有することを特徴とする。
【0015】
本発明における第6の医療用画像処理装置は、前記第5の医療用画像処理装置において、前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする。
【0016】
本発明における第1の医療用画像処理方法は、医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出ステップと、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出ステップと、前記ボクセル抽出ステップにより抽出された前記ボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出ステップと、前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出ステップと、を有することを特徴とする。
【0017】
本発明における第2の医療用画像処理方法は、前記第1の医療用画像処理方法において、前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする。
【0018】
本発明における第3の医療用画像処理方法は、前記第2の医療用画像処理方法において、前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項8に記載の医療用画像処理方法。
【0019】
本発明における第4の医療用画像処理方法は、前記第1乃至第3の医療用画像処理方法において、前記所定の形状は、凸型形状であることを特徴とする。
【0020】
本発明における第5の医療用画像処理方法は、入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出ステップと、前記エッジ抽出ステップが抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得ステップと、前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得ステップと、前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出ステップと、を有することを特徴とする。
【0021】
本発明における第6の医療用画像処理方法は、前記第5の医療用画像処理方法において、前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする。
【発明の効果】
【0022】
本発明における医療用画像処理装置及び医療用画像処理方法によると、オクルージョンを有する二次元画像に基づいて推定された三次元モデルを用いて観察が行われる場合に、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【発明を実施するための最良の形態】
【0023】
以下、図面を参照して本発明の実施の形態を説明する。
【0024】
(第1の実施形態)
図1から図8は、本発明の第1の実施形態に係るものである。図1は、本実施形態に係る医療用画像処理装置が用いられる内視鏡システムの全体構成の一例を示す図である。図2は、図1の内視鏡が管状器官内に挿入された場合の状態を示す模式図である。図3は、図2の状態において、内視鏡により撮像される管状器官及び生体組織の像を示す模式図である。図4は、生体組織の像の二次元画像におけるエッジ部を抽出する場合に、図1の医療用画像処理装置が行う処理の手順を示すフローチャートである。図5は、生体組織の三次元モデルにおける隆起形状を検出する場合に、図1の医療用画像処理装置が行う処理の手順を示すフローチャートである。図6は、図1の医療用画像処理装置により推定された、生体組織の三次元モデルの一例を示す図である。図7は、図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の一例を示す図である。図8は、図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の、図7とは異なる例を示す図である。
【0025】
内視鏡システム1は、図1に示すように、被写体を撮像するとともに、該被写体の像の二次元画像を出力する医療用観察装置2と、パーソナルコンピュータ等により構成され、医療用観察装置2から出力される二次元画像の映像信号に対して画像処理を行うとともに、該画像処理を行った後の映像信号を画像信号として出力する医療用画像処理装置3と、医療用画像処理装置3から出力される画像信号に基づく画像を表示するモニタ4とを有して要部が構成されている。
【0026】
また、医療用観察装置2は、体腔内に挿入されるとともに、該体腔内の被写体を撮像して撮像信号として出力する内視鏡6と、内視鏡6により撮像される被写体を照明するための照明光を供給する光源装置7と、内視鏡6に対する各種制御を行うとともに、内視鏡6から出力される撮像信号に対して信号処理を行い、二次元画像の映像信号として出力するカメラコントロールユニット(以降、CCUと略記する)8と、CCU8から出力される二次元画像の映像信号に基づき、内視鏡6により撮像された被写体の像を画像表示するモニタ9とを有して要部が構成されている。
【0027】
医療用撮像装置としての内視鏡6は、体腔内に挿入される挿入部11と、挿入部11の基端側に設けられた操作部12とを有して構成されている。また、挿入部11内の基端側から、挿入部11内の先端側の先端部14にかけての部分には、光源装置7から供給される照明光を伝送するためのライトガイド13が挿通されている。
【0028】
ライトガイド13は、先端側が内視鏡6の先端部14に配置されるとともに、後端側が光源装置7に接続される。ライトガイド13がこのような構成を有することにより、光源装置7から供給される照明光は、ライトガイド13により伝送された後、挿入部11の先端部14の先端面に設けられた、図示しない照明窓から出射される。そして、図示しない照明窓から照明光が出射されることにより、被写体としての生体組織等が照明される。
【0029】
内視鏡6の先端部14には、図示しない照明窓に隣接する図示しない観察窓に取り付けられた対物光学系15と、対物光学系15の結像位置に配置され、例えば、CCD(電荷結合素子)等により構成される撮像素子16とを有する撮像部17が設けられている。このような構成により、対物光学系15により結像された被写体の像は、撮像素子16により撮像された後、撮像信号として出力される。
【0030】
撮像素子16は、信号線を介してCCU8に接続されている。そして、撮像素子16は、CCU8から出力される駆動信号に基づいて駆動するとともに、CCU8に対して撮像信号を出力する。
【0031】
また、CCU8に入力された撮像信号は、CCU8の内部に設けられた図示しない信号処理回路において信号処理されることにより、二次元画像の映像信号として変換されて出力される。CCU8から出力された二次元画像の映像信号は、モニタ9及び医療用画像処理装置3に対して出力される。これにより、モニタ9には、CCU8から出力される映像信号に基づく被写体の像が二次元の画像として表示される。
【0032】
医療用画像処理装置3は、医療用観察装置2から出力される二次元画像の映像信号に対し、A/D変換を行って出力する画像入力部21と、画像入力部21から出力される映像信号に対して画像処理を行う、中央演算処理装置としてのCPU22と、該画像処理に関する処理プログラムが書き込まれた処理プログラム記憶部23と、画像入力部21から出力される映像信号等を記憶する画像記憶部24と、CPU22の画像処理結果としての画像データ等を記憶する情報記憶部25とを有する。
【0033】
また、医療用画像処理装置3は、記憶装置インターフェース26と、記憶装置インターフェース26を介してCPU22の画像処理結果としての画像データ等を記憶する、記憶装置としてのハードディスク27と、CPU22の画像処理結果としての画像データに基づき、該画像データをモニタ4に画像表示するための表示処理を行うとともに、該表示処理を行った後の画像データを画像信号として出力する表示処理部28と、CPU22が行う画像処理におけるパラメータ及び医療用画像処理装置3に対する操作指示をユーザが入力可能な、キーボード等により構成される入力操作部29とを有する。そして、モニタ4は、表示処理部28から出力される画像信号に基づく画像を表示する。
【0034】
なお、医療用画像処理装置3の画像入力部21、CPU22、処理プログラム記憶部23、画像記憶部24、情報記憶部25、記憶装置インターフェース26、表示処理部28及び入力操作部29は、データバス30を介して相互に接続されている。
【0035】
次に、内視鏡システム1の作用について説明を行う。
【0036】
まず、ユーザは、図2に示すように、例えば、大腸等である管状器官31内に内視鏡6の挿入部11を挿入する。そして、ユーザにより挿入部11が管状器官31に挿入されると、例えば、管状器官31の内壁に存在する病変部位である生体組織31Aの像が、先端部14に設けられた撮像部17により、図3に示すような像として撮像される。そして、図3に示すような像として撮像部17により撮像された、管状器官31及び生体組織31Aの像は、撮像信号としてCCU8に対して出力される。
【0037】
CCU8は、図示しない信号処理回路において、撮像部17の撮像素子16から出力される撮像信号に対して信号処理を行うことにより、該撮像信号を二次元画像の映像信号として変換して出力する。そして、モニタ9は、CCU8から出力される映像信号に基づき、管状器官31及び生体組織31Aの像を、例えば、図3に示すような二次元の画像として表示する。また、CCU8は、撮像部17の撮像素子16から出力される撮像信号に対して信号処理を行うことにより得られた二次元画像の映像信号を、医療用画像処理装置3に対して出力する。
【0038】
医療用画像処理装置3に対して出力された二次元画像の映像信号は、画像入力部21においてA/D変換された後、CPU22に入力される。
【0039】
CPU22は、画像入力部21から出力された二次元画像の映像信号と、処理プログラム記憶部23に書き込まれた処理プログラムとに基づき、例えば、以降に述べるような処理を行うことにより、該二次元画像における生体組織31Aのエッジ部を抽出する。
【0040】
まず、エッジ抽出部としての機能を有するCPU22は、画像入力部21から出力された二次元画像の映像信号に基づき、例えば、該二次元画像の赤色成分に対してバンドパスフィルタを適用することにより、該二次元画像に含まれる全てのエッジ部を抽出する(図4のステップS1)。
【0041】
その後、エッジ抽出部としての機能を有するCPU22は、抽出した全てのエッジ部を細線化する(図4のステップS2)とともに、細線化した該全てのエッジ部のうち、一のエッジ部Eの長さLを算出する(図4のステップS3)。さらに、CPU22は、一のエッジ部Eの長さLが、閾値thL1より長く、かつ、閾値thL2より短いか否かの判断を行う。
【0042】
そして、CPU22は、一のエッジ部Eの長さLが、所定の閾値thL1以下の長さであること、または、閾値thL2以上であることを検出した場合(図4のステップS4)、後述する図4のステップS11に示す処理を行う。また、CPU22は、一のエッジ部Eの長さLが、閾値thL1より長く、かつ、閾値thL2より短いことを検出した場合(図4のステップS4)、該一のエッジ部Eを制御点Cn(n=1,2,…,N)によりN等分する(図4のステップS5)。
【0043】
さらに、CPU22は、一のエッジ部Eの中点Ccから引いた法線NCcを取得するとともに、各制御点Cnから引いたN本の法線NCnを取得する(図4のステップS6)。その後、CPU22は、N本の法線NCnのうち、法線NCcと交わるものの本数Naを検出する(図4のステップS7)。
【0044】
また、CPU22は、N本の法線NCnのうち、法線NCcと交わるものの本数Naが、閾値thaより多いか否かの判断を行う。そして、CPU22は、法線NCcと交わるものの本数Naが閾値thaより多いことを検出した場合(図4のステップS8)、一のエッジ部Eに含まれるピクセル群ipを生体組織31Aのエッジ部に含まれるピクセル群であると判断し、該ピクセル群ipが有する各ピクセルにおける変数edge(i)の値をONとする(図4のステップS9)。さらに、そして、CPU22は、法線NCcと交わるものの本数Naが閾値tha以下であることを検出した場合(図4のステップS8)、一のエッジ部Eに含まれるピクセル群ipを生体組織31Aのエッジ部に含まれるピクセル群ではないと判断し、該ピクセル群ipが有する各ピクセルにおける変数edge(i)の値をOFFとする(図4のステップS10)。
【0045】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図4のステップS11)、他の一のエッジ部に対し、前述した、図4のステップS3から図4のステップS10までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図4のステップS11)、二次元画像における生体組織31Aのエッジ部を抽出するための一連の処理を終了する。
【0046】
その後、CPU22は、前述した、二次元画像における生体組織31Aのエッジ部を抽出するための一連の処理を行うことにより得た処理結果としての、二次元画像の各エッジ部に含まれるピクセル群ipにおける変数edge(i)の値を、情報記憶部25に一時的に記憶させる。
【0047】
そして、三次元モデル推定部としての機能を有するCPU22は、例えば、幾何学的な変換等の処理により、画像入力部21から出力された二次元画像の映像信号の輝度情報等に基づき、管状器官31及び生体組織31Aの三次元モデルを推定する際に必要となる画像データを取得するための画像処理を行う。換言すると、CPU22は、例えば、幾何学的な変換等の処理により、二次元画像における各ピクセルに対応するボクセルを生成するとともに、該ボクセルを、三次元モデルを推定するための画像データとして取得する。すなわち、ピクセル群ipは、前述した処理によりボクセル群ibとして変換される。
【0048】
CPU22は、前述した処理により、図3に示した生体組織31Aの三次元モデルを推定するための画像データとして、変数edge(i)がONであるボクセル群ibを含む平面である生体組織境界部31bのデータを得る。これにより、生体組織31Aは、例えば、z軸方向を内視鏡6による観察時の視野方向とした場合、図6に示すような形状を有する三次元モデルとして推定される。
【0049】
その後、CPU22は、生体組織境界部31bのデータに基づき、さらに、以降に述べるような処理を行うことにより、生体組織31Aの三次元モデルにおける隆起形状を検出する。
【0050】
まず、CPU22は、処理プログラム記憶部23に書き込まれた処理プログラムと、生体組織境界部31bのデータとに基づき、変数edge(i)がONであるボクセル群ibのうち、内視鏡6の視野方向の最も奥側に存在する所定の一のボクセルとして、z座標が最大である一のボクセルを抽出するとともに、該一のボクセルのz座標をMaxzとして設定する(図5のステップS21)。
【0051】
そして、CPU22は、管状器官31及び生体組織31Aの三次元モデルを推定するための画像データとして得た全てのボクセルのうち、前記一のボクセルの位置よりも内視鏡6の視野方向手前側に存在するボクセルとして、z座標がMaxzよりも小さいボクセル群rbを検出する(図5のステップS22)。
【0052】
なお、前述したボクセル群rbは、図7に示す、隆起形状検出対象領域AR内に含まれるボクセル群、すなわち、形状特徴量の算出対象となるボクセル群であるとともに、R個のボクセルを有するボクセル群であるとする。
【0053】
また、前述した、図5のステップS21及びS22の処理を換言すると、ボクセル抽出部としての機能を有するCPU22は、変数edge(i)がONであるボクセル群ibが有する各ボクセルの位置に基づき、隆起形状検出対象領域AR内に含まれる、R個のボクセルを有するボクセル群rbを、形状特徴量の算出対象となる所定のボクセル群として抽出する。
【0054】
さらに、形状特徴量算出部としての機能を有するCPU22は、変数aを1に設定した(図5のステップS23)後、ボクセル群rbが有するR個のボクセルのうち、一のボクセルであるBa(a=1,2,…,R−1,R)を抽出するとともに(図5のステップS24)、該一のボクセルBaにおける形状特徴量として、ShapeIndex値SBa及びCurvedness値CBaを算出する(図5のステップS25)。
【0055】
なお、前述したShapeIndex値及びCurvedness値は、例えば、US Patent Application No.20030223627に記載されている方法と同様の方法を用いることにより算出可能である。そのため、本実施形態においては、一のボクセルBaにおけるShapeIndex値及びCurvedness値の算出方法に関しては、説明を省略する。
【0056】
また、CPU22は、ShapeIndex値SBaと、予め設定されたShapeIndex値の閾値Sthとの比較を行うとともに、Curvedness値CBaと、予め設定されたCurvedness値の閾値Cthとの比較を行う。換言すると、隆起形状検出部としての機能を有するCPU22は、前述した処理を行うことにより、生体組織31Aが隆起形状であるか否かを検出するための処理として、三次元モデルが凸型形状と推定されたボクセル群を抽出する処理を行う。なお、図5に示す一連の処理においては、隆起形状として凸型形状を有する生体組織31Aを検出するために、例えば、閾値Sthは0.9として設定されているとし、また、閾値Cthは0.2として設定されているとする。
【0057】
そして、隆起形状検出部としての機能を有するCPU22は、ShapeIndex値SBaが閾値Sthより大きく、かつ、Curvedness値CBaが閾値Cthより大きいことを検出した場合(図5のステップS26)、一のボクセルBaを隆起形状の一部を構成するボクセルであると判断し、該一のボクセルBaにおける変数ryuuki(Ba)の値をONとする(図5のステップS27)。
【0058】
また、CPU22は、ShapeIndex値SBaが閾値Sth以下であること、または、Curvedness値CBaが閾値Cth以下であることを検出した場合(図5のステップS26)、一のボクセルBaを隆起形状の一部を構成するボクセルではないと判断し、該一のボクセルBaにおける変数ryuuki(Ba)の値をOFFとする(図5のステップS28)。
【0059】
その後、CPU22は、R個のボクセル全てにおいて、前述した処理が行われたかどうか、すなわち、変数a=Rであるか否かの判定を行う。
【0060】
そして、CPU22は、a=Rではないことを検知した場合(図5のステップS29)、変数iに1を加える処理を行った(図5のステップS30)後、前述した、図5のステップS24からステップS29に示す処理を再度行う。
【0061】
また、CPU22は、a=Rであることを検知した場合(図5のステップS29)、生体組織31Aの三次元モデルにおける隆起形状を検出するための一連の処理を完了する。
【0062】
そして、CPU22は、例えば、ryuuki(Ba)の値がONであるボクセルを有する三次元モデルにおいて、生体組織31Aが隆起形状であることを示すための文字列または着色等を該三次元モデルに重畳させるような制御を表示処理部28に対して行う。これにより、モニタ4には、隆起形状を有する生体組織31Aをユーザが容易に発見可能であるような、管状器官31及び生体組織31Aの三次元モデルが画像表示される。
【0063】
また、CPU22は、ryuuki(Ba)の値がONである各ボクセルの位置に基づき、該各ボクセルの位置に対応する位置に存在する二次元画像上の各ピクセルを検出するとともに、生体組織31Aが隆起形状であることを示すための文字列または着色等を、該各ピクセルを有する該二次元画像に重畳させるような制御を表示処理部28に対して行うものであっても良い。
【0064】
なお、前述した一連の処理において、隆起形状検出対象領域ARは、z座標がMaxzよりも小さいボクセル群を含む領域として定められるものに限らず、例えば、図8に示すように、生体組織境界部31b近傍に存在するボクセル群のみを含む領域として定められるものであっても良い。
【0065】
本実施形態の医療用画像処理装置3は、以上に述べた一連の処理を行うことにより、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【0066】
また、本実施形態の医療用画像処理装置3は、前述した、生体組織31Aの隆起形状を検出するための処理を、三次元モデルにおける隆起形状検出対象領域AR内に含まれるボクセル群に対してのみ行う。そのため、本実施形態の医療用画像処理装置3は、生体組織31Aの隆起形状の検出を高速に行うことができる。
【0067】
(第2の実施形態)
図9から図15は、本発明の第2の実施形態に係るものである。なお、第1の実施形態と同様の構成を持つ部分については、詳細説明は省略する。また、第1の実施形態と同様の構成要素については、同一の符号を用いて説明は省略する。さらに、本実施形態に用いる内視鏡システム1の構成は、第1の実施形態と同様である。
【0068】
図9は、図1の医療用画像処理装置が第2の実施形態において行う処理の手順の概要を示すフローチャートである。図10は、図9における注目点抽出処理の具体的な手順を示すフローチャートである。図11は、図9における隆起形状検出処理の具体的な手順を示すフローチャートである。図12は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより、生体組織のエッジ部を含む二次元画像が細線化された場合の一例を示す図である。図13は、図12の細線化された二次元画像における、各注目点の位置関係の一例を示す図である。図14は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の一例を示す図である。図15は、図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の、図14とは異なる一例を示す図である。
【0069】
まず、エッジ抽出部としての機能を有するCPU22は、画像入力部21から出力される、管状器官31及び生体組織31Aが撮像された二次元画像の映像信号に基づき、例えば、該二次元画像の赤色成分に対してバンドパスフィルタを適用することにより、該二次元画像に含まれる全てのエッジ部を抽出する(図9のステップS31)。
【0070】
その後、エッジ抽出部としての機能を有するCPU22は、抽出した全てのエッジ部を2値化及び細線化する(図9のステップS32)とともに、細線化された二次元画像における注目点抽出処理を行う(図9のステップS33)。
【0071】
具体的には、エッジ部が細線化された二次元画像として、例えば、図12に示すような生体組織31Aの一のエッジ部E1が含まれている画像を取得した場合、まず、エッジ情報取得部としての機能を有するCPU22は、該一のエッジ部E1の細線における、一のエッジの端部となる位置の位置情報として、端点K1及びK2を取得する(図10のステップS331)。
【0072】
次に、エッジ情報取得部としての機能を有するCPU22は、一のエッジ部E1の形状に関する形状情報として、該一のエッジ部E1の細線の線分長LE1を算出する(図10のステップS332)とともに、LE1×1/2となる中点KEを取得する(図10のステップS333)。
【0073】
また、エッジ情報取得部としての機能を有するCPU22は、一のエッジ部E1の形状に関する形状情報として、端点K1と端点K2とを結ぶ直線F1を抽出し、該直線の長さLF1を算出する(図10のステップS334)とともに、LF1×1/2となる中点KFを取得する(図10のステップS335)。
【0074】
そして、CPU22は、端点K1、端点K2、中点KE及び中点KFを、一のエッジ部E1における注目点として抽出する(図10のステップS336)。なお、一のエッジ部E1における端点K1、端点K2、中点KE及び中点KFは、例えば、各々が図13に示すような位置関係を有する注目点として抽出される。
【0075】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図10のステップS337)、他の一のエッジ部に対し、前述した、図10のステップS331から図10のステップS336までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図10のステップS337)、二次元画像における注目点抽出処理を終了する。
【0076】
そして、CPU22は、前述した、二次元画像における注目点抽出処理を行うことにより得た処理結果として、該二次元画像の各エッジ部が有する注目点である、端点K1、端点K2、中点KE及び中点KFのデータを、情報記憶部25に一時的に記憶させる。
【0077】
三次元モデル推定部としての機能を有するCPU22は、二次元画像における注目点抽出処理を行った後、例えば、幾何学的な変換等の処理により、画像入力部21から出力された二次元画像の映像信号の輝度情報等に基づき、管状器官31及び生体組織31Aの三次元モデルを推定する際に必要となる画像データを取得するための画像処理を行う(図9のステップS34)。換言すると、CPU22は、例えば、幾何学的な変換等の処理により、二次元画像における各ピクセルに対応するボクセルを生成するとともに、該ボクセルを、三次元モデルを推定するための画像データとして取得する。
【0078】
さらに、CPU22は、情報記憶部25に記憶されている各注目点のデータである、端点K1、端点K2、中点KE及び中点KFのデータに基づき、生体組織31Aの一のエッジ部E1の三次元モデルにおける該各注目点の座標を推定する(図9のステップS35)。なお、一のエッジ部E1の三次元モデルにおける端点K1、端点K2、中点KE及び中点KFは、前述した処理により、例えば、各々が図14に示すような位置関係を有するとして推定される。
【0079】
そして、CPU22は、前述した処理により推定された各注目点の座標に基づき、さらに、以降に述べるような隆起形状検出処理を行うことにより、生体組織31Aの三次元モデルにおける隆起形状を検出する(図9のステップS36)。
【0080】
具体的には、まず、三次元モデル情報取得部としての機能を有するCPU22は、生体組織31Aの三次元モデルにおける奥行情報として、一のエッジ部E1の三次元モデルにおける、中点KFのz座標KFzと、端点K1のz座標K1zと、端点K2のz座標K2zとを抽出する(図11のステップS361)。
【0081】
次に、隆起形状検出部としての機能を有するCPU22は、中点KFのz座標KFzの値と、端点K1のz座標K1zの値及び端点K2のz座標K2zの値との比較を行う。そして、CPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値よりも小さく、かつ、中点KFのz座標KFzの値が端点K2のz座標K2zの値よりも小さいことを検出した場合(図11のステップS362)、後述する、図11のステップS363に示す処理をさらに行う。また、CPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値以上であるか、または、中点KFのz座標KFzの値が端点K2のz座標K2zの値以上であることを検出した場合(図11のステップS362)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断し、後述する、図11のステップS367に示す処理を行う。
【0082】
三次元モデル情報取得部としての機能を有するCPU22は、中点KFのz座標KFzの値が端点K1のz座標K1zの値よりも小さく、かつ、中点KFのz座標KFzの値が端点K2のz座標K2zの値よりも小さいことを検出した場合(図11のステップS362)、三次元モデルにおける端点K1と端点K2とを結ぶ直線F2を抽出するとともに、三次元モデルにおける中点KEと該直線F2とを結ぶ直線である垂直線F3を取得する(図11のステップS363)。その後、CPU22は、生体組織31Aの三次元モデルにおける高さ情報として、垂直線F3の線分長LF3を取得する(図11のステップS364)とともに、該線分長LF3と、該線分長LF3の閾値thLF3との比較を行う。
【0083】
そして、隆起形状検出部としての機能を有するCPU22は、線分長LF3の値が閾値thLF3よりも大きいことを検出した場合(図11のステップS365)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部であると判断するとともに、該一のエッジ部E1が有するボクセル群全てにおける変数ryuuki(E1)の値をONとする(図11のステップS366)。また、CPU22は、線分長LF3の値が閾値thLF3以下であることを検出した場合(図11のステップS365)、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断するとともに、該一のエッジ部E1が有するボクセル群全てにおける変数ryuuki(E1)の値をOFFとする(図11のステップS367)。
【0084】
CPU22は、抽出した全てのエッジ部に対し、処理が完了したか否かを判断する。そして、CPU22は、抽出した全てのエッジ部に対しての処理が完了していないことを検出した場合(図11のステップS368)、他の一のエッジ部に対し、前述した、図11のステップS361から図11のステップS367までの処理を行う。また、CPU22は、抽出した全てのエッジ部に対しての処理が完了したことを検出した場合(図11のステップS368)、生体組織31Aの三次元モデルにおける隆起形状検出処理を終了する。
【0085】
そして、CPU22は、前述した、図11に示す隆起形状検出処理が終了した時点において、図9に示す一連の画像処理を完了する。
【0086】
なお、前述した隆起形状検出処理の、図11のステップS362に示す処理において、CPU22は、各注目点のz座標の値に基づく比較及び判断を行うものに限らず、例えば、以降に記すような、各注目点の赤色成分値に基づく比較及び判断を行うものであっても良い。
【0087】
具体的には、まず、CPU22は、中点KFにおける赤色成分値RKFと、端点K1における赤色成分値RK1と、端点K2における赤色成分値RK2とを抽出する。そして、CPU22は、中点KFにおける赤色成分値RKFが端点K1における赤色成分値RK1よりも大きく、かつ、中点KFにおける赤色成分値RKFが端点K2における赤色成分値RK2よりも大きいことを検出した場合、前述した、図11のステップS363の処理をさらに行う。また、CPU22は、中点KFにおける赤色成分値RKFが端点K1における赤色成分値RK1以下であるか、または、中点KFにおける赤色成分値RKFが端点K2における赤色成分値RK2以下であることを検出した場合、生体組織31Aの一のエッジ部E1を、隆起形状を構成するエッジ部ではないと判断し、前述した、図11のステップS367の処理を行う。
【0088】
そして、CPU22は、例えば、ryuuki(E1)の値がONであるボクセルを有する三次元モデルにおいて、生体組織31Aが隆起形状であることを示すための文字列または着色等を該三次元モデルに重畳させるような制御を表示処理部28に対して行う。これにより、モニタ4には、隆起形状を有する生体組織31Aをユーザが容易に発見可能であるような、管状器官31及び生体組織31Aの三次元モデルが画像表示される。
【0089】
また、CPU22は、ryuuki(E1)の値がONである各ボクセルの位置に基づき、該各ボクセルの位置に対応する位置に存在する二次元画像上の各ピクセルを検出するとともに、生体組織31Aが隆起形状であることを示すための文字列または着色等を、該各ピクセルを有する該二次元画像に重畳させるような制御を表示処理部28に対して行うものであっても良い。
【0090】
本実施形態の医療用画像処理装置3は、以上に述べた一連の処理を行うことにより、ユーザによるポリープ等の病変部位の見落としを防止可能であることにより、ユーザの負担を軽減させることができる。
【0091】
また、本実施形態の医療用画像処理装置3は、前述した、生体組織31Aが隆起形状であるか否かを、隆起形状特有の値を算出しつつ定量的に検出する。そのため、本実施形態の医療用画像処理装置3は、生体組織31Aの隆起形状の検出を精度良く行うことができる。
【0092】
なお、本発明は、上述した実施形態に限定されるものではなく、発明の趣旨を逸脱しない範囲内において種々の変更や応用が可能であることは勿論である。
【図面の簡単な説明】
【0093】
【図1】本発明の各実施形態に係る医療用画像処理装置が用いられる内視鏡システムの全体構成の一例を示す図。
【図2】図1の内視鏡が管状器官内に挿入された場合の状態を示す模式図。
【図3】図2の状態において、内視鏡により撮像される管状器官及び生体組織の像を示す模式図。
【図4】生体組織の像の二次元画像におけるエッジ部を抽出する場合に、図1の医療用画像処理装置が第1の実施形態において行う処理の手順を示すフローチャート。
【図5】生体組織の三次元モデルにおける隆起形状を検出する場合に、図1の医療用画像処理装置が第1の実施形態において行う処理の手順を示すフローチャート。
【図6】図1の医療用画像処理装置により推定された、生体組織の三次元モデルの一例を示す図。
【図7】図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の一例を示す図。
【図8】図5のフローチャートにおいて、生体組織の三次元モデルにおける隆起形状を検出するための処理の対象となる領域の、図7とは異なる例を示す図。
【図9】図1の医療用画像処理装置が第2の実施形態において行う処理の手順の概要を示すフローチャート。
【図10】図9における注目点抽出処理の具体的な手順を示すフローチャート。
【図11】図9における隆起形状検出処理の具体的な手順を示すフローチャート。
【図12】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより、生体組織のエッジ部を含む二次元画像が細線化された場合の一例を示す図。
【図13】図12の細線化された二次元画像における、各注目点の位置関係の一例を示す図。
【図14】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の一例を示す図。
【図15】図1の医療用画像処理装置が第2の実施形態の処理を行うことにより得る、生体組織の三次元モデルにおける各注目点の位置関係の、図14とは異なる一例を示す図。
【符号の説明】
【0094】
1・・・内視鏡システム、2・・・医療用観察装置、3・・・医療用画像処理装置、4,9・・・モニタ、6・・・内視鏡、7・・・光源装置、11・・・挿入部、12・・・操作部、13・・・ライトガイド、14・・・先端部、15・・・対物光学系、16・・・撮像素子、17・・・撮像部、21・・・画像入力部、23・・・処理プログラム記憶部、24・・・画像記憶部、25・・・情報記憶部、26・・・記憶装置インターフェース、27・・・ハードディスク、28・・・表示処理部、29・・・入力操作部、30・・・データバス、31・・・管状器官、31A・・・生体組織、31b・・・生体組織境界部
【特許請求の範囲】
【請求項1】
医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出部と、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、
前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、
前記ボクセル抽出部により抽出された前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、
前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出部と、
を有することを特徴とする医療用画像処理装置。
【請求項2】
前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする請求項1に記載の医療用画像処理装置。
【請求項3】
前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項2に記載の医療用画像処理装置。
【請求項4】
前記所定の形状は、凸型形状であることを特徴とする請求項1乃至請求項3のいずれか一に記載の医療用画像処理装置。
【請求項5】
入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出部と、
前記エッジ抽出部が抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得部と、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、
前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得部と、
前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出部と、
を有することを特徴とする医療用画像処理装置。
【請求項6】
前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする請求項5に記載の医療用画像処理装置。
【請求項7】
医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出ステップと、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、
前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出ステップと、
前記ボクセル抽出ステップにより抽出された前記ボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出ステップと、
前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出ステップと、
を有することを特徴とする医療用画像処理方法。
【請求項8】
前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする請求項7に記載の医療用画像処理方法。
【請求項9】
前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項8に記載の医療用画像処理方法。
【請求項10】
前記所定の形状は、凸型形状であることを特徴とする請求項7乃至請求項9のいずれか一に記載の医療用画像処理方法。
【請求項11】
入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出ステップと、
前記エッジ抽出ステップが抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得ステップと、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、
前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得ステップと、
前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出ステップと、
を有することを特徴とする医療用画像処理方法。
【請求項12】
前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする請求項11に記載の医療用画像処理方法。
【請求項1】
医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出部と、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、
前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出部と、
前記ボクセル抽出部により抽出された前記所定のボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出部と、
前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出部と、
を有することを特徴とする医療用画像処理装置。
【請求項2】
前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする請求項1に記載の医療用画像処理装置。
【請求項3】
前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項2に記載の医療用画像処理装置。
【請求項4】
前記所定の形状は、凸型形状であることを特徴とする請求項1乃至請求項3のいずれか一に記載の医療用画像処理装置。
【請求項5】
入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出部と、
前記エッジ抽出部が抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得部と、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定部と、
前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得部と、
前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出部と、
を有することを特徴とする医療用画像処理装置。
【請求項6】
前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする請求項5に記載の医療用画像処理装置。
【請求項7】
医療用撮像装置から入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを抽出するエッジ抽出ステップと、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、
前記三次元モデルの一部として推定された前記エッジが存在する各ボクセルの位置に基づき、形状特徴量の算出対象となる所定のボクセル群を抽出するボクセル抽出ステップと、
前記ボクセル抽出ステップにより抽出された前記ボクセル群のうち、少なくとも一部のボクセルについて前記形状特徴量を算出する形状特徴量算出ステップと、
前記形状特徴量に基づき、前記少なくとも一部のボクセルのうち、三次元モデルが所定の形状として推定されたボクセル群を抽出するとともに、該ボクセル群を、前記生体組織の三次元モデルにおける隆起形状を構成するボクセル群として検出する隆起形状検出ステップと、
を有することを特徴とする医療用画像処理方法。
【請求項8】
前記所定のボクセル群は、前記エッジが存在する各ボクセルに含まれる所定の一のボクセルよりも、前記医療用撮像装置の視野方向手前側に存在するボクセル群であることを特徴とする請求項7に記載の医療用画像処理方法。
【請求項9】
前記所定の一のボクセルは、前記エッジが存在する各ボクセルのうち、前記視野方向の最も奥側に存在する一のボクセルであることを特徴とする請求項8に記載の医療用画像処理方法。
【請求項10】
前記所定の形状は、凸型形状であることを特徴とする請求項7乃至請求項9のいずれか一に記載の医療用画像処理方法。
【請求項11】
入力される体腔内の生体組織の像の二次元画像に基づき、該二次元画像のエッジを細線化して抽出するエッジ抽出ステップと、
前記エッジ抽出ステップが抽出したエッジ各々について、一のエッジの端部となる位置の位置情報と、該位置情報に基づいて算出される、該一のエッジの形状に関する情報である形状情報とを取得するエッジ情報取得ステップと、
前記二次元画像に基づき、前記生体組織の三次元モデルを推定する三次元モデル推定ステップと、
前記位置情報と前記形状情報とに基づき、前記生体組織の三次元モデルの奥行に関する情報である奥行情報と、前記生体組織の三次元モデルの高さに関する情報である高さ情報とを取得する三次元モデル情報取得ステップと、
前記奥行情報と前記高さ情報とに基づき、前記生体組織が隆起形状を有するか否かを検出する隆起形状検出ステップと、
を有することを特徴とする医療用画像処理方法。
【請求項12】
前記形状情報は、前記一のエッジの細線における中点の位置に関する情報と、前記一のエッジの端部における2つの端点を結ぶ直線の中点の位置に関する情報とを有することを特徴とする請求項11に記載の医療用画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2007−236630(P2007−236630A)
【公開日】平成19年9月20日(2007.9.20)
【国際特許分類】
【出願番号】特願2006−63234(P2006−63234)
【出願日】平成18年3月8日(2006.3.8)
【出願人】(304050923)オリンパスメディカルシステムズ株式会社 (1,905)
【Fターム(参考)】
【公開日】平成19年9月20日(2007.9.20)
【国際特許分類】
【出願日】平成18年3月8日(2006.3.8)
【出願人】(304050923)オリンパスメディカルシステムズ株式会社 (1,905)
【Fターム(参考)】
[ Back to top ]