画像取得方法および装置
【課題】通常画像と特殊画像とに基づいて、合成画像を取得する画像取得装置において、十分な強度の特殊画像を通常画像に合成した合成画像を取得するとともに、画像ずれのない適切な合成画像を取得する。
【解決手段】第1の時点に撮像された第1の通常画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量を取得し、その動き特徴量に基づいて、第1の時点に撮像された第1の特殊画像を補正し、その補正した第3の特殊画像と第2の通常画像とを合成して合成画像を取得する。
【解決手段】第1の時点に撮像された第1の通常画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量を取得し、その動き特徴量に基づいて、第1の時点に撮像された第1の特殊画像を補正し、その補正した第3の特殊画像と第2の通常画像とを合成して合成画像を取得する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通常光の被観察部への照射によって取得した通常画像と特殊光の被観察部への照射によって取得した特殊画像とに基づいて合成画像を取得する画像取得方法および装置に関するものである。
【背景技術】
【0002】
従来、体腔内の組織を観察する内視鏡システムが広く知られており、白色光の照射によって体腔内の被観察部を撮像して通常画像を得、この通常画像をモニタ画面上に表示する電子式内視鏡システムが広く実用化されている。
【0003】
また、上記のような内視鏡システムとして、たとえば、特許文献1においては、通常画像とともに、励起光の照射によって被観察部から発せられた自家蛍光像を撮像して自家蛍光画像を得、これらの画像をモニタ画面上に表示する蛍光内視鏡システムが提案されている。
【0004】
また、蛍光内視鏡システムとしては、たとえば、ICG(インドシアニングリーン)を予め体内に投入し、励起光を被観察部に照射して血管内のICGの蛍光を検出することによって血管の蛍光画像を取得するものも提案されている。
【0005】
そして、たとえば、特許文献1に記載の蛍光内視鏡システムにおいては、通常画像と自家蛍光画像とをモニタ上に切り替えて表示することが提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−204905号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1に記載の蛍光内視鏡システムのように、通常画像と蛍光画像とを切り替えて表示すれば2つの画像を比較することは可能であるが、通常画像と蛍光画像とを同時に比較することができないので、やはり通常画像上のどの位置に血管が存在するのかを正確に判断することができない。そこで、通常画像と蛍光画像とを合成して表示することが考えられる。
【0008】
しかしながら、上述したようなICGを用いた血管画像の観察を行う場合、血中のICGは血流の動態により、観察に十分な強度で蛍光を発する時間が短い。したがって、現在撮像している通常画像と蛍光画像とを単に合成したのでは、既にICGが流れてしまった後であり、合成画像にICGの蛍光が十分に現れていない場合がある。また、たとえば静脈や動脈といった部位によって発光のタイミングが異なるため、複数の関心部位を一度に観察することができない。
【0009】
また、通常画像と蛍光画像とを合成する際、これらの画像を撮像したタイミングが異なる場合には、拍動によって被観察部の形態が異なるものとなるため、血管画像にずれが生じてしまい適切な合成画像を表示することができない。
【0010】
本発明は、上記の問題に鑑みてなされたものであり、通常画像と特殊画像とに基づいて、合成画像を取得する画像取得方法および装置において、十分な強度の特殊画像を通常画像に合成した合成画像を取得することができるとともに、画像ずれのない適切な合成画像を取得することができる画像取得方法および装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明の画像取得方法は、通常光の被観察部への照射によって被観察部から反射された反射光を受光して所定の間隔で撮像された複数の通常画像と、特殊光の被観察部への照射によって被観察部から発せられた光を受光して所定の間隔で撮像された複数の特殊画像とを取得し、複数の通常画像のうちの第1の時点に撮像された第1の通常画像または複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第1の時点よりも後の第2の時点に撮像された第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、その取得した動き特徴量に基づいて、複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、その取得した第3の特殊画像と第2の通常画像とを合成して合成画像を取得することを特徴とする。
【0012】
本発明の画像取得装置は、通常光および特殊光を被観察部に照射する光照射部と、通常光の照射によって被観察部から反射された反射光を受光して複数の通常画像を所定の間隔で撮像するとともに、特殊光の照射によって被観察部から発せられた光を受光して複数の特殊画像を所定の間隔で撮像する撮像部と、撮像部によって取得された複数の通常画像のうちの少なくとも1つの第1の時点に撮像された第1の通常画像または複数の特殊画像のうちの少なくとも1つの第1の時点に撮像された第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第1の時点よりも後の第2の時点に撮像された第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得する動き特徴量取得部と、動き取得部により取得された動き特徴量に基づいて、複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得する動き補正部と、動き補正部により取得された第3の特殊画像と第2の通常画像とを合成して合成画像を取得する合成画像取得部とを備えたことを特徴とする。
【0013】
また、本発明の画像取得装置においては、撮像部により撮像された複数の特殊画像を時系列で順次表示する表示部と、表示部に順次表示される複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択する信号を受け付ける選択信号受付部とを設けることができる。
【0014】
また、所定の通常画像または所定の特殊画像における関心領域の設定を受け付ける関心領域受付部と、所定の通常画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号または所定の特殊画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号に基づいて第1の特殊画像を選択する過去画像選択部とを設けることができる。
【0015】
また、撮像部により撮像された複数の特殊画像を同時に表示する表示部と、表示部に同時に表示された複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択する信号を受け付ける選択信号受付部とを設けることができる。
【0016】
また、第3の特殊画像から被観察部に含まれる管部分を表す画像を抽出する管画像抽出部をさらに設け、合成画像取得部を、管画像抽出部により抽出された管部分を表す画像と第2の通常画像とを合成して合成画像を取得するものとすることができる。
【0017】
また、合成画像取得部を、第3の特殊画像および第2の特殊画像と第2の通常画像とを合成して合成画像を取得するものとすることができる。
【0018】
また、第1の特殊画像として複数のものを用いることができる。
【発明の効果】
【0019】
本発明の画像取得方法および装置によれば、第1の時点に撮像された第1の通常画像または第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、その取得した動き特徴量に基づいて、第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、その取得した第3の特殊画像と第2の通常画像とを合成して合成画像を取得するようにしたので、十分な強度の特殊画像を通常画像に合成した合成画像を取得することができるとともに、画像ずれのない適切な合成画像を取得することができる。
【0020】
すなわち、たとえば、ICGを用いた血管画像の観察を行う場合、ICGが被観察部を通過する第1の時点における第1の特殊画像を取得し、この第1の特殊画像に対して動き補正を施した第3の特殊画像を第1の時点よりも後の第2の時点に撮像された第2の通常画像に合成するようにしたので、ICGの発光の強度が十分な特殊画像を通常画像に合成した合成画像を取得することができるとともに、血管画像にずれのない適切な合成画像を取得することができる。
【0021】
また、本発明の画像取得装置において、撮像部により撮像された複数の特殊画像を時系列で順次表示させ、その順次表示される複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択するようにした場合には、操作者が合成対象としたい所望の特殊画像を容易に選択することができる。
【0022】
また、所定の通常画像または所定の特殊画像における関心領域の設定を受け付け、所定の通常画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号または所定の特殊画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号に基づいて第1の特殊画像を選択するようにした場合には、操作者が意識することなく自動的に装置が適切な合成対象の画像を選択することができるので、操作者の手間を省くことができる。
【0023】
また、撮像部により撮像された複数の特殊画像を同時に表示し、その同時に表示された複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択するようにした場合には、過去の画像同志を比較しながら、より適切な合成対象の画像を選択することができる。
【0024】
また、第3の特殊画像だけでなく、第2の特殊画像も第2の通常画像に合成して合成画像を取得するようにした場合には、第2の時点の特殊画像の発光状態も反映させた合成画像を取得することができる。
【0025】
また、第1の特殊画像として複数のものを用いるようにした場合には、たとえば、第1の特殊画像として、互いに発光タイミングが異なる動脈の特殊画像と静脈の特殊画像とを取得し、これらを通常画像に合成した合成画像を取得することができるので、複数の関心部位を一度に観察することができる。
【図面の簡単な説明】
【0026】
【図1】本発明の画像取得装置の一実施形態を用いた腹腔鏡システムの概略構成図
【図2】硬質挿入部の概略構成図
【図3】撮像ユニットの概略構成図
【図4】画像処理装置および光源装置の概略構成を示すブロック図
【図5】画像処理部の概略構成を示すブロック図
【図6】過去の蛍光画像信号に動き補正を施した後、現在の通常画像信号に合成する作用を説明するためのフローチャート
【図7】動き特徴量の取得方法を説明するためのフローチャート
【図8】特徴点の一例を示す図
【図9】マッチング演算処理の作用を説明するための図
【図10】動き補正処理を説明するための図
【図11】動き補正処理後の蛍光画像信号の矩形領域の一例を示す図
【図12】エッジ検出を用いた線分抽出処理を説明するためのフローチャート
【図13】合成画像の一例を示す図
【図14】蛍光画像上における関心領域の設定を説明するための図
【図15】選択ボタンの表示態様の一例を示す図
【図16】過去の蛍光画像のサムネイル画像の表示態様の一例を示す図
【発明を実施するための形態】
【0027】
以下、図面を参照して本発明の画像取得装置の一実施形態を用いた腹腔鏡システムについて詳細に説明する。図1は、本実施形態の腹腔鏡システム1の概略構成を示す外観図である。
【0028】
本実施形態の腹腔鏡システム1は、図1に示すように、白色の通常光および特殊光を同時に射出する光源装置2と、光源装置2から射出された通常光および特殊光を導光して被観察部に照射するとともに、通常光の照射により被観察部から反射された反射光に基づく通常像および特殊光の照射により被観察部から発せられた蛍光に基づく蛍光像を撮像する硬性鏡撮像装置10と、硬性鏡撮像装置10によって撮像された画像信号に所定の処理を施す画像処理装置3と、画像処理装置3において生成された表示制御信号に基づいて被観察部の通常画像、蛍光画像および合成画像を表示するモニタ4とを備えている。
【0029】
硬性鏡撮像装置10は、図1に示すように、腹腔内に挿入される硬質挿入部30と、硬質挿入部30によって導光された被観察部の通常像および蛍光像を撮像する撮像ユニット20とを備えている。
【0030】
また、硬性鏡撮像装置10は、図2に示すように、硬質挿入部30と撮像ユニット20とが着脱可能に接続されている。そして、硬質挿入部30は接続部材30a、挿入部材30b、ケーブル接続口30c、および照射窓30dを備えている。
【0031】
接続部材30aは、硬質挿入部30(挿入部材30b)の一端側30Xに設けられており、たとえば撮像ユニット20側に形成された開口20aに嵌め合わされることにより、撮像ユニット20と硬質挿入部30とが着脱可能に接続される。
【0032】
挿入部材30bは、腹腔内の撮影を行う際に腹腔内に挿入されるものであって、硬質な材料から形成され、たとえば、直径略5mmの円柱形状を有している。挿入部材30bの内部には、被観察部の像を結像するためのレンズ群が収容されており、他端側30Yから入射された被観察部の通常像および蛍光像はレンズ群を介して一端側30Xの撮像ユニット20側に射出される。
【0033】
挿入部材30bの側面にはケーブル接続口30cが設けられており、このケーブル接続口30cに光ケーブルLCが機械的に接続される。これにより、光源装置2と挿入部材30bとが光ケーブルLCを介して光学的に接続されることになる。
【0034】
照射窓30dは、硬質挿入部30の他端側30Yに設けられており、光ケーブルLCによって導光された通常光および特殊光を被観察部に対し照射するものである。なお、挿入部材30b内にはケーブル接続口30cから照射窓30dまで通常光および特殊光を導光するライトガイドが収容されており(図示せず)、照射窓30dはライトガイドによって導光された通常光および特殊光を被観察部に照射するものである。
【0035】
図3は、撮像ユニット20の概略構成を示す図である。撮像ユニット20は、硬質挿入部30内のレンズ群により結像された被観察部の蛍光像を撮像して被観察部の蛍光画像信号を生成する第1の撮像系と、硬質挿入部30内のレンズ群により結像された被観察部の通常像を撮像して通常画像信号を生成する第2の撮像系とを備えている。これらの撮像系は、通常像を反射するとともに、蛍光像を透過する分光特性を有するダイクロイックプリズム21によって、互いに直交する2つの光軸に分けられている。
【0036】
第1の撮像系は、被観察部において反射し、ダイクロイックプリズム21を透過した特殊光をカットする特殊光カットフィルタ22と、硬質挿入部30から射出され、ダイクロイックプリズム21および特殊光カットフィルタ22を透過した蛍光像L4を結像する第1結像光学系23と、第1結像光学系23により結像された蛍光像L4を撮像する高感度撮像素子24とを備えている。
【0037】
第2の撮像系は、硬質挿入部30から射出され、ダイクロイックプリズム21を反射した通常像L3を結像する第2結像光学系25と、第2結像光学系25により結像された通常像L3を撮像する撮像素子26を備えている。
【0038】
高感度撮像素子24は、蛍光像L4の波長帯域の光を高感度に検出し、蛍光画像信号に変換して出力するものである。高感度撮像素子24はモノクロの撮像素子である。
【0039】
撮像素子26は、通常像の波長帯域の光を検出し、通常画像信号に変換して出力するものである。撮像素子26の撮像面には、3原色の赤(R)、緑(G)および青(B)、またはシアン(C)、マゼンダ(M)およびイエロー(Y)のカラーフィルタがベイヤー配列またはハニカム配列で設けられている。
【0040】
また、撮像ユニット20は、撮像制御ユニット27を備えている。撮像制御ユニット27は、高感度撮像素子24から出力された蛍光画像信号および撮像素子26から出力された通常画像信号に対し、CDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理を施し、ケーブル5(図1参照)を介して画像処理装置3に出力するものである。
【0041】
画像処理装置3は、図4に示すように、通常画像入力コントローラ31、蛍光画像入力コントローラ32、画像処理部33、メモリ34、ビデオ出力部35、操作部36、TG(タイミングジェネレータ)37およびCPU38を備えている。
【0042】
通常画像入力コントローラ31および蛍光画像入力コントローラ32は、所定容量のラインバッファを備えており、撮像ユニット20の撮像制御ユニット27から出力された1フレーム毎の通常画像信号および蛍光画像信号をそれぞれ一時的に記憶するものである。そして、通常画像入力コントローラ31に記憶された通常画像信号および蛍光画像入力コントローラ32に記憶された蛍光画像信号はバスを介してメモリ34に格納される。
【0043】
画像処理部33は、メモリ34から読み出された1フレーム毎の通常画像信号および蛍光画像信号が入力され、これらの画像信号に所定の画像処理を施し、バスに出力するものである。画像処理部33のより具体的な構成を図5に示す。
【0044】
画像処理部33は、図5に示すように、入力された通常画像信号に対し、通常画像に適した所定の画像処理を施して出力する通常画像処理部33aと、入力された2つのフレームの通常画像信号に基づいて、被観察部の動き特徴量を取得する動き特徴量取得部33bと、入力された蛍光画像信号に対し、蛍光画像に適した所定の画像処理を施して出力する蛍光画像処理部33cと、過去に撮像された蛍光画像信号に対して、上記動き特徴量に基づいて動き補正を施す動き補正部33dと、動き補正部33dによって動き補正の施された過去の蛍光画像信号と現在の蛍光画像信号に対して、血管を表す画像信号を抽出する処理を施す血管抽出部33eと、過去の蛍光画像信号から抽出された血管を表す画像信号(以下、「過去血管蛍光画像信号」という)と現在の蛍光画像信号から抽出された血管を表す画像信号(以下、「現在血管蛍光画像信号」という)とを、通常画像処理部33aから出力された通常画像信号に合成して合成画像信号を生成する画像合成部33fとを備えている。なお、画像処理部33の各部における処理については、後で詳述する。
【0045】
ビデオ出力部35は、画像処理部33から出力された通常画像信号、蛍光画像信号および合成画像信号がバスを介して入力され、所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力するものである。
【0046】
操作部36は、種々の操作指示や制御パラメータなどの操作者による入力を受け付けるものである。また、TG37は、撮像ユニット20の高感度撮像素子24、撮像素子26および後述する光源装置2のLDドライバ45を駆動するための駆動パルス信号を出力するものである。また、CPU36は装置全体を制御するものである。
【0047】
光源装置2は、図4に示すように、約400〜700nmの広帯域の波長からなる通常光(白色光)L1を射出する通常光源40と、通常光源40から射出された通常光L1を集光する集光レンズ42と、集光レンズ42によって集光された通常光L1を透過するとともに、後述する特殊光L2を反射し、通常光L1および特殊光L2とを光ケーブルLCの入射端に入射させるダイクロイックミラー43とを備えている。なお、通常光源40としては、たとえばキセノンランプが用いられる。また、通常光源40と集光レンズ42との間には、絞り41が設けられており、ALC(Automatic light control)からの制御信号に基づいてその絞り量が制御される。
【0048】
また、光源装置2は、700nm〜800nmの可視から近赤外帯域の光であり、たとえば蛍光色素としてICG(インドシアニングリーン)を用いた場合には750〜790nmの近赤外光を特殊光L2として射出するLD光源44と、LD光源44を駆動するLDドライバ45と、LD光源44から射出された特殊光L2を集光する集光レンズ46と、集光レンズ46によって集光された特殊光りL2をダイクロイックミラー43に向けて反射するミラー47とを備えている。
【0049】
なお、特殊光L2としては、広帯域の波長からなる通常光よりも狭帯域の波長が用いられる。そして、特殊光L2としては上記波長域の光に限定されず、蛍光色素の種類もしくは自家蛍光させる生体組織の種類によって適宜決定される。
【0050】
また、光源装置2は、光ケーブルLCを介して硬性鏡撮像装置10に光学的に接続されている。
【0051】
次に、本実施形態の腹腔鏡システムの作用について説明する。
【0052】
まず、光ケーブルLCが接続された硬質挿入部30およびケーブル5が撮像ユニット20に取り付けられた後、光源装置2および撮像ユニット20および画像処理装置3の電源が投入され、これらが駆動される。
【0053】
次に、操作者により硬質挿入部30が腹腔内に挿入され、硬質挿入部30の先端が被観察部の近傍に設置される。
【0054】
そして、光源装置2の通常光源40から射出された通常光L1が、集光レンズ42、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に照射される。一方、光源装置2のLD光源44から射出された特殊光L2が、集光レンズ46、ミラー47、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に通常光と同時に照射される。なお、同時に照射するとは、必ずしも照射期間が完全に一致している必要はなく、少なくとも一部の照射期間が重複していればよい。
【0055】
そして、通常光L1の照射によって被観察部から反射された反射光に基づく通常像が撮像されるとともに、特殊光L2の照射によって被観察部から発せられた蛍光に基づく蛍光像が通常像と同時に撮像される。なお、被観察部には、予めICGが投与されており、このICGから発せられる蛍光を撮像するものとする。
【0056】
より具体的には、通常像の撮像の際には、通常光L1の照射によって被観察部から反射された反射光に基づく通常像L3が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
【0057】
撮像ユニット20に入射された通常像L3は、ダイクロイックプリズム21により撮像素子26に向けて直角方向に反射され、第2結像光学系25により撮像素子26の撮像面上に結像され、撮像素子26によって所定間隔を空けて順次撮像される。なお、本実施形態においては、通常画像は30fpsのフレームレートで撮像されるものとする。
【0058】
撮像素子26から順次出力された通常画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に順次出力される。
【0059】
一方、蛍光像の撮像の際には、特殊光の照射によって被観察部から発せられた蛍光に基づく蛍光像L4が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
【0060】
撮像ユニット20に入射された蛍光像L4は、ダイクロイックプリズム21および特殊光カットフィルタ22を通過した後、第1結像光学系23により高感度撮像素子24の撮像面上に結像され、高感度撮像素子24によって所定間隔を空けて撮像される。なお、本実施形態においては、通常画像は5〜10fpsのフレームレートで撮像されるものとする。
【0061】
高感度撮像素子24から順次出力された蛍光画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に順次出力される。
【0062】
次に、上記のようにして撮像ユニット20において撮像された通常画像信号および蛍光画像信号に基づいて通常画像、蛍光画像および合成画像を表示する作用について、図5から図15を参照しながら説明する。
【0063】
まず、通常画像および蛍光画像を表示する作用について説明する。画像処理装置3に入力された通常画像信号は、通常画像入力コントローラ31において一時的に記憶された後、メモリ34に格納される。そして、メモリ34から読み出された1フレーム毎の通常画像信号は、画像処理部33の通常画像処理部33aにおいて階調補正処理およびシャープネス補正処理が施された後、ビデオ出力部35に順次出力される。
【0064】
そして、ビデオ出力部35は、入力された通常画像信号に所定の処理を施して表示制御信号を生成し、1フレーム毎の表示制御信号をモニタ4に順次出力する。そして、モニタ4は、入力された表示制御信号に基づいて通常画像を表示する。
【0065】
また、画像処理装置3に入力された蛍光画像信号は、蛍光画像入力コントローラ32において一時的に記憶された後、メモリ34に格納される。そして、メモリ34から読み出された1フレーム毎の蛍光画像信号は、画像処理部33の蛍光画像処理部33cにおいて所定の画像処理が施された後、ビデオ出力部35に順次出力される。
【0066】
そして、ビデオ出力部35は、入力された蛍光画像信号に所定の処理を施して表示制御信号を生成し、1フレーム毎の表示制御信号をモニタ4に順次出力する。そして、モニタ4は、入力された表示制御信号に基づいて蛍光画像を表示する。
【0067】
次に、通常画像信号および蛍光画像信号を合成して合成画像を表示する作用について説明する。
【0068】
ここで、本実施形態の腹腔鏡システムにおいては、上述したように被観察部の血管中を流れるICGの蛍光を撮像するが、ICGは血管の同一箇所に留まっているわけではなく血流とともに流れるものであるので、現在撮像している通常画像信号と蛍光画像信号とを単に合成したのでは、既にICGが流れてしまった後であり、現在の蛍光画像信号にICGの蛍光が十分に現れていない場合がある。
【0069】
そこで、本実施形態の腹腔鏡システムにおいては、現在の通常画像信号に対して、現在の蛍光画像信号だけでなく、ICGが被観察部の血管中を流れていた時点において撮像された過去の蛍光画像信号も合成する。
【0070】
そして、さらに、過去の蛍光画像信号を現在の通常画像信号に合成する際、過去の蛍光画像信号を撮像したときの被観察部の形態と現在の通常画像信号を撮像したときの被観察部の形態とが拍動によって異なる形態となっている場合があり、このような場合に過去の蛍光画像信号と現在の通常画像信号とをそのまま合成したのでは血管の画像にずれが生じて適切な合成画像を生成することができない。
【0071】
そこで、本実施形態の腹腔鏡システムにおいては、上記のような血管画像のずれが生じないように過去の蛍光画像信号に動き補正を施すようにしている。
【0072】
以下に、過去の蛍光画像信号に動き補正を施した後、現在の通常画像信号に合成する作用についてより詳細に説明する。
【0073】
まず、上述したように、画像処理装置3のメモリ34には、撮像ユニット20において所定間隔を空けて時系列に撮像された多数の通常画像信号と蛍光画像信号とが記憶されている。
【0074】
そして、図6に示すように、メモリ34に記憶された多数の過去の蛍光画像信号のうち、ICGの蛍光が適切に現れていると思われる1つの蛍光画像信号を第1の蛍光画像信号IF(old)として取得する(図6のS10)。なお、この第1の蛍光画像信号IF(old)の選択方法については、後で詳述する。
【0075】
一方、メモリ34に記憶された多数の過去の通常画像信号のうち、S10で選択した第1の蛍光画像信号IF(old)と同じ時点において撮像された1つの通常画像信号を第1の通常画像信号IV(old)として取得する(図6のS12)。なお、上述したように、通常画像信号と蛍光画像信号の撮像間隔(フレームレート)は、互いに異なるものであるが、これらの位相は合っているものとする。すなわち、蛍光画像信号の方が撮像間隔が長いので、蛍光画像信号が撮像されているタイミングで通常画像信号も必ず撮像されているものとする。そして、同じ撮像タイミングで撮像された通常画像信号と蛍光画像信号とは対応付けがされてメモリ34に記憶されているものとする。
【0076】
そして、上記のようにして取得した第1の通常画像信号IV(old)と現在の通常画像信号IV(new)(以下、「第2の通常画像信号IV(new)」という)とが、動き特徴量取得部33bに入力される。そして、動き特徴量取得部33bにおいて、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて、被観察部の動き特徴量が算出される(図6のS14)。
【0077】
以下、動き特徴量の算出方法について、図7のフローチャートを参照しながら詳細に説明する。
【0078】
まず、上述したように、動き特徴量取得部33bにおいて、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)が取得される(図7のS30)。そして、カラー画像信号である第1および第2の通常画像信号IV(old),IV(new)に対して、グレー画像処理が施されてグレー画像信号に変換される(図7のS32)。次に、グレー画像信号である第1および第2の通常画像信号IV(old),IV(new)に対して、コントラスト強調処理が施される(図7のS34)。このようにグレー画像処理およびコントラスト強調処理を施すのは、後述する特徴点抽出処理において特徴点を抽出しやすくするためである。
【0079】
そして、次に、コントラスト強調処理の施された第1および第2の通常画像信号IV(old),IV(new)に対して多重解像度画像生成処理が施され、それぞれの通常画像信号について、種々の解像度の通常画像信号が生成される(図7のS36)。なお、以下、第1の通常画像信号IV(old)に基づいて生成された種々の解像度の通常画像信号を第1の多重解像度画像信号IV(old)1〜mとし、第2の通常画像信号IV(new)に基づいて生成された種々の解像度の通常画像信号を第2の多重解像度信号IV(new)1〜nとする。このように多重解像度画像生成処理を行うのは、後述する特徴点抽出処理において、荒い解像度の多重解像度画像信号を用いて大まかな特徴点を抽出し、細かい解像度の多重解像度画像信号を用いて細かい特徴点を抽出するためである。
【0080】
そして、上記のようにして生成された第1および第2の多重解像度画像信号IV(old)1〜m,IV(new)1〜nに対して、ノイズ除去のための平滑化処理が施される(図7のS38)。
【0081】
次に、平滑化処理の施された第1および第2の多重解像度画像信号IV(old)1〜m,IV(new)1〜nに対して特徴点抽出処理が施され、各多重解像度画像信号について特徴点が抽出される(図7のS40)。特徴点抽出処理としては、たとえば、Hessain手法やHarris手法を用いた、いわゆるコーナー抽出法を用いることができる。または、DOG(Difference of Gaussian)やHOG(Histograms of Oriented Gradients)を用いて特徴点を抽出するようにしてもよい。これらの特徴点抽出の手法については公知であるので詳細な説明は省略する。図8に、特徴点抽出処理によって特徴点が抽出された多重解像度画像の1つの例を示す。
【0082】
そして、次に、第1の通常画像信号IV(old)について抽出された特徴点と、第2の通常画像信号IV(new)について抽出された特徴点と対して、マッチング演算処理が施される(図7のS42)。マッチング演算処理とは、第1の通常画像信号IV(old)の特徴点と第2の通常画像信号IV(new)とで対応する特徴点の組を検出する演算処理である。具体的には、たとえば、一方の通常画像信号における所定の特徴点と、他方の通常画像信号における全ての特徴点間のユークリッド距離をそれぞれ演算し、そのユークリッド距離が最小となる2つの特徴点を対応する特徴点の組として検出するようにすればよい。図9に、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)との間で対応する特徴点を直線で示した模式図を示す。
【0083】
そして、上記のマッチング演算処理の結果に基づいて、第1の通常画像信号IV(old)の各特徴点から第2の通常画像信号IV(new)の対応する特徴点までの方向を示す動きベクトルが動き特徴量として算出される(図7のS44)。
【0084】
上記のようにして第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて、被観察部の動き特徴量が算出される(図6のS14)。
【0085】
次に、動き特徴量取得部33bにおいて取得された動き特徴量は、動き補正部33dに出力される。そして、動き補正部33dは、入力された動き特徴量に基づいて、第1の蛍光画像信号IF(old)に対して、動き補正処理を施す(図6のS16)。具体的には、まず、図10に示すように、第1の蛍光画像信号IF(old)を所定の大きさの矩形領域に区分するとともに、第1の蛍光画像信号IF(old)に対し第1の通常画像信号IV(old)の各特徴点とその動きベクトルとを対応づける。そして、各矩形領域のコーナーG近傍に存在する特徴点Dの中で最も評価値の高い特徴点Dの動きベクトルに基づいて各矩形領域を変形することによって第1の蛍光画像信号IF(old)を変形する。図11に、変形後の矩形領域およびそのコーナーG’の一例を示す。
【0086】
そして、上記のようにして取得された動き補正処理の施された第1の蛍光画像信号IF(old)(以下、「第3の蛍光画像信号IF’(old)」という)および第2の蛍光画像信号IF(new)が、画像処理部33の血管抽出部33eに入力される。そして、血管抽出部33eにおいて各蛍光画像信号に対して血管抽出処理が施される(図6のS18,S20)。
【0087】
血管抽出処理は、線分抽出処理を行うことによって行われる。本実施形態においては、エッジ検出とそのエッジ検出によって検出したエッジから孤立点を除去することによって線分抽出処理を行う。エッジ検出方法としては、たとえば、1次微分を用いたキャニー法を用いることができる。図12に、キャニー法によるエッジ検出を用いた線分抽出処理を説明するためのフローチャートを示す。
【0088】
図12に示すように、まず、第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれに対し、DOG(Derivative of Gaussian)フィルタを用いたフィルタ処理が施される(図12のS50〜S54)。このDOGフィルタを用いたフィルタ処理は、ノイズを減らすためのガウシアンフィルタ処理(平滑化処理)と濃度勾配を検出するためのx,y方向の1次微分フィルタ処理とを組み合わせた処理である。
【0089】
そして、フィルタ処理済の第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれについて、濃度勾配の大きさと方向が計算される(図12のS56)。そして、濃度勾配の極大点を抽出し、それ以外の非極大点を除去する(図12のS58)。
【0090】
そして、その極大点と所定の閾値とを比較し、所定の閾値以上の極大点をエッジとして検出する(図12のS60)。さらに、極大点であり所定の閾値以上であるが、連続したエッジを構成していない孤立点を除去する処理を行う(図12のS62)。孤立点の除去処理は、血管としては適当でない孤立点をエッジ検出結果から除去するための処理で、具体的には、検出された各エッジの長さをチェックすることによって孤立点を検出する。
【0091】
なお、エッジ検出のアルゴリズムは、上記に限らず、ノイズを減らすためのガウシアンフィルタ処理と2次微分処理とを行ってエッジを抽出するラプラシアンフィルタを組み合わせたLOG(Laplace of Gaussian)フィルタを用いてエッジ検出を行うようにしてもよい。
【0092】
また、本実施形態においては、エッジ検出を用いた線分抽出処理を行うことによって血管抽出を行うようにしたが、これに限らず、血管部分を抽出する処理であれば、たとえば、色相や輝度を用いた処理など如何なる処理を用いてもよい。
【0093】
上記のようにして血管抽出処理を行うことによって、第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれについて現在血管蛍光画像信号および過去血管蛍光画像信号が生成される。
【0094】
そして、次に、血管抽出部33eにおいて生成された現在血管蛍光画像信号および過去血管蛍光画像信号が合成され、合成血管蛍光画像信号が生成される(図6のS22)。
【0095】
血管抽出部33eにおいて生成された合成血管蛍光画像信号と第2の通常画像信号IV(now)とが画像合成部33fに出力され、画像合成部33fにおいて、第2の通常画像信号IV(now)に対して合成血管蛍光画像信号が合成されて合成画像信号が生成される(図6のS24)。
【0096】
そして、画像合成部33fにおいて生成された合成画像信号は、ビデオ出力部35に出力される。
【0097】
そして、ビデオ出力部35は、入力された合成画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力する。そして、モニタ4は、入力された表示制御信号に基づいて合成画像を表示する。図13に、合成画像信号に基づいて表示された合成画像の一例を示す。
【0098】
上記のように現在の通常画像信号に対して、現在の蛍光画像信号だけでなく、ICGが被観察部の血管中を流れていた時点において撮像された過去の蛍光画像信号も合成して合成画像を表示することによって血管画像を明確に表示することができる。
【0099】
次に、現在の通常画像信号に合成する過去の蛍光画像信号の選択方法について説明する。
【0100】
過去の蛍光画像信号の選択方法の1つとして、たとえば、モニタ4に現在の蛍光画像を時系列に順次表示している際、図14に示すように、その蛍光画像上で関心領域Rを設定し、多数の過去の蛍光画像信号のうちその関心領域内の画素値情報が最大である蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)として選択するようにすればよい。関心領域Rの設定は、たとえば、操作者がICGの蛍光が強く出ていたと考える領域を操作部36からの設定入力をCPU38によって受け付けることによって行うようにすればよい。また、画素値情報としては、たとえば、関心領域内の画素値の最大値、平均値などを用いるようにすればよい。また、蛍光画像上で関心領域を直接設定するのではなく、通常画像上で関心領域を設定し、その関心領域を蛍光画像上に対応させることによって間接的に蛍光画像上の関心領域を設定するようにしてもよい。
【0101】
また、関心領域の設定は、モニタ4に時系列に順次表示されている通常画像上で行うようにしてもよい。
【0102】
また、図15に示すように、モニタ4に現在の蛍光画像を時系列に順次表示している際、所定のタイミングで表示された蛍光画像を選択することができる選択ボタンSを表示させ、この選択ボタンSをマウスなどのポインティングデバイスによって操作者が押下した信号をCPU38により受け付けることによって、そのタイミングに表示された蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)として選択するようにしてもよい。
【0103】
また、図16に示すように、モニタ4に現在の蛍光画像を時系列に順次表示するとおもに、過去の多数の蛍光画像P1〜P6もサムネイル画像として同時に表示し、これらの過去の蛍光画像P1〜P6の中からフレーム枠Fなどによって操作者が所望の蛍光画像を選択し、その選択信号をCPU38により受け付けることによって操作者により選択された蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)とするようにしてもよい。
【0104】
なお、上記実施形態においては、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて被観察部の動き特徴量を取得するようにしたが、これは通常画像信号の方が、感度が高くフレームレートも高いため動きへの追従性が高いからであるとともに、通常画像信号の方が散乱が少なくぼけていないからであるが、被観察部の動きがそれほど激しいものではない場合などには、第1の蛍光画像信号IF(old)と第2の蛍光画像信号IF(new)とに基づいて動き特徴量を取得するようにしてもよい。その取得方法は、上述した通常画像信号の場合とほぼ同様である。
【0105】
また、上記実施形態においては、合成対象となる過去の蛍光画像信号IF(old)を1つだけ選択するようにしたが、たとえば、動脈と静脈とではICGが通過するタイミングが異なり、すなわち蛍光が強くなるタイミングが異なるので、動脈が強く蛍光を発しているタイミングで撮像された過去の蛍光画像信号と、静脈が強く蛍光を発しているタイミングで撮像された過去の蛍光画像信号との2つを選択し、これらに動き補正処理を施した後、現在の通常画像信号IV(new)に合成するようにしてもよい。また、その他2つ以上の過去の蛍光画像信号を合成するようにしてもよい。
【0106】
また、上記実施形態においては、通常光源としてキセノンランプを用いるようにしたが、これに限らず、GaN系半導体レーザーを用いた高輝度白色光源(商品名:マイクロホワイト、日亜化学工業(株)製)を用いるようにしてもよい。この高輝度白色光源は、波長445nmの半導体レーザーから出射する光を,光学レンズを用いて光ファイバーに導光し,蛍光体材料を塗布した光ファイバーのもう一方の端面から,全光束が501nmの白色光を放出させるものである。
【0107】
また、上記実施形態においては、特殊光源としてLD光源を用いるようにしたが、これに限らず、キセノンランプに励起フィルタを付加し、通常光と特殊光とを時系列に照射するようにしてもよい。
【0108】
また、上記実施形態においては、第1の撮像系により蛍光画像を撮像するようにしたが、これに限らず、被観察部への特殊光の照射による被観察部の吸光特性に基づく画像を撮像するようにしてもよい。
【0109】
また、上記実施形態においては、血管画像を抽出するようにしたが、これに限らず、たとえば、リンパ管、胆管などのその他の管部分を表す画像を抽出するようにしてもよい。
【0110】
また、上記実施形態は、本発明の画像取得装置を腹腔鏡システムに適用したものであるが、これに限らず、たとえば、軟性内視鏡装置を有するその他の内視鏡システムに適用してもよい。また、内視鏡システムに限らず、体内に挿入される挿入部を備えていない、いわゆるビデオカメラ型の医用画像撮像装置に適用してもよい。
【符号の説明】
【0111】
1 腹腔鏡システム
2 光源装置
3 画像処理装置
4 モニタ
10 硬性鏡撮像装置
20 撮像ユニット
30 硬質挿入部
33 画像処理部
33a 通常画像処理部
33b 動き特徴量取得部
33c 蛍光画像処理部
33d 補正部
33e 血管抽出部
33f 画像合成部
40 通常光源
44 LD光源
【技術分野】
【0001】
本発明は、通常光の被観察部への照射によって取得した通常画像と特殊光の被観察部への照射によって取得した特殊画像とに基づいて合成画像を取得する画像取得方法および装置に関するものである。
【背景技術】
【0002】
従来、体腔内の組織を観察する内視鏡システムが広く知られており、白色光の照射によって体腔内の被観察部を撮像して通常画像を得、この通常画像をモニタ画面上に表示する電子式内視鏡システムが広く実用化されている。
【0003】
また、上記のような内視鏡システムとして、たとえば、特許文献1においては、通常画像とともに、励起光の照射によって被観察部から発せられた自家蛍光像を撮像して自家蛍光画像を得、これらの画像をモニタ画面上に表示する蛍光内視鏡システムが提案されている。
【0004】
また、蛍光内視鏡システムとしては、たとえば、ICG(インドシアニングリーン)を予め体内に投入し、励起光を被観察部に照射して血管内のICGの蛍光を検出することによって血管の蛍光画像を取得するものも提案されている。
【0005】
そして、たとえば、特許文献1に記載の蛍光内視鏡システムにおいては、通常画像と自家蛍光画像とをモニタ上に切り替えて表示することが提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−204905号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1に記載の蛍光内視鏡システムのように、通常画像と蛍光画像とを切り替えて表示すれば2つの画像を比較することは可能であるが、通常画像と蛍光画像とを同時に比較することができないので、やはり通常画像上のどの位置に血管が存在するのかを正確に判断することができない。そこで、通常画像と蛍光画像とを合成して表示することが考えられる。
【0008】
しかしながら、上述したようなICGを用いた血管画像の観察を行う場合、血中のICGは血流の動態により、観察に十分な強度で蛍光を発する時間が短い。したがって、現在撮像している通常画像と蛍光画像とを単に合成したのでは、既にICGが流れてしまった後であり、合成画像にICGの蛍光が十分に現れていない場合がある。また、たとえば静脈や動脈といった部位によって発光のタイミングが異なるため、複数の関心部位を一度に観察することができない。
【0009】
また、通常画像と蛍光画像とを合成する際、これらの画像を撮像したタイミングが異なる場合には、拍動によって被観察部の形態が異なるものとなるため、血管画像にずれが生じてしまい適切な合成画像を表示することができない。
【0010】
本発明は、上記の問題に鑑みてなされたものであり、通常画像と特殊画像とに基づいて、合成画像を取得する画像取得方法および装置において、十分な強度の特殊画像を通常画像に合成した合成画像を取得することができるとともに、画像ずれのない適切な合成画像を取得することができる画像取得方法および装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明の画像取得方法は、通常光の被観察部への照射によって被観察部から反射された反射光を受光して所定の間隔で撮像された複数の通常画像と、特殊光の被観察部への照射によって被観察部から発せられた光を受光して所定の間隔で撮像された複数の特殊画像とを取得し、複数の通常画像のうちの第1の時点に撮像された第1の通常画像または複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第1の時点よりも後の第2の時点に撮像された第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、その取得した動き特徴量に基づいて、複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、その取得した第3の特殊画像と第2の通常画像とを合成して合成画像を取得することを特徴とする。
【0012】
本発明の画像取得装置は、通常光および特殊光を被観察部に照射する光照射部と、通常光の照射によって被観察部から反射された反射光を受光して複数の通常画像を所定の間隔で撮像するとともに、特殊光の照射によって被観察部から発せられた光を受光して複数の特殊画像を所定の間隔で撮像する撮像部と、撮像部によって取得された複数の通常画像のうちの少なくとも1つの第1の時点に撮像された第1の通常画像または複数の特殊画像のうちの少なくとも1つの第1の時点に撮像された第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第1の時点よりも後の第2の時点に撮像された第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得する動き特徴量取得部と、動き取得部により取得された動き特徴量に基づいて、複数の特殊画像のうちの第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得する動き補正部と、動き補正部により取得された第3の特殊画像と第2の通常画像とを合成して合成画像を取得する合成画像取得部とを備えたことを特徴とする。
【0013】
また、本発明の画像取得装置においては、撮像部により撮像された複数の特殊画像を時系列で順次表示する表示部と、表示部に順次表示される複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択する信号を受け付ける選択信号受付部とを設けることができる。
【0014】
また、所定の通常画像または所定の特殊画像における関心領域の設定を受け付ける関心領域受付部と、所定の通常画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号または所定の特殊画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号に基づいて第1の特殊画像を選択する過去画像選択部とを設けることができる。
【0015】
また、撮像部により撮像された複数の特殊画像を同時に表示する表示部と、表示部に同時に表示された複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択する信号を受け付ける選択信号受付部とを設けることができる。
【0016】
また、第3の特殊画像から被観察部に含まれる管部分を表す画像を抽出する管画像抽出部をさらに設け、合成画像取得部を、管画像抽出部により抽出された管部分を表す画像と第2の通常画像とを合成して合成画像を取得するものとすることができる。
【0017】
また、合成画像取得部を、第3の特殊画像および第2の特殊画像と第2の通常画像とを合成して合成画像を取得するものとすることができる。
【0018】
また、第1の特殊画像として複数のものを用いることができる。
【発明の効果】
【0019】
本発明の画像取得方法および装置によれば、第1の時点に撮像された第1の通常画像または第1の特殊画像を取得するとともに、第1の時点よりも後の第2の時点に撮像された第2の通常画像または第2の特殊画像を取得し、第1の通常画像の被観察部から第2の通常画像の被観察部への動きの変化を示す動き特徴量または第1の特殊画像の被観察部から第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、その取得した動き特徴量に基づいて、第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、その取得した第3の特殊画像と第2の通常画像とを合成して合成画像を取得するようにしたので、十分な強度の特殊画像を通常画像に合成した合成画像を取得することができるとともに、画像ずれのない適切な合成画像を取得することができる。
【0020】
すなわち、たとえば、ICGを用いた血管画像の観察を行う場合、ICGが被観察部を通過する第1の時点における第1の特殊画像を取得し、この第1の特殊画像に対して動き補正を施した第3の特殊画像を第1の時点よりも後の第2の時点に撮像された第2の通常画像に合成するようにしたので、ICGの発光の強度が十分な特殊画像を通常画像に合成した合成画像を取得することができるとともに、血管画像にずれのない適切な合成画像を取得することができる。
【0021】
また、本発明の画像取得装置において、撮像部により撮像された複数の特殊画像を時系列で順次表示させ、その順次表示される複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択するようにした場合には、操作者が合成対象としたい所望の特殊画像を容易に選択することができる。
【0022】
また、所定の通常画像または所定の特殊画像における関心領域の設定を受け付け、所定の通常画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号または所定の特殊画像において設定された関心領域に対応する複数の特殊画像の各関心領域内の画素信号に基づいて第1の特殊画像を選択するようにした場合には、操作者が意識することなく自動的に装置が適切な合成対象の画像を選択することができるので、操作者の手間を省くことができる。
【0023】
また、撮像部により撮像された複数の特殊画像を同時に表示し、その同時に表示された複数の特殊画像のうちの少なくとも1つの特殊画像を第1の特殊画像として選択するようにした場合には、過去の画像同志を比較しながら、より適切な合成対象の画像を選択することができる。
【0024】
また、第3の特殊画像だけでなく、第2の特殊画像も第2の通常画像に合成して合成画像を取得するようにした場合には、第2の時点の特殊画像の発光状態も反映させた合成画像を取得することができる。
【0025】
また、第1の特殊画像として複数のものを用いるようにした場合には、たとえば、第1の特殊画像として、互いに発光タイミングが異なる動脈の特殊画像と静脈の特殊画像とを取得し、これらを通常画像に合成した合成画像を取得することができるので、複数の関心部位を一度に観察することができる。
【図面の簡単な説明】
【0026】
【図1】本発明の画像取得装置の一実施形態を用いた腹腔鏡システムの概略構成図
【図2】硬質挿入部の概略構成図
【図3】撮像ユニットの概略構成図
【図4】画像処理装置および光源装置の概略構成を示すブロック図
【図5】画像処理部の概略構成を示すブロック図
【図6】過去の蛍光画像信号に動き補正を施した後、現在の通常画像信号に合成する作用を説明するためのフローチャート
【図7】動き特徴量の取得方法を説明するためのフローチャート
【図8】特徴点の一例を示す図
【図9】マッチング演算処理の作用を説明するための図
【図10】動き補正処理を説明するための図
【図11】動き補正処理後の蛍光画像信号の矩形領域の一例を示す図
【図12】エッジ検出を用いた線分抽出処理を説明するためのフローチャート
【図13】合成画像の一例を示す図
【図14】蛍光画像上における関心領域の設定を説明するための図
【図15】選択ボタンの表示態様の一例を示す図
【図16】過去の蛍光画像のサムネイル画像の表示態様の一例を示す図
【発明を実施するための形態】
【0027】
以下、図面を参照して本発明の画像取得装置の一実施形態を用いた腹腔鏡システムについて詳細に説明する。図1は、本実施形態の腹腔鏡システム1の概略構成を示す外観図である。
【0028】
本実施形態の腹腔鏡システム1は、図1に示すように、白色の通常光および特殊光を同時に射出する光源装置2と、光源装置2から射出された通常光および特殊光を導光して被観察部に照射するとともに、通常光の照射により被観察部から反射された反射光に基づく通常像および特殊光の照射により被観察部から発せられた蛍光に基づく蛍光像を撮像する硬性鏡撮像装置10と、硬性鏡撮像装置10によって撮像された画像信号に所定の処理を施す画像処理装置3と、画像処理装置3において生成された表示制御信号に基づいて被観察部の通常画像、蛍光画像および合成画像を表示するモニタ4とを備えている。
【0029】
硬性鏡撮像装置10は、図1に示すように、腹腔内に挿入される硬質挿入部30と、硬質挿入部30によって導光された被観察部の通常像および蛍光像を撮像する撮像ユニット20とを備えている。
【0030】
また、硬性鏡撮像装置10は、図2に示すように、硬質挿入部30と撮像ユニット20とが着脱可能に接続されている。そして、硬質挿入部30は接続部材30a、挿入部材30b、ケーブル接続口30c、および照射窓30dを備えている。
【0031】
接続部材30aは、硬質挿入部30(挿入部材30b)の一端側30Xに設けられており、たとえば撮像ユニット20側に形成された開口20aに嵌め合わされることにより、撮像ユニット20と硬質挿入部30とが着脱可能に接続される。
【0032】
挿入部材30bは、腹腔内の撮影を行う際に腹腔内に挿入されるものであって、硬質な材料から形成され、たとえば、直径略5mmの円柱形状を有している。挿入部材30bの内部には、被観察部の像を結像するためのレンズ群が収容されており、他端側30Yから入射された被観察部の通常像および蛍光像はレンズ群を介して一端側30Xの撮像ユニット20側に射出される。
【0033】
挿入部材30bの側面にはケーブル接続口30cが設けられており、このケーブル接続口30cに光ケーブルLCが機械的に接続される。これにより、光源装置2と挿入部材30bとが光ケーブルLCを介して光学的に接続されることになる。
【0034】
照射窓30dは、硬質挿入部30の他端側30Yに設けられており、光ケーブルLCによって導光された通常光および特殊光を被観察部に対し照射するものである。なお、挿入部材30b内にはケーブル接続口30cから照射窓30dまで通常光および特殊光を導光するライトガイドが収容されており(図示せず)、照射窓30dはライトガイドによって導光された通常光および特殊光を被観察部に照射するものである。
【0035】
図3は、撮像ユニット20の概略構成を示す図である。撮像ユニット20は、硬質挿入部30内のレンズ群により結像された被観察部の蛍光像を撮像して被観察部の蛍光画像信号を生成する第1の撮像系と、硬質挿入部30内のレンズ群により結像された被観察部の通常像を撮像して通常画像信号を生成する第2の撮像系とを備えている。これらの撮像系は、通常像を反射するとともに、蛍光像を透過する分光特性を有するダイクロイックプリズム21によって、互いに直交する2つの光軸に分けられている。
【0036】
第1の撮像系は、被観察部において反射し、ダイクロイックプリズム21を透過した特殊光をカットする特殊光カットフィルタ22と、硬質挿入部30から射出され、ダイクロイックプリズム21および特殊光カットフィルタ22を透過した蛍光像L4を結像する第1結像光学系23と、第1結像光学系23により結像された蛍光像L4を撮像する高感度撮像素子24とを備えている。
【0037】
第2の撮像系は、硬質挿入部30から射出され、ダイクロイックプリズム21を反射した通常像L3を結像する第2結像光学系25と、第2結像光学系25により結像された通常像L3を撮像する撮像素子26を備えている。
【0038】
高感度撮像素子24は、蛍光像L4の波長帯域の光を高感度に検出し、蛍光画像信号に変換して出力するものである。高感度撮像素子24はモノクロの撮像素子である。
【0039】
撮像素子26は、通常像の波長帯域の光を検出し、通常画像信号に変換して出力するものである。撮像素子26の撮像面には、3原色の赤(R)、緑(G)および青(B)、またはシアン(C)、マゼンダ(M)およびイエロー(Y)のカラーフィルタがベイヤー配列またはハニカム配列で設けられている。
【0040】
また、撮像ユニット20は、撮像制御ユニット27を備えている。撮像制御ユニット27は、高感度撮像素子24から出力された蛍光画像信号および撮像素子26から出力された通常画像信号に対し、CDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理を施し、ケーブル5(図1参照)を介して画像処理装置3に出力するものである。
【0041】
画像処理装置3は、図4に示すように、通常画像入力コントローラ31、蛍光画像入力コントローラ32、画像処理部33、メモリ34、ビデオ出力部35、操作部36、TG(タイミングジェネレータ)37およびCPU38を備えている。
【0042】
通常画像入力コントローラ31および蛍光画像入力コントローラ32は、所定容量のラインバッファを備えており、撮像ユニット20の撮像制御ユニット27から出力された1フレーム毎の通常画像信号および蛍光画像信号をそれぞれ一時的に記憶するものである。そして、通常画像入力コントローラ31に記憶された通常画像信号および蛍光画像入力コントローラ32に記憶された蛍光画像信号はバスを介してメモリ34に格納される。
【0043】
画像処理部33は、メモリ34から読み出された1フレーム毎の通常画像信号および蛍光画像信号が入力され、これらの画像信号に所定の画像処理を施し、バスに出力するものである。画像処理部33のより具体的な構成を図5に示す。
【0044】
画像処理部33は、図5に示すように、入力された通常画像信号に対し、通常画像に適した所定の画像処理を施して出力する通常画像処理部33aと、入力された2つのフレームの通常画像信号に基づいて、被観察部の動き特徴量を取得する動き特徴量取得部33bと、入力された蛍光画像信号に対し、蛍光画像に適した所定の画像処理を施して出力する蛍光画像処理部33cと、過去に撮像された蛍光画像信号に対して、上記動き特徴量に基づいて動き補正を施す動き補正部33dと、動き補正部33dによって動き補正の施された過去の蛍光画像信号と現在の蛍光画像信号に対して、血管を表す画像信号を抽出する処理を施す血管抽出部33eと、過去の蛍光画像信号から抽出された血管を表す画像信号(以下、「過去血管蛍光画像信号」という)と現在の蛍光画像信号から抽出された血管を表す画像信号(以下、「現在血管蛍光画像信号」という)とを、通常画像処理部33aから出力された通常画像信号に合成して合成画像信号を生成する画像合成部33fとを備えている。なお、画像処理部33の各部における処理については、後で詳述する。
【0045】
ビデオ出力部35は、画像処理部33から出力された通常画像信号、蛍光画像信号および合成画像信号がバスを介して入力され、所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力するものである。
【0046】
操作部36は、種々の操作指示や制御パラメータなどの操作者による入力を受け付けるものである。また、TG37は、撮像ユニット20の高感度撮像素子24、撮像素子26および後述する光源装置2のLDドライバ45を駆動するための駆動パルス信号を出力するものである。また、CPU36は装置全体を制御するものである。
【0047】
光源装置2は、図4に示すように、約400〜700nmの広帯域の波長からなる通常光(白色光)L1を射出する通常光源40と、通常光源40から射出された通常光L1を集光する集光レンズ42と、集光レンズ42によって集光された通常光L1を透過するとともに、後述する特殊光L2を反射し、通常光L1および特殊光L2とを光ケーブルLCの入射端に入射させるダイクロイックミラー43とを備えている。なお、通常光源40としては、たとえばキセノンランプが用いられる。また、通常光源40と集光レンズ42との間には、絞り41が設けられており、ALC(Automatic light control)からの制御信号に基づいてその絞り量が制御される。
【0048】
また、光源装置2は、700nm〜800nmの可視から近赤外帯域の光であり、たとえば蛍光色素としてICG(インドシアニングリーン)を用いた場合には750〜790nmの近赤外光を特殊光L2として射出するLD光源44と、LD光源44を駆動するLDドライバ45と、LD光源44から射出された特殊光L2を集光する集光レンズ46と、集光レンズ46によって集光された特殊光りL2をダイクロイックミラー43に向けて反射するミラー47とを備えている。
【0049】
なお、特殊光L2としては、広帯域の波長からなる通常光よりも狭帯域の波長が用いられる。そして、特殊光L2としては上記波長域の光に限定されず、蛍光色素の種類もしくは自家蛍光させる生体組織の種類によって適宜決定される。
【0050】
また、光源装置2は、光ケーブルLCを介して硬性鏡撮像装置10に光学的に接続されている。
【0051】
次に、本実施形態の腹腔鏡システムの作用について説明する。
【0052】
まず、光ケーブルLCが接続された硬質挿入部30およびケーブル5が撮像ユニット20に取り付けられた後、光源装置2および撮像ユニット20および画像処理装置3の電源が投入され、これらが駆動される。
【0053】
次に、操作者により硬質挿入部30が腹腔内に挿入され、硬質挿入部30の先端が被観察部の近傍に設置される。
【0054】
そして、光源装置2の通常光源40から射出された通常光L1が、集光レンズ42、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に照射される。一方、光源装置2のLD光源44から射出された特殊光L2が、集光レンズ46、ミラー47、ダイクロイックミラー43および光ケーブルLCを介して硬質挿入部30に入射され、硬質挿入部30の照射窓30dから被観察部に通常光と同時に照射される。なお、同時に照射するとは、必ずしも照射期間が完全に一致している必要はなく、少なくとも一部の照射期間が重複していればよい。
【0055】
そして、通常光L1の照射によって被観察部から反射された反射光に基づく通常像が撮像されるとともに、特殊光L2の照射によって被観察部から発せられた蛍光に基づく蛍光像が通常像と同時に撮像される。なお、被観察部には、予めICGが投与されており、このICGから発せられる蛍光を撮像するものとする。
【0056】
より具体的には、通常像の撮像の際には、通常光L1の照射によって被観察部から反射された反射光に基づく通常像L3が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
【0057】
撮像ユニット20に入射された通常像L3は、ダイクロイックプリズム21により撮像素子26に向けて直角方向に反射され、第2結像光学系25により撮像素子26の撮像面上に結像され、撮像素子26によって所定間隔を空けて順次撮像される。なお、本実施形態においては、通常画像は30fpsのフレームレートで撮像されるものとする。
【0058】
撮像素子26から順次出力された通常画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に順次出力される。
【0059】
一方、蛍光像の撮像の際には、特殊光の照射によって被観察部から発せられた蛍光に基づく蛍光像L4が挿入部材30bの先端30Yから入射し、挿入部材30b内のレンズ群により導光されて撮像ユニット20に向けて射出される。
【0060】
撮像ユニット20に入射された蛍光像L4は、ダイクロイックプリズム21および特殊光カットフィルタ22を通過した後、第1結像光学系23により高感度撮像素子24の撮像面上に結像され、高感度撮像素子24によって所定間隔を空けて撮像される。なお、本実施形態においては、通常画像は5〜10fpsのフレームレートで撮像されるものとする。
【0061】
高感度撮像素子24から順次出力された蛍光画像信号は、撮像制御ユニット27においてCDS/AGC(相関二重サンプリング/自動利得制御)処理やA/D変換処理が施された後、ケーブル5を介して画像処理装置3に順次出力される。
【0062】
次に、上記のようにして撮像ユニット20において撮像された通常画像信号および蛍光画像信号に基づいて通常画像、蛍光画像および合成画像を表示する作用について、図5から図15を参照しながら説明する。
【0063】
まず、通常画像および蛍光画像を表示する作用について説明する。画像処理装置3に入力された通常画像信号は、通常画像入力コントローラ31において一時的に記憶された後、メモリ34に格納される。そして、メモリ34から読み出された1フレーム毎の通常画像信号は、画像処理部33の通常画像処理部33aにおいて階調補正処理およびシャープネス補正処理が施された後、ビデオ出力部35に順次出力される。
【0064】
そして、ビデオ出力部35は、入力された通常画像信号に所定の処理を施して表示制御信号を生成し、1フレーム毎の表示制御信号をモニタ4に順次出力する。そして、モニタ4は、入力された表示制御信号に基づいて通常画像を表示する。
【0065】
また、画像処理装置3に入力された蛍光画像信号は、蛍光画像入力コントローラ32において一時的に記憶された後、メモリ34に格納される。そして、メモリ34から読み出された1フレーム毎の蛍光画像信号は、画像処理部33の蛍光画像処理部33cにおいて所定の画像処理が施された後、ビデオ出力部35に順次出力される。
【0066】
そして、ビデオ出力部35は、入力された蛍光画像信号に所定の処理を施して表示制御信号を生成し、1フレーム毎の表示制御信号をモニタ4に順次出力する。そして、モニタ4は、入力された表示制御信号に基づいて蛍光画像を表示する。
【0067】
次に、通常画像信号および蛍光画像信号を合成して合成画像を表示する作用について説明する。
【0068】
ここで、本実施形態の腹腔鏡システムにおいては、上述したように被観察部の血管中を流れるICGの蛍光を撮像するが、ICGは血管の同一箇所に留まっているわけではなく血流とともに流れるものであるので、現在撮像している通常画像信号と蛍光画像信号とを単に合成したのでは、既にICGが流れてしまった後であり、現在の蛍光画像信号にICGの蛍光が十分に現れていない場合がある。
【0069】
そこで、本実施形態の腹腔鏡システムにおいては、現在の通常画像信号に対して、現在の蛍光画像信号だけでなく、ICGが被観察部の血管中を流れていた時点において撮像された過去の蛍光画像信号も合成する。
【0070】
そして、さらに、過去の蛍光画像信号を現在の通常画像信号に合成する際、過去の蛍光画像信号を撮像したときの被観察部の形態と現在の通常画像信号を撮像したときの被観察部の形態とが拍動によって異なる形態となっている場合があり、このような場合に過去の蛍光画像信号と現在の通常画像信号とをそのまま合成したのでは血管の画像にずれが生じて適切な合成画像を生成することができない。
【0071】
そこで、本実施形態の腹腔鏡システムにおいては、上記のような血管画像のずれが生じないように過去の蛍光画像信号に動き補正を施すようにしている。
【0072】
以下に、過去の蛍光画像信号に動き補正を施した後、現在の通常画像信号に合成する作用についてより詳細に説明する。
【0073】
まず、上述したように、画像処理装置3のメモリ34には、撮像ユニット20において所定間隔を空けて時系列に撮像された多数の通常画像信号と蛍光画像信号とが記憶されている。
【0074】
そして、図6に示すように、メモリ34に記憶された多数の過去の蛍光画像信号のうち、ICGの蛍光が適切に現れていると思われる1つの蛍光画像信号を第1の蛍光画像信号IF(old)として取得する(図6のS10)。なお、この第1の蛍光画像信号IF(old)の選択方法については、後で詳述する。
【0075】
一方、メモリ34に記憶された多数の過去の通常画像信号のうち、S10で選択した第1の蛍光画像信号IF(old)と同じ時点において撮像された1つの通常画像信号を第1の通常画像信号IV(old)として取得する(図6のS12)。なお、上述したように、通常画像信号と蛍光画像信号の撮像間隔(フレームレート)は、互いに異なるものであるが、これらの位相は合っているものとする。すなわち、蛍光画像信号の方が撮像間隔が長いので、蛍光画像信号が撮像されているタイミングで通常画像信号も必ず撮像されているものとする。そして、同じ撮像タイミングで撮像された通常画像信号と蛍光画像信号とは対応付けがされてメモリ34に記憶されているものとする。
【0076】
そして、上記のようにして取得した第1の通常画像信号IV(old)と現在の通常画像信号IV(new)(以下、「第2の通常画像信号IV(new)」という)とが、動き特徴量取得部33bに入力される。そして、動き特徴量取得部33bにおいて、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて、被観察部の動き特徴量が算出される(図6のS14)。
【0077】
以下、動き特徴量の算出方法について、図7のフローチャートを参照しながら詳細に説明する。
【0078】
まず、上述したように、動き特徴量取得部33bにおいて、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)が取得される(図7のS30)。そして、カラー画像信号である第1および第2の通常画像信号IV(old),IV(new)に対して、グレー画像処理が施されてグレー画像信号に変換される(図7のS32)。次に、グレー画像信号である第1および第2の通常画像信号IV(old),IV(new)に対して、コントラスト強調処理が施される(図7のS34)。このようにグレー画像処理およびコントラスト強調処理を施すのは、後述する特徴点抽出処理において特徴点を抽出しやすくするためである。
【0079】
そして、次に、コントラスト強調処理の施された第1および第2の通常画像信号IV(old),IV(new)に対して多重解像度画像生成処理が施され、それぞれの通常画像信号について、種々の解像度の通常画像信号が生成される(図7のS36)。なお、以下、第1の通常画像信号IV(old)に基づいて生成された種々の解像度の通常画像信号を第1の多重解像度画像信号IV(old)1〜mとし、第2の通常画像信号IV(new)に基づいて生成された種々の解像度の通常画像信号を第2の多重解像度信号IV(new)1〜nとする。このように多重解像度画像生成処理を行うのは、後述する特徴点抽出処理において、荒い解像度の多重解像度画像信号を用いて大まかな特徴点を抽出し、細かい解像度の多重解像度画像信号を用いて細かい特徴点を抽出するためである。
【0080】
そして、上記のようにして生成された第1および第2の多重解像度画像信号IV(old)1〜m,IV(new)1〜nに対して、ノイズ除去のための平滑化処理が施される(図7のS38)。
【0081】
次に、平滑化処理の施された第1および第2の多重解像度画像信号IV(old)1〜m,IV(new)1〜nに対して特徴点抽出処理が施され、各多重解像度画像信号について特徴点が抽出される(図7のS40)。特徴点抽出処理としては、たとえば、Hessain手法やHarris手法を用いた、いわゆるコーナー抽出法を用いることができる。または、DOG(Difference of Gaussian)やHOG(Histograms of Oriented Gradients)を用いて特徴点を抽出するようにしてもよい。これらの特徴点抽出の手法については公知であるので詳細な説明は省略する。図8に、特徴点抽出処理によって特徴点が抽出された多重解像度画像の1つの例を示す。
【0082】
そして、次に、第1の通常画像信号IV(old)について抽出された特徴点と、第2の通常画像信号IV(new)について抽出された特徴点と対して、マッチング演算処理が施される(図7のS42)。マッチング演算処理とは、第1の通常画像信号IV(old)の特徴点と第2の通常画像信号IV(new)とで対応する特徴点の組を検出する演算処理である。具体的には、たとえば、一方の通常画像信号における所定の特徴点と、他方の通常画像信号における全ての特徴点間のユークリッド距離をそれぞれ演算し、そのユークリッド距離が最小となる2つの特徴点を対応する特徴点の組として検出するようにすればよい。図9に、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)との間で対応する特徴点を直線で示した模式図を示す。
【0083】
そして、上記のマッチング演算処理の結果に基づいて、第1の通常画像信号IV(old)の各特徴点から第2の通常画像信号IV(new)の対応する特徴点までの方向を示す動きベクトルが動き特徴量として算出される(図7のS44)。
【0084】
上記のようにして第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて、被観察部の動き特徴量が算出される(図6のS14)。
【0085】
次に、動き特徴量取得部33bにおいて取得された動き特徴量は、動き補正部33dに出力される。そして、動き補正部33dは、入力された動き特徴量に基づいて、第1の蛍光画像信号IF(old)に対して、動き補正処理を施す(図6のS16)。具体的には、まず、図10に示すように、第1の蛍光画像信号IF(old)を所定の大きさの矩形領域に区分するとともに、第1の蛍光画像信号IF(old)に対し第1の通常画像信号IV(old)の各特徴点とその動きベクトルとを対応づける。そして、各矩形領域のコーナーG近傍に存在する特徴点Dの中で最も評価値の高い特徴点Dの動きベクトルに基づいて各矩形領域を変形することによって第1の蛍光画像信号IF(old)を変形する。図11に、変形後の矩形領域およびそのコーナーG’の一例を示す。
【0086】
そして、上記のようにして取得された動き補正処理の施された第1の蛍光画像信号IF(old)(以下、「第3の蛍光画像信号IF’(old)」という)および第2の蛍光画像信号IF(new)が、画像処理部33の血管抽出部33eに入力される。そして、血管抽出部33eにおいて各蛍光画像信号に対して血管抽出処理が施される(図6のS18,S20)。
【0087】
血管抽出処理は、線分抽出処理を行うことによって行われる。本実施形態においては、エッジ検出とそのエッジ検出によって検出したエッジから孤立点を除去することによって線分抽出処理を行う。エッジ検出方法としては、たとえば、1次微分を用いたキャニー法を用いることができる。図12に、キャニー法によるエッジ検出を用いた線分抽出処理を説明するためのフローチャートを示す。
【0088】
図12に示すように、まず、第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれに対し、DOG(Derivative of Gaussian)フィルタを用いたフィルタ処理が施される(図12のS50〜S54)。このDOGフィルタを用いたフィルタ処理は、ノイズを減らすためのガウシアンフィルタ処理(平滑化処理)と濃度勾配を検出するためのx,y方向の1次微分フィルタ処理とを組み合わせた処理である。
【0089】
そして、フィルタ処理済の第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれについて、濃度勾配の大きさと方向が計算される(図12のS56)。そして、濃度勾配の極大点を抽出し、それ以外の非極大点を除去する(図12のS58)。
【0090】
そして、その極大点と所定の閾値とを比較し、所定の閾値以上の極大点をエッジとして検出する(図12のS60)。さらに、極大点であり所定の閾値以上であるが、連続したエッジを構成していない孤立点を除去する処理を行う(図12のS62)。孤立点の除去処理は、血管としては適当でない孤立点をエッジ検出結果から除去するための処理で、具体的には、検出された各エッジの長さをチェックすることによって孤立点を検出する。
【0091】
なお、エッジ検出のアルゴリズムは、上記に限らず、ノイズを減らすためのガウシアンフィルタ処理と2次微分処理とを行ってエッジを抽出するラプラシアンフィルタを組み合わせたLOG(Laplace of Gaussian)フィルタを用いてエッジ検出を行うようにしてもよい。
【0092】
また、本実施形態においては、エッジ検出を用いた線分抽出処理を行うことによって血管抽出を行うようにしたが、これに限らず、血管部分を抽出する処理であれば、たとえば、色相や輝度を用いた処理など如何なる処理を用いてもよい。
【0093】
上記のようにして血管抽出処理を行うことによって、第2の蛍光画像信号IF(new)および第3の蛍光画像信号IF’(old)のそれぞれについて現在血管蛍光画像信号および過去血管蛍光画像信号が生成される。
【0094】
そして、次に、血管抽出部33eにおいて生成された現在血管蛍光画像信号および過去血管蛍光画像信号が合成され、合成血管蛍光画像信号が生成される(図6のS22)。
【0095】
血管抽出部33eにおいて生成された合成血管蛍光画像信号と第2の通常画像信号IV(now)とが画像合成部33fに出力され、画像合成部33fにおいて、第2の通常画像信号IV(now)に対して合成血管蛍光画像信号が合成されて合成画像信号が生成される(図6のS24)。
【0096】
そして、画像合成部33fにおいて生成された合成画像信号は、ビデオ出力部35に出力される。
【0097】
そして、ビデオ出力部35は、入力された合成画像信号に所定の処理を施して表示制御信号を生成し、その表示制御信号をモニタ4に出力する。そして、モニタ4は、入力された表示制御信号に基づいて合成画像を表示する。図13に、合成画像信号に基づいて表示された合成画像の一例を示す。
【0098】
上記のように現在の通常画像信号に対して、現在の蛍光画像信号だけでなく、ICGが被観察部の血管中を流れていた時点において撮像された過去の蛍光画像信号も合成して合成画像を表示することによって血管画像を明確に表示することができる。
【0099】
次に、現在の通常画像信号に合成する過去の蛍光画像信号の選択方法について説明する。
【0100】
過去の蛍光画像信号の選択方法の1つとして、たとえば、モニタ4に現在の蛍光画像を時系列に順次表示している際、図14に示すように、その蛍光画像上で関心領域Rを設定し、多数の過去の蛍光画像信号のうちその関心領域内の画素値情報が最大である蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)として選択するようにすればよい。関心領域Rの設定は、たとえば、操作者がICGの蛍光が強く出ていたと考える領域を操作部36からの設定入力をCPU38によって受け付けることによって行うようにすればよい。また、画素値情報としては、たとえば、関心領域内の画素値の最大値、平均値などを用いるようにすればよい。また、蛍光画像上で関心領域を直接設定するのではなく、通常画像上で関心領域を設定し、その関心領域を蛍光画像上に対応させることによって間接的に蛍光画像上の関心領域を設定するようにしてもよい。
【0101】
また、関心領域の設定は、モニタ4に時系列に順次表示されている通常画像上で行うようにしてもよい。
【0102】
また、図15に示すように、モニタ4に現在の蛍光画像を時系列に順次表示している際、所定のタイミングで表示された蛍光画像を選択することができる選択ボタンSを表示させ、この選択ボタンSをマウスなどのポインティングデバイスによって操作者が押下した信号をCPU38により受け付けることによって、そのタイミングに表示された蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)として選択するようにしてもよい。
【0103】
また、図16に示すように、モニタ4に現在の蛍光画像を時系列に順次表示するとおもに、過去の多数の蛍光画像P1〜P6もサムネイル画像として同時に表示し、これらの過去の蛍光画像P1〜P6の中からフレーム枠Fなどによって操作者が所望の蛍光画像を選択し、その選択信号をCPU38により受け付けることによって操作者により選択された蛍光画像信号を合成対象の過去の蛍光画像信号IF(old)とするようにしてもよい。
【0104】
なお、上記実施形態においては、第1の通常画像信号IV(old)と第2の通常画像信号IV(new)とに基づいて被観察部の動き特徴量を取得するようにしたが、これは通常画像信号の方が、感度が高くフレームレートも高いため動きへの追従性が高いからであるとともに、通常画像信号の方が散乱が少なくぼけていないからであるが、被観察部の動きがそれほど激しいものではない場合などには、第1の蛍光画像信号IF(old)と第2の蛍光画像信号IF(new)とに基づいて動き特徴量を取得するようにしてもよい。その取得方法は、上述した通常画像信号の場合とほぼ同様である。
【0105】
また、上記実施形態においては、合成対象となる過去の蛍光画像信号IF(old)を1つだけ選択するようにしたが、たとえば、動脈と静脈とではICGが通過するタイミングが異なり、すなわち蛍光が強くなるタイミングが異なるので、動脈が強く蛍光を発しているタイミングで撮像された過去の蛍光画像信号と、静脈が強く蛍光を発しているタイミングで撮像された過去の蛍光画像信号との2つを選択し、これらに動き補正処理を施した後、現在の通常画像信号IV(new)に合成するようにしてもよい。また、その他2つ以上の過去の蛍光画像信号を合成するようにしてもよい。
【0106】
また、上記実施形態においては、通常光源としてキセノンランプを用いるようにしたが、これに限らず、GaN系半導体レーザーを用いた高輝度白色光源(商品名:マイクロホワイト、日亜化学工業(株)製)を用いるようにしてもよい。この高輝度白色光源は、波長445nmの半導体レーザーから出射する光を,光学レンズを用いて光ファイバーに導光し,蛍光体材料を塗布した光ファイバーのもう一方の端面から,全光束が501nmの白色光を放出させるものである。
【0107】
また、上記実施形態においては、特殊光源としてLD光源を用いるようにしたが、これに限らず、キセノンランプに励起フィルタを付加し、通常光と特殊光とを時系列に照射するようにしてもよい。
【0108】
また、上記実施形態においては、第1の撮像系により蛍光画像を撮像するようにしたが、これに限らず、被観察部への特殊光の照射による被観察部の吸光特性に基づく画像を撮像するようにしてもよい。
【0109】
また、上記実施形態においては、血管画像を抽出するようにしたが、これに限らず、たとえば、リンパ管、胆管などのその他の管部分を表す画像を抽出するようにしてもよい。
【0110】
また、上記実施形態は、本発明の画像取得装置を腹腔鏡システムに適用したものであるが、これに限らず、たとえば、軟性内視鏡装置を有するその他の内視鏡システムに適用してもよい。また、内視鏡システムに限らず、体内に挿入される挿入部を備えていない、いわゆるビデオカメラ型の医用画像撮像装置に適用してもよい。
【符号の説明】
【0111】
1 腹腔鏡システム
2 光源装置
3 画像処理装置
4 モニタ
10 硬性鏡撮像装置
20 撮像ユニット
30 硬質挿入部
33 画像処理部
33a 通常画像処理部
33b 動き特徴量取得部
33c 蛍光画像処理部
33d 補正部
33e 血管抽出部
33f 画像合成部
40 通常光源
44 LD光源
【特許請求の範囲】
【請求項1】
通常光の被観察部への照射によって前記被観察部から反射された反射光を受光して所定の間隔で撮像された複数の通常画像と、特殊光の前記被観察部への照射によって前記被観察部から発せられた光を受光して所定の間隔で撮像された複数の特殊画像とを取得し、
前記複数の通常画像のうちの第1の時点に撮像された第1の前記通常画像または前記複数の特殊画像のうちの第1の時点に撮像された第1の前記特殊画像を取得するとともに、前記第1の時点よりも後の第2の時点に撮像された第2の前記通常画像または前記第1の時点よりも後の第2の時点に撮像された第2の前記特殊画像を取得し、
前記第1の通常画像の被観察部から前記第2の通常画像の被観察部への動きの変化を示す動き特徴量または前記第1の特殊画像の被観察部から前記第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、
該取得した動き特徴量に基づいて、前記複数の特殊画像のうちの前記第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、
該取得した第3の特殊画像と前記第2の通常画像とを合成して合成画像を取得することを特徴とする画像取得方法。
【請求項2】
通常光および特殊光を被観察部に照射する光照射部と、
前記通常光の照射によって前記被観察部から反射された反射光を受光して複数の通常画像を所定の間隔で撮像するとともに、前記特殊光の照射によって前記被観察部から発せられた光を受光して複数の特殊画像を所定の間隔で撮像する撮像部と、
該撮像部によって取得された複数の通常画像のうちの少なくとも1つの第1の時点に撮像された第1の前記通常画像または前記複数の特殊画像のうちの少なくとも1つの第1の時点に撮像された第1の前記特殊画像を取得するとともに、前記第1の時点よりも後の第2の時点に撮像された第2の前記通常画像または前記第1の時点よりも後の第2の時点に撮像された第2の前記特殊画像を取得し、前記第1の通常画像の被観察部から前記第2の通常画像の被観察部への動きの変化を示す動き特徴量または前記第1の特殊画像の被観察部から前記第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得する動き特徴量取得部と、
該動き取得部により取得された動き特徴量に基づいて、前記複数の特殊画像のうちの前記第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得する動き補正部と、
該動き補正部により取得された第3の特殊画像と前記第2の通常画像とを合成して合成画像を取得する合成画像取得部とを備えたことを特徴とする画像取得装置。
【請求項3】
前記撮像部により撮像された前記複数の特殊画像を時系列で順次表示する表示部と、
該表示部に順次表示される前記複数の特殊画像のうちの少なくとも1つの特殊画像を前記第1の特殊画像として選択する信号を受け付ける選択信号受付部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項4】
所定の前記通常画像または前記所定の特殊画像における関心領域の設定を受け付ける関心領域受付部と、
前記所定の通常画像において設定された関心領域に対応する前記複数の特殊画像の各関心領域内の画素信号または前記所定の特殊画像において設定された関心領域に対応する前記複数の特殊画像の各関心領域内の画素信号に基づいて前記第1の特殊画像を選択する過去画像選択部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項5】
前記撮像部により撮像された前記複数の特殊画像を同時に表示する表示部と、
該表示部に同時に表示された前記複数の特殊画像のうちの少なくとも1つの特殊画像を前記第1の特殊画像として選択する信号を受け付ける選択信号受付部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項6】
前記第3の特殊画像から前記被観察部に含まれる管部分を表す画像を抽出する管画像抽出部をさらに備え、
前記合成画像取得部は、前記管画像抽出部により抽出された管部分を表す画像と前記第2の通常画像とを合成して合成画像を取得するものであることを特徴とする請求項1から5いずれか1項記載の画像取得装置。
【請求項7】
前記合成画像取得部が、前記第3の特殊画像および前記第2の特殊画像と前記第2の通常画像とを合成して合成画像を取得するものであることを特徴とする請求項1から6いずれか1項記載の画像取得装置。
【請求項8】
前記第1の特殊画像が複数であることを特徴とする請求項1から7いずれか1項記載の画像取得装置。
【請求項1】
通常光の被観察部への照射によって前記被観察部から反射された反射光を受光して所定の間隔で撮像された複数の通常画像と、特殊光の前記被観察部への照射によって前記被観察部から発せられた光を受光して所定の間隔で撮像された複数の特殊画像とを取得し、
前記複数の通常画像のうちの第1の時点に撮像された第1の前記通常画像または前記複数の特殊画像のうちの第1の時点に撮像された第1の前記特殊画像を取得するとともに、前記第1の時点よりも後の第2の時点に撮像された第2の前記通常画像または前記第1の時点よりも後の第2の時点に撮像された第2の前記特殊画像を取得し、
前記第1の通常画像の被観察部から前記第2の通常画像の被観察部への動きの変化を示す動き特徴量または前記第1の特殊画像の被観察部から前記第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得し、
該取得した動き特徴量に基づいて、前記複数の特殊画像のうちの前記第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得し、
該取得した第3の特殊画像と前記第2の通常画像とを合成して合成画像を取得することを特徴とする画像取得方法。
【請求項2】
通常光および特殊光を被観察部に照射する光照射部と、
前記通常光の照射によって前記被観察部から反射された反射光を受光して複数の通常画像を所定の間隔で撮像するとともに、前記特殊光の照射によって前記被観察部から発せられた光を受光して複数の特殊画像を所定の間隔で撮像する撮像部と、
該撮像部によって取得された複数の通常画像のうちの少なくとも1つの第1の時点に撮像された第1の前記通常画像または前記複数の特殊画像のうちの少なくとも1つの第1の時点に撮像された第1の前記特殊画像を取得するとともに、前記第1の時点よりも後の第2の時点に撮像された第2の前記通常画像または前記第1の時点よりも後の第2の時点に撮像された第2の前記特殊画像を取得し、前記第1の通常画像の被観察部から前記第2の通常画像の被観察部への動きの変化を示す動き特徴量または前記第1の特殊画像の被観察部から前記第2の特殊画像の被観察部への動きの変化を示す動き特徴量を取得する動き特徴量取得部と、
該動き取得部により取得された動き特徴量に基づいて、前記複数の特殊画像のうちの前記第1の時点に撮像された第1の特殊画像を補正して第3の特殊画像を取得する動き補正部と、
該動き補正部により取得された第3の特殊画像と前記第2の通常画像とを合成して合成画像を取得する合成画像取得部とを備えたことを特徴とする画像取得装置。
【請求項3】
前記撮像部により撮像された前記複数の特殊画像を時系列で順次表示する表示部と、
該表示部に順次表示される前記複数の特殊画像のうちの少なくとも1つの特殊画像を前記第1の特殊画像として選択する信号を受け付ける選択信号受付部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項4】
所定の前記通常画像または前記所定の特殊画像における関心領域の設定を受け付ける関心領域受付部と、
前記所定の通常画像において設定された関心領域に対応する前記複数の特殊画像の各関心領域内の画素信号または前記所定の特殊画像において設定された関心領域に対応する前記複数の特殊画像の各関心領域内の画素信号に基づいて前記第1の特殊画像を選択する過去画像選択部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項5】
前記撮像部により撮像された前記複数の特殊画像を同時に表示する表示部と、
該表示部に同時に表示された前記複数の特殊画像のうちの少なくとも1つの特殊画像を前記第1の特殊画像として選択する信号を受け付ける選択信号受付部とを備えたことを特徴とする請求項2記載の画像取得装置。
【請求項6】
前記第3の特殊画像から前記被観察部に含まれる管部分を表す画像を抽出する管画像抽出部をさらに備え、
前記合成画像取得部は、前記管画像抽出部により抽出された管部分を表す画像と前記第2の通常画像とを合成して合成画像を取得するものであることを特徴とする請求項1から5いずれか1項記載の画像取得装置。
【請求項7】
前記合成画像取得部が、前記第3の特殊画像および前記第2の特殊画像と前記第2の通常画像とを合成して合成画像を取得するものであることを特徴とする請求項1から6いずれか1項記載の画像取得装置。
【請求項8】
前記第1の特殊画像が複数であることを特徴とする請求項1から7いずれか1項記載の画像取得装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図8】
【図9】
【図10】
【公開番号】特開2011−67486(P2011−67486A)
【公開日】平成23年4月7日(2011.4.7)
【国際特許分類】
【出願番号】特願2009−222053(P2009−222053)
【出願日】平成21年9月28日(2009.9.28)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【復代理人】
【識別番号】100128451
【弁理士】
【氏名又は名称】安田 隆一
【Fターム(参考)】
【公開日】平成23年4月7日(2011.4.7)
【国際特許分類】
【出願日】平成21年9月28日(2009.9.28)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【復代理人】
【識別番号】100128451
【弁理士】
【氏名又は名称】安田 隆一
【Fターム(参考)】
[ Back to top ]