説明

画像処理装置、画像処理方法、および画像処理プログラム

【課題】途切れた輪郭エッジを適切に接続すること。
【解決手段】本発明のある実施の形態の画像処理装置1cは、管腔内画像の各画素の勾配強度をもとにエッジを検出し、検出したエッジを輪郭候補エッジとする輪郭候補エッジ検出部16と、輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出部17と、輪郭エッジの端点を接続元とし、他の輪郭エッジの端点を接続先として、接続元とする輪郭エッジの端点が同じで接続先とする他の輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成部18cと、複数の補間線上の画素における画素値勾配をもとに複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する端点対間の輪郭エッジを選択した補間線によって補間する輪郭エッジ補間部19cとを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、対象画像から輪郭エッジを検出する画像処理装置、画像処理方法、および画像処理プログラムに関するものである。
【背景技術】
【0002】
一般に、画像内のエッジの検出は、勾配の変化が最も大きい位置(勾配が急峻であり、その勾配強度の値が周囲と比較して大きくなっている位置)を検出することで行われ、基本的には、画像の輝度値の勾配から勾配強度を算出し、この勾配強度に対して閾値処理を行うことで検出されている。このようなエッジ検出の手法を用いて画像から輪郭エッジを検出する際、エッジ検出アルゴリズムの精度やノイズ、画像の不鮮明さ(ぼけ)等の要因、あるいは主観的輪郭部等によって輪郭エッジに途切れが生じる場合がある。このような途切れて離散した輪郭エッジを接続するための手法として、従来から、動的輪郭法やエッジトレース法等が用いられている。しかしながら、従来の動的輪郭法を用いた手法では、接続すべきエッジとノイズエッジとを適正に区別できないという問題があった。一方で、エッジトレース法は、エッジの延びる方向や微分の直交方向等の情報をもとにエッジを辿っていく手法であり、局所的な情報に頼るため、ノイズに弱く、接続すべきエッジに辿り着かない場合があった。
【0003】
このような従来の問題点を解決するための技術として、例えば、特許文献1には、エッジの切断位置の対応関係を適切に判別してエッジを接続(連結)する方法が示されている。この特許文献1の技術では、先ず、計測領域を複数の分割小領域に分割し、各小領域に番号を付与する。続いて、各エッジに対して個別のエッジラベルを付与する。続いて、各小領域に含まれるエッジの分布から、途切れているエッジが存在する小領域を抽出する。続いて、抽出した小領域において、近傍のエッジラベルから接続すべきエッジを推定する。そして、接続すべきとして推定したエッジ間をベジェ曲線等によって滑らかに接続している。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−15735号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記した特許文献1において、接続すべきエッジの推定には、エッジ間の距離や各エッジの向き、エッジとその連結部分との滑らかさ等を用いている。このため、接続すべきエッジ間に距離がある場合や接続すべきエッジの向きがずれている場合、接続すべきエッジとその連結部分とが滑らかでない場合には、接続すべきエッジの選択を誤る可能性があった。
【0006】
本発明は、上記に鑑み為されたものであって、途切れた輪郭エッジを適切に接続することができる画像処理装置、画像処理方法、および画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記した課題を解決し、目的を達成するための、本発明のある態様にかかる画像処理装置は、対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出手段と、前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出手段と、前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成手段と、前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間手段と、を備えることを特徴とする。
【0008】
上記態様の画像処理装置によれば、接続元とする輪郭エッジの端点が同じで接続先とする他の輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を各端点対間の画素値勾配をもとに作成し、補間線上の画素における画素値勾配をもとに作成した複数の補間線の中から1つを選択することができる。そして、選択した補間線によってその両端の端点対間の輪郭エッジを補間することができる。したがって、複数の輪郭エッジの端点の中から接続すべき端点を適切に選び、選んだ端点との間の輪郭線を適切に補間することができるので、途切れた輪郭エッジを適切に接続することができる。
【0009】
また、本発明の別の態様にかかる画像処理方法は、対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出工程と、前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出工程と、前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成工程と、前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間工程と、を含むことを特徴とする。
【0010】
また、本発明の別の態様にかかる画像処理プログラムは、コンピュータに、対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出手順と、前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出手順と、前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成手順と、前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間手順と、を実行させることを特徴とする。
【発明の効果】
【0011】
本発明によれば、途切れた輪郭エッジを適切に接続することができるという効果を奏する。
【図面の簡単な説明】
【0012】
【図1】図1は、実施の形態1の画像処理装置1の機能構成例を説明するブロック図である。
【図2】図2は、実施の形態1の輪郭候補エッジ検出部の構成例を説明するブロック図である。
【図3】図3は、実施の形態1の補間線作成部の構成例を説明するブロック図である。
【図4】図4は、実施の形態1の画像処理装置が行う処理手順を示す全体フローチャートである。
【図5】図5は、実施の形態1における輪郭候補エッジ検出処理の詳細な処理手順を示すフローチャートである。
【図6】図6は、輪郭エッジの検出原理を説明する図である。
【図7】図7は、実施の形態1における補間線作成処理の詳細な処理手順を示すフローチャートである。
【図8】図8は、注目画素と、注目画素の8近傍画素を示す図である。
【図9】図9は、初期補間線の作成原理を説明する図である。
【図10】図10は、初期補間線の作成原理を説明する他の図である。
【図11】図11は、初期補間線の作成原理を説明する他の図である。
【図12】図12は、実施の形態1における初期補間線作成処理の詳細な処理手順を示すフローチャートである。
【図13】図13は、初期補間線決定処理を説明する図である。
【図14】図14は、実施の形態1における補間線最適化処理の詳細な処理手順を示すフローチャートである。
【図15】図15は、初期補間線最適化処理を説明する図である。
【図16】図16は、実施の形態1の変形例1における輪郭候補エッジ検出部の構成例を説明するブロック図である。
【図17】図17は、変形例1における輪郭候補エッジ検出処理の詳細な処理手順を示すフローチャートである。
【図18】図18は、分岐エッジ除去処理を説明する図である。
【図19】図19は、変形例2における補間線作成部の構成例を説明するブロック図である。
【図20】図20は、実施の形態2の画像処理装置の機能構成例を説明するブロック図である。
【図21】図21は、実施の形態2の輪郭エッジ補間部の構成例を説明するブロック図である。
【図22】図22は、実施の形態2の画像処理装置が行う処理手順を示す全体フローチャートである。
【図23】図23は、実施の形態2における輪郭エッジ補間処理の詳細な処理手順を示すフローチャートである。
【図24】図24は、本発明を適用したコンピューターシステムの構成を示すシステム構成図である。
【図25】図25は、図24のコンピューターシステムを構成する本体部の構成を示すブロック図である。
【発明を実施するための形態】
【0013】
以下、図面を参照し、本発明の好適な実施の形態について説明する。なお、この実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
【0014】
本実施の形態の画像処理装置は、例えば内視鏡やカプセル内視鏡等の医用観察装置が被検者の体内の消化管等の管腔内を撮像した画像(管腔内画像)を対象画像として処理するものであり、具体的には、管腔内画像から粘膜構造等の輪郭エッジを検出し、途切れた輪郭エッジを接続する処理を行うものである。ここで、本実施の形態の画像処理装置が扱う管腔内画像は、例えば、画素毎にR(赤),G(緑),B(青)の各波長成分に対する画素値を持つカラー画像である。この管腔内画像には、主として粘膜構造等の生体組織の表面構造が映る。以下では、管腔内画像から粘膜構造等の輪郭エッジを検出して途切れた輪郭エッジを接続する場合を例にとって説明する。なお、対象画像は、本実施の形態で例示する管腔内画像に限定されるものではなく、対象画像から輪郭エッジを検出し、途切れた輪郭エッジを接続する場合に広く適用できる。
【0015】
(実施の形態1)
先ず、実施の形態1の画像処理装置について説明する。図1は、実施の形態1の画像処理装置1の機能構成例を説明するブロック図である。また、図2は、実施の形態1の輪郭候補エッジ検出部16の構成例を説明するブロック図であり、図3は、実施の形態1の補間線作成部18の構成例を説明するブロック図である。なお、図1〜図3において、画像処理装置1の各部間を接続して画像信号等のデータ信号を伝送するデータ信号線を実線で示し、制御信号を伝送する制御信号線を破線で示している。
【0016】
図1に示すように、実施の形態1の画像処理装置1は、外部インターフェース(I/F)部11と、操作部12と、表示部13と、記録部14と、演算部15と、画像処理装置1全体の動作を制御する制御部20とを備える。
【0017】
外部I/F部11は、医用観察装置によって撮像された管腔内画像の画像データを取得するためのものであり、この外部I/F部11によって取得された画像データは記録部14に記録され、演算部15によって処理された後、必要に応じて適宜表示部13に表示される。外部I/F部11は、例えば医用観察装置との間の画像データの受け渡しに可搬型の記録媒体が使用される場合であれば、この記録媒体を着脱自在に装着して保存された管腔内画像の画像データを読み出すリーダ装置で構成される。また、医用観察装置によって撮像された管腔内画像の画像データを保存しておくサーバを適所に設置し、このサーバから取得する構成の場合には、外部I/F部11を、サーバと接続するための通信装置等で構成する。そして、この外部I/F部11を介してサーバとデータ通信を行い、管腔内画像の画像データを取得する。また、ケーブルを介して医用観察装置から画像データを取得する構成の場合には、画像データを入力するインターフェース装置等で構成される。
【0018】
操作部12は、例えばキーボードやマウス、タッチパネル、各種スイッチ等によって実現されるものであり、操作信号を制御部20に出力する。表示部13は、LCDやELディスプレイ等の表示装置によって実現されるものであり、制御部20の制御のもと、カプセル内視鏡3で撮像された画像の表示画面を含む各種画面を表示する。
【0019】
記録部14は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵或いはデータ通信端子で接続されたハードディスク、CD−ROM等の情報記録媒体およびその読取装置等によって実現されるものであり、画像処理装置1を動作させ、この画像処理装置1が備える種々の機能を実現するためのプログラムや、このプログラムの実行中に使用されるデータ等が記録される。例えば、記録部14には、外部I/F部11によって取得された管腔内画像の画像データが記録される。また、記録部14には、実施の形態1の処理を実現して管腔内画像から粘膜構造等の輪郭エッジを検出し、途切れた輪郭エッジを接続するための画像処理プログラム141が記録される。
【0020】
演算部15は、CPU等のハードウェアによって実現され、管腔内画像を処理して粘膜構造等の輪郭エッジを検出し、途切れた輪郭エッジを接続するための種々の演算処理を行う。この演算部15は、輪郭候補エッジ検出手段としての輪郭候補エッジ検出部16と、輪郭エッジ検出手段としての輪郭エッジ検出部17と、補間線作成手段としての補間線作成部18とを備える。ここで、輪郭候補エッジ検出部16、輪郭エッジ検出部17および補間線作成部18はこの順に接続されている。また、輪郭候補エッジ検出部16には、外部I/F部11を介して取得され、記録部14に記録された管腔内画像の画像信号が入力される。そして、補間線作成部18からは、演算部15の各部が管腔内画像を処理することで得た補間輪郭エッジの情報(補間輪郭エッジ画像)が出力され、例えば記録部14に記録される。
【0021】
輪郭候補エッジ検出部16は、処理対象とする管腔内画像から輪郭候補エッジを検出する。この輪郭候補エッジ検出部16は、図2に示すように、線エッジ抽出部161と、輪郭候補エッジ選択手段としての輪郭候補エッジ選択部162とを備える。
【0022】
線エッジ抽出部161は、管腔内画像の各画素の勾配強度をもとに、線エッジを抽出する。ここで、線エッジとは、幅が1画素のエッジのことをいう。輪郭候補エッジ選択部162は、線エッジ上の画素のうち、管腔内画像中の平坦領域(勾配の変化が小さく平坦な領域)外の画素で構成される線エッジ部分を輪郭候補エッジとして選択する。以上のように構成される輪郭候補エッジ検出部16は、輪郭候補エッジを輪郭エッジ検出部17に出力する。
【0023】
輪郭エッジ検出部17は、輪郭候補エッジ検出部16から入力される輪郭候補エッジ上の各画素の勾配強度を閾値処理し、輪郭エッジを検出する。この輪郭エッジ検出部17は、検出した輪郭エッジを、輪郭候補エッジとともに補間線作成部18に出力する。
【0024】
補間線作成部18は、輪郭エッジの途切れを補間する補間線を作成する。実施の形態1では、輪郭エッジの端点間を接続する補間線を作成する。この補間線作成部18は、図3に示すように、端点検出手段としての端点検出部181と、端点対選択手段としての端点対選択部182と、初期補間線作成手段としての初期補間線作成部183と、補間線最適化手段としての補間線最適化部186とを備える。
【0025】
端点検出部181は、輪郭エッジ検出部17から入力される輪郭エッジの端点を検出する。端点対選択部182は、端点検出部181が検出した端点のうちの2つを端点対として選択する。実施の形態1では、輪郭エッジの端点毎に、接続対象とする少なくとも1つの他の輪郭エッジの端点を選択し、端点対とする。
【0026】
初期補間線作成部183は、端点対選択部182が選択した端点対間を接続する補間線の初期経路(以下、適宜「初期補間線」と呼ぶ)を作成する。この初期補間線作成部183は、近似曲面作成手段としての近似曲面作成部184と、初期補間線決定手段としての初期補間線決定部185とを備える。近似曲面作成部184は、管腔内画像の各画素の画素値をもとに、その画素値変化を近似した近似曲面を作成する。初期補間線決定部185は、近似曲面作成部184が作成した近似曲面をもとに初期補間線を決定する。
【0027】
補間線最適化部186は、補間線の初期経路(初期補間線)を、補間線上の画素の勾配強度(画素値勾配)によって定まるコスト値(以下、「勾配コスト」と呼ぶ。)が最小となるような経路に最適化する。例えば、補間線最適化部186は、公知の動的輪郭法(スネーク法)を適用して初期補間線を最適化し、補間線を得る。この補間線最適化部186は、制御点設定手段としての制御点設定部187と、補間線更新手段としての補間線更新部188とを備える。制御点設定部187は、初期補間線上に制御点を設定する。補間線更新部188は、制御点設定部187が設定した制御点毎に勾配コストを算出し、この勾配コストが小さくなるように各制御点を移動させて補間線の初期経路を更新していく。
【0028】
以上のように構成される補間線作成部18は、作成した補間線と、この補間線によって接続した輪郭エッジとで補間輪郭エッジを形成し、各画素の画素値を補間輪郭エッジ上の画素か否かを示すフラグ情報とした補間輪郭エッジ画像を例えば記録部14に出力して保存する。
【0029】
制御部20は、CPU等のハードウェアによって実現される。この制御部20は、外部I/F部11を介して取得される画像データや操作部12から入力される操作信号、記録部14に記録されるプログラムやデータ等をもとに画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
【0030】
図4は、実施の形態1の画像処理装置1が行う処理手順を示す全体フローチャートである。なお、ここで説明する処理は、記録部14に記録された画像処理プログラム141に従って画像処理装置1の各部が動作することにより実現される。
【0031】
図4に示すように、先ず、制御部20が画像取得処理を実行し、処理対象の管腔内画像を取得する(ステップa1)。ここでの処理により、管腔内画像の画像データが外部I/F部11を介して取得され、記録部14に記録される。このようにして取得された後は、この管腔内画像の画像データは、演算部15によって読み込み可能な状態となる。以下、管腔内画像の左上を基準にして横方向の画素の座標をxとし、縦方向の画素の座標をyとする。
【0032】
続いて、演算部15において、輪郭候補エッジ検出部16が、輪郭候補エッジ検出処理を実行する(ステップa3)。この輪郭候補エッジ検出処理では、各画素の勾配強度を算出する。そして、算出した各画素の勾配強度をもとに、勾配の方向が同じ領域である勾配範囲において勾配の変化が最も大きい位置(尾根)を検出して輪郭候補エッジを得る。図5は、実施の形態1における輪郭候補エッジ検出処理の詳細な処理手順を示すフローチャートである。
【0033】
図5に示すように、輪郭候補エッジ検出処理では、先ず輪郭候補エッジ検出部16の線エッジ抽出部161が、ノイズ除去処理を実行し、管腔内画像からノイズを除去する(ステップb1)。このノイズ除去処理は、例えば、図4のステップa1で取得した管腔内画像の画像データに対してエッジを保存した平滑化処理を行うことで実現できる。ここでは、例えば、スパイクノイズに強いメディアン(Median)フィルタを適用して平滑化処理を行う。これは、管腔内画像中には、スパイクノイズに相当するノイズ領域として照明光による正面反射が発生した領域(正面反射領域)が含まれ得るためである。フィルタサイズとしては、例えば11×11のものを用いる。管腔内画像には、粘膜構造の輪郭エッジ以外にも、例えば、粘膜表面の柔毛(絨毛)等による凹凸や照明光による正面反射領域等によって生じるエッジ(ノイズエッジ)が含まれる。ステップb1のノイズ除去処理によれば、前述のようなノイズエッジを抑制することができ、輪郭エッジの誤検出を低減することができる。なお、メディアンフィルタに限らず、例えば、k最近隣平均化フィルタやバイラテラル(Bilateral)フィルタ等のその他のエッジ保存型のフィルタを適用した平滑化処理を行うこととしてもよい。
【0034】
続いて、線エッジ抽出部161は、構造情報取得処理を実行し、ステップb3でのノイズ除去処理後の管腔内画像の画像データをもとに粘膜構造表面の形状変化情報(構造情報)を取得する(ステップb3)。管腔内画像に映る血管や出血部位等の構成成分であるヘモグロビンは、短波長帯の光を多く吸光する特性を持つ。このヘモグロビンの短波長帯での吸光特性により、波長成分の多くが短波長帯で構成されるG(緑)成分やB(青)成分は、ヘモグロビンの吸光によって輝度値が下がる。このため、管腔内画像には、血管や出血部位等もノイズエッジとして含まれ得る。一方で、波長成分の多くが長波長帯で構成されるR(赤)成分は、吸光が少なく、ほとんどの光を反射するため、粘膜構造を反映した情報として扱うのに適している。そこで、実施の形態1では、後段の処理において粘膜構造の輪郭エッジを精度良く検出するために、R(赤)の波長成分(R成分)の画像(R成分画像:各画素の画素値をR(赤)成分の値とした画像)を粘膜構造表面の形状変化情報として取得する。ステップb3の構造情報取得処理によれば、粘膜表面の色変化によって生じるノイズエッジを輪郭エッジとして誤検出する事態を低減できる。
【0035】
続いて、線エッジ抽出部161は、線エッジ抽出処理を実行する(ステップb5)。処理手順としては、先ず、ステップb3で取得したR成分画像I(x,y)に対して1次微分フィルタを用いた微分フィルタ処理を行い、各画素の勾配強度g(x,y)を算出する。ここでは、例えば、ソーベル(sobel)フィルタを適用し、勾配強度画像(各画素の画素値を勾配強度の値とした画像)とともに、横方向成分勾配強度画像(各画素の画素値を勾配強度の横方向成分の値とした画像)と、縦方向成分勾配強度画像(各画素の画素値を勾配強度の縦方向成分の値とした画像)とを得る。
【0036】
具体的には、先ず、例えば3×3の横方向(x方向)のソーベルフィルタおよび3×3の縦方向(y方向)のソーベルフィルタを適用し、3×3の近傍領域を用いたフィルタリングを行う。そして、横方向のソーベルフィルタを適用した微分フィルタ処理の出力sobelX(x,y)を各画素における勾配強度の横方向成分として得る。一方、縦方向のソーベルフィルタを適用した微分フィルタ処理の出力sobelY(x,y)を各画素における勾配強度の縦方向成分として得る。その後、これら勾配強度の横方向成分と縦方向成分とを合成して各画素の勾配強度g(x,y)を得る。なお、ソーベルフィルタに限らず、その他の微分フィルタを適用して微分フィルタ処理を行うこととしてもよい。
【0037】
次に、各画素に横方向のソーベルフィルタを適用した微分フィルタ処理の出力sobelX(x,y)および各画素に縦方向のソーベルフィルタを適用した微分フィルタ処理の出力sobelY(x,y)を用い、次式(1)に従って勾配の変化が最大となる方向θ(x,y)を勾配の方向として各画素それぞれについて算出する。以下、勾配の変化が最大となる方向を、「勾配変化方向」と呼ぶ。
【数1】

【0038】
その後、各画素の勾配変化方向θ(x,y)をもとに、勾配変化方向が同じ領域である勾配範囲の中から勾配強度g(x,y)の凸位置を検出する。この凸位置の検出は、勾配変化方向上で連接する勾配変化方向θ(x,y)が同じ画素の中で、勾配強度g(x,y)の値が最大のものを判定することで行う。これによれば、線エッジ(幅が1画素分のエッジ)を抽出することができる。
【0039】
続いて、輪郭候補エッジ選択部162が、輪郭候補エッジ選択処理を実行する(ステップb7)。処理手順としては、先ず、管腔内画像中の平坦領域を抽出する。具体的には、各画素の勾配強度g(x,y)をもとに勾配の変化が小さい領域を抽出し、平坦領域とする。平坦領域とする勾配強度g(x,y)の値の幅は、予め設定しておけばよい。そして、線エッジ上の画素のうち、平坦領域外の画素で構成される線エッジ部分を輪郭候補エッジとして選択する。
【0040】
その後、次式(2),(3)に従い、輪郭候補エッジ上の画素の画素値G(x,y)をその勾配強度g(x,y)とし、それ以外の画素の画素値G(x,y)を「0」とした輪郭候補エッジ勾配強度画像を得る。
輪郭候補エッジ上の画素の場合、G(x,y)=g(x,y) ・・・(2)
それ以外の場合、G(x,y)=0 ・・・(3)
【0041】
また、次式(4),(5)に従い、各画素の画素値を輪郭候補エッジ上の画素か否かを示すフラグ情報とした輪郭候補エッジ画像、具体的には、輪郭候補エッジ上の画素の画素値H(x,y)を「1」とし、それ以外の画素の画素値H(x,y)を「0」とした輪郭候補エッジ画像を得る。
輪郭候補エッジ上の画素の場合、H(x,y)=1 ・・・(4)
それ以外の場合、H(x,y)=0 ・・・(5)
【0042】
以上のようにして輪郭候補エッジ選択処理を実行したならば、図4のステップa3にリターンし、その後ステップa5に移行する。そして、ステップa5では、輪郭エッジ検出部17が、輪郭エッジ検出処理を実行する。この輪郭エッジ検出処理では、ステップa3で検出した輪郭候補エッジ上の画素の中から勾配強度g(x,y)の値が小さい画素を除外し、輪郭エッジとする画素を絞り込む。例えば、輪郭エッジ検出部17は、ヒステリシス(hysteresis)閾値処理(2段閾値処理)を行い、輪郭エッジを検出する。
【0043】
図6(a)は、図4のステップa3で検出した輪郭候補エッジの一例を示す模式図であり、3本の輪郭候補エッジEL1,EL21,EL22を示している。また、図6(b)および図6(c)は、横軸を図6(a)中の輪郭候補エッジEL1上の座標(x,y)とし、縦軸を該当する各画素の勾配強度g(x,y)の値として図6(a)中の輪郭候補エッジEL1上の勾配強度g(x,y)の変化曲線を示したものである。輪郭エッジ検出部17は、先ず、図6(b)中に示す第1の閾値を用いて輪郭候補エッジEL1上の勾配強度g(x,y)を閾値処理することで、勾配強度g(x,y)が閾値以上である範囲、具体的には、図6(a)に示す輪郭候補エッジEL1上の画素P13〜画素P14の範囲を輪郭エッジとする。続いて、輪郭エッジ検出部17は、図6(c)中に示す第1の閾値よりも値の小さい第2の閾値を用いて輪郭候補エッジEL1上の勾配強度g(x,y)を閾値処理し、勾配強度g(x,y)が第2の閾値以上である画素のうち、第1の閾値を用いた閾値処理で検出した範囲の端点である画素P13,P14と途切れずに連続している輪郭候補エッジEL1上の画素、具体的には画素P11〜画素P13および画素P14〜画素P15の範囲を輪郭エッジとしてさらに検出し、最終的に輪郭候補エッジEL1上の画素P13〜画素P15の範囲を輪郭エッジとする。画素P15〜画素P11の範囲については、輪郭エッジとして検出しない。なお、輪郭候補エッジEL21,EL22についても、同様に輪郭エッジを検出する。
【0044】
その後、次式(6),(7)に従い、各画素の画素値を輪郭エッジ上の画素か否かを示すフラグ情報とした輪郭エッジ画像、具体的には、輪郭エッジ上の画素の画素値C(x,y)を「1」とし、それ以外の画素の画素値C(x,y)を「0」とした輪郭エッジ画像を得る。
輪郭エッジ上の画素の場合、C(x,y)=1 ・・・(6)
それ以外の場合、C(x,y)=0 ・・・(7)
【0045】
なお、以上説明した線エッジ抽出処理(図5のステップb5)および輪郭エッジ検出処理(図4のステップa5)を具体的に実現するアルゴリズムとしては、公知のケニーのエッジ検出アルゴリズム(Canny edge detector/参考:CG−ARTS協会,ディジタル画像処理,209P−輪郭線検出)を用いることができる。
【0046】
続いて、補間線作成部18が、補間線作成処理を実行する(ステップa7)。図7は、実施の形態1における補間線作成処理の詳細な処理手順を示すフローチャートである。図7に示すように、補間線作成処理では、先ず、補間線作成部18の端点検出部181が、端点検出処理を実行し、輪郭エッジの端点を検出する(ステップc1)。
【0047】
ここでは、輪郭エッジ上の画素に順次注目し、周囲(例えば8近傍画素)における輪郭エッジ上の画素の存在パターンを判別することで、輪郭エッジの端点を検出する。図8は、注目する輪郭エッジ上の画素(注目画素)P3と、この注目画素P3の8近傍画素を示す図である。端点検出処理では、注目画素P3の8近傍画素を識別するため、図8中において8近傍画素の各マス目に示すように、それぞれの座標を左上から右周りにa,b,c,d,e,f,g,hとする。そして、これら8近傍画素a〜hのうちのいずれか1つが輪郭エッジ上の画素の場合(条件1)に、注目画素P3を端点と判定する。例えば、8近傍画素a〜hのうち、8近傍画素aのみが輪郭エッジ上の画素の場合には、注目画素P3を端点と判定する。8近傍画素b〜hについても同様である。
【0048】
さらに、近傍画素a〜hのうちの隣接する2つの画素が輪郭エッジ上の画素の場合(条件2)にも、注目画素P3を端点と判定する。例えば、8近傍画素a〜hのうち、隣接する8近傍画素a,bの2つが輪郭エッジ上の画素の場合には、注目画素P3を端点と判定する。8近傍画素[b,c]、[c,d]、[d,e]、[e,f]、[f,g]、[g,h]、[h,a]の隣接する2画素の各組み合わせについても同様である。
【0049】
実際の処理では、端点検出部181は、輪郭エッジ画像をもとに、次式(8),(9)に従ってC(x,y)=1の画素の8近傍画素が条件1または条件2を満たすか否かを判定することで、輪郭エッジの端点を検出する。
【数2】

【0050】
上記式(8),(9)では、図8に示す8近傍画素a〜hの画素値C(x,y)の合計が「1」であることを条件1としており、この条件1によって、8近傍画素a〜hのうちのいずれか1つが輪郭エッジ位置である場合を判定している。また、8近傍画素a〜hの画素値C(x,y)の合計が「2」であり、かつ、隣接する2画素の画素値C(x,y)を乗算した値の合計が「1」であることを条件2としており、この条件2によって8近傍画素のうちの隣接する2つの画素が輪郭エッジ位置である場合を判定している。端点検出部181は、式(8)に従い、輪郭エッジ位置であるC(x,y)=1の画素のうち、条件1または条件2を満たす端点の画素についてC(x,y)=2とする。また、端点検出部181は、式(9)に従い、C(x,y)=1の画素のうち、条件1を満たさず、条件2も満たさない画素については、C(x,y)=1のままとする。
【0051】
なお、ここでは、式(8),(9)に従って輪郭エッジの端点を検出することとしたが、検出の方法はこれに限定されるものではない。例えば、端点形状(例えば図8を参照して説明した注目画素P3およびその8近傍画素a〜hにおける輪郭エッジ上の画素の存在パターン)のフィルタを用いたマッチング等によって端点を検出することとしてもよく、輪郭エッジの端点を検出できれば適宜別の方法を採用することとしてよい。
【0052】
以上のようにして輪郭エッジの端点を検出したならば、続いて、図7に示すように、端点対選択部182が、端点対選択処理を実行する(ステップc3)。この端点対選択処理では、輪郭エッジの端点(C(x,y)=2;以下、適宜「接続元端点」と呼ぶ。)について、他の輪郭エッジの端点(C(x,y)=2)の中から接続対象とする(補間線を引く相手先とする)端点を少なくとも1つ選択し、接続元端点と、前述のようにこの接続元端点について接続対象として選択した他の輪郭エッジの端点(以下、適宜「接続先端点」と呼ぶ。)との組み合わせを端点対とする。なお、後述するように、ここで選択した端点対について作成した補間線上の制御点毎の勾配コストの和が閾値より大きい場合、ステップc9において処理を終了しないと判定してステップc3に戻るようになっている。この場合には、その輪郭エッジの端点(接続元端点)について接続先端点を別の輪郭エッジの端点に変更して再度端点対を選択する。
【0053】
例えば、図6(a)に示した輪郭候補エッジEL1から検出した輪郭エッジの一方の端点である画素P15に着目した場合、輪郭候補エッジEL21から検出した輪郭エッジの端点P21や輪郭候補エッジEL22から検出した輪郭エッジの端点P22等が接続先端点として選択されることとなる。
【0054】
実際の処理では、例えば、接続元端点との距離や接続元端点における勾配変化方向等をパラメータとして用い、このパラメータの値をもとに、接続元端点以外の輪郭エッジの端点の中から1つをステップc3の処理を行う度に順番に接続先端点として選択する。例えば、接続元端点との距離をパラメータとして用いる場合には、接続元端点の全方位において、接続元端点との距離が所定の距離内である輪郭エッジの端点(C(x,y)=2)を、最も近いものから順番に接続先端点として選択する。また、接続元端点との距離および接続元端点の勾配変化方向の2つをパラメータとして用いる場合には、輪郭エッジの端点(C(x,y)=2)のうち、接続元端点における勾配変化方向に対して垂直な方向を中心とする放射状の範囲内で、その勾配変化方向が接続元端点の勾配変化方向と垂直な方向またはこの垂直な方向と近い方向を向いており、かつ接続元端点と距離が近いものから順番に接続先端点を選択する。なお、接続元端点における勾配変化方向のみをパラメータとして用い、接続先端点を選択することとしてもよい。
【0055】
続いて、初期補間線作成部183が、ステップc3で選択した端点対を順次注目対象として初期補間線作成処理を実行し、全ての端点対についてその接続元端点と接続先端点とを接続する初期補間線を作成する(ステップc5)。
【0056】
図9〜図11は、注目対象の端点対に着目して初期補間線の作成原理を説明する図である。ここで、図9は、管腔内画像の各画素の画素値変化を近似した近似曲面C4を示す図であり、注目対象の端点対である輪郭エッジEL41の接続元端点P41および輪郭エッジEL42の接続先端点P42を近似曲面C4上の対応する位置(z位置)に図示している。また、図10は、図9に示す近似曲面C4をZ軸方向側から示した平面図であり、図11は、図9に示す近似曲面C4をY軸方向側から示した側面図である。
【0057】
図9〜図11の各図に示すように、初期補間線作成処理では、先ず、管腔内画像の各画素の画素値をもとに、その画素値変化を近似した近似曲面C4を作成する。そして、注目対象の端点対である接続元端点P41および接続先端点P42を含む平面P4(この平面P4の詳細については、図13を参照して後述する。)と近似曲面C4との交線を求め、交線上の接続元端点P41と接続先端点P42とを両端とする図9,図10中に一点鎖線で示す線分を初期補間線L4として作成する。
【0058】
図12は、実施の形態1における初期補間線作成処理の詳細な処理手順を示すフローチャートである。図12に示すように、初期補間線作成処理では、先ず、初期補間線作成部183の近似曲面作成部184が近似曲面作成処理を実行し、管腔内画像の画素値をもとにその画素値変化を近似した近似曲面を作成する(ステップd1)。ここでは、例えば、管腔内画像に対してローパスフィルタ処理を行うことで、近似曲面を作成する。具体的には、例えば、離散コサイン変換(DCT)を行い、低次元の基底のみを用いて近似曲面を構成する。基底の数は、作成した近似曲面と管腔内画像の輝度値との差が所定の閾値以下となるときの基底の数を用いる。なお、近似曲面の作成方法はこれに限定されるものではない。その他にも、例えば、最小二乗法による関数近似を行って近似曲面を作成することとしてもよい。ここで、最小二乗法による関数近似とは、データ分布(管腔内画像の各画素の画素値分布)を示す最もらしい多項式の係数を算出する公知の方法である。
【0059】
続いて、初期補間線決定部185が初期補間線決定処理を実行し、注目対象の端点対である接続元端点と接続先端点とを接続する補間線の初期経路(初期補間線)を決定する(ステップd3)。図13は、初期補間線決定処理を説明する図であり、注目対象の端点対の接続元端点P51および接続先端点P52を図12のステップd1で作成した近似曲面上の対応する位置(z位置)に図示している。なお、図13では、近似曲面の図示を省略している。初期補間線決定処理では、先ず、注目対象の端点対である接続元端点P51および接続先端点P52を含む平面として、接続元端点P51および接続先端点P52を通る直線(詳細には、接続元端点P51および接続先端点P52の座標(x,y)に対応する近似曲面上の位置(z位置)を通る直線)L51と直交し、かつ管腔内画像の座標平面であるXY平面と平行な直線である直線L52を含む平面P5を決定する。そして、決定した平面P5と図12のステップd1で作成した近似曲面との交線を求め、この交線上の接続元端点P51と接続先端点P52とを両端とする図13中に一点鎖線で示す線分を初期補間線L5として作成する。より詳細には、この一点鎖線で示す初期補間線L5上の各画素の座標(x,y)を初期補間線上の画素とする。
【0060】
なお、ここでは、管腔内画像の各画素の画素値変化を近似した近似曲面を作成して初期補間線を作成することとしたが、初期補間線の作成方法はこれに限定されるものではない。例えば、端点対間(その接続元端点と接続先端点との間)を結ぶ直線を初期補間線としてもよい。また、端点対間をベジェ曲線等の近似曲線で結び、この近似曲線を初期補間線としてもよい。以上のようにして注目対象の端点対について初期補間線を作成したならば、図7のステップc5にリターンし、その後ステップc7に移行する。
【0061】
そして、ステップc7では、補間線最適化部186が、ステップc3で選択した端点対を順次注目対象として補間線最適化処理を実行し、全ての端点対を結ぶ初期補間線を最適化する。上記したように、実施の形態1では、動的輪郭法(スネーク法)を用い、初期補間線を勾配コストが最小となるような経路に最適化する。図14は、実施の形態1における補間線最適化処理の詳細な処理手順を示すフローチャートである。また、図15は、初期補間線最適化処理を説明する図であり、注目対象の端点対である輪郭エッジEL61の接続元端点P61および輪郭エッジEL62の接続先端点P62と、これらを接続する初期補間線E6とを示している。
【0062】
図14に示すように、補間線最適化処理では、先ず、補間線最適化部186の制御点設定部187が制御点設定処理を実行し、注目対象の端点対を接続する初期補間線上に複数の制御点を例えば一定の間隔で設定する(ステップe1)。例えば、図15の例では、初期補間線E6上に等間隔で4つの制御点Pcが設定されている。
【0063】
続いて、補間線更新部188が、補間線更新処理を実行する(ステップe3)。例えば、補間線更新部188は、ステップe1で設定した各制御点の位置における勾配強度の値を用いて制御点毎に勾配コストを算出し、算出した勾配コストの和が小さくなるように各制御点を移動させて初期補間線を更新していく。例えば、図15中の制御点Pc−1の周囲において矢印で示すように、各制御点Pcをその周囲8方向のいずれかの方向へ移動させることで初期補間線E6を更新していく。なお、このように初期補間線E6を更新する際、その両端については動かさず、接続元端点P61および接続先端点P62の位置で固定とする。
【0064】
勾配コストの算出について説明すると、先ず、各制御点Pcの位置での輪郭エッジの方向を求める。輪郭エッジの方向は、その制御点Pcの位置の周囲(例えば8近傍画素)における輪郭エッジの情報をもとに、水平方向を0°とした角度(−90°≦θ<90°で表記する。)を正接(tanθ)を用いて算出することで得る。
【0065】
例えば、図8に示す注目画素P3を制御点Pcの位置とする。ここで、輪郭エッジの情報から、8近傍画素a〜hのうち、8近傍画素h,dの2つが輪郭エッジ上の画素であったとする。この場合、注目画素P3である制御点Pcの輪郭エッジの方向(θ(P3))は、次式(10)によってθ(P3)=0°として得られる。x(h)およびx(d)は、8近傍画素h,dそれぞれのx座標であり、y(h)およびy(d)は、8近傍画素h,dそれぞれのy座標である。
【数3】

【0066】
同様に、輪郭エッジの情報から、8近傍画素g,dの2つが輪郭エッジ上の画素であれば、注目画素P3である制御点Pcの輪郭エッジの方向(θ(P3))は、次式(11)によってθ(P3)=135°として得られる。x(g)およびx(d)は、8近傍画素g,dそれぞれのx座標であり、y(g)およびy(d)は、8近傍画素g,dそれぞれのy座標である。
【数4】

【0067】
また、上記した式(1)に従って各制御点Pcそれぞれについて勾配変化方向を算出する。そして、輪郭エッジの方向と、勾配変化方向との差分を算出し、差分が大きい程小さく、差分が小さいほど大きい値として勾配コストを算出する。例えば、差分の逆数を算出して勾配コストの値とする。
【0068】
最終的に、補間線更新部188は、制御点を移動させて経路を更新した後の勾配コストの和が更新前の勾配コストの和よりも大きく、更新を繰り返しても更新後の勾配コストの和が変化しない場合には、補間線の初期経路が最適化されたとしてステップe3の処理を終える。そして、図7のステップc7にリターンし、その後ステップc9に移行する。
【0069】
そして、ステップc9では、補間線作成部18が判定処理を行い、ステップc3で選択した端点対毎に、ステップc7の補間線最適化処理で最適化された補間線上の制御点毎の勾配コストの和が予め設定される閾値以下か否かによって処理の終了を判定する。勾配コストの和が閾値より大きい端点対間は接続すべきではないため、勾配コストの和が閾値より大きい端点対がある場合には処理を終了しないと判定し、ステップc3に戻って上記した処理を繰り返す。この場合のステップc3では、閾値より大きいと判定した端点対の接続元端点について接続先端点を変更し、再度端点対を選択する。その後、ステップc5以降の処理を選択した端点対について行う。
【0070】
一方、全ての端点対の勾配コストの和が閾値以下であれば、処理を終了するが、このとき、端点対毎に、その接続元端点を端点とする輪郭エッジと、接続先端点を端点とする輪郭エッジと、接続元端点と接続先端点との間を接続する最適化された補間線とを補間輪郭エッジとする。そして、各画素の画素値を補間輪郭エッジ上の画素か否かを示すフラグ情報とした補間輪郭エッジ画像、具体的には、形成した補間輪郭エッジ上の画素の画素値を「1」とし、それ以外の画素の画素値を「0」とした補間輪郭エッジ画像を得る。その後、図4のステップa7にリターンし、ステップa9に移行する。
【0071】
そして、ステップa9では、演算部15は、補間輪郭エッジ画像出力処理を実行し、ステップa7の補間線作成処理の結果得られた補間輪郭エッジ画像を例えば記録部14に出力して保存する。
【0072】
以上説明したように、実施の形態1では、輪郭エッジの端点を接続元端点とし、他の輪郭エッジの端点を接続先端点として端点対を選択することとした。そして、この端点対間を接続する補間線の初期経路を、補間線上の画素における画素値勾配のコスト値(勾配コスト)が最小となるような経路に最適化することで補間線を作成することとした。これによれば、粘膜構造の輪郭形状に沿って端点対間を接続する補間線を作成することができる。したがって、接続元端点とした輪郭エッジの端点に対して接続すべき輪郭エッジの端点を適切に選択し、これら接続元端点と接続先端点との間の途切れを作成した補間線によって適切に補間することができる。したがって、途切れた輪郭エッジを適切に接続することができる。
【0073】
(変形例1)
図16は、実施の形態1の変形例1における輪郭候補エッジ検出部16aの構成例を説明するブロック図である。変形例1の画像処理装置は、図1の輪郭候補エッジ検出部16を図16に示す輪郭候補エッジ検出部16aで置き換えた構成で実現できる。なお、図16において、実施の形態1と同一の構成には、同一の符号を付している。図16に示すように、変形例1では、輪郭候補エッジ検出部16aは、線エッジ抽出部161と、分岐エッジ除去手段としての分岐エッジ除去部163aと、輪郭候補エッジ選択部162とを備える。
【0074】
分岐エッジ除去部163aは、線エッジ抽出部161が抽出した線エッジから分岐している線エッジ部分を除去する。また、変形例1では、輪郭候補エッジ選択部162は、分岐エッジ除去部163aによる分岐エッジ除去後の線エッジ上の画素の中から平坦領域外の画素で構成されるエッジ部分を輪郭候補エッジとして選択する。
【0075】
この変形例1は、図4の全体フローチャートにおいて、ステップa3の輪郭候補エッジ検出処理が実施の形態1と異なる。図17は、変形例1における輪郭候補エッジ検出処理の詳細な処理手順を示すフローチャートである。なお、図17において、実施の形態1と同一の処理工程には、同一の符号を付している。
【0076】
図17に示すように、変形例1では、線エッジ抽出部161が線エッジを抽出した後、分岐エッジ除去部163aが分岐エッジ除去処理を実行する(ステップf6)。図18は、分岐エッジ除去処理を説明する図であり、図18(a)において、図17のステップb5で抽出した線エッジEL7を例示している。分岐エッジ除去処理では、先ず、抽出した線エッジの端点を検出するとともに、線エッジの分岐点を検出する。そして、分岐点から端点までの長さが予め設定される所定の長さに満たない場合に、この分岐点から端点までの線エッジ部分を線エッジから除去する。例えば、図18(a)に示すように、図17のステップf6で抽出した線エッジEL7が分岐しており、分岐点P71から端点P72までの長さが所定の長さ未満であったとする。この場合には、分岐点P71から端点P72までの線エッジ部分を線エッジEL7から除去する(図18(b))。以上のように分岐エッジ除去処理を実行した後は、ステップb7以降の処理を実施の形態1と同様に行う。
【0077】
(変形例2)
図19は、実施の形態1の変形例2における補間線作成部18bの構成例を説明するブロック図である。変形例2の画像処理装置は、図1の補間線作成部18を図19に示す補間線作成部18bで置き換えることで実現できる。なお、図19において、実施の形態1と同一の構成には、同一の符号を付している。図19に示すように、変形例2では、補間線作成部18bは、端点検出部181と、端点対選択部182と、初期補間線作成部183と、補間線最適化部186bとを備える。そして、変形例2では、補間線最適化部186bは、経路探索手段としての経路探索部189bを備える。
【0078】
この変形例2は、図6の補間線作成処理において、ステップc7の補間線最適化処理にかえて経路探索処理を行う点が実施の形態1と異なる。この経路探索処理では、経路探索部189bが、端点対を順次注目対象とし、注目対象の端点対を接続する補間線の初期経路をもとに、経路探索アルゴリズムによって勾配コストの値が最小となるような経路を探索する。
【0079】
経路探索アルゴリズムとしては、例えば、遺伝的アルゴリズムや、A−starアルゴリズム等が知られており、いずれの経路探索アルゴリズムを用いることとしてもよい。例えば、遺伝的アルゴリズムは、ある世代を形成している個体の集合を基本単位とした進化型の計算を行うアルゴリズムである。この遺伝的アルゴリズムでは、先ず初期集団を生成し、初期集団の中から個体を選択する。そして、選択した個体に対して交叉や突然変異を行って次世代集団を形成する。その後、次世代集団について処理を繰り返し、最終的に適応度の高い個体を選ぶものである。この遺伝的アルゴリズムを用いる場合には、各個体を特徴付ける遺伝子の染色体として、例えば、補間線上の各画素における勾配強度の方向成分(図5のステップb3で算出した勾配強度の横方向成分(左右)と縦方向(上下)成分)の組み合わせを用いる。また、評価値には、勾配コスト(補間線上の各画素における勾配コストの和)を用いる。
【0080】
(実施の形態2)
先ず、実施の形態2の画像処理装置の構成について説明する。図20は、実施の形態2の画像処理装置1cの機能構成例を説明するブロック図である。また、図21は、演算部15cを構成する輪郭エッジ補間部19cの構成例を説明するブロック図である。なお、実施の形態1で説明した構成と同一の構成については、同一の符号を付する。図20に示すように、実施の形態2の画像処理装置1cは、外部I/F部11と、操作部12と、表示部13と、記録部14cと、演算部15cと、画像処理装置1c全体の動作を制御する制御部20とを備える。
【0081】
記録部14cには、実施の形態2の処理を実現して管腔内画像から粘膜構造等の輪郭エッジを検出し、途切れた輪郭エッジを接続するための画像処理プログラム141cが記録される。
【0082】
また、演算部15cは、輪郭候補エッジ検出手段としての輪郭候補エッジ検出部16と、輪郭エッジ検出手段としての輪郭エッジ検出部17と、補間線作成手段としての補間線作成部18cと、輪郭エッジ補間手段としての輪郭エッジ補間部19cとを含む。ここで、輪郭候補エッジ検出部16、輪郭エッジ検出部17、補間線作成部18cおよび輪郭エッジ補間部19cは、この順に接続されている。
【0083】
補間線作成部18cは、実施の形態1と同様に構成され、図3に示して説明したように、端点検出手段としての端点検出部181と、端点対選択手段としての端点対選択部182と、近似曲面作成手段としての近似曲面作成部184および初期補間線決定手段としての初期補間線決定部185を備えた初期補間線作成手段としての初期補間線作成部183と、制御点設定手段としての制御点設定部187および補間線更新手段としての補間線更新部188を備えた補間線最適化手段としての補間線最適化部186とを備える。実施の形態2の補間線作成部18cは、接続元端点とする輪郭エッジの端点について、複数の接続先端点との間を接続する複数の補間線を作成する。そして、この補間線作成部18cは、接続元端点毎に作成した複数の補間線を輪郭エッジ補間部19cに出力する。
【0084】
輪郭エッジ補間部19cは、補間線作成部18cが接続元端点毎に作成した複数の補間線の中から1つを選択し、選択した補間線によって該当する端点対間の輪郭エッジを補間する。この輪郭エッジ補間部19cは、図21に示すように、勾配コスト取得手段としての勾配コスト取得部191cと、補間線選択手段としての補間線選択部192cと、補間輪郭エッジ形成手段としての補間輪郭エッジ形成部193cとを備える。
【0085】
勾配コスト取得部191cは、補間線作成部18cから入力される接続元端点毎の複数の補間線それぞれの勾配コストを取得する。補間線選択部192cは、勾配コスト取得部191cが取得した勾配コストをもとに、接続元端点毎の複数の補間線の中からそれぞれ1つを選択する。補間輪郭エッジ形成部193cは、接続元端点毎に選択した補間線に従って、選択した補間線と、選択した補間線によって接続される端点対の接続元端点を端点とする輪郭エッジおよび接続先端点を端点とする輪郭エッジとで補間輪郭エッジを形成する。
【0086】
図22は、実施の形態2の画像処理装置1cが行う処理手順を示す全体フローチャートである。なお、ここで説明する処理は、記録部14cに記録された画像処理プログラム141cに従って画像処理装置1cの各部が動作することにより実現される。なお、図22において、実施の形態1と同一の処理工程には、同一の符号を付する。
【0087】
図22に示すように、実施の形態2では、ステップa5において輪郭エッジ検出部17が輪郭エッジ検出処理を実行し、輪郭エッジを検出した後で、補間線作成部18cが補間線作成処理を実行する(ステップg7)。この補間線作成処理の処理手順自体は、実施の形態1と同様(図7を参照)である。ただし、実施の形態2では、図7に示すステップc3の端点対選択処理において、接続元端点とする輪郭エッジの端点(C(x,y)=2)について、接続先端点とする他の輪郭エッジの端点(C(x,y)=2)を複数選択し、接続元端点毎に端点対を複数組作成する。
【0088】
ここで、接続先端点を選択する際、接続元端点との距離をパラメータとして用いる場合には、接続元端点の全方位において、接続元端点との距離が所定の距離内である全ての輪郭エッジの端点(C(x,y)=2)を接続先端点として選択する。また、接続元端点との距離および接続元端点の勾配変化方向の2つをパラメータとして用いる場合には、接続元端点との距離が所定の距離内である輪郭エッジの端点(C(x,y)=2)のうち、接続元端点における勾配変化方向に対して垂直な方向を中心とした所定の角度範囲内の全ての輪郭エッジの端点(C(x,y)=2)を接続先端点として選択する。また、接続元端点の勾配変化方向のみをパラメータとして用いる場合には、例えば、接続元端点における勾配変化方向に対して垂直な方向を中心とした所定の角度範囲内の全ての輪郭エッジの端点(C(x,y)=2)を接続先端点として選択する。
【0089】
その後は、接続元端点毎に複数組作成した端点対を順次注目対象とし、実施の形態1と同様に各端点対について初期補間線作成処理(図7のステップc5)、補間線最適化処理(図7のステップc7)、判定処理(図7のステップc9)を順次行う。この補間線作成処理の結果、接続元端点毎に、その複数組の各端点対間をそれぞれ接続する複数の補間線が作成される。
【0090】
以上のようにして補間線作成処理を実行したならば、続いて、図22に示すように、輪郭エッジ補間部19cが、ステップg7で端点対を複数組選択した接続元端点を順次注目対象として、全ての接続元端点について輪郭エッジ補間処理を実行する(ステップg8)。図23は、実施の形態2における輪郭エッジ補間処理の詳細な処理手順を示すフローチャートである。
【0091】
図23に示すように、輪郭エッジ補間処理では、先ず、輪郭エッジ補間部19cの勾配コスト取得部191cが、勾配コスト取得処理を実行する(ステップh1)。この勾配コスト取得処理では、勾配コスト取得部191cは、注目対象の接続元端点について図22のステップg7で作成した複数の補間線上にそれぞれ複数の参照点を設定し、各参照点における勾配コストの値を取得する。このとき、複数の補間線上にそれぞれ同じ数の参照点を例えば一定間隔で設定する。各参照点における勾配コストの値は、実施の形態1(図14のステップe3の説明を参照)と同様に算出する。そして、補間線毎に各参照点における勾配コストの和を算出する。
【0092】
続いて、補間線選択部192cが補間線選択処理を実行し、注目対象の接続元端点について図22のステップg7で作成した複数の補間線の中から1つを選択する(ステップh3)。この補間線選択処理では、補間線選択部192cは、例えば、ステップh1で算出した補間線毎の勾配コストの和をもとに、これら補間線の中から、勾配コストの和が予め設定される閾値以下であって、最も小さい補間線を選択する。
【0093】
そして、補間輪郭エッジ形成部193cが、補間輪郭エッジ形成処理を実行する(ステップh5)。この補間輪郭エッジ形成処理では、補間輪郭エッジ形成部193cは、注目対象の接続元端点についてステップh3で選択した補間線と、注目対象の接続元端点を端点とする輪郭エッジおよび選択した補間線によって注目対象の接続元端点と接続される接続先端点を端点とする輪郭エッジとで補間輪郭エッジを形成する。
【0094】
以上説明したように、実施の形態2では、接続元端点とする輪郭エッジの端点について異なる複数の接続先端点を選択して端点対を複数組作成し、各端点対それぞれを接続する補間線を作成することとした。そして、補間線上の画素における画素値勾配のコスト値(勾配コスト)をもとに、作成した複数の補間線の中から1つを選択し、選択した補間線と、選択した補間線によって接続される接続元端点を端点とする輪郭エッジおよび接続先端点を端点とする輪郭エッジとで補間輪郭エッジを形成することとした。これによれば、実施の形態1と同様の効果を奏することができ、接続元端点とした輪郭エッジの端点に対して接続すべき輪郭エッジの端点を適切に選択し、これら接続元端点と接続先端点との間の途切れを補間線によって適切に補間することができる。したがって、途切れた輪郭エッジを適切に接続することができる。
【0095】
なお、上記した各実施の形態1,2では、輪郭エッジの端点の中から2つの端点を端点対として選択し、選択した端点対間を接続する補間線を作成することとしたが、輪郭候補エッジの端点の中から2つの端点を端点対として選択するようにしてもよい。あるいは、輪郭エッジの端点のうちの1つと輪郭候補エッジの端点のうちの1つとを端点対として選択するようにしてもよい。この場合、輪郭候補エッジの端点は、輪郭エッジの端点の検出と同様の手順で算出すればよい。
【0096】
また、上記した実施の形態1の画像処理装置1、実施の形態2の画像処理装置1cは、予め用意されたプログラムをパソコンやワークステーション等のコンピュータシステムで実行することによって実現することができる。以下、各実施の形態1,2で説明した画像処理装置1,1cと同様の機能を有し、画像処理プログラム141,141cを実行するコンピュータシステムについて説明する。
【0097】
図24は、本変形例におけるコンピューターシステム400の構成を示すシステム構成図であり、図25は、このコンピューターシステム400を構成する本体部410の構成を示すブロック図である。図24に示すように、コンピューターシステム400は、本体部410と、本体部410からの指示によって表示画面421に画像等の情報を表示するためのディスプレイ420と、このコンピューターシステム400に種々の情報を入力するためのキーボード430と、ディスプレイ420の表示画面421上の任意の位置を指定するためのマウス440とを備える。
【0098】
また、このコンピューターシステム400における本体部410は、図24および図25に示すように、CPU411と、RAM412と、ROM413と、ハードディスクドライブ(HDD)414と、CD−ROM460を受け入れるCD−ROMドライブ415と、USBメモリ470を着脱可能に接続するUSBポート416と、ディスプレイ420、キーボード430およびマウス440を接続するI/Oインターフェース417と、ローカルエリアネットワークまたは広域エリアネットワーク(LAN/WAN)N1に接続するためのLANインターフェース418とを備える。
【0099】
さらに、このコンピューターシステム400には、インターネット等の公衆回線N3に接続するためのモデム450が接続されるとともに、LANインターフェース418およびローカルエリアネットワークまたは広域エリアネットワークN1を介して、他のコンピューターシステムであるパソコン(PC)481、サーバ482、プリンタ483等が接続される。
【0100】
そして、このコンピューターシステム400は、記録媒体に記録された画像処理プログラム(例えば実施の形態1の画像処理プログラム141や実施の形態2の画像処理プログラム141c)を読み出して実行することで画像処理装置(例えば実施の形態1の画像処理装置1や実施の形態2の画像処理装置1c)を実現する。ここで、記録媒体とは、CD−ROM460やUSBメモリ470の他、MOディスクやDVDディスク、フレキシブルディスク(FD)、光磁気ディスク、ICカード等を含む「可搬用の物理媒体」、コンピューターシステム400の内外に備えられるHDD414やRAM412、ROM413等の「固定用の物理媒体」、モデム450を介して接続される公衆回線N3や、他のコンピューターシステムであるPC481やサーバ482が接続されるローカルエリアネットワークまたは広域エリアネットワークN1等のように、プログラムの送信に際して短期にプログラムを記憶する「通信媒体」等、コンピューターシステム400によって読み取り可能な画像処理プログラムを記録するあらゆる記録媒体を含む。
【0101】
すなわち、画像処理プログラムは、「可搬用の物理媒体」「固定用の物理媒体」「通信媒体」等の記録媒体にコンピューター読み取り可能に記録されるものであり、コンピューターシステム400は、このような記録媒体から画像処理プログラムを読み出して実行することで画像処理装置を実現する。なお、画像処理プログラムは、コンピューターシステム400によって実行されることに限定されるものではなく、他のコンピューターシステムであるPC481やサーバ482が画像処理プログラムを実行する場合や、これらが協働して画像処理プログラムを実行するような場合にも、本発明を同様に適用することができる。
【0102】
また、本発明は、上記した各実施の形態1,2や変形例1,2そのままに限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成してもよい。あるいは、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成してもよい。
【産業上の利用可能性】
【0103】
以上のように、本発明の画像処理装置、画像処理方法、および画像処理プログラムは、途切れた輪郭エッジを適切に接続するのに適している。
【符号の説明】
【0104】
1,1c 画像処理装置
11 外部I/F部
12 操作部
13 表示部
14,14c 記録部
141,141c 画像処理プログラム
15,15c 演算部
16,16a 輪郭候補エッジ検出部
161 線エッジ抽出部
162 輪郭候補エッジ選択部
163a 分岐エッジ除去部
17 輪郭エッジ検出部
18,18b,18c 補間線作成部
181 端点検出部
182 端点対選択部
183 初期補間線作成部
184 近似曲面作成部
185 初期補間線決定部
186,186b 補間線最適化部
187 制御点設定部
188 補間線更新部
189b 経路探索部部
19c 輪郭エッジ補間部
191c 勾配コスト取得部
192c 補間線選択部
193c 補間輪郭エッジ形成部
20 制御部

【特許請求の範囲】
【請求項1】
対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出手段と、
前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出手段と、
前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成手段と、
前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記輪郭候補エッジは、幅が1画素の線エッジであることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記輪郭候補エッジ検出手段は、前記エッジが分岐しており、該分岐点から前記エッジの端点までの長さが所定の長さに満たない場合に、該所定の長さに満たない前記分岐点から前記エッジの端点までのエッジ部分を前記エッジから除去する分岐エッジ除去手段を備えることを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記輪郭候補エッジ検出手段は、前記対象画像中の勾配の変化が小さい平坦領域外のエッジ部分を前記輪郭候補エッジとして選択する輪郭候補エッジ選択手段を備えることを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記補間線作成手段は、
前記輪郭エッジの端点を検出する端点検出手段と、
前記輪郭エッジの端点のうちの1つを前記接続元とし、該接続元とする前記輪郭エッジの端点について、前記接続先とする前記他の前記輪郭エッジの端点を複数選択して前記複数組の端点対とする端点対選択手段と、
前記複数組の端点対間を接続する補間線の初期経路を作成する初期補間線作成手段と、
前記補間線の初期経路を、前記補間線上の画素における画素値勾配によって定まるコスト値が最小となるような経路に最適化する補間線最適化手段と、
を備えることを特徴とする請求項1に記載の画像処理装置。
【請求項6】
前記端点対検出手段は、前記接続元とする前記輪郭エッジの端点からの距離および/または前記接続元とする前記輪郭エッジの端点における勾配の方向をもとに、前記接続先とする前記他の前記輪郭エッジの端点を選択することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記初期候補線作成手段は、
前記対象画像の各画素の画素値変化を近似した近似曲面を作成する近似曲面作成手段と、
前記端点対の座標に対応する前記近似曲面上の位置を通る直線と直交し、かつ前記対象画像の座標平面と平行な直線を含む平面を決定し、該平面と前記近似曲面との交線上の前記端点対を両端とする線分を前記補間線の初期経路とする初期補間線決定手段と、
を備えることを特徴とする請求項5に記載の画像処理装置。
【請求項8】
前記近似曲面作成手段は、前記対象画像の各画素の画素値変化を関数近似することで前記近似曲面を作成することを特徴とする請求項7に記載の画像処理装置。
【請求項9】
前記近似曲面作成手段は、前記対象画像に対してローパスフィルタ処理を行って前記近似曲面を作成することを特徴とする請求項7に記載の画像処理装置。
【請求項10】
前記初期補間線作成手段は、前記端点対間を結ぶ直線を前記補間線の初期経路とすることを特徴とする請求項5に記載の画像処理装置。
【請求項11】
前記初期補間線作成手段は、前記端点対間を結ぶ近似曲線を前記補間線の初期経路とすることを特徴とする請求項5に記載の画像処理装置。
【請求項12】
前記補間線最適化手段は、
前記補間線の初期経路上に所定の間隔で制御点を設定する制御点設定手段と、
前記制御点における前記コスト値が小さくなるように前記制御点を移動させて前記補間線の初期経路を更新する補間線更新手段と、
を備えることを特徴とする請求項5に記載の画像処理装置。
【請求項13】
前記補間線最適化手段は、前記補間線上の画素における前記輪郭エッジの方向と、前記補間線上の画素において勾配の変化が最大となる方向とから前記コスト値を算出することを特徴とする請求項5に記載の画像処理装置。
【請求項14】
前記補間線最適化手段は、経路探索アルゴリズムによって前記コスト値が最小となるような経路を探索する経路探索手段を備えることを特徴とする請求項5に記載の画像処理装置。
【請求項15】
前記輪郭エッジ補間手段は、
前記複数の補間線上にそれぞれ複数の参照点を設定し、該設定した各参照点における前記コスト値を取得する勾配コスト取得手段と、
前記各参照点における前記コスト値を前記複数の補間線毎に比較し、該複数の補間線の中から、前記コスト値が所定の閾値以下であって最も小さい補間線を選択する補間線選択手段と、
前記補間線選択手段が選択した補間線と、該補間線が接続する前記端点対の前記接続元を端点とする前記輪郭エッジおよび前記端点対の前記接続先を端点とする前記他の前記輪郭エッジとで補間輪郭エッジを形成する補間輪郭エッジ形成手段と、
を備えることを特徴とする請求項1に記載の画像処理装置。
【請求項16】
前記勾配コスト取得手段は、前記複数の補間線上に同じ数の前記参照点をそれぞれ設定することを特徴とする請求項15に記載の画像処理装置。
【請求項17】
対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出工程と、
前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出工程と、
前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成工程と、
前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間工程と、
を含むことを特徴とする画像処理方法。
【請求項18】
コンピュータに、
対象画像の各画素の勾配強度をもとにエッジを検出し、該エッジを輪郭候補エッジとする輪郭候補エッジ検出手順と、
前記輪郭候補エッジの勾配強度を閾値処理して輪郭エッジを検出する輪郭エッジ検出手順と、
前記輪郭エッジの端点を接続元とし、他の前記輪郭エッジの端点を接続先として、接続元とする前記輪郭エッジの端点が同じで接続先とする前記他の前記輪郭エッジの端点が異なる複数組の端点対間を接続する複数の補間線を、各端点対間の画素値勾配をもとに作成する補間線作成手順と、
前記複数の補間線上の画素における画素値勾配をもとに前記複数の補間線の中からいずれか1つの補間線を選択し、該選択した補間線が接続する前記端点対間の輪郭エッジを前記選択した補間線によって補間する輪郭エッジ補間手順と、
を実行させることを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate