説明

画像処理装置および画像処理方法

【課題】複数のフレーム画像に存在する特定の周波数のノイズ成分を効果的に除去する。
【解決手段】動画像を構成する各々のフレーム画像を、時間に沿って順次入力する画像入力部1と、画像入力部1からの動画像を複数の周波数帯域に分割する周波数分解部2と、分割した各動画像のなかで、特に時間に依存する分割した動画像の成分を消去または縮小する係数変更部3と、係数変更部3で消去または縮小した成分に基づいて、周波数分解部2とは逆の処理を行なうことで、周波数分解部2で分割した全ての動画像を再構成し、その再構成した動画像を時間毎に分割して、復元したフレーム画像を生成する画像再構成部4と、画像再構成部4で復元したフレーム画像を出力する画像出力部5と、を備えている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、超音波画像などの各種画像の鮮明化を可能にした画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
現在、医療分野においては、視覚的に非常に理解しやすいという特徴を生かして、超音波画像をはじめとして、レントゲン像,MRI画像,CT画像などの多くの医用画像が診断に用いられている。
【0003】
その中でも超音波画像は、レントゲン像とは異なり、撮影時における被曝の危険が少なく、またMRI画像に比べて撮影装置が安価かつ小型であり、リアルタイムの診断が可能なことから、心臓・循環器領域や産婦人科領域をはじめとして、さまざまな領域で診断に利用される。しかし超音波画像は、他の医用画像と比較してノイズによる影響が大きく、組織境界像が鮮明に得られない場合が多く、病巣が小さい場合などに、経験の浅い検査士が判断するのが困難になり、正確な診断を行なうために熟練が必要となる。
【0004】
また近年は、例えばメタボリック症候群への対応など、ヘルスケアを目的として、医療従事者に限らず誰でも対応ができる低価格な超音波画像装置の需要が高まっている。その場合、一般の人でも正確に診断できるような判りやすい画像を得ることが重要なため、画像のノイズを軽減し、かつ組織境界部を明確化できる画像処理方法や画像処理装置が求められていた。
【0005】
こうした問題に対し、特許文献1では、動画像を構成する各フレームの画像について、第1フレーム画像を複数の周波数領域に分解し、その複数の周波数領域のうち所望の周波数帯域に属する係数を、第1フレーム画像よりも前のフレーム画像である第2フレーム画像の同じ周波数領域に属する係数を用いて変更し、全ての周波数領域について係数の変更処理が終わると、その変更した係数に基づいて画像を再構築し、その画像を第1フレーム画像として出力することで、不必要なノイズの強調を抑制しつつ画像信号の強調を行なうことができる画像処理方法が提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2007−94555号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記特許文献1では、隣り合うフレーム画像に施される2次元離散ウェーブレット変換の解析結果の差を考慮して、画像の鮮明化を図る提案がなされているが、複数のフレーム画像に存在する比較的周波数の低いノイズ成分をフィルタリングすることが難しく、より一層の画像の鮮明化が求められていた。
【0008】
本発明は上記課題に鑑みなされたもので、複数のフレーム画像に存在する特定の周波数のノイズ成分を効果的に除去できる画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の画像処理装置は、上記目的を達成するために、動画像を構成する各フレーム画像を順次入力する入力手段と、前記動画像を複数の周波数帯域に分割する分解手段と、前記分割した各動画像のなかで、時間に依存する分割した動画像の成分のうち、目的とする周波数成分の展開係数を消去または縮小する変更手段と、前記消去または縮小した成分に基づいて、前記分解手段とは逆の処理を行なうことで、前記分割した全ての動画像を再構成し、その再構成した動画像を時間毎に分割して、復元したフレーム画像を生成する再構成手段と、前記復元したフレーム画像を出力する出力手段と、を備えることを特徴とする。
【0010】
ここでの変更手段は、前記分割した動画像のなかで、時間に依存しない高周波成分を示す分割した動画像の成分を拡大する構成を有する。
【0011】
また前記分解手段は、前記動画像の縦,横,および時間の各方向について、ウェーブレット変換処理を行なうものであり、前記再構成手段は、前記分割した全ての動画像の縦,横,および時間の各方向について、ウェーブレット逆変換処理を行なうものであることを特徴とする。
【0012】
その場合の前記成分は、前記ウェーブレット変換処理を行なうことで得られるウェーブレット展開係数である。
【0013】
また、前記分解手段によるウェーブレット変換処理と、前記再構成手段によるウェーブレット逆変換処理は、好ましくはDaubecheies10のマザーウェーブレットを用いて行われる。
【0014】
本発明の画像処理方法は、上記目的を達成するために、動画像を構成する各フレーム画像を順次入力する入力工程と、前記動画像を複数の周波数帯域に分割する分解工程と、前記分割した各動画像のなかで、時間に依存する分割した動画像の成分のうち、目的とする周波数成分の展開係数を消去または縮小する変更工程と、前記消去または縮小した成分に基づいて、前記分解手段とは逆の処理を行なうことで、前記分割した全ての動画像を再構成し、その再構成した動画像を時間毎に分割して、復元したフレーム画像を生成する再構成工程と、前記復元したフレーム画像を出力する出力工程と、を備える。
【0015】
またこうした画像処理方法を、コンピュータに実行させるプログラムについても、同様の目的を達成できる。
【0016】
さらに、当該プログラムを格納したコンピュータが読み取り可能な記憶媒体についても、同様の目的を達成できる。
【発明の効果】
【0017】
上記画像処理装置や画像処理方法では、動画像を構成する各フレーム画像について、複数の周波数帯域に分解するのではなく、3次元の動画像そのものを複数の周波数帯域に分解する。そして、時間に依存する分割した動画像について、適切な周波数の成分を任意に選択し、これを削除あるいは縮小して、分割した全ての動画像を再構成すれば、複数のフレーム画像に存在する特定の周波数のノイズ成分を効果的に除去することが可能になる。
【0018】
そしてこれは、上記画像処理方法をコンピュータに実行させるプログラムや、そのプログラムを格納したコンピュータが読み取り可能な記憶媒体についても、実現可能である。
【0019】
また、時間に依存しない高周波成分を示す分割した動画像の成分を拡大した上で、分割した全ての動画像を再構成すれば、復元した個々のフレーム画像について、エッジを強調したより鮮明な画像を得ることができる。
【0020】
さらに、分解手段や再構成手段が行なう処理に関し、広く知られているウェーブレット変換やウェーブレット逆変換の各処理を利用することができ、その上でウェーブレット展開係数を変更するだけで、より鮮明なフレーム画像を出力することが可能になる。
【0021】
また、Daubecheies10のマザーウェーブレットを用いることで、最終的なフレーム画像を得る上で、優れた画像の再構成を実現でき、また良好な分解能を得ることができる。
【図面の簡単な説明】
【0022】
【図1】本発明の好ましい一実施形態を示す画像処理装置のブロック構成図である。
【図2】同上、周波数分解部の構成を示すブロック図である。
【図3】同上、2次元信号の帯域分割を模式的に示す画像の平面図である。
【図4】同上、2次元信号の帯域分割の手順を示す概略図である。
【図5】同上、3次元ウェーブレット解析による一連の処理手順を説明する概略図である。
【図6】同上、画像再構成部の構成を示すブロック図である。
【図7】同上、図1の画像処理装置を含む超音波エコー画像システムの概略構成図である。
【図8】同上、図7のシステムで得られた各画像の平面図である。
【図9】同上、図8の要部拡大図である。
【発明を実施するための形態】
【0023】
以下、本発明の好ましい実施形態について、添付図面を参照しながら詳細に説明する。
【0024】
図1は、本実施例における画像処理装置100の機能構成を示している。同図において、画像処理装置100は、画像入力部1と、周波数分解部2と、係数変更部3と、画像再構成部4と、画像出力部5とを備えて構成される。
【0025】
画像入力部1は、動画像を構成する各フレームの画像(画像信号)を入力するもので、画像の供給源としては、例えば図示しないが、医療用の画像診断装置に組み込まれる撮像装置があり、この撮像装置からの超音波画像,レントゲン像,MRI画像,CT画像などが、電気的なアナログ画像信号として画像入力部1に送出される。画像入力部1は、当該アナログ画像信号に対してA/D変換を施し、これを複数の画素を二次元配列してなるディジタル画像信号として後段の周波数分解部2に送出する。
【0026】
本実施形態において、画像入力部1に入力される動画像は、所定のフレームレートで、且つ各フレームの画像が所定の解像度であるとする。
【0027】
また、それらの各フレームの画像は、単独の色成分からなるモノクロ画像であっても、複数の色成分からなるカラー画像であっても構わない。後者のカラー画像の場合、後述する各処理は各々の色成分に対して行われることになる。
【0028】
各フレームの画像が複数の色成分を有する場合、画像入力部1は色空間変換部11を備えてもよい。この色空間変換部11は、画像入力部1に入力する各フレームの画像がRGBの3つの色成分を有する場合、RGBからYUVに色空間を変換するもので、後続の処理については、色空間変換部11で変換した後の各色成分に対して行なうようにすればよい。
【0029】
周波数分解部2には、画像入力部1からフレーム単位で画像が入力されるが、ここでの周波数分解部2は、特に時系列順に並べられた複数のフレーム画像群を一つの動画像データとして、これを複数の周波数帯域に分解し、そのフレーム画像群について分解した周波数帯域の係数を係数変換部3に送出する機能を有している。
【0030】
前記複数のフレーム画像群を複数の周波数帯域に分解する手法として、本実施形態では3次元離散ウェーブレット変換を利用して多重解析度分析(multi resolution analysis,MRA)を行なう機能が、周波数分解部2に設けられる。この周波数分解部2では、前記フレーム画像群を低い周波数成分と高い周波数成分に分解する処理ルーチンを繰り返し複数回行なうことで、その特徴を解析できる。
【0031】
周波数分解部2の機能構成についてさらに詳しく説明すると、当該周波数分解部2は図2に示すように、複数のローパスフィルタ(LPF)61〜63と、複数のハイパスフィルタ(HPF)64〜66と、各々のフィルタ61〜66から出力される信号成分の周波数帯域をN分の1倍(1/N)にするダウンサンプラ67〜72との組み合わせにより構成される。図2の構成は、最も一般的なウェーブレット変換処理であるオクターブ分割を複数レベルに渡って行なう場合の構成例を示している。また、階層の数を表すレベル数は3(レベル1〜レベル3)であり、画像信号を低域と高域に分割し、且つ低域成分のみを階層的に分割する構成を取っているが、レベル数は3以外であっても構わない。
【0032】
図2において、周波数分解部2に入力する画像信号は、先ずレベル1のローパスフィルタ61とハイパスフィルタ64とにより帯域分割され、得られた低域側の信号と高域側の信号は、それぞれ対応するダウンサンプラ67,68によって、その周波数帯域(解像度)がN分の1倍に間引かれる。
【0033】
前記ダウンサンプラ67から出力される低域側の信号は、次のレベル2のローパスフィルタ62とハイパスフィルタ65によってさらに帯域分割される。これら帯域分割により得られた低域側の信号と高域側の信号は、それぞれ対応するダウンサンプラ69,70によって、その周波数帯域(解像度)がN分の1倍に間引かれる。
【0034】
前記ダウンサンプラ69から出力される低域側の信号は、次のレベル3のローパスフィルタ63とハイパスフィルタ66によってさらに帯域分割される。これら帯域分割により得られた低域側の信号と高域側の信号は、それぞれ対応するダウンサンプラ71,72によって、その周波数帯域(解像度)がN分の1倍に間引かれる。
【0035】
このような処理を所定のレベルまで行うことで、低域側の信号を階層的に帯域分割した各周波数帯域の信号が順次生成されていく。図2の例では、レベル3まで帯域分割した結果、LLL信号,LLH信号,LH信号111,H信号が各々生成されていることを示している。なお、ここでの「L」は低域成分であることを表し、「H」は高域成分であることを表している。
【0036】
図3には、レベル3まで2次元のオリジナル画像を帯域分割した結果得られる帯域成分を図示する。但し、この図3での「L」及び「H」の表記法は、1次元信号を扱った上記の説明とは異なる。左側の記号表記は画像の横方向に関する周波数成分を表し、右側の記号表記は画像の縦方向に関する周波数成分を示し、さらに左端の添え字(下付き数字)はレベルを示す。そのため例えば「HL」は、レベル1において画像横方向については高周波成分を、画像縦方向については低周波成分を示すことになる。またここでも、各レベルにおいて「LL」領域を対象として繰り返し帯域分割を行なうことで、より低周波数の帯域信号を抽出できる。
【0037】
こうした帯域分割の概念を、図4において模式的に示す。ここでは、レベル0の帯域分割の対象となるオリジナルの原画像を「LL」として表し、そこからレベル1のローパスフィルタ61とハイパスフィルタ64を用いて、画像の横方向と縦方向のそれぞれについて、低周波数と高周波数に分割した「LL」,「HL」,「LH」,「HH」の各分割画像を得る。
【0038】
これらの各分割画像はダウンサンプラ67,68によって、その周波数帯域がN分の1倍に間引かれた後、「LL」の分割画像について、そこからレベル2のローパスフィルタ62とハイパスフィルタ65を用いて、画像の横方向と縦方向のそれぞれについて、低周波数と高周波数に分割した「LL」,「HL」,「LH」,「HH」の各分割画像を得る。
【0039】
これらの各分割画像はダウンサンプラ69,70によって、その周波数帯域がN分の1倍に間引かれた後、「LL」の分割画像について、そこからレベル3のローパスフィルタ63とハイパスフィルタ66を用いて、画像の横方向と縦方向のそれぞれについて、低周波数と高周波数に分割した「LL」,「HL」,「LH」,「HH」の各分割画像を得る。
【0040】
これらの各分割画像はダウンサンプラ71,72によって、その周波数帯域がN分の1倍に間引かれ、最終的には図3に示すような、「HL」,「LH」,「HH」,「HL」,「LH」,「HH」,「LL」,「HL」,「LH」,「HH」の各分割画像を得ることができる。
【0041】
以上、1次元信号と2次元信号に関するウェーブレット変換を利用した多重解析度分析の構成と手法について説明したが、本発明では特に3次元の動画像データについて、周波数分解部2が同様の多重解析度分析を行なう機能を有する。これは図5に示すように、画像入力部1から時間軸Tに沿って順次送り出され、横軸Xと縦軸Yに展開する各フレームの画像110について、周波数分解部2が所定時間内の複数の画像110を一つの動画像データ120として扱い、この動画像データ120を上記手法に従って帯域分割することで達成される。このように本実施形態では、動画像を取り扱う場合に、単一時刻に得られるフレーム画像110毎ではなく、時間軸Tをも考慮したウェーブレット変換処理を行なうことで、横軸Xおよび縦軸Yのみならず時間軸Tに対しても、高周波成分と低周波成分について動画像データ120を分離することが可能になる。
【0042】
その具体的な処理手順を説明すると、図5(a)に示すように、前記周波数分解部2は、処理すべきオリジナルの3次元の動画像データ120を、先ずレベル1のローパスフィルタ61とハイパスフィルタ64とにより帯域分割し、動画像データ120の時間軸T,縦軸Yおよび横軸Xの各方向について、低周波数と高周波数に分割した「LLL」,「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’を得る。得られた分割動画像データ120’は、それぞれ対応するダウンサンプラ67,68によって、その周波数帯域がN分の1倍に間引かれる。
【0043】
ここで、左側の記号表記は動画像データ120の時間軸T方向に関する周波数成分を表し、中央の記号表記は動画像データ120の縦軸Y方向に関する周波数成分を示し、右側の記号表記は動画像データ120の横軸X方向に関する周波数成分を示す。図5(a)では、便宜的に横軸X方向の周波数成分が「**H」の表記を省略している。
【0044】
図5(b)に示すように、周波数分解部2は、「LLL」の分割動画像データ120’について、そこからレベル2のローパスフィルタ62とハイパスフィルタ65を用いて、当該分割動画像データ120’の時間軸T,縦軸Yおよび横軸Xの各方向について、低周波数と高周波数に分割した「LLL」,「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’’を得る。
【0045】
これらの各分割動画像データ120’’はダウンサンプラ69,70によって、その周波数帯域がN分の1倍に間引かれた後、「LLL」の分割画像について、そこからレベル3のローパスフィルタ63とハイパスフィルタ66を用いて、当該分割動画像データ120’の時間軸T,縦軸Yおよび横軸Xの各方向について、低周波数と高周波数に分割した「LLL」,「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’’’を得る。
【0046】
これらの各分割動画像データ120’’’はダウンサンプラ71,72によって、その周波数帯域がN分の1倍に間引かれ、最終的には1つの動画像データ120から、図5(c)に示すような複数の帯域分割された分割動画像データ120’,120’’,120’’’を得ることができる。
【0047】
上述した動画像データ120の帯域分割を行なう上で必要なローパスフィルタ61〜63とハイパスフィルタ64〜66は、ウェーブレット変換におけるスケーリング関数と、ウェーブレット関数(マザーウェーブレット)にそれぞれ対応する。マザーウェーブレットとして用いられる関数は種々知られているが、ここでは次の数1で表されるDaubecheies関数ψ(x)を適用する。
【0048】
【数1】

【0049】
なお、上記数1において、kは整数、qは数列で、φ(x)はスケーリング関数である。このスケーリング関数φ(x)は、数1に示すDaubecheiesのマザーウェーブレットψ(x)との間でトゥースケール関係を満たしており、次の数2で表せる。
【0050】
【数2】

【0051】
上記数2において、pは数列である。これらの数列p,qは、マザーウェーブレット毎に値が決まっている。
【0052】
一方、オリジナルの動画像データ120を構成する各画素の輝度信号または色差信号をフーリエ変換することで、次の数3に示す数列c0,kを決定する。
【0053】
【数3】

【0054】
上記数3において、f(x)はオリジナル信号を示す。このオリジナル信号f(x)ひいては数列c0,kがわかれば、次の数4および数5の各式を考慮して、出発点となる数列c0,kの成分を、漸近的に数列cj−1,kと数列dj−1,kに分解すれば、オリジナルの動画像データ120を周波数成分毎に分解できる。
【0055】
【数4】

【0056】
【数5】

【0057】
ここで、jは0以下の整数で、j−1の絶対値は分解過程の繰り返し回数を示し、前述のレベルに相当する。また、lは整数である。
【0058】
上記数4および数5は、オリジナル信号f(x)を表す数列c0,kがあるとき、そこから数列cj−1,kと数列dj−1,kが求まり、すなわち次のレベルの低周波成分と高周波成分の各関数f(x),g(x)が求まることを意味する。ここで、関数f(x),g(x)は直交条件を満たす関係にあり、上記Daubecheiesのマザーウェーブレットψ(x)そのものが、直交ウェーブレットとしての性質を有している。また、数4および数5は、入力cj,kに、ディジタルローパスフィルタaと、ディジタルハイパスフィルタbを各々畳み込んだ式といえる。これらの数列a,bは、マザーウェーブレット毎に値が決まっている。
【0059】
上記説明中、各数列a,b,p,qは次の関係式が成立する。
【0060】
【数6】

【0061】
さらに本実施形態では、後述する画像再構成において優れており、またフィルタとしての分解能が良いとされるDaubecheies10のマザーウェーブレットψ(x)を用いる関係で、上記数6の数列hは、次のように値が決まる。
【0062】
【数7】

【0063】
周波数分解部2は、上述した動画像データ120の帯域分割を行なう際に、最終的な画像の再構成時に必要なパラメータとなるスケーリング係数s(j)およびウェーブレット展開係数ω(j)を算出し、これを後段の係数変更部3に送出する。ここで、スケーリング係数s(j)は、前記スケーリング関数φ(x)に基づいて、次のように表せる。
【0064】
【数8】

【0065】
上記数8は、前述したトゥースケール関係によって次のようになる。
【0066】
【数9】

【0067】
そのため、レベル0のスケーリング係数s(0)から、逐次レベルの大きいスケーリング係数s(1),s(2),s(3)…を求めることができる。
【0068】
一方、ウェーブレット展開係数ω(j)は、前記マザーウェーブレットψ(x)に基づいて、次のように表せる。
【0069】
【数10】

【0070】
上記数10は、同じくトゥースケール関係によって次のようになる。
【0071】
【数11】

【0072】
そのため、各レベルのウェーブレット展開係数ω(j)は、それよりも一つ小さいレベルのスケーリング係数s(j−1)から求めることができる。
【0073】
こうして、動画像データ120をウェーブレット解析することで得られるスケーリング係数s(j)やウェーブレット展開係数ω(j)が、周波数分解部2から係数変更部3に送出されると、次に係数変更部3は、適切な周波数成分を任意に選択し、その周波数成分に関わるウェーブレット展開係数ω(j)を削除または縮小し、目的とする周波数成分の画像ノイズを除去または軽減する処理を行なう。
【0074】
これは図5(c)に示すように、周波数分解部2で得られた各周波数成分の分割動画像データ120’,120’’,120’’’のなかで、特に時間軸Tに依存する分割動画像データ120A(図中、網掛けの部分)について、そのウェーブレット展開係数ω(j)を消去または縮小することで達成される。
【0075】
一方、本実施形態における係数変更部3は、後述の再構成される個々のフレーム画像130について、エッジを強調した画像を得るために、時間軸Tに依存しない動画像データ120’,120’’,120’’’のなかで、高周波成分を示す分割動画像データ120B(図中、斜線の部分)について、そのウェーブレット展開係数ω(j)を拡大若しくは等倍する機能を備えている。
【0076】
こうして、係数変更部3によって適切な周波数成分を示すウェーブレット展開係数ω(j)の変更が加えられると、変更後のウェーブレット展開係数ω(j)とスケーリング係数s(j)とを含めたパラメータ情報が、画像再構成部4に送出される。
【0077】
画像再構成部4は、前記周波数分解部2による画像解析の処理とは逆の処理(ウェーブレット逆変換処理)を行なって、図5に示す復号後のフレーム画像130を再構成するもので、これは図6に示すように、複数のローパスフィルタ(LPF)81〜83と、複数のハイパスフィルタ(HPF)84〜86と、各々のフィルタ81〜86に入力する信号成分の周波数帯域をN倍にするアップサンプラ87〜92と、加算器93〜95の組み合わせにより構成される。なお、同図において階層の数を表すレベル数は3であるが、これは前記周波数分解部2のレベル数に一致させて、適宜変更が可能である。
【0078】
図6において、周波数分解部2から出力される各帯域成分のうち、LLL信号とLLH信号は、それぞれアップサンプラ87,88によって、その周波数帯域がN倍にアップサンプルされる。アップサンプラ87でアップサンプルされたLLL信号は、ローパスフィルタ81によってフィルタリングされると共に、アップサンプラ88でアップサンプルされたLLH信号は、ハイパスフィルタ84によってフィルタリングされ、それぞれの信号を加算器93で帯域合成する。ここでの処理により、レベル3の逆変換が完了する。
【0079】
以下同様に、上述の逆変換処理をレベル1まで繰り返し行なえば、最終的な逆変換後のフレーム画像130が得られる。
【0080】
すなわち、加算器93からの出力信号は、アップサンプラ89によりさらにN倍の周波数帯域にアップサンプルされた後、ローパスフィルタ82によってフィルタリングされて加算器94に送られる。また、周波数分解部2からのLH信号は、アップサンプラ90によりさらにN倍の周波数帯域にアップサンプルされた後、ハイパスフィルタ85によってフィルタリングされて加算器94に送られる。当該加算器94が、ローパスフィルタ82およびハイパスフィルタ85からの各信号を帯域合成することにより、レベル2の逆変換が完了する。
【0081】
加算器94からの出力信号は、アップサンプラ91によりさらにN倍の周波数帯域にアップサンプルされた後、ローパスフィルタ83によってフィルタリングされて加算器95に送られる。また、周波数分解部2からのH信号は、アップサンプラ92によりさらにN倍の周波数帯域にアップサンプルされた後、ハイパスフィルタ86によってフィルタリングされて加算器95に送られる。当該加算器95が、ローパスフィルタ83およびハイパスフィルタ86からの各信号を帯域合成することにより、レベル1の逆変換が完了する。
【0082】
以上が、1次元信号に関するウェーブレット逆変換の構成と手法について説明したが、本発明では特に3次元の動画像データについて、画像再構成部4が同様のウェーブレット逆変換を行なう機能を有する。
【0083】
その具体的な処理手順を説明すると、図5(c)において、前記画像再構成部4は、レベル3の各分割動画像データ120’’’に関し、時間軸T,縦軸Yおよび横軸Xの各方向について、何れも低周波の周波数成分を持つ「LLL」の分割動画像データ120’’’を、アップサンプラ87でアップサンプルし、これをローパスフィルタ81でフィルタリングする。一方、それ以外の「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’’ ’を、別なアップサンプラ88でアップサンプルし、これをハイパスフィルタ84でフィルタリングする。ローパスフィルタ81およびハイパスフィルタ84からの各データを加算器93で帯域合成することで、図5(b)における「LLL」の分割動画像データ120’’が再構成される。
【0084】
同様に、加算器93から出力される「LLL」の分割動画像データ120’’を、アップサンプラ89でアップサンプルし、これをローパスフィルタ82でフィルタリングする。一方、それ以外の「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’ ’を、別なアップサンプラ90でアップサンプルし、これをハイパスフィルタ85でフィルタリングする。ローパスフィルタ82およびハイパスフィルタ85からの各データを加算器94で帯域合成することで、図5(a)における「LLL」の分割動画像データ120’が再構成される。
【0085】
さらに、加算器94から出力される「LLL」の分割動画像データ120’を、アップサンプラ91でアップサンプルし、これをローパスフィルタ83でフィルタリングする。一方、それ以外の「HLL」,「LHL」,「HHL」,「LLH」,「HLH」,「LHH」,「HHH」の各分割動画像データ120’ を、別なアップサンプラ92でアップサンプルし、これをハイパスフィルタ86でフィルタリングする。ローパスフィルタ83およびハイパスフィルタ86からの各データを加算器95で帯域合成することで、元の動画像データ120を再構成することができる。
【0086】
画像再構成部4はさらに、復元した動画像データ120を時間軸Tに沿って2次元のフレーム画像130に分割し、その一つまたは複数を選択して画像出力部5に送出する。画像出力部5は、画像再構成部4により得られた再構成画像すなわちフレーム画像130を出力するもので、これは例えば表示装置や印刷装置などで具現化される。
【0087】
こうした一連の処理の過程で、個々のローパスフィルタ81〜83やハイパスフィルタ84〜86の特性は、前記係数変更部3からのウェーブレット展開係数ω(j)やスケーリング係数s(j)によって決定される。つまり、周波数分解部2から出力される各分割動画像データ120’,120’’,120’’’は、これらのウェーブレット展開係数ω(j)やスケーリング係数s(j)によって、適宜変更が加えられて再構成される。
【0088】
そのため、係数変更部3によって時間軸Tに依存するウェーブレット展開係数ω(j)を消去或いは縮小したことにより、画像再構成部4で逆変換した後の各フレーム画像130は、時間に依存した比較的周波数の低いノイズ成分が消去される。また、時間軸Tに依存しない高周波成分を示すウェーブレット展開係数ω(j)を拡大したことにより、画像再構成部4で逆変換した後の各フレーム画像130は、エッジを強調した鮮明な画像となる。
【0089】
次に、上記構成や手法を実現する実験例とその結果を説明する。図7は、上記画像処理装置100を含む超音波エコー画像システムの概略構成を示すもので、同図において、Sは超音波画像を取得する際の試料となる被対象物で、ここでは新鮮な豚前足を使用して、脂肪,筋肉および骨の境界を解析対象としている。被対象物Sは、容器たる水槽201に投入された水Wに浸されているが、これは後述する超音波プローブ205の測定力により、被対象物Sの軟部組織が変形しないようにする水浸法を適用しているためである。また、202は水Wの温度を検知する水温計、203は水W内に置かれたヒータであり、図示しないヒータ制御装置が水温計202からの温度情報に基づき、水Wの温度を例えば36℃に保持するように、ヒータ203の加熱量を制御している。
【0090】
205は、被対象物Sに向けて設けられた超音波プローブであり、当該プローブ205は、固定用ジグに相当するプローブ保持装置206を介して、アクチュエータとして利用するNC工作機械のチャック207に取り付けられる。これにより、チャック207の回転に伴い、超音波プローブ205を被対称物Sに向かって、若しくは被対称物Sから離れるように移動させることが可能になり、被測定物Sを捜査するに際して、得られる画像の再現性を考慮している。
【0091】
前記超音波プローブ205は、被対象物Sの超音波画像を生成する超音波画像装置211にケーブル212を介して接続される。この装置211は、主に生体の皮下脂肪層の厚さを計測するヘルスケアを目的として開発された低価格機であり、一例として計測可能な最大深度は105mmである。また、ここで使用する超音波プローブ205は、中心周波数が6MHzの素子を64個配置しており、37mmの有効測定幅を有する。
【0092】
前記超音波画像装置211は、前記画像処理装置100のハードウェア構成を具現化するコンピュータ(PC)221にケーブル213を介して接続される。PC221は周知のように、CPUや記憶装置などを備える制御処理部223と、キー操作が可能な操作部224と、超音波画像装置211からの超音波画像を取り込む入力インターフェース225と、LEDなどの表示部226などにより構成され、前記画像入力部1が入力インターフェース225に相当し、周波数分解部2,係数変更部3および画像再構成部4が制御処理部223に相当し、画像出力部5が表示部226に相当する。なお、画像処理装置100のハードウェア構成は、図7に示すものに限られない。
【0093】
上記構成において、実験ではNC工作機械のテーブル速度ひいては超音波プローブ205の送り速度を153.692mm/minに設定し、超音波画像装置211によって130mSecのサンプリングタイムで被対象物Sの超音波画像を取得した。これらの超音波画像をPC221に取り込み、上記画像処理装置100を利用して、オリジナルのフレーム画像110から、再構成したフレーム画像130を出力した結果を図8に示す。
【0094】
同図において、120はPC221の制御処理部223に取り込まれるオリジナルの動画像データである。これは上述したように、時間軸Tに沿って、サンプリングタイム毎に取得した各フレーム画像110の集合体から構成される。図8(a)は、ウェーブレット変換前の一つのフレーム画像110を示している。
【0095】
図8(b)は、周波数分解部2による3次元ウェーブレット解析を行なった一例であり、図中横方向は時間軸T、縦方向は一つのフレーム画像110における縦軸Yについて表示している。係数変更部3は、時間に依存する分割動画像データ120Aの成分を削除すると共に、時間に依存しない高周波成分を示す分割動画像データ120Bの成分を2倍に拡大して、これを画像再構成部4に送出し、解析画像を逆変換する。
【0096】
図8(c)は、このような手順で得られた再構成後のフレーム画像130である。図8(a)に示すオリジナルのフレーム画像110と比較すると、被対象物Sの組織境界が強調されていること、並びにノイズが消えていることが判る。
【0097】
図9は、図8(a)に示すオリジナルのフレーム画像110の要部150と、図8(c)に示す再変換後のフレーム画像130の要部160を、それぞれ拡大したものである。要部150,160は同じ位置にあって、オリジナルのフレーム画像110に存在したノイズNが、再変換後のフレーム画像130では除去されていることが判る。
【0098】
なお、本例の係数変更部3は、時間に依存する分割動画像データ120Aに関し、その全ての展開係数を削除(すなわち、ウェーブレット展開係数ω(j)を0に置き換える)処理を行なうが、例えば心臓等の常に動く臓器のエコー画像では、同様の処理を行なうと必ずしも適切ではない場合が予想されるため、その場合は時間に依存する分割動画像データ120Aのうち、全ての展開係数ではなく、目的とする特定の周波数成分の展開係数を削除(消去)または縮小するようにしてもよい。これにより、常に動く被対象物Sであっても、複数のフレーム画像110に存在する特定の周波数のノイズ成分を効果的に除去することができる。
【0099】
以上のように、本実施形態における画像処理装置100は、動画像としての動画像データ120を構成する各々のフレーム画像110を、時間すなわち時間軸Tに沿って順次入力する入力手段としての画像入力部1と、動画像データ120を複数の周波数帯域に分割する分解手段としての周波数分解部2と、分割した各動画像データ120’,120’’,120’’’のなかで、時間軸Tに依存する分割した動画像データ120Aの成分を消去または縮小する変更手段としての係数変更部3と、係数変更部3で消去または縮小した成分に基づいて、周波数分解部2とは逆の処理を行なうことで、周波数分解部2で分割した全ての動画像データ120’,120’’,120’’’を再構成し、その再構成した動画像データ120を時間毎に分割して、復元したフレーム画像130を生成する再構成手段としての画像再構成部4と、画像再構成部4で復元したフレーム画像130を出力する出力手段としての画像出力部5と、を備えている。
【0100】
ここでは動画像データ120を構成する各フレーム画像110について、複数の周波数帯域に分解するのではなく、3次元の動画像データ120そのものを複数の周波数帯域に分解する。そして、時間軸Tに依存する分割した動画像データ120Aについて、適切な周波数の成分を任意に選択し、これを削除あるいは縮小して、分割した全ての動画像データ120’,120’’,120’’’を再構成すれば、複数のフレーム画像110に存在する特定の周波数のノイズ成分を効果的に除去することが可能になる。
【0101】
また、本実施形態における係数変更部3は、前記分割した動画像データ120’,120’’,120’’’のなかで、特に時間軸Tに依存しない高周波成分を示す分割した動画像データ120Bの成分を拡大するものであり、これにより分割した全ての動画像データ120’,120’’,120’’’を再構成すれば、復元した個々のフレーム画像130について、エッジを強調したより鮮明な画像を得ることができる。
【0102】
また、本実施形態における周波数分解部2は、動画像データ120の横軸X,縦軸Y,および時間軸Tの各方向について、それぞれ低周波と高周波に帯域を分割するウェーブレット変換処理を行なう構成を有し、画像再構成部4は、分割した全ての動画像データ120’,120’’,120’’’の横軸X,縦軸Y,および時間軸Tの各方向について、周波数分解部2とは逆のウェーブレット逆変換処理を行なう構成を有する。
【0103】
こうすれば、広く知られているウェーブレット変換やウェーブレット逆変換の各処理を利用することができる。
【0104】
また上述した成分とは、ウェーブレット変換処理を行なうことで得られるウェーブレット展開係数ω(j)であり、そのウェーブレット展開係数ω(j)を変更するだけで、より鮮明なフレーム画像130を出力することが可能になる。
【0105】
さらに、周波数分解部2によるウェーブレット変換処理と、画像再構成部4によるウェーブレット逆変換処理を、本実施形態のようなDaubecheies10のマザーウェーブレットを用いて行えば、最終的なフレーム画像130を得る上で、優れた画像の再構成を実現でき、また良好な分解能を得ることができる。
【0106】
本実施形態では、こうした画像処理装置100の構成だけでなく、画像処理装置100が処理実行する方法についても、同様の作用効果が得られる。好ましい画像処理方法は、画像入力部1が行なう工程と、周波数分解部2が行なう工程と、係数変更部3が行なう工程と、画像再構成部4が行なう工程と、画像出力部5が行なう工程を備え、これらの各工程が順に実行されることで、複数のフレーム画像110に存在する特定の周波数のノイズ成分を効果的に除去することができる。
【0107】
また本発明は、それ以外の実施形態によっても達成される。すなわち、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、任意のシステムや装置に供給する。そして、そのシステムまたは装置に組み込まれたコンピュータ(CPUやMPU)が、その記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が、前述した実施形態の機能を実現することとなり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
【0108】
また、コンピュータが読み出したプログラムコードを実行することにより、そのプログラムコードの指示に基づき、コンピュータ上で稼働するオペレーティングシステムなどが実際の処理の一部または全部を行なう。その処理によって前述した実施形態の機能が実現される場合も、本発明に含まれることはいうまでもない。
【0109】
さらに、その記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張コードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれたとする。その後、そのプログラムコードの指示に基づいて、その機能拡張カードや、機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。その処理によって前述した実施形態の機能が実現される場合も、本発明に含まれることはいうまでもない。
【0110】
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明した方法に対応するプログラムコードが格納されることになる。
【0111】
なお、本発明は上記実施例に限定されるものではなく、本発明の要旨の範囲において種々の変形実施が可能である。上記実施形態では、超音波画像の鮮明化に関する提案を行なったが、本発明はそれ以外のあらゆる画像に関する鮮明化に寄与する。よって、本発明の該当する産業上の利用分野としては、超音波エコー装置製造業のみならず、動画解析装置製造業などにも波及するものである。
【符号の説明】
【0112】
1 画像入力部(入力手段)
2 周波数分解部(分解手段)
3 係数変更部(変更手段)
4 画像再構成部(再構成手段)
5 画像出力部(出力手段)
100 画像処理装置

【特許請求の範囲】
【請求項1】
動画像を構成する各フレーム画像を順次入力する入力手段と、
前記動画像を複数の周波数帯域に分割する分解手段と、
前記分割した各動画像のなかで、時間に依存する分割した動画像の成分のうち、目的とする周波数成分の展開係数を消去または縮小する変更手段と、
前記消去または縮小した成分に基づいて、前記分解手段とは逆の処理を行なうことで、前記分割した全ての動画像を再構成し、その再構成した動画像を時間毎に分割して、復元したフレーム画像を生成する再構成手段と、
前記復元したフレーム画像を出力する出力手段と、を備えることを特徴とする画像処理装置。
【請求項2】
前記変更手段は、前記分割した動画像のなかで、時間に依存しない高周波成分を示す分割した動画像の成分を拡大するものであることを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記分解手段は、前記動画像の縦,横,および時間の各方向について、ウェーブレット変換処理を行なうものであり、
前記再構成手段は、前記分割した全ての動画像の縦,横,および時間の各方向について、ウェーブレット逆変換処理を行なうものであることを特徴とする請求項1または2記載の画像処理装置。
【請求項4】
前記成分は、前記ウェーブレット変換処理を行なうことで得られるウェーブレット展開係数であることを特徴とする請求項3記載の画像処理装置。
【請求項5】
前記分解手段によるウェーブレット変換処理と、前記再構成手段によるウェーブレット逆変換処理は、Daubecheies10のマザーウェーブレットを用いて行われることを特徴とする請求項3記載の画像処理装置。
【請求項6】
動画像を構成する各フレーム画像を順次入力する入力工程と、
前記動画像を複数の周波数帯域に分割する分解工程と、
前記分割した各動画像のなかで、時間に依存する分割した動画像の成分のうち、目的とする周波数成分の展開係数を消去または縮小する変更工程と、
前記消去または縮小した成分に基づいて、前記分解手段とは逆の処理を行なうことで、前記分割した全ての動画像を再構成し、その再構成した動画像を時間毎に分割して、復元したフレーム画像を生成する再構成工程と、
前記復元したフレーム画像を出力する出力工程と、を備えることを特徴とする画像処理方法。
【請求項7】
コンピュータに請求項6記載の画像処理方法を実行させることを特徴とするプログラム。
【請求項8】
請求項7に記載のプログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−55415(P2011−55415A)
【公開日】平成23年3月17日(2011.3.17)
【国際特許分類】
【出願番号】特願2009−204635(P2009−204635)
【出願日】平成21年9月4日(2009.9.4)
【出願人】(304027279)国立大学法人 新潟大学 (310)
【Fターム(参考)】