ウェーブレット変換を用いた全焦点画像の生成手段
【課題】ウェーブレット変換を用いた全焦点画像の生成手段において、容易にしかも正確に鮮明な合成画像を形成させることを可能にする全焦点画像生成アルゴリズムの提供を目的とする。
【構成】100は前記カメラにより任意に焦点を変えて撮像されたn枚の画像を合成してウェーブレット変換する手段であり、101はウェーブレット変換手段100で処理された画像から低周波成分と高周波成分に分解して得られるウェーブレット変換係数を得て領域の強調を図る手段であり、102は領域の強調手段101で得られた画像に対して多値のモルフォロジー処理を適用し合焦領域を検出する手段であり、103は合焦領域の検出手段102で得られた合焦領域を用いて色彩標本値を合成する手段であり、104は合焦領域の合成手段103によって生成された全焦点画像である。
【構成】100は前記カメラにより任意に焦点を変えて撮像されたn枚の画像を合成してウェーブレット変換する手段であり、101はウェーブレット変換手段100で処理された画像から低周波成分と高周波成分に分解して得られるウェーブレット変換係数を得て領域の強調を図る手段であり、102は領域の強調手段101で得られた画像に対して多値のモルフォロジー処理を適用し合焦領域を検出する手段であり、103は合焦領域の検出手段102で得られた合焦領域を用いて色彩標本値を合成する手段であり、104は合焦領域の合成手段103によって生成された全焦点画像である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラにより撮像されたn枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させる手段に関する。
【背景技術】
【0002】
従来から、カメラなどの撮影装置で焦点距離の異なる複数の物体を一度に撮像する場合、特定の領域以外はぼけた画像が撮像されることが知られているが、一枚の画像で焦点距離の異なるものを一度に観察するために画像全体に合焦した全焦点画像を生成したいという要求があった。このため、従来から、種々の全焦点生成アルゴリズムが提案されてきた。(詳細は[非特許文献1]から[非特許文献5]を参照する)
【0003】
ところが、近年になって、カメラなどの撮影装置で焦点距離の異なる複数の撮像にウェーブレット変換を適用することで、雑音成分を減らし、画質を向上させる技術が知られるようになってきた。(詳細は[非特許文献5]から[非特許文献10]を参照する)
【0004】
また、画像処理にウェーブレット変換を用いた開発案件が知られるようになってきた。
例えば、所望の対象それぞれが最も焦点合わせされた合成像を生成することを目的とし、その構成が、フォーカス距離を変えて捕捉した所望の数の光学像各々をウェーブレット変換により多解像表現に変換し(ステップ2)、各多解像表現の係数それぞれを同一位置で比較して最大スペクトル振幅を検知し、それら検知された最大スペクトル振幅に基いて別の多解像表現を得(ステップ3)、逆ウェーブレット変換により合成像を得る(ステップ4)。ことを特徴とする開発案件画が知られている。(詳細は[特許文献1]を参照する)
【0005】
また、例えば、異なる距離にある複数の被写体を撮像して各被写体の鮮明な映像を形成することを課題とし、その解決手段として、異なる距離にある複数の被写体をそれぞれ合焦して撮像する映像入力手段と複数の異なる解像度レベルでの表現値集合を生成する変換手段とその表現値集合のテクスチャ特徴量を演算する手段とを持ち、その表現値集合のテクスチャ特徴量により最も鮮明な領域を判定する手段により最も鮮明な画素または領域を抽出し、この抽出した画素または領域を結合して被写体の映像を形成する手段を備える映像形成装置により形成される映像は、最も鮮明とされた画素から構成されているので全体にすべての距離にある被写体が鮮明に映し出されることを特徴とする開発案件画が知られている。(詳細は[特許文献2]を参照する)
【0006】
また、例えば、同一画角で、異なった合焦距離で撮影された複数の画像より、合焦距離範囲の広い合成画像を生成し、また、合成画像より合焦距離の異なる複数の画像を再生することを課題とし、その解決手段として、複数の画像P1,P2,P3の輝度コンポーネントのウェーブレット変換係数から、小領域毎の高周波成分量を計算し(S6)、高周波数成分量が最大の画像の小領域のイメージデータを合成画像の小領域に複写し、また、その画像の距離情報を合成画像の小領域に付与する(S8)。この処理を全ての小領域について繰り返すことにより、合成画像のイメージデータが生成されることを特徴とする開発案件画が知られている。(詳細は[特許文献3]を参照する)
【0007】
【特許文献1】 特開平6−243250号公報
【特許文献2】 特開2005−202907号公報
【特許文献3】 特開2005−143029号公報
【非特許文献1】 内藤雅彦,児玉和也,相沢清晴,羽鳥光俊,“複数の異なる焦点画像からの焦点外れ画像の生成を利用した全焦点画像の強調的取得,”電子通信学会論文誌,Vol.J79−D−II,No.6,pp.1046−1053,Jun.1996.
【非特許文献2】 児玉和也,相沢清晴,羽鳥光俊,“複数画像からの全焦点画像の再構成,”電子通信学会論文誌,Vol.J80−D−II,No.10,pp.2298−2307,Sep.1997.
【非特許文献3】 久保田彰,相沢清晴,“線形フィルタによる2枚の合焦画像からの任意ぼけ画像の再構成,”電子通信学会論文誌,Vol.J83−D−II,No.12,pp.2663−2674,Dec.2000.
【非特許文献4】 高橋桂太,久保田彰,苗村健,“LightFieldRenderingにおける合焦判定と全焦点画像合成,”電子通信学会論文誌,Vol.J88−D−II,No.3,pp.573−584,Oct.2005.
【非特許文献5】 白井敬一郎,野村和史,池原雅章,“ウェーブレット変換による合焦画像の作成,”電子通信学会論文誌,Vol.J88−A,No.10,pp.1154−1162,Oct.2005.
【非特許文献6】 菊池久和,“ウェーブレット入門,”エレクトロニクス,Vol.39(連載),No.3−12,1994.
【非特許文献7】 G.Strang,T.Nguyen(共著),高橋進一,池原雅章(共訳),“ウェーブレット解析とフィルタバンクI入門編,”,培風館,1999.
【非特許文献8】 G.Strang,T.Nguyen(共著),高橋進一,池原雅章(共訳),“ウェーブレット解析とフィルタバンクII応用編,”,培風館,1999.
【非特許文献9】 貴家仁志,“よくわかるディジタル画像処理フィルタ処理からDCT&ウェーブレットまで,”CQ出版,1996.
【非特許文献10】 高木幹雄,下田陽久監修,“画像処理ハンドブック,”東京大学出版会,1991.
【発明の開示】
【発明が解決しようとする課題】
【0008】
ところが、上述した技術や開発案件でのウェーブレット変換領域で合焦領域を検出し、変換領域で全焦点画像を生成する従来の全焦点画像生成アルゴリズムで合焦領域を検出し画像を合成している場合が多く、これらのアルゴリズムは生成された画像のシャープネスなど観点においてその性能は十分ではないと、本願発明者は評価した。また、従来のウェーブレット変換した画像では孤立点やノイズが発生しているため、この問題の解決案が望まれていた。
【0009】
本発明は、このような問題点を解決するために成されたものであり、ウェーブレット変換を用いた全焦点画像の生成手段において、容易にしかも正確に鮮明な合成画像を形成させることを可能にする全焦点画像生成アルゴリズムの提供を目的とする。
【課題を解決するための手段】
【0010】
課題を解決するための第一の手段(請求項1)は、カメラにより任意に焦点を変えて撮像されたn(正の整数)枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させることを特徴とする、ウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0011】
課題を解決するための第一の手段で記述したカメラに関しては、一般に市販され入手可能なカメラ、放送局用カメラ、監視用カメラ、医用カメラ、顕微鏡または顕微鏡用カメラ、などが使用可能である。また、前記カメラに関しては、デジタル式、アナログ式、平面画像処理用、立体画像処理用、などから選択して用いることができる。
【0012】
課題を解決するための第一の手段で記述したウェーブレット(Wavelet)変換に関しては、従来は、画像符号化などの分野で広く使われている。(詳細は[非特許文献6]から[非特許文献9]を参照する)本発明の課題を解決するための第一の手段では、まずフィルタバンクによるウェーブレット変換について説明する。
ウェーブレット変換は図2に示すような低域通過フィルタH0および高域通過フィルタH1からなる2チャンネルフィルタバンクで構成可能であることが知られている。またウェーブレット変換は完全再構成フィルタバンクで構成されるのでフィルタバンクの入力信号をX(z),出力信号をY(z)とすると、
Y(z)=z−LX(z)・・・(1)
と書ける。ここでLは計算による遅延である。完全再構成条件から、合成フィルタF0およびF1は、
H0(−z)F0(z)+H1(−z)F1(z)=O・・・(2)
H0(z)F0(z)+H1(z)F1(z)=2z−L・・・(3)
を満たす。これを変形して、
F0(z)=H1(−z)・・・(4)
F1(z)=−H0(−z)・・・(5)
となる。式(1)〜(4)を満たしかつH0とH1が直交しているものを直交フィルタと呼ぶ。一般に画像符号化などの分野では直線位相特性が要求される。これを満たすウェーブレット変換はHaarウェーブレットのみである。そこで、条件を緩和し式(1)〜(4)のみを条件として設計したフィルタを双直交フィルタと呼び、種々のフィルタが使用されている。双直交フィルタは信号の完全再構成を満たす。
尚、一般的に知られているHaarウェーブレットに関しては、Haar変換とも呼ばれ、上述したように直線位相特性を有する唯一のWavelet変換となることが知られている。
ウェーブレット変換された画像はウェーブレット展開により解像度の異なるスケールに分解され、多重解像度表現される。画像信号は低周波成分に電力的に大きな成分を占めるため、低域側を再帰的に分割するオクターブ分割が用いられる。図3(a)、図3(b)、図3(c)は1段のウェーブレット変換を行った例である。なお、図3(a)はOriginal画像であり、図3(b)はWavelet係数処理画像であり、図3(c)はサブバンド表示画像である。
【0013】
課題を解決するための第一の手段で記述したモルフォロジー(Morphology)処理に関しては、上述したウェーブレット変換により前記画像の高周波領域を検出した。しかし、一般的に従来のウェーブレット変換した画像には孤立点やノイズが発生しており、合焦領域の検出には不十分である。そこで本発明では、上述したウェーブレット変換により得られたウェーブレット係数に対してモルフォロジー(Morphology)処理を適用することで孤立点およびノイズを抑制することを見出し本発明に至った次第である。また、ウェーブレット係数の分布が強調されることで領域判定精度が向上することを見出し本発明に至った次第である。
【0014】
前記モルフォロジー(Morphology)処理に関して詳述すると、モルフォロジーは、2値画像または濃淡画像の形状解析や特徴抽出、平滑化やノイズ除去などに広く用いられている。(詳細は[非特許文献10]を参照する)モルフォロジーは画像を膨張させる効果を持つ膨張(Dilation)および画像を収縮させる効果を持つ収縮(Erosion)の組み合わせにより構成される。入力画像をf、出力画像をgとすると、画素(i;j)の2値のDilationは、
と定義される。同様にErosionは、
と書ける。Closingは入力画像に対してn回のDilationを行った後、n回のErosionを行う処理である。2値のモルフォロジー処理の例を図4(a)、図4(b)、図4(c)、図4(d)、に示す。なお、図4(a)はOriginal画像であり、図4(b)はDilation処理画像であり、図4(c)はErosion処理画像であり、図4(d)はClosing処理画像である。
本発明では、前記ウェーブレット変換係数の各サブバンドに対して、処理対象画素を中心とした5×5の範囲に多値のClosing処理を適用することを特徴としており、前記Closing処理を前記ウェーブレット変換係数に適用することで、波線状の領域の連結およびノイズの低減が実現され、高周波領域および低周波領域の境界が強調されることを特徴とする。
【0015】
前記ウェーブレット変換係数に前記モルフォロジー処理することで、高周波領域を検出した。さらにシャープネスを確保するために本発明ではウェーブレット変換領域において画像を合成するのではなく、色彩標本値を合成することで、より尖鋭度の高い画像を生成することを見出し、本発明に至った。そのための具体的な処理(プロセス)を以下に示す。
【0016】
m番目の画像における画素(i,j)の合焦度合いを表すパラメータとしてαmをウェーブレット変換係数のLHおよびHL成分を用いて、
αm=LHm+HLm ・・・(8)
ただし、
と定義する。ここで,lhxy,hlxyはそれぞれ画素(x,y)におけるウェーブレット変換係数のLH成分およびHL成分である。
合焦領域ではウェーブレット変換領域における高周波領域の係数が大きいと考えられる。したがって、αmが最大となるような画素値lijmを選ぶことで合焦画像を生成することができる。以上より、色彩標本値を用いて画素値lijを
lij=lijm ・・・(11)
と決定する。
【0017】
【0018】
課題を解決するための第二の手段(請求項2)は、前記のウェーブレット変換を用いた全焦点画像の生成手段が、コンピュータを機能させるプログラムであることを特徴とする、課題を解決するための第一の手段に記載のウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0019】
課題を解決するための第二の手段で記述したコンピュータに関しては、デジタル式コンピュータでもアナログ式コンピュータでも構わない。また、CPUを搭載したチップ、CPUを搭載したユニット、マイコン、パソコン、汎用コンピュータ、スーパーコンピュータ、などで使用可能である。
また、前記プログラムに関しては、記録媒体に備えられていてもよい。前記記録媒体に関しては、例えば、フロッピーディスク、ハードディスク、磁気テープ、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きのRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等を含む。また、前記媒体とは、何等かの物理的手段により情報(主にデジタルデータ、プログラム)が記録されているものであって、コンピュータ、専用プロセッサ等の処理装置に所定の機能を行わせることができるものである。要するに、何等かの手段でもってコンピュータにプログラムをダウンロードし、所定の機能を実行させるものであればよい。
【0020】
課題を解決するための第三の手段(請求項3)は、前記のウェーブレット変換を用いた全焦点画像の生成手段の各処理がコンピュータに実行させるプログラムであることを特徴とする、課題を解決するための第一の手段に記載のウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0021】
課題を解決するための第三の手段で記述したコンピュータに関しては、デジタル式コンピュータでもアナログ式コンピュータでも構わない。また、CPUを搭載したチップ、CPUを搭載したユニット、マイコン、パソコン、汎用コンピュータ、スーパーコンピュータ、などで使用可能である。
また、本発明を元に設計され製作されたCPU、前記CPUを搭載したユニット、前記CPUを搭載したマイコン、前記CPUを搭載したパソコン、前記CPUを搭載した汎用コンピュータ、前記CPUを搭載したスーパーコンピュータ、としても使用可能である。
また、本発明を元に設計され製作されたGPU(グラフィックス処理装置)、前記GPUを搭載したユニット、前記GPUを搭載したマイコン、前記GPUを搭載したパソコン、前記GPUを搭載した汎用コンピュータ、前記GPUを搭載したスーパーコンピュータ、としても使用可能である。
また、前記プログラムに関しては、記録媒体に備えられていてもよい。前記記録媒体に関しては、例えば、フロッピーディスク、ハードディスク、磁気テープ、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きのRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等を含む。また、前記媒体とは、何等かの物理的手段により情報(主にデジタルデータ、プログラム)が記録されているものであって、コンピュータ、専用プロセッサ等の処理装置に所定の機能を行わせることができるものである。要するに、何等かの手段でもってコンピュータにプログラムをダウンロードし、所定の機能を実行させるものであればよい。
【発明の効果】
【0022】
本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、全焦点画像の生成の手法としてウェーブレット変換により高周波領域を検出し、複数枚の画像の色彩標本値から有効な全焦点画像の生成が可能になった。
【0023】
また、本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、従来の手段に比較して、例えば、目視評価において良好な性能を示すことが確認できた。その結果、シャープで視覚的に良好な合成画像を得られることが確認できた。
【0024】
また、本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、従来の手段に比較して、全焦点画像を簡単かつ効率的に作成することができるウェーブレット変換を用いた全焦点画像の生成手段の提供が可能になる。
【発明を実施するための最良の形態】
【0025】
以下、本発明の実施の形態について、図1〜図6(c)に基づいて説明する。
図1は本発明の概略を示したブロック図であり、図2は本発明で示した2チャンネルフィルタバンクの説明図であり、図3(a)はウェーブレット変換実施前のOriginal画像であり、図3(b)は図3(a)の画像をWavelet係数処理した画像であり、図3(c)は図3(b)の画像をサブバンド表示した画像であり、図4(a)はモルフォロジー処理実施前のOriginal画像であり、図4(b)は図4(a)のDilation処理画像であり、図4(c)は図4(a)のErosion処理画像であり、図4(d)は図4(b)と図4(c)のClosing処理画像であり、図5(a)は原画像例であり、図5(b)は図5(a)を分散法で処理した例であり、図5(c)は図5(a)を本発明の手段で処理した全焦点画像であり、図6(a)は高さが大きく異なる物体の原画像例であり、図6(b)は図6(a)を分散法で処理した例であり、図6(c)は図6(a)を本発明の手段で処理した全焦点画像である。
【0026】
図1のブロック図より、100は前記カメラにより任意に焦点を変えて撮像されたn枚の画像を合成してウェーブレット変換する手段であり、101はウェーブレット変換手段100で処理された画像から低周波成分と高周波成分に分解して得られるウェーブレット変換係数を得て領域の強調を図る手段であり、102は領域の強調手段101で得られた画像に対して多値のモルフォロジー処理を適用し合焦領域を検出する手段であり、103は合焦領域の検出手段102で得られた合焦領域を用いて色彩標本値を合成する手段であり、104は合焦領域の合成手段103によって生成された全焦点画像である。
【実施例1】
【0027】
図5(a)から図5(c)の実施の形態例と、図6(a)から図6(c)の実施の形態例より、人工的な図形画像とRGB各色8ビットのカラー画像について実験を行い、目視評価を行った。高周波領域の検出時には1段の5−3ウェーブレットを用いた。5−3ウェーブレットはclosing処理はn=3としてErosionとDilationをそれぞれ3回反復した。
尚、5−3ウェーブレットに関しては、図2におけるH0,H1,F0,F1が特定のフィルタになり、H0(z)=(−z^−2+2z^−1+6+2z−z^2)/8(High−Pass5タップ)、H1(z)=(−z^−1+2−z)/2 (Low−Pass3タップ)、F0=−H1(−z)、F1=H0(−z)、になるものとする。
【実施例2】
【0028】
図5(a)から図5(c)の実施の形態例より、全焦点画像の例を示す。(a)は合成に用いた原画像のうちの1枚であり、(b)は一般に知られている分散法を用いた全焦点アルゴリズムによって生成された画像であり、(c)は本発明の手段で生成された全焦点画像である。分散法を用いた全焦点アルゴリズムでは画像の分散が大きい領域が合焦領域であると判定し、色彩標本値を合成する。分散法を用いた全焦点画像では文字がぼけておりシャープネスが十分ではないが、本発明の手段で生成された全焦点画像では文字がくっきりしておりシャープであることが確認できる。
【実施例3】
【0029】
図6(a)から図6(c)の実施の形態例より、高さが大きく異なる物体の全焦点画像を示しており、分散法を用いた全焦点画像は(a)に示す原画像の一部に比べると全体的にピントが合っているがシャープネスが十分でなく、画像がぼけていることが確認できる。一方、本発明の手段で生成された全焦点画像は部品の外周や金属光沢,文字が非常にシャープであり本発明の手段の有効性が確認できる。
【0035】
上記実施の形態の説明は、本発明を説明するためのものであって、特許請求の範囲に記載の発明を限定し、或は範囲を減縮するものではない。又、本発明の各部構成は上記実施の形態に限らず、特許請求の範囲に記載の技術的範囲内で種々の変形が可能である。
【産業上の利用可能性】
【0036】
本発明のウェーブレット変換を用いた全焦点画像の生成手段は、容易に簡単な装置で実現可能なので、画像処理を伴う産業における利用価値は高い。
【図面の簡単な説明】
【0037】
【図1】本発明の概略を示したブロック図である。
【図2】本発明で示した2チャンネルフィルタバンクの説明図である。
【図3(a)】ウェーブレット変換実施前のOriginal画像である。
【図3(b)】図3(a)の画像をWavelet係数処理した画像である。
【図3(c)】図3(b)の画像をサブバンド表示した画像である。
【図4(a)】モルフォロジー処理実施前のOriginal画像である。
【図4(b)】図4(a)のDilation処理画像である。
【図4(c)】図4(a)のErosion処理画像である。
【図4(d)】図4(b)と図4(c)のClosing処理画像である。
【図5(a)】原画像例である。
【図5(b)】図5(a)を分散法で処理した例である。
【図5(c)】図5(a)を本発明の手段で処理した全焦点画像である。
【図6(a)】高さが大きく異なる物体の原画像例である。
【図6(b)】図6(a)を分散法で処理した例である。
【図6(c)】図6(a)を本発明の手段で処理した全焦点画像である。
【符号の説明】
【0038】
100 ウェーブレット変換手段
101 領域の強調手段
102 合焦領域の検出手段
103 合焦領域の合成手段
104 全焦点画像
【技術分野】
【0001】
本発明は、カメラにより撮像されたn枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させる手段に関する。
【背景技術】
【0002】
従来から、カメラなどの撮影装置で焦点距離の異なる複数の物体を一度に撮像する場合、特定の領域以外はぼけた画像が撮像されることが知られているが、一枚の画像で焦点距離の異なるものを一度に観察するために画像全体に合焦した全焦点画像を生成したいという要求があった。このため、従来から、種々の全焦点生成アルゴリズムが提案されてきた。(詳細は[非特許文献1]から[非特許文献5]を参照する)
【0003】
ところが、近年になって、カメラなどの撮影装置で焦点距離の異なる複数の撮像にウェーブレット変換を適用することで、雑音成分を減らし、画質を向上させる技術が知られるようになってきた。(詳細は[非特許文献5]から[非特許文献10]を参照する)
【0004】
また、画像処理にウェーブレット変換を用いた開発案件が知られるようになってきた。
例えば、所望の対象それぞれが最も焦点合わせされた合成像を生成することを目的とし、その構成が、フォーカス距離を変えて捕捉した所望の数の光学像各々をウェーブレット変換により多解像表現に変換し(ステップ2)、各多解像表現の係数それぞれを同一位置で比較して最大スペクトル振幅を検知し、それら検知された最大スペクトル振幅に基いて別の多解像表現を得(ステップ3)、逆ウェーブレット変換により合成像を得る(ステップ4)。ことを特徴とする開発案件画が知られている。(詳細は[特許文献1]を参照する)
【0005】
また、例えば、異なる距離にある複数の被写体を撮像して各被写体の鮮明な映像を形成することを課題とし、その解決手段として、異なる距離にある複数の被写体をそれぞれ合焦して撮像する映像入力手段と複数の異なる解像度レベルでの表現値集合を生成する変換手段とその表現値集合のテクスチャ特徴量を演算する手段とを持ち、その表現値集合のテクスチャ特徴量により最も鮮明な領域を判定する手段により最も鮮明な画素または領域を抽出し、この抽出した画素または領域を結合して被写体の映像を形成する手段を備える映像形成装置により形成される映像は、最も鮮明とされた画素から構成されているので全体にすべての距離にある被写体が鮮明に映し出されることを特徴とする開発案件画が知られている。(詳細は[特許文献2]を参照する)
【0006】
また、例えば、同一画角で、異なった合焦距離で撮影された複数の画像より、合焦距離範囲の広い合成画像を生成し、また、合成画像より合焦距離の異なる複数の画像を再生することを課題とし、その解決手段として、複数の画像P1,P2,P3の輝度コンポーネントのウェーブレット変換係数から、小領域毎の高周波成分量を計算し(S6)、高周波数成分量が最大の画像の小領域のイメージデータを合成画像の小領域に複写し、また、その画像の距離情報を合成画像の小領域に付与する(S8)。この処理を全ての小領域について繰り返すことにより、合成画像のイメージデータが生成されることを特徴とする開発案件画が知られている。(詳細は[特許文献3]を参照する)
【0007】
【特許文献1】 特開平6−243250号公報
【特許文献2】 特開2005−202907号公報
【特許文献3】 特開2005−143029号公報
【非特許文献1】 内藤雅彦,児玉和也,相沢清晴,羽鳥光俊,“複数の異なる焦点画像からの焦点外れ画像の生成を利用した全焦点画像の強調的取得,”電子通信学会論文誌,Vol.J79−D−II,No.6,pp.1046−1053,Jun.1996.
【非特許文献2】 児玉和也,相沢清晴,羽鳥光俊,“複数画像からの全焦点画像の再構成,”電子通信学会論文誌,Vol.J80−D−II,No.10,pp.2298−2307,Sep.1997.
【非特許文献3】 久保田彰,相沢清晴,“線形フィルタによる2枚の合焦画像からの任意ぼけ画像の再構成,”電子通信学会論文誌,Vol.J83−D−II,No.12,pp.2663−2674,Dec.2000.
【非特許文献4】 高橋桂太,久保田彰,苗村健,“LightFieldRenderingにおける合焦判定と全焦点画像合成,”電子通信学会論文誌,Vol.J88−D−II,No.3,pp.573−584,Oct.2005.
【非特許文献5】 白井敬一郎,野村和史,池原雅章,“ウェーブレット変換による合焦画像の作成,”電子通信学会論文誌,Vol.J88−A,No.10,pp.1154−1162,Oct.2005.
【非特許文献6】 菊池久和,“ウェーブレット入門,”エレクトロニクス,Vol.39(連載),No.3−12,1994.
【非特許文献7】 G.Strang,T.Nguyen(共著),高橋進一,池原雅章(共訳),“ウェーブレット解析とフィルタバンクI入門編,”,培風館,1999.
【非特許文献8】 G.Strang,T.Nguyen(共著),高橋進一,池原雅章(共訳),“ウェーブレット解析とフィルタバンクII応用編,”,培風館,1999.
【非特許文献9】 貴家仁志,“よくわかるディジタル画像処理フィルタ処理からDCT&ウェーブレットまで,”CQ出版,1996.
【非特許文献10】 高木幹雄,下田陽久監修,“画像処理ハンドブック,”東京大学出版会,1991.
【発明の開示】
【発明が解決しようとする課題】
【0008】
ところが、上述した技術や開発案件でのウェーブレット変換領域で合焦領域を検出し、変換領域で全焦点画像を生成する従来の全焦点画像生成アルゴリズムで合焦領域を検出し画像を合成している場合が多く、これらのアルゴリズムは生成された画像のシャープネスなど観点においてその性能は十分ではないと、本願発明者は評価した。また、従来のウェーブレット変換した画像では孤立点やノイズが発生しているため、この問題の解決案が望まれていた。
【0009】
本発明は、このような問題点を解決するために成されたものであり、ウェーブレット変換を用いた全焦点画像の生成手段において、容易にしかも正確に鮮明な合成画像を形成させることを可能にする全焦点画像生成アルゴリズムの提供を目的とする。
【課題を解決するための手段】
【0010】
課題を解決するための第一の手段(請求項1)は、カメラにより任意に焦点を変えて撮像されたn(正の整数)枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させることを特徴とする、ウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0011】
課題を解決するための第一の手段で記述したカメラに関しては、一般に市販され入手可能なカメラ、放送局用カメラ、監視用カメラ、医用カメラ、顕微鏡または顕微鏡用カメラ、などが使用可能である。また、前記カメラに関しては、デジタル式、アナログ式、平面画像処理用、立体画像処理用、などから選択して用いることができる。
【0012】
課題を解決するための第一の手段で記述したウェーブレット(Wavelet)変換に関しては、従来は、画像符号化などの分野で広く使われている。(詳細は[非特許文献6]から[非特許文献9]を参照する)本発明の課題を解決するための第一の手段では、まずフィルタバンクによるウェーブレット変換について説明する。
ウェーブレット変換は図2に示すような低域通過フィルタH0および高域通過フィルタH1からなる2チャンネルフィルタバンクで構成可能であることが知られている。またウェーブレット変換は完全再構成フィルタバンクで構成されるのでフィルタバンクの入力信号をX(z),出力信号をY(z)とすると、
Y(z)=z−LX(z)・・・(1)
と書ける。ここでLは計算による遅延である。完全再構成条件から、合成フィルタF0およびF1は、
H0(−z)F0(z)+H1(−z)F1(z)=O・・・(2)
H0(z)F0(z)+H1(z)F1(z)=2z−L・・・(3)
を満たす。これを変形して、
F0(z)=H1(−z)・・・(4)
F1(z)=−H0(−z)・・・(5)
となる。式(1)〜(4)を満たしかつH0とH1が直交しているものを直交フィルタと呼ぶ。一般に画像符号化などの分野では直線位相特性が要求される。これを満たすウェーブレット変換はHaarウェーブレットのみである。そこで、条件を緩和し式(1)〜(4)のみを条件として設計したフィルタを双直交フィルタと呼び、種々のフィルタが使用されている。双直交フィルタは信号の完全再構成を満たす。
尚、一般的に知られているHaarウェーブレットに関しては、Haar変換とも呼ばれ、上述したように直線位相特性を有する唯一のWavelet変換となることが知られている。
ウェーブレット変換された画像はウェーブレット展開により解像度の異なるスケールに分解され、多重解像度表現される。画像信号は低周波成分に電力的に大きな成分を占めるため、低域側を再帰的に分割するオクターブ分割が用いられる。図3(a)、図3(b)、図3(c)は1段のウェーブレット変換を行った例である。なお、図3(a)はOriginal画像であり、図3(b)はWavelet係数処理画像であり、図3(c)はサブバンド表示画像である。
【0013】
課題を解決するための第一の手段で記述したモルフォロジー(Morphology)処理に関しては、上述したウェーブレット変換により前記画像の高周波領域を検出した。しかし、一般的に従来のウェーブレット変換した画像には孤立点やノイズが発生しており、合焦領域の検出には不十分である。そこで本発明では、上述したウェーブレット変換により得られたウェーブレット係数に対してモルフォロジー(Morphology)処理を適用することで孤立点およびノイズを抑制することを見出し本発明に至った次第である。また、ウェーブレット係数の分布が強調されることで領域判定精度が向上することを見出し本発明に至った次第である。
【0014】
前記モルフォロジー(Morphology)処理に関して詳述すると、モルフォロジーは、2値画像または濃淡画像の形状解析や特徴抽出、平滑化やノイズ除去などに広く用いられている。(詳細は[非特許文献10]を参照する)モルフォロジーは画像を膨張させる効果を持つ膨張(Dilation)および画像を収縮させる効果を持つ収縮(Erosion)の組み合わせにより構成される。入力画像をf、出力画像をgとすると、画素(i;j)の2値のDilationは、
と定義される。同様にErosionは、
と書ける。Closingは入力画像に対してn回のDilationを行った後、n回のErosionを行う処理である。2値のモルフォロジー処理の例を図4(a)、図4(b)、図4(c)、図4(d)、に示す。なお、図4(a)はOriginal画像であり、図4(b)はDilation処理画像であり、図4(c)はErosion処理画像であり、図4(d)はClosing処理画像である。
本発明では、前記ウェーブレット変換係数の各サブバンドに対して、処理対象画素を中心とした5×5の範囲に多値のClosing処理を適用することを特徴としており、前記Closing処理を前記ウェーブレット変換係数に適用することで、波線状の領域の連結およびノイズの低減が実現され、高周波領域および低周波領域の境界が強調されることを特徴とする。
【0015】
前記ウェーブレット変換係数に前記モルフォロジー処理することで、高周波領域を検出した。さらにシャープネスを確保するために本発明ではウェーブレット変換領域において画像を合成するのではなく、色彩標本値を合成することで、より尖鋭度の高い画像を生成することを見出し、本発明に至った。そのための具体的な処理(プロセス)を以下に示す。
【0016】
m番目の画像における画素(i,j)の合焦度合いを表すパラメータとしてαmをウェーブレット変換係数のLHおよびHL成分を用いて、
αm=LHm+HLm ・・・(8)
ただし、
と定義する。ここで,lhxy,hlxyはそれぞれ画素(x,y)におけるウェーブレット変換係数のLH成分およびHL成分である。
合焦領域ではウェーブレット変換領域における高周波領域の係数が大きいと考えられる。したがって、αmが最大となるような画素値lijmを選ぶことで合焦画像を生成することができる。以上より、色彩標本値を用いて画素値lijを
lij=lijm ・・・(11)
と決定する。
【0017】
【0018】
課題を解決するための第二の手段(請求項2)は、前記のウェーブレット変換を用いた全焦点画像の生成手段が、コンピュータを機能させるプログラムであることを特徴とする、課題を解決するための第一の手段に記載のウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0019】
課題を解決するための第二の手段で記述したコンピュータに関しては、デジタル式コンピュータでもアナログ式コンピュータでも構わない。また、CPUを搭載したチップ、CPUを搭載したユニット、マイコン、パソコン、汎用コンピュータ、スーパーコンピュータ、などで使用可能である。
また、前記プログラムに関しては、記録媒体に備えられていてもよい。前記記録媒体に関しては、例えば、フロッピーディスク、ハードディスク、磁気テープ、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きのRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等を含む。また、前記媒体とは、何等かの物理的手段により情報(主にデジタルデータ、プログラム)が記録されているものであって、コンピュータ、専用プロセッサ等の処理装置に所定の機能を行わせることができるものである。要するに、何等かの手段でもってコンピュータにプログラムをダウンロードし、所定の機能を実行させるものであればよい。
【0020】
課題を解決するための第三の手段(請求項3)は、前記のウェーブレット変換を用いた全焦点画像の生成手段の各処理がコンピュータに実行させるプログラムであることを特徴とする、課題を解決するための第一の手段に記載のウェーブレット変換を用いた全焦点画像の生成手段を提供することである。
【0021】
課題を解決するための第三の手段で記述したコンピュータに関しては、デジタル式コンピュータでもアナログ式コンピュータでも構わない。また、CPUを搭載したチップ、CPUを搭載したユニット、マイコン、パソコン、汎用コンピュータ、スーパーコンピュータ、などで使用可能である。
また、本発明を元に設計され製作されたCPU、前記CPUを搭載したユニット、前記CPUを搭載したマイコン、前記CPUを搭載したパソコン、前記CPUを搭載した汎用コンピュータ、前記CPUを搭載したスーパーコンピュータ、としても使用可能である。
また、本発明を元に設計され製作されたGPU(グラフィックス処理装置)、前記GPUを搭載したユニット、前記GPUを搭載したマイコン、前記GPUを搭載したパソコン、前記GPUを搭載した汎用コンピュータ、前記GPUを搭載したスーパーコンピュータ、としても使用可能である。
また、前記プログラムに関しては、記録媒体に備えられていてもよい。前記記録媒体に関しては、例えば、フロッピーディスク、ハードディスク、磁気テープ、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きのRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等を含む。また、前記媒体とは、何等かの物理的手段により情報(主にデジタルデータ、プログラム)が記録されているものであって、コンピュータ、専用プロセッサ等の処理装置に所定の機能を行わせることができるものである。要するに、何等かの手段でもってコンピュータにプログラムをダウンロードし、所定の機能を実行させるものであればよい。
【発明の効果】
【0022】
本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、全焦点画像の生成の手法としてウェーブレット変換により高周波領域を検出し、複数枚の画像の色彩標本値から有効な全焦点画像の生成が可能になった。
【0023】
また、本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、従来の手段に比較して、例えば、目視評価において良好な性能を示すことが確認できた。その結果、シャープで視覚的に良好な合成画像を得られることが確認できた。
【0024】
また、本発明のウェーブレット変換を用いた全焦点画像の生成手段によって、従来の手段に比較して、全焦点画像を簡単かつ効率的に作成することができるウェーブレット変換を用いた全焦点画像の生成手段の提供が可能になる。
【発明を実施するための最良の形態】
【0025】
以下、本発明の実施の形態について、図1〜図6(c)に基づいて説明する。
図1は本発明の概略を示したブロック図であり、図2は本発明で示した2チャンネルフィルタバンクの説明図であり、図3(a)はウェーブレット変換実施前のOriginal画像であり、図3(b)は図3(a)の画像をWavelet係数処理した画像であり、図3(c)は図3(b)の画像をサブバンド表示した画像であり、図4(a)はモルフォロジー処理実施前のOriginal画像であり、図4(b)は図4(a)のDilation処理画像であり、図4(c)は図4(a)のErosion処理画像であり、図4(d)は図4(b)と図4(c)のClosing処理画像であり、図5(a)は原画像例であり、図5(b)は図5(a)を分散法で処理した例であり、図5(c)は図5(a)を本発明の手段で処理した全焦点画像であり、図6(a)は高さが大きく異なる物体の原画像例であり、図6(b)は図6(a)を分散法で処理した例であり、図6(c)は図6(a)を本発明の手段で処理した全焦点画像である。
【0026】
図1のブロック図より、100は前記カメラにより任意に焦点を変えて撮像されたn枚の画像を合成してウェーブレット変換する手段であり、101はウェーブレット変換手段100で処理された画像から低周波成分と高周波成分に分解して得られるウェーブレット変換係数を得て領域の強調を図る手段であり、102は領域の強調手段101で得られた画像に対して多値のモルフォロジー処理を適用し合焦領域を検出する手段であり、103は合焦領域の検出手段102で得られた合焦領域を用いて色彩標本値を合成する手段であり、104は合焦領域の合成手段103によって生成された全焦点画像である。
【実施例1】
【0027】
図5(a)から図5(c)の実施の形態例と、図6(a)から図6(c)の実施の形態例より、人工的な図形画像とRGB各色8ビットのカラー画像について実験を行い、目視評価を行った。高周波領域の検出時には1段の5−3ウェーブレットを用いた。5−3ウェーブレットはclosing処理はn=3としてErosionとDilationをそれぞれ3回反復した。
尚、5−3ウェーブレットに関しては、図2におけるH0,H1,F0,F1が特定のフィルタになり、H0(z)=(−z^−2+2z^−1+6+2z−z^2)/8(High−Pass5タップ)、H1(z)=(−z^−1+2−z)/2 (Low−Pass3タップ)、F0=−H1(−z)、F1=H0(−z)、になるものとする。
【実施例2】
【0028】
図5(a)から図5(c)の実施の形態例より、全焦点画像の例を示す。(a)は合成に用いた原画像のうちの1枚であり、(b)は一般に知られている分散法を用いた全焦点アルゴリズムによって生成された画像であり、(c)は本発明の手段で生成された全焦点画像である。分散法を用いた全焦点アルゴリズムでは画像の分散が大きい領域が合焦領域であると判定し、色彩標本値を合成する。分散法を用いた全焦点画像では文字がぼけておりシャープネスが十分ではないが、本発明の手段で生成された全焦点画像では文字がくっきりしておりシャープであることが確認できる。
【実施例3】
【0029】
図6(a)から図6(c)の実施の形態例より、高さが大きく異なる物体の全焦点画像を示しており、分散法を用いた全焦点画像は(a)に示す原画像の一部に比べると全体的にピントが合っているがシャープネスが十分でなく、画像がぼけていることが確認できる。一方、本発明の手段で生成された全焦点画像は部品の外周や金属光沢,文字が非常にシャープであり本発明の手段の有効性が確認できる。
【0035】
上記実施の形態の説明は、本発明を説明するためのものであって、特許請求の範囲に記載の発明を限定し、或は範囲を減縮するものではない。又、本発明の各部構成は上記実施の形態に限らず、特許請求の範囲に記載の技術的範囲内で種々の変形が可能である。
【産業上の利用可能性】
【0036】
本発明のウェーブレット変換を用いた全焦点画像の生成手段は、容易に簡単な装置で実現可能なので、画像処理を伴う産業における利用価値は高い。
【図面の簡単な説明】
【0037】
【図1】本発明の概略を示したブロック図である。
【図2】本発明で示した2チャンネルフィルタバンクの説明図である。
【図3(a)】ウェーブレット変換実施前のOriginal画像である。
【図3(b)】図3(a)の画像をWavelet係数処理した画像である。
【図3(c)】図3(b)の画像をサブバンド表示した画像である。
【図4(a)】モルフォロジー処理実施前のOriginal画像である。
【図4(b)】図4(a)のDilation処理画像である。
【図4(c)】図4(a)のErosion処理画像である。
【図4(d)】図4(b)と図4(c)のClosing処理画像である。
【図5(a)】原画像例である。
【図5(b)】図5(a)を分散法で処理した例である。
【図5(c)】図5(a)を本発明の手段で処理した全焦点画像である。
【図6(a)】高さが大きく異なる物体の原画像例である。
【図6(b)】図6(a)を分散法で処理した例である。
【図6(c)】図6(a)を本発明の手段で処理した全焦点画像である。
【符号の説明】
【0038】
100 ウェーブレット変換手段
101 領域の強調手段
102 合焦領域の検出手段
103 合焦領域の合成手段
104 全焦点画像
【特許請求の範囲】
【請求項1】
カメラにより任意に焦点を変えて撮像されたn枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させることを特徴とする、ウェーブレット変換を用いた全焦点画像の生成手段。
【請求項2】
前記のウェーブレット変換を用いた全焦点画像の生成手段が、コンピュータを機能させるプログラムであることを特徴とする、請求項1に記載のウェーブレット変換を用いた全焦点画像の生成手段。
【請求項3】
前記のウェーブレット変換を用いた全焦点画像の生成手段の各処理がコンピュータに実行させるプログラムであることを特徴とする、請求項1に記載のウェーブレット変換を用いた全焦点画像の生成手段。
【請求項1】
カメラにより任意に焦点を変えて撮像されたn枚の画像を合成して全焦点画像を生成する方法において、前記画像をウェーブレット変換し低周波成分と高周波成分に分解して得られるウェーブレット変換係数に対して多値のモルフォロジー処理を適用し合焦領域を検出し、前記合焦領域を用いて色彩標本値を合成し全焦点画像を生成させることを特徴とする、ウェーブレット変換を用いた全焦点画像の生成手段。
【請求項2】
前記のウェーブレット変換を用いた全焦点画像の生成手段が、コンピュータを機能させるプログラムであることを特徴とする、請求項1に記載のウェーブレット変換を用いた全焦点画像の生成手段。
【請求項3】
前記のウェーブレット変換を用いた全焦点画像の生成手段の各処理がコンピュータに実行させるプログラムであることを特徴とする、請求項1に記載のウェーブレット変換を用いた全焦点画像の生成手段。
【図1】
【図2】
【図3(a)】
【図3(b)】
【図3(c)】
【図4(a)】
【図4(b)】
【図4(c)】
【図4(d)】
【図5(a)】
【図5(b)】
【図5(c)】
【図6(a)】
【図6(b)】
【図6(c)】
【図2】
【図3(a)】
【図3(b)】
【図3(c)】
【図4(a)】
【図4(b)】
【図4(c)】
【図4(d)】
【図5(a)】
【図5(b)】
【図5(c)】
【図6(a)】
【図6(b)】
【図6(c)】
【公開番号】特開2010−129077(P2010−129077A)
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願番号】特願2008−328702(P2008−328702)
【出願日】平成20年11月28日(2008.11.28)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.フロッピー
【出願人】(508244555)株式会社パワーアシスト (2)
【Fターム(参考)】
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願日】平成20年11月28日(2008.11.28)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.フロッピー
【出願人】(508244555)株式会社パワーアシスト (2)
【Fターム(参考)】
[ Back to top ]