画像処理装置および画像処理方法
【課題】入力画像に対する画像近似精度の良い効率的なメッシュ群を生成可能とする。
【解決手段】入力画像からエッジ線を検出する検出手段と、検出したエッジ線のうち規定のエッジ強度以上のエッジ線を強エッジ線とし該強エッジ線上に複数の第1の特徴点を設定し、入力画像上に複数の第1の特徴点とは異なる複数の第2の特徴点を設定し、複数の第1の特徴点と複数の第2の特徴点とを統合した特徴点集合を用いて、入力画像を該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、分割されたそれぞれのメッシュの各頂点に対して、第1の特徴点に対応する頂点に対しては該頂点に対応する位置の強エッジ線における両側2色の色情報を設定し、第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、分割されたそれぞれのメッシュを符号化し、設定された色情報を含む符号化データを出力する。
【解決手段】入力画像からエッジ線を検出する検出手段と、検出したエッジ線のうち規定のエッジ強度以上のエッジ線を強エッジ線とし該強エッジ線上に複数の第1の特徴点を設定し、入力画像上に複数の第1の特徴点とは異なる複数の第2の特徴点を設定し、複数の第1の特徴点と複数の第2の特徴点とを統合した特徴点集合を用いて、入力画像を該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、分割されたそれぞれのメッシュの各頂点に対して、第1の特徴点に対応する頂点に対しては該頂点に対応する位置の強エッジ線における両側2色の色情報を設定し、第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、分割されたそれぞれのメッシュを符号化し、設定された色情報を含む符号化データを出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像をベクトル表現する画像処理技術に関し、特にラスタ画像をメッシュ群により表現するメッシュ符号化技術に関するものである。
【背景技術】
【0002】
従来から、画像をベクトル表現する技術は広く知られている。ベクトル表現された画像は、拡大縮小時に画質劣化が少ない、編集がし易い、高い圧縮率を実現できるなどの利点がある。また、イラストや文字をベクトル表現する場合には、オブジェクトの輪郭をベジェ、スプライン関数などで近似する手法が用いられている。オブジェクトの領域内は、単一色、線形グラデーション、放射状グラデーションなどで塗ることができるが、複雑なグラデーションの表現は困難である。
【0003】
複雑なグラデーションを含むオブジェクトをベクトル表現するには、例えば、米アドビシステムズ社のIllustrator(登録商標)のグラディエント・メッシュ・ツールが用いられる。グラディエント・メッシュでは、メッシュに色と勾配を与えて3次関数を生成することで複雑なグラデーションを含むオブジェクトを描画できる(特許文献1)。
【0004】
グラディエント・メッシュは4頂点から成る曲線メッシュであるが、3頂点から成る曲線メッシュにより、複雑なグラデーションをベクトル表現する技術が知られている(非特許文献1)。画像内のエッジを線分群(以下、エッジ線と呼ぶ)として抽出し、当該エッジ線を再現する3頂点曲線メッシュ群を構成することでベクトル表現を行う。ここで3頂点曲線メッシュとは、メッシュの頂点数が3であり、頂点間を結ぶメッシュの辺が直線または曲線であるものとする。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第4220010号公報
【非特許文献】
【0006】
【非特許文献1】Tian Xia, Binbin Liao, and Yizhou Yu, "Patch-Based Image Vectorization with Automatic Curvilinear Feature Alignment", ACM SIGGRAPH Asia 2009, Vol.28, No.5.
【発明の概要】
【発明が解決しようとする課題】
【0007】
自然画像のような色が複雑に変化するオブジェクトを3頂点曲線メッシュ群によりベクトル表現することを考える。直線メッシュに対して曲線メッシュは、オブジェクトの形状や特徴を曲線で近似するため、より少ないメッシュ数でオブジェクトを近似できる。
【0008】
ただし、3頂点曲線メッシュ群で画像を精度良く近似するためには、エッジ線を適切に再現し、且つ、画像の大域的な色変化や弱いエッジの特徴を捉えたメッシュ群を生成する必要がある。そこで、画像内のエッジ線を抽出し、画像の全画素を頂点としてエッジ線を再現する初期メッシュ群を生成し、当該初期メッシュ群からメッシュ簡略化によりメッシュ数を削減することにより3頂点曲線メッシュ群を生成する方法が知られている。ただし、この方法では、メッシュ群を簡略化する度に色変化を計算する必要があるため、画像近似精度は良いものの計算量が多くなってしまう。また、画像内のエッジ線を抽出し、当該エッジ線上の点と画像をサブサンプリングした点とを頂点とし、ドロネー三角形分割から3頂点曲線メッシュ群を生成する方法がある。ただし、この方法ではエッジ線は再現可能なものの、エッジ線以外の部分では単純なサブサンプリングを用いているため、不要なメッシュが多くなってしまう。
【0009】
本発明は上述の問題点に鑑みなされたものであり、画像近似精度の良い効率的なメッシュ群を生成するための技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
上述の1以上の問題点を解決するため、本発明の画像処理装置は以下の構成を備える。すなわち、入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置において、前記入力画像からエッジ線を検出する検出手段と、前記検出手段が検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定手段と、前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定手段と、前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、前記分割手段により分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、前記分割手段により分割されたそれぞれのメッシュを符号化し、前記色設定手段により設定された色情報を含む符号化データを出力する符号化手段と、を備える。
【発明の効果】
【0011】
本発明によれば、画像近似精度の良い効率的なメッシュ群を生成可能とする技術を提供することができる。
【図面の簡単な説明】
【0012】
【図1】第1実施形態に係る画像処理装置の機能構成を示すブロック図である。
【図2】特徴線検出部102が行う処理を説明するための図である。
【図3】第1の特徴点設定部103が行う第1の特徴点設定処理を説明するための図である。
【図4】特徴線に対するサンプリング点決定処理の過程を示す図である。
【図5】第2の特徴点設定部104が行う第2の特徴点設定処理を説明するための図である。
【図6】特徴点統合部105が行う処理を説明するための図である。
【図7】メッシュ生成部106が行う処理の動作フローチャートである。
【図8】メッシュの辺の曲線化処理を説明するための図である。
【図9】生成された3頂点曲線メッシュ群の例を例示的に示す図である。
【図10】3頂点曲線メッシュの形状及び色情報のサンプリング点を例示的に示す図である。
【図11】色情報を保持するサンプリング点の例を示す図である。
【図12】色設定部107が行う処理を説明するための図である。
【図13】コンピュータのハードウェア構成例を示す図である。
【図14】第2実施形態で第2の特徴点設定部104が行う処理を説明するための図である。
【図15】第3実施形態で第2の特徴点設定部104が強エッジに対し行う処理を説明するための図である。
【図16】第3実施形態で第2の特徴点設定部104が弱エッジに対し行う処理を説明するための図である。
【図17】第3実施形態で特徴点統合部105が行う特徴点統合の処理を説明するための図である。
【図18】第3実施形態で特徴点統合部105が行う第2の特徴点の削除の処理を説明するための図である。
【図19】第3実施形態で生成された3頂点曲線メッシュ群の例を例示的に示す図である。
【発明を実施するための形態】
【0013】
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
【0014】
(第1実施形態)
<概要>
第1実施形態では、入力画像を複数のメッシュに分割し、分割したメッシュ毎に符号化するメッシュ符号化処理を行う画像処理装置について説明する。特に、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を弱エッジに基づいて第2の特徴点をそれぞれ設定し、これらの2種類の特徴点をメッシュの頂点に利用する。また、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。この構成により、画像近似精度の良い効率的なメッシュ群を生成する。
【0015】
<前提技術>
はじめに、3頂点曲線メッシュについて説明する。なお、3頂点を結ぶ曲線としては、ベジェ曲線、B−スプライン等の様々な種類の曲線を用いることが可能である。以下の説明では、3頂点曲線メッシュにパラメトリック曲面の一つである3頂点のベジェパッチを用いる。ベジェパッチの中でも特に3次のベジェパッチでは、メッシュの各辺が3次のベジェ曲線となるため、3頂点曲線メッシュを生成したのちにユーザによる編集が容易という利点がある。P1、P2、P3を頂点とする3次のベジェパッチ内の点は以下の式で表される。
【0016】
【数1】
【0017】
ここで、s、t、uはパッチのパラメータである。また、p1、p2、p3は、それぞれ頂点P1、P2、P3の座標値である。更に、c1〜c7は曲線パッチの形状を定めるパラメータである。特に、c1〜c6はベジェパッチの輪郭を決める3つのベジェ曲線の制御点に対応するパラメータである。一方、c7はベジェパッチの輪郭には関与しないパラメータであり、ベジェパッチの頂点の座標と、輪郭を成すベジェ曲線の制御点に対応するパラメータとに基づいて以下のように決定されるパラメータである。
【0018】
【数2】
【0019】
<装置構成および各部の動作>
図1は、第1実施形態に係る画像処理装置の機能ブロック図である。図1に示すように、画像処理装置は、画像入力部101、特徴線検出部102、第1の特徴点設定部103、第2の特徴点設定部104、特徴点統合部105、メッシュ生成部106、色設定部107、出力部108を有している。
【0020】
画像入力部101には、処理対象となるラスタ画像が入力される。なお、入力される画像は、カラー画像、グレー画像、白黒画像のいずれでも構わない。なお、入力画像は矩形画像でも構わないし、画像の一部をベクトル化したい場合には背景部を透過色に設定した画像等、切り出された領域が与えられても良い。
【0021】
特徴線検出部102により入力画像上の特徴を表す曲線形状の特徴線を構成する。ここでは第1の特徴点設定部103で用いられる特徴線と、第2の特徴点設定部104で用いられる特徴線の2種類の特徴線を構成する。第1実施形態では特徴線としてエッジ線を用いる。以下の説明では、特徴線検出部102を、エッジ検出部102−1と、エッジ線構成部102−2とに分けて説明する。
【0022】
エッジ検出部102−1では入力画像のエッジとなる画素を検出する。第1実施形態ではキャニー法という既知の方法を用いるが、他の手法を用いても構わない。またキャニー法が効果的に機能するように、入力画像に明るさ調整、エッジ強調などの前処理を施しても構わない。
【0023】
エッジ線構成部102−2ではエッジ検出部102−1で抽出されたエッジ画素のうち、隣接するもの同士を結ぶ線分を構成することで、エッジを再現する線分群を構成する。隣接画素を結んで線分群を構成する際に、注目画素の上、下、左、右にある4つの画素が隣接しているとみなす4連結接続がある。また、当該4方向に加えて右上、右下、左上、左下にある4つの画素も隣接していると見なす8連結接続もある。第1実施形態では8連結接続を用いる。エッジ検出部102−1においてキャニー法を用いた結果に対して、8連結接続で隣接しているとみなせる画素を結ぶと、以下で説明するようにエッジ線として望ましくない結果が得られる場合がある。
【0024】
図2は、特徴線検出部102が行う処理、特に、エッジ線構成部102−2が行う処理を説明する図である。部分画像200a内の四角はそれぞれ画素を表し、エッジ検出においてエッジと見なされた画素を斜線で示している。これらエッジ画素に対して8連結接続で隣接した画素を結ぶと部分画像200bに示すようにエッジ画素201、202、203を結ぶループが発生してしまう。そのため、部分画像200aのようなエッジが検出された場合は、ループのないエッジ線によって結ばれるべきである。そこで、ここでは8連結接続を行う前に、Hilditch細線化法という既知の手法を適用することでこの問題を解決する。Hilditch細線化を行うと、部分画像200bに示したエッジ画素201はエッジ画素でないと判断される。その結果、部分画像200cに示すように、エッジ画素がループのない1つのエッジ線によって結ばれることになる。
【0025】
特徴線検出部102で構成する特徴線としては、エッジ抽出処理で検出されるエッジ線の他、ベクトル化対象オブジェクトの輪郭を用いることも可能である。ここでオブジェクトとは、入力画像内にある文字や物体像等を指している。入力画像の一部をベクトル表現するという目的で、入力画像の一部が透過色に設定されている場合は、透過色と非透過色の境界に有る画素がオブジェクトの輪郭画素となる。なお、オブジェクトの輪郭画素からの線分群の構成は、エッジ線構成部102−2と同様の手順に従って隣接する画素同士をつなぎ合わせることで実現できる。なお、特徴線のさらに別の例としては、入力画像の領域分割における境界線が考えられる。領域分割は最近傍法を用いたもの、EMアルゴリズムを利用したものなど、多くの手法が知られている。
【0026】
第1実施形態においては、エッジ検出部102−1は、互いに異なる2つのエッジ閾値を用いることにより、2通りのエッジを抽出する。具体的には、規定のエッジ強度以上のエッジ線である”強エッジ”(画像300a)、規定のエッジ強度未満のエッジ線である”強エッジ”と”弱エッジ”の双方(画像500a)を抽出する。これは例えば、濃度変化の基準として2通りの閾値を用い、キャニー法を利用してそれぞれの閾値に対してエッジ画素を抽出している。その後、抽出された2通りのエッジ画素は、それぞれエッジ線構成部102−2により特徴線として構成される。なお、画像の強エッジの画素と弱エッジの画素が得られるのであれば、異なるエッジ抽出フィルタを用いるなど他の方法を用いても構わない。
【0027】
図3は、第1の特徴点設定部103が行う第1の特徴点設定処理を説明するための図である。画像300aは、第1の特徴点設定部103に入力される強エッジの特徴線を例示的に示している。第1の特徴点設定部103は、強エッジ線上に、図4に示される処理に従って第1の特徴点を設定(サンプリング)する処理を行う。設定処理の結果、画像300bの黒丸で示されるような第1の特徴点が設定される。
【0028】
図4(a)は、特徴線である線分群を示しており、401、402、403、404、405はそれぞれ特徴線を構成する頂点である。まず、図4(b)に示すように、特徴線の端点である頂点401を起点として、頂点402が削除され、頂点401と頂点403を近似曲線の端点として、頂点402を近似するように近似関数406を生成する。ここで近似関数は、3次のベジェ関数を最小自乗近似により生成しているが、B−スプライン関数など他の関数を用いても構わない。生成した近似関数406と削除した頂点402との距離から誤差を計算し、誤差が閾値以内であれば次の頂点を削除する。ここでは、誤差の閾値は1画素としている。
【0029】
誤差が閾値以内である場合、隣接する次の頂点に対する処理に進む。つまり、図4(c)に示すように、頂点403を削除し、頂点401と頂点404とを近似曲線の端点として、頂点402と403を近似するように近似関数407を生成する。そして、近似関数407と頂点402、403との誤差を計算する。
【0030】
誤差が閾値以内である場合、隣接する次の頂点に対する処理に進む。つまり、図4(d)に示すように、頂点404を削除し、頂点401と頂点405とを近似曲線の端点として頂点402、403、404を近似するように近似関数408を生成する。近似関数408と頂点402、403、404との誤差を計算する。ここで近似関数408と頂点402、404との誤差が閾値を超えたとする。このとき近似関数408は採用せず、前に生成された近似関数407が有効な近似関数として採用される。
【0031】
上述の処理を経て、図4(e)(図4(c)と同じ)に示すように、特徴線の端点である頂点401を起点として、頂点402、403は削除され、近似曲線の端点である頂点404は削除されず残ることになる。そして、この例では、特徴線の端点である頂点401と405、及び近似曲線の端点である頂点404がそれぞれ第1の特徴点として設定される。なお、ここでは、5個の頂点を含む特徴線に対して説明を行ったが、より多い頂点を含む特徴線に対しても上述と同様の処理を繰り返すことにより第1の特徴点として設定される。また、ここでは、特徴線の端点を起点として隣接頂点を順番に削除して近似関数を生成していく例について説明したが、特徴線の端点間を均等にサンプリングするなど他の方法を用いて第1の特徴点を設定しても構わない。
【0032】
図5は、第2の特徴点設定部104が行う第2の特徴点設定処理を説明するための図である。画像500bは、第2の特徴点設定部103に入力される弱エッジの特徴線を例示的に示している。ここで、弱エッジを示す画像500bは、例えば、エッジ検出部102−1により得られる画像300a(強エッジのみ)と画像500a(強エッジと弱エッジ)との差分を導出することにより得られる。つまり、弱エッジ線は、規定のエッジ強度未満のエッジ線を意味する。
【0033】
第2の特徴点設定部104は、画像500bに示される特徴線(弱エッジ)から規定距離だけ離間した位置の画素を第2の特徴点として設定(サンプリング)する。例えば、特徴線に沿って、各特徴線の端点から5画素置きに特徴線から3画素の距離にある画素を第2の特徴点として設定する。設定処理の結果、画像500cの白抜き黒丸で示されるような第2の特徴点が設定される。ただし、特徴線の周辺画素をサンプリングするのであれば、他の方法を用いても構わない。
【0034】
図6は、特徴点統合部105の処理を説明する図である。特徴点統合部105では、第1の特徴点設定部103で得られた第1の特徴点と、第2の特徴点設定部104で得られた第2の特徴点を統合する。画像300bで示される第1の特徴点と、画像500cで示される第2の特徴点を統合した特徴点集合を図6(a)に示す。図6(a)において、第1の特徴点は黒丸で示され、第2の特徴点は白抜き黒丸で示される。
【0035】
なお、メッシュ数の増大を防ぐため、第1の特徴点に近接した第2の特徴点が存在する場合、当該第2の特徴点を削除するよう構成するとよい。例えば、第1の特徴点から所定距離以下(3画素以内)に第2の特徴点が存在する場合、当該第2の特徴点を削除する。図6(a)においては、第1の特徴点に隣接している第2の特徴点である頂点601、602が削除される。
【0036】
図6(b)は、特徴点統合部105で最終的に生成されるデータを例示的に示しており、特徴点データと辺データとを含む。なお、辺データは、特徴線(強エッジ)上で隣接する第1の特徴点同士を接続して生成する。以降で説明するように、特徴点はメッシュの頂点として利用され、辺データは、生成されるメッシュの一辺として利用される。
【0037】
メッシュ生成部106の処理について図7〜図9を参照して説明する。メッシュ生成部106は、特徴線(強エッジ)を再現する3頂点曲線メッシュ群を生成する機能部である。つまり、3頂点曲線メッシュ群を構成する複数の3頂点曲線メッシュの各々の形状情報を生成する。
【0038】
図7は、メッシュ生成部106の処理を説明するフローチャートである。以下の、ステップに先立って、特徴点統合部105により出力される特徴点データと辺データとがメッシュ生成部106に入力される。
【0039】
ステップS701では、曲線化対象とする辺を設定する。ここでは、特徴点統合部105で生成した辺データ(すなわち、第1の特徴点同士を結ぶ辺)が曲線化対象とする辺として設定される。
【0040】
ステップS702では、3頂点直線メッシュ群を生成する。例えば、ステップS701で設定した辺を制約条件として制約付きドロネー三角形分割を利用することにより、当該設定した辺が各メッシュの辺となる3頂点直線メッシュ群を生成する。ここで、各メッシュの頂点は特徴点集合内の各点から選択される。なお、制約付きドロネー三角形分割は、点群と制約条件を与えると、与えられた点群を頂点とし、かつ制約条件を満たす直線メッシュを生成するアルゴリズムである。ここで制約条件とは点群の一部を結ぶ線分である。ただし、特徴点統合部105で生成した辺データを再現するメッシュを生成さえすれば、他の方法を用いても構わない。
【0041】
ステップS703では、曲線化対象の全ての辺が曲線化済みか判断する。曲線化していない辺があるとき、ステップS704の処理に進む。そして、ステップS704では、曲線化対象で曲線化されていない辺を一つ選択し、ステップS705では、特徴線を近似するようにメッシュの辺を曲線近似する曲線化処理を行う。その後ステップS703に戻り、全ての辺が曲線化済みと判断した場合、曲線化処理を終了する。
【0042】
図8は、メッシュの辺の曲線化処理を説明するための図である。ここでは、頂点801と802を接続する辺805が曲線化処理の対象となっている。そして、頂点801と802を端点とし頂点803、804を近似するような近似関数により辺807を生成する。なお、第1実施形態では、第1の特徴点設定部103で生成した3次のベジェ関数をそのままメッシュの辺として利用可能であるため、曲線を再計算する必要はない。
【0043】
以上の処理により、図9に示されるような3頂点曲線メッシュ群900が入力画像に対して生成される。つまり、入力画像を複数の3頂点曲線メッシュの形状を決定することができる。
【0044】
色設定部107は、メッシュ生成部106で生成された3頂点曲線メッシュ群に含まれる各3頂点曲線メッシュの色を規定する色情報を生成し設定する機能部である。なお、色情報を生成するには様々な方法が考えられ、例えば、各メッシュに対して一色を生成してもよい。この場合、一色の決定方法としては、メッシュの内部領域に対応する入力画像の画素の色平均を用いることが考えられる。一方、メッシュ内の色をより複雑に表現する方法としてメッシュに対して色を表現する関数を生成する方法が考えられる。例えば非特許文献1ではRGBの3成分に対して、メッシュ内の色を塗る薄板スプライン関数を入力画像の色を元に生成している。
【0045】
第1実施形態では、メッシュを更に微小な3頂点からなるメッシュに細分割し、その微小な細分割メッシュの頂点をサンプリング点として、該サンプリング点に対応する入力画像の位置から色を取得する。レンダリングの際は、それら微小な三角形内の色を双線形補間で補うことで、メッシュの色を塗ることができる。
【0046】
図10は、3頂点曲線メッシュの形状及び色情報のサンプリング点を例示的に示す図である。図10(a)は、1つの3頂点曲線メッシュの形状を例示的に示す図である。1001、1002、1003はメッシュの頂点、1004から1009はメッシュの制御点である。メッシュの形状情報はメッシュ生成部106で算出されている。一方、図10(b)は3頂点曲線メッシュの色情報を示す。各サンプリング点1010から1024について、それぞれ色情報(RGB値)を持つ。なお、色情報としてCMYKなど他の色空間の情報を保持するよう構成してもよい。なお、グレー画像の場合は、輝度情報を保持するよう構成するとよい。色情報を保持するサンプリング点は、ベジェパッチを規則的に分割することで導出される。図10(b)では、色情報のサンプリング点として15点を使用する例を示しているが、ベジェパッチの辺を分割する数を変更し、サンプリング数を変更しても構わない。
【0047】
図11は、色情報を保持するサンプリング点の例を示す図である。図11(a)では辺の分割数が1であり、サンプリング点の数は3個となる。また、図11(b)〜(d)は、それぞれ、辺の分割数が2、3、4の例を示しており、サンプリング点の数はそれぞれ6個、10個、15個となる。
【0048】
また、色設定部107は、メッシュ生成部106が生成した各々の3頂点曲線メッシュに対して、特徴線上の辺に対しては2種類の色(強エッジ線における両側2色)を割り当てる。これにより、特徴線(強エッジ線)をまたぐ際に起こる急峻な色変化の表現を可能とする。
【0049】
図12は、色設定部107が行う処理を説明するための図である。図12(a)に示す頂点1201〜1205は、特徴線上では無い領域に存在する頂点である。この場合、色設定部107は、各頂点に対し1色の色情報を設定する。一方、図12(b)に示す頂点1206〜1210は、特徴線上に存在する頂点である。この場合、色設定部107は、各頂点に対し2色の色情報を設定する。特に、図12(b)では、特徴線上に存在する頂点1206〜1210の各々に対し、白色及び黒色の2色の色情報(輝度値)を設定する例を示している。
【0050】
つまり、第1の特徴点に対応する頂点に対しては2色の色情報を設定し、辺(特徴線)を挟んで色が不連続となるように色表現を行い、強エッジの急峻な勾配を表現している。一方、第2の特徴点に対応する頂点に対しては1色の色情報を設定し、辺を挟んで色が連続的に変化するように色表現を行う。
【0051】
出力部108では、メッシュ生成部106で決定された3頂点曲線メッシュの形状情報と、色設定部107により決定された色情報とに基づいて、各メッシュに対するメッシュ符号化データを生成して出力する。なお、画像入力部101により入力されたラスタ画像の全域に対するメッシュ符号化データ群を生成するよう構成してもよいし、当該ラスタ画像の特定部分に対する1以上のメッシュ符号化データのみを生成するよう構成してもよい。
【0052】
以上説明したとおり第1実施形態によれば、強エッジに基づく第1の特徴点と弱エッジに基づく第2の特徴点との2種類の特徴点をメッシュの頂点に利用する。更に、第1の特徴点に対応する頂点には2色の色情報を設定し、第2の特徴点に対応する頂点には1色の色情報を設定する。このように構成することにより、画像近似精度の良い効率的なメッシュ群を生成可能となる。
【0053】
(変形例)
上述の画像処理装置の各部はハードウェアにより構成しても良いが、当該各部の一部又は全部をコンピュータプログラムとして実装しても良い。すなわち、コンピュータのCPUが当該コンピュータプログラムを実行することで、上述の画像処理装置の機能を実現する。
【0054】
図13は、上述した第1実施形態に係る画像処理装置として適用可能なコンピュータのハードウェア構成を示す図である。
【0055】
CPU1301は、RAM1302やROM1303に格納されているコンピュータプログラムやデータを用いて、コンピュータ全体の制御を行うと共に、画像処理装置が行うものとして説明した上述の各処理を実行する。即ち、図1に示した各部が行うものとして上述した各処理を実行する。
【0056】
RAM1302は、コンピュータ読み取り可能な記憶媒体の一例である。RAM1302は、外部記憶装置1307や記憶媒体ドライブ1308からロードされたコンピュータプログラムやデータ、I/F(インターフェース)1309を介して外部装置から受信したデータなどを一時的に記憶するためのエリアを有する。更に、RAM1302は、CPU1301が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM1302は、各種のエリアを適宜提供することができる。ROM1303は、コンピュータ読み取り可能な記憶媒体の一例であり、コンピュータの設定データや、ブートプログラムなどが格納されている。
【0057】
キーボード1304、マウス1305は、コンピュータの操作者が操作することで、各種の指示をCPU1301に対して入力することができる。表示装置1306は、CRTや液晶画面などにより構成されており、CPU1301による処理結果を画像や文字などをもって表示することができる。例えば、画像入力部101により入力されたラスタ画像を表示したり、メッシュ生成部106で決定された3頂点曲線メッシュ群を表示したりすることができる。
【0058】
外部記憶装置1307は、コンピュータ読み取り記憶媒体の一例であり、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置1307には、OS(オペレーティングシステム)や、図1に示した各部の機能をCPU1301に実現させるためのコンピュータプログラムが格納される。また、画像入力部101により入力されたラスタ画像のデータ、既知の情報として説明した情報等が格納される。外部記憶装置1307に保存されているコンピュータプログラムやデータは、CPU1301による制御に従って適宜RAM1302にロードされ、CPU1301による処理対象となる。
【0059】
記憶媒体ドライブ1308は、CD−ROMやDVD−ROMなどの記憶媒体に記録されているコンピュータプログラムやデータを読み出し、読み出したコンピュータプログラムやデータを外部記憶装置1307やRAM1302に出力する。なお、外部記憶装置1307に保存されているものとして説明した情報の一部若しくは全部をこの記憶媒体に記録させておき、この記憶媒体ドライブ1308に読み取らせても良い。
【0060】
I/F1309は、外部装置をコンピュータに接続する為のものである。例えば、ディジタルカメラなど、ラスタ画像を取得するための装置を、このI/F1309に接続し、この装置から入力画像をI/F1309を介してRAM1302や外部記憶装置1307に取得するようにしても良い。1310は、上述の各部を繋ぐバスである。
【0061】
このような構成において、コンピュータの電源がONになると、CPU1301はROM1303に格納されているブートプログラムに従って、外部記憶装置1307からOSをRAM1302にロードする。この結果、キーボード1304、マウス1305を介した情報入力操作が可能となり、表示装置1306にGUIを表示することが可能となる。ユーザが、キーボード1304やマウス1305を操作し、外部記憶装置1307に格納された画像処理用アプリケーションプログラムの起動指示を入力すると、CPU1301はこのプログラムをRAM1302にロードし、実行する。これにより、コンピュータは上述の画像処理装置として機能することになる。
【0062】
(第2実施形態)
<概要>
第2実施形態では、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を設定し、画像のアクティビティに応じた領域細分割処理に基づいて第2の特徴点を設定する。これらの2種類の特徴点をメッシュの頂点に利用すると共に、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。
【0063】
<装置構成および各部の動作>
第2実施形態に係る画像処理装置の構成は第1実施形態に係る画像処理装置の構成(図1)と同様である。ただし、第2の特徴点設定部104における動作が第1実施形態とは異なる。そのため、以下では、第2実施形態とは異なる部分についてのみ主に説明する。
【0064】
第2実施形態では、特徴線検出部102は、第1の特徴点設定部103で用いられる特徴線である強エッジのみを検出する。すなわち、エッジ検出部102−1は強エッジのエッジ画素のみ抽出する。そして、エッジ線構成部102−2は、抽出された強エッジ画素に基づいて特徴線(図3の画像300a)を構成する。
【0065】
一方、第2の特徴点設定部104は、以下で説明するように、入力画像内の各領域の”アクティビティ”に応じて入力画像を再帰的に細分割する。そして、細分割された領域サイズに対応させて第2の特徴点を設定することにより、第2の特徴点の配置密度を変化させる。ここで、画像の”アクティビティ”とは、画像内での局所的な変動量を表す。例えば、細分割領域内での勾配の大きさ、平均色からの分散や誤差などである。
【0066】
図14は、第2実施形態に係る第2の特徴点設定部104の処理を説明する図である。
【0067】
まず、サンプリング点設定画像1400aに示すように、入力画像の四隅の頂点を色のサンプリング点として設定し、入力画像における対応する座標の色をサンプリングする。サンプリングした4頂点から生成される補間画像と入力画像との誤差を求め、誤差が閾値以上である場合、当該領域を4つの領域に細分割(サブディビジョン)する。第2実施形態では、細分化対象領域の中心を通るように等分に細分割することを想定するが、他の細分割方法を用いても構わない。
なお、補間画像は4頂点からの双一次補間で生成されることを想定するが、4頂点の色の平均値を補間画像とするなど他の補間画像生成方法を用いても構わない。また、ここでは、誤差の閾値としては色差を用いることを想定し、例えば、RGB各256階調(8ビット階調)での平均色差”10”を閾値として用いている。
【0068】
補間画像と入力画像との誤差が閾値以上である場合、サンプリング点設定画像1400aは、サンプリング点設定画像1400bに示されるように細分割される。そして、細分化により得られた4つの領域の各々の四隅に頂点を設定し、入力画像における対応する座標の色をサンプリングする。更に、4つの領域の各々について、サンプリングした4頂点から生成される補間画像と入力画像との誤差を求める。誤差が閾値以上である領域に対しては、更に細分割を行い、サンプリング点設定画像1400bは、サンプリング点設定画像1400cに示されるように細分割される。
【0069】
同様に、再帰的に細分割化を繰り返し、すべての領域の誤差が設定した閾値内に収まったとき、細分割を終了する。サンプリング点設定画像1400dは、細分割化処理が終了した状態を例示的に示す図である。このように設定された格子点が第2の特徴点として設定される。
【0070】
すなわち、第2実施形態では、画像変動量(画像の”アクティビティ”)が相対的に大きい領域に対して、第2の特徴点を集中的に(高密度に)設定する。このように設定された第2の特徴点をメッシュの頂点として用いることにより、第1実施形態に比較し、画像の大域的な特徴を捉えたメッシュ群を生成することができる。
【0071】
(第3実施形態)
<概要>
第3実施形態では、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を設定し、抽出したエッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づいて第2の特徴点を設定する。これらの2種類の特徴点をメッシュの頂点に利用すると共に、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。
【0072】
<装置構成および各部の動作>
第3実施形態に係る画像処理装置の構成は第1実施形態に係る画像処理装置の構成(図1)と同様である。ただし、第2の特徴点設定部104における動作が第1実施形態、及び、第2実施形態とは異なる。そのため、以下では、第1及び第2実施形態とは異なる部分についてのみ主に説明する。
【0073】
第3実施形態では、特徴線検出部102は、第1実施形態と同様に、第1の特徴点設定部103で用いられる特徴線である強エッジと、第2の特徴点設定部104で用いられる特徴線である弱エッジを検出する。すなわち、エッジ検出部102−1は強エッジのエッジ画素と弱エッジ画素とを抽出する。そして、エッジ線構成部102−2は、抽出された強エッジ画素と弱エッジ画素に基づいて、それぞれ特徴線、即ち、”強エッジ”(図3の画像300a)と”弱エッジ”(図5の画像500a)を構成する。ただし、第3実施形態においては、強エッジを、第1の特徴点設定部のみならず、第2の特徴点設定部でも用いる点が第1実施形態とは異なる。
【0074】
第2の特徴点設定部104は、以下で説明するように、抽出したエッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づいて、特徴線の周囲に第2の特徴点を設定する。
【0075】
図15は、第3実施形態に係る第2の特徴点設定部104が実行する強エッジに対する処理を説明する図である。また、図16は、第3実施形態に係る第2の特徴点設定部104が実行する弱エッジに対する処理を説明する図である。
【0076】
画像1500aは強エッジ(図3の画像300aと同じ)を示したものであり、画像1500bは第1の特徴点(図3の画像300bと同じ)を黒丸で表わしたものである。また、画像1500cでは、強エッジの周囲に設定された第2の特徴点を白抜き黒丸で表したものである。また、画像1600bは(図5の画像500bと同じ)は、弱エッジの特徴線を例示的に示している。ここで、弱エッジを示す画像500bは、第1実施形態と同様、画像1500a(強エッジのみ)と画像1600a(強エッジと弱エッジ)との差分を導出することにより得られる。そして、画像1600cは、規定のエッジ強度未満のエッジ線である弱エッジ線の周囲に設定された第2の特徴点を白抜き黒丸で表現したものである。
【0077】
第2の特徴点設定部104は、画像1500bに示される第1の特徴点の中で、同一特徴線上に存在しかつ隣接する第1の特徴点間に挟まれる特徴線の部分区間に着目する。部分区間のそれぞれに対し、それぞれの特徴線部分に対応する各画素におけるエッジ強度の平均値を求める。それぞれの特徴線部分に対して求めたエッジ強度の平均値を、予め指定されるn個の閾値に基づいて(n+1)段階に区分する。そして、それぞれの段階に応じた既定距離だけ、対応する部分区間の中間点から該中間点位置における特徴線の法線方向に離間した位置の画素を第2の特徴点として設定(サンプリング)する。尚、エッジ強度が低いほど、エッジの周囲での色変化が少ないものとして、より遠い距離にある位置に第2の特徴点設定し、エッジ強度が高いほど、エッジ周囲での色変化が急激であるとして、より近い距離に第2の特徴点を設定するのが好適である。
【0078】
例えば、第1の特徴点1501と第1の特徴点1502との間に挟まれる部分区間に対しては、第2の特徴点1503と第2の特徴点1504とが設定される。これらは、当該部分区間の両側にそれぞれ1点ずつ設定される。同様に、第1の特徴点1505と第1の特徴点1506との間に挟まれる部分区間に対しては、第2の特徴点1507と第2の特徴点1508とが設定される。
【0079】
ここで、画像1500cにおいては、第1の特徴点1501と第1の特徴点1502との間に挟まれる部分区間の方が、第1の特徴点1505と第1の特徴点1506との間に挟まれる部分区間よりもエッジ強度の平均が高い場合を例示的に示している。そのため、第2の特徴点1503及び第2の特徴点1504は、第2の特徴点1507及び第2の特徴点1508よりも、対応する特徴線の部分区間のそれぞれの中間点により近い位置に設定されている。設定処理の結果、画像1500cの白抜き黒丸で示されるような第2の特徴点が設定される。
【0080】
閾値の個数nは例えば2であり(つまり3段階に区分)、既定距離は例えば、エッジ強度の低い段階から順に9,7,5画素とする。ここで、各部分区間のエッジ強度の平均値は、各部分区間を挟む両端の2つの第1の特徴点のエッジ強度の平均により設定しても良い。また、エッジ強度の代わりに、各部分区間の中間点から法線方向に並ぶ各画素の濃度を中間点から当該中間点より離れる方向に順次求め、濃度の変化に着目してもよい。この場合には、周辺画素における画素値(濃度)の変化の程度が予め定める閾値以下となる位置をもって第2の特徴点位置と定めるとよい。
【0081】
尚、第2の特徴点設定部104は、画像1600bに示される特徴線(弱エッジ)に対しても、第2の特徴点を設定する。例えば、特徴線に沿って、各特徴線上の各画素におけるエッジ強度の平均値を求める。求めたエッジ強度の平均値を、予め指定されるm個の閾値に基づいて(m+1)段階に区分する。そして、それぞれの段階に応じた既定距離だけ、当該部分区間の中間点から該中間点位置における特徴線の法線方向に離間した位置の画素を第2の特徴点として設定(サンプリング)する。例えば、弱エッジ1601に対しては、第2の特徴点1602と第2の特徴点1603とが設定される。これらもまた、当該弱エッジの両側にそれぞれ1点ずつ設定される。弱エッジの場合も、強エッジと同様に、エッジ強度が低いほどより遠い距離にある位置に設定し、エッジ強度が高いほどより近い距離に第2の特徴点を設定するのが好適である。
【0082】
閾値の個数mは例えば1であり(つまり2段階に区分)、既定距離は例えば、エッジ強度の低い段階から順に4,3画素とする。これは、弱エッジ線上には第1の特徴点は存在しないため、第2の特徴点同士の間隔を、ほぼ強エッジ上の第1の特徴点と第2の特徴点との間隔と同等と見なしていることに相当する。ここで、各部分区間のエッジ強度の平均値は、それぞれの弱エッジ上の各画素のエッジ強度の平均により設定しても良い。また、強エッジの場合と同様に、エッジ強度の代わりに、各部分区間の中間点から法線方向に並ぶ各画素の濃度を中間点から当該中間点より離れる方向に順次求め、濃度の変化に着目してもよい。この場合も、周辺画素における画素値の変化の程度が予め定める閾値以下となる位置を第2の特徴点位置として設定するとよい。
【0083】
図17(a)は、上述の処理により得られた第1の特徴点及び第2の特徴点を、基となる強エッジ線及び弱エッジ線とともに示した図である。また、図17(b)は、第1の特徴点と第2の特徴点のみを示した図である。
【0084】
尚、第3実施形態においては、第1の特徴点に近接した第2の特徴点が存在する場合に、当該第2の特徴点を削除するよう特徴点統合部105を構成しても良い。また、近接する複数の第2の特徴点が存在する場合に、これらの一部を削除するよう構成してもよい。例えば、所定距離以下(3画素以内)に第2の特徴点が2つ存在する場合、何れか一方の第2の特徴点を削除するとよい。
【0085】
図18は、上述の削除処理後における、第1の特徴点と第2の特徴点を合わせて示した図である。また、図19は、入力画像に対して、メッシュ生成部106を経て生成される3頂点曲線メッシュ群1900を表す図である。
【0086】
上述のように、第3実施形態では、強エッジに基づく第1の特徴点と、エッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づく第2の特徴点との2種類の特徴点をメッシュの頂点に利用する例について説明した。このように設定された第2の特徴点をメッシュの頂点として用いることにより、第1実施形態や第2の実施形態に比較し、中間色帯の影響による色の滲みの発生を抑制することが可能となる。例えば、オブジェクト領域の境界付近には、多くの場合にエッジが存在し、それらに隣接してオブジェクト内部と外部の中間色となっている狭い遷移領域が付随することが多い。つまり、第3の実施形態においては、これらの遷移領域(中間色帯)による滲みの発生を抑制しつつ、より画像近似精度の良い効率的なメッシュ群を生成可能となる。
【0087】
なお、上述の第3実施形態においては、第2の特徴点を設定する距離を決定する際に、エッジ強度閾値を利用して複数の段階に区分するものとして説明した。しかしながら、強エッジと弱エッジでそれぞれ既定の距離を1つずつ定めておき、これらの既定距離を用いて第2の特徴点を設定してもよい。例えば、既定距離を、例えば、強エッジに対しては7画素、弱エッジに対しては3画素と定めてもよい。これにより、処理負荷を低減することが出来、演算時間の短縮や回路規模の縮小が可能となる。
【0088】
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は、画像をベクトル表現する画像処理技術に関し、特にラスタ画像をメッシュ群により表現するメッシュ符号化技術に関するものである。
【背景技術】
【0002】
従来から、画像をベクトル表現する技術は広く知られている。ベクトル表現された画像は、拡大縮小時に画質劣化が少ない、編集がし易い、高い圧縮率を実現できるなどの利点がある。また、イラストや文字をベクトル表現する場合には、オブジェクトの輪郭をベジェ、スプライン関数などで近似する手法が用いられている。オブジェクトの領域内は、単一色、線形グラデーション、放射状グラデーションなどで塗ることができるが、複雑なグラデーションの表現は困難である。
【0003】
複雑なグラデーションを含むオブジェクトをベクトル表現するには、例えば、米アドビシステムズ社のIllustrator(登録商標)のグラディエント・メッシュ・ツールが用いられる。グラディエント・メッシュでは、メッシュに色と勾配を与えて3次関数を生成することで複雑なグラデーションを含むオブジェクトを描画できる(特許文献1)。
【0004】
グラディエント・メッシュは4頂点から成る曲線メッシュであるが、3頂点から成る曲線メッシュにより、複雑なグラデーションをベクトル表現する技術が知られている(非特許文献1)。画像内のエッジを線分群(以下、エッジ線と呼ぶ)として抽出し、当該エッジ線を再現する3頂点曲線メッシュ群を構成することでベクトル表現を行う。ここで3頂点曲線メッシュとは、メッシュの頂点数が3であり、頂点間を結ぶメッシュの辺が直線または曲線であるものとする。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第4220010号公報
【非特許文献】
【0006】
【非特許文献1】Tian Xia, Binbin Liao, and Yizhou Yu, "Patch-Based Image Vectorization with Automatic Curvilinear Feature Alignment", ACM SIGGRAPH Asia 2009, Vol.28, No.5.
【発明の概要】
【発明が解決しようとする課題】
【0007】
自然画像のような色が複雑に変化するオブジェクトを3頂点曲線メッシュ群によりベクトル表現することを考える。直線メッシュに対して曲線メッシュは、オブジェクトの形状や特徴を曲線で近似するため、より少ないメッシュ数でオブジェクトを近似できる。
【0008】
ただし、3頂点曲線メッシュ群で画像を精度良く近似するためには、エッジ線を適切に再現し、且つ、画像の大域的な色変化や弱いエッジの特徴を捉えたメッシュ群を生成する必要がある。そこで、画像内のエッジ線を抽出し、画像の全画素を頂点としてエッジ線を再現する初期メッシュ群を生成し、当該初期メッシュ群からメッシュ簡略化によりメッシュ数を削減することにより3頂点曲線メッシュ群を生成する方法が知られている。ただし、この方法では、メッシュ群を簡略化する度に色変化を計算する必要があるため、画像近似精度は良いものの計算量が多くなってしまう。また、画像内のエッジ線を抽出し、当該エッジ線上の点と画像をサブサンプリングした点とを頂点とし、ドロネー三角形分割から3頂点曲線メッシュ群を生成する方法がある。ただし、この方法ではエッジ線は再現可能なものの、エッジ線以外の部分では単純なサブサンプリングを用いているため、不要なメッシュが多くなってしまう。
【0009】
本発明は上述の問題点に鑑みなされたものであり、画像近似精度の良い効率的なメッシュ群を生成するための技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
上述の1以上の問題点を解決するため、本発明の画像処理装置は以下の構成を備える。すなわち、入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置において、前記入力画像からエッジ線を検出する検出手段と、前記検出手段が検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定手段と、前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定手段と、前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、前記分割手段により分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、前記分割手段により分割されたそれぞれのメッシュを符号化し、前記色設定手段により設定された色情報を含む符号化データを出力する符号化手段と、を備える。
【発明の効果】
【0011】
本発明によれば、画像近似精度の良い効率的なメッシュ群を生成可能とする技術を提供することができる。
【図面の簡単な説明】
【0012】
【図1】第1実施形態に係る画像処理装置の機能構成を示すブロック図である。
【図2】特徴線検出部102が行う処理を説明するための図である。
【図3】第1の特徴点設定部103が行う第1の特徴点設定処理を説明するための図である。
【図4】特徴線に対するサンプリング点決定処理の過程を示す図である。
【図5】第2の特徴点設定部104が行う第2の特徴点設定処理を説明するための図である。
【図6】特徴点統合部105が行う処理を説明するための図である。
【図7】メッシュ生成部106が行う処理の動作フローチャートである。
【図8】メッシュの辺の曲線化処理を説明するための図である。
【図9】生成された3頂点曲線メッシュ群の例を例示的に示す図である。
【図10】3頂点曲線メッシュの形状及び色情報のサンプリング点を例示的に示す図である。
【図11】色情報を保持するサンプリング点の例を示す図である。
【図12】色設定部107が行う処理を説明するための図である。
【図13】コンピュータのハードウェア構成例を示す図である。
【図14】第2実施形態で第2の特徴点設定部104が行う処理を説明するための図である。
【図15】第3実施形態で第2の特徴点設定部104が強エッジに対し行う処理を説明するための図である。
【図16】第3実施形態で第2の特徴点設定部104が弱エッジに対し行う処理を説明するための図である。
【図17】第3実施形態で特徴点統合部105が行う特徴点統合の処理を説明するための図である。
【図18】第3実施形態で特徴点統合部105が行う第2の特徴点の削除の処理を説明するための図である。
【図19】第3実施形態で生成された3頂点曲線メッシュ群の例を例示的に示す図である。
【発明を実施するための形態】
【0013】
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
【0014】
(第1実施形態)
<概要>
第1実施形態では、入力画像を複数のメッシュに分割し、分割したメッシュ毎に符号化するメッシュ符号化処理を行う画像処理装置について説明する。特に、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を弱エッジに基づいて第2の特徴点をそれぞれ設定し、これらの2種類の特徴点をメッシュの頂点に利用する。また、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。この構成により、画像近似精度の良い効率的なメッシュ群を生成する。
【0015】
<前提技術>
はじめに、3頂点曲線メッシュについて説明する。なお、3頂点を結ぶ曲線としては、ベジェ曲線、B−スプライン等の様々な種類の曲線を用いることが可能である。以下の説明では、3頂点曲線メッシュにパラメトリック曲面の一つである3頂点のベジェパッチを用いる。ベジェパッチの中でも特に3次のベジェパッチでは、メッシュの各辺が3次のベジェ曲線となるため、3頂点曲線メッシュを生成したのちにユーザによる編集が容易という利点がある。P1、P2、P3を頂点とする3次のベジェパッチ内の点は以下の式で表される。
【0016】
【数1】
【0017】
ここで、s、t、uはパッチのパラメータである。また、p1、p2、p3は、それぞれ頂点P1、P2、P3の座標値である。更に、c1〜c7は曲線パッチの形状を定めるパラメータである。特に、c1〜c6はベジェパッチの輪郭を決める3つのベジェ曲線の制御点に対応するパラメータである。一方、c7はベジェパッチの輪郭には関与しないパラメータであり、ベジェパッチの頂点の座標と、輪郭を成すベジェ曲線の制御点に対応するパラメータとに基づいて以下のように決定されるパラメータである。
【0018】
【数2】
【0019】
<装置構成および各部の動作>
図1は、第1実施形態に係る画像処理装置の機能ブロック図である。図1に示すように、画像処理装置は、画像入力部101、特徴線検出部102、第1の特徴点設定部103、第2の特徴点設定部104、特徴点統合部105、メッシュ生成部106、色設定部107、出力部108を有している。
【0020】
画像入力部101には、処理対象となるラスタ画像が入力される。なお、入力される画像は、カラー画像、グレー画像、白黒画像のいずれでも構わない。なお、入力画像は矩形画像でも構わないし、画像の一部をベクトル化したい場合には背景部を透過色に設定した画像等、切り出された領域が与えられても良い。
【0021】
特徴線検出部102により入力画像上の特徴を表す曲線形状の特徴線を構成する。ここでは第1の特徴点設定部103で用いられる特徴線と、第2の特徴点設定部104で用いられる特徴線の2種類の特徴線を構成する。第1実施形態では特徴線としてエッジ線を用いる。以下の説明では、特徴線検出部102を、エッジ検出部102−1と、エッジ線構成部102−2とに分けて説明する。
【0022】
エッジ検出部102−1では入力画像のエッジとなる画素を検出する。第1実施形態ではキャニー法という既知の方法を用いるが、他の手法を用いても構わない。またキャニー法が効果的に機能するように、入力画像に明るさ調整、エッジ強調などの前処理を施しても構わない。
【0023】
エッジ線構成部102−2ではエッジ検出部102−1で抽出されたエッジ画素のうち、隣接するもの同士を結ぶ線分を構成することで、エッジを再現する線分群を構成する。隣接画素を結んで線分群を構成する際に、注目画素の上、下、左、右にある4つの画素が隣接しているとみなす4連結接続がある。また、当該4方向に加えて右上、右下、左上、左下にある4つの画素も隣接していると見なす8連結接続もある。第1実施形態では8連結接続を用いる。エッジ検出部102−1においてキャニー法を用いた結果に対して、8連結接続で隣接しているとみなせる画素を結ぶと、以下で説明するようにエッジ線として望ましくない結果が得られる場合がある。
【0024】
図2は、特徴線検出部102が行う処理、特に、エッジ線構成部102−2が行う処理を説明する図である。部分画像200a内の四角はそれぞれ画素を表し、エッジ検出においてエッジと見なされた画素を斜線で示している。これらエッジ画素に対して8連結接続で隣接した画素を結ぶと部分画像200bに示すようにエッジ画素201、202、203を結ぶループが発生してしまう。そのため、部分画像200aのようなエッジが検出された場合は、ループのないエッジ線によって結ばれるべきである。そこで、ここでは8連結接続を行う前に、Hilditch細線化法という既知の手法を適用することでこの問題を解決する。Hilditch細線化を行うと、部分画像200bに示したエッジ画素201はエッジ画素でないと判断される。その結果、部分画像200cに示すように、エッジ画素がループのない1つのエッジ線によって結ばれることになる。
【0025】
特徴線検出部102で構成する特徴線としては、エッジ抽出処理で検出されるエッジ線の他、ベクトル化対象オブジェクトの輪郭を用いることも可能である。ここでオブジェクトとは、入力画像内にある文字や物体像等を指している。入力画像の一部をベクトル表現するという目的で、入力画像の一部が透過色に設定されている場合は、透過色と非透過色の境界に有る画素がオブジェクトの輪郭画素となる。なお、オブジェクトの輪郭画素からの線分群の構成は、エッジ線構成部102−2と同様の手順に従って隣接する画素同士をつなぎ合わせることで実現できる。なお、特徴線のさらに別の例としては、入力画像の領域分割における境界線が考えられる。領域分割は最近傍法を用いたもの、EMアルゴリズムを利用したものなど、多くの手法が知られている。
【0026】
第1実施形態においては、エッジ検出部102−1は、互いに異なる2つのエッジ閾値を用いることにより、2通りのエッジを抽出する。具体的には、規定のエッジ強度以上のエッジ線である”強エッジ”(画像300a)、規定のエッジ強度未満のエッジ線である”強エッジ”と”弱エッジ”の双方(画像500a)を抽出する。これは例えば、濃度変化の基準として2通りの閾値を用い、キャニー法を利用してそれぞれの閾値に対してエッジ画素を抽出している。その後、抽出された2通りのエッジ画素は、それぞれエッジ線構成部102−2により特徴線として構成される。なお、画像の強エッジの画素と弱エッジの画素が得られるのであれば、異なるエッジ抽出フィルタを用いるなど他の方法を用いても構わない。
【0027】
図3は、第1の特徴点設定部103が行う第1の特徴点設定処理を説明するための図である。画像300aは、第1の特徴点設定部103に入力される強エッジの特徴線を例示的に示している。第1の特徴点設定部103は、強エッジ線上に、図4に示される処理に従って第1の特徴点を設定(サンプリング)する処理を行う。設定処理の結果、画像300bの黒丸で示されるような第1の特徴点が設定される。
【0028】
図4(a)は、特徴線である線分群を示しており、401、402、403、404、405はそれぞれ特徴線を構成する頂点である。まず、図4(b)に示すように、特徴線の端点である頂点401を起点として、頂点402が削除され、頂点401と頂点403を近似曲線の端点として、頂点402を近似するように近似関数406を生成する。ここで近似関数は、3次のベジェ関数を最小自乗近似により生成しているが、B−スプライン関数など他の関数を用いても構わない。生成した近似関数406と削除した頂点402との距離から誤差を計算し、誤差が閾値以内であれば次の頂点を削除する。ここでは、誤差の閾値は1画素としている。
【0029】
誤差が閾値以内である場合、隣接する次の頂点に対する処理に進む。つまり、図4(c)に示すように、頂点403を削除し、頂点401と頂点404とを近似曲線の端点として、頂点402と403を近似するように近似関数407を生成する。そして、近似関数407と頂点402、403との誤差を計算する。
【0030】
誤差が閾値以内である場合、隣接する次の頂点に対する処理に進む。つまり、図4(d)に示すように、頂点404を削除し、頂点401と頂点405とを近似曲線の端点として頂点402、403、404を近似するように近似関数408を生成する。近似関数408と頂点402、403、404との誤差を計算する。ここで近似関数408と頂点402、404との誤差が閾値を超えたとする。このとき近似関数408は採用せず、前に生成された近似関数407が有効な近似関数として採用される。
【0031】
上述の処理を経て、図4(e)(図4(c)と同じ)に示すように、特徴線の端点である頂点401を起点として、頂点402、403は削除され、近似曲線の端点である頂点404は削除されず残ることになる。そして、この例では、特徴線の端点である頂点401と405、及び近似曲線の端点である頂点404がそれぞれ第1の特徴点として設定される。なお、ここでは、5個の頂点を含む特徴線に対して説明を行ったが、より多い頂点を含む特徴線に対しても上述と同様の処理を繰り返すことにより第1の特徴点として設定される。また、ここでは、特徴線の端点を起点として隣接頂点を順番に削除して近似関数を生成していく例について説明したが、特徴線の端点間を均等にサンプリングするなど他の方法を用いて第1の特徴点を設定しても構わない。
【0032】
図5は、第2の特徴点設定部104が行う第2の特徴点設定処理を説明するための図である。画像500bは、第2の特徴点設定部103に入力される弱エッジの特徴線を例示的に示している。ここで、弱エッジを示す画像500bは、例えば、エッジ検出部102−1により得られる画像300a(強エッジのみ)と画像500a(強エッジと弱エッジ)との差分を導出することにより得られる。つまり、弱エッジ線は、規定のエッジ強度未満のエッジ線を意味する。
【0033】
第2の特徴点設定部104は、画像500bに示される特徴線(弱エッジ)から規定距離だけ離間した位置の画素を第2の特徴点として設定(サンプリング)する。例えば、特徴線に沿って、各特徴線の端点から5画素置きに特徴線から3画素の距離にある画素を第2の特徴点として設定する。設定処理の結果、画像500cの白抜き黒丸で示されるような第2の特徴点が設定される。ただし、特徴線の周辺画素をサンプリングするのであれば、他の方法を用いても構わない。
【0034】
図6は、特徴点統合部105の処理を説明する図である。特徴点統合部105では、第1の特徴点設定部103で得られた第1の特徴点と、第2の特徴点設定部104で得られた第2の特徴点を統合する。画像300bで示される第1の特徴点と、画像500cで示される第2の特徴点を統合した特徴点集合を図6(a)に示す。図6(a)において、第1の特徴点は黒丸で示され、第2の特徴点は白抜き黒丸で示される。
【0035】
なお、メッシュ数の増大を防ぐため、第1の特徴点に近接した第2の特徴点が存在する場合、当該第2の特徴点を削除するよう構成するとよい。例えば、第1の特徴点から所定距離以下(3画素以内)に第2の特徴点が存在する場合、当該第2の特徴点を削除する。図6(a)においては、第1の特徴点に隣接している第2の特徴点である頂点601、602が削除される。
【0036】
図6(b)は、特徴点統合部105で最終的に生成されるデータを例示的に示しており、特徴点データと辺データとを含む。なお、辺データは、特徴線(強エッジ)上で隣接する第1の特徴点同士を接続して生成する。以降で説明するように、特徴点はメッシュの頂点として利用され、辺データは、生成されるメッシュの一辺として利用される。
【0037】
メッシュ生成部106の処理について図7〜図9を参照して説明する。メッシュ生成部106は、特徴線(強エッジ)を再現する3頂点曲線メッシュ群を生成する機能部である。つまり、3頂点曲線メッシュ群を構成する複数の3頂点曲線メッシュの各々の形状情報を生成する。
【0038】
図7は、メッシュ生成部106の処理を説明するフローチャートである。以下の、ステップに先立って、特徴点統合部105により出力される特徴点データと辺データとがメッシュ生成部106に入力される。
【0039】
ステップS701では、曲線化対象とする辺を設定する。ここでは、特徴点統合部105で生成した辺データ(すなわち、第1の特徴点同士を結ぶ辺)が曲線化対象とする辺として設定される。
【0040】
ステップS702では、3頂点直線メッシュ群を生成する。例えば、ステップS701で設定した辺を制約条件として制約付きドロネー三角形分割を利用することにより、当該設定した辺が各メッシュの辺となる3頂点直線メッシュ群を生成する。ここで、各メッシュの頂点は特徴点集合内の各点から選択される。なお、制約付きドロネー三角形分割は、点群と制約条件を与えると、与えられた点群を頂点とし、かつ制約条件を満たす直線メッシュを生成するアルゴリズムである。ここで制約条件とは点群の一部を結ぶ線分である。ただし、特徴点統合部105で生成した辺データを再現するメッシュを生成さえすれば、他の方法を用いても構わない。
【0041】
ステップS703では、曲線化対象の全ての辺が曲線化済みか判断する。曲線化していない辺があるとき、ステップS704の処理に進む。そして、ステップS704では、曲線化対象で曲線化されていない辺を一つ選択し、ステップS705では、特徴線を近似するようにメッシュの辺を曲線近似する曲線化処理を行う。その後ステップS703に戻り、全ての辺が曲線化済みと判断した場合、曲線化処理を終了する。
【0042】
図8は、メッシュの辺の曲線化処理を説明するための図である。ここでは、頂点801と802を接続する辺805が曲線化処理の対象となっている。そして、頂点801と802を端点とし頂点803、804を近似するような近似関数により辺807を生成する。なお、第1実施形態では、第1の特徴点設定部103で生成した3次のベジェ関数をそのままメッシュの辺として利用可能であるため、曲線を再計算する必要はない。
【0043】
以上の処理により、図9に示されるような3頂点曲線メッシュ群900が入力画像に対して生成される。つまり、入力画像を複数の3頂点曲線メッシュの形状を決定することができる。
【0044】
色設定部107は、メッシュ生成部106で生成された3頂点曲線メッシュ群に含まれる各3頂点曲線メッシュの色を規定する色情報を生成し設定する機能部である。なお、色情報を生成するには様々な方法が考えられ、例えば、各メッシュに対して一色を生成してもよい。この場合、一色の決定方法としては、メッシュの内部領域に対応する入力画像の画素の色平均を用いることが考えられる。一方、メッシュ内の色をより複雑に表現する方法としてメッシュに対して色を表現する関数を生成する方法が考えられる。例えば非特許文献1ではRGBの3成分に対して、メッシュ内の色を塗る薄板スプライン関数を入力画像の色を元に生成している。
【0045】
第1実施形態では、メッシュを更に微小な3頂点からなるメッシュに細分割し、その微小な細分割メッシュの頂点をサンプリング点として、該サンプリング点に対応する入力画像の位置から色を取得する。レンダリングの際は、それら微小な三角形内の色を双線形補間で補うことで、メッシュの色を塗ることができる。
【0046】
図10は、3頂点曲線メッシュの形状及び色情報のサンプリング点を例示的に示す図である。図10(a)は、1つの3頂点曲線メッシュの形状を例示的に示す図である。1001、1002、1003はメッシュの頂点、1004から1009はメッシュの制御点である。メッシュの形状情報はメッシュ生成部106で算出されている。一方、図10(b)は3頂点曲線メッシュの色情報を示す。各サンプリング点1010から1024について、それぞれ色情報(RGB値)を持つ。なお、色情報としてCMYKなど他の色空間の情報を保持するよう構成してもよい。なお、グレー画像の場合は、輝度情報を保持するよう構成するとよい。色情報を保持するサンプリング点は、ベジェパッチを規則的に分割することで導出される。図10(b)では、色情報のサンプリング点として15点を使用する例を示しているが、ベジェパッチの辺を分割する数を変更し、サンプリング数を変更しても構わない。
【0047】
図11は、色情報を保持するサンプリング点の例を示す図である。図11(a)では辺の分割数が1であり、サンプリング点の数は3個となる。また、図11(b)〜(d)は、それぞれ、辺の分割数が2、3、4の例を示しており、サンプリング点の数はそれぞれ6個、10個、15個となる。
【0048】
また、色設定部107は、メッシュ生成部106が生成した各々の3頂点曲線メッシュに対して、特徴線上の辺に対しては2種類の色(強エッジ線における両側2色)を割り当てる。これにより、特徴線(強エッジ線)をまたぐ際に起こる急峻な色変化の表現を可能とする。
【0049】
図12は、色設定部107が行う処理を説明するための図である。図12(a)に示す頂点1201〜1205は、特徴線上では無い領域に存在する頂点である。この場合、色設定部107は、各頂点に対し1色の色情報を設定する。一方、図12(b)に示す頂点1206〜1210は、特徴線上に存在する頂点である。この場合、色設定部107は、各頂点に対し2色の色情報を設定する。特に、図12(b)では、特徴線上に存在する頂点1206〜1210の各々に対し、白色及び黒色の2色の色情報(輝度値)を設定する例を示している。
【0050】
つまり、第1の特徴点に対応する頂点に対しては2色の色情報を設定し、辺(特徴線)を挟んで色が不連続となるように色表現を行い、強エッジの急峻な勾配を表現している。一方、第2の特徴点に対応する頂点に対しては1色の色情報を設定し、辺を挟んで色が連続的に変化するように色表現を行う。
【0051】
出力部108では、メッシュ生成部106で決定された3頂点曲線メッシュの形状情報と、色設定部107により決定された色情報とに基づいて、各メッシュに対するメッシュ符号化データを生成して出力する。なお、画像入力部101により入力されたラスタ画像の全域に対するメッシュ符号化データ群を生成するよう構成してもよいし、当該ラスタ画像の特定部分に対する1以上のメッシュ符号化データのみを生成するよう構成してもよい。
【0052】
以上説明したとおり第1実施形態によれば、強エッジに基づく第1の特徴点と弱エッジに基づく第2の特徴点との2種類の特徴点をメッシュの頂点に利用する。更に、第1の特徴点に対応する頂点には2色の色情報を設定し、第2の特徴点に対応する頂点には1色の色情報を設定する。このように構成することにより、画像近似精度の良い効率的なメッシュ群を生成可能となる。
【0053】
(変形例)
上述の画像処理装置の各部はハードウェアにより構成しても良いが、当該各部の一部又は全部をコンピュータプログラムとして実装しても良い。すなわち、コンピュータのCPUが当該コンピュータプログラムを実行することで、上述の画像処理装置の機能を実現する。
【0054】
図13は、上述した第1実施形態に係る画像処理装置として適用可能なコンピュータのハードウェア構成を示す図である。
【0055】
CPU1301は、RAM1302やROM1303に格納されているコンピュータプログラムやデータを用いて、コンピュータ全体の制御を行うと共に、画像処理装置が行うものとして説明した上述の各処理を実行する。即ち、図1に示した各部が行うものとして上述した各処理を実行する。
【0056】
RAM1302は、コンピュータ読み取り可能な記憶媒体の一例である。RAM1302は、外部記憶装置1307や記憶媒体ドライブ1308からロードされたコンピュータプログラムやデータ、I/F(インターフェース)1309を介して外部装置から受信したデータなどを一時的に記憶するためのエリアを有する。更に、RAM1302は、CPU1301が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM1302は、各種のエリアを適宜提供することができる。ROM1303は、コンピュータ読み取り可能な記憶媒体の一例であり、コンピュータの設定データや、ブートプログラムなどが格納されている。
【0057】
キーボード1304、マウス1305は、コンピュータの操作者が操作することで、各種の指示をCPU1301に対して入力することができる。表示装置1306は、CRTや液晶画面などにより構成されており、CPU1301による処理結果を画像や文字などをもって表示することができる。例えば、画像入力部101により入力されたラスタ画像を表示したり、メッシュ生成部106で決定された3頂点曲線メッシュ群を表示したりすることができる。
【0058】
外部記憶装置1307は、コンピュータ読み取り記憶媒体の一例であり、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置1307には、OS(オペレーティングシステム)や、図1に示した各部の機能をCPU1301に実現させるためのコンピュータプログラムが格納される。また、画像入力部101により入力されたラスタ画像のデータ、既知の情報として説明した情報等が格納される。外部記憶装置1307に保存されているコンピュータプログラムやデータは、CPU1301による制御に従って適宜RAM1302にロードされ、CPU1301による処理対象となる。
【0059】
記憶媒体ドライブ1308は、CD−ROMやDVD−ROMなどの記憶媒体に記録されているコンピュータプログラムやデータを読み出し、読み出したコンピュータプログラムやデータを外部記憶装置1307やRAM1302に出力する。なお、外部記憶装置1307に保存されているものとして説明した情報の一部若しくは全部をこの記憶媒体に記録させておき、この記憶媒体ドライブ1308に読み取らせても良い。
【0060】
I/F1309は、外部装置をコンピュータに接続する為のものである。例えば、ディジタルカメラなど、ラスタ画像を取得するための装置を、このI/F1309に接続し、この装置から入力画像をI/F1309を介してRAM1302や外部記憶装置1307に取得するようにしても良い。1310は、上述の各部を繋ぐバスである。
【0061】
このような構成において、コンピュータの電源がONになると、CPU1301はROM1303に格納されているブートプログラムに従って、外部記憶装置1307からOSをRAM1302にロードする。この結果、キーボード1304、マウス1305を介した情報入力操作が可能となり、表示装置1306にGUIを表示することが可能となる。ユーザが、キーボード1304やマウス1305を操作し、外部記憶装置1307に格納された画像処理用アプリケーションプログラムの起動指示を入力すると、CPU1301はこのプログラムをRAM1302にロードし、実行する。これにより、コンピュータは上述の画像処理装置として機能することになる。
【0062】
(第2実施形態)
<概要>
第2実施形態では、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を設定し、画像のアクティビティに応じた領域細分割処理に基づいて第2の特徴点を設定する。これらの2種類の特徴点をメッシュの頂点に利用すると共に、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。
【0063】
<装置構成および各部の動作>
第2実施形態に係る画像処理装置の構成は第1実施形態に係る画像処理装置の構成(図1)と同様である。ただし、第2の特徴点設定部104における動作が第1実施形態とは異なる。そのため、以下では、第2実施形態とは異なる部分についてのみ主に説明する。
【0064】
第2実施形態では、特徴線検出部102は、第1の特徴点設定部103で用いられる特徴線である強エッジのみを検出する。すなわち、エッジ検出部102−1は強エッジのエッジ画素のみ抽出する。そして、エッジ線構成部102−2は、抽出された強エッジ画素に基づいて特徴線(図3の画像300a)を構成する。
【0065】
一方、第2の特徴点設定部104は、以下で説明するように、入力画像内の各領域の”アクティビティ”に応じて入力画像を再帰的に細分割する。そして、細分割された領域サイズに対応させて第2の特徴点を設定することにより、第2の特徴点の配置密度を変化させる。ここで、画像の”アクティビティ”とは、画像内での局所的な変動量を表す。例えば、細分割領域内での勾配の大きさ、平均色からの分散や誤差などである。
【0066】
図14は、第2実施形態に係る第2の特徴点設定部104の処理を説明する図である。
【0067】
まず、サンプリング点設定画像1400aに示すように、入力画像の四隅の頂点を色のサンプリング点として設定し、入力画像における対応する座標の色をサンプリングする。サンプリングした4頂点から生成される補間画像と入力画像との誤差を求め、誤差が閾値以上である場合、当該領域を4つの領域に細分割(サブディビジョン)する。第2実施形態では、細分化対象領域の中心を通るように等分に細分割することを想定するが、他の細分割方法を用いても構わない。
なお、補間画像は4頂点からの双一次補間で生成されることを想定するが、4頂点の色の平均値を補間画像とするなど他の補間画像生成方法を用いても構わない。また、ここでは、誤差の閾値としては色差を用いることを想定し、例えば、RGB各256階調(8ビット階調)での平均色差”10”を閾値として用いている。
【0068】
補間画像と入力画像との誤差が閾値以上である場合、サンプリング点設定画像1400aは、サンプリング点設定画像1400bに示されるように細分割される。そして、細分化により得られた4つの領域の各々の四隅に頂点を設定し、入力画像における対応する座標の色をサンプリングする。更に、4つの領域の各々について、サンプリングした4頂点から生成される補間画像と入力画像との誤差を求める。誤差が閾値以上である領域に対しては、更に細分割を行い、サンプリング点設定画像1400bは、サンプリング点設定画像1400cに示されるように細分割される。
【0069】
同様に、再帰的に細分割化を繰り返し、すべての領域の誤差が設定した閾値内に収まったとき、細分割を終了する。サンプリング点設定画像1400dは、細分割化処理が終了した状態を例示的に示す図である。このように設定された格子点が第2の特徴点として設定される。
【0070】
すなわち、第2実施形態では、画像変動量(画像の”アクティビティ”)が相対的に大きい領域に対して、第2の特徴点を集中的に(高密度に)設定する。このように設定された第2の特徴点をメッシュの頂点として用いることにより、第1実施形態に比較し、画像の大域的な特徴を捉えたメッシュ群を生成することができる。
【0071】
(第3実施形態)
<概要>
第3実施形態では、入力画像に対してエッジ抽出処理を行い、強エッジに基づいて第1の特徴点を設定し、抽出したエッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づいて第2の特徴点を設定する。これらの2種類の特徴点をメッシュの頂点に利用すると共に、第1の特徴点に対応する頂点には2色の色情報を割り当て、第2の特徴点に対応する頂点には1色の色情報を割り当てる。
【0072】
<装置構成および各部の動作>
第3実施形態に係る画像処理装置の構成は第1実施形態に係る画像処理装置の構成(図1)と同様である。ただし、第2の特徴点設定部104における動作が第1実施形態、及び、第2実施形態とは異なる。そのため、以下では、第1及び第2実施形態とは異なる部分についてのみ主に説明する。
【0073】
第3実施形態では、特徴線検出部102は、第1実施形態と同様に、第1の特徴点設定部103で用いられる特徴線である強エッジと、第2の特徴点設定部104で用いられる特徴線である弱エッジを検出する。すなわち、エッジ検出部102−1は強エッジのエッジ画素と弱エッジ画素とを抽出する。そして、エッジ線構成部102−2は、抽出された強エッジ画素と弱エッジ画素に基づいて、それぞれ特徴線、即ち、”強エッジ”(図3の画像300a)と”弱エッジ”(図5の画像500a)を構成する。ただし、第3実施形態においては、強エッジを、第1の特徴点設定部のみならず、第2の特徴点設定部でも用いる点が第1実施形態とは異なる。
【0074】
第2の特徴点設定部104は、以下で説明するように、抽出したエッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づいて、特徴線の周囲に第2の特徴点を設定する。
【0075】
図15は、第3実施形態に係る第2の特徴点設定部104が実行する強エッジに対する処理を説明する図である。また、図16は、第3実施形態に係る第2の特徴点設定部104が実行する弱エッジに対する処理を説明する図である。
【0076】
画像1500aは強エッジ(図3の画像300aと同じ)を示したものであり、画像1500bは第1の特徴点(図3の画像300bと同じ)を黒丸で表わしたものである。また、画像1500cでは、強エッジの周囲に設定された第2の特徴点を白抜き黒丸で表したものである。また、画像1600bは(図5の画像500bと同じ)は、弱エッジの特徴線を例示的に示している。ここで、弱エッジを示す画像500bは、第1実施形態と同様、画像1500a(強エッジのみ)と画像1600a(強エッジと弱エッジ)との差分を導出することにより得られる。そして、画像1600cは、規定のエッジ強度未満のエッジ線である弱エッジ線の周囲に設定された第2の特徴点を白抜き黒丸で表現したものである。
【0077】
第2の特徴点設定部104は、画像1500bに示される第1の特徴点の中で、同一特徴線上に存在しかつ隣接する第1の特徴点間に挟まれる特徴線の部分区間に着目する。部分区間のそれぞれに対し、それぞれの特徴線部分に対応する各画素におけるエッジ強度の平均値を求める。それぞれの特徴線部分に対して求めたエッジ強度の平均値を、予め指定されるn個の閾値に基づいて(n+1)段階に区分する。そして、それぞれの段階に応じた既定距離だけ、対応する部分区間の中間点から該中間点位置における特徴線の法線方向に離間した位置の画素を第2の特徴点として設定(サンプリング)する。尚、エッジ強度が低いほど、エッジの周囲での色変化が少ないものとして、より遠い距離にある位置に第2の特徴点設定し、エッジ強度が高いほど、エッジ周囲での色変化が急激であるとして、より近い距離に第2の特徴点を設定するのが好適である。
【0078】
例えば、第1の特徴点1501と第1の特徴点1502との間に挟まれる部分区間に対しては、第2の特徴点1503と第2の特徴点1504とが設定される。これらは、当該部分区間の両側にそれぞれ1点ずつ設定される。同様に、第1の特徴点1505と第1の特徴点1506との間に挟まれる部分区間に対しては、第2の特徴点1507と第2の特徴点1508とが設定される。
【0079】
ここで、画像1500cにおいては、第1の特徴点1501と第1の特徴点1502との間に挟まれる部分区間の方が、第1の特徴点1505と第1の特徴点1506との間に挟まれる部分区間よりもエッジ強度の平均が高い場合を例示的に示している。そのため、第2の特徴点1503及び第2の特徴点1504は、第2の特徴点1507及び第2の特徴点1508よりも、対応する特徴線の部分区間のそれぞれの中間点により近い位置に設定されている。設定処理の結果、画像1500cの白抜き黒丸で示されるような第2の特徴点が設定される。
【0080】
閾値の個数nは例えば2であり(つまり3段階に区分)、既定距離は例えば、エッジ強度の低い段階から順に9,7,5画素とする。ここで、各部分区間のエッジ強度の平均値は、各部分区間を挟む両端の2つの第1の特徴点のエッジ強度の平均により設定しても良い。また、エッジ強度の代わりに、各部分区間の中間点から法線方向に並ぶ各画素の濃度を中間点から当該中間点より離れる方向に順次求め、濃度の変化に着目してもよい。この場合には、周辺画素における画素値(濃度)の変化の程度が予め定める閾値以下となる位置をもって第2の特徴点位置と定めるとよい。
【0081】
尚、第2の特徴点設定部104は、画像1600bに示される特徴線(弱エッジ)に対しても、第2の特徴点を設定する。例えば、特徴線に沿って、各特徴線上の各画素におけるエッジ強度の平均値を求める。求めたエッジ強度の平均値を、予め指定されるm個の閾値に基づいて(m+1)段階に区分する。そして、それぞれの段階に応じた既定距離だけ、当該部分区間の中間点から該中間点位置における特徴線の法線方向に離間した位置の画素を第2の特徴点として設定(サンプリング)する。例えば、弱エッジ1601に対しては、第2の特徴点1602と第2の特徴点1603とが設定される。これらもまた、当該弱エッジの両側にそれぞれ1点ずつ設定される。弱エッジの場合も、強エッジと同様に、エッジ強度が低いほどより遠い距離にある位置に設定し、エッジ強度が高いほどより近い距離に第2の特徴点を設定するのが好適である。
【0082】
閾値の個数mは例えば1であり(つまり2段階に区分)、既定距離は例えば、エッジ強度の低い段階から順に4,3画素とする。これは、弱エッジ線上には第1の特徴点は存在しないため、第2の特徴点同士の間隔を、ほぼ強エッジ上の第1の特徴点と第2の特徴点との間隔と同等と見なしていることに相当する。ここで、各部分区間のエッジ強度の平均値は、それぞれの弱エッジ上の各画素のエッジ強度の平均により設定しても良い。また、強エッジの場合と同様に、エッジ強度の代わりに、各部分区間の中間点から法線方向に並ぶ各画素の濃度を中間点から当該中間点より離れる方向に順次求め、濃度の変化に着目してもよい。この場合も、周辺画素における画素値の変化の程度が予め定める閾値以下となる位置を第2の特徴点位置として設定するとよい。
【0083】
図17(a)は、上述の処理により得られた第1の特徴点及び第2の特徴点を、基となる強エッジ線及び弱エッジ線とともに示した図である。また、図17(b)は、第1の特徴点と第2の特徴点のみを示した図である。
【0084】
尚、第3実施形態においては、第1の特徴点に近接した第2の特徴点が存在する場合に、当該第2の特徴点を削除するよう特徴点統合部105を構成しても良い。また、近接する複数の第2の特徴点が存在する場合に、これらの一部を削除するよう構成してもよい。例えば、所定距離以下(3画素以内)に第2の特徴点が2つ存在する場合、何れか一方の第2の特徴点を削除するとよい。
【0085】
図18は、上述の削除処理後における、第1の特徴点と第2の特徴点を合わせて示した図である。また、図19は、入力画像に対して、メッシュ生成部106を経て生成される3頂点曲線メッシュ群1900を表す図である。
【0086】
上述のように、第3実施形態では、強エッジに基づく第1の特徴点と、エッジの強度、もしくは、抽出したエッジ周辺の濃度変化に基づく第2の特徴点との2種類の特徴点をメッシュの頂点に利用する例について説明した。このように設定された第2の特徴点をメッシュの頂点として用いることにより、第1実施形態や第2の実施形態に比較し、中間色帯の影響による色の滲みの発生を抑制することが可能となる。例えば、オブジェクト領域の境界付近には、多くの場合にエッジが存在し、それらに隣接してオブジェクト内部と外部の中間色となっている狭い遷移領域が付随することが多い。つまり、第3の実施形態においては、これらの遷移領域(中間色帯)による滲みの発生を抑制しつつ、より画像近似精度の良い効率的なメッシュ群を生成可能となる。
【0087】
なお、上述の第3実施形態においては、第2の特徴点を設定する距離を決定する際に、エッジ強度閾値を利用して複数の段階に区分するものとして説明した。しかしながら、強エッジと弱エッジでそれぞれ既定の距離を1つずつ定めておき、これらの既定距離を用いて第2の特徴点を設定してもよい。例えば、既定距離を、例えば、強エッジに対しては7画素、弱エッジに対しては3画素と定めてもよい。これにより、処理負荷を低減することが出来、演算時間の短縮や回路規模の縮小が可能となる。
【0088】
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置であって、
前記入力画像からエッジ線を検出する検出手段と、
前記検出手段が検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定手段と、
前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定手段と、
前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、
前記分割手段により分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、
前記分割手段により分割されたそれぞれのメッシュを符号化し、前記色設定手段により設定された色情報を含む符号化データを出力する符号化手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記第2の特徴点設定手段は、前記検出手段が検出したエッジ線のうち、前記規定のエッジ強度未満のエッジ線を弱エッジ線とし、該弱エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2の特徴点設定手段は、前記入力画像において画像変動量が相対的に大きい領域に相対的に多くの第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第2の特徴点設定手段は、前記検出手段が検出したエッジ線のエッジ強度と該エッジ線の周辺画素における画素値の変化の程度との少なくとも一方に応じて、該エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記第2の特徴点設定手段は、前記第1の特徴点設定手段が設定した前記複数の第1の特徴点のうち同一のエッジ線に沿って隣接する2つの特徴点で挟まれるエッジ線の区間のエッジ強度と該区間の周辺画素における画素値の変化の程度との少なくとも一方に応じて、該エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記複数の第2の特徴点のうち、前記複数の第1の特徴点の何れかとの距離が所定距離以下である第2の特徴点を削除する削除手段を更に備えることを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
【請求項7】
前記複数の第2の特徴点のうち、前記複数の第1の特徴点の何れか、又は、前記複数の第2の特徴点の他の何れかとの距離が所定距離以下である第2の特徴点を削除する削除手段を更に備えることを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
【請求項8】
前記分割手段は、前記強エッジ線に沿って隣接する2つの第1の特徴点を結ぶ辺が全てが何れかのメッシュの一辺となるように前記複数のメッシュに分割する分割することを特徴とする請求項1乃至7の何れか一項に記載の画像処理装置。
【請求項9】
前記分割手段は、前記強エッジ線に沿って隣接する2つの第1の特徴点を結ぶ辺に対して、該強エッジ線への曲線近似を行う曲線化手段を含むことを特徴とする請求項1乃至8の何れか一項に記載の画像処理装置。
【請求項10】
入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置が行う画像処理方法であって、
検出手段が、前記入力画像からエッジ線を検出する検出工程と、
第1の特徴点設定手段が、前記検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定工程と、
第2の特徴点設定手段が、前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定工程と、
分割手段が、前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割工程と、
色設定手段が、前記分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定工程と、
符号化手段が、前記分割されたそれぞれのメッシュを符号化し、前記設定された色情報を含む符号化データを出力する符号化工程と、
を含むことを特徴とする画像処理方法。
【請求項11】
コンピュータを請求項1乃至9の何れか一項に記載の画像処理装置の各手段として機能させることを特徴とするコンピュータプログラム。
【請求項1】
入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置であって、
前記入力画像からエッジ線を検出する検出手段と、
前記検出手段が検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定手段と、
前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定手段と、
前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割手段と、
前記分割手段により分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定手段と、
前記分割手段により分割されたそれぞれのメッシュを符号化し、前記色設定手段により設定された色情報を含む符号化データを出力する符号化手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記第2の特徴点設定手段は、前記検出手段が検出したエッジ線のうち、前記規定のエッジ強度未満のエッジ線を弱エッジ線とし、該弱エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2の特徴点設定手段は、前記入力画像において画像変動量が相対的に大きい領域に相対的に多くの第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第2の特徴点設定手段は、前記検出手段が検出したエッジ線のエッジ強度と該エッジ線の周辺画素における画素値の変化の程度との少なくとも一方に応じて、該エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記第2の特徴点設定手段は、前記第1の特徴点設定手段が設定した前記複数の第1の特徴点のうち同一のエッジ線に沿って隣接する2つの特徴点で挟まれるエッジ線の区間のエッジ強度と該区間の周辺画素における画素値の変化の程度との少なくとも一方に応じて、該エッジ線から規定距離だけ離間した位置に前記複数の第2の特徴点を設定することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記複数の第2の特徴点のうち、前記複数の第1の特徴点の何れかとの距離が所定距離以下である第2の特徴点を削除する削除手段を更に備えることを特徴とする請求項1乃至3の何れか一項に記載の画像処理装置。
【請求項7】
前記複数の第2の特徴点のうち、前記複数の第1の特徴点の何れか、又は、前記複数の第2の特徴点の他の何れかとの距離が所定距離以下である第2の特徴点を削除する削除手段を更に備えることを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
【請求項8】
前記分割手段は、前記強エッジ線に沿って隣接する2つの第1の特徴点を結ぶ辺が全てが何れかのメッシュの一辺となるように前記複数のメッシュに分割する分割することを特徴とする請求項1乃至7の何れか一項に記載の画像処理装置。
【請求項9】
前記分割手段は、前記強エッジ線に沿って隣接する2つの第1の特徴点を結ぶ辺に対して、該強エッジ線への曲線近似を行う曲線化手段を含むことを特徴とする請求項1乃至8の何れか一項に記載の画像処理装置。
【請求項10】
入力画像を複数のメッシュに分割し、分割したメッシュを符号化するメッシュ符号化処理を行う画像処理装置が行う画像処理方法であって、
検出手段が、前記入力画像からエッジ線を検出する検出工程と、
第1の特徴点設定手段が、前記検出したエッジ線のうち、規定のエッジ強度以上のエッジ線を強エッジ線とし、該強エッジ線上に複数の第1の特徴点を設定する第1の特徴点設定工程と、
第2の特徴点設定手段が、前記入力画像上に、前記複数の第1の特徴点とは異なる複数の第2の特徴点を設定する第2の特徴点設定工程と、
分割手段が、前記複数の第1の特徴点と前記複数の第2の特徴点とを統合した特徴点集合を用いて、前記入力画像を、該特徴点集合内の各点を頂点とする複数のメッシュに分割する分割工程と、
色設定手段が、前記分割されたそれぞれのメッシュの各頂点に対して、前記第1の特徴点に対応する頂点に対しては該頂点に対応する位置の前記強エッジ線における両側2色の色情報を設定し、前記第2の特徴点に対応する頂点に対しては該頂点に対応する位置の1色の色情報を設定する色設定工程と、
符号化手段が、前記分割されたそれぞれのメッシュを符号化し、前記設定された色情報を含む符号化データを出力する符号化工程と、
を含むことを特徴とする画像処理方法。
【請求項11】
コンピュータを請求項1乃至9の何れか一項に記載の画像処理装置の各手段として機能させることを特徴とするコンピュータプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2012−230663(P2012−230663A)
【公開日】平成24年11月22日(2012.11.22)
【国際特許分類】
【出願番号】特願2012−1587(P2012−1587)
【出願日】平成24年1月6日(2012.1.6)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年11月22日(2012.11.22)
【国際特許分類】
【出願日】平成24年1月6日(2012.1.6)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]