説明

コンピュータ入力画像中のマーカ認識において幾何的情報および画像の特徴点およびパターン・マッチング手法とトポロジー情報を併用するマーカ認識手法

【課題】コンピュータ入力画像中のマーカ認識において、既存のトポロジー情報を用いるマーカ認識手法、および既存のパターン・マッチング手法や画像の特徴点を用いる手法を用いるマーカ認識手法を併用し、同じトポロジー情報を持つマーカ間の区別、3次元空間内での位置推定、マーカ検出にかかる計算コストの低減を行う。
【解決手段】トポロジー情報によるマーカ候補領域検出ステップST01、トポロジー情報によるマーカ候補絞り込みステップST02、トポロジー情報によるマーカ検出ステップST03、幾何的な情報によるマーカ検出ステップST04、パターン・マッチングによるマーカ検出ステップST05,特徴点によるマーカ検出ステップST06、マーカの情報抽出ステップST07を実行する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、コンピュータ画像認識によるマーカ画像の認識に関する。
【背景技術】
【0002】
コンピュータを利用する入力画像からのマーカ認識において、白黒に二値化した領域のトポロジカルな隣接情報・領域関の包括関係の情報を利用してマーカ認識を行う手法がある(非特許文献1、非特許文献2、非特許文献3)。
【0003】
これらの手法は二値化された画像のトポロジカルな隣接情報・包括関係を木構造として表現し、その木構造の判別によってマーカの特定をするものである。トポロジカルな情報を使用するので、マーカのデザインがトポロジカルな隣接情報・包括関係を保つ限り、マーカの判別が可能である。
【0004】
また、既存の他の入力画像内のマーカ認識や物体追跡を行う手法として、トポロジー情報を利用せず、パターン・マッチングなどの手法を用いるもの(非特許文献4)や画像の特徴点の情報を用いるもの(非特許文献5)も、手法として広く知られている。
【先行技術文献】
【0005】
【非特許文献1】Costanza,E.and Huang,J.2009.Designable visual markers.In Proceedings of the 27th international Conference on Human Factors in Computing Systems(Boston,MA,USA,April 04−09,2009).CHI’09.ACM,New York,NY,1879−1888.DOI=http://doi.acm.org/10.1145/1518701.1518990
【0006】
【非特許文献2】Costanza,E.and Mirja,L.Telling a story on a tag:The importance of markers’visual design for real world applications(paper presentation).In Proceedings of the Mobile Interaction with the Real World Workshop at Mobile HCI2006,Espoo,Finland,sep 2006
【0007】
【非特許文献3】Bencina,R.,Kaltenbrunner,M.,and Jorda,S.2005.Improved Topological Fiducial Tracking in the reacTIVision System.In Proceedings of the 2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (Cvpr’05)−Workshops−Volume 03(June 20−26,2005).CVPR.IEEE Computer Society,Washington,DC,99.DOI=http://dx.doi.org/10.1109/CVPR.2005.475
【0008】
【非特許文献4】Kato,H.and Billinghurst,M.1999.Marker Tracking and HMD Calibration for a Video−Based Augmented Reality Conferencing System.In Proceedings of the 2nd IEEE and ACM international Workshop on Augmented Reality(October 20−21,1999).IWAR.IEEE Computer Society,Washington,DC,85.
【0009】
【非特許文献5】情報処理学会研究報告.CVIM(コンピュータビジョンとイメージメディア),IPSJ SIG Notes.CVIM 2007(1)pp.101−108 20070111 社団法人情報処理学会
【発明の開示】
【発明が解決しようとする課題】
【0010】
マーカ図像内の白黒領域のトポロジカルな隣接情報・包括関係を木構造として解釈し、その木構造の判別によってマーカの特定をする既存の手法では、トポロジー情報を使用するため、ある図像を持つ入力画像中でのマーカ領域が傾いていたり回転していたりしても、同じトポロジカルな隣接情報・包括関係を保つ限りにおいて同一マーカとして判別が可能であるが、その反面、マーカの図像・形状が全く違っている、二つの別のマーカ図像でもトポロジー情報が全く同じであれば、図像的・形状的には全く違うマーカでも同じマーカとして認識されてしまう。
【0011】
しかし、おなじトポロジー構造をもつマーカ図像群は、多くの場合数多く存在し、このためトポロジー情報のみに基づく手法ではマーカ間の区別が十分でないことが多い。このようにマーカ認識の一意性が十分でないという問題が、既存のトポロジー情報のみを用いた手法に存在する。
【0012】
また、上記のような既存のトポロジー手法においては、トポロジー情報のみを使用するため、マーカ形状やマーカ図像が他手法にくらべて比較的自由にデザインできるというメリットがあるものの、画像からのマーカ領域の推定やマーカの2次元平面および3次元空間内での向きや位置の推定に必要な座漂の情報が、形状を考慮しない性質をもつトポロジー情報には含まれないため、トポロジー情報のみでは位置推定が行えないという欠点がある。
【0013】
またトポロジー手法だけでなく、既存のパターン・マッチング手法や、画像の特徴点を利用する方法を使用するマーカ認識手法の多くにおいても、多くの種別のマーカを多数処理する際には、画像から検索すべき登録マーカの検出をする段階において、必要なマーカ数や種別に応じて処理時間や計算量が、大幅に増加してしまうという問題がある。
【課題を解決するための手段】
【0014】
本発明は、以上のような課題を解決するため、以下の手段を採用する。
【0015】
トポロジー情報だけでは不十分なマーカ認識の一意性を、マーカ全体やマーカの各部分の中心・重心・ベクトル・形状の幾何的な情報を併用することにより解決する。また、そのような幾何的情報では不十分とされる場合には、さらに絞り込みされたマーカ候補群に対して、既存のマーカ領域内での特徴点の情報やパターン・マッチング手法を併用するという手段によって解決する。
【0016】
また同様にトポロジー情報と併用して、マーカ全体やマーカの各部分の中心・重心・ベクトルの幾何的な情報を利用することにより、直接マーカ内に情報を埋め込む手段も用いる。
【0017】
本発明で言うトポロジー情報とは、二値化された画像を用いる既存のトポロジカルなマーカ内各領域の隣接関係に基づくマーカ認識手法と同様、マーカ内各領域の形状や大きさにかかわらず、単に隣接関係と各領域の色のみをあらわす情報をさす。
【0018】
例えば図17の左側にあるマーカ例(17)に示されたマーカ図像のトポロジー情報を、それぞれ黒い領域を黒丸、白い領域を白丸とし、隣接関係を矢印によってあらわすとすると、図17の右側に示されたグラフ(18)のようになる。
【0019】
ここで白黒に二値化された画像では、ある領域はかならず別の領域に含まれることになるか、もしくは一番外側の領域となるため、ある領域が別の領域に隣接しているということは、その領域との包括関係にあるということと同じことになる。
【0020】
たとえば、既存の隣接関係および包活関係をあらわすトポロジー情報のみに基づく手法においては、図18のマーカ図像例(19)と図19のマーカ図像例(21)を認識する際、図18のトポロジー情報のグラフ(20)および図19のトポロジー情報のグラフ(22)に示されたように、両マーカとも同じトポロジー構造をもつため、両マーカの区別がトポロジー情報のみではできない。
【0021】
本発明の手法では、このように複数マーカ間での区別がトポロジー情報のみでは行えない場合、トポロジー情報にくわえて、図像から得ることのできる各領域における中心・重心・ベクトル・形状の幾何的な情報をまず使用し、両マーカの区別を試みる。
【0022】
たとえば、図18のマーカ図像例(19)と図19のマーカ図像例(21)間では、トポロジー情報は同じだが、各領域の中心・重心・形状や各領域間のベクトルといった情報は互いに違っているので、このような幾何的な情報を利用して判別ができる。
【0023】
このように本発明の手法では、トポロジー情報が同じマーカが発見され、区別できない場合に、幾何的な情報を併用する手段を用いる。
【0024】
しかし、このような幾何的な情報ではマーカの区別に関して十分な情報がまだ得られない場合においては、画像の特徴点の抽出およびパターン・マッチングの手法を利用して、さらにマーカ認識を試みる。
【0025】
たとえば、図18のマーカ図像例(19)と図19のマーカ図像例(21)図像間では、図像はかなり違っているためパターン・マッチングや画像の特徴点の情報を併用すれば、判別がより正確に行える。
【0026】
画像の特徴点を用いるマーカ認識手法やパターン・マッチングに基づくマーカ認識手法は、広くもちいられているものである。しかし、既存の特徴点のみをもちいた手法やパターン・マッチングのみに基づく手法と違い、本発明では、このような特徴点を用いる手法やパターン・マッチングに基づく手法を適用する前段階の処理において、トポロジー情報に基づいて検出対象となるマーカ候補の絞り込みを行っており、検出対象となるマーカ候補の絞り込みを行う手段を用いている。
【0027】
このようなトポロジー情報による絞り込みにより、検出すべきマーカの対象となるマーカ候補の数を絞り込めば、計算コストの削減が行え、多量の検出マーカ候補がある際に計算上のメリットがある。
【0028】
また既存のトポロジー情報にもとづくマーカ認識手法は、トポロジー情報を利用して、登録済みの検索対象マーカとトポロジカルな構造が一致するものを検出するというものであるが、本発明の応用として、登録済みの検索対象マーカとの一致により情報を得るのではなく、幾何情報を併用する手法によりマーカ内に直接データを埋め込み、マーカから直接データを得る手法も用いる。
【0029】
たとえば、本手法では図3の例のマーカのように、マーカ内のデータエンコード部にデータが埋め込みを行える。既存のトポロジーのみに基づく手法では、各領域の幾何的な情報をデータのエンコードには利用していないので、形状や位置を考慮しないトポロジー情報のみでは、データエンコード部に埋め込まれたビット情報の並び順を適切な方法で抽出できないが、本手法ではベクトルや角度という幾何的情報を利用してビット情報の並び順を復号でき、既存のトポロジー情報のみに基づく手法とちがい、検索対象マーカとの一致の検出を行うことなく、マーカに直接的に情報を埋め込み、また直接的に抽出する。
【0030】
このように直接的にデータをマーカにエンコードする場合、本手法はトポロジー情報と幾何的情報を併用しており、かつマーカのトポロジカルな特徴をデータエンコード法により制限しているため、そのような制限されたトポロジカルな特徴を、入力画像中からの検索のさいに利用し、マーカ領域の検索速度を向上することができる。
【0031】
本手法では既存のトポロジー情報のみに基づく手法単体では、包括関係以外の情報を考慮しないため不可能であった、空間での位置推定を、本手法では上記の幾何的な情報、特徴点の情報を使用するため、それらの情報を使用して容易に行うことができる。
【発明の効果】
【0032】
本発明によれば、トポロジー情報と幾何的な情報およびパターン・マッチングおよび画像の特徴点情報の併用により、既存のトポロジー情報を利用するマーカ認識手法の欠点である、マーカの認識時の一意性が少ないという問題を解決できる。
【0033】
同時に、既存のトポロジー情報を利用するマーカ認識手法の欠点である入力画像からの位置推定を容易にかつ正確性をまして行うことができる。
【0034】
また、マーカのデザインおよびデータのエンコーディング方法によっては、それらのトポロジカルな性質を用いて、マーカ検索をすばやく行うことができる。
【0035】
既存の特徴点やパターン・マッチングを利用してマーカ認識を行う手法においても、本手法のように、特徴点やパターン・マッチングを行う前段階でトポロジー情報を用いて、検出対象マーカ候補を絞り込むことにより、計算コストを削減できる。
【図面の簡単な説明】
【0036】
【図1】本発明に関する手法の基本的な利用形態を表す図である。
【図2】本発明に関する手法の基本的な利用形態での処理の基本的な流れを表すフローチャートである。
【図3】本発明の実施例1で説明されている、幾何情報とトポロジー情報を利用した基準部とデータエンコード部を持つマーカの例である。
【図4】本発明の実施例1で説明されている、図3に示されたマーカ例のトポロジー情報をあらわす図である。
【図5】本発明の実施例1で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである。
【図6】本発明の実施例2で説明されている、幾何情報とトポロジー情報を利用した複数のデータエンコード部をもつマーカの例である。
【図7】本発明の実施例2で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである。
【図8】本発明の実施例3で説明されている、幾何情報とトポロジー情報を利用したデータエンコード部のみを持つマーカの例である。
【図9】本発明の実施例3で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである。
【図10】本発明の実施例4で説明されている、実施例1、実施例2、実施例3の各種別のマーカを、それぞれカードの上下に配置した例である。
【図11】本発明の実施例5で説明されている、幾何情報とトポロジー情報を利用した、中心に基準ベクトル取得部と周辺部にデータエンコード部をもつマーカの例である。
【図12】図12は図11に示されたマーカの各部位の説明である。
【図13】本発明の実施例5で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである。
【図14】本発明の実施例6で説明されている、幾何情報とトポロジー情報を利用した、中心に図像を持ち、周辺部に基準ベクトル取得部とデータエンコード部の両方をもつマーカの例である。
【図15】図15は図14に示されたマーカの各部位の説明である。
【図16】本発明の実施例6で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである。
【図17】本発明の実施例7で説明されている、トポロジー情報を使用してマーカ候補を絞り込みし、幾何情報およびパターン・マッチング・特徴点情報と併用してマーカ認識を行うマーカ例その1と、そのマーカのトポロジー情報を表した図である。
【図18】本発明の実施例7で説明されている、トポロジー情報を使用してマーカ候補を絞り込みし、幾何情報およびパターン・マッチング・特徴点情報と併用してマーカ認識を行うマーカ例その2と、そのマーカのトポロジー情報を表した図である。
【図19】本発明の実施例7で説明されている、トポロジー情報を使用してマーカ候補を絞り込みし、幾何情報およびパターン・マッチング・特徴点情報と併用してマーカ認識を行うマーカ例その3と、そのマーカのトポロジー情報を表した図である。
【図20】本発明の実施例7で説明されているマーカ認識の処理の基本的な流れを表すフローチャートである
【発明を実施するための形態】
【0037】
まず本発明に関する手法の基本的な利用形態について、図1から図2を参照して説明する。
【0038】
図1において、本発明の基本的な利用形態を示す。図1のように、利用者はカメラ等により周囲の映像を取得し、コンピュータへと入力する。もしくはすでに撮影済みの映像をコンピュータへと入力する。このように映像入力機器およびコンピュータにより本手法を利用することができる。
【0039】
このように入力された映像をコンピュータにより分析し、検出結果を何らかの利用手段をかいしてユーザに提示する。この検出結果利用手段は、ディスプレイなどの映像出力機器や検出データの処理プログラムなどを含む。
【0040】
入力された映像からマーカ領域を検出し、検出結果をユーザに返す方法について、本発明での利用形態での処理の流れを、図2を用いて具体的に説明する。この方法は、おもに図2に示すように、画像入力ステップ(ST01)と、分析前画像処理ステップ(ST02)と、トポロジー情報および各領域の情報抽出ステップ(ST03)と、画像内特徴点および幾何情報抽出ステップ(ST04)と、検出対象マーカ候補絞り込みステップ(ST05)と、マーカ検出ステップ(ST06)と、マーカ情報抽出ステップ(ST07)と、検出結果利用ステップ(ST08)からなる。
【0041】
本発明では、図2に示すように、まずコンピュータに対して外部記憶装置やカメラなどからマーカ検出対象となる画像の入力を行う(ST01)。その後、入力された画像に対してマーカ検出処理を行うために必要な分析前処理を行う(ST02)。この分析前処理には画像のグレイスケール変換や二値化、スムージングなど一般的によく知られている画像処理アルゴリズムが用いられる。
【0042】
分析前処理(ST02)によって行われた画像処理の結果から、画像内のトポロジー情報を取得する(ST03)。得られたトポロジー情報は後の検出対象マーカ候補絞り込みステップ(ST05)やマーカ検出ステップ(ST06)およびマーカ情報抽出ステップ(ST07)などで利用される。
【0043】
同様に、画像の特徴量やその他のトポロジー情報検出ステップ内では得られない幾何的な情報を、後の検出対象マーカ候補絞り込みステップ(ST05)やマーカ検出ステップ(ST06)およびマーカ位置計算ステップ(ST07)で併用する場合、分析前処理(ST02)によって行われた画像処理の結果から、必要な画像特徴量や幾何的な情報の取得を、画像内特徴点および幾何情報抽出ステップ(ST04)において行う。もし画像内特徴点および幾何情報抽出ステップ(ST04)が、後のステップでは使用されない場合、画像内特徴点および幾何情報抽出ステップ(ST04)は省略することができる。
【0044】
検出対象マーカ候補絞り込みステップ(ST05)において、これまでのステップで得られた、画像のトポロジー情報、特徴点情報、幾何情報などを利用し、検出すべきマーカ候補の絞り込みを行い、検索対象マーカ数を削減する。本手法の応用として利用されるマーカの種別によっては、この検出対象マーカ候補絞り込みステップ(ST05)が必要ない場合がある。
【0045】
マーカ検出ステップ(ST06)において、絞り込みを行われた検索対象マーカと一致するマーカが入力画像内に存在するかどうか検出を行う。この検出の際には、再度以前のステップで得られたトポロジー情報、特徴点情報、幾何情報を併用する。マーカが検出されたさいは、マーカ情報抽出ステップ(ST07)にすすむ。
【0046】
マーカ情報抽出ステップ(ST07)では、以前までのステップで得られた情報と検出されたマーカに関する情報を抽出し、またマーカの2次元および3次元空間内での座標や大きさなどの位置情報を推定する。
【0047】
検出結果利用ステップ(ST08)では、得られた検出結果を利用する。
【0048】
既存の、トポロジー情報のみに基づくマーカ認識手法では、マーカのデザインがトポロジカルな隣接情報・包括関係を保つ限りマーカの判別が可能であるが、反面、マーカの図像、形状が全く違っていてもトポロジカルな隣接情報・包括関係が全く同じであれば、図像的・形状的には、全く違うマーカでも同じマーカとして認識されるという問題があった。これを、マーカ全体やマーカの各部分の中心・重心・ベクトル・形状の幾何的な情報や、画像の特徴点の情報、パターン・マッチング手法を、トポロジー手法と併用して実現した。
【0049】
またトポロジー情報を利用したマーカ認識手法において、検出候補マーカとのトポロジー情報の一致によりマーカ検出を行うのではなく、同様に幾何的な情報を併用することにより、直接マーカ内にデータを埋め込むことを実現した。
【0050】
トポロジー情報を検出マーカ候補の絞り込みに使用することにより、既存の広く知られた画像の特徴点を利用するマーカ認識手法やパターン・マッチング手法に基づく手法においても、マーカ認識の計算コストを削減することを可能とした。
【実施例1】
【0051】
図3は、本発明の実施例1において利用されるマーカの一例である。このタイプのマーカの各部分は、図3に示されているように、基準部(1)とデータエンコード部(2)とに分かれる。この図3の例においては、11ビットのデータをエンコードしているが、エンコードされるデータのビット数は、自由に増減可能である。
【0052】
本実施例1ではデータエンコード部においては、内部にほかの領域を含まない、黒と白の四角形の領域が配置されている。これらの領域は、その色に応じて0か1情報を各1ビットずつエンコードしている。以下では、このような領域を以後ではビット情報領域と呼ぶものとする。図3の例では、データエンコード部(2)には、左から黒のビット情報領域が4つ、白のビット情報領域が3つ、黒のビット情報領域が3つ、白のビット情報領域が1つの順で並んでいる。黒のビット情報領域が0、白のビット情報領域が1をあらわすとすると、このデータエンコード部(2)は00001110001の二進数の11ビットを荒らすことになる。
【0053】
まず、本マーカを入力画像内から検出する際、このマーカのトポロジカルな構造を利用する。
【0054】
図3のマーカのトポロジカルな構造を図4に示す。図4における白丸は図3における白い領域を、黒丸は図3における黒い領域を、矢印はそれぞれ領域間の隣接関係をしめすものとする。基準部(1)とデータエンコード部(2)は、違ったトポロジー情報を持っているので容易に判別できる。
【0055】
図3の例では、基準部(1)は黒領域の中に一つの白領域が入っており、それと対応する領域のトポロジー情報は、図4では、「実施例1図3のマーカ例における基準部のトポロジー情報を表す部位(点線内)(3)」として注釈されている。
【0056】
図3のデータエンコード部(2)においては、エンコード方法から明らかなように、黒いビット情報領域白いビット情報領域の数の総数はデータエンコード部(2)内にエンコードされたビット数と一致する。これと対応するトポロジー情報はそれぞれ、図4において「実施例1図3のマーカ例におけるデータエンコード部のうち黒いビット情報領域のトポロジー情報を表す部位(点線内)(4)」「実施例1図3のマーカ例におけるデータエンコード部のうち白いビット情報領域のトポロジー情報を表す部位(点線内)(5)」として注釈されている。
【0057】
このようなトポロジー情報を持つ領域を、入力画像中から探し出せば、それがマーカ候補となる。
【0058】
この実施例1のマーカの例では、データエンコード部(2)内の白および黒のビット情報領域から得られたビット列は、隣接および包括関係のみを表すことしかできないトポロジー情報だけでは、ビットの並び順序は決定できないが、基準部(1)からのベクトルの長さによってソートされることにより、11ビットのデータの順序を決定してエンコードすることができる。
【0059】
このようにマーカの検索においてトポロジー情報を利用し、データのエンコードとデコードにおいて幾何的な情報を併用する。
【0060】
検出されたマーカから各領域の中心や重心、形状など、システムにたいしては既知の幾何的な情報を併用し、マーカの位置推定などを行うことができる。
【0061】
たとえば、基準部(1)および各ビット領域の入力画像内での座標や面積、マーカの輪郭線を利用して、2次元平面上および3次元空間上でのマーカ位置の推定を行うことができる。
【0062】
さらに、本発明ではデータエンコード部(2)においては、ビット情報領域の総数はデータエンコード部(2)のビット数と一致しなければならないという性質を利用して、マーカ領域の検索をすばやく行うことができる。
【0063】
たとえば実施例1のサンプルにおいては、図4におけるデータエンコード部(2)の白いビット領域のトポロジー情報(領域隣接情報)とデータエンコード部の黒いビット情報領域のトポロジー情報(領域隣接情報)に属するようなノード数が、データエンコード部(2)のビット数と一致する。
【0064】
白と黒のビット情報領域を2進数として解釈することにより、データエンコード部(2)には、かならずビット数の半分以上の個数の白もしくは黒のビット情報領域が内部に存在することになる。ある桁数の2進数における0の総数は、全体の桁数から1の総数を引いたものと必ず一致するので、かならず0の個数が全体の桁数の半分を超えるか、もしくはちょうど半分となるか、そうでなければ、1の個数が全体の桁数の半分を超えるか、もしくはちょうど半分となっていることになる。
【0065】
一般に入力画像において、トポロジー的に内部に包括された領域がより多い領域は、入力画像では、より稀になる傾向があるため、データエンコード部(2)のビット数が十分大きく、入力画像中に含まれるデータエンコード部(2)の白および黒のビット情報領域の総数が十分大きい場合、本手法では、このような特徴を利用してマーカ検索を行うことにより、マーカ検索の速度を向上させることができる。
【0066】
また、ベクトルの向きを利用して、認識されたマーカが有効なマーカであるかどうかを調べる。例えば、基準部(1)から各ビット情報領域に対する向きが一致していない場合、それは有効なマーカではないとして検出対象からはずされる。
【0067】
本種別のマーカにおいては、上記のようなベクトルを利用したデータエンコード方法が正常に保たれる限り、おもにトポロジー情報を用いているという性質により、マーカ図像や形状は自由に設定できる。
【0068】
たとえばビット情報領域の形は上記のような認識法では使用されていないため四角でなく他の形状でもよい。また同様に、マーカ全体の形が長方形ではなく、上記の認識法に合致する限り、楕円や他の形状でもよい。
【0069】
本実施例1で述べられた本発明の応用の実施例における処理の具体例を図5に示す。
本実施例1の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、基準部からの距離によるデータエンコード部ソートステップ(ST02)、マーカ有効性判断ステップ(ST03)、マーカ情報抽出ステップ(ST04)の四つのステップからなる。
【0070】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、マーカ領域のトポロジー情報を利用して、合致するものを候補領域として検出する。
【0071】
基準部からの距離によるデータエンコード部ソートステップ(ST02)では、マーカ候補領域検出ステップ(ST01)で得られたマーカ候補領域における基準部からのベクトルの長さを利用して、データエンコード領域の各ビット情報領域から得られた各ビット情報をソートし、ビット情報の順序を決定してデータのデコードをする。このように、本手法ではトポロジー情報とベクトル情報が併用される。
【0072】
マーカ有効性判断ステップ(ST03)においては、さらにマーカ候補領域の基準部から、各ビット情報領域へのベクトルの長さや角度も利用して、有効なマーカであるかどうかを判断する。異常なベクトルの長さや角度が検出された場合、無効なマーカであるとして拒否する。
【0073】
マーカ有効性判断ステップ(ST03)において、有効であると判断されたマーカ候補は正しいマーカであるとして、マーカ情報抽出ステップ(ST04)にすすみ、マーカから得られる情報を抽出する。その後は、必要であればマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックすることができる。
【0074】
マーカ有効性判断ステップ(ST03)において、無効であると判断されたマーカ候補は、無効マーカ候補として無視される、その後は、必要であればマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックすることができる。
【0075】
必要なすべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【実施例2】
【0076】
実施例2として、図6に、実施例1と同様のベクトル情報をトポロジー情報と併用したマーカの一例をしめす。ただし、実施例1と違い、図6のマーカは基準点をもたず、データエンコード部を複数の違ったトポロジー的な性質をもつ領域にわけ、それにより各領域を区別することができる。たとえば図6のマーカの例では、「実施例2におけるマーカ例のデータエンコード部▲1▼(6)」と「実施例2におけるマーカ例のデータエンコード部▲2▼(7)」として図示された、二つのデータエンコード部を持ち、そのなかに0か1の1ビットをそれぞれにエンコードする、ビット情報領域が配置されている。
【0077】
隣接および包括関係のみを表すことしかできないトポロジー情報だけでは、ビットの並び順序は決定できないため、データをデコードする際に実施例2でもベクトル情報を使用する。データをデコードするために、実施例1のように基準部からのベクトルを使用する代わりに、実施例2の図6のマーカの例では、別のデータエンコード部や、別のデータエンコード部内の任意のビット情報領域からのベクトルの長さを使用して、ビット情報領域の色から得られるビット列をソートしてビットの並ぶ順序を確定しデータのデコードを行う。
【0078】
例えば図6の例では、データエンコード部▲2▼(7)の任意のビット情報領域からの距離を利用して、データエンコード部▲1▼(6)内での各ビット情報領域によってあらわされるビット列のソートをおこなうことができる。
【0079】
このように実施例2においてもマーカの検索においてトポロジー情報を利用し、データのエンコードとデコードにおいては幾何的な情報を併用する。
【0080】
実施例2においても、実施例1のようにマーカの検出を画像内により稀なトポロジー情報を利用することにより、マーカ検出を効率的に行うことができる。
【0081】
検出されたマーカから各領域の位置や大きさや重心や形状といった、システムにたいしては既知の幾何的な情報を併用し、マーカの位置推定などを行うことができる。
【0082】
本種別のマーカにおいても、上記のようなベクトルを利用したデータエンコード方法が正常に保たれる限り、おもにトポロジー情報を用いているという性質により、マーカ図像や形状は自由に設定できる。
【0083】
本実施例2で述べられた本発明の応用の実施例における処理の具体例を図7に示す。本実施例2の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、他のデータエンコード部からの距離によるソートステップ(ST02)、マーカ有効性判断ステップ(ST03)、マーカ情報抽出ステップ(ST04)の四つのステップからなる
【0084】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、先に述べたように、マーカ領域のトポロジー的な特徴を利用して候補領域を検出する。
【0085】
他のデータエンコード部からの距離によるソートステップ(ST02)では、マーカ候補領域検出ステップ(ST01)で得られたマーカ候補領域の複数のデータエンコード部を利用して、他のデータエンコード部もしくは他のデータエンコード部内のビット情報領域からの距離に応じて、もう一方のデータエンコード部内のビット情報領域から得られるビット列を、互いにソートしあう。このように、トポロジー情報とベクトル情報が併用される。
【0086】
マーカ有効性判断ステップ(ST03)においては、さらに、あるデータエンコード部のビット情報領域のからの、他のビット情報領域へのベクトルの長さや角度も利用して、有効なマーカであるかどうかを判断する。異常なベクトルの長さや角度が検出された場合、無効なマーカであるとして拒否する。
【0087】
マーカ有効性判断ステップ(ST03)において、有効であると判断されたマーカ候補は正しいマーカであるとして、マーカ情報抽出ステップ(ST04)にすすみ、マーカから得られる情報を抽出する。そののち、マーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0088】
マーカ有効性判断ステップ(ST03)において、無効であると判断されたマーカ候補は、無効マーカ候補として無視され、のちにマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0089】
すべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【実施例3】
【0090】
実施例3として、図8に、実施例1と実施例2と同様にベクトル情報とトポロジー情報と併用したマーカの一例をしめす。ただし、実施例1と違い、図8のマーカは基準点をもたない。また、実施例2と違ってデータエンコード領域は一つであり、図8においては「実施例3におけるマーカ例のデータエンコード部(8)」として示されている。
【0091】
隣接および包括関係のみを表すことしかできないトポロジー情報だけでは、ビットの並び順序は決定できない。そこでデータをデコードするために、データエンコード部内部において、ビット情報領域から得られるビット列をソートしなければならないが、本実施例3の例では、各ビット情報領域の間のベクトルを利用することによりソートを行う。
【0092】
また、一般的にこのようなマーカが入力画像内にある場合、端にあるビット領域は、入力画像中の座標においても当然、端にあるので、それを利用して検出する手助けにできる。また、任意のビット情報領域から最も遠い距離にあるビット情報領域も、一般的に端となる。
【0093】
またデータエンコード部の端にある領域においては必ず全ての他のビット情報領域へのベクトルが同じ向きになり、端にない領域では必ず他のビット情報へのベクトルのうち反対の向きを指すベクトルが検出できる。
【0094】
上記のような方法のどれかにより端にある2点のマーカを取得でき、どちらかの端点の距離を使用してデコードされるデータのビット順をソートできるが、これだけではソート時にどちらの端が先頭ビットになり、どちらの端が終端ビットになるべきか決定できない。このような場合、以下の二つの方法をとってデータをエンコードすることにより解決できる。
【0095】
まず、データ自体に先頭ビットと終端ビットをあらわす情報を埋め込む。たとえば先頭ビットは必ず1、終端ビットは必ず0があらわれるものとし、複合された情報の先頭が0ならば、ビットの順序を反転する。これにより、ビットのソート順を正しく行う。
【0096】
もしくは、エンコードするデータを中心のビットを境に対象に配置する。たとえば1101という4ビットのデータをエンコードする際に8ビットを使用し、11011011とするか7ビットを使用し1101011とエンコードする。これにより、どちらの方向からデータを読み込んでも同じデータを復号できる。また、このように対象に配置された対応するビット同士をチェックすることにより、より堅牢なデータの抽出が可能になる。
【0097】
また実施例3においても、実施例1および実施例2のようにマーカの検出を画像内により稀なトポロジー情報を利用することにより、マーカ検出を効率的に行うことができる。
【0098】
このように実施例3においてもマーカの検索においてトポロジー情報を利用し、データのエンコードとデコードにおいては幾何的な情報を併用する。
【0099】
本実施例3で述べられた本発明の応用の実施例における処理の具体例を図5に示す。本実施例1の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、ベクトル情報によるデータエンコード部ソートステップ(ST02)、マーカ有効性判断ステップ(ST03)、マーカ情報抽出ステップ(ST04)の四つのステップからなる。
【0100】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、先に述べたような、マーカ領域のトポロジー的な特徴を利用して、候補領域を検出する。
【0101】
ベクトル情報によるデータエンコード部ソートステップ(ST02)では、各ビット情報領域間のベクトルを計算し、すべての他ビット情報領域へのベクトルの向きが同じであるものを、端にあるビット情報領域とする。2つの端点が検出されることになるので、ビット情報に向きデータを埋め込む場合は、先頭ビットを表す領域がビット情報領域の色から決定できる。その先頭ビットを表す領域から順に距離が近い順にビットをソートする。対象にビット情報を配置している場合は、向きを気にせずに任意の端からの距離に合わせてビットをソートする。このように各データエンコード部のビット情報を表す領域をソートする。このステップにおいては、トポロジー情報とベクトル情報が併用される。
【0102】
マーカ有効性判断ステップ(ST03)においては、さらに各ビット情報領域間のベクトルの長さや角度も利用して、有効なマーカであるかどうかを判断する。異常なベクトルの長さや角度が検出された場合、無効なマーカであるとして拒否する。
【0103】
マーカ有効性判断ステップ(ST03)において、有効であると判断されたマーカ候補は正しいマーカであるとして、マーカ情報抽出ステップ(ST04)にすすみ、マーカから得られる情報を抽出する。そののち、マーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0104】
マーカ有効性判断ステップ(ST03)において、無効であると判断されたマーカ候補は、無効マーカ候補として無視され、のちにマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0105】
すべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【実施例4】
【0106】
実施例4として、図10に、マーカを複数カードの上下にペアとして配置し、そのペアを利用してより効率的、正確に位置推定をできるようにした実施例を「実施例1の種別のマーカをカードの上下に配置した例(9)」、「実施例2の種別のマーカをカードの上下に配置した例(10)」、「実施例3の種別のマーカをカードの上下に配置した例(11)」として示す。これは、カードの上下あるマーカの位置情報を利用して、カードの3次元空間内での位置推定をより正確に行うのに役立つ。
【0107】
図10のうち、実施例2の種別のマーカをカードの上下に配置した例(10)では、上下に配置されたマーカのトポロジカルな構造の違いを、配置位置を示す情報としても利用できる。
【0108】
また、図10において、上下に配置されたマーカの間の領域は使用されていないので、必要に応じて任意の図像を配置することができる。また、マーカ情報と併用して、その任意の図像における画像特徴点や図像とのパターン・マッチング結果を利用することによりマーカの一意性の向上やマーカ認識の堅牢性を向上させるために使用することができる。
【実施例5】
【0109】
実施例5として、ベクトルの角度情報をデータエンコード部のビット情報領域のソートに使用する例を示す。図11は、この種別のマーカの一例を示し、図12はその各部位の説明である。
【0110】
図11の四角形のマーカにおいては、図12に示すように外部のデータエンコード部に配置された黒い四角形および白い四角形にそれぞれ0と1の1ビットがエンコードされる。隣接および包括関係のみを表すことしかできないトポロジー情報だけでは、ビットの並び順序は決定できないので、マーカ中心部から各データエンコード部への角度を各ビットのソートに利用し、データの埋め込みを行う。
【0111】
図12において、「実施例5におけるマーカ例の基準ベクトル取得部(点線内、中心部)(12)」として図示されている、内部の中心部に配置された白い四角形を含む黒い正方形の領域は、基準ベクトル取得部として使用される。また図12において「実施例5におけるマーカ例のデータエンコード部(点線外、周辺部)(13)」は、それぞれの色に応じて0か1のビット情報を埋め込まれた、白もしくは黒い四角形であるビット情報領域を含む。
【0112】
このマーカの中心部から、基準ベクトル取得部(12)内部の黒い四角形の中心へのベクトルの角度を基準ベクトルとして取得する。その後、ビット情報領域から得られるビット列を、中心部から各ビット情報領域へのベクトルの角度と基準ベクトルからの角度の差を使用してソートする。ことによって、それぞれのビット情報領域に埋め込まれたビットの並び順を決定しデータをマーカから抽出する。
【0113】
検出されたマーカから各領域の位置や大きさや重心や形状など、システムにたいしては既知の幾何的な情報を併用し、マーカの位置推定などを行うことができる。
【0114】
このように実施例5においてもマーカの検索においてトポロジー情報を利用し、データのエンコードとデコードにおいて幾何的な情報を併用する。
【0115】
実施例5においても、実施例1のようにマーカの検出を画像内により稀なトポロジー情報を利用することにより、マーカ検出を効率的に行うことができる。
【0116】
実施例5の図11の種別のマーカにおいても、上記のようなベクトルを利用したデータエンコード方法が正常に保たれる限り、おもにトポロジー情報を用いているという性質により、マーカ図像や形状は自由に設定できる。
【0117】
本実施例5で述べられた、本発明の応用の実施例における処理の具体例を図13に示す。実施例5の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、基準ベクトルからの角度を利用したソートステップ(ST02)、マーカ有効性判断ステップ(ST03)、マーカ情報抽出ステップ(ST04)の四つのステップからな
【0118】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、先に述べたような、マーカ領域のトポロジー的な特徴を利用して、候補領域を検出する。
【0119】
基準ベクトルからの角度を利用したソートステップ(ST02)では、マーカ候補領域検出ステップ(ST01)で得られたマーカ候補領域のうち、まず、基準ベクトル取得部マーカ中心部から内部の白い領域へのベクトルを基準ベクトルとして取得する。次にマーカ中心部から各データエンコード部内のビット情報領域へのベクトルをそれぞれ取得し、基準ベクトルとの角度を利用してソートする。これにより、データエンコード部にエンコードされたビット情報が順序づけられ、マーカ内にエンコードされたデータを抽出できる。このように、トポロジー情報と幾何的な情報が併用される。
【0120】
マーカ有効性判断ステップ(ST03)においては、さらにすでに取得されているベクトルの長さや角度などが、マーカの特徴と一致するかを判断して、有効であるかどうかを判断する。異常なベクトルの長さや角度が検出された場合、無効なマーカであるとして拒否する。
【0121】
マーカ有効性判断ステップ(ST03)において、有効であると判断されたマーカ候補は正しいマーカであるとして、マーカ情報抽出ステップ(ST04)にすすみ、マーカから得られる情報を抽出する。そののち、マーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0122】
マーカ有効性判断ステップ(ST03)において、無効であると判断されたマーカ候補は、無効マーカ候補として無視され、のちにマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0123】
すべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【実施例6】
【0124】
実施例6として、ベクトルの角度情報をデータエンコード部のビット情報領域から得られるビット列のソートに使用する別の例を図14に示す。図14は、この種別のマーカの一例を示す。この図13の種別のマーカでは内部に図像を配置することができる。図15において、図14のマーカの各部の説明を示す。
【0125】
図14の種別のマーカでは、図15の「実施例6におけるマーカ例の基準ベクトル取得部(右上の白領域中の黒い四角形)(14)」として示すように、基準ベクトルを取得するための領域は周辺部に埋め込まれている。またデータエンコード部も同様に「実施例6におけるマーカ例のデータエンコード部(周辺部)(16)」に示すように、周辺部に埋め込まれている。
【0126】
また、図15「実施例6におけるマーカ例のデータエンコードを阻害しない性質をもつ任意の図像(中心部)(15)」に示すように、本実施例6のデータエンコード手法を阻害しないような、基準ベクトル取得部ともデータエンコード部とも違ったトポロジー的な性質をもつものであれば、任意の図像を中心部に配置することができる。
【0127】
図15において、実施例6におけるマーカ例の基準ベクトル取得部(右上の白領域中の黒い四角形)(14)のトポロジー的な特徴は、実施例6におけるマーカ例のデータエンコード部(周辺部)(16)に埋め込まれた、白と黒の四角形の領域であるビット情報領域とは違っているため、トポロジー情報のみで容易に判別できる。
【0128】
マーカ中心から基準ベクトル取得部(14)へのベクトルを取得し基準ベクトルとする。
【0129】
隣接および包括関係のみを表すことしかできないトポロジー情報だけでは、ビットの並び順序は決定できないので、ベクトル情報を利用して、ビット順序を決定する。基準ベクトルとの角度差をもとに、マーカ中心部からデータエンコード部内の、各ビット情報領域へのベクトルの角度をソートして、得られるビット列の順序を確定しマーカに埋め込まれたデータを抽出する。
【0130】
検出されたマーカから各領域の位置や大きさや重心や形状など、システムにたいしては既知の幾何的な情報を併用し、マーカの位置推定などを行うことができる。
【0131】
このように実施例6においてもマーカの検索においてトポロジー情報を利用し、データのエンコードとデコードにおいて幾何的な情報を併用する。
【0132】
実施例6においても、実施例1のようにマーカの検出を画像内により稀なトポロジー情報を利用することにより、マーカ検出を効率的に行うことができる。
【0133】
本発明の手法では、おもにトポロジー情報を用いてマーカ認識を行っているという性質により、実施例6の図14の種別のマーカにおいても、上記のようなベクトルを利用したデータのエンコード方法が正常に保たれる限り、マーカ図像や形状は自由に設定できる。
【0134】
本実施例6で述べられた、本発明の応用の実施例における処理の具体例を図16に示す。実施例6の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、基準ベクトルからの角度を利用したソートステップ(ST02)、マーカ有効性判断ステップ(ST03)、マーカ情報抽出ステップ(ST04)の四つのステップからなる。
【0135】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、先に述べたような、マーカ領域のトポロジー的な特徴を利用して、候補領域を検出する。
【0136】
基準ベクトルからの角度を利用したソートステップ(ST02)では、マーカ候補領域のうち、まずマーカ中心部から基準ベクトル取得部である「内部に黒い四角形を一つ含む白い四角形」へのベクトルを、基準ベクトルとして取得する。またマーカ中心部からビット情報を埋め込まれた「内部に黒い四角形を一つ含む白い四角形」であるビット情報領域への各ベクトルも同様に取得する。前者の基準ベクトルの角度を基準に、後者のビット情報領域へのベクトルの角度をソートして、各ビット情報の配置順を取得し、マーカに埋め込まれた情報を抽出する。このようにトポロジー情報と幾何的な情報が併用される。
【0137】
マーカ有効性判断ステップ(ST03)においては、さらにすでに取得されているベクトルの長さや角度などが、マーカの特徴と一致するかを判断して、有効であるかどうかを判断する。異常なベクトルの長さや角度が検出された場合、無効なマーカであるとして拒否する。
【0138】
マーカ有効性判断ステップ(ST03)において、有効であると判断されたマーカ候補は正しいマーカであるとして、マーカ情報抽出ステップ(ST04)にすすみ、マーカから得られる情報を抽出する。そののち、マーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0139】
マーカ有効性判断ステップ(ST03)において、無効であると判断されたマーカ候補は、無効マーカ候補として無視され、のちにマーカ候補領域検出ステップ(ST01)に再度進み、次のマーカ候補をチェックする。
【0140】
すべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【実施例7】
【0141】
実施例7では、マーカ図像の認識を、トポロジー情報に基づく手法と、画像の特徴点および幾何的な情報およびパターン・マッチング手法の併用により行う実施例を示す。トポロジー情報は、マーカ候補の絞り込みに主に使用され、その後、トポロジー情報とあわせて、マーカ全体やマーカの各部分の中心・重心・ベクトル・形状の幾何的な情報を利用してマーカの検出を試みる。それだけで十分マーカ候補の絞り込みが行われない場合には、画像の特徴点やパターン・マッチングの手法をさらに適用する。
【0142】
図17から図19において、白黒に二値化されたマーカ図像の例として、図17・実施例7におけるマーカ例その1(17)、図18・実施例7におけるマーカ例その2(19)、図19・実施例7におけるマーカ例その3(21)の3つを示す。それぞれの図像に対応するマーカのトポロジカルな包括関係および隣接関係の情報を図としてあらわしたものを、図17の実施例7におけるマーカ例その1のトポロジー情報をあらわしたグラフ(18)、図18の実施例7におけるマーカ例その2のトポロジー情報をあらわしたグラフ(20)、図19の実施例7におけるマーカ例その3のトポロジー情報をあらわしたグラフ(22)として示す。これらを本実施例での検出候補マーカの例とする。
【0143】
本実施例7では、まず、入力画像から得られたトポロジー情報を利用してマーカ候補を検索する。このとき、登録されているマーカのトポロジー情報のどれかと一致するものをマーカ候補として扱う。一致するマーカ候補が一つである場合、それを検出したマーカとしてあつかう。
【0144】
しかし、例えば図18・実施例7におけるマーカ例その2(19)が画像内に存在し、マーカ候補として検出されたとする。このとき、そのトポロジー情報は、図18の実施例7におけるマーカ例その2のトポロジー情報をあらわしたグラフ(20)として示される。よって、このトポロジー情報が、図17の実施例7におけるマーカ例その1のトポロジー情報をあらわしたグラフ(18)とは異なっているため、実施例7におけるマーカ例その1(17)は、マーカ候補から外れる。しかし、まだ図19の実施例7におけるマーカ例その3のトポロジー情報をあらわしたグラフ(22)とトポロジー情報が同じであるので、既存のトポロジー情報のみに基づく手法では区別がつかず、検出マーカがひとつに確定できない。
【0145】
このような場合、本発明で用いる手法では、マーカ全体やマーカの各部分の中心・重心・ベクトル・形状の幾何的な情報も使用するとともに、同時に画像の特徴点の情報を用いる手法やパターン・マッチング手法を併用して、同じトポロジー情報を持つマーカ間でも区別を行う。
【0146】
まず、マーカ全体やマーカの各部分の領域における、中心・重心・ベクトル・形状の幾何的な情報で、先ほど得られた同じトポロジー情報を持つマーカ間でのさらに絞り込みを行う。このような画像内のある領域に関する幾何的な情報の取得方法はすでに一般に広く知られているものを用いる。
【0147】
本手法では、そのように取得された、マーカ候補領域からそれぞれの部分及び全体の中心・重心・ベクトル・形状の幾何的な情報のうち全て、もしくは必要なものとその組み合わせを利用して、検出すべきマーカ集合内のマーカと、それぞれと個別に、また組み合わせて相関度を比較して、一致度の高いもののみを絞り込む。
【0148】
たとえば、四角形の輪郭をしたマーカがあり、その輪郭がシステムに対して既知である場合、輪郭を取得したのち、入力画像内のマーカ輪郭の各頂点の位置を利用して、入力画像のマーカ輪郭から3次元空間上のマーカ座標を推定し、正面からマーカをみたような2次元平面への変換行列を取得することができる。これにより傾いたマーカの画像でも取得した変換行列により透視変換が可能である。このような既知の形状や座標の情報を利用して、傾いて撮影されているマーカを2次元平面上で真正面から見ている形に透視変換する手法は、既に既存のマーカ認識手法で広くつかわれているものである。
【0149】
一般に正方形などの形状にマーカの形状を限定している手法では、正方形の四頂点などを使用して、このような2次元平面への変換行列を得ている。本手法でもこの手法は適用できる。
【0150】
また、本手法では、まずトポロジー情報によりマーカ候補を絞っているため、マーカ候補に残っているマーカ群のそれぞれの形状は既知となり、このようなマーカを二次元平面に配置し真正面から見た形へと、入力画像中のマーカ画像を透視変換するための行列は既存の手法を利用して容易に得られる。これによって、全てのマーカ形状を正方形に限定せずに、単に形状に関係なく得られるトポロジー情報から、該当するトポロジー情報を持つマーカ候補群を選ぶことができ、それらマーカ候補群のもつマーカ形状はそれぞれシステムに対して既知となるので、その形状を使用して2次元平面への変換行列を得てもよい。当然この場合は、その形状は、変換行列が得られるように設計されているものでなある必要がある。たとえば、簡単な例では、長方形や五角形などでもかまわない。
【0151】
各領域の占める領域間の重心から得られるベクトルを利用することにより、ある程度のマーカの入力画像内での回転角度が取得できる。この角度を利用して、マーカ中心から全領域へのベクトルを足すことによって得られるベクトルを、マーカの向きの基準として扱う。これを変換行列を得るときに、追加的な情報として、マーカの入力画像内での向きの推定に役立て、2次元平面への変換行列の取得に役立てる。
【0152】
本手法では、上のようにマーカ図像を2次元に透視変換するための変換行列を取得したのち、さらに検出したいマーカ候補群の中心・重心・ベクトル・形状の幾何的な情報を2次元平面に直した形で復元できる。
【0153】
そのように変換された各領域の重心の位置を比較し、一致度がより高いものを検出したいマーカ候補群のなかから、検出するマーカ候補として残し、明らかに重心の位置が違うものなどは候補としてあつかわないことにより、絞り込みを行える。これには、互いに最近傍にある重心をペアとして各距離の誤差を得ることができ、この誤差が明らかに大きすぎるものは候補からはずす手法を使用する。また全体の誤差がすくなくても、異常な誤差をもつ重心のペアがある場合は、そのマーカも候補からはずす。
【0154】
この時点でまだ絞込みがたりなければ、さらに他の幾何的な情報を用いて、マーカ候補を絞り込んで、検出マーカを確定を試みる。
【0155】
このとき、ベクトルの向きとマーカ候補領域のうち任意の領域を、現在残っているマーカ候補と向きの基準を合わせ、該当領域の形状を比較することにより、あまりに形状が違っているものは、候補からはずすことができる。
【0156】
このように、本手法では、トポロジー情報にくわえて中心・重心・ベクトル・形状の幾何的な情報を併用する。
【0157】
また、それだけでなく各幾何的な情報の組み合わせを使用してマーカの絞り込みを行う。そのさい、各幾何的な情報の重みづけは、実際に使用される環境や、マーカの図像によって変えることができる。たとえば、各領域の輪郭は大きく違っているが重心はほぼ同じようなマーカが複数あり、これらの間でマーカを区別する必要がある際は、形状の相関の度合いを大きく重みづけて一致度を評価する。
【0158】
この段階で一つの検出マーカ候補に絞れたときは、そのマーカが検出されたとする。まだ複数のマーカが候補に残っている場合、別手法をさらに併用しての候補の絞り込みに進む。
【0159】
幾何的な情報のみで絞り込みが十分でなかった場合、画像の特徴点もしくはパターン・マッチングを行い、候補をさらに絞り込む。これにより、よりもっともマーカ候補と一致度が高いマーカを、検出マーカとしてあつかう。
【0160】
上記の手法で見つかった検出マーカがマーカとしての有効度が十分でない場合、検出マーカとしては扱わず、十分有効であるもののみを検出マーカとしてあつかう。
【0161】
検出マーカに関して今まで得られている情報や入力画像のマーカ領域から得られる情報を利用して、マーカの2次元平面や3次元空間内での位置推定などを行うことができる。
【0162】
本実施例7で述べられた、本発明の応用の実施例における処理の具体例を図20に示す。実施例7の具体例は、主に、トポロジー情報によるマーカ候補領域検出ステップ(ST01)、トポロジー情報によるマーカ候補絞り込みステップ(ST02)、トポロジー情報によるマーカ検出ステップ(ST03)、幾何的な情報によるマーカ検出ステップ(ST04)、パターン・マッチングによるマーカ検出ステップ(ST05),特徴点によるマーカ検出ステップ(ST06)、マーカの情報抽出ステップ(ST07)の7つのステップからなる。
【0163】
マーカ候補領域検出ステップ(ST01)では、既に以前の段階で入力画像から分析されて得られたトポロジー情報から、マーカ候補領域を一つ検出する。この際には、先に述べたような、マーカ領域のトポロジー的な特徴を利用して、候補領域を検出する。
【0164】
トポロジー情報によるマーカ候補絞り込みステップ(ST02)では、マーカ候補領域検出ステップ(ST01)で得られた候補領域と、システムには既知の検出すべきマーカ候補のトポロジー情報を比較し、関係のないマーカ候補を検出対象除外し、トポロジー情報が一致するものだけを絞り込んで検出対象マーカとして残す。
【0165】
トポロジー情報によるマーカ検出ステップ(ST03)では、絞り込まれた検出対象マーカとトポロジー情報が一致するマーカがある場合、すでに一つに候補が絞られ検出されたマーカが確定したのなら、マーカの情報抽出ステップ(ST07)とすすむ。候補が未確定の状態であれば、次に幾何的な情報によるマーカ検出ステップ(ST04)にすすむ。
【0166】
幾何的な情報によるマーカ検出ステップ(ST04)では、マーカ全体やマーカの各部分の中心・重心・ベクトル・形状を含む幾何的な情報を使用して、現在のマーカ候補の中に、十分一致するものがあるかを調べる。この段階で幾何的な特徴が十分一致したマーカ候補がある場合には、それを検出マーカとして確定し、マーカの情報抽出ステップ(ST07)とすすむ。そうでない場合には、一致度が低く、明らかに対象でないマーカを候補の集合から除外し、パターン・マッチングによるマーカ検出ステップ(ST05)へと進む。
【0167】
パターン・マッチングによるマーカ検出ステップ(ST05)では、検出されたマーカ候補領域と、パターン・マッチング手法をもちい、絞り込み済みのマーカ候補集合との比較を行い、マーカ確定を試みる。この段階で十分一致したマーカ候補がある場合には、それを検出マーカとして確定し、マーカの情報抽出ステップ(ST07)とすすむ。そうでない場合には、一致度が低く、明らかに対象でないマーカを候補の集合から除外し、特徴点によるマーカ検出ステップ(ST06)へと進む。
【0168】
特徴点によるマーカ検出ステップ(ST06)は、マーカ候補領域内の画像特徴点とマーカ候補集合のそれぞれの特徴点を比較し、マーカ確定を試みる。この段階で十分一致したマーカ候補がある場合には、それを検出マーカとして確定し、マーカの情報抽出ステップ(ST07)とすすむ。そうでない場合は、次のマーカ候補領域のチェックへと進む。
【0169】
マーカ情報抽出ステップ(ST07)においては、現在までに得られているマーカに関する情報から後の利用手段で必要な情報を抽出する。これには位置推定のための情報、マーカ種別、一致度など現在までに得られた情報がすべて含まれる。
【0170】
すべてのマーカ候補領域がチェックし終わったら、マーカ検出は終了し、位置計算や検出結果の利用などの別処理へと移行する。
【0171】
なお、本発明の技術範囲は上記の基本的な利用形態、実施例1から実施例7までに限定されるものではなく、本発明の趣旨を逸脱しない範囲において種々の変更を加えることが可能である。
【符号の説明】
【0172】
1 実施例1におけるマーカ例の基準部
2 実施例1におけるマーカ例のデータエンコード部
3 実施例1図3のマーカ例における基準部のトポロジー情報を表す部位(点線内)
4 実施例1図3のマーカ例におけるデータエンコード部のうち黒いビット情報領域のトポロジー情報を表す部位(点線内)
5 実施例1図3のマーカ例におけるデータエンコード部のうち白いビット情報領域のトポロジー情報を表す部位(点線内)
6 実施例2におけるマーカ例のデータエンコード部▲1▼
7 実施例2におけるマーカ例のデータエンコード部▲2▼
8 実施例3におけるマーカ例のデータエンコード部
9 実施例1の種別のマーカをカードの上下に配置した例
10 実施例2の種別のマーカをカードの上下に配置した例
11 実施例3の種別のマーカをカードの上下に配置した例
12 実施例5におけるマーカ例の基準ベクトル取得部(点線内、中心部)
13 実施例5におけるマーカ例のデータエンコード部(点線外、周辺部)
14 実施例6におけるマーカ例の基準ベクトル取得用領域(右上の白領域中の黒い四角形)
15 実施例6におけるマーカ例のデータエンコードを阻害しない性質をもつ任意の図像(中心部)
16 実施例6におけるマーカ例のデータエンコード部(周辺部)
17 実施例7におけるマーカ例その1
18 図17の実施例7におけるマーカ例その1のトポロジー情報をあらわしたグラフ
19 実施例7におけるマーカ例その2
20 図18の実施例7におけるマーカ例その2のトポロジー情報を表したグラフ
21 実施例7におけるマーカ例その3
22 図19の実施例7におけるマーカ例その3のトポロジー情報を表したグラフ

【特許請求の範囲】
【請求項1】
コンピュータへの入力画像からのマーカ認識手法のうち、入力画像中からマーカ認識をおこなう際に、入力画像から得られるマーカ各領域間の包括関係および隣接関係をあらわすトポロジー情報を利用する認識手法において、トポロジー情報とあわせて、マーカ全体やマーカの各部分の中心、重心、ベクトル、形状の幾何的な情報も併用しマーカの認識を行う手法。
【請求項2】
コンピュータへの入力画像からのマーカ認識手法のうち、入力画像中からマーカ認識をおこなう際に、入力画像から得られるマーカ各領域間の包括関係および隣接関係をあらわすトポロジー情報を利用する認識手法において、トポロジー情報とあわせて、マーカ全体やマーカの各部分の中心、重心、ベクトル、形状の幾何的な情報を利用し、位置推定を行う手法。
【請求項3】
コンピュータへの入力画像からのマーカ認識手法のうち、入力画像中からマーカ認識をおこなう際に、入力画像から得られるマーカ各領域間の包括関係および隣接関係をあらわすトポロジー情報を利用する認識手法において、トポロジー情報とあわせて、マーカ全体やマーカの各部分の中心、重心、ベクトルの幾何的な情報を利用し、直接マーカ図像内に情報を埋め込む手法。
【請求項4】
コンピュータへの入力画像からのマーカ認識手法において、入力画像中からマーカ認識をおこなう際に、入力画像から得られるマーカ各領域間の包括関係および隣接関係をあらわすトポロジー情報を利用する認識手法において、トポロジー情報により検出すべきマーカ候補の絞り込みを行った後に、画像の特徴点の情報を用いる手法やパターン・マッチング手法を併用する手法

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate


【公開番号】特開2011−30168(P2011−30168A)
【公開日】平成23年2月10日(2011.2.10)
【国際特許分類】
【出願番号】特願2009−188139(P2009−188139)
【出願日】平成21年7月26日(2009.7.26)
【出願人】(509230012)
【Fターム(参考)】