検索用タグ及びこれを使用した情報検索システム
【課題】 検索用タグの抽出を固定焦点の撮像装置で容易に行うことができると共に、抽出した検索用タグに基づいて関連情報を容易に検索することができる検索用タグ及び情報検索システムを提供する。
【解決手段】 四角形領域3aの各辺上に特定の幾何学的不変量を表す5つの識別点P0〜P4を配置した検索用タグ3を検索情報保持物体2に形成する。検索用タグが形成された検索情報保持物体2の画像を撮像する撮像手段11と、該撮像手段11が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段12と、該タグ識別手段12で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段13と、該幾何学的不変量算出手段13で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段14とを備えている。
【解決手段】 四角形領域3aの各辺上に特定の幾何学的不変量を表す5つの識別点P0〜P4を配置した検索用タグ3を検索情報保持物体2に形成する。検索用タグが形成された検索情報保持物体2の画像を撮像する撮像手段11と、該撮像手段11が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段12と、該タグ識別手段12で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段13と、該幾何学的不変量算出手段13で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段14とを備えている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報を検索する場合のキーとなる検索情報を容易に特定することができる検索用タグ及びこれを使用した情報検索システムに関する。
【背景技術】
【0002】
空間に存在する様々な検索情報を特定する検索用タグを使用して、様々な処理をコンピュータ等の処理装置で行うためには、検索用タグの位置(空間座標)、距離や姿勢(方向ベクトル)、種別などを認識する必要がある。
検索用タグの位置を検出するためには、人為的な目印を用いることなく検索用タグをディジタルカメラ等の撮像手段で撮像し、その撮像データから画像処理によって特徴点を抽出して位置や姿勢を検出することが考えられるが、この場合には、高度な画像処理が必要となるため、処理時間が掛かると共に、認識結果が安定しないなどの未解決の課題がある。
【0003】
上記未解決の課題を解決するために、検索情報の位置に、例えば特定パターンを目印として貼付しておき、この検索情報保持物体をディジタルカメラ等の撮像手段で撮像し、撮像した画像データの中から特定パターンを探索して検索情報の位置を検出する手法が採用されている。
さらに、検索情報として、例えばバーコードや非接触式無線タグ(RFID)を所望の検索情報保持物体に貼付しておき、読取機器で識別コードを読取るようにした手法が採用されている。あるいは、検索情報保持物体に印刷された文字情報をディジタルカメラ等の撮像手段で撮像し、その撮像データを文字認識手段で文字認識することにより、検索情報を認識する手法が採用されている。しかしながら、何れの場合にも、検索情報を認識するには、読取機器や撮像手段を検索情報の位置に近接させて識別コードを読取るか文字情報を撮像する必要があり、遠方に存在する物体や広範囲に散らばった物体に保持された検索情報を識別する場合には適用することができないという未解決の課題がある。
【0004】
このような未解決の課題を解決するために、8角形のプレート上に5つの黒点を配置したタグを設け、このタグをディジタルカメラで撮影し、その画像データからプレートの種別、位置、姿勢を同時に認識するようにした幾何学的不変量に基づく固定標識を用いた作業者情報支援の研究が行われている(例えば、非特許文献1参照)。
ここで、幾何学的不変量は,例えば平面上の5点(P0〜04)がどの3点も同一の直線上にない場合、以下のような2つの幾何学的不変量が存在することが知られている(例えば、非特許文献2参照)。
【0005】
【数1】
【0006】
この5点の載った平面をカメラで撮影する際、一般に射影変換による幾何学的な歪が発生する。例えばカメラの向きが回転したり、平面との距離が変化したりするとカメラで撮影した画像データは変化する。また、カメラの傾きによっては、長方形が平行四辺形に写る(直角が保存されない)、あるいは長方形が台形に写る(平行性が保存されない)といったことが発生する。ところが、カメラ画像の中の5点の座標から上記(1)式で計算される2つの値I1,I2は、上述した射影変換による幾何学的な歪があっても不変である。このような性質を持つ幾何学的不変量は、画像認識するための特徴量として利用されることがある。
【0007】
すなわち、物体のIDコードを認識するための固体標識となるIDマーカを幾何学的不変量に基づいて生成するIDマーカ生成手段と、任意の視点から撮影して得られる前記IDマーカが貼付された物体の画像を画像入力装置により取込み、その画像に対して画像処理を行ってIDマーカの領域を抽出するIDマーカ領域抽出手段と、IDマーカ領域の画像から複数の特徴点の位置を抽出する特徴点位置抽出手段と、複数の特徴点の位置から少なくとも1つの幾何学的不変量を算出する幾何学的不変量算出手段と、幾何学的不変量と対応付けられる物体のIDコードを、予め幾何学的不変量と物体IDコードとを対応付けて格納しているデータベースから選出するIDコード認識手段とを有する物体IDコード認識装置が知られている(例えば、特許文献1参照)。
【0008】
【非特許文献1】伊藤俊樹、“幾何学的不変量に基づく固体標識を用いた作業者支援の研究”、大阪大学大学院 工学研究科 電子制御機械工学専攻 平成12年度修士論文、http://www-cape.mech.eng.osaka-u.ac.jp/ccm06adm/oldboys/2000/ito.pdf
【非特許文献2】杉本晃宏「物体の見え方によらない情報の抽出」情報処理願学会誌1996年12月Vol.37 No.12 第1125頁〜第1131頁
【特許文献1】特開2004−192342号公報(第1頁、図1)
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、上記非特許文献1に記載されている従来例にあっては、物体の種別、距離及び姿勢を同時に認識するという優れた機能を持ったタグであるが、カメラ画像データの中から、タグを見つけ出すために、タグにその環境ではまれな色彩を施しているため、使用環境毎に、色彩を調整する必要があり、種々の環境でタグを使用する場合には、必ずしも安定してタグを検出ことができないという未解決の課題がある。
【0010】
また、タグが直径約5cmと小さいので、空間全体のカメラ画像データの中からタグを見つけると、カメラをズームして5つの点の鮮明な画像を取得する必要があり、当然ズームに先立って、カメラの方向(パン、チルト)を制御しなければならず、カメラ及びその制御系のコストが嵩むと共に、処理時間も長くなるという未解決の課題がある。
さらに、幾何学的不変量を計算する上で、黒点の座標を正確に計測する必要があり、カメラ画像データの中で一定の閾値以下の輝度を持った部分を黒点として認識し、その重心の座標を採用するようにしているため、一般に知られているように、カメラ画像データの輝度は照明条件によって大きく変動するため、黒点の検出が必ずしも安定せず、座標の計測精度に悪影響を及ぼすという未解決の課題がある。
【0011】
また、特許文献1に記載された従来例にあっては、7×7の正方形枡目に5色の特徴点と5つの黒色特徴点との2組の特徴点を形成したIDマーカを生成し、このIDマーカを物体に貼付して、物体IDコード認識装置によってカメラ等により撮像された物体の画像を取込み、その画像情報をフーリエ変換を施して空間周波数に変換した後、物体IDマーカ領域の背景画像の空間周波数データとの相似形又は一致形をパターンマッチングにより抽出してから各特徴点位置を抽出するようにしているので、特徴点の抽出処理が複雑となるという未解決の課題がある。また、IDマーカの内部に検索情報を配置することができないという未解決の課題がある。
そこで、本発明は、上記従来例の未解決の課題に着目してなされたものであり、検索用タグの抽出を固定焦点の撮像装置で容易に行うことができると共に、抽出した検索用タグに基づいて関連情報を容易に検索することができる検索用タグ及び情報検索システムを提供することを目的としている。
【課題を解決するための手段】
【0012】
上記目的を達成するために、請求項1に係る検索用タグは、平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を、当該5つの識別点を含む平面内の位置を特定するように配置したことを特徴としている。
また、請求項2に係る検索用タグは、請求項1に係る発明において、前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴としている。
【0013】
さらに、請求項3に係る検索用タグは、請求項1又は2に係る発明において、前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴としている。
さらにまた、請求項4に係る検索用タグは、請求項1乃至3の何れか1つの発明において、前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴としている。
なおさらに、請求項5に係る検索用タグは、請求項4に係る発明において、前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴としている。
【0014】
また、請求項6に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段とを備えたことを特徴としている。
【0015】
さらに、請求項7に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段と、該検索情報抽出手段で抽出した検索情報の画像データを前記検索用タグに基づいて幾何学的に補正する画像補正手段とを備えたことを特徴としている。
【0016】
さらにまた、請求項8に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて検索情報を特定する情報検索手段とを備えたことを特徴としている。
【0017】
なおさらに、請求項9に係る情報検索システムは、請求項6乃至8の何れか1つの発明において、前記タグ識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴としている。
また、請求項10に係る情報検索システムは、請求項9に係る発明において、前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴としている。
【発明の効果】
【0018】
本発明に係る検索用タグによれば、従来のタグとは異なり、四角形領域の各辺に5つの識別点が配置されているので、固定焦点カメラで検索用タグを撮影しても検索用タグを容易に識別することができると共に、四角形領域内に検索情報を配置し、この検索情報を5つの識別点に基づいて算出される幾何学的不変量で特定するので、検索対象位置を容易に検出することができるという効果が得られる。
また、本発明に係る情報検索システムによれば、上記検索用タグを容易に識別することができると共に、検索用タグの識別点に基づく座標系を認識して、検索用タグを撮影した画像データから幾何学的不変量を算出し、この幾何学的不変量に基づいて画像データに含まれる検索情報の抽出や検索情報位置の特定を容易に行なうことができるという効果が得られる。
【発明を実施するための最良の形態】
【0019】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明に係る情報検索システムにおける第1の実施形態の構成を示すシステム構成図である。
図中、1は情報検索システムであって、雑誌、折り込み広告等の検索情報保持物体2に印刷された検索情報を含む検索用タグ3と、この検索用タグ3を読取って検索情報を抽出するタグ読取装置4と、このタグ読取装置4で抽出した検索情報に基づいて情報検索を行う情報検索装置5とを備えている。
【0020】
検索用タグ3は、図3に示すように、検索情報保持物体2の表面に正方形、長方形等の四角形領域3aが形成され、この四角形領域3aの各辺に例えば16等分した目盛り3bが形成され、この目盛り3b上に中心点を有する5つの円形の識別点P0〜P4が形成されている。
四角形領域3aは、高さをH、幅をWとし、その左上の頂点を原点(0,0)とし、右方向をx軸、下方向をy軸とする座標系を考えたとき、識別点P0は原点(0,0)に固定し、他の4つの識別点P1〜P4は各辺上の任意の位置に配置されている。なお、3点が同一直線上に並ぶことを避けるために、例えば原点に置いた識別点P0以外の4つの識別点は頂点には配置しないようにする。ここで、識別点P0以外の4つの識別点を、5つの識別点の重心から見て識別点P0から反時計回りの順に各識別点をP1、P2、P3及びP4とする。
【0021】
そして、識別点P0は他の識別点P1〜P4と区別するために大きな直径(例えば20mm)に設定され、他の識別点P1〜P4は小さな直径(例えは15mm)に設定されている。
このため、識別点P1の座標は(0,y1)で表され、識別点P2の座標は(x2,H)、識別点P3の座標は(W,y3)及び識別点P4の座標は(x4,0)に設定される。ここで、y1及びy3はH/16〜15H/16の範囲をとることができ、x2及びx4はW/16〜15W/16の範囲をとることができる。したがって、5つの識別点P0〜P4の配置パターンは154=50625通りとなる。
【0022】
また、各識別点P0〜P4は、図4に示すように、外周が円形に形成され、その中心点Oを起点として、半径方向に沿った輝度変化パターンが全半径方向で同一となるように設定されている。なお、輝度変化パターンは、狭義の単調減少又は単調増加のパターンであればどのような変化パターンでも構わない。図4(a)の例であれば、図5(a)に示すように輝度値が直線的に減少するパターンであり、図4(b)の例であれば、図5(b)に示すように輝度値が直線的に増加するパターンである。その他、減少するパターンとしては、接線の傾きが負となって連続的に減少する曲線となればよく、図6(a)に示すように上に凸の曲線でもいいし、同(b)に示すように下に凸の曲線でもいいし、同(c)に示すようなS字曲線でもいいし、同(d)に示すようなS字を二つ合わせたような曲線でもいい。増加パターンの場合も同様に接線の傾きが正となって連続的に増加する種々のパターンが採用可能である。
上記構成を有する検索用タグ3について、各識別点の座標を前記(1)式に代入することにより、識別点P0を原点とした2つの幾何学的不変量I1及びI2は、辺の長さで正規化した座標を用いて以下のように算出される。
【0023】
【数2】
【0024】
ここで、Xi=xi/W,Yj=yj/Hであり、Wは四角形領域3aの幅、Hは四角形領域3aの高さである。また、Xi及びYjは夫々幅及び高さの辺に付けた目盛りの番号(1〜15)を等分数(=16)で除した値である。
上記(2)式に示すように、幾何学的不変量I1及びI2は四角形領域の辺の長さに依存しないので、検索用タグ3の縦横のサイズを自由に設定することができるという効果が得られる。また、長さの単位にも依存しないので、(xi,yi)(i=0〜4)は、目盛りの番号(0〜16)としてもよいし、或いは実測長(例えばmm単位)の値としてもよい。さらに、目盛りを付けることにより、5つの識別点P0〜P4の配置を誤差なく指定することができるという効果が得られる。
【0025】
上記構成を有する検索用タグ3を空間の任意の位置に置き、ディジタルカメラ11で撮影することにより、画像データにおける5点の座標(xi,yi)(i=0〜4)を得ることができる。そして、最も大きな直径の識別点をP0とし、5つの識別点の重心からみて反時計回りの順に識別点をP1、P2、P3及びP4とすることにより、これらの識別点の座標を前記(1)式に代入することにより、幾何学的不変量I1及びI2を算出すると、算出した幾何学的不変量I1及びI2は検索用タグ3の3次元位置に関わらず同一の値となる。
【0026】
そして、算出した幾何学的不変量I1及びI2は実数値として得られるので、所定の単位量I1_unit及びI2_unitを使って下記(3)式及び(4)式の演算を行うことにより、量子化し整数値の識別コードI1及びI2に変換する。
I1=INT〔I1/I1_unit〕 …………(3)
I2=INT〔I2/I2_unit〕 …………(4)
ただし、INT〔〕は大括弧内の実数の小数点以下を切り捨てて整数化する関数である。
【0027】
このように、5つの識別点P0〜P4の配置パターン毎に識別コードI1及びI2を算出することができるものであるが、幾何学的不変量I1及びI2を上記(3)式及び(4)式で整数化していることから、同一の識別コードI1及びI2を表す識別点の配置パターンが1つとは限らないと共に、撮影した画像データから識別点の座標を読取る際に読取り誤差を生じることから、読取り誤差を考慮して確実に識別可能な配置パターンは前記50625通りの一部に限定することが好ましい。
【0028】
このため、使用可能な配置パターンを決定するために、予め例えばマイクロコンピュータを含んで構成される情報検索装置5を使用して、図7に示す識別点配置パターン決定処理を実行する。なお、前述したように識別点の座標は長さの単位に依存しないので、ここでは(xi,yi)を目盛りの番号として説明する。
この識別点配置パターン決定処理は、図7に示すように、先ず、ステップS1で、座標x0、y0、x1、y4を全て“0”に、座標y2をH(=16)に、座標x3をW(=16)に、そして座標y1、x2、y3及びx4を全て“1”とする初期化を行う。
【0029】
次いで、ステップS2に移行して、(x0、y0)〜(x4、y4)を前述した(1)式に代入して、幾何学的不変量I1及びI2を算出すると共に、算出した幾何学不変量I1及びI2を前記(3)式及び(4)式に従って整数化して識別コードI1及びI2を算出する。
次いで、ステップS3に移行して、4つのパラメータy1、x2、y3及びx4と、固定座標x0、y0、x1、y2、x3、y4の各々について許容誤差εを加減算した許容値の全ての組み合わせの210通りについて前記(1)式、(3)式、(4)式の演算を行って識別コードI1及びI2を算出し、各々の最小値I1MIN,I2MIN及び最大値I1MAX,I2MAXを算出する。
【0030】
次いで、ステップS4に移行して、y1、x2、y3、x4、I1MIN、I1、I1MAX、I2MIN、I2、I2MAXの全てを記憶テーブルTに記憶してからステップS5に移行する。
このステップS5では、全ての配置パターン{y1,x2,y3,x4}についてI1MIN、I1、I1MAX、I2MIN、I2、I2MAXの記録が完了したか否かを判定し、記録が完了していない配置パターンが存在する場合にはステップS6に移行して、座標y1,x2,y3,x4の何れかを変更(例えば、y1=1→y1=2など)して別の配置パターン{y1,x2,y3,x4}を生成してから前記ステップS2に戻り、全ての配置パターン{y1=1〜15、x2=1〜15、y3=1〜15、x4=1〜15}について記憶テーブルTへの記録が完了したときにはステップS7に移行する。
【0031】
このステップS7では、採用する識別コード(I1,I2)を記録するための2次元配列Iを“0”で初期化し、次いでステップS8に移行して、変動幅設定値Vを“2”で初期化してからステップS9に移行する。
このステップS9では、記憶テーブルTに記憶されている全ての配置パターン{y1,x2,y3,x4}について許容誤差εに対する識別コード(I1,I2)の変動幅ΔIを下記(5)式に従って算出する。
ΔI=(I1MAX−I1MIN+1)+(I2MAX−I2MIN+1) …………(5)
【0032】
次いでステップS10に移行して、算出した各識別コード(I1,I2)の変動幅ΔIが変動幅設定値Vと一致する配置パターン{y1,x2,y3,x4}が存在するか否かを判定し、ΔI=Vとなる配置パターン{y1,x2,y3,x4}が存在する場合には、ステップS11に移行して、該当する配列パターン{y1,x2,y3,x4}の{I1MIN、I1MAX、I2MIN、I2MAX}を使用して全ての2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)が“0”であるか否かを判定し、これらを満足する場合には、ステップS12に移行して、記録テーブルTの該当する配置パターン{y1,x2,y3,x4}に「採用」を記録する。
【0033】
次いで、ステップS13に移行して、2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)の値を使用済みを表す“1”に変更する。
次いで、ステップS14に移行して、記憶テーブルTの全ての配置パターン{y1,x2,y3,x4}について調査が終了したか否かを判定し、全ての配置パターン{y1,x2,y3,x4}について調査が終了したときには識別点配置パターン決定処理を終了し、全ての配置パターン{y1,x2,y3,x4}について調査が終了していないときには前記ステップS10に戻る。
【0034】
一方、前記ステップS10の判定結果が、ΔI=Vとなる配列パターン{y1,x2,y3,x4}が存在しないときには、ステップS15に移行して、変動幅設定値Vを“1”だけ増やしてから前記ステップS10に戻る。
さらに、前記ステップS11の判定結果が、2次元配列Iの要素I(i1,i2)(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)のいずれかが“1”であるときには、ステップS16に移行して、I1又はI2の変動幅ΔIが使用済みの値に重複していることを意味するので、記録テーブルTの該当配置パターン{y1,x2,y3,x4}に「不採用」を記録してから前記ステップS14に移行する。
【0035】
このようにして、上記識別点配置パターン決定処理で「採用」が決定された記録テーブルTの配置パターン{y1,x2,y3,x4}を実際の配置パターンとして使用する。そして、採用された配置パターン{y1,x2,y3,x4}を例えば識別コードI1が小さい順にソートして、この順序に並び代えて所定のハードディスク等の記憶装置に記憶する。
そして、検索情報保持物体2を作成する際に、例えば図8に示すように、検索用タグ3内を各目盛り3bを結ぶことにより、16行×16列で原点(0,0)から右方向に順次“1”〜“16”を割り当て、次いで2行目の左端から右方向に順次“17”〜“32”を割り当てて、最終的に最下行の右端に“256”を割り当てて、細分化領域SA1、SA2、……SA256を形成する。
【0036】
これら細分化領域SA1〜SAT256の何れか1つを選択し、選択した領域に、二次元バーコード等の検索情報を含む検索コードRCを印刷する印刷位置RPを特定し、情報検索装置5の記憶装置を参照して、特定された印刷位置RPに割り当てられた数値i(i=1〜256)に対応する識別コードI1を有する配置パターン{y1,x2,y3,x4}を選択し、選択した配置パターン{y1,x2,y3,x4}の識別点P0〜P4を決定し、決定された配置パターン{y1,x2,y3,x4}で識別点P0〜P4を印刷すると共に、印刷位置RPに光学的に読取可能なQRコードなどの二次元コードで構成される検索コードを印刷する。
【0037】
タグ読取装置4は、図1に示すように、検索用タグ3を撮影して画像データDを出力する撮像手段としてのディジタルカメラ11と、このディジタルカメラ11から出力される映像データDが入力されて、この映像データDに基づいて検索用タグ3の識別点P0〜P4を識別するタグ識別手段としてのタグ識別部12と、このタグ識別部12で識別した識別点P0〜P4の座標(x0,y0)〜(x4,y4)に基づいて幾何学的不変量I1及びI2を算出し、これを整数化して識別コードI1及びI2を算出する幾何学的不変量算出手段としての幾何学的不変量算出部13と、識別コードI1,I2に基づいて検索情報位置を特定し、特定した検索情報位置の画像データを読込み、これを検索情報として出力する検索情報抽出手段としての検索情報抽出部14とを備えている。
【0038】
タグ識別部12は、図2に示すように、ディジタルカメラ11から入力される一画面分の画像データである対象画像データDから、所定サイズの部分画像PGを順次抽出する部分画像抽出部31と、抽出した部分画像PGについて抽出方向符号EDを演算する方向符号演算部32と、識別点P0〜P4を識別可能な特徴情報としての参照用方向符号RDを予め記憶した方向符号記憶部33と、方向符号演算部32で演算した抽出方向符号EDと、方向符号記憶部33に記憶されている参照用方向符号RDとを比較して、両者が一致するか否かを判定する方向符号比較部34と、部分画像抽出部31の部分画像を1画素毎に移動させながら方向符号比較部34の比較結果が、抽出方向符号EDが参照用方向符号RDと一致したときに、そのときの部分画像の中心点を識別点P0〜P4の中心点として算出する識別点座標演算部35とで構成されている。
【0039】
ここで、方向符号とは、例えば、図9に示すように、1画面データの任意の画素PE0を考えたとき、その画素PE0に隣接して包囲する八つの画素PE1〜PE8の各輝度値と、画素PE0の輝度値とをそれぞれ比較し、画素PE0の輝度値からの増加(又は減少)幅が最も大きな方向を符号化してなる情報である。この場合であれば、紙面に向かって、右方向、斜め右上方向、上方向、斜め左上方向、左方向、斜め左下方向、下方向、斜め右下方向の8方向に、例えば0〜7の番号を付すことで符号化してなる情報である。そして、この方向符号0〜7を検索用タグ3の識別点P0〜P4の元データ全体に対して求めてそれを2次元データとして保存したものが、参照用方向符号RDとなる。なお、ここでは画素PE0に隣接する8つの画素に注目して8方向としたが、これに限定されることはなく、より多くの方向に、例えば周囲8つの画素の配置された方向それぞれの中間方向も含めて細分化し、この場合は各方向に0〜15の番号を付して、より詳細な符号化を行うようにしてもよい。
【0040】
また、ここでは参照用方向符号RDを識別点P0〜P4の元データから生成する方法を説明したが、これに限定されることなく、所定の大きさの参照用方向符号RDを直接計算して生成するようにしてもよい。このようにして生成した参照用方向符号RDは、全ての方向符号(上記の例では0〜7)が円周方向に連続して一様に現れ、また同一の半径方向上では全て同一の方向符号となる特徴がある。
【0041】
そして、タグ識別部12の部分画像抽出部31は、参照用方向符号RDを生成する際に用いた画像サイズと同じ大きさの部分画像PGを抽出するようになっており、方向符号演算部32は、抽出された部分画像PGに対して参照用方向符号RDを生成する際と同様の手順で演算を行って部分画像PGの方向符号を求めるように構成されている。
ここで、例えば、図10(a)に示すように、画像データDの画像サイズの大きさを高さ480画素、幅640画素とし、図10(b)に示すように、参照用方向符号RDの画像サイズの大きさを高さ及び幅共に32画素とした例を考える。即ちかかる例の場合、部分画像抽出部31は、図10(a)に示すように、画像データDの最上段左端から右端に向かって1画素移動する毎に部分画像PGを順次抽出し、第1行の右端に達したら、1画素分下側の第2行に移り左端から右端に向けて、1画素移動する毎に部分画像PGを順次抽出し、これを順次最終行まで継続してこの部分画像PGを抽出するということになる。
【0042】
方向符号比較部34は、参照用方向符号RDと部分画像PGの対応する全ての画素について方向符号の差を集計する。そして、その集計値が0であれば「一致」と判定し、所定の閾値以内であれば「近似している」と判定する。なお、方向符号の差は次のように計算される。例えば、方向を8等分して方向符号0〜7を使う場合で説明する。2つの方向符号D1とD2の差dは、下記(6)式で算出することができる。
d=Min{G,8−G} 但し、G=|D1−D2| ……(6)
【0043】
すなわち、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“0”であるときには、G=0となることにより、差dが“0”となるが、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“1”(又は“7”)であるときには、G=1,8−G=7(又はG=7,8−G=1)となるのでd=1となり、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“3”(又は“5”)であるときには、G=3,8−G=5(又はG=5,8−G=3)となるのでd=3となる。
【0044】
識別点座標演算部35は、例えば、対象画像データDの左上を座標の原点(0,0)として方向符号比較部34の比較結果が“0”であればこのときの部分画像PGの中心点を識別点P0〜P4の何れかの中心点として記憶し、比較結果が“0”ではないが所定の閾値以下であるときにもこのときの部分画像PGの中心点座標を識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶すると共に、5つの識別点の中心点座標が検出されたときに、各識別点の輪郭線の直径が一番大きい識別点を識別点P0として設定し、さらに5つの識別点の重心点を算出し、算出した重心点から見て識別点P0から反時計回りに順次識別点P1〜P4として設定し、設定した識別点P0〜P4とその中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部13に出力する。
【0045】
なお、ここでは対象画像データDから部分画像PGを抽出し、その部分画像PGに対して方向符号を求める方法について説明したが、これに限定されることなく、対象画像データD全体に対して方向符号を求めておき、そこから部分画像PGに対応する方向符号を抽出して、方向符号比較部34に供給するようにしてもよい。
幾何学的不変量算出部13では、入力された各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて下記(7)及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を前記(3)式及び(4)式を使って整数化した値を識別コードI1及びI2として検索情報抽出部14に出力する。
【0046】
【数3】
【0047】
この検索情報抽出部14では、幾何学的不変量算出部22から入力された識別コードI1及びI2のうち例えば識別コードI1の値に基づいて検索情報が含まれている細分化領域SAk(k=1〜256)を特定し、その画像データを抽出して情報検索装置5に出力する。
【0048】
情報検索装置5は、検索コードの解読プログラム、例えばインターネットへ接続する通信プログラム、解読したコード情報を送信する送信プログラム等を備えており、タグ読取装置4の検索情報抽出部14から出力される検索コードの画像データが入力されると、この画像データを解析して、検索コードに記憶されている検索情報を解読し、解読した検索情報に基づいて検索処理を実行する。この検索処理としては、例えば検索コードにインターネットの接続先アドレス(URL)及び商品コードが含まれているものとすると、検索コードの解読プログラムによって接続先アドレス及び商品コードを解読し、通信プログラム及び送信プログラムによって解読した接続先アドレスに商品コードを送信することにより、接続先アドレスのサーバにアクセスし、サーバに格納されている商品コードに応じた商品情報を受信して表示装置5aに表示する。
【0049】
次に、上記実施形態の動作を説明する。
今、図8に示すように、四角形領域3a内の細分化領域SA213にQRコードでなる検索コードが印刷され、この細分化領域SA213を指定するように、識別コードI1が“213”を表す配置パターンで識別点P0〜P4が印刷された検索用タグ3が雑誌、折り込み広告等の検索情報保持物体2に印刷されているものとする。
【0050】
この検索情報保持物体2の検索用タグ3を読取るには、先ず、検索用タグ3が視野範囲内に入るようにディジタルカメラ11をセットしてからシャッターボタンを押圧することにより、検索用タグ3の画像を含む画像データDを形成し、この画像データDがタグ識別部12に出力される。このタグ識別部12では、ディジタルカメラ11から画像データDが入力されると、この画像データDを部分画像抽出部31に供給して、この部分画像抽出部31で画像データを一時記憶してから画像データDの原点位置から順次所定サイズの部分画像PGを抽出し、抽出した部分画像PGを方向符号演算部32に供給する。
【0051】
この方向符号演算部32では、部分画像PGに含まれる各画素間の輝度変化に基づいて抽出方向符号EDを算出する。このとき、部分画像PGが検索用タグ3の識別点P0〜P4の何れかの位置に到達していないときには、輝度変化に基づいて算出される方向符号がないか又は文字、図形等が記載されている場合に、文字、図形等に沿って方向符号が生じるが何れにしても識別点P0〜P4の中心から各半径方向に順次輝度が連続的に減少又は増加する方向符号パターンは存在しないので、方向符号演算部32で演算された抽出方向符号EDと予め方向符号記憶部33に記憶されている正規の検索用タグ3から算出した参照用方向符号RDとが一致することはなく、前述した(6)式で算出される差dの合計値が大きな値となり、識別点P0〜P4として認識されることはない。
【0052】
ところが、識別点P0〜P4の何れかが部分画像PGに含まれる状態となり、例えば図11(a)に示すように、抽出される部分画像PGが識別点P0〜P4の何れかの中心点を横切る状態となると、部分画像PGに含まれる識別点の方向符号が図11(b)〜(e)に示すように順次変化することになり、方向符号記憶部23に記憶されている参照用方向符号が、図11(f)に示すように、検索用タグ3の中心部の方向符号であるものとすると、図11(b)では、方向符号の差dの総計が大きく、図11(c)で方向符号の差dの総計が小さくなり、図11(d)で方向符号の差dの総計が所定の閾値以内となる近似している状態となるが、さらに図11(e)では、参照用方向符号RDと完全に一致することから方向符号の差dの総計が“0”となり、この状態における部分画像PGの中心点座標が識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶される。
【0053】
以上の識別点抽出処理を繰り返すことにより、検索用タグ3の5つの識別点P0〜P4の中心点座標(xi,yi)(i=0〜4)を抽出する。
このとき、ディジタルカメラ11に対する検索情報保持物体2の姿勢が変化して検索用タグ3がディジタルカメラ11に正対していない場合でも、識別点P0〜P4は、360度全ての方向に対して同じように変化する円形のパターンを持っているので、タグ識別部12の処理は影響を受けることはない。
【0054】
また、ディジタルカメラ11に対して検索用タグ3が接近するか又は遠ざかることにより、これによって撮像される識別点P0〜P4の円形のパターンが拡大又は縮小しても、輝度が中心から360度全ての方向に対して同じように変化するという特徴は変わらず、その抽出方向符号EDが参照用方向符号RDと同じなので識別点P0〜P4を正確に識別することができ、タグ識別部12の処理は影響を受けることはない。
【0055】
また、識別点P0〜P4とディジタルカメラ11との方向により、撮像された識別点P0〜P4の円形のパターンに視覚歪が発生しても、輝度が中心から360度全ての方向に対して変化するという特徴に変わりはなく、撮像された識別点P0〜P4の抽出方向符号EDと参照用方向符号RDの大部分とが一致することで、識別点P0〜P4を正確に識別することが可能となり、タグ識別部12の処理は影響を受けることはない。
【0056】
以上のようにして、検索用タグ3の5つの識別点の中心点座標を抽出すると、そのうち識別点の境界線の直径が一番大きい識別点を識別点P0に設定すると共に、各識別点の中心点座標から重心点を求め、求めた重心点から識別点P0を見たときに反時計回りに順次現れる識別点を順次P1、P2……P4として設定し、設定した識別点P0〜P4とそれらの中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部13に出力する。
【0057】
この幾何学的不変量算出部13では、各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて前記(7)式及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、これらを前記(3)式及び(4)式を使って整数化した識別コードI1及びI2を検索情報抽出部14に出力する。
この検索情報抽出部14では、入力される識別コードI1及びI2の内識別コードI1(=213)に基づいて細分化領域SA213を検索情報の位置として決定し、この細分化領域SA213の画像データ即ちQRコードでなる検索コードの画像データを抽出して、この画像データを情報検索装置5に出力する。
【0058】
情報検索装置5では、入力される検索コードの画像データを解読プログラムによって、検索コードに含まれる接続先アドレス及び商品コードを解読し、解読した接続先アドレスのサーバにアクセスすると共に、商品コードを送信する。これによって接続先のサーバから商品コードに応じた商品情報を情報検索装置5に送信し、情報検索装置5では、サーバからの商品情報を受信すると、受信した商品情報を表示装置5aに表示する。
【0059】
このように、上記実施形態によれば、検索用タグ3の識別点の配置パターンに基づいて幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を整数化して識別コードI1及びI2を算出し、算出した識別コードI1が検索コードを記載した検索情報の位置を表す情報となっているので、QRコードなどの二次元コードで検索コードを構成している場合でも、検索コードの位置を容易に検出することができ、この位置から検索コードの画像データを容易に抽出することができ、ディジタルカメラ11での撮像位置をラフに設定しても、検索コードを正確に検出することができる。
【0060】
しかも、検索用タグ3はディジタルカメラ11との対面角度に関わらず算出される幾何学的不変量I1及びI2が一定値であるので、検索情報保持物体2とディジタルカメラ11との相対姿勢が変化して検索用タグ3のディジタルカメラ11に対する角度が変化した場合でも正確に識別コードを算出することができ、検索用タグ3を誤認識することを確実に防止することができる。
【0061】
しかも、検索用タグ3は、四角形領域3aの各辺に識別点P0〜P4を配置するようにしており、識別点を配置した各辺の内側領域は検索コードを印刷した検索情報位置以外は検索には使用しないので、この内側領域における検索情報位置以外の領域に、任意の文字や図形等を記載することが可能となり、広告情報、会社情報等を記載することができる。
また、検索用タグ3は、四角形領域3aの各辺に目盛りが形成され、この目盛り上に識別点P0〜P4を配置するようにしているので、ラベルに四角形領域3aの外径枠と目盛りのみを設けておき、予め印刷した識別点P0〜P4を検索情報の位置に応じて目盛り上に貼着して検索用タグ3を構成することができ、多数種の配置パターンの検索用タグ3を予め設ける場合に比較して、製作コストを低減することができる。
【0062】
また、本発明に係る検索用タグ及び情報検索システムでは、テンプレートマッチング処理として「方向符号法」を用いており、また検索用タグ3の識別点P0〜P4の円形のパターンの輝度が中心から360度全ての方向に対して同じように変化するという特徴を持たせている。このため、例えば、検索用タグ3をカメラ11で撮像する際に、照明変動が起きて検索用タグ3上に影が発生したり、充分な光量が得られずに暗がりでの撮像だったりしたとしても、撮像された対象画像データDに基づく抽出方向符号EDが参照用方向符号RDと同じであることに変わりはないので、タグ識別部12の処理は影響を受けにくい。
【0063】
このように、検索用タグ3は、輝度が中心点Oから360度全ての方向に対して同じように変化する円形のパターンを持たせているので、この検索用タグ3をカメラ11で撮像する際の状況が変化しても影響を受けない。
このため、テンプレートマッチングの際に、1つのテンプレート(参照用方向符号RD)を用意することでカメラ11での撮像状況に広く対応でき、計算コストを削減して画像識別処理を高速化できるという効果が得られる。
【0064】
また、上記記載の理由により、検索用タグ3とカメラ11との位置関係及び撮像状況に制約を受けずに検索用タグ3を識別できるという効果が得られる。
なお、上記第1の実施形態においては、識別コードI1,I2の何れか又は双方に基づいて設定した検索情報位置即ち細分化領域SAkの画像データをそのまま情報検索装置5に出力する場合について説明したが、これに限定されるものではなく、細分化領域SAkの画像データを拡大して情報検索装置5に出力するようにしてもよい。
【0065】
また、上記第1の実施形態においては、雑誌、折り込み広告等の検索情報保持物体2に検索用タグ3を印刷して、検索情報の位置を特定する場合について説明したが、これに限定されるものではなく、可視光通信の発信光源などの位置を特定し、通信光受信機の向きを制御する場合にも本発明を適用することができる。
さらに、上記第1の実施形態においては、細分化領域SAkに識別コードI1を“1”から順に割り付けた場合について説明したが、これに限定されるものではなく、識別コードI1を特定位置(例えば、左上角、右下角など)に割り付けたり、所定数置きの細分化領域に割り付けたり、任意の割り付け方法を適用することができる。
【0066】
次に、本発明の第2の実施形態を図12及び図13について説明する。
この第2の実施形態では、検索情報位置の画像データを幾何学的補正可能としたものである。
すなわち、第2の実施形態においては、図12に示すように、前述した第1の実施形態における図1の構成において、検索情報抽出部14と情報検索装置5との間に、検索情報抽出部14で抽出された検索コードRCの画像データをディジタルカメラ11が検索情報保持物体2に正体した状態の画像データに補正する画像補正手段としての画像補正部15が介挿されていることを除いては図1と同様の構成を有し、図1との対応部分には同一符号を付し、その詳細説明はこれを省略する。
【0067】
ここで、画像補正部15における画像補正処理を説明すると、図13に示すように、2つの画像データA及びBがあり、各々の中に同一の検索用タグが含まれている場合を考える。画像データAにおける検索用タグ3の識別点P0〜P4の位置を(xAi,yAi)(i=0〜4)とする。同様に、画像データBにおける検索用タグ3の識別点P0〜P4の位置を(xBi,yBi)(i=0〜4)とする。
【0068】
今、同一の点Pが画像データA及びBに含まれている場合を考えると、画像データAにおける点Pの座標(xA,yA)は、画像データAにおける検索用タグ3によって定められる座標系を基準にしている。同様に、画像データBにおける点Pの座標(xB,yB)は、画像データBにおける検索用タグ3によって定められる座標系を基準にしている。
一般に、2つの画像データA及びBは射影変換の関係にあるので、画像データAにおける点(xA,yA)と画像データBにおける点(xB,yB)の間には、下記(9)式で表される関係がある。
【0069】
【数4】
【0070】
この(9)式を展開し、定数λを消去すると、2つの連立方程式が得られる。従って、検索用タグ3の5つの識別点P0〜P4のうちの4つの識別点P0、P1、P2及びP3の座標を得られた連立方程式に代入することにより、合計8つの制約式が得られる。行列Mの自由度は8であるから、これら8つの制約式を使って、全ての要素mij(i=1〜3、j=1〜3、但しm33は除く)を求めることができる。
【0071】
こうして得られた変換行列Mを使うことにより、画像データA及びBの中の点を相互に射影変換することかできる。すなわち、画像データAにおける座標(xA,yA)の点は、画像データBで座標(xB,yB)の点に対応する。逆に、画像データBにおける座標(xB,yB)の点は、画像データAで座標(xA,yA)の点に対応する。双方の座標は上記(9)式で算出することができる。
【0072】
そして、上記画像データAがタグ読取装置4によって撮影された画像データであるとする一方、上記画像データBは検索コードを正面の位置から所定のサイズで読取った場合の仮想的な画像データであるとする。このとき、画像データBでは、検索用タグ3も実際の形(5つの識別点P0〜P4は設計配置にある)或いはその相似形であるはずである。
そこで、上記(9)式から得られる制約式に代入する検索用タグ3の5つの識別点P0〜P4のうちの4点P0,P1,P2,P3の座標としてタグ読取装置4で読取って得られた画像データAの点(xAi,yAi)(i=0,1,2,3)及び検索用タグ3の設計配置にある点(xB,yB)(i=0,1,2,3)を採用する。
【0073】
その結果得られた変換行列Mを使うことにより、タグ読取装置4によって得られた画像データの中の任意の点は、検索コードを正面の位置から所定のサイズで読取った場合の画像データの中に正しく位置付けられる。
すなわち、たとえタグ読取装置4が検索コードに正対していなくとも、検索用タグ3の5つの識別点P0〜P4のうちの4点の設計配置を利用することにより、検索用コードの画像データを幾何学的に補正して、あたかも正面から見た所定のサイズの検索コードの画像データを得ることができる。
【0074】
このように、上記第2の実施形態によると、ディジタルカメラ11で検索用タグ3を含む画像データを撮影したときに、ディジタルカメラ11と検索情報保持物体2とが正対していない場合でも検索情報位置に対応する画像データを幾何学的に補正してあたかも正面から撮影したように所定サイズの検索コードの画像データを得ることができ、この幾何学的補正後の画像データを情報検索装置5に出力することにより、この情報検索装置5で画像データを正確に解析して、検索コードに記憶されている検索情報を解読し、解読した検索情報に基づいて検索処理を実行することができる。
【0075】
なお、上記第1及び第2の実施形態においては、検索コードRCとしてQRコードを適用した場合について説明したが、これに限定されるものではなく、1次元のバーコードや他の二次元コードを適用することができ、任意の検索コードを適用することができる。
なおまた、上記第1及び第2の実施形態においては、検索コードは1つの細分化領域にある場合について説明したが、これに限定されるものではなく、複数の細分化領域にまたがって検索コードが存在してもよい。この場合には、例えば複数領域の左上をSAL、右下をSARとしたとき、2つの識別コードでI1=L、I2=Rのように指定することができる。
【0076】
次に、本発明の第3の実施形態を図14について説明する。
この第3の実施形態では、検索コードを使用することなく、幾何学的不変量算出部13で算出した識別コードI1及びI2を直接情報検索装置5に出力して、この情報検索装置5で識別コードI1及びI2の何れか一方又は双方に基づいて関連情報を検索するようにしたものである。
【0077】
すなわち、第3の実施形態においては、図14に示すように、前述した第1の実施形態における図1の構成において、検索用タグ3の細分化領域SA1〜SA256及びこれに記載された検索コードが省略されていると共に、タグ読取装置4における検索情報抽出部14が省略されて、幾何学的不変量算出部14で算出した識別コードI1及びI2が直接情報検索装置5に供給されるように構成されていることを除いては図1と同様の構成を有し、図1との対応部分には同一符号を付し、その詳細説明はこれを省略する。
【0078】
ここで、情報検索装置5では、幾何学的不変量算出部14で算出した識別コードI1及びI2が入力されると、これら識別コードI1及びI2に基づいて予め設定された関連情報記憶テーブルを参照して関連情報を選択する。
この関連情報としては、詳細情報が格納されたWWW(World Wide Web)サーバのURL(Uniform Resource Locator)が採用され、このURLが識別コードI1及びI2に対応付けられて関連情報記憶テーブルに記憶されている。
そして、情報検索装置5では、識別コードI1及びI2に基づいて関連情報記憶テーブルを参照して該当するURLを求めると、求めたURLのホームページにアクセスして詳細情報を入手し、この詳細情報を表示装置5aに表示する。
【0079】
この第3の実施形態によれば、タグ読取装置4で検索用タグ3を読取ることにより、各識別点P0〜P4の位置座標に基づいて幾何学的不変量I1及びI2を算出し、この幾何学的不変量I1及びI2を整数化して識別コードI1及びI2を算出し、この識別コードI1及びI2を情報検索装置5に出力することにより、この情報検索装置5で、関連情報記憶テーブルを参照することにより、識別コードI1及びI2で表されるURLを選択し、選択したURLのホームページにアクセスすることにより、広告内容の詳細情報その他の必要な詳細情報を入手し、これを表示装置5aに表示することにより、ユーザーが必要とする詳細情報を容易且つ正確に取得することができる。
【0080】
この場合、雑誌の広告面などでは検索用タグ3を記事の外枠に書き込むことができるため、検索用タグ3自体を大きく表示することが可能となり、低解像度の携帯電話のカメラを使用して、遠方から検索用タグ3を撮影した場合でも、タグ読取装置4で検索用タグ3を正確に検出して幾何学的不変量I1及びI2を算出することができ、これを整数化して識別コードI1及びI2を正確に算出することができ、検索コードの誤読取りを生じることがなく、詳細情報を確実に入手することかできる。
【0081】
なお、上記第3の実施形態においては、検索情報保持物体2に直接検索用タグ3を印刷した場合について説明したが、これに限定されるものではなく、検索用タグ3を透明シートに印刷し、この検索用タグ3を印刷した透明シートを検索情報保持物体2に重ねて貼付することにより、この透明シートに印刷された検索用タグ3をディジタルカメラ11で撮影することにより、タグ読取装置4で検索用タグ3を読取って識別コードI1及びI2を正確に算出することができる。このように、検索用タグ3を印刷した透明シートを使用することにより、既存の広告文書をそのまま使用して、この広告文書の上に透明シートを貼着すればよく、新たな広告文書を作成する手間を省略することができる。
【0082】
また、上記第3の実施形態においては、タグ識別部12は5つの識別点の内、直径が一番大きな点をP0と識別して識別点の座標(x0、y0)〜(x4、y4)を算出している場合について説明したが、これに限定されるものではなく、ディジタルカメラ11で撮影した画像の中で最も左上にある識別点をP0とし、5点の重心からみて反時計回りに順にP1,P2,P3,P4として座標を算出するようにしてもよい。幾何学的不変量I1、I2は、5つの識別点のどれをP0にとるかによって値が異なる。そこで、1つの検索用タグに対して、5つの識別点を各々P0としたときの5通りの幾何学的不変量I1、I2を予め全て計算し、情報検索装置5における関連情報記憶テーブルに同一の関連情報と共に登録しておく。こうすることにより、タグ識別部12は、識別点の大きさを比較してP0を特定する処理を省くことができ、全体の処理を簡略化し高速化することができる。
【0083】
なおまた、上記第1〜第3の実施形態において、検索用タグ3を識別点P0が常に特定の位置(例えば左上)にくるように設置して利用するようにすれば、タグ識別部12はディジタルカメラ11で撮影した画像の中で最も左上にある識別点をP0とすればよいため、識別点の大きさを比較してP0を特定する処理を省くことができ、全体の処理を簡略化し高速化することができる。
【0084】
次に、上記第1〜第3の実施形態においては、検索用タグ3の識別点P0〜P4を抽出する際に、所定サイズの画像データDの全領域に対して所定サイズの部分画像PGを1画素毎に順次移動させることにより、識別点P0〜P4を抽出する場合について説明したが、これに限定されるものではなく、方向符号比較部34によるテンプレートマッチング処理に先立ち、画像データDの隣接する画素毎に方向符号の所定の範囲における連続性の有無(隣接する画素の方向符号の差dが所定範囲内であるか否か)を調査して、方向符号の連続性がある画素をグループ化し、各グループから予め定めた選出基準によって図15に示すようにマスクを選出して、選出したマスクに属する画素についてのみ部分画像PGによる識別点P0〜P4の抽出を行うことにより、画像識別の処理時間を短縮することができる。ここで、識別点P0〜P4には、輝度が中心点から360度全ての方向に対して同じように変化する円形のパターンを持たせているので、その画像から生成される方向符号は連続した値をとるので、各識別点P0〜P4は、上記のグルーピング処理によって、一つのグループG、すなわちマスクとして抽出される。なお、選出基準としては、例えば、グループGの占める面積、真円度等が挙げられる。さらに、図16に示すように、マスクの上下左右の各端部における座標に基づいてマスクの中心点を求め、この中心点近傍でのみ部分画像PGによる識別点抽出処理を行うことにより、さらに画像処理時間を短縮することができる。
【0085】
また、テンプレートとして、図17に示すように、32画素×32画素のテンプレートがあり、方向符号を0〜15とすると、中心点Qを挟んで、その左半分には方向符号8(左向き)が、右半分には方向符号0(右向き)が以下のように並ぶ。ここでは、中心点Qの方向符号は0としておく。
例: ・・・888Q000・・・
この方向符号の列を水平方向部分テンプレート(列状特徴情報)として、前述した図9の参照用方向符号RDとして方向符号記憶部33に記憶しておくと共に、画像データDに対する抽出方向符号から長さ32画素の列状の部分画像PGを比較情報として部分画像抽出部31により順次抽出し、これを方向符号比較部34にてタグ方向符号33と比較し、相互に一致又は近似した比較情報を選択することで、識別点座標演算部35により画像データDの中から識別点P0〜P4の位置座標を検出するようにしてもよい。
【0086】
この場合には、画像データDの画像サイズがL×M(640×480)である場合に、N×N(N=32)のテンプレート画像サイズから、照合する画素の延べ数はL×M×N×N(約3×108)となるが、テンプレート画像サイズが、N×1(N=32)となるので、列状特徴情報を用いて比較を行った場合に照合する画素の延べ数はL×M×N(約1×107)となり、N(N=32)倍の高速化ができる。即ち、特徴情報及び比較情報の一度に比較する情報量をそれぞれ減らすことにより、高速化を図ることができる。
【0087】
さらには、図18(a)に示すように、上述したように水平方向部分テンプレートHTを使用して、これと一致又は近似する画像領域を抽出し、抽出した画像領域について再度垂直方向部分テンプレートVTを使用して比較処理することにより、2回の比較処理を行うことにより、誤検出を防止することができる。この場合には、図18(b)に示すように、最初に垂直方向部分テンプレートVTを使用し、次に水平方向テンプレートHTを使用するようにしてもよい。
【0088】
このようにして識別点P0〜P4を検出することで、水平方向に対して比較をしてから、さらに垂直方向へ比較した場合の延べ数は、L×M×N+N×kとなる。ここで言うkとは、水平又は垂直方向でマッチしてから、さらに垂直又は水平方向の比較をした件数であり、k<<L×Mの関係である。すなわち、水平又は垂直方向部分テンプレートによる比較処理を行うことで上記第1の実施の形態と比較してN倍の高速化ができる他、水平(又は垂直)方向への比較を行った後に、さらに垂直(又は水平)方向への比較を行う場合には、誤検出を減らすと共に、ほぼN倍の高速化ができるということになる。
【0089】
さらに、図18(c)に示すように、水平方向部分テンプレートHTによる比較処理を行ってから、数列の垂直方向部分テンプレートからなる面状テンプレート(面状特徴情報)FTと水平方向部分テンプレートHTのマッチした部分画像PGの中心点を中心とする面状テンプレートと同じ大きさの画像領域を持つ画像データDから抽出された部分画像PGとの比較処理を順次行うようにしてもよく、図18(d)に示すように、上記面状テンプレートFTより小さい画素数の小面状テンプレートSFTによる比較処理を行ってから、小面状テンプレートSFTとマッチした小面状テンプレートSFTの中心点を中心とする面状テンプレートFTと同じ大きさの画像領域をもつ画像データDから抽出された部分画像PGと面状テンプレートFTと比較処理するようにしてもよい。
【0090】
このように、少ない情報量を持つテンプレートの1つとこれに対応する画像データDの部分画像PGとを比較し、この比較結果に基づいて実際の識別点P0〜P4の検出範囲を絞り込んでから、他の、例えば、同等の情報量又はより情報量の多いテンプレートで更なる比較を行えば、高速化と誤検出防止とを両立できるということになる。
また、上記各実施形態においては、検索用タグ3の識別点P0〜P4として全ての半径方向について輝度が変化するようにグラデーションを施した場合について説明したが、これに限定されるものではなく、中心から2方向、3方向、4方向等の任意数の方向に輝度を変化させるようにしてもよい。
さらに、検索用タグ3としては、四角形領域3aの境界位置にベルベットファスナーの一方を貼付しておき、他方を識別点を表面に印刷した円形ボタンの裏面に貼付することにより、任意の目盛り位置に識別点P1〜P4を配置可能に構成することにより、所望の幾何学的不変量を設定すること可能となる。
【図面の簡単な説明】
【0091】
【図1】本発明に係る情報検索システムの第1の実施形態を示すシステム構成図である。
【図2】図1のタグ識別部の具体的構成を示すブロック図である。
【図3】検索用タグを示す正面図である。
【図4】検索用タグの識別点の中心点から離れるに従って輝度が減少するパターン及び増加するパターンの一例を示す図である。
【図5】識別点の輝度及び中心点からの距離の関係の一例を示すグラデーション特性線図である。
【図6】識別点の輝度及び中心点からの距離との関係の一例を示すグラデーション特性線図である。
【図7】情報検索装置で実行する識別点配置パターン決定処理手順の一例を示すフローチャートである。
【図8】検索用タグの具体例を示す正面図である。
【図9】方向符号の生成を説明するための概略図の一例である。
【図10】画像データ及び部分画像を示す説明図である。
【図11】識別点抽出処理の説明に供する説明図である。
【図12】本発明の第2の実施形態を示すシステム構成図である。
【図13】画像補正部の画像補正処理の説明に供する説明図である。
【図14】本発明の第3の実施形態を示すシステム構成図である。
【図15】方向符号をグループ化する場合の説明図である。
【図16】方向符号をグループ化してその中心点を部分画像として設定する場合の説明図である。
【図17】水平及び垂直方向の方向符号を示す説明図である。
【図18】テンプレートの組合せを示す説明図である。
【符号の説明】
【0092】
1…情報検索システム、2…検索情報保持物体、3…検索用タグ、4…タグ読取装置、5…情報検索装置、11…ディジタルカメラ、12…タグ識別部、13…幾何学的不変量算出部、14…検索情報抽出部、15…画像補正部、31…部分画像抽出部、32…方向符号演算部、33…方向符号記憶部、34…方向符号比較部、35…識別点座標演算部、D…画像データ、PG…部分画像
【技術分野】
【0001】
本発明は、情報を検索する場合のキーとなる検索情報を容易に特定することができる検索用タグ及びこれを使用した情報検索システムに関する。
【背景技術】
【0002】
空間に存在する様々な検索情報を特定する検索用タグを使用して、様々な処理をコンピュータ等の処理装置で行うためには、検索用タグの位置(空間座標)、距離や姿勢(方向ベクトル)、種別などを認識する必要がある。
検索用タグの位置を検出するためには、人為的な目印を用いることなく検索用タグをディジタルカメラ等の撮像手段で撮像し、その撮像データから画像処理によって特徴点を抽出して位置や姿勢を検出することが考えられるが、この場合には、高度な画像処理が必要となるため、処理時間が掛かると共に、認識結果が安定しないなどの未解決の課題がある。
【0003】
上記未解決の課題を解決するために、検索情報の位置に、例えば特定パターンを目印として貼付しておき、この検索情報保持物体をディジタルカメラ等の撮像手段で撮像し、撮像した画像データの中から特定パターンを探索して検索情報の位置を検出する手法が採用されている。
さらに、検索情報として、例えばバーコードや非接触式無線タグ(RFID)を所望の検索情報保持物体に貼付しておき、読取機器で識別コードを読取るようにした手法が採用されている。あるいは、検索情報保持物体に印刷された文字情報をディジタルカメラ等の撮像手段で撮像し、その撮像データを文字認識手段で文字認識することにより、検索情報を認識する手法が採用されている。しかしながら、何れの場合にも、検索情報を認識するには、読取機器や撮像手段を検索情報の位置に近接させて識別コードを読取るか文字情報を撮像する必要があり、遠方に存在する物体や広範囲に散らばった物体に保持された検索情報を識別する場合には適用することができないという未解決の課題がある。
【0004】
このような未解決の課題を解決するために、8角形のプレート上に5つの黒点を配置したタグを設け、このタグをディジタルカメラで撮影し、その画像データからプレートの種別、位置、姿勢を同時に認識するようにした幾何学的不変量に基づく固定標識を用いた作業者情報支援の研究が行われている(例えば、非特許文献1参照)。
ここで、幾何学的不変量は,例えば平面上の5点(P0〜04)がどの3点も同一の直線上にない場合、以下のような2つの幾何学的不変量が存在することが知られている(例えば、非特許文献2参照)。
【0005】
【数1】
【0006】
この5点の載った平面をカメラで撮影する際、一般に射影変換による幾何学的な歪が発生する。例えばカメラの向きが回転したり、平面との距離が変化したりするとカメラで撮影した画像データは変化する。また、カメラの傾きによっては、長方形が平行四辺形に写る(直角が保存されない)、あるいは長方形が台形に写る(平行性が保存されない)といったことが発生する。ところが、カメラ画像の中の5点の座標から上記(1)式で計算される2つの値I1,I2は、上述した射影変換による幾何学的な歪があっても不変である。このような性質を持つ幾何学的不変量は、画像認識するための特徴量として利用されることがある。
【0007】
すなわち、物体のIDコードを認識するための固体標識となるIDマーカを幾何学的不変量に基づいて生成するIDマーカ生成手段と、任意の視点から撮影して得られる前記IDマーカが貼付された物体の画像を画像入力装置により取込み、その画像に対して画像処理を行ってIDマーカの領域を抽出するIDマーカ領域抽出手段と、IDマーカ領域の画像から複数の特徴点の位置を抽出する特徴点位置抽出手段と、複数の特徴点の位置から少なくとも1つの幾何学的不変量を算出する幾何学的不変量算出手段と、幾何学的不変量と対応付けられる物体のIDコードを、予め幾何学的不変量と物体IDコードとを対応付けて格納しているデータベースから選出するIDコード認識手段とを有する物体IDコード認識装置が知られている(例えば、特許文献1参照)。
【0008】
【非特許文献1】伊藤俊樹、“幾何学的不変量に基づく固体標識を用いた作業者支援の研究”、大阪大学大学院 工学研究科 電子制御機械工学専攻 平成12年度修士論文、http://www-cape.mech.eng.osaka-u.ac.jp/ccm06adm/oldboys/2000/ito.pdf
【非特許文献2】杉本晃宏「物体の見え方によらない情報の抽出」情報処理願学会誌1996年12月Vol.37 No.12 第1125頁〜第1131頁
【特許文献1】特開2004−192342号公報(第1頁、図1)
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、上記非特許文献1に記載されている従来例にあっては、物体の種別、距離及び姿勢を同時に認識するという優れた機能を持ったタグであるが、カメラ画像データの中から、タグを見つけ出すために、タグにその環境ではまれな色彩を施しているため、使用環境毎に、色彩を調整する必要があり、種々の環境でタグを使用する場合には、必ずしも安定してタグを検出ことができないという未解決の課題がある。
【0010】
また、タグが直径約5cmと小さいので、空間全体のカメラ画像データの中からタグを見つけると、カメラをズームして5つの点の鮮明な画像を取得する必要があり、当然ズームに先立って、カメラの方向(パン、チルト)を制御しなければならず、カメラ及びその制御系のコストが嵩むと共に、処理時間も長くなるという未解決の課題がある。
さらに、幾何学的不変量を計算する上で、黒点の座標を正確に計測する必要があり、カメラ画像データの中で一定の閾値以下の輝度を持った部分を黒点として認識し、その重心の座標を採用するようにしているため、一般に知られているように、カメラ画像データの輝度は照明条件によって大きく変動するため、黒点の検出が必ずしも安定せず、座標の計測精度に悪影響を及ぼすという未解決の課題がある。
【0011】
また、特許文献1に記載された従来例にあっては、7×7の正方形枡目に5色の特徴点と5つの黒色特徴点との2組の特徴点を形成したIDマーカを生成し、このIDマーカを物体に貼付して、物体IDコード認識装置によってカメラ等により撮像された物体の画像を取込み、その画像情報をフーリエ変換を施して空間周波数に変換した後、物体IDマーカ領域の背景画像の空間周波数データとの相似形又は一致形をパターンマッチングにより抽出してから各特徴点位置を抽出するようにしているので、特徴点の抽出処理が複雑となるという未解決の課題がある。また、IDマーカの内部に検索情報を配置することができないという未解決の課題がある。
そこで、本発明は、上記従来例の未解決の課題に着目してなされたものであり、検索用タグの抽出を固定焦点の撮像装置で容易に行うことができると共に、抽出した検索用タグに基づいて関連情報を容易に検索することができる検索用タグ及び情報検索システムを提供することを目的としている。
【課題を解決するための手段】
【0012】
上記目的を達成するために、請求項1に係る検索用タグは、平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を、当該5つの識別点を含む平面内の位置を特定するように配置したことを特徴としている。
また、請求項2に係る検索用タグは、請求項1に係る発明において、前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴としている。
【0013】
さらに、請求項3に係る検索用タグは、請求項1又は2に係る発明において、前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴としている。
さらにまた、請求項4に係る検索用タグは、請求項1乃至3の何れか1つの発明において、前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴としている。
なおさらに、請求項5に係る検索用タグは、請求項4に係る発明において、前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴としている。
【0014】
また、請求項6に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段とを備えたことを特徴としている。
【0015】
さらに、請求項7に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段と、該検索情報抽出手段で抽出した検索情報の画像データを前記検索用タグに基づいて幾何学的に補正する画像補正手段とを備えたことを特徴としている。
【0016】
さらにまた、請求項8に係る情報検索システムは、検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて検索情報を特定する情報検索手段とを備えたことを特徴としている。
【0017】
なおさらに、請求項9に係る情報検索システムは、請求項6乃至8の何れか1つの発明において、前記タグ識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴としている。
また、請求項10に係る情報検索システムは、請求項9に係る発明において、前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴としている。
【発明の効果】
【0018】
本発明に係る検索用タグによれば、従来のタグとは異なり、四角形領域の各辺に5つの識別点が配置されているので、固定焦点カメラで検索用タグを撮影しても検索用タグを容易に識別することができると共に、四角形領域内に検索情報を配置し、この検索情報を5つの識別点に基づいて算出される幾何学的不変量で特定するので、検索対象位置を容易に検出することができるという効果が得られる。
また、本発明に係る情報検索システムによれば、上記検索用タグを容易に識別することができると共に、検索用タグの識別点に基づく座標系を認識して、検索用タグを撮影した画像データから幾何学的不変量を算出し、この幾何学的不変量に基づいて画像データに含まれる検索情報の抽出や検索情報位置の特定を容易に行なうことができるという効果が得られる。
【発明を実施するための最良の形態】
【0019】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明に係る情報検索システムにおける第1の実施形態の構成を示すシステム構成図である。
図中、1は情報検索システムであって、雑誌、折り込み広告等の検索情報保持物体2に印刷された検索情報を含む検索用タグ3と、この検索用タグ3を読取って検索情報を抽出するタグ読取装置4と、このタグ読取装置4で抽出した検索情報に基づいて情報検索を行う情報検索装置5とを備えている。
【0020】
検索用タグ3は、図3に示すように、検索情報保持物体2の表面に正方形、長方形等の四角形領域3aが形成され、この四角形領域3aの各辺に例えば16等分した目盛り3bが形成され、この目盛り3b上に中心点を有する5つの円形の識別点P0〜P4が形成されている。
四角形領域3aは、高さをH、幅をWとし、その左上の頂点を原点(0,0)とし、右方向をx軸、下方向をy軸とする座標系を考えたとき、識別点P0は原点(0,0)に固定し、他の4つの識別点P1〜P4は各辺上の任意の位置に配置されている。なお、3点が同一直線上に並ぶことを避けるために、例えば原点に置いた識別点P0以外の4つの識別点は頂点には配置しないようにする。ここで、識別点P0以外の4つの識別点を、5つの識別点の重心から見て識別点P0から反時計回りの順に各識別点をP1、P2、P3及びP4とする。
【0021】
そして、識別点P0は他の識別点P1〜P4と区別するために大きな直径(例えば20mm)に設定され、他の識別点P1〜P4は小さな直径(例えは15mm)に設定されている。
このため、識別点P1の座標は(0,y1)で表され、識別点P2の座標は(x2,H)、識別点P3の座標は(W,y3)及び識別点P4の座標は(x4,0)に設定される。ここで、y1及びy3はH/16〜15H/16の範囲をとることができ、x2及びx4はW/16〜15W/16の範囲をとることができる。したがって、5つの識別点P0〜P4の配置パターンは154=50625通りとなる。
【0022】
また、各識別点P0〜P4は、図4に示すように、外周が円形に形成され、その中心点Oを起点として、半径方向に沿った輝度変化パターンが全半径方向で同一となるように設定されている。なお、輝度変化パターンは、狭義の単調減少又は単調増加のパターンであればどのような変化パターンでも構わない。図4(a)の例であれば、図5(a)に示すように輝度値が直線的に減少するパターンであり、図4(b)の例であれば、図5(b)に示すように輝度値が直線的に増加するパターンである。その他、減少するパターンとしては、接線の傾きが負となって連続的に減少する曲線となればよく、図6(a)に示すように上に凸の曲線でもいいし、同(b)に示すように下に凸の曲線でもいいし、同(c)に示すようなS字曲線でもいいし、同(d)に示すようなS字を二つ合わせたような曲線でもいい。増加パターンの場合も同様に接線の傾きが正となって連続的に増加する種々のパターンが採用可能である。
上記構成を有する検索用タグ3について、各識別点の座標を前記(1)式に代入することにより、識別点P0を原点とした2つの幾何学的不変量I1及びI2は、辺の長さで正規化した座標を用いて以下のように算出される。
【0023】
【数2】
【0024】
ここで、Xi=xi/W,Yj=yj/Hであり、Wは四角形領域3aの幅、Hは四角形領域3aの高さである。また、Xi及びYjは夫々幅及び高さの辺に付けた目盛りの番号(1〜15)を等分数(=16)で除した値である。
上記(2)式に示すように、幾何学的不変量I1及びI2は四角形領域の辺の長さに依存しないので、検索用タグ3の縦横のサイズを自由に設定することができるという効果が得られる。また、長さの単位にも依存しないので、(xi,yi)(i=0〜4)は、目盛りの番号(0〜16)としてもよいし、或いは実測長(例えばmm単位)の値としてもよい。さらに、目盛りを付けることにより、5つの識別点P0〜P4の配置を誤差なく指定することができるという効果が得られる。
【0025】
上記構成を有する検索用タグ3を空間の任意の位置に置き、ディジタルカメラ11で撮影することにより、画像データにおける5点の座標(xi,yi)(i=0〜4)を得ることができる。そして、最も大きな直径の識別点をP0とし、5つの識別点の重心からみて反時計回りの順に識別点をP1、P2、P3及びP4とすることにより、これらの識別点の座標を前記(1)式に代入することにより、幾何学的不変量I1及びI2を算出すると、算出した幾何学的不変量I1及びI2は検索用タグ3の3次元位置に関わらず同一の値となる。
【0026】
そして、算出した幾何学的不変量I1及びI2は実数値として得られるので、所定の単位量I1_unit及びI2_unitを使って下記(3)式及び(4)式の演算を行うことにより、量子化し整数値の識別コードI1及びI2に変換する。
I1=INT〔I1/I1_unit〕 …………(3)
I2=INT〔I2/I2_unit〕 …………(4)
ただし、INT〔〕は大括弧内の実数の小数点以下を切り捨てて整数化する関数である。
【0027】
このように、5つの識別点P0〜P4の配置パターン毎に識別コードI1及びI2を算出することができるものであるが、幾何学的不変量I1及びI2を上記(3)式及び(4)式で整数化していることから、同一の識別コードI1及びI2を表す識別点の配置パターンが1つとは限らないと共に、撮影した画像データから識別点の座標を読取る際に読取り誤差を生じることから、読取り誤差を考慮して確実に識別可能な配置パターンは前記50625通りの一部に限定することが好ましい。
【0028】
このため、使用可能な配置パターンを決定するために、予め例えばマイクロコンピュータを含んで構成される情報検索装置5を使用して、図7に示す識別点配置パターン決定処理を実行する。なお、前述したように識別点の座標は長さの単位に依存しないので、ここでは(xi,yi)を目盛りの番号として説明する。
この識別点配置パターン決定処理は、図7に示すように、先ず、ステップS1で、座標x0、y0、x1、y4を全て“0”に、座標y2をH(=16)に、座標x3をW(=16)に、そして座標y1、x2、y3及びx4を全て“1”とする初期化を行う。
【0029】
次いで、ステップS2に移行して、(x0、y0)〜(x4、y4)を前述した(1)式に代入して、幾何学的不変量I1及びI2を算出すると共に、算出した幾何学不変量I1及びI2を前記(3)式及び(4)式に従って整数化して識別コードI1及びI2を算出する。
次いで、ステップS3に移行して、4つのパラメータy1、x2、y3及びx4と、固定座標x0、y0、x1、y2、x3、y4の各々について許容誤差εを加減算した許容値の全ての組み合わせの210通りについて前記(1)式、(3)式、(4)式の演算を行って識別コードI1及びI2を算出し、各々の最小値I1MIN,I2MIN及び最大値I1MAX,I2MAXを算出する。
【0030】
次いで、ステップS4に移行して、y1、x2、y3、x4、I1MIN、I1、I1MAX、I2MIN、I2、I2MAXの全てを記憶テーブルTに記憶してからステップS5に移行する。
このステップS5では、全ての配置パターン{y1,x2,y3,x4}についてI1MIN、I1、I1MAX、I2MIN、I2、I2MAXの記録が完了したか否かを判定し、記録が完了していない配置パターンが存在する場合にはステップS6に移行して、座標y1,x2,y3,x4の何れかを変更(例えば、y1=1→y1=2など)して別の配置パターン{y1,x2,y3,x4}を生成してから前記ステップS2に戻り、全ての配置パターン{y1=1〜15、x2=1〜15、y3=1〜15、x4=1〜15}について記憶テーブルTへの記録が完了したときにはステップS7に移行する。
【0031】
このステップS7では、採用する識別コード(I1,I2)を記録するための2次元配列Iを“0”で初期化し、次いでステップS8に移行して、変動幅設定値Vを“2”で初期化してからステップS9に移行する。
このステップS9では、記憶テーブルTに記憶されている全ての配置パターン{y1,x2,y3,x4}について許容誤差εに対する識別コード(I1,I2)の変動幅ΔIを下記(5)式に従って算出する。
ΔI=(I1MAX−I1MIN+1)+(I2MAX−I2MIN+1) …………(5)
【0032】
次いでステップS10に移行して、算出した各識別コード(I1,I2)の変動幅ΔIが変動幅設定値Vと一致する配置パターン{y1,x2,y3,x4}が存在するか否かを判定し、ΔI=Vとなる配置パターン{y1,x2,y3,x4}が存在する場合には、ステップS11に移行して、該当する配列パターン{y1,x2,y3,x4}の{I1MIN、I1MAX、I2MIN、I2MAX}を使用して全ての2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)が“0”であるか否かを判定し、これらを満足する場合には、ステップS12に移行して、記録テーブルTの該当する配置パターン{y1,x2,y3,x4}に「採用」を記録する。
【0033】
次いで、ステップS13に移行して、2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)の値を使用済みを表す“1”に変更する。
次いで、ステップS14に移行して、記憶テーブルTの全ての配置パターン{y1,x2,y3,x4}について調査が終了したか否かを判定し、全ての配置パターン{y1,x2,y3,x4}について調査が終了したときには識別点配置パターン決定処理を終了し、全ての配置パターン{y1,x2,y3,x4}について調査が終了していないときには前記ステップS10に戻る。
【0034】
一方、前記ステップS10の判定結果が、ΔI=Vとなる配列パターン{y1,x2,y3,x4}が存在しないときには、ステップS15に移行して、変動幅設定値Vを“1”だけ増やしてから前記ステップS10に戻る。
さらに、前記ステップS11の判定結果が、2次元配列Iの要素I(i1,i2)(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)のいずれかが“1”であるときには、ステップS16に移行して、I1又はI2の変動幅ΔIが使用済みの値に重複していることを意味するので、記録テーブルTの該当配置パターン{y1,x2,y3,x4}に「不採用」を記録してから前記ステップS14に移行する。
【0035】
このようにして、上記識別点配置パターン決定処理で「採用」が決定された記録テーブルTの配置パターン{y1,x2,y3,x4}を実際の配置パターンとして使用する。そして、採用された配置パターン{y1,x2,y3,x4}を例えば識別コードI1が小さい順にソートして、この順序に並び代えて所定のハードディスク等の記憶装置に記憶する。
そして、検索情報保持物体2を作成する際に、例えば図8に示すように、検索用タグ3内を各目盛り3bを結ぶことにより、16行×16列で原点(0,0)から右方向に順次“1”〜“16”を割り当て、次いで2行目の左端から右方向に順次“17”〜“32”を割り当てて、最終的に最下行の右端に“256”を割り当てて、細分化領域SA1、SA2、……SA256を形成する。
【0036】
これら細分化領域SA1〜SAT256の何れか1つを選択し、選択した領域に、二次元バーコード等の検索情報を含む検索コードRCを印刷する印刷位置RPを特定し、情報検索装置5の記憶装置を参照して、特定された印刷位置RPに割り当てられた数値i(i=1〜256)に対応する識別コードI1を有する配置パターン{y1,x2,y3,x4}を選択し、選択した配置パターン{y1,x2,y3,x4}の識別点P0〜P4を決定し、決定された配置パターン{y1,x2,y3,x4}で識別点P0〜P4を印刷すると共に、印刷位置RPに光学的に読取可能なQRコードなどの二次元コードで構成される検索コードを印刷する。
【0037】
タグ読取装置4は、図1に示すように、検索用タグ3を撮影して画像データDを出力する撮像手段としてのディジタルカメラ11と、このディジタルカメラ11から出力される映像データDが入力されて、この映像データDに基づいて検索用タグ3の識別点P0〜P4を識別するタグ識別手段としてのタグ識別部12と、このタグ識別部12で識別した識別点P0〜P4の座標(x0,y0)〜(x4,y4)に基づいて幾何学的不変量I1及びI2を算出し、これを整数化して識別コードI1及びI2を算出する幾何学的不変量算出手段としての幾何学的不変量算出部13と、識別コードI1,I2に基づいて検索情報位置を特定し、特定した検索情報位置の画像データを読込み、これを検索情報として出力する検索情報抽出手段としての検索情報抽出部14とを備えている。
【0038】
タグ識別部12は、図2に示すように、ディジタルカメラ11から入力される一画面分の画像データである対象画像データDから、所定サイズの部分画像PGを順次抽出する部分画像抽出部31と、抽出した部分画像PGについて抽出方向符号EDを演算する方向符号演算部32と、識別点P0〜P4を識別可能な特徴情報としての参照用方向符号RDを予め記憶した方向符号記憶部33と、方向符号演算部32で演算した抽出方向符号EDと、方向符号記憶部33に記憶されている参照用方向符号RDとを比較して、両者が一致するか否かを判定する方向符号比較部34と、部分画像抽出部31の部分画像を1画素毎に移動させながら方向符号比較部34の比較結果が、抽出方向符号EDが参照用方向符号RDと一致したときに、そのときの部分画像の中心点を識別点P0〜P4の中心点として算出する識別点座標演算部35とで構成されている。
【0039】
ここで、方向符号とは、例えば、図9に示すように、1画面データの任意の画素PE0を考えたとき、その画素PE0に隣接して包囲する八つの画素PE1〜PE8の各輝度値と、画素PE0の輝度値とをそれぞれ比較し、画素PE0の輝度値からの増加(又は減少)幅が最も大きな方向を符号化してなる情報である。この場合であれば、紙面に向かって、右方向、斜め右上方向、上方向、斜め左上方向、左方向、斜め左下方向、下方向、斜め右下方向の8方向に、例えば0〜7の番号を付すことで符号化してなる情報である。そして、この方向符号0〜7を検索用タグ3の識別点P0〜P4の元データ全体に対して求めてそれを2次元データとして保存したものが、参照用方向符号RDとなる。なお、ここでは画素PE0に隣接する8つの画素に注目して8方向としたが、これに限定されることはなく、より多くの方向に、例えば周囲8つの画素の配置された方向それぞれの中間方向も含めて細分化し、この場合は各方向に0〜15の番号を付して、より詳細な符号化を行うようにしてもよい。
【0040】
また、ここでは参照用方向符号RDを識別点P0〜P4の元データから生成する方法を説明したが、これに限定されることなく、所定の大きさの参照用方向符号RDを直接計算して生成するようにしてもよい。このようにして生成した参照用方向符号RDは、全ての方向符号(上記の例では0〜7)が円周方向に連続して一様に現れ、また同一の半径方向上では全て同一の方向符号となる特徴がある。
【0041】
そして、タグ識別部12の部分画像抽出部31は、参照用方向符号RDを生成する際に用いた画像サイズと同じ大きさの部分画像PGを抽出するようになっており、方向符号演算部32は、抽出された部分画像PGに対して参照用方向符号RDを生成する際と同様の手順で演算を行って部分画像PGの方向符号を求めるように構成されている。
ここで、例えば、図10(a)に示すように、画像データDの画像サイズの大きさを高さ480画素、幅640画素とし、図10(b)に示すように、参照用方向符号RDの画像サイズの大きさを高さ及び幅共に32画素とした例を考える。即ちかかる例の場合、部分画像抽出部31は、図10(a)に示すように、画像データDの最上段左端から右端に向かって1画素移動する毎に部分画像PGを順次抽出し、第1行の右端に達したら、1画素分下側の第2行に移り左端から右端に向けて、1画素移動する毎に部分画像PGを順次抽出し、これを順次最終行まで継続してこの部分画像PGを抽出するということになる。
【0042】
方向符号比較部34は、参照用方向符号RDと部分画像PGの対応する全ての画素について方向符号の差を集計する。そして、その集計値が0であれば「一致」と判定し、所定の閾値以内であれば「近似している」と判定する。なお、方向符号の差は次のように計算される。例えば、方向を8等分して方向符号0〜7を使う場合で説明する。2つの方向符号D1とD2の差dは、下記(6)式で算出することができる。
d=Min{G,8−G} 但し、G=|D1−D2| ……(6)
【0043】
すなわち、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“0”であるときには、G=0となることにより、差dが“0”となるが、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“1”(又は“7”)であるときには、G=1,8−G=7(又はG=7,8−G=1)となるのでd=1となり、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“3”(又は“5”)であるときには、G=3,8−G=5(又はG=5,8−G=3)となるのでd=3となる。
【0044】
識別点座標演算部35は、例えば、対象画像データDの左上を座標の原点(0,0)として方向符号比較部34の比較結果が“0”であればこのときの部分画像PGの中心点を識別点P0〜P4の何れかの中心点として記憶し、比較結果が“0”ではないが所定の閾値以下であるときにもこのときの部分画像PGの中心点座標を識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶すると共に、5つの識別点の中心点座標が検出されたときに、各識別点の輪郭線の直径が一番大きい識別点を識別点P0として設定し、さらに5つの識別点の重心点を算出し、算出した重心点から見て識別点P0から反時計回りに順次識別点P1〜P4として設定し、設定した識別点P0〜P4とその中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部13に出力する。
【0045】
なお、ここでは対象画像データDから部分画像PGを抽出し、その部分画像PGに対して方向符号を求める方法について説明したが、これに限定されることなく、対象画像データD全体に対して方向符号を求めておき、そこから部分画像PGに対応する方向符号を抽出して、方向符号比較部34に供給するようにしてもよい。
幾何学的不変量算出部13では、入力された各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて下記(7)及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を前記(3)式及び(4)式を使って整数化した値を識別コードI1及びI2として検索情報抽出部14に出力する。
【0046】
【数3】
【0047】
この検索情報抽出部14では、幾何学的不変量算出部22から入力された識別コードI1及びI2のうち例えば識別コードI1の値に基づいて検索情報が含まれている細分化領域SAk(k=1〜256)を特定し、その画像データを抽出して情報検索装置5に出力する。
【0048】
情報検索装置5は、検索コードの解読プログラム、例えばインターネットへ接続する通信プログラム、解読したコード情報を送信する送信プログラム等を備えており、タグ読取装置4の検索情報抽出部14から出力される検索コードの画像データが入力されると、この画像データを解析して、検索コードに記憶されている検索情報を解読し、解読した検索情報に基づいて検索処理を実行する。この検索処理としては、例えば検索コードにインターネットの接続先アドレス(URL)及び商品コードが含まれているものとすると、検索コードの解読プログラムによって接続先アドレス及び商品コードを解読し、通信プログラム及び送信プログラムによって解読した接続先アドレスに商品コードを送信することにより、接続先アドレスのサーバにアクセスし、サーバに格納されている商品コードに応じた商品情報を受信して表示装置5aに表示する。
【0049】
次に、上記実施形態の動作を説明する。
今、図8に示すように、四角形領域3a内の細分化領域SA213にQRコードでなる検索コードが印刷され、この細分化領域SA213を指定するように、識別コードI1が“213”を表す配置パターンで識別点P0〜P4が印刷された検索用タグ3が雑誌、折り込み広告等の検索情報保持物体2に印刷されているものとする。
【0050】
この検索情報保持物体2の検索用タグ3を読取るには、先ず、検索用タグ3が視野範囲内に入るようにディジタルカメラ11をセットしてからシャッターボタンを押圧することにより、検索用タグ3の画像を含む画像データDを形成し、この画像データDがタグ識別部12に出力される。このタグ識別部12では、ディジタルカメラ11から画像データDが入力されると、この画像データDを部分画像抽出部31に供給して、この部分画像抽出部31で画像データを一時記憶してから画像データDの原点位置から順次所定サイズの部分画像PGを抽出し、抽出した部分画像PGを方向符号演算部32に供給する。
【0051】
この方向符号演算部32では、部分画像PGに含まれる各画素間の輝度変化に基づいて抽出方向符号EDを算出する。このとき、部分画像PGが検索用タグ3の識別点P0〜P4の何れかの位置に到達していないときには、輝度変化に基づいて算出される方向符号がないか又は文字、図形等が記載されている場合に、文字、図形等に沿って方向符号が生じるが何れにしても識別点P0〜P4の中心から各半径方向に順次輝度が連続的に減少又は増加する方向符号パターンは存在しないので、方向符号演算部32で演算された抽出方向符号EDと予め方向符号記憶部33に記憶されている正規の検索用タグ3から算出した参照用方向符号RDとが一致することはなく、前述した(6)式で算出される差dの合計値が大きな値となり、識別点P0〜P4として認識されることはない。
【0052】
ところが、識別点P0〜P4の何れかが部分画像PGに含まれる状態となり、例えば図11(a)に示すように、抽出される部分画像PGが識別点P0〜P4の何れかの中心点を横切る状態となると、部分画像PGに含まれる識別点の方向符号が図11(b)〜(e)に示すように順次変化することになり、方向符号記憶部23に記憶されている参照用方向符号が、図11(f)に示すように、検索用タグ3の中心部の方向符号であるものとすると、図11(b)では、方向符号の差dの総計が大きく、図11(c)で方向符号の差dの総計が小さくなり、図11(d)で方向符号の差dの総計が所定の閾値以内となる近似している状態となるが、さらに図11(e)では、参照用方向符号RDと完全に一致することから方向符号の差dの総計が“0”となり、この状態における部分画像PGの中心点座標が識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶される。
【0053】
以上の識別点抽出処理を繰り返すことにより、検索用タグ3の5つの識別点P0〜P4の中心点座標(xi,yi)(i=0〜4)を抽出する。
このとき、ディジタルカメラ11に対する検索情報保持物体2の姿勢が変化して検索用タグ3がディジタルカメラ11に正対していない場合でも、識別点P0〜P4は、360度全ての方向に対して同じように変化する円形のパターンを持っているので、タグ識別部12の処理は影響を受けることはない。
【0054】
また、ディジタルカメラ11に対して検索用タグ3が接近するか又は遠ざかることにより、これによって撮像される識別点P0〜P4の円形のパターンが拡大又は縮小しても、輝度が中心から360度全ての方向に対して同じように変化するという特徴は変わらず、その抽出方向符号EDが参照用方向符号RDと同じなので識別点P0〜P4を正確に識別することができ、タグ識別部12の処理は影響を受けることはない。
【0055】
また、識別点P0〜P4とディジタルカメラ11との方向により、撮像された識別点P0〜P4の円形のパターンに視覚歪が発生しても、輝度が中心から360度全ての方向に対して変化するという特徴に変わりはなく、撮像された識別点P0〜P4の抽出方向符号EDと参照用方向符号RDの大部分とが一致することで、識別点P0〜P4を正確に識別することが可能となり、タグ識別部12の処理は影響を受けることはない。
【0056】
以上のようにして、検索用タグ3の5つの識別点の中心点座標を抽出すると、そのうち識別点の境界線の直径が一番大きい識別点を識別点P0に設定すると共に、各識別点の中心点座標から重心点を求め、求めた重心点から識別点P0を見たときに反時計回りに順次現れる識別点を順次P1、P2……P4として設定し、設定した識別点P0〜P4とそれらの中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部13に出力する。
【0057】
この幾何学的不変量算出部13では、各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて前記(7)式及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、これらを前記(3)式及び(4)式を使って整数化した識別コードI1及びI2を検索情報抽出部14に出力する。
この検索情報抽出部14では、入力される識別コードI1及びI2の内識別コードI1(=213)に基づいて細分化領域SA213を検索情報の位置として決定し、この細分化領域SA213の画像データ即ちQRコードでなる検索コードの画像データを抽出して、この画像データを情報検索装置5に出力する。
【0058】
情報検索装置5では、入力される検索コードの画像データを解読プログラムによって、検索コードに含まれる接続先アドレス及び商品コードを解読し、解読した接続先アドレスのサーバにアクセスすると共に、商品コードを送信する。これによって接続先のサーバから商品コードに応じた商品情報を情報検索装置5に送信し、情報検索装置5では、サーバからの商品情報を受信すると、受信した商品情報を表示装置5aに表示する。
【0059】
このように、上記実施形態によれば、検索用タグ3の識別点の配置パターンに基づいて幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を整数化して識別コードI1及びI2を算出し、算出した識別コードI1が検索コードを記載した検索情報の位置を表す情報となっているので、QRコードなどの二次元コードで検索コードを構成している場合でも、検索コードの位置を容易に検出することができ、この位置から検索コードの画像データを容易に抽出することができ、ディジタルカメラ11での撮像位置をラフに設定しても、検索コードを正確に検出することができる。
【0060】
しかも、検索用タグ3はディジタルカメラ11との対面角度に関わらず算出される幾何学的不変量I1及びI2が一定値であるので、検索情報保持物体2とディジタルカメラ11との相対姿勢が変化して検索用タグ3のディジタルカメラ11に対する角度が変化した場合でも正確に識別コードを算出することができ、検索用タグ3を誤認識することを確実に防止することができる。
【0061】
しかも、検索用タグ3は、四角形領域3aの各辺に識別点P0〜P4を配置するようにしており、識別点を配置した各辺の内側領域は検索コードを印刷した検索情報位置以外は検索には使用しないので、この内側領域における検索情報位置以外の領域に、任意の文字や図形等を記載することが可能となり、広告情報、会社情報等を記載することができる。
また、検索用タグ3は、四角形領域3aの各辺に目盛りが形成され、この目盛り上に識別点P0〜P4を配置するようにしているので、ラベルに四角形領域3aの外径枠と目盛りのみを設けておき、予め印刷した識別点P0〜P4を検索情報の位置に応じて目盛り上に貼着して検索用タグ3を構成することができ、多数種の配置パターンの検索用タグ3を予め設ける場合に比較して、製作コストを低減することができる。
【0062】
また、本発明に係る検索用タグ及び情報検索システムでは、テンプレートマッチング処理として「方向符号法」を用いており、また検索用タグ3の識別点P0〜P4の円形のパターンの輝度が中心から360度全ての方向に対して同じように変化するという特徴を持たせている。このため、例えば、検索用タグ3をカメラ11で撮像する際に、照明変動が起きて検索用タグ3上に影が発生したり、充分な光量が得られずに暗がりでの撮像だったりしたとしても、撮像された対象画像データDに基づく抽出方向符号EDが参照用方向符号RDと同じであることに変わりはないので、タグ識別部12の処理は影響を受けにくい。
【0063】
このように、検索用タグ3は、輝度が中心点Oから360度全ての方向に対して同じように変化する円形のパターンを持たせているので、この検索用タグ3をカメラ11で撮像する際の状況が変化しても影響を受けない。
このため、テンプレートマッチングの際に、1つのテンプレート(参照用方向符号RD)を用意することでカメラ11での撮像状況に広く対応でき、計算コストを削減して画像識別処理を高速化できるという効果が得られる。
【0064】
また、上記記載の理由により、検索用タグ3とカメラ11との位置関係及び撮像状況に制約を受けずに検索用タグ3を識別できるという効果が得られる。
なお、上記第1の実施形態においては、識別コードI1,I2の何れか又は双方に基づいて設定した検索情報位置即ち細分化領域SAkの画像データをそのまま情報検索装置5に出力する場合について説明したが、これに限定されるものではなく、細分化領域SAkの画像データを拡大して情報検索装置5に出力するようにしてもよい。
【0065】
また、上記第1の実施形態においては、雑誌、折り込み広告等の検索情報保持物体2に検索用タグ3を印刷して、検索情報の位置を特定する場合について説明したが、これに限定されるものではなく、可視光通信の発信光源などの位置を特定し、通信光受信機の向きを制御する場合にも本発明を適用することができる。
さらに、上記第1の実施形態においては、細分化領域SAkに識別コードI1を“1”から順に割り付けた場合について説明したが、これに限定されるものではなく、識別コードI1を特定位置(例えば、左上角、右下角など)に割り付けたり、所定数置きの細分化領域に割り付けたり、任意の割り付け方法を適用することができる。
【0066】
次に、本発明の第2の実施形態を図12及び図13について説明する。
この第2の実施形態では、検索情報位置の画像データを幾何学的補正可能としたものである。
すなわち、第2の実施形態においては、図12に示すように、前述した第1の実施形態における図1の構成において、検索情報抽出部14と情報検索装置5との間に、検索情報抽出部14で抽出された検索コードRCの画像データをディジタルカメラ11が検索情報保持物体2に正体した状態の画像データに補正する画像補正手段としての画像補正部15が介挿されていることを除いては図1と同様の構成を有し、図1との対応部分には同一符号を付し、その詳細説明はこれを省略する。
【0067】
ここで、画像補正部15における画像補正処理を説明すると、図13に示すように、2つの画像データA及びBがあり、各々の中に同一の検索用タグが含まれている場合を考える。画像データAにおける検索用タグ3の識別点P0〜P4の位置を(xAi,yAi)(i=0〜4)とする。同様に、画像データBにおける検索用タグ3の識別点P0〜P4の位置を(xBi,yBi)(i=0〜4)とする。
【0068】
今、同一の点Pが画像データA及びBに含まれている場合を考えると、画像データAにおける点Pの座標(xA,yA)は、画像データAにおける検索用タグ3によって定められる座標系を基準にしている。同様に、画像データBにおける点Pの座標(xB,yB)は、画像データBにおける検索用タグ3によって定められる座標系を基準にしている。
一般に、2つの画像データA及びBは射影変換の関係にあるので、画像データAにおける点(xA,yA)と画像データBにおける点(xB,yB)の間には、下記(9)式で表される関係がある。
【0069】
【数4】
【0070】
この(9)式を展開し、定数λを消去すると、2つの連立方程式が得られる。従って、検索用タグ3の5つの識別点P0〜P4のうちの4つの識別点P0、P1、P2及びP3の座標を得られた連立方程式に代入することにより、合計8つの制約式が得られる。行列Mの自由度は8であるから、これら8つの制約式を使って、全ての要素mij(i=1〜3、j=1〜3、但しm33は除く)を求めることができる。
【0071】
こうして得られた変換行列Mを使うことにより、画像データA及びBの中の点を相互に射影変換することかできる。すなわち、画像データAにおける座標(xA,yA)の点は、画像データBで座標(xB,yB)の点に対応する。逆に、画像データBにおける座標(xB,yB)の点は、画像データAで座標(xA,yA)の点に対応する。双方の座標は上記(9)式で算出することができる。
【0072】
そして、上記画像データAがタグ読取装置4によって撮影された画像データであるとする一方、上記画像データBは検索コードを正面の位置から所定のサイズで読取った場合の仮想的な画像データであるとする。このとき、画像データBでは、検索用タグ3も実際の形(5つの識別点P0〜P4は設計配置にある)或いはその相似形であるはずである。
そこで、上記(9)式から得られる制約式に代入する検索用タグ3の5つの識別点P0〜P4のうちの4点P0,P1,P2,P3の座標としてタグ読取装置4で読取って得られた画像データAの点(xAi,yAi)(i=0,1,2,3)及び検索用タグ3の設計配置にある点(xB,yB)(i=0,1,2,3)を採用する。
【0073】
その結果得られた変換行列Mを使うことにより、タグ読取装置4によって得られた画像データの中の任意の点は、検索コードを正面の位置から所定のサイズで読取った場合の画像データの中に正しく位置付けられる。
すなわち、たとえタグ読取装置4が検索コードに正対していなくとも、検索用タグ3の5つの識別点P0〜P4のうちの4点の設計配置を利用することにより、検索用コードの画像データを幾何学的に補正して、あたかも正面から見た所定のサイズの検索コードの画像データを得ることができる。
【0074】
このように、上記第2の実施形態によると、ディジタルカメラ11で検索用タグ3を含む画像データを撮影したときに、ディジタルカメラ11と検索情報保持物体2とが正対していない場合でも検索情報位置に対応する画像データを幾何学的に補正してあたかも正面から撮影したように所定サイズの検索コードの画像データを得ることができ、この幾何学的補正後の画像データを情報検索装置5に出力することにより、この情報検索装置5で画像データを正確に解析して、検索コードに記憶されている検索情報を解読し、解読した検索情報に基づいて検索処理を実行することができる。
【0075】
なお、上記第1及び第2の実施形態においては、検索コードRCとしてQRコードを適用した場合について説明したが、これに限定されるものではなく、1次元のバーコードや他の二次元コードを適用することができ、任意の検索コードを適用することができる。
なおまた、上記第1及び第2の実施形態においては、検索コードは1つの細分化領域にある場合について説明したが、これに限定されるものではなく、複数の細分化領域にまたがって検索コードが存在してもよい。この場合には、例えば複数領域の左上をSAL、右下をSARとしたとき、2つの識別コードでI1=L、I2=Rのように指定することができる。
【0076】
次に、本発明の第3の実施形態を図14について説明する。
この第3の実施形態では、検索コードを使用することなく、幾何学的不変量算出部13で算出した識別コードI1及びI2を直接情報検索装置5に出力して、この情報検索装置5で識別コードI1及びI2の何れか一方又は双方に基づいて関連情報を検索するようにしたものである。
【0077】
すなわち、第3の実施形態においては、図14に示すように、前述した第1の実施形態における図1の構成において、検索用タグ3の細分化領域SA1〜SA256及びこれに記載された検索コードが省略されていると共に、タグ読取装置4における検索情報抽出部14が省略されて、幾何学的不変量算出部14で算出した識別コードI1及びI2が直接情報検索装置5に供給されるように構成されていることを除いては図1と同様の構成を有し、図1との対応部分には同一符号を付し、その詳細説明はこれを省略する。
【0078】
ここで、情報検索装置5では、幾何学的不変量算出部14で算出した識別コードI1及びI2が入力されると、これら識別コードI1及びI2に基づいて予め設定された関連情報記憶テーブルを参照して関連情報を選択する。
この関連情報としては、詳細情報が格納されたWWW(World Wide Web)サーバのURL(Uniform Resource Locator)が採用され、このURLが識別コードI1及びI2に対応付けられて関連情報記憶テーブルに記憶されている。
そして、情報検索装置5では、識別コードI1及びI2に基づいて関連情報記憶テーブルを参照して該当するURLを求めると、求めたURLのホームページにアクセスして詳細情報を入手し、この詳細情報を表示装置5aに表示する。
【0079】
この第3の実施形態によれば、タグ読取装置4で検索用タグ3を読取ることにより、各識別点P0〜P4の位置座標に基づいて幾何学的不変量I1及びI2を算出し、この幾何学的不変量I1及びI2を整数化して識別コードI1及びI2を算出し、この識別コードI1及びI2を情報検索装置5に出力することにより、この情報検索装置5で、関連情報記憶テーブルを参照することにより、識別コードI1及びI2で表されるURLを選択し、選択したURLのホームページにアクセスすることにより、広告内容の詳細情報その他の必要な詳細情報を入手し、これを表示装置5aに表示することにより、ユーザーが必要とする詳細情報を容易且つ正確に取得することができる。
【0080】
この場合、雑誌の広告面などでは検索用タグ3を記事の外枠に書き込むことができるため、検索用タグ3自体を大きく表示することが可能となり、低解像度の携帯電話のカメラを使用して、遠方から検索用タグ3を撮影した場合でも、タグ読取装置4で検索用タグ3を正確に検出して幾何学的不変量I1及びI2を算出することができ、これを整数化して識別コードI1及びI2を正確に算出することができ、検索コードの誤読取りを生じることがなく、詳細情報を確実に入手することかできる。
【0081】
なお、上記第3の実施形態においては、検索情報保持物体2に直接検索用タグ3を印刷した場合について説明したが、これに限定されるものではなく、検索用タグ3を透明シートに印刷し、この検索用タグ3を印刷した透明シートを検索情報保持物体2に重ねて貼付することにより、この透明シートに印刷された検索用タグ3をディジタルカメラ11で撮影することにより、タグ読取装置4で検索用タグ3を読取って識別コードI1及びI2を正確に算出することができる。このように、検索用タグ3を印刷した透明シートを使用することにより、既存の広告文書をそのまま使用して、この広告文書の上に透明シートを貼着すればよく、新たな広告文書を作成する手間を省略することができる。
【0082】
また、上記第3の実施形態においては、タグ識別部12は5つの識別点の内、直径が一番大きな点をP0と識別して識別点の座標(x0、y0)〜(x4、y4)を算出している場合について説明したが、これに限定されるものではなく、ディジタルカメラ11で撮影した画像の中で最も左上にある識別点をP0とし、5点の重心からみて反時計回りに順にP1,P2,P3,P4として座標を算出するようにしてもよい。幾何学的不変量I1、I2は、5つの識別点のどれをP0にとるかによって値が異なる。そこで、1つの検索用タグに対して、5つの識別点を各々P0としたときの5通りの幾何学的不変量I1、I2を予め全て計算し、情報検索装置5における関連情報記憶テーブルに同一の関連情報と共に登録しておく。こうすることにより、タグ識別部12は、識別点の大きさを比較してP0を特定する処理を省くことができ、全体の処理を簡略化し高速化することができる。
【0083】
なおまた、上記第1〜第3の実施形態において、検索用タグ3を識別点P0が常に特定の位置(例えば左上)にくるように設置して利用するようにすれば、タグ識別部12はディジタルカメラ11で撮影した画像の中で最も左上にある識別点をP0とすればよいため、識別点の大きさを比較してP0を特定する処理を省くことができ、全体の処理を簡略化し高速化することができる。
【0084】
次に、上記第1〜第3の実施形態においては、検索用タグ3の識別点P0〜P4を抽出する際に、所定サイズの画像データDの全領域に対して所定サイズの部分画像PGを1画素毎に順次移動させることにより、識別点P0〜P4を抽出する場合について説明したが、これに限定されるものではなく、方向符号比較部34によるテンプレートマッチング処理に先立ち、画像データDの隣接する画素毎に方向符号の所定の範囲における連続性の有無(隣接する画素の方向符号の差dが所定範囲内であるか否か)を調査して、方向符号の連続性がある画素をグループ化し、各グループから予め定めた選出基準によって図15に示すようにマスクを選出して、選出したマスクに属する画素についてのみ部分画像PGによる識別点P0〜P4の抽出を行うことにより、画像識別の処理時間を短縮することができる。ここで、識別点P0〜P4には、輝度が中心点から360度全ての方向に対して同じように変化する円形のパターンを持たせているので、その画像から生成される方向符号は連続した値をとるので、各識別点P0〜P4は、上記のグルーピング処理によって、一つのグループG、すなわちマスクとして抽出される。なお、選出基準としては、例えば、グループGの占める面積、真円度等が挙げられる。さらに、図16に示すように、マスクの上下左右の各端部における座標に基づいてマスクの中心点を求め、この中心点近傍でのみ部分画像PGによる識別点抽出処理を行うことにより、さらに画像処理時間を短縮することができる。
【0085】
また、テンプレートとして、図17に示すように、32画素×32画素のテンプレートがあり、方向符号を0〜15とすると、中心点Qを挟んで、その左半分には方向符号8(左向き)が、右半分には方向符号0(右向き)が以下のように並ぶ。ここでは、中心点Qの方向符号は0としておく。
例: ・・・888Q000・・・
この方向符号の列を水平方向部分テンプレート(列状特徴情報)として、前述した図9の参照用方向符号RDとして方向符号記憶部33に記憶しておくと共に、画像データDに対する抽出方向符号から長さ32画素の列状の部分画像PGを比較情報として部分画像抽出部31により順次抽出し、これを方向符号比較部34にてタグ方向符号33と比較し、相互に一致又は近似した比較情報を選択することで、識別点座標演算部35により画像データDの中から識別点P0〜P4の位置座標を検出するようにしてもよい。
【0086】
この場合には、画像データDの画像サイズがL×M(640×480)である場合に、N×N(N=32)のテンプレート画像サイズから、照合する画素の延べ数はL×M×N×N(約3×108)となるが、テンプレート画像サイズが、N×1(N=32)となるので、列状特徴情報を用いて比較を行った場合に照合する画素の延べ数はL×M×N(約1×107)となり、N(N=32)倍の高速化ができる。即ち、特徴情報及び比較情報の一度に比較する情報量をそれぞれ減らすことにより、高速化を図ることができる。
【0087】
さらには、図18(a)に示すように、上述したように水平方向部分テンプレートHTを使用して、これと一致又は近似する画像領域を抽出し、抽出した画像領域について再度垂直方向部分テンプレートVTを使用して比較処理することにより、2回の比較処理を行うことにより、誤検出を防止することができる。この場合には、図18(b)に示すように、最初に垂直方向部分テンプレートVTを使用し、次に水平方向テンプレートHTを使用するようにしてもよい。
【0088】
このようにして識別点P0〜P4を検出することで、水平方向に対して比較をしてから、さらに垂直方向へ比較した場合の延べ数は、L×M×N+N×kとなる。ここで言うkとは、水平又は垂直方向でマッチしてから、さらに垂直又は水平方向の比較をした件数であり、k<<L×Mの関係である。すなわち、水平又は垂直方向部分テンプレートによる比較処理を行うことで上記第1の実施の形態と比較してN倍の高速化ができる他、水平(又は垂直)方向への比較を行った後に、さらに垂直(又は水平)方向への比較を行う場合には、誤検出を減らすと共に、ほぼN倍の高速化ができるということになる。
【0089】
さらに、図18(c)に示すように、水平方向部分テンプレートHTによる比較処理を行ってから、数列の垂直方向部分テンプレートからなる面状テンプレート(面状特徴情報)FTと水平方向部分テンプレートHTのマッチした部分画像PGの中心点を中心とする面状テンプレートと同じ大きさの画像領域を持つ画像データDから抽出された部分画像PGとの比較処理を順次行うようにしてもよく、図18(d)に示すように、上記面状テンプレートFTより小さい画素数の小面状テンプレートSFTによる比較処理を行ってから、小面状テンプレートSFTとマッチした小面状テンプレートSFTの中心点を中心とする面状テンプレートFTと同じ大きさの画像領域をもつ画像データDから抽出された部分画像PGと面状テンプレートFTと比較処理するようにしてもよい。
【0090】
このように、少ない情報量を持つテンプレートの1つとこれに対応する画像データDの部分画像PGとを比較し、この比較結果に基づいて実際の識別点P0〜P4の検出範囲を絞り込んでから、他の、例えば、同等の情報量又はより情報量の多いテンプレートで更なる比較を行えば、高速化と誤検出防止とを両立できるということになる。
また、上記各実施形態においては、検索用タグ3の識別点P0〜P4として全ての半径方向について輝度が変化するようにグラデーションを施した場合について説明したが、これに限定されるものではなく、中心から2方向、3方向、4方向等の任意数の方向に輝度を変化させるようにしてもよい。
さらに、検索用タグ3としては、四角形領域3aの境界位置にベルベットファスナーの一方を貼付しておき、他方を識別点を表面に印刷した円形ボタンの裏面に貼付することにより、任意の目盛り位置に識別点P1〜P4を配置可能に構成することにより、所望の幾何学的不変量を設定すること可能となる。
【図面の簡単な説明】
【0091】
【図1】本発明に係る情報検索システムの第1の実施形態を示すシステム構成図である。
【図2】図1のタグ識別部の具体的構成を示すブロック図である。
【図3】検索用タグを示す正面図である。
【図4】検索用タグの識別点の中心点から離れるに従って輝度が減少するパターン及び増加するパターンの一例を示す図である。
【図5】識別点の輝度及び中心点からの距離の関係の一例を示すグラデーション特性線図である。
【図6】識別点の輝度及び中心点からの距離との関係の一例を示すグラデーション特性線図である。
【図7】情報検索装置で実行する識別点配置パターン決定処理手順の一例を示すフローチャートである。
【図8】検索用タグの具体例を示す正面図である。
【図9】方向符号の生成を説明するための概略図の一例である。
【図10】画像データ及び部分画像を示す説明図である。
【図11】識別点抽出処理の説明に供する説明図である。
【図12】本発明の第2の実施形態を示すシステム構成図である。
【図13】画像補正部の画像補正処理の説明に供する説明図である。
【図14】本発明の第3の実施形態を示すシステム構成図である。
【図15】方向符号をグループ化する場合の説明図である。
【図16】方向符号をグループ化してその中心点を部分画像として設定する場合の説明図である。
【図17】水平及び垂直方向の方向符号を示す説明図である。
【図18】テンプレートの組合せを示す説明図である。
【符号の説明】
【0092】
1…情報検索システム、2…検索情報保持物体、3…検索用タグ、4…タグ読取装置、5…情報検索装置、11…ディジタルカメラ、12…タグ識別部、13…幾何学的不変量算出部、14…検索情報抽出部、15…画像補正部、31…部分画像抽出部、32…方向符号演算部、33…方向符号記憶部、34…方向符号比較部、35…識別点座標演算部、D…画像データ、PG…部分画像
【特許請求の範囲】
【請求項1】
平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を、当該5つの識別点を含む平面内の位置を特定するように配置したことを特徴とする検索用タグ。
【請求項2】
前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴とする請求項1に記載の検索用タグ。
【請求項3】
前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴とする請求項1又は2に記載の検索用タグ。
【請求項4】
前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴とする請求項1乃至3の何れか1項に記載の検索用タグ。
【請求項5】
前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴とする請求項4に記載の検索用タグ。
【請求項6】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段とを備えたことを特徴とする情報検索システム。
【請求項7】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段と、該検索情報抽出手段で抽出された検索情報の画像データを前記検索用タグに基づいて幾何学的に補正する画像補正手段とを備えたことを特徴とする情報検索システム。
【請求項8】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて検索情報を特定する情報検索手段とを備えたことを特徴とする情報検索システム。
【請求項9】
前記タグ識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴とする請求項6乃至8の何れか1項に記載の情報検索システム。
【請求項10】
前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴とする請求項9に記載の情報検索システム。
【請求項1】
平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を、当該5つの識別点を含む平面内の位置を特定するように配置したことを特徴とする検索用タグ。
【請求項2】
前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴とする請求項1に記載の検索用タグ。
【請求項3】
前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴とする請求項1又は2に記載の検索用タグ。
【請求項4】
前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴とする請求項1乃至3の何れか1項に記載の検索用タグ。
【請求項5】
前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴とする請求項4に記載の検索用タグ。
【請求項6】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段とを備えたことを特徴とする情報検索システム。
【請求項7】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて前記検索用タグを含む平面上の検索情報を抽出する検索情報抽出手段と、該検索情報抽出手段で抽出された検索情報の画像データを前記検索用タグに基づいて幾何学的に補正する画像補正手段とを備えたことを特徴とする情報検索システム。
【請求項8】
検索情報保持物体に付した請求項1乃至請求項5の何れか1項に記載された検索用タグと、該検索用タグが付された検索情報保持物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出するタグ識別手段と、該タグ識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量算出手段で演算した幾何学的不変量に基づいて検索情報を特定する情報検索手段とを備えたことを特徴とする情報検索システム。
【請求項9】
前記タグ識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴とする請求項6乃至8の何れか1項に記載の情報検索システム。
【請求項10】
前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴とする請求項9に記載の情報検索システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2006−331322(P2006−331322A)
【公開日】平成18年12月7日(2006.12.7)
【国際特許分類】
【出願番号】特願2005−157828(P2005−157828)
【出願日】平成17年5月30日(2005.5.30)
【出願人】(591083244)富士電機システムズ株式会社 (1,717)
【Fターム(参考)】
【公開日】平成18年12月7日(2006.12.7)
【国際特許分類】
【出願日】平成17年5月30日(2005.5.30)
【出願人】(591083244)富士電機システムズ株式会社 (1,717)
【Fターム(参考)】
[ Back to top ]