説明

物体識別タグ及びこれを使用した物体識別システム

【課題】 物体識別タグの抽出を固定焦点の撮像装置で容易に行うことができると共に、物体抽出タグの内側領域に任意の文字や図形を配置することができる物体識別タグ及び物体識別システムを提供する。
【解決手段】 平面上に形成した四角形領域3aの各辺上に特定の幾何学的不変量を表す5つの識別点P0〜P5を配置した物体識別タグ3を使用する。物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段とを設けた。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、空間に存在する認識対象物体を画像処理によって認識するときにその認識対象物体に付される物体識別タグ及びこれを使用した物体識別システムに関する。
【背景技術】
【0002】
空間に存在する様々な認識対象物体に対して、様々な処理をコンピュータ等の処理装置で行うためには、認識対象物体の位置(空間座標)、距離や姿勢(方向ベクトル)、種別などを認識する必要がある。
認識対象物体の位置を検出するためには、人為的な目印を用いることなく認識対象物体をディジタルカメラ等の撮像手段で撮像し、その撮像データから画像処理によって特徴点を抽出して位置や姿勢を検出することが考えられるが、この場合には、高度な画像処理が必要となるため、処理時間が掛かると共に、認識結果が安定しないなどの未解決の課題がある。
【0003】
上記未解決の課題を解決するために、認識対象物体に、例えば特定パターンを目印として貼付しておき、この認識対象物体をディジタルカメラ等の撮像手段で撮像し、撮像した画像データの中から特定パターンを探索して認識対象物体の位置を検出する手法が採用されている。この手法によると、撮像手段を基準にした座標系における認識対象物体の座標を求めることができるが、撮像手段と認識対象物体との距離を検出することはできない。
【0004】
このため、撮像手段と認識対象物体との距離を計測するために、例えば2台のカメラで撮影して三角測量の原理を用いて距離を計測したり、焦点を移動させて画像が鮮明になる焦点位置から距離を計測したりするなどの手法が採用されている。この場合には、余分なカメラや焦点移動機構が必要となり、コストが嵩むという新たな課題が生じる。また、超音波やレーザ光の反射時間をもとにして認識対象物体までの距離を計測する方法もあるが、夫々計測精度が低い、乃至は人体に有害である等の問題点がある。
【0005】
さらに、認識対象物体の種別を認識するためには、例えばバーコードや非接触式無線タグ(RFID)を認識対象物体に貼付しておき、読取機器で識別コードを読取るようにした手法が採用されている。あるいは、認識対象物体に印刷された文字情報をディジタルカメラ等の撮像手段で撮像し、その撮像データを文字認識手段で文字認識することにより、種別を認識する手法が採用されている。しかしながら、何れの場合にも、認識対象物体の種別を認識するには、読取機器や撮像手段を認識対象物体に近接させて識別コードを読取るか文字情報を撮像する必要があり、遠方に存在する認識対象物体や広範囲に散らばった認識対象物体を識別する場合には適用することができないという未解決の課題がある。
【0006】
さらに、全体的な課題として、上記の認識技術が相互に連携していないことが挙げられる。例えば、認識対象物体の位置と姿勢を検出して適切な箇所をロボットアームで把持し、種別に応じた場所に搬送するような処理を想定すると、幾つもの手法をつなぎ合わせて使用せざるを得ず、システム構成が複雑となるという未解決の課題がある。
このような未解決の課題を解決するために、8角形のプレート上に5つの黒点を配置したタグを設け、このタグをディジタルカメラで撮影し、その画像データからプレートを貼り付けた物体の種別、位置、姿勢を同時に認識するようにした幾何学的不変量に基づく固定標識を用いた作業者情報支援の研究が行われている(例えば、非特許文献1参照)。
【0007】
ここで、幾何学的不変量は,例えば平面上の5点(P0〜04)がどの3点も同一の直線上にない場合、以下のような2つの幾何学的不変量が存在することが知られている(例えば、非特許文献2参照)。
【0008】
【数1】

【0009】
この5点の載った平面をカメラで撮影する際、一般に射影変換による幾何学的な歪が発生する。例えばカメラの向きが回転したり、平面との距離が変化したりするとカメラで撮影した画像データは変化する。また、カメラの傾きによっては、長方形が平行四辺形に写る(直角が保存されない)、あるいは長方形が台形に写る(平行性が保存されない)といったことが発生する。ところが、カメラ画像の中の5点の座標から上記(1)式で計算される2つの値I1,I2は、上述した射影変換による幾何学的な歪があっても不変である。このような性質を持つ幾何学的不変量は、画像認識するための特徴量として利用されることがある。
【0010】
すなわち、物体のIDコードを認識するための固体標識となるIDマーカを幾何学的不変量に基づいて生成するIDマーカ生成手段と、任意の視点から撮影して得られる前記IDマーカが貼付された物体の画像を画像入力装置により取込み、その画像に対して画像処理を行ってIDマーカの領域を抽出するIDマーカ領域抽出手段と、IDマーカ領域の画像から複数の特徴点の位置を抽出する特徴点位置抽出手段と、複数の特徴点の位置から少なくとも1つの幾何学的不変量を算出する幾何学的不変量算出手段と、幾何学的不変量と対応付けられる物体のIDコードを、予め幾何学的不変量と物体IDコードとを対応付けて格納しているデータベースから選出するIDコード認識手段とを有する物体IDコード認識装置が知られている(例えば、特許文献1参照)。
【非特許文献1】伊藤俊樹、“幾何学的不変量に基づく固体標識を用いた作業者支援の研究”、大阪大学大学院 工学研究科 電子制御機械工学専攻 平成12年度修士論文、http://www-cape.mech.eng.osaka-u.ac.jp/ccm06adm/oldboys/2000/ito.pdf
【非特許文献2】杉本晃宏「物体の見え方によらない情報の抽出」情報処理願学会誌1996年12月Vol.37 No.12 第1125頁〜第1131頁
【特許文献1】特開2004−192342号公報(第1頁、図1)
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、上記非特許文献1に記載されている従来例にあっては、物体の種別、距離及び姿勢を同時に認識するという優れた機能を持ったタグであるが、カメラ画像データの中から、タグを見つけ出すために、タグにその環境ではまれな色彩を施しているため、使用環境毎に、色彩を調整する必要があり、種々の環境でタグを使用する場合には、必ずしも安定してタグを検出ことができないという未解決の課題がある。
【0012】
また、タグが直径約5cmと小さいので、空間全体のカメラ画像データの中からタグを見つけると、カメラをズームして5つの点の鮮明な画像を取得する必要があり、当然ズームに先立って、カメラの方向(パン、チルト)を制御しなければならず、カメラ及びその制御系のコストが嵩むと共に、処理時間も長くなるという未解決の課題がある。
さらに、幾何学的不変量を計算する上で、黒点の座標を正確に計測する必要があり、カメラ画像データの中で一定の閾値以下の輝度を持った部分を黒点として認識し、その重心の座標を採用するようにしているため、一般に知られているように、カメラ画像データの輝度は照明条件によって大きく変動するため、黒点の検出が必ずしも安定せず、座標の計測精度に悪影響を及ぼすという未解決の課題がある。
【0013】
さらにまた、5つの黒点を使用したタグでは、個々の物体の認識には優れているが、物体相互の位置関係を把握しようとすると、各々のタグの位置や姿勢から再計算が必要となるという未解決の課題がある。
また、特許文献1に記載された従来例にあっては、7×7の正方形枡目に5色の特徴点と5つの黒色特徴点との2組の特徴点を形成したIDマーカを生成し、このIDマーカを物体に貼付して、物体IDコード認識装置によってカメラ等により撮像された物体の画像を取込み、その画像情報をフーリエ変換を施して空間周波数に変換した後、物体IDマーカ領域の背景画像の空間周波数データとの相似形又は一致形をパターンマッチングにより抽出してから各特徴点位置を抽出するようにしているので、特徴点の抽出処理が複雑となるという未解決の課題がある。また、IDマーカの内部を文字や図形の配置等の他の用途に利用することができないという未解決の課題がある。
【0014】
そこで、本発明は、上記従来例の未解決の課題に着目してなされたものであり、物体識別タグの抽出を固定焦点の撮像装置で容易に行うことができると共に、物体識別タグの内側領域に任意の文字や図形を配置することができる物体識別タグ及び物体識別システムを提供することを目的としている。
【課題を解決するための手段】
【0015】
上記目的を達成するために、請求項1に係る物体識別タグは、平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を配置したことを特徴としている。
また、請求項2に係る物体識別タグは、請求項1に係る発明において、前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴としている。
【0016】
さらに、請求項3に係る物体識別タグは、請求項1又は2に係る発明において、前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴としている。
さらにまた、請求項4に係る物体識別タグは、請求項1乃至3の何れか1つの発明において、前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴としている。
【0017】
なおさらに、請求項5に係る物体識別タグは、請求項4に係る発明において、前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴としている。
また、請求項6に係る物体識別タグは、請求項1乃至5の何れか1つの発明において、前記5つの識別点は、当該5つの識別点から算出される幾何学的不変量の値が重複しないように配置パターンが設定されていることを特徴としている。
【0018】
さらに、請求項7に係る物体識別タグは、請求項6に係る発明において、前記配置パターンは、5つの識別点の座標計測誤差を考慮して算出される幾何学的不変量の値が重複しないように設定されていることを特徴としている。
さらにまた、請求項8に係る物体識別システムは、認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段とを備えたことを特徴としている。
【0019】
なおさらに、請求項9に係る物体識別システムは、認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記物体識別タグを識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量演算手段で演算した幾何学的不変量に基づいて当該幾何学的不変量に関連付けられた情報を検索する情報検索手段とを備えたことを特徴としている。
【0020】
また、請求項10に係る物体識別システムは、認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグの各識別点の実座標を記憶する識別点座標記憶手段と、前記物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記識別点を識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点座標に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量演算手段で演算した幾何学的不変量に基づいて前記識別点座標記憶手段から該当物体識別タグの識別点実座標を抽出する識別点実座標抽出手段と、該識別点実座標抽出手段で抽出した識別点実座標と前記識別点識別手段で算出した識別点座標とに基づいて前記物体識別タグの実空間における位置及び姿勢、並びに物体識別タグと同一平面上にある任意の物体の位置の内少なくとも1つを検出する物体位置検出手段とを備えていることを特徴としている。
【0021】
さらに、請求項11に係る物体識別システムは、請求項8乃至10の何れか1つの発明において、前記識別点識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴としている。
【0022】
さらにまた、請求項12に係る物体識別システムは、請求項11に係る発明において、前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴としている。
なおさらに、請求項13に係る物体識別システムは、請求項8乃至12の何れか1つの発明において、前記幾何学的不変量演算手段は、複数の幾何学的不変量を算出し、各々の所定の単位量で除して量子化し整数値の識別コードに変換するように構成されていることを特徴としている。
【発明の効果】
【0023】
本発明に係る物体識別タグによれば、従来のタグとは異なり、四角形領域の各辺に5つの識別点が配置されているので、固定焦点カメラで物体識別タグを撮影しても物体識別タグを容易に識別することができると共に、四角形領域内に任意の文字や画像等を配置することができ、四角形領域内を他の用途に使用することができるという効果が得られる。
また、本発明に係る物体識別システムによれば、上記物体識別タグを容易に識別することができると共に、物体識別タグの識別点に基づく座標系を認識して、物体識別タグを撮影した画像データからこの画像データに含まれるタグ以外の物体の位置座標を容易に算出することができるという効果が得られる。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明に係る物体識別システムにおける第1の実施形態の構成を示すシステム構成図である。
図中、1は物体識別システムであって、識別対象物体2に貼付又は印刷された物体識別タグ3を撮影する撮像手段としてのディジタルカメラ4と、このディジタルカメラ4で撮影した画像データが入力され、この画像データに基づいて識別対象物体2を識別する情報処理装置5とを備えている。
【0025】
識別対象物体2は、例えば内部に品物を収容した箱体で構成され、その少なくとも1側面に物体識別タグ3が貼付又は印刷され、この物体識別タグ3がディジタルカメラ4の視野範囲内に入るようにベルトコンベヤ6によって搬送される。そして、物体識別タグ3によって指示される送付先に従い情報処理装置5が制御する搬送方向転換器7によって搬送方向が選択される。
【0026】
物体識別タグ3は、図2に示すように、ラベル3aの表面に四角形領域3bが形成され、この四角形領域3bの各辺に例えば16等分した目盛り3cが形成され、この目盛り3c上に中心点を有する5つの識別点P0〜P4が形成されている。
四角形領域3bは、高さをH、幅をWとし、その左上の頂点を原点(0,0)とし、右方向をx軸、下方向をy軸とする座標系を考えたとき、識別点P0は原点(0,0)に固定し、他の4つの識別点P1〜P4は各辺上の任意の位置に配置されている。なお、3点が同一直線上に並ぶことを避けるために、例えば原点に置いた識別点P0以外の4つの識別点は頂点には配置しないようにする。ここで、識別点P0以外の4つの識別点を、5つの識別点の重心から見て識別点P0から反時計回りの順に各識別点をP1、P2、P3及びP4とする。
【0027】
そして、識別点P0は他の識別点P1〜P4と区別するために大きな直径(例えば20mm)に設定され、他の識別点P1〜P4は小さな直径(例えは15mm)に設定されている。
このため、識別点P1の座標は(0,y1)で表され、識別点P2の座標は(x2,H)、識別点P3の座標は(W,y3)及び識別点P4の座標は(x4,0)に設定される。ここで、y1及びy3はH/16〜15H/16の範囲をとることができ、x2及びx4はW/16〜15W/16の範囲をとることができる。したがって、5つの識別点P0〜P4の配置パターンは154=50625通りとなる。
【0028】
また、各識別点P0〜P4は、図3に示すように、外周が円形に形成され、その中心点Oを起点として、半径方向に沿った輝度変化パターンが全半径方向で同一となるように設定されている。なお、輝度変化パターンは、狭義の単調減少又は単調増加のパターンであればどのような変化パターンでも構わない。図3(a)の例であれば、図4(a)に示すように輝度値が直線的に減少するパターンであり、図3(b)の例であれば、図4(b)に示すように輝度値が直線的に増加するパターンである。その他、減少するパターンとしては、接線の傾きが負となって連続的に減少する曲線となればよく、図5(a)に示すように上に凸の曲線でもいいし、同(b)に示すように下に凸の曲線でもいいし、同(c)に示すようなS字曲線でもいいし、同(d)に示すようなS字を二つ合わせたような曲線でもいい。増加パターンの場合も同様に接線の傾きが正となって連続的に増加する種々のパターンが採用可能である。
【0029】
上記構成を有する物体識別タグ3について、各識別点の座標を前記(1)式に代入することにより、識別点P0を原点とした2つの幾何学的不変量I1及びI2は、辺の長さで正規化した座標を用いて以下のように算出される。
【0030】
【数2】

【0031】
ここで、Xi=xi/W,Yj=yj/Hであり、Wは四角形領域3bの幅、Hは四角形領域3bの高さである。また、Xi及びYjは夫々幅及び高さの辺に付けた目盛りの番号(1〜15)を等分数(=16)で除した値である。
これら(2)式に示すように、幾何学的不変量I1及びI2は四角形領域の辺の長さに依存しないので、物体識別タグ3の縦横のサイズを自由に設定することができるという効果が得られる。また、幾何学的不変量I1及びI2は長さの単位に依存しないので、{xi,yi}(i=0〜4)は目盛りの番号(0〜16)としてもよいし、或いは実測長(例えばmm単位)の値としてもよい。さらに、目盛りを付けることにより、5つの識別点P0〜P4の配置を誤差なく指定することができるという効果が得られる。
【0032】
上記構成を有する物体識別タグ3を空間の任意の位置に置き、ディジタルカメラ4で撮影することにより、画像データにおける5点の座標(xi,yi)(i=0〜4)を得ることができる。そして、最も大きな直径の識別点をP0とし、5つの識別点の重心からみて反時計回りの順に識別点をP1、P2、P3及びP4とすることにより、これらの識別点の座標を前記(1)式に代入することにより、幾何学的不変量I1及びI2を算出すると、算出した幾何学的不変量I1及びI2は物体識別タグ3の3次元位置に関わらず同一の値となる。
【0033】
そして、算出した幾何学的不変量I1及びI2は実数値として得られるので、所定の単位量I1_unit及びI2_unitを使って下記(3)式及び(4)式の演算を行うことにより、量子化し整数値の識別コードに変換する。
I1=INT〔I1/I1_unit〕 …………(3)
I2=INT〔I2/I2_unit〕 …………(4)
ただし、INT〔 〕は大括弧内の実数の小数点以下を切り捨てて整数化する関数である。
【0034】
このように、5つの識別点P0〜P4の配置パターン毎に識別コードI1及びI2を算出することができるものであるが、上記(3)式及び(4)式で整数化していることから、同一の識別コードI1及びI2を表す識別点の配置パターンが1つとは限らないと共に、撮影した画像データから識別点の座標を読取る際に読取り誤差を生じることから、確実に識別可能な配置パターンは前記50625通りの一部に限定される。
【0035】
このため、使用可能な配置パターンを決定するために、予め例えば情報処理装置5を使用して、図6に示す識別点配置パターン決定処理を実行する。
なお、前述したように幾何学的不変量I1及びI2は長さの単位に依存しないので、ここでは、{xi,yi}(i=0〜4)は目盛りの番号(0〜16)として説明する。
この識別点配置パターン決定処理は、図6に示すように、先ず、ステップS1で、座標x0,y0,x1,y4を全て“0”に、座標y2をH(=16)に、そして座標x3をW(=16)に、また座標y1、x2、y3及びx4を全て“1”とする初期化を行う。
【0036】
次いで、ステップS2に移行して、座標(x0,y0)〜(x4〜y4)を前述した(1)式に代入して、幾何学的不変量I1及びI2を算出すると共に、算出した幾何学不変量I1及びI2を前記(3)式及び(4)式に従って整数化して識別コードI1及びI2を算出する。
次いで、ステップS3に移行して、4つのパラメータy1、x2、y3及びx4と、固定座標x0,y0,x1,y2,x3,y4の各々について許容誤差εを加減算した許容値の全ての組み合わせの210通りについて前記(1)式,(3)式及び(4)式の演算を行って識別コードI1及びI2を算出し、各々の最小値I1MIN,I2MIN及び最大値I1MAX,I2MAXを算出する。
【0037】
次いで、ステップS4に移行して、y1、x2、y3、x4、I1MIN、I1、I1MAX、I2MIN、I2、I2MAXの全てを記憶テーブルTに記憶してからステップS5に移行する。
このステップS5では、全ての配置パターン{y1,x2,y3,x4}についてI1MIN、I1、I1MAX、I2MIN、I2、I2MAXの記録が完了したか否かを判定し、記録が完了していない配置パターンが存在する場合にはステップS6に移行して、座標y1,x2,y3,x4の何れかを変更(例えば、y1=1→y1=2など)して別の配置パターン{y1,x2,y3,x4}を生成してから前記ステップS2に戻り、全ての配置パターン{y1=1〜15,x2=1〜15,y3=1〜15,x4=1〜15}について記憶テーブルTへの記録が完了したときにはステップS7に移行する。
【0038】
このステップS7では、採用する識別コード(I1,I2)を記録するための2次元配列Iを“0”で初期化し、次いでステップS8に移行して、変動幅設定値Vを“2”で初期化してからステップS9に移行する。
このステップS9では、記憶テーブルTに記憶されている全ての配置パターン{y1,x2,y3,x4}について許容誤差εに対する識別コード(I1,I2)の変動幅ΔIを下記(5)式に従って算出する。
【0039】
ΔI=(I1MAX−I1MIN+1)+(I2MAX−I2MIN+1) …………(5)
次いでステップS10に移行して、算出した各識別コード(I1,I2)の変動幅ΔIが変動幅設定値Vと一致する配置パターン{y1,x2,y3,x4}が存在するか否かを判定し、ΔI=Vとなる配置パターン{y1,x2,y3,x4}が存在する場合には、ステップS11に移行して、該当する配列パターン{y1,x2,y3,x4}の{I1MIN、I1MAX、I2MIN、I2MAX}を使用して全ての2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)が“0”であるか否かを判定し、これらを満足する場合には、ステップS12に移行して、記録テーブルTの該当する配置パターン{y1,x2,y3,x4}に「採用」を記録する。
【0040】
次いで、ステップS13に移行して、2次元配列Iの要素I〔i1,i2〕(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)の値を使用済みを表す“1”に変更する。
次いで、ステップS14に移行して、記憶テーブルTの全ての配置パターン{y1,x2,y3,x4}について調査が終了したか否かを判定し、全ての配置パターン{y1,x2,y3,x4}について調査が終了したときには識別点配置パターン決定処理を終了し、全ての配置パターン{y1,x2,y3,x4}について調査が終了していないときには前記ステップS10に戻る。
【0041】
一方、前記ステップS10の判定結果が、ΔI=Vとなる配列パターン{y1,x2,y3,x4}が存在しないときには、ステップS15に移行して、変動幅設定値Vを“1”だけインクリメントしてから前記ステップS10に戻る。
さらに、前記ステップS11の判定結果が、2次元配列Iの要素I(i1,i2)(I1MIN≦i1≦I1MAX,I2MIN≦i2≦I2MAX)の何れかが“1”であるときには、ステップS16に移行して、I1又はI2の変動幅ΔIが使用済みの値に重複していることを意味するので、記録テーブルTの該当配列パターン{y1,x2,y3,x4}に「不採用」を記録してから前記ステップS14に移行する。
【0042】
そして、上記識別点配置パターン決定処理で「採用」が決定された記録テーブルTの配列パターン{y1,x2,y3,x4}を実際の配列パターンとして使用し、この配列パターンをラベル3a表面の四角形領域3bに印刷して物体識別タグ3を識別対象物体2に例えば貼付する。
そして、物体識別タグ3を貼付した識別対象物体2がベルトコンベヤ6によって搬送されて少なくとも物体識別タグ3がディジタルカメラ4の視野内に入ると、例えばベルトコンベヤ6を挟んで設置された投光器8a及び受光器8bで構成される識別対象物体先端検出センサ8で検出され、この識別対象物体先端検出センサ8で検出された検出信号が情報処理装置5に入力されて、この情報処理装置5によってディジタルカメラ4で識別対象物体の撮影を開始させる。そして、ディジタルカメラ4から出力される画像データが情報処理装置5に入力される。
【0043】
情報処理装置5では、ディジタルカメラ4から画像データが入力されると、物体識別タグ3の識別点を抽出して物体識別タグ3を認識し、認識した物体識別タグ3の幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を整数化した識別コードI1及びI2に基づいて識別対象物体2を識別する。
このため、情報処理装置5では、図7に示すように、ディジタルカメラ4から入力される画像データに基づいて識別点を抽出する識別点識別手段としての識別点抽出部21、この識別点抽出部21で抽出した識別点に基づいて幾何学的不変量I1及びI2を計算し、識別コードI1及びI2を算出する幾何学的不変量算出手段としての幾何学的不変量算出部22と、算出した識別コードI1及びI2に基づき識別対象物体2を識別する物体識別部23とを備えている。
【0044】
識別点抽出部21は、図8に示すように、ディジタルカメラ4から入力される一画面分の画像データである対象画像データDから、所定サイズの部分画像PGを順次抽出する部分画像抽出部31と、抽出した部分画像PGについて抽出方向符号EDを演算する方向符号演算部32と、識別点P0〜P4を識別可能な特徴情報としての参照用方向符号RDを予め記憶した方向符号記憶部33と、方向符号演算部32で演算した抽出方向符号EDと、方向符号記憶部33に記憶されている参照用方向符号RDとを比較して、両者が一致するか否かを判定する方向符号比較部34と、部分画像抽出部31の部分画像を1画素毎に移動させながら方向符号比較部34の比較結果が、抽出方向符号EDが参照用方向符号RDと一致したときに、そのときの部分画像の中心点を識別点P0〜P4の中心点として算出する識別点座標演算部35とで構成されている。
【0045】
ここで、方向符号とは、例えば、図9に示すように、1画面データの任意の画素PE0を考えたとき、その画素PE0に隣接して包囲する八つの画素PE1〜PE8の各輝度値と、画素PE0の輝度値とをそれぞれ比較し、画素PE0の輝度値からの増加(又は減少)幅が最も大きな方向を符号化してなる情報である。この場合であれば、紙面に向かって、右方向、斜め右上方向、上方向、斜め左上方向、左方向、斜め左下方向、下方向、斜め右下方向の8方向に、例えば0〜7の番号を付すことで符号化してなる情報である。そして、この方向符号0〜7を物体識別タグ3の識別点P0〜P4の元データ全体に対して求めてそれを2次元データとして保存したものが、参照用方向符号RDとなる。なお、ここでは画素PE0に隣接する8つの画素に注目して8方向としたが、これに限定されることはなく、より多くの方向に、例えば周囲8つの画素の配置された方向それぞれの中間方向も含めて細分化し、この場合は各方向に0〜15の番号を付して、より詳細な符号化を行うようにしてもよい。
【0046】
また、ここでは参照用方向符号RDを識別点P0〜P4の元データから生成する方法を説明したが、これに限定されることなく、所定の大きさの参照用方向符号RDを直接計算して生成するようにしてもよい。このようにして生成した参照用方向符号RDは、識別点の輝度が中心からの半径にのみ依存する場合には、全ての方向符号(上記の例では0〜7)が円周方向に連続して一様に現れ、また同一の半径方向上では全て同一の方向符号となる特徴がある。
【0047】
そして、識別点抽出部21の部分画像抽出部31は、参照用方向符号RDを生成する際に用いた画像サイズと同じ大きさの部分画像PGを抽出するようになっており、方向符号演算部32は、抽出された部分画像PGに対して参照用方向符号RDを生成する際と同様の手順で演算を行って部分画像PGの方向符号を求めるように構成されている。
ここで、例えば、図10(a)に示すように、画像データDの画像サイズの大きさを高さ480画素、幅640画素とし、図10(b)に示すように、参照用方向符号RDの画像サイズの大きさを高さ及び幅共に32画素とした例を考える。即ちかかる例の場合、部分画像抽出部31は、図10(a)に示すように、画像データDの最上段左端から右端に向かって1画素移動する毎に部分画像PGを順次抽出し、第1行の右端に達したら、1画素分下側の第2行に移り左端から右端に向けて、1画素移動する毎に部分画像PGを順次抽出し、これを順次最終行まで継続してこの部分画像PGを抽出するということになる。
【0048】
方向符号比較部34は、参照用方向符号RDと部分画像PGの対応する全ての画素について方向符号の差を集計する。そして、その集計値が0であれば「一致」と判定し、所定の閾値以内であれば「近似している」と判定する。なお、方向符号の差は次のように計算される。例えば、方向を8等分して方向符号0〜7を使う場合で説明する。2つの方向符号D1とD2の差dは、下記(6)式で算出することができる。
【0049】
d=Min{G,8−G} …………(6)
但し、G=|D1−D2|
すなわち、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“0”であるときには、G=0となることにより、差dが“0”となるが、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“1”(又は“7”)であるときには、G=1,8−G=7(又はG=7,8−G=1)となるのでd=1となり、抽出方向符号EDの符号が“0”で参照用方向符号RDの符号が“3”(又は“5”)であるときには、G=3,8−G=5(又はG=5,8−G=3)となるのでd=3となる。
【0050】
識別点座標演算部35は、例えば、対象画像データDの左上を座標の原点(0,0)として方向符号比較部34の比較結果が“0”であればこのときの部分画像PGの中心点を識別点P0〜P4の何れかの中心点として記憶し、比較結果が“0”ではないが所定の閾値以下であるときにもこのときの部分画像PGの中心点座標を識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶すると共に、5つの識別点の中心点座標が検出されたときに、各識別点の輪郭線の直径が一番大きい識別点を識別点P0として設定し、さらに5つの識別点の重心点を算出し、算出した重心点から見て識別点P0から反時計回りに順次識別点P1〜P4として設定し、設定した識別点P0〜P4とその中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部22に出力する。
【0051】
なお、ここでは対象画像データDから部分画像PGを抽出し、その部分画像PGに対して方向符号を求める方法について説明したが、これに限定されることなく、対象画像データD全体に対して方向符号を求めておき、そこから部分画像PGに対応する方向符号を抽出して、方向符号比較部34に供給するようにしてもよい。
幾何学的不変量算出部22では、入力された各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて下記(7)及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、算出した幾何学的不変量I1及びI2を前記(3)式及び(4)式で整数化した値を識別コードI1及びI2として物体識別部23に出力する。
【0052】
【数3】

【0053】
この物体識別部23では、幾何学的不変量算出部22から入力された識別コードI1及びI2に基づいて予め記憶された識別コードI1及びI2と、物品名及びその送付先との関係を表す記憶テーブルを参照して物品名及び送付先を抽出し、抽出した送付先に基づいて搬送方向転換器7を制御して送付先に応じた搬送方向を選択する。
【0054】
次に、上記実施形態の動作を説明する。
今、ベルトコンベヤ6によって識別対象物体2がこれに貼付された物体識別タグ3をディジタルカメラ4の視野範囲内となるように任意の姿勢で載置されて搬送されているものとする。
この状態で、先頭の識別対象物体2の全体がディジタルカメラ4の視野範囲内となり、その先端が識別対象物体先端検出センサ8で検出されると、この先端検出センサ8から出力される先端検出信号が情報処理装置5に入力されることにより、この情報処理装置5でディジタルカメラ4に対してシャッターを作動させるシャッター信号を送出することにより、ディジタルカメラ4で識別対象物体2の対向側面を撮影し、撮影した画像データを情報処理装置5に送信する。
【0055】
情報処理装置5では、ディジタルカメラ4から画像データが入力されると、この画像データDを部分画像抽出部31に供給して、この部分画像抽出部31で画像データを一時記憶してから画像データDの原点位置から順次所定サイズの部分画像PGを抽出し、抽出した部分画像PGを方向符号演算部32に供給する。
この方向符号演算部32では、部分画像PGに含まれる各画素間の輝度変化に基づいて抽出方向符号EDを算出する。このとき、部分画像PGが物体識別タグ3の識別点P0〜P4の何れかの位置に到達していないときには、輝度変化に基づいて算出される方向符号がないか又は文字、図形等が記載されている場合に、文字、図形等に沿って方向符号が生じるが何れにしても識別点P0〜P4の中心から各半径方向に順次輝度が連続的に減少又は増加する方向符号パターンは存在しないので、方向符号演算部32で演算された抽出方向符号EDと予め方向符号記憶部33に記憶されている正規の物体識別タグ3から算出した参照用方向符号RDとが一致することはなく、前述した(6)式で算出される差dの合計値が大きな値となり、識別点P0〜P4として認識されることはない。
【0056】
ところが、識別点P0〜P4の何れかが部分画像PGに含まれる状態となり、例えば図11(a)に示すように、抽出される部分画像PGが識別点P0〜P4の何れかの中心点を横切る状態となると、部分画像PGに含まれる識別点の方向符号が図11(b)〜(e)に示すように順次変化することになり、方向符号記憶部23に記憶されている参照用方向符号が、図11(f)に示すように、物体識別タグ3の中心部の方向符号であるものとすると、図11(b)では、方向符号の差dの総計が大きく、図11(c)で方向符号の差dの総計が小さくなり、図11(d)で方向符号の差dの総計が所定の閾値以内となる近似している状態となるが、さらに図11(e)では、参照用方向符号RDと完全に一致することから方向符号の差dの総計が“0”となり、この状態における部分画像PGの中心点座標が識別点P0〜P4の何れかの中心点座標(xi,yi)として記憶される。
【0057】
以上の識別点抽出処理を繰り返すことにより、物体識別タグ3の5つの識別点P0〜P4の中心点座標(xi,yi)を抽出する。
このとき、ディジタルカメラ4に対する識別対象物体2の姿勢が変化して物体識別タグ3がディジタルカメラ4に正対していない場合でも、識別点P0〜P4は、360度全ての方向に対して同じように変化する円形のパターンを持っているので、識別点抽出部21の処理は影響を受けることはない。
【0058】
また、ディジタルカメラ4に対して物体識別タグ3が接近するか又は遠ざかることにより、これによって撮像される識別点P0〜P4の円形のパターンが拡大又は縮小しても、輝度が中心から360度全ての方向に対して同じように変化するという特徴は変わらず、その抽出方向符号EDが参照用方向符号RDと同じなので識別点P0〜P4を正確に識別することができ、識別点抽出部21の処理は影響を受けることはない。
【0059】
また、識別点P0〜P4とディジタルカメラ4との方向により、撮像された識別点P0〜P4の円形のパターンに視覚歪が発生しても、輝度が中心から360度全ての方向に対して変化するという特徴に変わりはなく、撮像された識別点P0〜P4の抽出方向符号EDと参照用方向符号RDの大部分とが一致することで、識別点P0〜P4を正確に識別することが可能となり、識別点抽出部21の処理は影響を受けることはない。
【0060】
以上のようにして、物体識別タグ3の5つの識別点の中心点座標を抽出すると、そのうち識別点の境界線の直径が一番大きい識別点を識別点P0に設定すると共に、各識別点の中心点座標から重心点を求め、求めた重心点から識別点P0を見たときに反時計回りに順次現れる識別点を順次P1、P2……P4として設定し、設定した識別点P0〜P4とそれらの中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とを幾何学的不変量算出部22に出力する。
【0061】
この幾何学的不変量算出部22では、各識別点P0〜P4の中心点座標(x0,y0)、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)に基づいて前記(7)式及び(8)式の演算を行って幾何学的不変量I1及びI2を算出し、これらを前記(3)式及び(4)式によって整数化した識別コードI1及びI2を物体識別部23に出力する。
この物体識別部23では、入力される識別コードI1及びI2に基づいて記憶テーブルを参照して、識別対象物体2の物品名及び送付先を求め、求めた送付先によって搬送方向転換器7を制御して、識別対象物体2を指定された送付先に搬送する。
【0062】
このとき、物体識別タグ3の識別点P0〜P4を前述した図7の識別点配置パターン決定処理で決定された配置パターンから配置パターンを選択して使用すると、画像データの読取誤差等によって誤った幾何学的不変量I1及びI2が算出されることを確実に回避することができるので、識別コードI1及びI2が重複することがなく、正確な物体認識を行うことができる。
【0063】
しかも、物体識別タグ3はディジタルカメラ4との対面角度に関わらず算出される幾何学的不変量I1及びI2が一定値であるので、ベルトコンベヤ6に認識対象物体2を載置する際や、ベルトコンベヤ6での搬送過程で、認識対象物体2の姿勢が変化して物体識別タグ3のディジタルカメラ4に対する角度が変化した場合でも正確に識別コードを算出することができ、認識対象物体2を誤認識することを確実に防止することができる。
【0064】
しかも、物体識別タグ3は、四角形領域3aの各辺に識別点P0〜P4を配置するようにしており、識別点を配置した各辺の内側領域は識別には使用しないので、この内側領域に物体名、送付先等の文字や任意の図形等を記載することが可能となり、作業者が物体名や送付先を容易に視認可能としたり、宣伝や広告文字等を記載したり、内側領域を任意の用途に使用することができる。
【0065】
また、物体識別タグ3は、四角形領域3bの各辺に目盛りが形成され、この目盛り上に識別点P0〜P4を配置するようにしているので、ラベル3aに四角形領域3bの外径枠と目盛りのみを設けておき、識別対象物体2の種別に応じて目盛り上に予め印刷した識別点P0〜P4を貼着して物体識別タグ3を構成することができ、多数種の配置パターンの物体識別タグ3を予め設ける場合に比較して、製作コストを低減することができる。
【0066】
さらに、四角形領域3bの境界位置にベルベットファスナーの一方を貼付しておき、他方を識別点を表面に印刷した円形ボタンの裏面に貼付することにより、任意の目盛り位置に識別点を配置可能に構成することにより、物体識別タグ3を再使用可能として、さらにコスト低下を図ることができる。
なお、上記第1の実施形態においては、識別対象物体2を搬送して仕分けする搬送システムに本発明を適用した場合について説明したが、これに限定されるものではなく、物体識別タグ3を識別対象物体2に貼付又は印刷して識別対象物体2を種別等で識別する場合に本発明を適用することができる。
【0067】
次に、本発明の第2の実施形態を図12について説明する。
この第2の実施形態では、物体識別タグ3を使用して、物体識別タグ3で表される座標系を定義して、この座標系と同一平面上の任意の物体の位置を正確に算出するようにしたものである。
すなわち、第2の実施形態では、物体識別タグ3の識別点配置パターンに対応した幾何学的不変量I1及びI2を整数化した識別コードI1及びI2とタグ関連情報との関係を記憶テーブルに記憶しておく。ここで、タグ関連情報としては、図2に示す実際の物体識別タグ3の5つの識別点P0〜P4の設計配置{P0(0,0)P1(0,y1)、P2(x2,H)、P3(W,y3)、P4(x4,0)}を使用し、四角形領域3aの辺の実際の長さ即ち幅W及び高さHと、パラメータ{y1,x2,y3,x4}の実際の値を例えはmm単位で指定したものをタグ関連情報として設定する。
【0068】
そして、情報処理装置5で、図12に示す物体座標演算処理を実行する。
この物体座標演算処理は、先ず、ステップS31で、ディジタルカメラ4で撮影した物体識別タグ3を含む画像データDを読込み、次いでステップS32に移行して、読込んだ画像データに基づいて前述した第1の実施形態と同様に、各識別点P0〜P4の中心点座標(x0,y0)〜(x4,y4)を算出する識別点抽出処理を行い、次いでステップS33に移行して、各識別点の中心点座標(x0,y0)〜(x4,y4)に基づいて前記(6)及び(7)式の演算を行って、幾何学的不変量I1及びI2を算出し、これらを前記(3)式及び(4)式を用いて整数化して識別コードI1及びI2を算出する。
【0069】
次いで、ステップS34に移行して、算出した識別コードI1,I2に基づいて記憶テーブルを参照して、撮影した物体識別タグ3の実際の幅W及び高さHとパラメータ{y1,x2,y3,x4}の実際の値を読込んでからステップS35に移行する。
このステップS35では、画像データDを表示装置5aに表示した状態で、画像データから識別点P0及び識別点P4を結ぶ線をx軸とし、識別点P0及び識別点P1を結ぶ線をy軸と設定してタグ座標系を形成して表示する。
【0070】
次いで、ステップS36に移行して、表示装置5aに表示されている画像データ中の所望の点にマウスによってカーソルを合わせてからクリックすることにより、指示位置を選択したか否かを判定し、指示位置が選択されていないときにはこれが選択されるまで待機し、指示位置が選択されたときにはステップS37に移行する。
このステップS37では、選択された指示位置の物体識別タグと同一の平面における実際の位置座標(xP,yP)を物体識別タグ3の実際の幅W及び高さHとパラメータ{y1,x2,y3,x4}の実際の値とから算出し、次いでステップS38に移行して、算出した指示位置の実際の位置座標(xP,yP)を表示装置5aに表示してから物体位置演算処理を終了する。
【0071】
この図12の処理において、ステップS33の処理が幾何学的不変量算出手段に対応し、ステップS34の処理が情報検索手段に対応している。
上記のように、物体識別タグ3のタグ座標系が定義されると、複数の座標系の間で変換行列を算出することができる。
すなわち、図15に示すように、物体識別タグ3と同一の平面上にある実平面A及びそれを撮像した画像データBがあり、各々の中に同一の物体識別タグが含まれている場合を考える。実平面Aにおける物体識別タグ3の識別点P0〜P4の位置を(xAi,yAi)(i=0〜4)とする。同様に、画像データBにおける物体識別タグ3の識別点P0〜P4の位置を(xBi,yBi)(i=0〜4)とする。
【0072】
今、同一の点Pが実平面A及び画像データBに含まれている場合を考えると、実平面Aにおける点Pの座標(xA,yA)は、実平面Aにおける物体識別タグ3によって定められる座標系を基準にしている。同様に、画像データBにおける点Pの座標(xB,yB)は、画像データBにおける物体識別タグ3によって定められる座標系を基準にしている。
一般に、2つの空間A及びBは射影変換の関係にあるので、実平面Aにおける点(xA,yA)と画像データBにおける点(xB,yB)の間には、下記(9)式で表される関係がある。
【0073】
【数4】

【0074】
この(9)式を展開し、定数λを消去すると、2つの連立方程式が得られる。従って、物体識別タグ3の5つの識別点P0〜P4のうちの4つの識別点P0、P1、P2及びP4の座標を得られた連立方程式に代入することにより、合計8つの制約式が得られる。行列Mの自由度は8であるから、これら8つの制約式を使って、全ての要素mij(i=1〜3、j=1〜3、但しm33は除く)を求めることができる。
【0075】
こうして得られた変換行列Mを使うことにより、空間A及びBの中の点を相互に射影変換することかできる。すなわち、実平面Aにおける座標(xA,yA)の点は、画像データBで座標(xB,yB)の点に対応する。逆に、画像データBにおける座標(xB,yB)の点は、実平面Aで座標(xA,yA)の点に対応する。双方の座標は上記(11)式で算出することができる。
【0076】
ここでは、Aを物体識別タグ3と同一平面上にある実平面としたが、これに限らず、画像データAとしてもよい。2つの画像データA及びBに同一の物体識別タグが含まれている場合、上記のようにして双方のタグ座標系の間で変換行列を算出することができるので、複数の写真を同一の視点から撮影したように補正したり、繋ぎ合わせたりすることができるようになる。
【0077】
この第2の実施形態によれば、ディジタルカメラ4で撮影した画像データに物体識別タグ3と同一平面上の物体像が含まれている場合に、この画像データを表示装置5aに表示することにより、物体識別タグ3の識別点P0、P1及びP4に基づいてタグ座標系を認識し、このタグ座標系と予め記憶されている該当する物体識別タグ3の実測値とに基づいて画像データに含まれる所望の物体画像の実際の位置座標(xP,P)を算出することができ、ディジタルカメラ4で撮影した画像データから実際の物体識別タグ3に対する任意物体の位置座標を正確に算出することができる。
【0078】
この場合、ディジタルカメラ4で撮影した画像データに複数の物体が含まれていたときには、これら複数の物体の位置座標を算出することにより、物体間の相互の位置関係を正確に把握することができる。
なお、ここでは、物体の画像をマウスでクリックして指示する方式について説明したが、それに止まらない。例えば、別の特徴点抽出手段(エッジ検出や頂点抽出など)で対象物体の画像における位置を自動検出するようにしてもよい。
【0079】
また、本発明に係る画像識別用タグ及び画像識別システムでは、テンプレートマッチング処理として「方向符号法」を用いており、また物体識別タグ3の識別点の円形のパターンの輝度が中心から360度全ての方向に対して同じように変化するという特徴は変わらない。このため、例えば、物体識別用タグ3をカメラ4で撮像する際に、照明変動が起きて物体識別用タグ3上に影が発生したり、充分な光量が得られずに暗がりでの撮像だったりしたとしても、撮像された対象画像データDに基づく抽出方向符号EDが参照用方向符号RDと同じであることに変わりはないので、識別点抽出部213の処理は影響を受けない。
【0080】
このように、物体識別タグ3は、輝度が中心点Oから360度全ての方向に対して同じように変化する円形のパターンを持たせているので、この物体識別タグ3をカメラ4で撮像する際の状況が変化しても影響を受けない。
このため、テンプレートマッチングの際に、1つのテンプレート(参照用方向符号RD)を用意することでカメラ2での撮像状況に広く対応でき、計算コストを削減して画像識別処理を高速化できるという効果が得られる。
【0081】
また、上記記載の理由により、物体識別タグ3とカメラ4との位置関係及び撮像状況に制約を受けずに物体識別タグ3を識別できるという効果が得られる。
次に、本発明の第3の実施形態を図13及び図14について説明する。
この第3の実施形態は、ディジタルカメラ4で撮影した画像データからディジタルカメラ4と物体識別タグ3との距離及び物体識別タグ3の3次元姿勢を演算するようにしたものである。
【0082】
すなわち、第3の実施形態では、情報処理装置5で、図13に示すタグ距離及び姿勢演算処理を実行する。
このタグ距離及び姿勢演算処理は、図13に示すように、先ず、ステップS41で、上記第3の実施形態と同様に物体識別タグ3の幾何学的不変量I1及びI2を算出し、これを整数化して識別コードI1及びI2を算出する。
【0083】
次いで、ステップS42に移行して、識別コードI1及びI2に基づいて、記憶テーブルを参照して、該当する実際の物体識別タグ3の幅W及び高さH及びパラメータ{y1,x2,y3,x4}の実際の値を読込み、次いでステップS43に移行して、各識別点P0〜P4の実際の座標(xi,yi)(i=0〜4)を算出する。
次いで、ステップS44に移行して、下記(10)式に各識別点P0〜P4の実際の座標(xi,yi)(i=0〜4)を代入して、各識別点P0〜P4の空間座標(Xi,Yi)(i=0〜4)を算出する。
【0084】
【数5】

【0085】
ここで、θx、θy、θzは夫々x軸、y軸及びz軸の回りの物体識別タグ3の回転角である。
次いで、ステップS45に移行して、算出した空間座標(Xi,Yi)(i=0〜4)を下記(11)式に代入することにより、カメラの画像データにおける5つの識別点P0〜P4の座標(xi′,yi′)(i=0〜4)を算出する。
【0086】
(xi′,yi′)=(Xi,Yi)/d …………(11)
ここで、dはディジタルカメラ4と物体識別タグ3との距離である。
算出した座標(xi′,yi′)は、{d、θX、θY、θZ}をパラメータとしたものとなる。
次いで、ステップS46に移行して、下記(12)式で表される評価関数Sを定義し、この評価関数Sが最小値となるときの最適解{d,θX,θY,θZ}を例えば準ニュートン法を使用して算出することにより、ディジタルカメラ4と物体識別タグ3との実際の距離dと姿勢{θX,θY,θZ}を算出することができる。
【0087】
【数6】

【0088】
この図13の処理において、ステップS41の処理が幾何学的不変量算出手段に対応し、ステップS43〜45の処理が識別点実座標抽出手段に対応し、ステップS46の処理が物体位置検出手段に対応している。
この第3の実施形態によると、図14に示すように、物体識別タグ3がディジタルカメラ4を原点(0,0,0)とする空間座標系に置かれているものとし、物体識別タグ3の原点P0がディジタルカメラ4の正面にあるものとして、ディジタルカメラ4から物体識別タグ3までの距離をZ=dとする。また、物体識別タグ3はX軸、Y軸及びZ軸の回りに夫々θX,θY及びθZずつ回転しているものとする。
【0089】
このときの物体識別タグ3上の点(x,y)をZ=dの平面PLに正射影したときの座標(X,Y)は前述した(10)式で算出することができる。
また、この点(X,Y)のカメラ画像における座標(x′,y′)は、一般性を失うことなく簡単のためカメラの焦点距離を“1”とし、また物体識別タグ3までの距離dは物体識別タグ3のサイズに比べて十分に大きいものとすると、座標(x′,y′)は、前記(11)式で表すことができる。
【0090】
そして、物体識別タグ3上の識別点P0〜P4の座標(xi,yi)(i=0〜4)は、該当する物体識別タグ3の関連情報{W,H,y1,x2,y3,x4}から分かるので、これらを前記(10)式に代入することにより、識別点P0〜P4の空間座標(Xi,Yi)(i=0〜4)を算出することができる。
これら空間座標(Xi,Yi)(i=0〜4)を前記(11)式に代入することにより、カメラ画像における識別点P0〜P4の座標(xi′,yi′)(i=0〜4)を求めることができ、この座標(xi′,yi′)は{d,θX,θY,θZ}をパラメータとしたものとなる。
【0091】
一方、カメラ画像における識別点P0〜P4の座標(xi″,yi″)(i=0〜4)は実測されており、上記(10)式及び(11)式で算出された座標(xi′,yi′)(i=0〜4)と、実測された座標(xi″,yi″)(i=0〜4)とは一致するはずである。
そこで、前記(12)式で表される評価関数Sを定義し、この評価関数Sが最小値をとるときの最適解{D,θX,θY,θZ}を例えは準ニュートン法を使用して算出すれば、物体識別タグ3の実際の距離Dと姿勢{θX,θY,θZ}を正確に算出することができる。
【0092】
このように、上記第3の実施形態によると、物体識別タグ3の識別コードI1及びI2を使用して、識別点P0〜P4の設計配置を実座標で関連情報として記憶しておくことにより、物体識別タグ3をディジタルカメラ4で撮影したときの撮影データから物体識別タグ3までの距離dと物体識別タグ3の姿勢{θX,θY,θZ}を正確に算出することができる。
【0093】
なお、上記第1〜第3の実施形態においては、物体識別タグ3の識別点P0〜P4を抽出する際に、所定サイズの画像データDの全領域に対して所定サイズの部分画像PGを1画素毎に順次移動させることにより、識別点P0〜P4を抽出する場合について説明したが、これに限定されるものではなく、方向符号比較部34によるテンプレートマッチング処理に先立ち、画像データDの隣接する画素毎に方向符号の所定の範囲における連続性の有無(隣接する画素の方向符号の差dが所定範囲内であるか否か)を調査して、方向符号の連続性がある画素をグループ化し、各グループから予め定めた選出基準によって図16に示すようにマスクを選出して、選出したマスクに属する画素についてのみ部分画像PGによる識別点P0〜P4の抽出を行うことにより、画像識別の処理時間を短縮することができる。ここで、識別点P0〜P4には、輝度が中心点から360度全ての方向に対して同じように変化する円形のパターンを持たせているので、その画像から生成される方向符号は連続した値をとるので、各識別点P0〜P4は、上記のグルーピング処理によって、一つのグループG、すなわちマスクとして抽出される。なお、選出基準としては、例えば、グループGの占める面積、真円度等が挙げられる。さらに、図17に示すように、マスクの上下左右の各端部における座標に基づいてマスクの中心点を求め、この中心点近傍でのみ部分画像PGによる識別点抽出処理を行うことにより、さらに画像処理時間を短縮することができる。
【0094】
また、テンプレートとして、図18に示すように、32画素×32画素のテンプレート(タグ方向符号記憶部33)があり、方向符号を0〜15とすると、中心点Qを挟んで、その左半分には方向符号8(左向き)が、右半分には方向符号0(右向き)が以下のように並ぶ。ここでは、中心点Qの方向符号は0としておく。
例: ・・・888Q000・・・
この方向符号の列を水平方向部分テンプレート(列状特徴情報)として、前述した図8の参照用方向符号RDとして方向符号記憶部33に記憶しておくと共に、画像データDに対する抽出方向符号から長さ32画素の列状の部分画像PGを比較情報として部分画像抽出部31により順次抽出し、これを方向符号比較部34にてタグ方向符号33と比較し、相互に一致又は近似した比較情報を選択することで、識別点座標演算部35により画像データDの中から識別点P0〜P4の位置座標を検出するようにしてもよい。
【0095】
この場合には、画像データDの画像サイズがL×M(640×480)である場合に、N×N(N=32)のテンプレート画像サイズから、照合する画素の延べ数はL×M×N×N(約3×108)となるが、テンプレート画像サイズが、N×1(N=32)となるので、列状特徴情報を用いて比較を行った場合に照合する画素の延べ数はL×M×N(約1×107)となり、N(N=32)倍の高速化ができる。即ち、特徴情報及び比較情報の一度に比較する情報量をそれぞれ減らすことにより、高速化を図ることができる。
【0096】
さらには、図19(a)に示すように、上述したように水平方向部分テンプレートHTを使用して、これと一致又は近似する画像領域を抽出し、抽出した画像領域について再度垂直方向部分テンプレートVTを使用して比較処理することにより、2回の比較処理を行うことにより、誤検出を防止することができる。この場合には、図19(b)に示すように、最初に垂直方向部分テンプレートVTを使用し、次に水平方向テンプレートHTを使用するようにしてもよい。
【0097】
このようにして識別点P0〜P4を検出することで、水平方向に対して比較をしてから、さらに垂直方向へ比較した場合の延べ数は、L×M×N+N×kとなる。ここで言うkとは、水平又は垂直方向でマッチしてから、さらに垂直又は水平方向の比較をした件数であり、k<<L×Mの関係である。すなわち、水平又は垂直方向部分テンプレートによる比較処理を行うことで上記第1の実施の形態と比較してN倍の高速化ができる他、水平(又は垂直)方向への比較を行った後に、さらに垂直(又は水平)方向への比較を行う場合には、誤検出を減らすと共に、ほぼN倍の高速化ができるということになる。
【0098】
さらに、図19(c)に示すように、水平方向部分テンプレートHTによる比較処理を行ってから、数列の垂直方向部分テンプレートからなる面状テンプレート(面状特徴情報)FTと水平方向部分テンプレートHTのマッチした部分画像PGの中心点を中心とする面状テンプレートと同じ大きさの画像領域を持つ画像データDから抽出された部分画像PGとの比較処理を順次行うようにしてもよく、図19(d)に示すように、上記面状テンプレートFTより小さい画素数の小面状テンプレートSFTによる比較処理を行ってから、小面状テンプレートSFTとマッチした小面状テンプレートSFTの中心点を中心とする面状テンプレートFTと同じ大きさの画像領域をもつ画像データDから抽出された部分画像PGと面状テンプレートFTと比較処理するようにしてもよい。
【0099】
このように、少ない情報量を持つテンプレートの1つとこれに対応する画像データDの部分画像PGとを比較し、この比較結果に基づいて実際の識別点P0〜P4の検出範囲を絞り込んでから、他の、例えば、同等の情報量又はより情報量の多いテンプレートで更なる比較を行えば、高速化と誤検出防止とを両立できるということになる。
なお、上記各実施形態においては、物体識別タグ3の識別点P0〜P5として全ての半径方向について輝度が変化するようにグラデーションを施した場合について説明したが、これに限定されるものではなく、中心から2方向、3方向、4方向等の任意数の方向に輝度を変化させるようにしてもよい。
【図面の簡単な説明】
【0100】
【図1】本発明に斯かる物体識別システムの第1の実施形態を示すシステム構成図である。
【図2】物体識別タグを示す正面図である。
【図3】物体識別タグの識別点の中心点から離れるに従って輝度が減少するパターン及び増加するパターンの一例を示す図である。
【図4】識別点の輝度及び中心点からの距離の関係の一例を示すグラデーション特性線図である。
【図5】識別点の輝度及び中心点からの距離との関係の一例を示すグラデーション特性線図である。
【図6】情報処理装置で実行する識別点配置パターン決定処理手順の一例を示すフローチャートである。
【図7】情報処理装置における物体識別タグ識別機能を示す機能ブロック図である。
【図8】図7の識別点抽出部の具体例を示す機能ブロック図である。
【図9】方向符号の生成を説明するための概略図の一例である。
【図10】画像データ及び部分画像を示す説明図である。
【図11】識別点抽出処理の説明に供する説明図である。
【図12】本発明の第2の実施形態における情報処理装置で実行する物体座標演算処理手順の一例を示すフローチャートである。
【図13】本発明の第3の実施形態における情報処理装置で実行するタグ距離及び姿勢演算処理手順の一例を示すフローチャートである。
【図14】第2の実施形態における空間座標系を示す説明図である。
【図15】第3の実施形態における画像データを示す説明図である。
【図16】方向符号をグループ化する場合の説明図である。
【図17】方向符号をグループ化してその中心点を部分画像として設定する場合の説明図である。
【図18】水平及び垂直方向の方向符号を示す説明図である。
【図19】テンプレートの組合せを示す説明図である。
【符号の説明】
【0101】
1…物体識別システム、2…識別対象物体、3…物体識別タグ、4…ディジタルカメラ、5…情報処理装置、6…ベルトコンベヤ、7…搬送方向転換器、8…識別対象物体先端検出センサ、21…識別点抽出部、22…幾何学的不変量算出部、23…物体識別部、31…部分画像抽出部、32…方向符号演算部、33…方向符号記憶部、34…方向符号比較部、35…識別点座標演算部、D…対象画像データ、PG…部分画像

【特許請求の範囲】
【請求項1】
平面上に形成した四角形領域の各辺上に特定の幾何学的不変量を表す5つの識別点を配置したことを特徴とする物体識別タグ。
【請求項2】
前記四角形領域の各辺には等分割した目盛りが形成され、形成された目盛り上に前記識別点が配置されていることを特徴とする請求項1に記載の物体識別タグ。
【請求項3】
前記識別点は四角形領域の各辺上で移動可能に配置されていることを特徴とする請求項1又は2に記載の物体識別タグ。
【請求項4】
前記各識別点は、円形の中心点を起点として半径方向に沿った輝度変化パターンが、全半径方向で同一であることを特徴とする請求項1乃至3の何れか1項に記載の物体識別タグ。
【請求項5】
前記輝度変化パターンは、前記中心点から離れるに従って徐々に輝度が低くなる減少パターン及び徐々に輝度が高くなる増加パターンの何れか一方であることを特徴とする請求項4に記載の物体識別タグ。
【請求項6】
前記5つの識別点は、当該5つの識別点から算出される幾何学的不変量の値が重複しないように配置パターンが設定されていることを特徴とする請求項1乃至5の何れか1項に記載の物体識別タグ。
【請求項7】
前記配置パターンは、5つの識別点の座標計測誤差を考慮して算出される幾何学的不変量の値が重複しないように設定されていることを特徴とする請求項6に記載の物体識別タグ。
【請求項8】
認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記各識別点を識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段とを備えたことを特徴とする物体識別システム。
【請求項9】
認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記物体識別タグを識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点位置に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量演算手段で演算した幾何学的不変量に基づいて当該幾何学的不変量に関連付けられた情報を検索する情報検索手段とを備えたことを特徴とする物体識別システム。
【請求項10】
認識対象物体に付した請求項1乃至請求項7の何れか1項に記載された物体識別タグと、該物体識別タグの各識別点の実座標を記憶する識別点座標記憶手段と、前記物体識別タグが付された認識対象物体の画像を撮像する撮像手段と、該撮像手段が撮像した画像データから前記識別点を識別して識別点位置を算出する識別点識別手段と、該識別点識別手段で算出した識別点座標に基づいて幾何学的不変量を演算する幾何学的不変量演算手段と、該幾何学的不変量演算手段で演算した幾何学的不変量に基づいて前記識別点座標記憶手段から該当物体識別タグの識別点実座標を抽出する識別点実座標抽出手段と、該識別点実座標抽出手段で抽出した識別点実座標と前記識別点識別手段で算出した識別点座標とに基づいて前記物体識別タグの実空間における位置及び姿勢、並びに物体識別タグと同一平面上にある任意の物体の位置の内少なくとも1つを検出する物体位置検出手段とを備えていることを特徴とする物体識別システム。
【請求項11】
前記識別点識別手段は、前記識別点を識別可能な特徴情報を記憶しており、前記画像データから前記特徴情報と比較可能な比較情報を取得し、取得した比較情報と前記特徴情報とを比較し、当該比較結果に基づいて前記識別点を識別するように構成されていることを特徴とする請求項8乃至10の何れか1項に記載の物体識別システム。
【請求項12】
前記特徴情報及び前記比較情報は、画素毎の輝度の最大増加方向及び最大減少方向の何れか一方を表す方向符号であることを特徴とする請求項11に記載の物体識別システム。
【請求項13】
前記幾何学的不変量演算手段は、複数の幾何学的不変量を算出し、各々の所定の単位量で除して量子化し整数値の識別コードに変換するように構成されていることを特徴とする請求項8乃至12の何れか1項に記載の物体識別システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2006−331214(P2006−331214A)
【公開日】平成18年12月7日(2006.12.7)
【国際特許分類】
【出願番号】特願2005−156054(P2005−156054)
【出願日】平成17年5月27日(2005.5.27)
【出願人】(591083244)富士電機システムズ株式会社 (1,717)
【Fターム(参考)】