画像データ作成方法
【課題】投影変換に伴う問題点を解決して、パターンマッチングに使用する人工画像モデルを作成すること、特に、3次元測定をするためのステレオ光学系を用いた画像処理システムにおいて問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる画像データ作成方法を提供する。
【解決手段】パターンマッチングのための対象図形の画像データを得る画像データ作成方法である。対象図形及びその周縁の画像を所定位置に設けられた撮像カメラで撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁の画像を結像面上に投影変換し投影変換された画像データを得る。
【解決手段】パターンマッチングのための対象図形の画像データを得る画像データ作成方法である。対象図形及びその周縁の画像を所定位置に設けられた撮像カメラで撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁の画像を結像面上に投影変換し投影変換された画像データを得る。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データ作成方法に係り、特に、パターンマッチングに際し、対象物の設計情報(CADデータ等)等からパターンマッチングに使用する画像データ(画像モデル)を作成するのに好適な画像データ作成方法に関する。
【背景技術】
【0002】
近年、コンピュータの高速化、高性能化、及び画像認識技術の進展とが相俟って、パターンマッチング技術の応用範囲が広がりつつある(たとえば、特許文献1参照)。このようなパターンマッチング技術において、特許文献1のように、2台のカメラからなるステレオ撮影で対象物体の左右画像の相関を求め、三角測量の原理により、画像処理を行うことが多い。
【0003】
このようなパターンマッチングに用いられる画像データ(画像モデル)は、取得された画像データを使用して作成する場合と、人工的に画像を作成してそれを使用する場合とがある。人工的に画像を作成する場合には、対象物が四角形や円のような単純な図形であることが多い。また構造物のパターンマッチングの場合には、設計図としてのCADデータを使用して画像データを作成し、これを画像モデルとすることもある。
【0004】
これらの場合であって、対象物上の2次元図形を対象としたとき、撮像カメラが対象物に対して正対している場合、すなわち、対象物に対して垂直な線上にカメラの光軸がある場合には、カメラで撮像される図形と対象物とは相似の関係になるので、このように作成された画像モデルは、パターンマッチング用の画像モデルとして充分に機能する。
【0005】
ところが、既述したように、3次元座標データを得るためにステレオ光学系を用いることがある。このような画像処理にステレオ光学系を用いる場合には、左カメラの光軸と右カメラの光軸とを平行に配置することはほとんどなく、多くの場合、左カメラの光軸と右カメラの光軸とを交差させる配置となる。なぜなら、撮像に使用するCCD(固体撮像素子)のサイズが、写真乾板(銀塩フィルム)に比べるとかなり小さいためである。
【0006】
この場合、左カメラの光軸と右カメラの光軸とを交差させると、平面図形を測定する場合でも、左カメラにより撮像した図形と右カメラにより撮像した図形とでは形状が異なることとなる。この例として、ステレオ光学系で、長方形を撮像した場合を図1に示す。
【0007】
図1において、比較し易くするため、左カメラを対象図形の真上に設置し、右カメラの光軸のみを傾けた配置とする。右カメラではカメラに近い部分の図形部分が、カメラに遠い図形部分より拡大されて撮像される。このように、画像処理にステレオ光学系を応用した例では、左カメラに撮像される図形と右カメラに撮像される図形は、同一(相似形)にはならない。
【0008】
このように、ステレオ光学系を使用して3次元座標を測定する場合には、対象物上の1点を、左カメラの画像データと右カメラの画像データとで同一点として対応をとらなければならない。既述の図1において示されるように、長方形の1つのコーナーでも、斜め方向から(右カメラで)撮像された画像データでは直角とはならない。このようなコーナーを画像モデルとして使用すると、右カメラの画像データからは近似的位置しか得られない。
【0009】
このため、図1の右カメラの画像データから、長方形の中心位置を求めるには、
1)四隅コーナーを(コーナー画像モデルを使用して)近似的に求める、
2)四辺の直線を求める、
3)四隅コーナーの座標を精度よく求め直す、
4)四隅コーナーの座標から長方形の中央座標を求める、
の手順を踏まなければならない。
【0010】
一方、対象物の真上から撮像した画像については、長方形の中央座標を原点として長方形画像モデルを作成すれば、一回のサーチで中央座標を求めることができる。
【特許文献1】特開2004−061446号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、左カメラも傾いて配置した場合には、右カメラと同様の手順で求めなければならない。このように対象物に対して、カメラが正対方向に配置されていない場合には、人工画像モデルを使用しても、対象物の特徴的位置を直接測定できないという問題がある。
【0012】
この状況を図2により更に解り易く示す。図2に示されるように、左右のカメラが鉛直軸に対して傾いていると、同図に示されるように、長方形は四辺形(台形)となってしまう。既に図1に示したが、図2にも示されるように、四辺形の角(コーナー)も直角ではない。
【0013】
そのため、パターンマッチングでは、コーナーの頂点位置を正確に求められないという問題がある。また、長方形の中心を求めるには、左画像及び右画像のそれぞれに対し、何回かの処理を行わなければならない。なお、図1の説明では、4回処理することを述べたが、四辺を簡単に求められれば処理回数を減らせる。
【0014】
単純な図形の場合には、図形の特徴を生かして、測定しようとする点の座標を求めることもできるが(たとえば中央位置)、大変難しい場合もある。更に、複雑な図形の場合には、簡単に求められないことが多くなる。また、基本的に正確に求められない場合もある。この例としては、円の中心点がある。これについては後述する。
【0015】
このように、複数のカメラで撮像することは、投影変換していることと同等であり、必ず投影歪みが含まれることとなる。ステレオ光学系を用いて3次元測定する場合には、このような点がネックとなっている。
【0016】
次に、本発明が解決しようとする他の課題について説明する。ここでは、測定対象物として平面図形を取り上げる。以降、対象物と記述した場合には、平面図形を意味するものとする。
【0017】
既述したように、対象物に対して正対の位置から撮像(対象物に垂直となる線上から撮像)された画像データは、対象物と相似形となるが、対象物を斜め方向から撮像した画像データでは、一般的に対象物と相似形にはならない。すなわち対象物の直角の部分は、斜め方向から撮像した場合には画像データ上では直角とはならない。これについては、図1に右カメラを例として示した。
【0018】
人工画像モデルとしてパターンマッチングに使用する画像モデルを作成するとき、このことは大きな問題となる。図1では長方形を例としたが、斜め方向から円を撮像した場合、楕円とはならない。図3に示されるように、左側は楕円より矢印の向きに膨らみ、右側は楕円より矢印の向きに痩せるように変形する。また円の中心位置も少し右にずれる。
【0019】
人工画像モデルには、このような投影変換に伴う問題点が反映されていない(投影による歪みがある)。人工画像モデルとして図形を設計データ等から2次元的に変換した場合には、投影歪みは修正されない。円の中心点のように直線の関係から決められない点(位置)は、正確に画像モデルに反映できないし、画像データから正確に測定できないという問題がある。なお、長方形の中心のような単純な点以外の図形の特徴点についても同様の状況である。
【0020】
本発明はこのような状況を考慮してなされたもので、上記投影変換に伴う問題点を解決して、パターンマッチングに使用する人工画像モデルを作成すること、特に、3次元測定をするためのステレオ光学系を用いた画像処理システムにおいて上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる画像データ作成方法を提供することを目的とする。
【課題を解決するための手段】
【0021】
前記目的を達成するために、本発明は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法を提供する。
【0022】
本発明によれば、対象図形及びその周縁を撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0023】
投影変換とは、図20に示されるように、対象図形が位置する地上座標系(X、Y、及びZ座標)の対象点Pをカメラ座標系(x、y、及びz座標)のカメラにより写真座標系(x及びy座標)に投影することを意味する。これらの各座標系間の共線条件式は公知である(たとえば、「写真による三次元測定(1983年共立出版)」に詳しい。)。
【0024】
図20において、投影中心の地上座標は(X0、Y0、Z0)であり、画面距離はcであり、p(x、y)は対応する写真の写真座標である。
【0025】
ここで、撮像カメラの撮像位置パラメータとしては、撮像レンズに理想的なレンズを使用する場合には、カメラ撮像位置の3次元座標(図20のxp、yp、及びzp)、各座標軸回りの回転角度(ω、φ及びκ)の6パラメータであり、通常の撮像レンズを使用する場合には、この6パラメータの他に、レンズ焦点距離とカメラの主点(X及びY)を加えた9パラメータである。
【0026】
なお、投影変換自体は、上記のように公知の技術である。しかし、パターンマッチングのモデルとしては、一般的に2次元データをそのまま使用するものしかない。本発明は、パターンマッチングのモデルとして、投影変換して作成した画像データをモデルとするものである。これにより、斜め方向から撮像した画像データに対しても、精度のよいパターンマッチングが行える。
【0027】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、CADデータを有する前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法を提供する。
【0028】
本発明によれば、対象図形及びその周縁を撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、CADデータと撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0029】
特に、対象図形が円や矩形のような比較的単純な図形でない場合に、CADデータを使用できるので、画像データの作成が容易となる。なお、CADデータを投影変換して画像モデルとしているものは、従来見られず、本発明が初めて取り入れるものである。
【0030】
本発明において、前記対象図形のCADデータとして、該対象図形の特定位置データを有し、該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことが好ましい。このように、対象図形の特定位置、たとえば、対象図形が円である場合に円の中心、対象図形が矩形である場合に矩形のコーナーを基準位置として、関係付けておけば、対象図形の特定位置を容易に求めることができる。
【0031】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記それぞれの結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法を提供する。
【0032】
本発明によれば、複数台の撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、それぞれの撮像位置パラメータを用いて対象図形及びその周縁をそれぞれ投影変換し、対象図形の3次元画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0033】
すなわち、3次元測定を目的としたステレオ光学系では、投影変換した画像データから画像モデルを作成しないと、精度よく画像計測できない。これに対し、本発明は、この課題を解決するものである。
【0034】
なお、「3次元画像データ」とは、ステレオ光学系を使用して3次元測定を目的とした画像データのことを指す。
【0035】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、CADデータを有する前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法を提供する。
【0036】
本発明によれば、複数台の撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、CADデータとそれぞれの撮像位置パラメータを用いて対象図形及びその周縁をそれぞれ投影変換し、対象図形の3次元画像データを得る。
【0037】
したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0038】
特に、対象図形が球や直方体のような比較的単純な図形でない場合に、CADデータを使用できるので、画像データの作成が容易となる。
【0039】
本発明において、前記対象図形のCADデータとして、該対象図形の特定位置データを有し、該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことが好ましい。このように、対象図形の特定位置、たとえば、対象図形が三角錐である場合に頂点、対象図形が直方体である場合にコーナーを基準位置として、関係付けておけば、対象図形の特定位置を容易に求めることができる。
【発明の効果】
【0040】
本発明によれば、投影歪みの影響を取り入れた画像モデルを作成できる。
【発明を実施するための最良の形態】
【0041】
以下、添付図面に従って本発明に係る画像データ作成方法の好ましい実施の形態(第1の実施形態)について詳説する。
【0042】
本発明の第1の実施形態は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に、この撮像カメラの結像面に投影される投影画像の画像データを得るために、この撮像カメラの撮像位置パラメータを(場合によっては、対象図形のCADデータも)用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る画像データ作成方法である。
【0043】
すなわち、測定対象空間(3次元座標系)に測定しようとする特定図形(2次元平面図形)を配置して(3次元座標を与えて)、撮像カメラの撮像位置パラメータを用いて、撮像カメラの画像データ上に特定図形を投影変換する。画像データ上で、この特定図形を含む少し広い範囲を切り出し、パターンマッチングのための画像モデルとする。
【0044】
撮像カメラの撮像位置パラメータとしては、既述の図20により説明したように、撮像レンズに理想的なレンズを使用する場合には、カメラ撮像位置の3次元座標(図20のxp、yp、及びzp)、各座標軸回りの回転角度(ω、φ及びκ)の6パラメータであり、通常の撮像レンズを使用する場合には、この6パラメータの他に、レンズ焦点距離とカメラの主点(X及びY)を加えた9パラメータである。
【0045】
以下、図を用いて説明する。既述の図2に示されるように、撮像カメラに対して測定対象とする構造物を配置する。撮像カメラは、測定空間に対して前もってキャリブレーションして、撮像位置パラメータを求めておく。撮像位置パラメータは、既述の9個のパラメータであるが、レンズ焦点距離が短い場合には、光学系の歪を補正するパラメータも用いる。
【0046】
測定対象とする構造物を配置することは、測定対象図形(2次元平面図形)の3次元座標を与えることと同等となる。測定する図形の3次元座標が与えられると、その図形を投影変換して撮像カメラの画像データとして計算により求めることができる。すなわち図2で、左カメラの画像、右カメラの画像を示した画像データを作成することができる。
【0047】
この場合、測定対象図形を含む少し広い範囲を、パターンマッチングに使用する画像モデルとする。画像モデルとするときに、長方形の中心点を画像モデルの原点としておけば、図2の例では一回サーチするだけで、長方形の中心点を画像データから測定できる。
【0048】
この方法で問題となる点は、初めに測定対象図形(2次元平面図形)の3次元座標を与えたことである。この影響を調べるために、図4に示されるように、カメラの位置を少し移動させてみる。カメラの位置を少し移動させると、投影変換された画像データ上の図形は変形するが、大きな変形ではない。
【0049】
カメラが対象物の方向へ移動すると、図4に示されるように、台形の長い辺の長さと短い辺の長さとの比が少し1に近くなる。しかし、図形としての変形は小さいので、パターンマッチングの画像モデルとして使える。すなわち、充分によい結果が得られる。
【0050】
このことは、測定対象図形とカメラの3次元位置について、相対的に小さい差異があっても、パターンマッチングのモデル画像とできるということを意味する。そしてこのような画像モデルを用いると、直方体の上面の長方形をパターンマッチングでサーチする場合に、図2で示したような左右のカメラの画像データに対して、直接サーチできる画像モデルとなる。すなわち、理論的には多少の誤差を生じているが、実用的な意味においては充分にパターンマッチングのモデル画像として使用できる。
【0051】
しかし、画像モデルが初めに仮定した位置と大きくズレる場合には、正しい結果が得られる訳ではない。すなわち、測定位置をチェックする必要がある。
【0052】
構造物の設計図はCADにより作成されるのが一般的であり、測定対象図形の近似的位置を与えることができるということは多くの場合可能である。
【0053】
本実施形態においては、測定対象物と撮像カメラとの3次元的位置関係をシミュレーションして、測定しようとする図形(2次元平面図形)を画像モデルとして作成する。構造物は部品から構成されているが、CADシステムでは部品の設計図や構造物全体の組立図も作成されている。したがって、構造物の位置を与えれば、測定しようとする部品の特定図形(平面図形)の3次元的位置は、CADシステムから容易に得られる。
【0054】
本実施形態によれば、このようにCADシステムを利用して、測定しようとする図形(2次元平面図形)の充分に良好な近似位置から、投影変換により画像モデルを作成する。その結果、対象物の位置を正確に測定できる。
【0055】
次に、具体的な画像データ作成方法について説明する。
【0056】
直方体を真上からカメラで撮像すると、直方体上面の長方形は画像データ上で相似形の長方形となる。すなわち、測定しようとする図形が撮像カメラの光軸に対し垂直であると、撮像された図形はもとの図形と相似形となる。このような場合には、CADデータのような設計データから、2次元的に変換することにより、パターンマッチングに用いる画像モデルを作成できる。
【0057】
しかし、測定しようとする図形が撮像カメラの光軸に対し垂直でないと、撮像された図形は投影歪をもつこととなる。本実施形態によれば、このような状態であっても、パターンマッチングに用いる画像モデルを作成できる。
【0058】
図5に、斜め方向から直方体を撮像する状態の断面図を模式的に示す。直方体の上面の点(図5に+で示す)は、カメラ撮像位置(1点である)を通って、光軸に垂直な撮像面(CCD面)との交点に撮像される。図5においては、この対応関係をA→A’、B→B’…のように示してある。なお、図5は断面図なので、Aは点ではなく、実際はむしろ断面に垂直な線を示していることとなる。
【0059】
図5において撮像される画像は、既述の図4に示されるように、台形となる。台形では、図5から解るようにEに対応する線分の方が、Aに対応する線分よりも長くなる。次に、図6に、撮像される直方体の上面の長方形(撮像されて台形となる)を模式的に示す。図6において、1つの桝目は1画素を示す。通常の画像データでは、1画素は同じ明るさ(数値)で0〜255までの256階調となる。
【0060】
投影変換を用いた画像作成方法を説明するため、図6においては、1画素より細かい図形を描いてある(これは実際にはありえない)。図6においては、長方形の四隅が判るように描いてある。
【0061】
画像データの明るさとしては、1画素に含まれる台形の面積×255を明るさとする。すなわち、図6の1画素にどれだけの台形の面積が含まれるかを算出すれば、図6の画像データの各画素の明るさが得られる(図6では、見やすくするため、背景を白、台形部分を黒としているので、説明文とは明るさが反転している)。
【0062】
このとき、直方体の上面の長方形の中心点を、同様に画像データ上に投影して、画像データ上での座標値を求め、画像モデルの原点として登録すると、この画像モデルを用いてサーチすれば、長方形の中心点を直接求めることができる。
【0063】
次に、実際の処理フローを図7に示す。先ず、CADデータ等から、測定する図形データを点列の形にする(ステップS−10)。測定する図形が長方形であれば4点の点列とする。測定する図形が曲線の場合には、曲線の特徴を表す点数の点列とする。たとえば円の場合には、100〜1000点程度で表す。
【0064】
これまで、図形として平面位置だけの2次元データとしていたが、測定対象の構造物上では、図形は基本的に3次元位置を持つ。このように、設計図としてのCADデータから図形として3次元位置データを取り出すことは容易に行える。
【0065】
上記の点列データとしては(X、Y、Z)の形式とする。既述の図5に示されるように、投影変換される図形はA〜Eの範囲にあり、画像データ上ではA’〜E’の範囲となる。
【0066】
次いで、対象とする図形の画像データの範囲を決める(ステップS−12)。具体的には、図形の各点をテスト的に投影変換することにより求める。画像データの範囲が決められると、図6に示されるように、モデル画像を作成する画像データの大きさが決められる。画像データの大きさが決められたら、画像データの各画素についての明るさを求めるため(画像データを作成するには各画素の明るさが必要)、各画素における図形の面積が求められる。
【0067】
各画素における図形の面積を求める方法について図8を用いて説明する。図8の枡は、図6における1画素(図6において、「図8で説明に使う画素の例」として示した)に対応する。図8でピックアップする点の条件は、図7のフローのステップS−14に示した1)〜3)までの条件である。
【0068】
図8では、図形を4点A、B、C、Dで示し、当該画素は4点1、2、3、4で形成されるとする。
【0069】
図7のフローのステップS−14において、先ず、
1)図形の点列データが当該画素に含まれるか、という条件では、図形の点Cがこれに該当し、ピックアップ(抽出)される。次いで、
2)点列と点列を繋ぐ線分が当該画素四辺と交点があるか、という条件では、直線1−2と直線A−Cの交点としてのa、及び、直線2−4と直線C−Dの交点としてのbがピックアップ(抽出)される。そして、
3)当該画素の四隅点が図形の内部となるか、という条件では、画素を構成する点2がピックアップ(抽出)される。
【0070】
このようにピックアップ(抽出)された点を、次のステップ(ステップS−16)で時計周りにa→C→b→2と並べ替える。並べ替えられた点を一周すると、当該部分の面積が得られる(ステップS−18)。
【0071】
当該画素が図形に含まれる場合は明るさ(数値)を255(面積を1.0:画素間隔を1.0として)とし、当該画素に図形を全く含まない場合には明るさ(数値)を0とする。このように図7のフローに従って、図6の画像データの各画素の明るさを求めると、図6に模式的に示した画素データを作成することができる(図6では、見やすくするため、明るさを反転している)。
【0072】
また図形の中心点等の特徴点(図形のコーナーの点でもよい)を投影変換して画像モデルの原点とすれば、パターンマッチングの結果から直接的にその測定点の位置を求めることができる。
【0073】
ステップS−14において行われる、着目する点Oが四辺形の内部に含まれるか否かを調べる方法を、図9を参照して説明する。図9(A)は、O点が四辺形EFGHの内部にある場合を示す図であり、図9(B)は、O点が四辺形EFGHの外部にある場合を示す図である。四辺形EFGHのE点を出発して辺上をE点、F点、G点、H点の順に通るように動く点があるものとする。このときE点からF点に進む間に張る角度θ1をE点からF点へ向かう方向を正の方向にとって計る。
【0074】
同様に、F点からG点に進む間に張る角度をθ2、G点からH点に進む間に張る角度をθ3、H点からE点に進む間に張る角度をθ4として、それぞれ起点から到着点に向かう方向を正の方向にとって計るものとする。
【0075】
図9(A)に示すO点が四辺形EFGHの内部にある場合は、θ1+θ2+θ3+θ4は2πとなる。一方、図9(B)に示すO点が四辺形EFGHの外部にある場合は、θ1+θ2+θ3+θ4は0となる。また、図示していないが、O点が四辺形EFGHの辺上にある場合は、θ1+θ2+θ3+θ4はπとなる。
【0076】
以上説明したように、θ1+θ2+θ3+θ4を求めて、その値が、2πか、0か、あるいはπのいずれかであるかを知れば、着目するO点が四辺形EFGHの内部に含まれるか否かを調べることができる。
【0077】
次に、図10及び図11を参照して、線分と線分の交点を求める場合の規約を説明する。図10には、線分同士が重ならない場合を図示してあり、図11には線分同士が重なる場合を図示してある。
【0078】
図10(A)に示されるように線分の延長線上において交点が存在する場合は、交点が存在しないものとして扱う。交点が存在すると判断するのは、図10(B)に示されるように、線分の存在する範囲内で交点が存在する場合である。図10(C)で示されるように、線分の端点が交点である場合も、交点が存在すると判定するものとする。図11に示される場合のように、一の線分1と他の線分2とが重なる場合は、交点として2点をピックアップするものとする。
【0079】
次に、本発明に係る画像データ作成方法の他の実施の形態(第2の実施形態)について説明する。既述の第1の実施形態においては、測定対象とする図形が長方形(直線で形成される図形)の場合を取り上げたが、本実施形態においては、測定対象とする図形が曲線の場合を取り上げる。
【0080】
図12に、対象図形が円の場合を模式的に示す。図12では、円周上に何点か選び出し、それらの点に+印をつけて表示した。表示された各点は、投影変換されて(図12では、カメラ撮像位置を通る直線で示す)、カメラ(CCD)撮像面上の1点となる。なお、撮像面は断面図として描いている。点列データは第1の実施形態でも記述したようにX、Y、Zの3次元座標とする。
【0081】
図12から容易に想定されるように、図形を点列の形(+位置の点列で図形とする)で表現できれば、円の場合も長方形の場合と全く同じように、図7のフローでモデル画像を作成できる。CADデータでは、円は中心の座標と半径とで表される。そして、CADデータから容易に3次元点列データに変換できる。この場合、円の中心座標、半径、及び円の向き(3次元の方向)から3次元座標の点列データを作成すればよい。
【0082】
点列データとしては100〜1000点であれば、モデル画像を作成するために充分である。CADデータで表現されるデータは、一般的に点列データに変換可能である。またもともと点列データで表現された図形に対しては、問題なく適用できる。
【0083】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第3の実施形態)について説明する。既述の第1の実施形態においては、測定対象とする図形が長方形(直線で形成される図形)の場合を取り上げたが、本実施形態においては、測定対象とする図形が、2つの図形を組み合わせた場合を取り上げる。
【0084】
図13に、直方体の2つの上面を投影変換して画像データを作成する状態を模式的に示す。図13において、直方体1の上面と直方体2の上面の長方形がカメラ(CCD)撮像面に投影されている。すなわち、図13では、2つの長方形上のそれぞれ5点が、カメラ撮像位置の1点を通る直線で、カメラ撮像面に投影されている。
【0085】
撮像された図形(投影変換で作成された図形)を図14に示す。初めに、下側の直方体2の上面について投影変換して画像が作成される。すなわち、図7のフローを実施する。この結果を灰色で表示する。
【0086】
次に、上側の直方体1の上面について投影変換して画像が作成される。すなわち、図7のフローを再度実施する。この結果を黒色で表示する。
【0087】
既述の第1の実施形態においては、1つの画素の明るさを、1画素に含まれる台形の面積×255としていた。これに対し、本実施形態のように、2つの図形を投影する場合には、画像データ上での明るさの違いにより、図形を区別する必要がある。図14に示されるように、中間の諧調で1つの図形を表すため、下側の図形の1画素の明るさを、1画素に含まれる下側台形の面積×127とし、上側の図形の1画素の明るさを、1画素に含まれる上側台形の面積×127+128となるように変換する(図6と同様に、見やすくするため、明るさを反転している)。
【0088】
図14では、中間の諧調(128段階の明るさ)を用いて2つの図形を組み合わせた画像を作成したが、実際の実行にあたっては、128段階の明るさの表示を変更することも必要となる場合がある。すなわち、上側の図形の明るさと下側の図形の明るさは、実施の条件にあわせて変更できるようにしておくことが好ましい。
【0089】
また、照明光がある場合には、下となる部分には必ず影ができることとなる。この影の大きさは、照明の条件により変わる。したがって、想定されるより大きめに影の領域を設定して、Don’t Care 画素とすることが好ましい。市販されている画像処理ソフトウエアで、Don’t Care 画素をサポートするものも多い。そのようなソフトウエアを使用すると、パターンマッチングでは、Don’t Care 画素はマッチング度合いの評価に反映されない。
【0090】
図15に、斜めハッチングでDon’t Care 画素を領域として示した。市販されている画像処理ソフトウエアでは、画像モデル登録用の画像データとDon’t Care 画素登録用の画像データとを別々に指定する必要がある。そのようなソフトウエアでは、図14と図15において、Don’t Care 画素領域のみの画像を用いればよい。
【0091】
本実施形態において、画像モデルの原点として、上側の直方体の上側長方形の中心点を用いるため、その点を投影変換し、図14において白抜きの+で示す。
【0092】
本実施形態では、2つの図形が平行である(図13に示されるように、2つの長方形が水平に位置している)が、2つの図形がそれぞれ勝手な方向を向いていても問題はない。すなわち、このような場合であっても、図7に示されるフローで画像データを作成できる。
【0093】
なお、これまでの説明の際、図5、図12、及び図13において、撮像するカメラの光軸を描いたが、投影しようとする図形の法線方向とこの光軸との交差角度は30度以内であることが望ましい。この交差角度は、2つの方向ベクトルから方向余弦を求めれば得られる。この方向ベクトルの向きを考慮すると、交差角度としては150〜180度の範囲が望ましい。これは、2行上で30度以内の意味である。交差角度が90度に近い角度となると、カメラの位置が少し変位しても、投影変換される図形の形が大きく変わるので、このような交差角度は好ましくない。
【0094】
なお、本実施形態において、2つの図形のみならず、図形を3つ以上にすることも容易に行えるが、3つ以上の図形の場合には、以下に記述する第4の実施形態の方が簡単に対応できる。
【0095】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第4の実施形態)について説明する。本実施形態は、画像モデルを線図形とする例である。既述の第1の実施形態から第3の実施形態までは、作成された画像データを直接画像モデルとして使用した。これに対し、本実施形態では、作成された画像データから、再度図形としての特徴を線として抽出し、線図形をパターンマッチングのモデルとして使用する。
【0096】
先ず、既述の図14の画像データを使用して、図16(右側)に示されるように、図形の特徴を線として抽出する。そして、図16(左側)に示す線図形をパターンマッチングのモデルとして用いる。図16において左側の図と右側の図の差異は、図形の四隅位置における画素の取り扱い方によるものである。
【0097】
既述の図14の画像データでは、1画素が最小単位である。この1画素において、ある一定の方向と画素内での位置で特徴線の位置を記述すると、図16の左側の図形となる。一方、図14の画像データを微分して直接得られる形状は、図16の右側の図形である。なお、四隅位置の画素では2方向となるが、このような画像処理は、複雑になるので好ましくない。そのため、図16の両方の図形を示した。
【0098】
本実施形態において、線図形をパターンマッチングのモデルに使用するには、たとえばCOGNEX社から市販されているソフトウエア(商品名:PATMAX)によるサポートで実施できる。この場合、図14をモデル画像として設定すると、図16(左側)で示される図形がモデルとして作成される。上記のソフトウエア(PATMAX)では、モデル設定方法を変更(これには、プログラムを変更する必要がある)するだけで、図14のような画像モデルと図16(左側)のような線図形モデルとを使い分けることができる。
【0099】
このように、画像モデルを線図形とした場合のメリットについては、COGNEX社の資料に詳しいので、説明は省略する。
【0100】
本実施形態において、画像モデルを線図形とした例を取り上げたのは、対象図形を3つ以上の図形とした場合にも容易に対応できるからである。既述の第3の実施形態で説明したように、3つ以上の図形を投影変換するには、それぞれの図形に対応した明るさを決めなければならない。対象物上で3つの図形それぞれの明るさが画像データとして充分に識別できるときには、第3の実施形態と同じやり方でよい結果が得られる。
【0101】
しかし、傾きや方向の異なる図形では、同一図形上でも明るさが少しづつ変化する場合がある。そのような場合には、形状がほぼ同じでも、明るさ分布が異なることとなる。そして、明るさ分布が異なると、パターンマッチングのスコアは低下することとなる(画像として合致しないこととなる)。
【0102】
3つ以上の図形を用いて投影変換により画像データを作成する場合、それぞれの図形に対する諧調の違いは小さくなる。図16(左側)の線図形は、画像データにおいて大きな諧調差がなくても、フィルター等で強調すれば得られる。そして線図形の画像モデルを用いると、形がほぼ同じで、明るさ分布が違う場合でも、良好な結果が得られる。図16左側に示されるような線図形だけで、パターンマッチングを実施できると、作成された画像データの生の明るさは反映しない。したがって、本実施形態は、このような場合に、メリットがある。
【0103】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第5の実施形態)について説明する。本実施形態は、構造物の外形を線図形画像モデルとする例である。既述の第4の実施形態では、線図形を画像モデルとする場合についての例を示したが、本実施形態では、構造物の外形を線図形画像モデルとする場合について説明する。
【0104】
構造物として図17に、四面体を例として取り上げる。図17に示されるように3次元CADでは、四面体を構成する4つの平面の方向(各頂点の座標)は、設計データとして与えることができる。図17において、四面体の頂点をA、B、C、及びDとし、四面体の重心位置をEとする。また四面体の4つの三角形の方向ベクトル(平面の法線ベクトル)が図17に矢印で示されている。
【0105】
図17において、撮像方向ベクトルと四面体の平面方向ベクトルとの交角が90度より大きい平面のみが、四面体の外形データとしてモデル画像に寄与する。図17の場合には、三角形ABDと三角形ADCの2つが寄与する。撮像方向ベクトルと平面方向ベクトルとの交角はベクトルの内積を用いて簡単に算出できる。
【0106】
先ず、構造物を形成する4つの図形を順番に呼び出し、図7で示された画像データ作成のフローを実施する。画像データ作成の前に、撮像方向ベクトルとこの図形の平面方向ベクトルとの角度を計算し、該当しない場合には、画像データ作成のプロセスをパスする。図18にこのようにして作成される画像データを示す。
【0107】
平面図形の方向ベクトルを用いて、画像データ作成プロセスをパスするか否か既に決めてあるので、図7の画像データ作成フローの「画素の明るさの決定」(ステップS−18)において当該画素に寄与するすべての図形からの面積を加え合わせれば、このフローを実行できる。
【0108】
図18の画像データは、1画素より細かい図形データを示しているが、図6の説明で記述したように解釈する。すなわち、投影変換を用いた画像作成方法を説明するため、図18においては、1画素より細かい図形を描いてある
既述の第2の実施形態では、2つの図形を明るさで識別したが、本実施形態においては、明るさで識別(区別)しない。図18の画像データから線図形を抽出すると、図16の説明で記述したように、四つの頂点については2方向になるので、特徴線分を使用しない。なおCOGNEX社のソフトウエアでは、この点を特別に処理しなくてよい。また、本実施形態においては、四面体の重心位置を画像モデルの原点とする。この四面体の重心座標を投影変換して画像データ上に示す(図18に白抜きの+で示す)。
【0109】
図18に示される画像モデルは、ステレオ光学系で対象物の3次元測定する場合に有効である。四面体の重心位置は、通常の画像処理では測定できないが、本発明の画像モデルを用いて、撮像点の異なる2つ以上の画像データをサーチして(それぞれの画像でモデル画像を別々に作成・登録して)、その結果から直接対象物の3次元座標を得ることができる。すなわち、3次元座標値をサーチ結果から直接算出できる。このような画像モデルを用いると、直接見えない点(位置)の測定も実施できる。
【0110】
次に、カメラの撮像位置パラメータについて図19により説明する。この説明は、一部で既述の図20の説明と重複する。カメラの撮像位置パラメータとしては、カメラ撮像位置(Xc、 Yc、 Zc)、カメラ撮像の方向(X軸周りの回転角度、Y軸周りの回転角度、Z軸周りの回転角度:Rx、Ry、Rz)、主点位置(画像データの中心点とカメラ光軸との差異Xo、Yo)及びカメラ焦点距離(f)の9つを用いる。
【0111】
これらの9つのパラメータは、基準とする座標系で3次元位置が既知である点を、撮像して得られた画像データ上で精密に測定すれば、公知の文献(たとえば、「写真による三次元測定(1983年共立出版)」)に基づいた式から算出できる。この場合、画像データ上の位置(画像データ上での座標)と3次元座標が既知である点を5点以上測定すればよい(3次元的に配置する必要あり)。
【0112】
図19に、カメラ撮像位置パラメータのキャリブレーション方法を概念的に示す。図19では、座標系を決める面を基準面とし、その面に平行に第二基準面、第三基準面を設け、これら3つの面上に座標が既知の点9点を配置した。これらの9点は、図19において直線で示されるように、画像データ上に撮像される。これらの9点の画像座標を精密に測定すれば、カメラ撮像位置パラメータが得られる。
【0113】
この測定の精度を高めるためには、当然のことであるが、3次元座標が正確であること、すなわち、3次元座標を精密に測定すること、及び画像データ上で精密に測定すること(目安としては1/10画素より高い測定を行うこと)が必要である。また、測定点数を増やすこと、及び3次元的に測定点を分布させることも必要である。
【0114】
また必要により光学系の歪みも補正することが好ましい。歪みを補正する方法、パラメータについても、1例が既述の公知文献に記述されている。そして、本発明の各実施形態を実施する前に、カメラの撮像位置パラメータをキャリブレーションしておくことが必要である。
【0115】
以上説明したように、本発明によれば、投影歪みの影響を取り入れた画像モデルを作成できる。斜め方向から撮像された画像データは必ず投影歪みがあるので、本発明は斜め方向から撮像された画像データをパターンマッチングするのに大変有効となる。CADデータを読み取れるように画像処理システムを整えておけば、測定を実施しようとするときに、CADデータから画像モデルを作成できる。
【0116】
また3次元測定を実施するためのステレオ画像処理システムでは、ステレオ光学系の一方または、両方とも斜め方向から撮像することとなるので、本発明は大変有効な手段となる。
【0117】
以上、本発明に係る画像データ作成方法の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、各種の態様が採り得る。
【図面の簡単な説明】
【0118】
【図1】ステレオ光学系で長方形を撮像した状態を説明する概念図
【図2】ステレオ光学系で長方形を撮像した他の状態を説明する概念図
【図3】斜め方向から円を撮像した状態を説明する概念図
【図4】対象物を撮像しカメラの位置を少し移動させた状態を説明する概念図
【図5】斜め方向から直方体を撮像する状態を説明する断面図
【図6】撮像される直方体の上面の長方形を模式的に示す図
【図7】画像データ作成の処理フローを示す図
【図8】各画素における図形の面積を求める方法について説明する図
【図9】着目する点が四辺形の内部に含まれるか否かを調べる方法について説明する図
【図10】線分と線分との交点の有り無しの判定について説明する図
【図11】線分と線分とが重なる場合について説明する図
【図12】斜め方向から曲線図形を撮像する状態を説明する図
【図13】直方体の2つの上面を投影変換して画像データを作成する状態を模式的に示す図
【図14】撮像される直方体の上面の複数の長方形を模式的に示す図
【図15】撮像される直方体の上面の影となる部分を模式的に示す図
【図16】線図形をパターンマッチングのモデルとして使用する状態を説明する図
【図17】構造物の外形を線図形画像モデルとする場合について説明する図
【図18】構造物の外形を線図形画像モデルとする場合について説明する図
【図19】カメラの撮像位置パラメータについて説明する図
【図20】投影変換の原理について説明する図
【技術分野】
【0001】
本発明は、画像データ作成方法に係り、特に、パターンマッチングに際し、対象物の設計情報(CADデータ等)等からパターンマッチングに使用する画像データ(画像モデル)を作成するのに好適な画像データ作成方法に関する。
【背景技術】
【0002】
近年、コンピュータの高速化、高性能化、及び画像認識技術の進展とが相俟って、パターンマッチング技術の応用範囲が広がりつつある(たとえば、特許文献1参照)。このようなパターンマッチング技術において、特許文献1のように、2台のカメラからなるステレオ撮影で対象物体の左右画像の相関を求め、三角測量の原理により、画像処理を行うことが多い。
【0003】
このようなパターンマッチングに用いられる画像データ(画像モデル)は、取得された画像データを使用して作成する場合と、人工的に画像を作成してそれを使用する場合とがある。人工的に画像を作成する場合には、対象物が四角形や円のような単純な図形であることが多い。また構造物のパターンマッチングの場合には、設計図としてのCADデータを使用して画像データを作成し、これを画像モデルとすることもある。
【0004】
これらの場合であって、対象物上の2次元図形を対象としたとき、撮像カメラが対象物に対して正対している場合、すなわち、対象物に対して垂直な線上にカメラの光軸がある場合には、カメラで撮像される図形と対象物とは相似の関係になるので、このように作成された画像モデルは、パターンマッチング用の画像モデルとして充分に機能する。
【0005】
ところが、既述したように、3次元座標データを得るためにステレオ光学系を用いることがある。このような画像処理にステレオ光学系を用いる場合には、左カメラの光軸と右カメラの光軸とを平行に配置することはほとんどなく、多くの場合、左カメラの光軸と右カメラの光軸とを交差させる配置となる。なぜなら、撮像に使用するCCD(固体撮像素子)のサイズが、写真乾板(銀塩フィルム)に比べるとかなり小さいためである。
【0006】
この場合、左カメラの光軸と右カメラの光軸とを交差させると、平面図形を測定する場合でも、左カメラにより撮像した図形と右カメラにより撮像した図形とでは形状が異なることとなる。この例として、ステレオ光学系で、長方形を撮像した場合を図1に示す。
【0007】
図1において、比較し易くするため、左カメラを対象図形の真上に設置し、右カメラの光軸のみを傾けた配置とする。右カメラではカメラに近い部分の図形部分が、カメラに遠い図形部分より拡大されて撮像される。このように、画像処理にステレオ光学系を応用した例では、左カメラに撮像される図形と右カメラに撮像される図形は、同一(相似形)にはならない。
【0008】
このように、ステレオ光学系を使用して3次元座標を測定する場合には、対象物上の1点を、左カメラの画像データと右カメラの画像データとで同一点として対応をとらなければならない。既述の図1において示されるように、長方形の1つのコーナーでも、斜め方向から(右カメラで)撮像された画像データでは直角とはならない。このようなコーナーを画像モデルとして使用すると、右カメラの画像データからは近似的位置しか得られない。
【0009】
このため、図1の右カメラの画像データから、長方形の中心位置を求めるには、
1)四隅コーナーを(コーナー画像モデルを使用して)近似的に求める、
2)四辺の直線を求める、
3)四隅コーナーの座標を精度よく求め直す、
4)四隅コーナーの座標から長方形の中央座標を求める、
の手順を踏まなければならない。
【0010】
一方、対象物の真上から撮像した画像については、長方形の中央座標を原点として長方形画像モデルを作成すれば、一回のサーチで中央座標を求めることができる。
【特許文献1】特開2004−061446号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、左カメラも傾いて配置した場合には、右カメラと同様の手順で求めなければならない。このように対象物に対して、カメラが正対方向に配置されていない場合には、人工画像モデルを使用しても、対象物の特徴的位置を直接測定できないという問題がある。
【0012】
この状況を図2により更に解り易く示す。図2に示されるように、左右のカメラが鉛直軸に対して傾いていると、同図に示されるように、長方形は四辺形(台形)となってしまう。既に図1に示したが、図2にも示されるように、四辺形の角(コーナー)も直角ではない。
【0013】
そのため、パターンマッチングでは、コーナーの頂点位置を正確に求められないという問題がある。また、長方形の中心を求めるには、左画像及び右画像のそれぞれに対し、何回かの処理を行わなければならない。なお、図1の説明では、4回処理することを述べたが、四辺を簡単に求められれば処理回数を減らせる。
【0014】
単純な図形の場合には、図形の特徴を生かして、測定しようとする点の座標を求めることもできるが(たとえば中央位置)、大変難しい場合もある。更に、複雑な図形の場合には、簡単に求められないことが多くなる。また、基本的に正確に求められない場合もある。この例としては、円の中心点がある。これについては後述する。
【0015】
このように、複数のカメラで撮像することは、投影変換していることと同等であり、必ず投影歪みが含まれることとなる。ステレオ光学系を用いて3次元測定する場合には、このような点がネックとなっている。
【0016】
次に、本発明が解決しようとする他の課題について説明する。ここでは、測定対象物として平面図形を取り上げる。以降、対象物と記述した場合には、平面図形を意味するものとする。
【0017】
既述したように、対象物に対して正対の位置から撮像(対象物に垂直となる線上から撮像)された画像データは、対象物と相似形となるが、対象物を斜め方向から撮像した画像データでは、一般的に対象物と相似形にはならない。すなわち対象物の直角の部分は、斜め方向から撮像した場合には画像データ上では直角とはならない。これについては、図1に右カメラを例として示した。
【0018】
人工画像モデルとしてパターンマッチングに使用する画像モデルを作成するとき、このことは大きな問題となる。図1では長方形を例としたが、斜め方向から円を撮像した場合、楕円とはならない。図3に示されるように、左側は楕円より矢印の向きに膨らみ、右側は楕円より矢印の向きに痩せるように変形する。また円の中心位置も少し右にずれる。
【0019】
人工画像モデルには、このような投影変換に伴う問題点が反映されていない(投影による歪みがある)。人工画像モデルとして図形を設計データ等から2次元的に変換した場合には、投影歪みは修正されない。円の中心点のように直線の関係から決められない点(位置)は、正確に画像モデルに反映できないし、画像データから正確に測定できないという問題がある。なお、長方形の中心のような単純な点以外の図形の特徴点についても同様の状況である。
【0020】
本発明はこのような状況を考慮してなされたもので、上記投影変換に伴う問題点を解決して、パターンマッチングに使用する人工画像モデルを作成すること、特に、3次元測定をするためのステレオ光学系を用いた画像処理システムにおいて上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる画像データ作成方法を提供することを目的とする。
【課題を解決するための手段】
【0021】
前記目的を達成するために、本発明は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法を提供する。
【0022】
本発明によれば、対象図形及びその周縁を撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0023】
投影変換とは、図20に示されるように、対象図形が位置する地上座標系(X、Y、及びZ座標)の対象点Pをカメラ座標系(x、y、及びz座標)のカメラにより写真座標系(x及びy座標)に投影することを意味する。これらの各座標系間の共線条件式は公知である(たとえば、「写真による三次元測定(1983年共立出版)」に詳しい。)。
【0024】
図20において、投影中心の地上座標は(X0、Y0、Z0)であり、画面距離はcであり、p(x、y)は対応する写真の写真座標である。
【0025】
ここで、撮像カメラの撮像位置パラメータとしては、撮像レンズに理想的なレンズを使用する場合には、カメラ撮像位置の3次元座標(図20のxp、yp、及びzp)、各座標軸回りの回転角度(ω、φ及びκ)の6パラメータであり、通常の撮像レンズを使用する場合には、この6パラメータの他に、レンズ焦点距離とカメラの主点(X及びY)を加えた9パラメータである。
【0026】
なお、投影変換自体は、上記のように公知の技術である。しかし、パターンマッチングのモデルとしては、一般的に2次元データをそのまま使用するものしかない。本発明は、パターンマッチングのモデルとして、投影変換して作成した画像データをモデルとするものである。これにより、斜め方向から撮像した画像データに対しても、精度のよいパターンマッチングが行える。
【0027】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、CADデータを有する前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法を提供する。
【0028】
本発明によれば、対象図形及びその周縁を撮像した際に撮像カメラの結像面に投影される投影画像の画像データを得るために、CADデータと撮像カメラの撮像位置パラメータを用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0029】
特に、対象図形が円や矩形のような比較的単純な図形でない場合に、CADデータを使用できるので、画像データの作成が容易となる。なお、CADデータを投影変換して画像モデルとしているものは、従来見られず、本発明が初めて取り入れるものである。
【0030】
本発明において、前記対象図形のCADデータとして、該対象図形の特定位置データを有し、該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことが好ましい。このように、対象図形の特定位置、たとえば、対象図形が円である場合に円の中心、対象図形が矩形である場合に矩形のコーナーを基準位置として、関係付けておけば、対象図形の特定位置を容易に求めることができる。
【0031】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記それぞれの結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法を提供する。
【0032】
本発明によれば、複数台の撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、それぞれの撮像位置パラメータを用いて対象図形及びその周縁をそれぞれ投影変換し、対象図形の3次元画像データを得る。したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0033】
すなわち、3次元測定を目的としたステレオ光学系では、投影変換した画像データから画像モデルを作成しないと、精度よく画像計測できない。これに対し、本発明は、この課題を解決するものである。
【0034】
なお、「3次元画像データ」とは、ステレオ光学系を使用して3次元測定を目的とした画像データのことを指す。
【0035】
また、前記目的を達成するために、本発明は、パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、CADデータを有する前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法を提供する。
【0036】
本発明によれば、複数台の撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、CADデータとそれぞれの撮像位置パラメータを用いて対象図形及びその周縁をそれぞれ投影変換し、対象図形の3次元画像データを得る。
【0037】
したがって、上記の問題点が解消され、投影歪みの影響を取り入れた画像モデルを作成できる。
【0038】
特に、対象図形が球や直方体のような比較的単純な図形でない場合に、CADデータを使用できるので、画像データの作成が容易となる。
【0039】
本発明において、前記対象図形のCADデータとして、該対象図形の特定位置データを有し、該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことが好ましい。このように、対象図形の特定位置、たとえば、対象図形が三角錐である場合に頂点、対象図形が直方体である場合にコーナーを基準位置として、関係付けておけば、対象図形の特定位置を容易に求めることができる。
【発明の効果】
【0040】
本発明によれば、投影歪みの影響を取り入れた画像モデルを作成できる。
【発明を実施するための最良の形態】
【0041】
以下、添付図面に従って本発明に係る画像データ作成方法の好ましい実施の形態(第1の実施形態)について詳説する。
【0042】
本発明の第1の実施形態は、パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に、この撮像カメラの結像面に投影される投影画像の画像データを得るために、この撮像カメラの撮像位置パラメータを(場合によっては、対象図形のCADデータも)用いて対象図形及びその周縁を結像面上に投影変換し投影変換された画像データを得る画像データ作成方法である。
【0043】
すなわち、測定対象空間(3次元座標系)に測定しようとする特定図形(2次元平面図形)を配置して(3次元座標を与えて)、撮像カメラの撮像位置パラメータを用いて、撮像カメラの画像データ上に特定図形を投影変換する。画像データ上で、この特定図形を含む少し広い範囲を切り出し、パターンマッチングのための画像モデルとする。
【0044】
撮像カメラの撮像位置パラメータとしては、既述の図20により説明したように、撮像レンズに理想的なレンズを使用する場合には、カメラ撮像位置の3次元座標(図20のxp、yp、及びzp)、各座標軸回りの回転角度(ω、φ及びκ)の6パラメータであり、通常の撮像レンズを使用する場合には、この6パラメータの他に、レンズ焦点距離とカメラの主点(X及びY)を加えた9パラメータである。
【0045】
以下、図を用いて説明する。既述の図2に示されるように、撮像カメラに対して測定対象とする構造物を配置する。撮像カメラは、測定空間に対して前もってキャリブレーションして、撮像位置パラメータを求めておく。撮像位置パラメータは、既述の9個のパラメータであるが、レンズ焦点距離が短い場合には、光学系の歪を補正するパラメータも用いる。
【0046】
測定対象とする構造物を配置することは、測定対象図形(2次元平面図形)の3次元座標を与えることと同等となる。測定する図形の3次元座標が与えられると、その図形を投影変換して撮像カメラの画像データとして計算により求めることができる。すなわち図2で、左カメラの画像、右カメラの画像を示した画像データを作成することができる。
【0047】
この場合、測定対象図形を含む少し広い範囲を、パターンマッチングに使用する画像モデルとする。画像モデルとするときに、長方形の中心点を画像モデルの原点としておけば、図2の例では一回サーチするだけで、長方形の中心点を画像データから測定できる。
【0048】
この方法で問題となる点は、初めに測定対象図形(2次元平面図形)の3次元座標を与えたことである。この影響を調べるために、図4に示されるように、カメラの位置を少し移動させてみる。カメラの位置を少し移動させると、投影変換された画像データ上の図形は変形するが、大きな変形ではない。
【0049】
カメラが対象物の方向へ移動すると、図4に示されるように、台形の長い辺の長さと短い辺の長さとの比が少し1に近くなる。しかし、図形としての変形は小さいので、パターンマッチングの画像モデルとして使える。すなわち、充分によい結果が得られる。
【0050】
このことは、測定対象図形とカメラの3次元位置について、相対的に小さい差異があっても、パターンマッチングのモデル画像とできるということを意味する。そしてこのような画像モデルを用いると、直方体の上面の長方形をパターンマッチングでサーチする場合に、図2で示したような左右のカメラの画像データに対して、直接サーチできる画像モデルとなる。すなわち、理論的には多少の誤差を生じているが、実用的な意味においては充分にパターンマッチングのモデル画像として使用できる。
【0051】
しかし、画像モデルが初めに仮定した位置と大きくズレる場合には、正しい結果が得られる訳ではない。すなわち、測定位置をチェックする必要がある。
【0052】
構造物の設計図はCADにより作成されるのが一般的であり、測定対象図形の近似的位置を与えることができるということは多くの場合可能である。
【0053】
本実施形態においては、測定対象物と撮像カメラとの3次元的位置関係をシミュレーションして、測定しようとする図形(2次元平面図形)を画像モデルとして作成する。構造物は部品から構成されているが、CADシステムでは部品の設計図や構造物全体の組立図も作成されている。したがって、構造物の位置を与えれば、測定しようとする部品の特定図形(平面図形)の3次元的位置は、CADシステムから容易に得られる。
【0054】
本実施形態によれば、このようにCADシステムを利用して、測定しようとする図形(2次元平面図形)の充分に良好な近似位置から、投影変換により画像モデルを作成する。その結果、対象物の位置を正確に測定できる。
【0055】
次に、具体的な画像データ作成方法について説明する。
【0056】
直方体を真上からカメラで撮像すると、直方体上面の長方形は画像データ上で相似形の長方形となる。すなわち、測定しようとする図形が撮像カメラの光軸に対し垂直であると、撮像された図形はもとの図形と相似形となる。このような場合には、CADデータのような設計データから、2次元的に変換することにより、パターンマッチングに用いる画像モデルを作成できる。
【0057】
しかし、測定しようとする図形が撮像カメラの光軸に対し垂直でないと、撮像された図形は投影歪をもつこととなる。本実施形態によれば、このような状態であっても、パターンマッチングに用いる画像モデルを作成できる。
【0058】
図5に、斜め方向から直方体を撮像する状態の断面図を模式的に示す。直方体の上面の点(図5に+で示す)は、カメラ撮像位置(1点である)を通って、光軸に垂直な撮像面(CCD面)との交点に撮像される。図5においては、この対応関係をA→A’、B→B’…のように示してある。なお、図5は断面図なので、Aは点ではなく、実際はむしろ断面に垂直な線を示していることとなる。
【0059】
図5において撮像される画像は、既述の図4に示されるように、台形となる。台形では、図5から解るようにEに対応する線分の方が、Aに対応する線分よりも長くなる。次に、図6に、撮像される直方体の上面の長方形(撮像されて台形となる)を模式的に示す。図6において、1つの桝目は1画素を示す。通常の画像データでは、1画素は同じ明るさ(数値)で0〜255までの256階調となる。
【0060】
投影変換を用いた画像作成方法を説明するため、図6においては、1画素より細かい図形を描いてある(これは実際にはありえない)。図6においては、長方形の四隅が判るように描いてある。
【0061】
画像データの明るさとしては、1画素に含まれる台形の面積×255を明るさとする。すなわち、図6の1画素にどれだけの台形の面積が含まれるかを算出すれば、図6の画像データの各画素の明るさが得られる(図6では、見やすくするため、背景を白、台形部分を黒としているので、説明文とは明るさが反転している)。
【0062】
このとき、直方体の上面の長方形の中心点を、同様に画像データ上に投影して、画像データ上での座標値を求め、画像モデルの原点として登録すると、この画像モデルを用いてサーチすれば、長方形の中心点を直接求めることができる。
【0063】
次に、実際の処理フローを図7に示す。先ず、CADデータ等から、測定する図形データを点列の形にする(ステップS−10)。測定する図形が長方形であれば4点の点列とする。測定する図形が曲線の場合には、曲線の特徴を表す点数の点列とする。たとえば円の場合には、100〜1000点程度で表す。
【0064】
これまで、図形として平面位置だけの2次元データとしていたが、測定対象の構造物上では、図形は基本的に3次元位置を持つ。このように、設計図としてのCADデータから図形として3次元位置データを取り出すことは容易に行える。
【0065】
上記の点列データとしては(X、Y、Z)の形式とする。既述の図5に示されるように、投影変換される図形はA〜Eの範囲にあり、画像データ上ではA’〜E’の範囲となる。
【0066】
次いで、対象とする図形の画像データの範囲を決める(ステップS−12)。具体的には、図形の各点をテスト的に投影変換することにより求める。画像データの範囲が決められると、図6に示されるように、モデル画像を作成する画像データの大きさが決められる。画像データの大きさが決められたら、画像データの各画素についての明るさを求めるため(画像データを作成するには各画素の明るさが必要)、各画素における図形の面積が求められる。
【0067】
各画素における図形の面積を求める方法について図8を用いて説明する。図8の枡は、図6における1画素(図6において、「図8で説明に使う画素の例」として示した)に対応する。図8でピックアップする点の条件は、図7のフローのステップS−14に示した1)〜3)までの条件である。
【0068】
図8では、図形を4点A、B、C、Dで示し、当該画素は4点1、2、3、4で形成されるとする。
【0069】
図7のフローのステップS−14において、先ず、
1)図形の点列データが当該画素に含まれるか、という条件では、図形の点Cがこれに該当し、ピックアップ(抽出)される。次いで、
2)点列と点列を繋ぐ線分が当該画素四辺と交点があるか、という条件では、直線1−2と直線A−Cの交点としてのa、及び、直線2−4と直線C−Dの交点としてのbがピックアップ(抽出)される。そして、
3)当該画素の四隅点が図形の内部となるか、という条件では、画素を構成する点2がピックアップ(抽出)される。
【0070】
このようにピックアップ(抽出)された点を、次のステップ(ステップS−16)で時計周りにa→C→b→2と並べ替える。並べ替えられた点を一周すると、当該部分の面積が得られる(ステップS−18)。
【0071】
当該画素が図形に含まれる場合は明るさ(数値)を255(面積を1.0:画素間隔を1.0として)とし、当該画素に図形を全く含まない場合には明るさ(数値)を0とする。このように図7のフローに従って、図6の画像データの各画素の明るさを求めると、図6に模式的に示した画素データを作成することができる(図6では、見やすくするため、明るさを反転している)。
【0072】
また図形の中心点等の特徴点(図形のコーナーの点でもよい)を投影変換して画像モデルの原点とすれば、パターンマッチングの結果から直接的にその測定点の位置を求めることができる。
【0073】
ステップS−14において行われる、着目する点Oが四辺形の内部に含まれるか否かを調べる方法を、図9を参照して説明する。図9(A)は、O点が四辺形EFGHの内部にある場合を示す図であり、図9(B)は、O点が四辺形EFGHの外部にある場合を示す図である。四辺形EFGHのE点を出発して辺上をE点、F点、G点、H点の順に通るように動く点があるものとする。このときE点からF点に進む間に張る角度θ1をE点からF点へ向かう方向を正の方向にとって計る。
【0074】
同様に、F点からG点に進む間に張る角度をθ2、G点からH点に進む間に張る角度をθ3、H点からE点に進む間に張る角度をθ4として、それぞれ起点から到着点に向かう方向を正の方向にとって計るものとする。
【0075】
図9(A)に示すO点が四辺形EFGHの内部にある場合は、θ1+θ2+θ3+θ4は2πとなる。一方、図9(B)に示すO点が四辺形EFGHの外部にある場合は、θ1+θ2+θ3+θ4は0となる。また、図示していないが、O点が四辺形EFGHの辺上にある場合は、θ1+θ2+θ3+θ4はπとなる。
【0076】
以上説明したように、θ1+θ2+θ3+θ4を求めて、その値が、2πか、0か、あるいはπのいずれかであるかを知れば、着目するO点が四辺形EFGHの内部に含まれるか否かを調べることができる。
【0077】
次に、図10及び図11を参照して、線分と線分の交点を求める場合の規約を説明する。図10には、線分同士が重ならない場合を図示してあり、図11には線分同士が重なる場合を図示してある。
【0078】
図10(A)に示されるように線分の延長線上において交点が存在する場合は、交点が存在しないものとして扱う。交点が存在すると判断するのは、図10(B)に示されるように、線分の存在する範囲内で交点が存在する場合である。図10(C)で示されるように、線分の端点が交点である場合も、交点が存在すると判定するものとする。図11に示される場合のように、一の線分1と他の線分2とが重なる場合は、交点として2点をピックアップするものとする。
【0079】
次に、本発明に係る画像データ作成方法の他の実施の形態(第2の実施形態)について説明する。既述の第1の実施形態においては、測定対象とする図形が長方形(直線で形成される図形)の場合を取り上げたが、本実施形態においては、測定対象とする図形が曲線の場合を取り上げる。
【0080】
図12に、対象図形が円の場合を模式的に示す。図12では、円周上に何点か選び出し、それらの点に+印をつけて表示した。表示された各点は、投影変換されて(図12では、カメラ撮像位置を通る直線で示す)、カメラ(CCD)撮像面上の1点となる。なお、撮像面は断面図として描いている。点列データは第1の実施形態でも記述したようにX、Y、Zの3次元座標とする。
【0081】
図12から容易に想定されるように、図形を点列の形(+位置の点列で図形とする)で表現できれば、円の場合も長方形の場合と全く同じように、図7のフローでモデル画像を作成できる。CADデータでは、円は中心の座標と半径とで表される。そして、CADデータから容易に3次元点列データに変換できる。この場合、円の中心座標、半径、及び円の向き(3次元の方向)から3次元座標の点列データを作成すればよい。
【0082】
点列データとしては100〜1000点であれば、モデル画像を作成するために充分である。CADデータで表現されるデータは、一般的に点列データに変換可能である。またもともと点列データで表現された図形に対しては、問題なく適用できる。
【0083】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第3の実施形態)について説明する。既述の第1の実施形態においては、測定対象とする図形が長方形(直線で形成される図形)の場合を取り上げたが、本実施形態においては、測定対象とする図形が、2つの図形を組み合わせた場合を取り上げる。
【0084】
図13に、直方体の2つの上面を投影変換して画像データを作成する状態を模式的に示す。図13において、直方体1の上面と直方体2の上面の長方形がカメラ(CCD)撮像面に投影されている。すなわち、図13では、2つの長方形上のそれぞれ5点が、カメラ撮像位置の1点を通る直線で、カメラ撮像面に投影されている。
【0085】
撮像された図形(投影変換で作成された図形)を図14に示す。初めに、下側の直方体2の上面について投影変換して画像が作成される。すなわち、図7のフローを実施する。この結果を灰色で表示する。
【0086】
次に、上側の直方体1の上面について投影変換して画像が作成される。すなわち、図7のフローを再度実施する。この結果を黒色で表示する。
【0087】
既述の第1の実施形態においては、1つの画素の明るさを、1画素に含まれる台形の面積×255としていた。これに対し、本実施形態のように、2つの図形を投影する場合には、画像データ上での明るさの違いにより、図形を区別する必要がある。図14に示されるように、中間の諧調で1つの図形を表すため、下側の図形の1画素の明るさを、1画素に含まれる下側台形の面積×127とし、上側の図形の1画素の明るさを、1画素に含まれる上側台形の面積×127+128となるように変換する(図6と同様に、見やすくするため、明るさを反転している)。
【0088】
図14では、中間の諧調(128段階の明るさ)を用いて2つの図形を組み合わせた画像を作成したが、実際の実行にあたっては、128段階の明るさの表示を変更することも必要となる場合がある。すなわち、上側の図形の明るさと下側の図形の明るさは、実施の条件にあわせて変更できるようにしておくことが好ましい。
【0089】
また、照明光がある場合には、下となる部分には必ず影ができることとなる。この影の大きさは、照明の条件により変わる。したがって、想定されるより大きめに影の領域を設定して、Don’t Care 画素とすることが好ましい。市販されている画像処理ソフトウエアで、Don’t Care 画素をサポートするものも多い。そのようなソフトウエアを使用すると、パターンマッチングでは、Don’t Care 画素はマッチング度合いの評価に反映されない。
【0090】
図15に、斜めハッチングでDon’t Care 画素を領域として示した。市販されている画像処理ソフトウエアでは、画像モデル登録用の画像データとDon’t Care 画素登録用の画像データとを別々に指定する必要がある。そのようなソフトウエアでは、図14と図15において、Don’t Care 画素領域のみの画像を用いればよい。
【0091】
本実施形態において、画像モデルの原点として、上側の直方体の上側長方形の中心点を用いるため、その点を投影変換し、図14において白抜きの+で示す。
【0092】
本実施形態では、2つの図形が平行である(図13に示されるように、2つの長方形が水平に位置している)が、2つの図形がそれぞれ勝手な方向を向いていても問題はない。すなわち、このような場合であっても、図7に示されるフローで画像データを作成できる。
【0093】
なお、これまでの説明の際、図5、図12、及び図13において、撮像するカメラの光軸を描いたが、投影しようとする図形の法線方向とこの光軸との交差角度は30度以内であることが望ましい。この交差角度は、2つの方向ベクトルから方向余弦を求めれば得られる。この方向ベクトルの向きを考慮すると、交差角度としては150〜180度の範囲が望ましい。これは、2行上で30度以内の意味である。交差角度が90度に近い角度となると、カメラの位置が少し変位しても、投影変換される図形の形が大きく変わるので、このような交差角度は好ましくない。
【0094】
なお、本実施形態において、2つの図形のみならず、図形を3つ以上にすることも容易に行えるが、3つ以上の図形の場合には、以下に記述する第4の実施形態の方が簡単に対応できる。
【0095】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第4の実施形態)について説明する。本実施形態は、画像モデルを線図形とする例である。既述の第1の実施形態から第3の実施形態までは、作成された画像データを直接画像モデルとして使用した。これに対し、本実施形態では、作成された画像データから、再度図形としての特徴を線として抽出し、線図形をパターンマッチングのモデルとして使用する。
【0096】
先ず、既述の図14の画像データを使用して、図16(右側)に示されるように、図形の特徴を線として抽出する。そして、図16(左側)に示す線図形をパターンマッチングのモデルとして用いる。図16において左側の図と右側の図の差異は、図形の四隅位置における画素の取り扱い方によるものである。
【0097】
既述の図14の画像データでは、1画素が最小単位である。この1画素において、ある一定の方向と画素内での位置で特徴線の位置を記述すると、図16の左側の図形となる。一方、図14の画像データを微分して直接得られる形状は、図16の右側の図形である。なお、四隅位置の画素では2方向となるが、このような画像処理は、複雑になるので好ましくない。そのため、図16の両方の図形を示した。
【0098】
本実施形態において、線図形をパターンマッチングのモデルに使用するには、たとえばCOGNEX社から市販されているソフトウエア(商品名:PATMAX)によるサポートで実施できる。この場合、図14をモデル画像として設定すると、図16(左側)で示される図形がモデルとして作成される。上記のソフトウエア(PATMAX)では、モデル設定方法を変更(これには、プログラムを変更する必要がある)するだけで、図14のような画像モデルと図16(左側)のような線図形モデルとを使い分けることができる。
【0099】
このように、画像モデルを線図形とした場合のメリットについては、COGNEX社の資料に詳しいので、説明は省略する。
【0100】
本実施形態において、画像モデルを線図形とした例を取り上げたのは、対象図形を3つ以上の図形とした場合にも容易に対応できるからである。既述の第3の実施形態で説明したように、3つ以上の図形を投影変換するには、それぞれの図形に対応した明るさを決めなければならない。対象物上で3つの図形それぞれの明るさが画像データとして充分に識別できるときには、第3の実施形態と同じやり方でよい結果が得られる。
【0101】
しかし、傾きや方向の異なる図形では、同一図形上でも明るさが少しづつ変化する場合がある。そのような場合には、形状がほぼ同じでも、明るさ分布が異なることとなる。そして、明るさ分布が異なると、パターンマッチングのスコアは低下することとなる(画像として合致しないこととなる)。
【0102】
3つ以上の図形を用いて投影変換により画像データを作成する場合、それぞれの図形に対する諧調の違いは小さくなる。図16(左側)の線図形は、画像データにおいて大きな諧調差がなくても、フィルター等で強調すれば得られる。そして線図形の画像モデルを用いると、形がほぼ同じで、明るさ分布が違う場合でも、良好な結果が得られる。図16左側に示されるような線図形だけで、パターンマッチングを実施できると、作成された画像データの生の明るさは反映しない。したがって、本実施形態は、このような場合に、メリットがある。
【0103】
次に、本発明に係る画像データ作成方法の更に他の実施の形態(第5の実施形態)について説明する。本実施形態は、構造物の外形を線図形画像モデルとする例である。既述の第4の実施形態では、線図形を画像モデルとする場合についての例を示したが、本実施形態では、構造物の外形を線図形画像モデルとする場合について説明する。
【0104】
構造物として図17に、四面体を例として取り上げる。図17に示されるように3次元CADでは、四面体を構成する4つの平面の方向(各頂点の座標)は、設計データとして与えることができる。図17において、四面体の頂点をA、B、C、及びDとし、四面体の重心位置をEとする。また四面体の4つの三角形の方向ベクトル(平面の法線ベクトル)が図17に矢印で示されている。
【0105】
図17において、撮像方向ベクトルと四面体の平面方向ベクトルとの交角が90度より大きい平面のみが、四面体の外形データとしてモデル画像に寄与する。図17の場合には、三角形ABDと三角形ADCの2つが寄与する。撮像方向ベクトルと平面方向ベクトルとの交角はベクトルの内積を用いて簡単に算出できる。
【0106】
先ず、構造物を形成する4つの図形を順番に呼び出し、図7で示された画像データ作成のフローを実施する。画像データ作成の前に、撮像方向ベクトルとこの図形の平面方向ベクトルとの角度を計算し、該当しない場合には、画像データ作成のプロセスをパスする。図18にこのようにして作成される画像データを示す。
【0107】
平面図形の方向ベクトルを用いて、画像データ作成プロセスをパスするか否か既に決めてあるので、図7の画像データ作成フローの「画素の明るさの決定」(ステップS−18)において当該画素に寄与するすべての図形からの面積を加え合わせれば、このフローを実行できる。
【0108】
図18の画像データは、1画素より細かい図形データを示しているが、図6の説明で記述したように解釈する。すなわち、投影変換を用いた画像作成方法を説明するため、図18においては、1画素より細かい図形を描いてある
既述の第2の実施形態では、2つの図形を明るさで識別したが、本実施形態においては、明るさで識別(区別)しない。図18の画像データから線図形を抽出すると、図16の説明で記述したように、四つの頂点については2方向になるので、特徴線分を使用しない。なおCOGNEX社のソフトウエアでは、この点を特別に処理しなくてよい。また、本実施形態においては、四面体の重心位置を画像モデルの原点とする。この四面体の重心座標を投影変換して画像データ上に示す(図18に白抜きの+で示す)。
【0109】
図18に示される画像モデルは、ステレオ光学系で対象物の3次元測定する場合に有効である。四面体の重心位置は、通常の画像処理では測定できないが、本発明の画像モデルを用いて、撮像点の異なる2つ以上の画像データをサーチして(それぞれの画像でモデル画像を別々に作成・登録して)、その結果から直接対象物の3次元座標を得ることができる。すなわち、3次元座標値をサーチ結果から直接算出できる。このような画像モデルを用いると、直接見えない点(位置)の測定も実施できる。
【0110】
次に、カメラの撮像位置パラメータについて図19により説明する。この説明は、一部で既述の図20の説明と重複する。カメラの撮像位置パラメータとしては、カメラ撮像位置(Xc、 Yc、 Zc)、カメラ撮像の方向(X軸周りの回転角度、Y軸周りの回転角度、Z軸周りの回転角度:Rx、Ry、Rz)、主点位置(画像データの中心点とカメラ光軸との差異Xo、Yo)及びカメラ焦点距離(f)の9つを用いる。
【0111】
これらの9つのパラメータは、基準とする座標系で3次元位置が既知である点を、撮像して得られた画像データ上で精密に測定すれば、公知の文献(たとえば、「写真による三次元測定(1983年共立出版)」)に基づいた式から算出できる。この場合、画像データ上の位置(画像データ上での座標)と3次元座標が既知である点を5点以上測定すればよい(3次元的に配置する必要あり)。
【0112】
図19に、カメラ撮像位置パラメータのキャリブレーション方法を概念的に示す。図19では、座標系を決める面を基準面とし、その面に平行に第二基準面、第三基準面を設け、これら3つの面上に座標が既知の点9点を配置した。これらの9点は、図19において直線で示されるように、画像データ上に撮像される。これらの9点の画像座標を精密に測定すれば、カメラ撮像位置パラメータが得られる。
【0113】
この測定の精度を高めるためには、当然のことであるが、3次元座標が正確であること、すなわち、3次元座標を精密に測定すること、及び画像データ上で精密に測定すること(目安としては1/10画素より高い測定を行うこと)が必要である。また、測定点数を増やすこと、及び3次元的に測定点を分布させることも必要である。
【0114】
また必要により光学系の歪みも補正することが好ましい。歪みを補正する方法、パラメータについても、1例が既述の公知文献に記述されている。そして、本発明の各実施形態を実施する前に、カメラの撮像位置パラメータをキャリブレーションしておくことが必要である。
【0115】
以上説明したように、本発明によれば、投影歪みの影響を取り入れた画像モデルを作成できる。斜め方向から撮像された画像データは必ず投影歪みがあるので、本発明は斜め方向から撮像された画像データをパターンマッチングするのに大変有効となる。CADデータを読み取れるように画像処理システムを整えておけば、測定を実施しようとするときに、CADデータから画像モデルを作成できる。
【0116】
また3次元測定を実施するためのステレオ画像処理システムでは、ステレオ光学系の一方または、両方とも斜め方向から撮像することとなるので、本発明は大変有効な手段となる。
【0117】
以上、本発明に係る画像データ作成方法の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、各種の態様が採り得る。
【図面の簡単な説明】
【0118】
【図1】ステレオ光学系で長方形を撮像した状態を説明する概念図
【図2】ステレオ光学系で長方形を撮像した他の状態を説明する概念図
【図3】斜め方向から円を撮像した状態を説明する概念図
【図4】対象物を撮像しカメラの位置を少し移動させた状態を説明する概念図
【図5】斜め方向から直方体を撮像する状態を説明する断面図
【図6】撮像される直方体の上面の長方形を模式的に示す図
【図7】画像データ作成の処理フローを示す図
【図8】各画素における図形の面積を求める方法について説明する図
【図9】着目する点が四辺形の内部に含まれるか否かを調べる方法について説明する図
【図10】線分と線分との交点の有り無しの判定について説明する図
【図11】線分と線分とが重なる場合について説明する図
【図12】斜め方向から曲線図形を撮像する状態を説明する図
【図13】直方体の2つの上面を投影変換して画像データを作成する状態を模式的に示す図
【図14】撮像される直方体の上面の複数の長方形を模式的に示す図
【図15】撮像される直方体の上面の影となる部分を模式的に示す図
【図16】線図形をパターンマッチングのモデルとして使用する状態を説明する図
【図17】構造物の外形を線図形画像モデルとする場合について説明する図
【図18】構造物の外形を線図形画像モデルとする場合について説明する図
【図19】カメラの撮像位置パラメータについて説明する図
【図20】投影変換の原理について説明する図
【特許請求の範囲】
【請求項1】
パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、
前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法。
【請求項2】
パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、
CADデータを有する前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法。
【請求項3】
前記対象図形のCADデータとして、該対象図形の特定位置データを有し、
該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことを特徴とする請求項2に記載の画像データ作成方法。
【請求項4】
パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、
前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記それぞれの結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法。
【請求項5】
パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、
CADデータを有する前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法。
【請求項6】
前記対象図形のCADデータとして、該対象図形の特定位置データを有し、
該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことを特徴とする請求項5に記載の画像データ作成方法。
【請求項1】
パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、
前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法。
【請求項2】
パターンマッチングのための対象図形の画像データを得る画像データ作成方法であって、
CADデータを有する前記対象図形及びその周縁を所定位置に設けられた撮像カメラで撮像した際に該撮像カメラの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データを得ることを特徴とする画像データ作成方法。
【請求項3】
前記対象図形のCADデータとして、該対象図形の特定位置データを有し、
該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことを特徴とする請求項2に記載の画像データ作成方法。
【請求項4】
パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、
前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記それぞれの結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法。
【請求項5】
パターンマッチングのための対象図形の3次元画像データを得る画像データ作成方法であって、
CADデータを有する前記対象図形及びその周縁を所定位置に設けられた複数台の撮像カメラで撮像した際に該撮像カメラのそれぞれの結像面に投影される投影画像の画像データを得るために、前記CADデータと該撮像カメラのそれぞれの撮像位置パラメータを用いて前記対象図形及びその周縁を前記結像面上に投影変換し投影変換された画像データにより前記対象図形の3次元画像データを得ることを特徴とする画像データ作成方法。
【請求項6】
前記対象図形のCADデータとして、該対象図形の特定位置データを有し、
該対象図形の特定位置を基準位置として、前記投影変換された画像データと関係付けておくことを特徴とする請求項5に記載の画像データ作成方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2006−338167(P2006−338167A)
【公開日】平成18年12月14日(2006.12.14)
【国際特許分類】
【出願番号】特願2005−159947(P2005−159947)
【出願日】平成17年5月31日(2005.5.31)
【出願人】(596117887)株式会社テクノホロン (6)
【Fターム(参考)】
【公開日】平成18年12月14日(2006.12.14)
【国際特許分類】
【出願日】平成17年5月31日(2005.5.31)
【出願人】(596117887)株式会社テクノホロン (6)
【Fターム(参考)】
[ Back to top ]