説明

ボール部品の認識方法及び装置

【課題】難認識で知られる非格子配置(ランダム配置)BGAに対して、強力な認識能力を発揮することが可能なボール部品の認識方法及び装置を提供する。
【解決手段】画像入力部と、ボールパターン認識部と、部品認識部と、制御部とから構成される部品認識装置を用いて、ボール部品を画像により認識する方法であって、画像からボール電極の座標を次々と抽出し、画像抽出電極とボールパターン定義電極を結合したデータを節とするグラフでなる経路を生成して格納し、経路を入力として、ボールパターン定義電極について画像上に存在予測領域を出力し、画像抽出電極座標と前記予測領域の包含を判定し、包含されると判定されたとき、節を追加して経路を成長させ、経路とボールパターンを照合する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ボール部品の認識方法及び装置に係り、特に、電子部品の表面実装装置における画像によるボール電極部品(BGA)の認識に用いるのに好適な、BGAの中でも、特に、難認識で知られる非格子配置(ランダム配置)BGAに対して強力な認識能力を発揮することが可能なボール部品の認識方法及び装置に関する。
【背景技術】
【0002】
電子部品の表面実装装置において、電子部品は部品供給装置(フィーダ)から供給され、吸着ノズルにより吸着されて回路基板に実装される。吸着ノズルは、必ずしも正しい姿勢で電子部品を吸着するとは限らないので、通常CCDカメラ等により吸着部品が撮像されて部品認識が行なわれ、正しい姿勢で吸着されていない場合には、認識結果に基づき位置補正や傾き補正等が行なわれている。
【0003】
図1に格子配置BGAの一例を示す。現在、市場のほとんどのBGAは格子配列である。図1において、実線の円15は、電極であるところの半田ボールである。ボールは、縦×横=4×5の格子位置に整列している。破線の円16は、欠けボール(存在しないボール)である。格子配列であるから、各ボールの位置は、例えば左上角の仮想ボール17を(0,0)とする縦方向の位置指標0,1,・・・と横方向の位置指標0,1,・・・で指定できる。
【0004】
部品認識のために適当なボールを選び、その中心座標に原点を置くUV座標系(部品座標系)を貼ることが多い。このときU方向のピッチPuとV方向のピッチPvが与えられる。
【0005】
図中FB(False Ball)は偽電極である。偽電極は、画像による認識のときに結果としてボールとして誤認識される異物の総称である。それは、パッケージ18の一部であったり、ボール間を走る配線パターンの形状であったりなど様々である。偽電極があると認識に支障が出ることが多いが、偽電極の混入は予測困難である。当然ながら認識すべきボールパターンの定義に偽電極は含まれていない。
【0006】
図2に、非格子配置BGAの一例を示す。電極の座標は乱れた位置にある。市場では少数派であるが、このような非格子配置BGAが存在し、その認識が困難であり、問題になりつつある。
【0007】
この非格子配置BGAにおいても、認識のために部品の適当な位置を選び、そこに原点を置くUV座標系を貼る。各ボールの位置はUV座標系で記述される。ボールの定義順は任意である。この例では、10個のボールが指標0,1,・・・,9で示す順に定義されている。
【0008】
なお、格子、非格子いずれの型においても、BGAの電極数は数個(5〜6個)から多いものでは2000個を越えるものまである。
【0009】
図3に部品認識の必要性を示す。電子部品実装装置(チップマウンタとも称する)のカメラにより撮像された入力画像1(白黒濃淡画像)があり、この中にBGA部品2の腹側(基板側)が映っている。部品を吸着するノズルが部品の背中を吸着するとき、位置ずれと回転ずれが入ることは避けられない。
【0010】
この部品が、基板の上の決められた位置に決められた角度で正しく載せられるためには、部品に貼り付けた座標系(UV座標系)の原点座標と傾きが、画像の座標系(XY座標系)で精度良く記述される必要がある。即ち、そのデータが分かれば位置補正と角度補正が可能となる。
【0011】
そのためには、UV座標系において、ボールの中心座標を持って定義されるボールパターンについて、各ボール電極の中心座標がXY座標で獲得されることが必要である。なお、画像においてボールパターン全体が十分に含まれるような探索領域3は予め分かっているものとする。
【0012】
従来の方式は、例えば特許文献1に見ることができる。図3において、特許文献1の方式では、最初にボールパターンの角の(正確には角付近の任意の)ボール6を抽出し、それを元に残りのボールを抽出することが特徴である。そのために小窓と呼ぶ独特の手法を用いている。
【0013】
小窓によるボール電極の中心座標の抽出方法については、特許文献2に詳しく記述されている。それによると、小窓は画像に被せる小さな円形領域であり、その中にボールの全体が完全に入っているとき、ボール電極の中心座標を抽出する。小窓の大きさはボールの直径から決まる。
【0014】
小窓を最初は部品2の角方向の探索領域3の隅4の位置に置き、小窓の中にボール像が存在するかどうかを調べる。存在しなければ左又は下に少しずらした位置で調べる。この探索は、規則正しく角から三角形状に広がるように行なう。そして、探索位置が小窓5の位置に来たとき、ボール電極6の中心座標が抽出される。
【0015】
最初に抽出されるボールは、必ずしもボール6とは限らない。例えばボール8かもしれない。そのため、予め入力ボールパターンを調べて、角を中心とした数個の電極を選んで候補電極としている。それにより最初に抽出されたボールが真の電極ならば、候補電極のどれかであることが高い確率で保証されるとしている。
【0016】
候補電極個々を中心として、周りの電極を画像から順次抽出し、観察された電極の配置とボールパターンを照合する。抽出電極の個数が増えてゆくに連れて、真の候補電極以外は矛盾が生じて消滅する。
【0017】
もし唯一つになるまで生き残った候補電極があれば、それが最初の抽出電極であったと結論する。即ち、このとき既にボールパターンの角を中心とした数多くの定義電極について、個々の電極から画像抽出電極への写像がある。これを基にUV座標系からXY座標系への精度の良い座標変換式を生成する。
【0018】
ボールパターンの残りの定義電極がもしあれば、生成された座標変換式で画像位置を予測した後、小窓を使って抽出する。部品に偽電極7があるときは、小窓により最初に抽出される電極は、この偽電極であるかもしれない。その場合、全ての候補が消滅して、偽電極の排除が行なわれる。
【0019】
即ち、基準位置、例えば左下角から最も遠い電極(7)を偽電極と見做して抹消し、その残りの電極集合のうちで左下角から最も遠い電極(6)を新たに最初の電極と見做して処理を続行する。偽電極排除を行なう限界回数は、ボールパターンの電極数等から適当に定めている。
【0020】
【特許文献1】特開2001−284900号公報
【特許文献2】特開2000−232299号公報
【発明の開示】
【発明が解決しようとする課題】
【0021】
しかしながら、上記の従来技術は、次のような問題点を有する。
【0022】
(1)偽電極対策が完全でなく、偽電極に弱い。
【0023】
まず、偽電極の個数に強く依存して認識時間がかかる。即ち、角付近に偽電極が多いと、最初の偽電極を抹消しても次に選ばれる電極が又偽電極であり、その次も又偽電極であり、・・・と続くことがある。その場合、真の電極に至るまでに長い時間がかかる。しかし、部品実装装置には搭載タクトがあり、一定の時間内に認識しなければならない。偽電極の個数に強く依存して認識時間がかかっていては、搭載タクトに間に合わなくなる恐れがある。従って、偽電極の個数に強く依存しないような方式が望まれる。
【0024】
次に、電極間内の相対位置関係が微妙にずれると、真の電極が偽電極と見做されることがあり、その排除を防止できない。そして、真の電極が抹消されてしまうと、それ以降の照合が難しくなり、認識できなくなる。即ち、ある真の電極(図3の電極6)から出発した場合、周辺電極の抽出中に偽電極(図3の電極10)が紛れ込むこともあるし、正しい電極であるが、その位置がずれて抽出される(実質的に偽電極と同じ)こともある。その結果、位置関係が狂い、候補電極全てが消滅することが起きる。このとき、左下角から最も遠い電極として、出発点である真の電極(図3の電極6)が偽電極と見做されて抹消されるが、これを防ぐことができない。従って、抽出電極を抹消することなく認識する方式が望まれる。
【0025】
(2)使い勝手が悪い。即ち、部品の中にはサイズの大きいものがあり、カメラの視野に入り切らないことがある。
【0026】
このとき敢えて従来方式で認識しようとすれば、図4に例示する如く、ノズル11で部品2を吸着した後、カメラの視野を部品2の角の方向にオフセット移動し撮像する。次に撮像した部品の部分画像(角部が映っている)12で認識する必要がある。
【0027】
しかし、このとき認識において使うことのできるボールパターン(電極の個数)が小さすぎて、位置決め認識できないことがある。
【0028】
即ち、画像による認識が安定して行なわれるためには、部品2が吸着ノズル11により吸着されるときに必ず発生する位置のずれと角度のずれに拘わらず、如何なるときにも必ず含まれるような最大のボールパターンが必要で、それが大きいほど良いことは言うまでもない。
【0029】
一般にボールパターンの大きさは、角部認識の場合、部分画像2のフレームから部品2の一部が外れるので小さくなり、中央部認識の場合、部品2が必ず部分画像12のフレーム内に入るので大きいと言える。何故ならば、吸着ノズルは部品の中央部を吸着するからである。即ち、吸着角度のずれによる位置ずれは、ノズル中心から遠いほど大きくなる。従って、部品の角部にこだわらず、部品の任意の部分を使って認識できることが望ましい。
【0030】
(3)部品認識の時間のばらつきが大きい。即ち、図3において、ボールパターンは探索領域3の何処にでも位置し得る。角のボール6の探索に関して、それが画像の角4に近いときは、より早く見つかり、全体の認識時間も小さいが、逆に画像の角4から遠いときは、より遅く見つかり、全体の認識時間が大きい。更に、例え部品の中心位置が同じでも、部品の角度が異なれば、同じ理由により認識時間に大きな差が出ることになる。従って、認識時間のばらつきが小さいことが望ましい。
【0031】
本発明は、前記従来の問題点を解決するべくなされたもので、非格子配置のBGAであっても、高精度且つ迅速な位置認識を可能とすることを課題とする。
【課題を解決するための手段】
【0032】
本発明は、画像入力部と、ボールパターン認識部と、部品認識部と、制御部とから構成される部品認識装置を用いて、ボール部品を画像により認識する方法であって、画像からボール電極の座標を次々と抽出し、画像抽出電極とボールパターン定義電極を結合したデータを節とするグラフでなる経路を生成して格納し、経路を入力として、ボールパターン定義電極について画像上に存在予測領域を出力し、画像抽出電極座標と前記予測領域の包含を判定し、包含されると判定されたとき、節を追加して経路を成長させ、経路とボールパターンを照合することにより、前記課題を解決したものである。
【0033】
又、前記ボール電極の座標を、ボール電極の中心座標とし、前記経路の節を、画像抽出電極座標とボールパターン定義電極位置指標を結合したデータとし、前記経路の大きさ即ち節の数を使ってボールパターンとの一致を判定するようにしたものである。
【0034】
又、前記経路の大きさが、所定の一致判定数H(Hは1≦H≦Pである整数、Pはボールパターンの電極個数)以上のとき、認識成功即ちボールパターンの完全一致とみなすようにしたものである。
【0035】
又、前記画像の中に座標Λを定め、この座標Λから概ね近い順に電極を抽出し、ボールパターンにおいて経路が踏んでいない残りP−N個(Pはボールパターンの電極個数、Nは経路の節数)の定義電極の各電極の画像予測領域を生成し、既存経路Γがあり、Γが成長してΓ’となりうるとき、Γを保存したまま新たにΓ’を生成して登録し、1つの画像抽出電極があるとき、ボールパターン個々の定義電極と結合した大きさ1の経路を生成して登録するようにしたものである。
【0036】
本発明は、又、ボール部品を画像により認識するための、画像入力部と、ボールパターン認識部と、部品認識部と、制御部とから構成される部品認識装置において、画像からボール電極の座標を次々と抽出する手段と、画像抽出電極とボールパターン定義電極を結合したデータを節とするグラフでなる経路を生成して格納する手段と、経路を入力として、ボールパターン定義電極について画像上に存在予測領域を出力する手段と、画像抽出電極座標と前記予測領域の包含を判定する手段と、包含されると判定されたとき、節を追加して経路を成長させる手段と、経路とボールパターンを照合する手段と、を備えたことを特徴とするボール部品の認識装置を提供するものである。
【発明の効果】
【0037】
本発明は、偽電極に極めて強く、偽電極があっても認識時間がかかり過ぎることが無い。
【0038】
即ち、本発明においては、画像から抽出した電極は、経路表に記録されることはあっても抹消されることはない。即ち、常に新しく入った電極とのパターン一致判定処理が行なわれ、過去に入ったかもしれない偽電極には関知しない。そのため、抹消そのものが不要となる。
【0039】
又、偽電極があると、全く無いに比べて認識時間は大きくなるが、それは、偽電極を含んだ経路が成長するためである(大きさ1を含む)。しかし、偽電極を含んだ経路は早い段階で成長が止まるので、原理的に認識時間に大きな影響は与えない。
【0040】
又、電極の抹消を行なわないので、正しい電極が抹消されることがない。これにより、正しい電極から始まる経路が必ず生成され、それは成長し、最後に大きさが一致判定数Hに達して認識が成功する。従って、少なくとも偽電極の存在が直接の原因で認識が失敗することはない。
【0041】
又、本発明においては、与えるボールパターンは、部品のボール集合の全部でもよいし、任意の一部でも良く、使い勝手が良い。何故ならば、与えられたボールパターンの各電極は画像の中にあり、Λ中心の探索の過程で何時かは必ず画像から抽出される。その結果、パターンの完全一致、即ち認識が成功する。従来方式のときに問題となった、カメラの視野に入り切らないほど大きい部品の場合は、ボールパターンとして、部品中央部の電極を定義し、部品を吸着した後、通常の撮像、即ちカメラの視野中心とノズル中心を一致させて撮像し(部品の中央部が映っている)、次に、撮像した画像で部品認識すればよい。従って、従来方式で煩わしかったオフセット移動と角部のボールパターン作成が不要となる。
【0042】
更に、部品認識の認識時間はほぼ一定であり、ばらつきが小さい。部品の全ての電極をボールパターンとして定義した場合を想定すると、画像の中に設けた探索領域のほぼ中央にボールパターンが映っているはずである。認識時間は、電極抽出時間と経路表照合時間の和である。
【0043】
例えば探索の中心Λを探索領域の中央に設定すると、電極抽出を開始して、直ぐに最初の電極を抽出する。2番目以降の電極も同じである。
【0044】
1番目を抽出するための処理時間、2番目を抽出するための処理時間、・・・これらは画像により一定ではない。しかしパターンの完全な一致を確認できるH個について、そのH番目までの総和時間(電極抽出時間)を考えると、これは統計的にほぼ一定となる。
【0045】
一方、経路表の照合における処理時間は、1番目に要する処理時間、2番目に要する処理時間、・・・これらは、どの電極が先にするかで一定ではない。しかし、H番目までの総和時間(経路表照合時間)を考えれば、これも統計的にほぼ一定となる。
【0046】
更に、認識のロジックに柔軟性があり、難認識条件に強いので、非格子配置BGA部品を確実に認識できる。即ち、真の電極について、その映りが悪い、あるいは位置がずれている等の理由で、予測した位置で画像抽出できないことが起こる。このとき、ボールパターンの電極個数Pが一致判定数Hより十分に大きければ、1個の電極が抽出されないことは大きな問題ではない。何故ならば、P個のうちのH個が抽出され、そのH個がボールパターンの部分グラフと一致すればボールパターンの完全なる一致と見做すロジックだからである。
【0047】
なお、本発明は、非格子配置BGAだけでなく、格子配置BGAにも適用できる。即ち、格子配置の場合、適当な電極にUV座標系を設けて、個々の電極を座標(u,v)で記述すれば、非格子配置BGAの認識の一つとして扱うことができる。
【発明を実施するための最良の形態】
【0048】
以下図面を参照して、本発明の実施形態を詳細に説明する。
【0049】
図5に、本発明を実施するための部品認識装置の基本的な構成を示す。この部品認識装置は、主に、画像入力部100と、ボールパターン認識部110と、部品認識部120と、制御部130とから構成される。
【0050】
前記制御部130は、全体を制御する。即ち、次のBGA部品を選び、その部品データを生成し、画像を取り込み、画像による部品認識を行ない、その認識データにより装置を駆動する。
【0051】
前記画像入力部100は、吸着ノズルにより吸着されたBGA部品を撮像して、画像メモリ(図示省略)に取り込む。
【0052】
前記部品認識部120は、画像による部品認識を行なう。即ち、渡された部品データと画像により、XY座標系におけるUV座標系の位置と傾きを出力するまでの一連の作業を行なう。即ち、一般に部品は1個でも、図6に例示する如く、認識すべきボールパターンは1個以上(図6では3個)あり、それらの全パターン(図6では右上角のパターンP、左下角のパターンP、周囲を除く中央のパターンP)が同時に渡される。部品認識部120は、渡されたパターンのうち、まず最も大きなボールパターン、即ち電極数が最も多いボールパターン(図6ではP)を選ぶ。次に、選んだボールパターンを画像と共にボールパターン認識部110に送り、そこで認識させる。そして、最初のパターンPから、XY座標系におけるUV座標系の原点位置と傾きを出力する。
【0053】
次に、存在すれば2番目以降のボールパターンP、Pを同様にボールパターン認識部110に送り、今度は予測により電極を認識させ、以降これを繰り返す。
【0054】
一方、ボールパターン認識部110は、与えられた1個のボールパターンについて、入力画像の中で認識する。各ボール電極の中心座標を画像から抽出した後、呼び出した部品認識部120に返す。
【0055】
次に、図7を参照して、本発明に係るボールパターン認識部110の動作の概要を説明する。なお、ステップ番号は、後出図8の詳細図に対応させている。
【0056】
まず、ステップS1で、ボールパターンの大きさP(=電極数)から一致判定数Hを決める(1≦H≦P)。
【0057】
次に、ステップS2で、画像の探索領域の中に適当な座標を探索中心座標Λとして1点定める。
【0058】
次に、ステップS4で、その座標Λに近い順に画像から次々と電極を抽出する。
【0059】
次に、ステップS7で、抽出と同時にボールパターンとの照合を行なう。即ち、ボールパターンの個々の電極を出発点とし、ボールパターン自身の電極を結んでできる部分経路(生成経路)が表の形で既にあるものとする(最初は0個)。生成経路は、あれば、その大きさ(=電極数)は1から始まる。
【0060】
画像から電極が抽出される度に表中の生成経路を順に巡る。ある生成経路に今回の抽出電極を付加したものが再びボールパターンの部分経路と一致するなら、その元の経路を複写した後、抽出電極を付加した新しい生成経路を作り、経路表に登録する。
【0061】
一方、ボールパターン個々の電極と、抽出した1個の電極を結合した大きさ1の生成経路P個は無条件に登録される。
【0062】
電極の抽出を続けると、生成経路の大きさがHに等しくなって、ステップS21の判定条件が成立することがある。このとき認識は成功であり、ステップS22で、この生成経路を出力する。
【0063】
図2のBGAを使って具体的に説明する。ボールパターンの大きさはP=10である(ボール指標0〜9)。一致判定数Hは、ここではH=10となる(後述)。
【0064】
図3において、画像探索領域3の中に座標Λを定める。Λは、ボールパターンの近くにあれば何処でも良い(後述)。
【0065】
座標Λに近い順に画像から次々と電極を抽出する。例えば電極a、b、c、d、・・・の順に抽出される。
【0066】
生成経路は最初0個である。
【0067】
電極aが抽出されたとき、大きさ1の生成経路が10個できる。それらはボールパターンの各定義電極と座標aを結合したものである。
【0068】
次の電極bは偽電極であるが、この時点では判らない。電極aと電極bの位置関係(距離と角度)を満足する生成経路として、図2における電極9と電極1を結ぶ大きさ2の生成経路が新たに登録されるかもしれない。このときの距離誤差と角度誤差については後述する。
【0069】
一方、電極b単独の大きさ1の生成経路も10個できる。それらはボールパターンの各定義電極と座標bを結合したものである。
【0070】
次の電極c以下でも同じことを繰り返す。
【0071】
図8に最終結果を示す。電極aから始まり実線矢印で繋がる黒丸a、b、c、d、・・・、k、mは抽出電極である(この場合、図3の電極7は抽出されないまま終了する)。
【0072】
電極mに対する処理が終了した時点で登録されている生成経路を調べてみると、その中に電極aから始まり点線矢印で繋がる(点線が無いものは実線)大きさ10=Hの経路(a,6)、(c,0)、(d,1)、・・・、(k,4)、(m,5)がある。
【0073】
この事実により認識は成功であり、この生成経路を出力して終了する。以上が認識の一例である。
【0074】
図9に、ボールパターン認識部110における処理の流れ図の詳細を示す。
【0075】
以下、図10にボールパターンを示す簡単なBGAを使って、図9の各ステップの処理を詳しく説明する。このBGAは3個の電極(位置指標0、1、2)からなり、図11にその部品画像を示す。ボールパターンの電極a、c、eと共に、偽電極b、dも映っている。
【0076】
(1)ステップS1
定義パターンの電極数Pを3とし、一致判定数HをP以下の整数とする。Hは照合の高速化のために設けた数で、ボールパターンP個のうち画像抽出電極H個が一致したとき、パターン全体の完全なる一致であると見做すことができる数である。HはPの関数であり、実施例では、経験に基づいて、H=max{20,P/8}とした(整数)。但し、HはPを超えない。
【0077】
即ち、パターン全体の一致の信頼性に関して、小さいパターン(P≦160)までは、一定数(H=20)が一致すれば十分であるとした。一方、大きいパターン(P>160)に対しては、その一定比率(P/8)が一致すれば十分であるとした。従って、この例ではH=3となる。
【0078】
(2)ステップS2
メモリに経路表を確保し、経路登録個数Kを0にする。図12に経路表を示す。図12(a)にはK=3個の経路が登録されている。経路表はメモリアドレスを要素とする配列であり、各要素には経路の先頭アドレスが書き込まれる。経路表の大きさ、即ちメモリアドレス登録個数の容量としては、積P×Hの値を基に決めると良い。実施例では、経験に基づいて、経路表の大きさ=4×P×H+100とした。ここで係数4はPが大きいときの安全係数であり、加算数100はPが小さいときに偽電極が多いときの対策である。従って、この例では、経路表の大きさ=4×3×3+100=136(個)となる。
【0079】
(3)ステップS3
探索中心座標Λを決める。Λは、画像中任意の座標でよい。実施例では、画像探索領域の中心座標とした。
【0080】
(4)ステップS4
探索中心座標Λから近い順に、画像から電極を抽出する。抽出は電極が枯渇するまで続ける。図13に電極の探索経路を示す。この同心円、即ち探索円に沿って電極を探す。Λを中心とする半径R0の円があり、これは最初の探索円である。δは探索円の半径の増分である。R0とδは、ボール電極を画像から抽出する方法により異なる。
【0081】
画像からボール電極を抽出する方法は種々あるが、本発明においては、どの方法を使っても良い。
【0082】
図14は、その1つの方法を示す。この場合、ボール直径をφ(=2r)とすれば、例えばR0=2φ、δ=φ/6(経験式)とすればよい。
【0083】
図14において、暗い背景に明るく映っているボール電極20の中心座標21を抽出したい。一般にボール電極には配線パターン22があり、ボールと同じような輝度で映っている。円23、円24、・・・は探索円である。画素明度に関してある閾値が与えられているものとする。円の軌道上の画素明度の変化を調べると、円24の座標25において明度の変化(閾値に関して低→高)がある。この座標における明度勾配ベクトル(例えば暗い方から明るい方へ向かうベクトル)27を得る。
【0084】
r=φ/2は定義電極の半径である。座標25から明度勾配ベクトル27方向に距離rの座標28を記録しておく。この座標は、電極中心座標の一つの候補である。
【0085】
次に、円24の座標26において、再び明度の変化(閾値に関して高→低)がある。上と同様に1つの候補座標を記録する。
【0086】
探索円を1周するまで同じことを繰返し、更に次の探索円でも同じことを繰り返す。
【0087】
電極の座標計算は、探索円を一定の本数ずつまとめた探索帯毎に行なう。探索帯の本数は、δ=φ/6により、ボール当り平均6本走るので、それより大きい適当な数、例えば10本とすれば良い。
【0088】
探索帯1個分の探索円発生が終了したとき、その内部の電極個々の中心には候補座標が集まっていることが期待できる。
【0089】
画像を適当にブロック分割し(例えば辺の長さ=0.5φの正方形)、今回の探索帯に接触するブロック(例えばブロック29)内の候補座標を数える。一定個数(例えば6個)以上であれば、その点列の重心座標を円の中心座標として出力する。このときブロック同士の境界が円の中心付近を通過するときは、結合して数える等の処置を行なう。
【0090】
探索帯内部の電極抽出が終了したら、電極をΛから近い順に並べ替え、先頭から順に出力する。
【0091】
以下、探索帯の発生と、その探索円の発生と、電極の抽出とを繰り返す。
【0092】
なお、この方式では、初期半径R0の円内にある電極、特に、その中心を偶然Λに置くような電極の抽出を必ず行なう。もしあれば、この電極が最初に出力されるべきである。
【0093】
即ち、図14において、円30は初期半径R0の円であるとする。この円の周が、長さδで分割されるように、Λからこの円に放射線分、即ち、線分31、線分32、・・・を1周するまで引く。
【0094】
各放射線分について、探索円のとき行なったと同じ処理を行なう。これにより、初期半径R0の円内にある電極を抽出できる。
【0095】
図15に電極抽出の別の方法を示す。この場合、ボール直径をφとすれば、例えばR0=0、δ=φ/3(経験式)とすることができる。
【0096】
最初はΛの1点、以下は半径をδずつ増分した探索円、その探索円の周を更に周長δで分割する各点において、小窓抽出と呼ばれる以下の処理を行なう。
【0097】
図15において、座標35が画像上指定された座標、即ちΛ若しくは探索円の分割点である。円36は、座標35を中心とする半径φ(直径=2φ)の円であり、これを小窓と呼ぶ。
【0098】
小窓の中に偶然入っている、暗い背景に明るく映っているボール電極20の中心座標21を抽出したい。一般にボール電極には配線パターン22があり、ボールと同じような輝度で映っている。小窓による方法は、特に配線パターンの存在に強いのが特徴で、図のように2本程度までなら問題ない。
【0099】
画素明度に関して、ある閾値が与えられているものとする。小窓内部の画素明度を2値化すれば、2値化電極像の外周を矢印38の方向に進み、1周して元の位置に戻る閉路が得られる(閉路は小窓の外には出ず、小窓の経路39、経路34を通る)。
【0100】
得られた閉路上に、円周上の弦の候補である弦AA’、BB’をとる。それぞれ安定した経路上に発生していること、直径になるべく近いこと、互いに直交に近いこと・・・等の諸条件を満たす。このとき、それぞれの弦の垂直二等分線の交点を、円の中心座標21として出力する。
【0101】
探索円を1周する間に小窓から出力された電極座標をΛから近い順に並べ替え、先頭から順に出力する。
【0102】
図11の例において、出力順はa→b→c→d→eとする。
【0103】
(5)ステップS5
抽出電極の画像座標をzとする。即ち最初の座標はz=aである。
【0104】
(6)ステップS6
今回の抽出座標により新たに発生する生成経路の数を初期化する。即ち新規発生経路数Gを0にする。そして、経路の読出し位置を経路表の先頭に位置決めする。
【0105】
(7)ステップS7
K回繰り返される。しかし、今、K=0なので、S7以降をスキップしてS19に飛ぶ。
【0106】
(8)ステップS19
K+GをKに入れる。今、K=0、G=0であるので、Kは0のまま変わらない。
【0107】
(9)ステップS20
図16は、経路を構成する節(ノード)に置くメモリ構造である。節の先頭に次の節のメモリアドレスを入れる。もし次の節が無い場合、終りを示す0を入れておく。
【0108】
節には画像抽出座標(x,y)と定義電極指標iを格納し、両者が結合していることを示す。ここでは、経路表の末尾にP個の節(z,0)、(z,1)、・・・、(z,P−1)を付加し、K+PをKとする。今、z=aであるから、節(a,0)、(a,1)、(a,2)を付加し、K+P→K即ちK=3となる。
【0109】
図12の(a)に、ステップ20の処理終了後の経路表(K=3)のメモリイメージを示す。
【0110】
図16は、抽出電極と、それによる生成経路(ルートとも称する)と、累積経路数を示したものである。電極aの欄に、生成された3つの経路のグラフイメージを見ることができる。
【0111】
(10)ステップS21
ここでパターンの完全一致を調べる。即ち新たに付加された経路の中に、その大きさ(=節の数)がHに等しいものがあるかどうかを調べる。今新たに付加された経路(3個)の大きさは、いずれも1であるので、H(=3)に等しくない。従って、ステップS4に戻る。
【0112】
(11)ステップS4
次の抽出電極はbである。bは偽電極であるが、今は分からない。
【0113】
(12)ステップS5
抽出電極の画像座標z=bである。
【0114】
(13)ステップS6
新規発生経路数Gを0にする。そして、経路(現在K=3個登録済み)の読出し位置を、経路表の先頭に位置決めする。
【0115】
(14)ステップS7
K=3回繰り返される。経路表の読出し位置の示す経路Гを取り出す。最初のГ=(a,0)である。
【0116】
(15)ステップS8
Г=(a,0)の節数=1をNにセットする(N=1)。
【0117】
(16)ステップS9
P−N=2を不足電極数Rにセットする(R=2)。この数は、ボールパターンにおいてГが持っていない電極の数、即ち認識電極の不足数である。
【0118】
(17)ステップS10
定義ボールパターンについて、Гの位置指標の示す電極を除いた電極(R個)の個々を、その位置指標と定義座標の組を要素として集合Sに集める。今、Г=(a,0)の位置指標=0、従って集合Sは、S={(位置指標=1,その定義座標),(位置指標=2,その定義座標)}となる。
【0119】
(18)ステップS11
集合Sの読出し位置を最初の要素に位置決めする。
【0120】
(19)ステップS12
R=2回繰り返される。集合Sの読出し位置から次の要素を読み出す。最初の要素はE=(位置指標=1,その定義座標)である。
【0121】
(20)ステップS13
要素Eの位置指標=1を変数iにセットする(i=1)。
【0122】
(21)ステップS14
要素Eの定義指標に関する画像予測領域Dを生成する。但し、処理はN(=Гの節数)によって異なる。今、N=1、従ってN=1点からの位置予測を行なう。
【0123】
図18の(a)は、N=1点からの位置予測の原理を示す。電極45は画像から抽出された電極である。この1個の電極だけで他の電極46の位置(画像座標)を予測する。各電極には定義電極の位置指標が貼り付いている。従って、その定義座標を参照できる。
【0124】
電極46の画像座標は、定義座標系における電極45→電極46ベクトルを、そのままの傾きで画像座標系に移した座標(予測の中心座標)として得られる。
【0125】
部品がノズルに吸着されるとき回転のずれが生じる。その最大角度は±ωとして与えられるものとする。一般にω=30°設定すれば十分である。
【0126】
一方、予測には誤差εがある。実施例では、経験に基づいてε=φ/2とした。実施例では、予測する距離(電極45と電極46の距離)によらず誤差εは一定としたが、勿論可変としても良い。
【0127】
破線で示す円弧型の領域47が画像予測領域である。即ち、電極46の抽出座標は、この領域に入ることが必要である。Г=(a,0)を使ってEの位置座標=1を予測する場合、N=1点からの位置予測の原理に従うと、図11の円弧型領域D1がEの予測領域となる。
【0128】
(22)ステップS15
座標zが予測領域に含まれるかどうかを検査する。図11において、z=bはD1の外であり含まれないので不合格であり、ステップS12に戻る。
【0129】
(23)ステップS12
次の要素はE=(位置座標=2,その定義座標)である。説明は省略するが、結局ステップS15において不合格となり、ステップS12に戻る。
【0130】
(24)ステップS12
次の要素が無くなったので、ステップS7に戻る。
【0131】
(25)ステップS7
次のГ=(a,1)である。この場合も同様に処理を行なうと、結局何も発生せず、ステップS7に戻る。
【0132】
(26)ステップS7
次のГ=(a,2)である。この場合、処理が進んだステップS14において、集合Sの要素E=(位置座標=i=1,その定義座標)の画像予測領域を作ることになる。N=1点からの位置予測の原理に従うと、図11の円弧型領域D2がEの予測領域となる。
【0133】
(27)ステップS17
z=bはD2に含まれるので合格である。
【0134】
(28)ステップS16
Гを複写してГ’を作る。即ち、Г’=(a,2)となる。
【0135】
(29)ステップS17
Г’の末尾に節(z,i)を付加する。即ち、Г’=(a,2)(b,1)となる。
【0136】
(30)ステップS18
Г’を経路表の末尾に追加する。G=0は1加算されてG=1となる。
【0137】
図12の(b)に、電極bの処理終了後の経路表(K=7)のメモリイメージを示す。図17の電極bの欄に、生成された4つの経路のグラフイメージを見ることができる。
【0138】
この後ステップS4に戻り、電極c、電極dの順に各ステップの処理が実行される。
【0139】
電極c以降は、ステップS14において、N=1に加えてN≧2点による位置予測が行なわれる。何故ならば、既に経路表に大きさ2の経路(a,2)(b,1)が存在するからである。
【0140】
図18の(b)は、N=2点からの位置予測の原理を示す。電極50、電極51は、画像から抽出された電極である。これら2個の電極50、51で、他の電極52の位置(画像座標)を予測する。各電極には定義電極の位置座標が貼り付いている。従って、その定義座標を参照できる。
【0141】
角度θは、定義座標系電極50→電極51ベクトルから、定義座標系電極50→電極52ベクトルへの開き角度である。
【0142】
距離αを画像座標系電極50−電極51の距離、距離βを画像座標系電極50−電極52の距離とすれば、β=ρ×αとして求めることができる。但し、ρは定義座標系における長さの比率であり、ρ={(定義座標系電極50−電極52の距離)/(定義座標系電極50−電極51の距離)}である。
【0143】
画像座標系において開き角度θ、長さβの座標が予測中心座標53である。破線で示すように、この座標を中心とする誤差半径εの円内の領域が予測領域54である。即ち、電極52の抽出座標は、この領域に入ることが必要である。
【0144】
図18の(c)は、N≧3点からの位置予測の原理を示す。電極55、電極56、・・・、電極57は、画像から抽出された3個以上の電極である。これらN個の電極で、他の電極の位置(画像座標)を予測する。
【0145】
まず先頭の2個の座標、即ち電極55と電極56を使って、N=2点からの位置予測の原理を適用すると、1つの予測中心座標58が得られる。
【0146】
次に位置を1つずつずらして、電極56と、その次の電極に対して、N=2点からの位置予測の原理を適用すると、更に1つの予測中心座標が得られる。
【0147】
これを繰り返すと、予測中心座標の集合が得られる。その重心座標が予測中心座標59である。破線で示すように、この座標を中心とする誤差半径εの円内の領域が予測領域である。即ち予測を受けた電極の中心座標は、この領域に入ることが必要である。
【0148】
電極cと電極dの各ステップの説明は省略する。
【0149】
図17の電極c及び電極d欄に、生成された経路のグラフイメージを見ることができる。この中に経路(a,2)(c,1)があるが、これは目的とする認識経路の一部である。
【0150】
この後ステップS4に戻り、次に電極eが抽出される。抽出電極eのとき、途中を省略するが、経路表のГ=(a,2)(c,1)から予測される定義電極指標=0の予測領域に抽出座標eが入るので合格となる。従って新たな経路Г=(a,2)(c,1)(e,0)が登録される。
【0151】
(31)ステップS21
新たに付加された経路の中に、その大きさH=3のものがある。即ち経路Г’=(a,2)(c,1)(e,0)である。
【0152】
(32)ステップS22
一般に、見つかった経路Г’は、なおP−H個の電極が未抽出である。未抽出の電極があれば、画像から抽出する。今の場合、P−H=0であるから未抽出電極は無い。最終的に経路と同じ形で呼び出し側に出力する。即ち経路(a,2)(c,1)(e,0)を出力して、認識成功で終了する。
【0153】
なお、経路は必ずしも順調に成長しない。例えば画像に対して間違ったボールパターンを与えても成長しないし、実際の画像と大きく異なる電極データ(直径等)を与えても成長しないし、不鮮明な画像を与えても成長しない・・・等、状況は様々である。
【0154】
経路が成長しないとステップS4を繰返し、遂には画像から抽出する電極は枯渇する。このときはステップS23にいく。
【0155】
(33)ステップS23
認識失敗でリターンする。
【0156】
以上がボールパターン認識部110の処理である。
【0157】
さて、実施例では、経路の中に大きさ=H個のものを見つけた時点で認識成功とし、直ちにリターンした(ステップS21)。これは、普通にランダムなボールパターンの場合問題ないが、逆に格子配置のパターンで、しかもΛをボールパターン像の中央部に置いた場合、どの電極から始まる経路も順調に成長するため、経路の中に大きさ=H個のものが多数見つかることになり、どれか1つに決めることはできない。
【0158】
このような部品を認識する場合は、ステップS21で、経路の中に、大きさ=H個以上で、最大数のものが唯一つ見つかったか判定するように変更する。
【0159】
経路の中に大きさ=H個以上のものが複数見つかった場合、そのまま認識処理を続行する。つまり、ステップS4を繰り返す。
【0160】
格子配列の場合、抽出電極の個数が増えていくと共に探索円が大きくなり、ボールパターンの特徴的な部分(辺、角、空洞)付近の電極を抽出し始める。これに伴い、経路の成長は最早一様に順調ではなくなり、遂には経路の大きさが最大のものが唯一つになる。この瞬間を捉えて、認識成功とすればよい。
【0161】
なお、前記実施形態では、画像からの電極抽出にΛ中心の同心円を使った(ステップS3、S4)。しかし、これを他の形状に変えることもできる。例えば正方形、長方形、楕円等類似の形状に変えることもできるし、螺旋の渦巻き形状に変えることもできる。即ち、Λを中心に距離が増減しながらも徐々に遠ざかれば、如何なる形状を使っても良い。その場合も、効果はほとんど変わらない。
【0162】
又、前記実施形態では、画像からの電極抽出において、1回の単位で複数の電極が抽出されたとき、Λから近い順に並べ替えて出力した(ステップS4)。しかし、並べ替える必要はなく、抽出した順に出力してもよい。その場合も効果はほとんどは変わらない。
【0163】
又、前記実施形態では、画像からの電極抽出において、探索の中心Λを設けた(ステップS3)。しかし、これを設ける必要は無い。即ち、画像の電極は実は如何なる順序で抽出され、且つ如何なる順序で出力されてもよい。その場合、若干認識能力が落ちる。
【0164】
何故ならば、抽出電極は定義ボールパターンの電極(P個)のいずれでも有り得るという仮定において照合され、登録されるからである。従って、定義ボールパターンの任意の電極から始まる任意の電極系列でも認識が成功する。
【0165】
又、前記実施形態では、画像から抽出した電極の処理の最後に、ボールパターン各電極と結合した大きさ1の経路として経路表に登録するとき、必ずP個登録した(ステップS20)。しかし、P個である必要は無い。即ち、探索領域の中にはボールパターンが存在し得る最大領域がある(ノズルの吸着可能領域、位置ずれ、角度ずれ、それぞれの最大又は最小値を参照して計算により定めることができる)。そのことは、ボールパターンを構成する各電極についてみれば、画像の中に自己電極が存在し得る領域(専有領域)が決まっていることを意味する。そこで、ステップS20において抽出した電極を経路表に登録するとき、抽出した電極の画像座標が、結合しようとする定義電極の占有領域に含まれているかどうかを調べる。もし含まれているならば登録し、含まれていなければ登録しない。このようにしても、後の照合に問題は生じない。これにより、毎回の登録個数をP以下とすることができるので、経路表全体の登録個数が少なくなり、メモリ消費量が少なくなると共に、全体の処理時間も小さくなるので好都合である。
【図面の簡単な説明】
【0166】
【図1】本発明の適用対象の1つである格子配置BGAの一例を示す図
【図2】同じく非格子配置BGAの一例を示す図
【図3】部品認識の必要性を説明するための図
【図4】従来の問題点を説明するための図
【図5】本発明が適用される部品認識装置の全体構成を示すブロック図
【図6】前記部品認識装置における処理対象画像の例を示す図
【図7】本発明の実施形態における処理手順の概要を示す流れ図
【図8】本発明による処理手順の最終結果の一例を示す図
【図9】前記実施形態のボールパターン認識部の処理手順の詳細を示す流れ図
【図10】処理手順を説明するための簡単なBGAの配置例を示す図
【図11】図9の部品画像を示す図
【図12】経路表の例を示す図
【図13】前記処理手順における電極の探索経路の一例を示す図
【図14】画像からボール電極を抽出する方法の一例を示す図
【図15】別の方法を示す図
【図16】経路を構成する節(ノード)におけるメモリ構造の一例を示す図
【図17】抽出電極とそれによる生成経路と累積経路数を示す図
【図18】位置予測の原理を示す図
【符号の説明】
【0167】
1…入力画像
2…BGA部品
3…探索領域
100…画像入力部
110…ボールパターン認識部
120…部品認識部
130…制御部
H…一致判定数
P…電極個数
K…経路登録個数

【特許請求の範囲】
【請求項1】
画像入力部と、ボールパターン認識部と、部品認識部と、制御部とから構成される部品認識装置を用いて、ボール部品を画像により認識する方法であって、
画像からボール電極の座標を次々と抽出し、
画像抽出電極とボールパターン定義電極を結合したデータを節とするグラフでなる経路を生成して格納し、
経路を入力として、ボールパターン定義電極について画像上に存在予測領域を出力し、
画像抽出電極座標と前記予測領域の包含を判定し、
包含されると判定されたとき、節を追加して経路を成長させ、
経路とボールパターンを照合することを特徴とするボール部品の認識方法。
【請求項2】
前記ボール電極の座標が、ボール電極の中心座標であり、
前記経路の節が、画像抽出電極座標とボールパターン定義電極位置指標を結合したデータであり、
前記経路の大きさ即ち節の数を使ってボールパターンとの一致を判定することを特徴とする請求項1に記載のボール部品の認識方法。
【請求項3】
前記経路の大きさが、所定の一致判定数H(Hは1≦H≦Pである整数、Pはボールパターンの電極個数)以上のとき、認識成功即ちボールパターンの完全一致とみなすことを特徴とする請求項2に記載のボール部品の認識方法。
【請求項4】
前記画像の中に座標Λを定め、
この座標Λから概ね近い順に電極を抽出し、
ボールパターンにおいて経路が踏んでいない残りP−N個(Pはボールパターンの電極個数、Nは経路の節数)の定義電極の各電極の画像予測領域を生成し、
既存経路Γがあり、Γが成長してΓ’となりうるとき、Γを保存したまま新たにΓ’を生成して登録し、
1つの画像抽出電極があるとき、ボールパターン個々の定義電極と結合した大きさ1の経路を生成して登録することを特徴とする請求項1乃至3のいずれかに記載のボール部品の認識方法。
【請求項5】
ボール部品を画像により認識するための、画像入力部と、ボールパターン認識部と、部品認識部と、制御部とから構成される部品認識装置において、
画像からボール電極の座標を次々と抽出する手段と、
画像抽出電極とボールパターン定義電極を結合したデータを節とするグラフでなる経路を生成して格納する手段と、
経路を入力として、ボールパターン定義電極について画像上に存在予測領域を出力する手段と、
画像抽出電極座標と前記予測領域の包含を判定する手段と、
包含されると判定されたとき、節を追加して経路を成長させる手段と、
経路とボールパターンを照合する手段と、
を備えたことを特徴とするボール部品の認識装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate


【公開番号】特開2007−266107(P2007−266107A)
【公開日】平成19年10月11日(2007.10.11)
【国際特許分類】
【出願番号】特願2006−86145(P2006−86145)
【出願日】平成18年3月27日(2006.3.27)
【出願人】(000003399)JUKI株式会社 (1,557)
【Fターム(参考)】