作業支援装置、作業支援プログラムおよび作業支援方法
【課題】部品の実装作業が完了したかを正確に判定する。
【解決手段】画像取得部21は、部品3を実装する実装領域2aと、実装領域2aの周囲領域2bとをそれぞれ撮像した撮像画像をカメラ10から取得する。判定部22は、画像取得部21が取得した実装領域2aの撮像画像についての特徴量A2と、部品実装作業前における実装領域2aの画像についての特徴量A1との類似度SAが第1のしきい値より大きく、かつ、画像取得部21が取得した周囲領域2bの撮像画像についての特徴量B2と、部品実装作業前における周囲領域2bの画像についての特徴量B1との類似度SBが第2のしきい値より小さい場合に、実装領域2aに対する部品の実装作業が完了したと判定する。
【解決手段】画像取得部21は、部品3を実装する実装領域2aと、実装領域2aの周囲領域2bとをそれぞれ撮像した撮像画像をカメラ10から取得する。判定部22は、画像取得部21が取得した実装領域2aの撮像画像についての特徴量A2と、部品実装作業前における実装領域2aの画像についての特徴量A1との類似度SAが第1のしきい値より大きく、かつ、画像取得部21が取得した周囲領域2bの撮像画像についての特徴量B2と、部品実装作業前における周囲領域2bの画像についての特徴量B1との類似度SBが第2のしきい値より小さい場合に、実装領域2aに対する部品の実装作業が完了したと判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業支援装置、作業支援プログラムおよび作業支援方法に関する。
【背景技術】
【0002】
人による物の生産方式として、セル生産方式が知られている。セル生産方式では、1人の作業者が複数の作業工程が受け持つことから、作業者は、これら複数の作業工程を作業手順書などを基に理解して作業を進める必要がある。作業手順書を参照しながら作業を進めることは、作業効率を低下させる要因になり、また、作業工程を暗記することは作業者にとって大きな負担になる。
【0003】
このような問題に対して、製品の組立工程や作業手順情報などを、作業者が視認するモニタに表示することで、作業を支援するという方法がある。また、他の作業支援方法として、部品箱に指示ランプとセンサとを設けておき、部品箱から部品が取り出されたことをセンサが検出すると、次の作業で使用する部品箱を指示ランプを用いて作業者に指示するという方法もある。
【0004】
さらに、製造工程に関連する技術の例として、部品の実装領域を撮像した画像をモデル値と照合することで、実装領域に正しい部品が実装されたかを判定するものがある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平6−83840号公報
【特許文献2】特開2006−167829号公報
【特許文献3】特開2004−260034号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述した組立作業の支援方法により、作業者は、作業中に作業手順書を参照する必要がなくなり、また、作業手順を暗記する必要もなくなる。しかしながら、作業者に作業の手順を知らせるだけでは、部品の取り付け作業が完了したかを判断できない。また、部品の実装領域を撮像した画像をモデル値と照合する方法では、部品の実装領域とカメラとの間に部品が存在することは検出できるものの、その部品の実装作業が本当に完了したのかを正確に検出できないという問題がある。
【0007】
また、このように部品の取り付け作業が完了したかを正確に検出できないという問題は、上記のセル生産方式に限らず、ライン生産方式などの人手による他の生産方式においても発生する。
【0008】
本発明はこのような課題に鑑みてなされたものであり、部品の実装作業が完了したかを正確に判定できるようにした作業支援装置、作業支援プログラムおよび作業支援方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、画像取得部と、判定部とを有する作業支援装置が提供される。この作業支援装置において、画像取得部は、部品を実装する実装領域と、実装領域の周囲領域とをそれぞれ撮像した撮像画像を、撮像装置から取得する。判定部は、画像取得部が取得した実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、画像取得部が取得した周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、実装領域に対する部品の実装作業が完了したと判定する。
【0010】
また、上記課題を解決するために、上記の作業支援装置と同様の処理をコンピュータに実行させる作業支援プログラムが提供される。
さらに、上記課題を解決するために、上記の作業支援装置と同様の処理を実行する作業支援方法が提供される。
【発明の効果】
【0011】
上記の作業支援装置、作業支援プログラムおよび作業支援方法によれば、実装領域に対する部品の実装作業が完了したかを正確に判定できるようになる。
【図面の簡単な説明】
【0012】
【図1】第1の実施の形態に係る作業支援システムの構成例を示す図である。
【図2】部品実装作業の例を示す図である。
【図3】第2の実施の形態に係る作業支援システムのシステム構成例を示す図である。
【図4】制御装置のハードウェア構成例を示す図である。
【図5】制御装置が備える処理機能の例を示すブロック図である。
【図6】プリント基板における部品の実装領域とその周辺領域の各例を示す図である。
【図7】部品DBに登録される情報の例を示す図である。
【図8】初期画像の表示例を示す図である。
【図9】部品の実装作業中における案内画像の表示例を示す図である。
【図10】制御装置における作業支援処理全体の手順の例を示すフローチャートである。
【図11】部品の実装作業前における特徴量取得処理の手順の例を示すフローチャートである。
【図12】部品の実装判定処理の手順の例を示すフローチャートである。
【図13】可動部を有する部品に対応する周囲領域の一例を示す図である。
【図14】第3の実施の形態における制御装置の処理機能を示すブロック図である。
【図15】第3の実施の形態において部品DBに登録される情報の例を示す図である。
【図16】第3の実施の形態における部品の実装判定処理の手順の例を示すフローチャートである。
【図17】第4の実施の形態において部品DBに登録される情報の例を示す図である。
【図18】第4の実施の形態の制御装置における作業支援処理全体の手順の例を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、実施の形態について図面を参照して説明する。
〔第1の実施の形態〕
図1は、第1の実施の形態に係る作業支援システムの構成例を示す図である。図1に示す作業支援システム1は、カメラ(撮像装置)10と、作業支援装置20とを含む。
【0014】
カメラ10は、実装対象物2において部品3が実装される部品実装面を撮像し、撮像画像を作業支援装置20に供給する。作業支援装置20は、カメラ10によって撮像された画像を基に、実装対象物2に対する部品3の実装作業が完了したかを判定することで、実装対象物2に対する部品3の実装作業を支援する。作業支援装置20は、画像取得部21と、判定部22とを備える。なお、画像取得部21および判定部22の処理は、例えば、作業支援装置20が備えるCPU(Central Processing Unit)が所定のプログラムを実行することで実現される。
【0015】
画像取得部21は、カメラ10から、少なくとも、部品3が実装される実装領域2aの撮像画像と、実装領域2aの周囲領域2bの撮像画像とを取得する。ここで、実装領域2aは、例えば、部品3が実装対象物2に実装された状態において、カメラ10から見て部品3が配置された領域を包含するように設定される。一例として、実装領域2aは、部品3が実装対象物2に実装された状態において、カメラ10から見た部品3の外縁部に接するように設定される。一方、周囲領域2bは、例えば、実装領域2aを一定幅だけ拡大した領域のうち、実装領域2aを除く領域として設定される。
【0016】
判定部22は、画像取得部21によって取得された実装領域2aおよび周囲領域2bの各撮像画像の変化を観察することにより、実装領域2aに対する部品3の実装作業が完了したかを判定する。より具体的には、判定部22は、部品3の実装作業前における実装領域2aおよび周囲領域2bの各撮像画像を画像取得部21から取得し、実装領域2aの撮像画像についての特徴量A1と、周囲領域2bの撮像画像についての特徴量B1とを求める。さらに、判定部22は、部品3の実装作業中における実装領域2aおよび周囲領域2bの各撮像画像と画像取得部21から取得し、実装領域2aの撮像画像についての特徴量A2と、周囲領域2bの撮像画像についての特徴量B2とを求める。
【0017】
そして、判定部22は、特徴量A1と特徴量A2との類似度SAと、特徴量B1と特徴量B2との類似度SBとを求めて、次の式(1)および式(2)の両方が成立したときに、実装領域2aに対する部品3の実装作業が完了したと判定する。なお、式(1)、式(2)において、ThA,ThBは、ともにあらかじめ決められた判定しきい値である。
SA<ThA ・・・(1)
SB>ThB ・・・(2)
なお、判定部22は、カメラ10から取得した撮像画像を基に特徴量A1,B1を求めるのではなく、記憶部(図示せず)にあらかじめ記憶された特徴量A1,B1を用いて、部品実装作業が完了したかを判定してもよい。
【0018】
ここで、図2は、部品実装作業の例を示す図である。
図2における「状態1」は、作業者が実装対象物2に対して部品3を実装する作業の途中の状態を示す。また、図2における「状態2」は、実装対象物2に対する部品3の実装作業が完了した状態を示す。
【0019】
上記の式(1)の条件は、カメラ10から見た実装領域2aの方向に部品3が配置されたことを検出する条件である。ただし、例えば図2の状態1のように、部品3が実装領域2aの近くに配置されているものの、実装領域2aに対する部品3の実装作業が完了していない状態であっても、式(1)の条件を満たす可能性がある。
【0020】
一方、図2の状態1のように、部品3の実装作業が未完了の状態では、部品3は作業者の手によって保持されている場合が多い。あるいは、部品3が実装対象物2に接触しているものの、部品3の実装作業が未完了の状態では、位置合わせなどを行う作業者の手が部品3に触れている場合が多い。これらのケースのように、部品3に作業者の手が触れている場合には、実装領域2aに対応する周囲領域2bを撮像した画像には、作業者の手が映り込む可能性が高い。
【0021】
逆に、部品3の実装作業が完了すると、図2の状態2のように、作業者の手は実装領域2aから遠ざかり、周囲領域2bの外側に離れる。このとき、カメラ10が周囲領域2bを撮像した画像には、作業者の手が映らなくなる。上記の式(2)は、周囲領域2bに、作業者の手などの物体が写り込んでいないことを検出する条件である。このような式(2)の条件と上記の式(1)の条件の両方を満たした場合に部品の実装作業が完了したと判定することで、作業の完了を正確に判定できるようになる。
【0022】
ところで、上記の式(1)、式(2)における判定しきい値ThA,ThBは、例えば、実装対象物2への部品実装作業前において、次のように求められる。部品3が実装されていない実装領域2aの画像についての特徴量A1_0と、部品実装完了後における実装領域2aの画像についての特徴量A2_0とから、特徴量A1_0と特徴量A2_0との類似度を求める。そして、求めた類似度に1以上の所定の係数を乗算した値を、判定しきい値ThAとする。また、部品3の実装前における周囲領域2bの画像についての特徴量B1_0と、周囲領域2bの一部を手などで隠した状態で周囲領域2bを撮像した画像についての特徴量B2_0とから、特徴量B1_0と特徴量B2_0との類似度を求める。そして、求めた類似度に1未満の所定の係数を乗算した値を、判定しきい値ThBとする。ここで、上記の各係数は、例えば、被写体に対する照明の状態、あるいは、カメラ110やプリント基板410の位置ズレなどによって生じる類似度のブレを吸収するものである。
【0023】
また、実装領域2aおよび周囲領域2bの各画像についての特徴量としては、例えば、各領域の画像データを用いることができる。この場合、2つの画像の類似度を計算する方法としては、各種の相関演算の方法を用いることができる。相関演算の一例としては、比較する2つの画像データにおけるそれぞれ同一座標の画素値の差の二乗和を求め、求めた二乗和の平方根X1を求めるともに、全画素についての画素値の最大値の二乗和を求め、求めた二乗和の平方根X2を求めて、平方根X1を平方根X2で除算する方法などがある。
【0024】
また、実装領域2aおよび周囲領域2bの各画像についての特徴量としては、例えば、各画像内の全画素の画素値の平均値を用いることもできる。例えば、各領域の画像において、全画素についての画素値のR(Red)成分の平均値と、全画素についての画素値のG(Green)成分の平均値と、全画素についての画素値のB(Blue)成分の平均値とを加算し、その加算値を3で除算したものを特徴量とする。
【0025】
この場合、特徴量同士の類似度は、特徴量の差分を基に求めることもできる。例えば、部品実装前における実装領域2aおよび周囲領域2bの特徴量をそれぞれA1_1,B1_1、部品実装作業の完了後における実装領域2aおよび周囲領域2bの特徴量をそれぞれA2_1,B2_2とすると、判定部22は、次の式(3)および式(4)の両方が成立したときに、実装領域に対する部品の実装作業が完了したと判定する。なお、式(3)、式(4)において、ThA_1,ThB_1は、ともにあらかじめ決められた判定しきい値である。
|A2_1−A1_1|>ThA_1 ・・・(3)
|B2_1−B1_1|<ThB_1 ・・・(4)
〔第2の実施の形態〕
次に、第2の実施の形態として、プリント基板に対して部品を実装する作業を支援する作業支援システムについて説明する。
【0026】
図3は、第2の実施の形態に係る作業支援システムのシステム構成例を示す図である。図3に示す作業支援システム100は、カメラ110、モニタ120および制御装置200を含む。
【0027】
カメラ110は、作業台400に載置されたプリント基板410における部品411の実装面を撮像する。なお、図3では1つの部品411を示しているが、実際にはプリント基板410には複数の部品が実装される。作業台400では、1人または複数の作業者によって、プリント基板410に対して複数の部品が順番に実装される。なお、プリント基板410は、例えば、作業台400に設けられた固定機構によって作業台400に固定されてもよい。
【0028】
モニタ120には、作業者に対して部品実装作業を案内する各種の案内画像が表示される。モニタ120としては、例えば、LCD(Liquid Crystal Display)、CRT(cathode-ray tube)などを使用することができる。また、案内画像を表示する他の表示デバイスとして、例えば、プロジェクタ、ヘッドマウントディスプレイなどを使用することもできる。
【0029】
制御装置200は、カメラ110が撮像した画像を基に、モニタ120に表示する案内画像を制御する。ここで、モニタ120に表示される案内画像は、少なくとも、プリント基板410に実装される部品ごとに用意される。そして、制御装置200は、カメラ110によって撮像された画像を基に、プリント基板410に対して部品が実装されたか否かを部品ごとに判定し、1つの部品の実装が完了したと判定すると、モニタ120に表示させる案内画像を、次に実装すべき部品に対応する案内画像に切り替える。
【0030】
図4は、制御装置のハードウェア構成例を示す図である。
制御装置200は、例えば、図4に示すようなコンピュータとして実現される。制御装置200は、CPU201によって装置全体が制御されている。CPU201には、バス209を介して、RAM(Random Access Memory)202および複数の周辺機器が接続されている。
【0031】
RAM202は、制御装置200の主記憶装置として使用される。RAM202には、CPU201に実行させるOS(Operating System)プログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM202には、CPU201による処理に必要な各種データが格納される。
【0032】
バス209に接続されている周辺機器としては、HDD(Hard Disk Drive)203、グラフィックI/F(インタフェース)204、入力I/F205、光学ドライブ装置206、ネットワークI/F207および通信I/F208がある。
【0033】
HDD203は、内蔵した磁気ディスクに対して、磁気的にデータの書き込みおよび読み出しを行う。HDD203は、制御装置200の二次記憶装置として使用される。HDD203には、OSプログラム、アプリケーションプログラム、および各種データが格納される。なお、二次記憶装置としては、フラッシュメモリなどの半導体記憶装置を使用することもできる。
【0034】
グラフィックI/F204には、モニタ120が接続されている。グラフィックI/F204は、CPU201からの命令に従って、前述した案内画像などの各種の画像をモニタ120に表示させる。
【0035】
入力I/F205には、例えば、キーボード205aおよびマウス205bが接続されている。入力I/F205は、キーボード205aやマウス205bからの出力信号をCPU201に送信する。なお、マウス205bは、ポインティングデバイスの一例であり、他のポインティングデバイスを使用することもできる。他のポインティングデバイスとしては、タッチパネル、タブレット、タッチパッド、トラックボールなどがある。
【0036】
光学ドライブ装置206は、レーザ光などを利用して、光ディスク206aに記録されたデータの読み取りを行う。光ディスク206aは、光の反射によって読み取り可能なようにデータが記録された可搬型の記録媒体である。光ディスク206aには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM(Compact Disc Read Only Memory)、CD−R(Recordable)/RW(Rewritable)などがある。
【0037】
ネットワークI/F207は、ネットワーク207aに接続された他の装置との間でデータを送受信する。
通信I/F207は、カメラ110から出力された撮像画像信号を受信して、CPU201に出力する。なお、カメラ110は、撮像画像信号をデジタル信号に変換して出力するものとするが、撮像画像信号のデジタル変換機能を通信I/F208が備えていてもよい。
【0038】
図5は、制御装置が備える処理機能の例を示すブロック図である。
制御装置200は、実装判定部210、作業管理部220および表示制御部230を備える。実装判定部210、作業管理部220および表示制御部230の処理は、例えば、制御装置200が備えるCPUが所定のプログラムを実行することで実現される。また、制御装置200のHDD203には、基板画像DB(データベース)240、部品DB250、および案内画像DB260が記憶される。
【0039】
実装判定部210は、作業管理部220による制御の下で、カメラ110による撮像画像を基に、プリント基板410に対する部品の実装が完了したかを部品ごとに判定する。実装判定部210は、部品の実装完了を判定する際に、基板画像DB240と部品DB250を参照する。実装判定部210は、部品の実装が完了したと判定すると、部品の実装完了を通知する完了信号を作業管理部220に出力する。
【0040】
作業管理部220は、部品DB250に登録された情報を基に、プリント基板410に対する部品の実装順序を認識し、認識した実装順序に従って、実装判定部210および表示制御部230の処理を制御する。作業管理部220は、実装判定部210から完了信号を受信すると、次に実装する部品に対応する案内画像をモニタ120に表示させるように表示制御部230に要求するとともに、実装判定部210に対して、次に実装する部品についての実装作業が完了したかを判定させる。
【0041】
表示制御部230は、作業管理部220からの要求に応じて、次に実装する部品に対応する案内画像のデータを案内画像DB260から読み込み、読み込んだデータに基づく案内画像をモニタ120に表示させる。
【0042】
基板画像DB240には、プリント基板の部品実装面についての画像データが、プリント基板ごとに登録される。この基板画像DB240に登録される画像データは、すべての部品が実装される前におけるプリント基板の部品実装面を撮像することで得られたものである。基板画像DB240に登録された画像データは、実装判定部210が、作業台400に載置されたプリント基板の位置をテンプレートマッチングによって判定する際に、テンプレートとして利用される。また、基板画像DB240では、プリント基板ごとに基板IDが付与され、プリント基板の部品実装面についての画像データが、基板IDに対応付けて登録される。
【0043】
部品DB250には、プリント基板に実装される部品に関する情報が、プリント基板ごとに登録される。後述するように、部品に関する情報としては、例えば、プリント基板における実装領域の位置を示す情報、部品に対応する案内画像のデータを識別する情報などが登録される。なお、部品DB250に登録される情報については、図6において詳しく説明する。
【0044】
案内画像DB260には、部品ごとの案内画像のデータが登録される。案内画像のデータは、プリント基板を識別する基板IDと、部品を識別する部品IDとの組合せごとに付与された案内画像IDに対応付けて登録される。
【0045】
ここで、図6は、プリント基板における部品の実装領域とその周辺領域の各例を示す図である。
この図6は、プリント基板410における部品実装面を、プリント基板410に垂直な方向から見た場合を示す。このような視線方向は、カメラ110がプリント基板410を撮像する方向と同じである。また、図6において、「状態11」は、プリント基板410に対して部品411を実装する前の状態を示し、「状態12」は、プリント基板410に対して部品411を実装した後の状態を示す。
【0046】
制御装置200では、プリント基板410において部品が実装される領域を示す位置情報が、部品ごとに部品DB250にあらかじめ登録される。図6では、部品411が実装される実装領域421が、部品411が配置される領域の外縁部に接する矩形領域として示されている。この図6の例のように、本実施の形態では、実装領域として、部品が配置される領域の外縁部に接する矩形領域が設定されるものとする。また、本実施の形態では、実装領域を示す位置情報の例として、実装領域に対応する矩形領域における4つの頂点の座標情報が、部品DB250に登録される。ただし、これら4つの頂点の各座標情報は、プリント基板410上の所定位置を基準とした相対座標とされる。
【0047】
さらに、図6では、実装領域421に対応する周囲領域422を、網掛けを付与して示している。図6の周囲領域422は、対応する実装領域421を一定幅だけ拡大した領域のうち、実装領域421を除いた領域である。この図6の例のように、本実施の形態では、対応する実装領域を一定幅だけ拡大した領域のうち実装領域を除く領域を、周囲領域とする。
【0048】
また、本実施の形態では、周囲領域についての位置情報として、周囲領域の外縁部における4つの頂点の座標情報と、これら4つの頂点を持つ矩形領域内に存在する矩形状の内空領域(すなわち、実装領域)の4つの頂点の座標情報とが、部品DB250に登録されるものとする。ただし、これら8つの頂点の各座標情報は、プリント基板410上の所定位置を基準とした相対座標とされる。なお、周囲領域における内空領域の座標情報は、部品DB250への登録が省略されて、実装領域の座標情報で兼用されてもよい。
【0049】
図7は、部品DBに登録される情報の例を示す図である。
部品DB250には、プリント基板を識別する基板IDごとに、レコード251が設けられる。1つのレコード251には、そのレコード251に登録された基板IDに対応するプリント基板に実装される部品の部品IDが、実装順に登録されている。さらに、各部品IDには、その部品IDに対応する部品の実装領域および周囲領域についての位置情報と、その部品の実装作業を案内する案内画像を識別する案内画像IDとが対応付けて登録されている。
【0050】
実装領域の位置情報は、図6で説明したように、矩形である実装領域における4つの頂点の座標である。また、周囲領域の位置情報は、図6で説明したように、周囲領域の外縁部における4つの頂点の座標である。ここで、実際の周囲領域は、周囲領域の位置情報として登録された4点の座標に基づく矩形領域から、実装領域の位置情報として登録された4点の座標に基づく矩形領域を除いた領域となる。なお、実装領域および周囲領域の各位置情報として登録される座標は、対応するプリント基板上の所定位置を基準とした相対座標である。案内画像IDは、案内画像DB260に登録された画像データのうちの1つを示すものである。
【0051】
以下、図5に戻り、実装判定部210の内部構成について説明する。実装判定部210は、画像取り込み部211、基板位置判定部212、実装領域算出部213、周囲領域算出部214、特徴量算出部215,216および判定処理部217を備える。
【0052】
画像取り込み部211は、カメラ110によって撮像された画像のデータを取り込む。画像取り込み部211は、1つのプリント基板に対する部品の実装作業前に撮像画像データを取り込み、その後に部品の実装作業が開始されると、撮像画像データを例えば1/30秒などの一定時間ごとに取り込む。画像取り込み部211は、取り込んだ撮像画像データを、例えばRAM202に対して、一時的に格納する。
【0053】
基板位置判定部212は、画像取り込み部211によって取り込まれた撮像画像データに基づく撮像画像から、プリント基板が映った領域(以下、基板領域と呼ぶ)を判定する。基板位置判定部212は、実装作業対象のプリント基板の基板画像データを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、画像取り込み部211によって取り込まれた撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。なお、プリント基板の領域判定方法の他の例としては、SIFT(Scale-Invariant Feature Transform)を用いたマッチング方法などを使用することもできる。
【0054】
実装領域算出部213は、基板位置判定部212によって判定された基板領域の位置情報と、部品DB250から読み込んだ部品の実装領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出し、特徴量算出部215,216に出力する。
【0055】
周囲領域算出部214は、基板位置判定部212によって判定された基板領域の位置情報と、部品DB250から読み込んだ周囲領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出し、特徴量算出部216に出力する。なお、周囲領域算出部214は、周囲領域に対応する実装領域の位置情報を基に、周囲領域の位置情報を演算によって求めてもよい。
【0056】
特徴量算出部215は、画像取り込み部211によって取り込まれた撮像画像データのうち、実装領域算出部213からの位置情報に基づく実装領域の画像データを、実装領域の特徴量として判定処理部217に出力する。特徴量算出部215は、部品の実装作業前に画像取り込み部211によって取り込まれた撮像画像データに基づく実装領域の特徴量A1_2を、判定処理部217に出力する。その後、特徴量算出部215は、部品の実装作業中に画像取り込み部211によって一定時間ごとに取り込まれた撮像画像データに基づく実装領域の特徴量A2_2を、判定処理部217に順次出力する。
【0057】
特徴量算出部216は、画像取り込み部211によって取り込まれた撮像画像データのうち、周囲領域算出部214からの位置情報に基づく周囲領域の画像データを、周囲領域の特徴量として判定処理部217に出力する。特徴量算出部216は、部品の実装作業前に画像取り込み部211によって取り込まれた撮像画像データに基づく周囲領域の特徴量B1_2を、判定処理部217に出力する。その後、特徴量算出部216は、部品の実装作業中に画像取り込み部211によって一定時間ごとに取り込まれた撮像画像データに基づく周囲領域の特徴量B2_2を、判定処理部217に順次出力する。
【0058】
判定処理部217は、特徴量算出部215からそれぞれ出力された、部品実装作業前における実装領域の特徴量A1_2と部品実装作業中における実装領域の特徴量A2_2との類似度SA_2を算出する。さらに、判定処理部217は、特徴量算出部216からそれぞれ出力された、部品実装作業前における周囲領域の特徴量B1_2と部品実装作業中における周囲領域の特徴量B2_2との類似度SB_2を算出する。
【0059】
そして、判定処理部217は、次の式(5)および式(6)の両方が成立したときに、実装領域に対する部品の実装作業が完了したと判定し、部品実装作業が完了したことを示す完了信号を作業管理部220に出力する。なお、式(5)、式(6)に記載した判定しきい値ThA_2,ThB_2は、ともに制御装置200のHDD203にあらかじめ登録される。
SA_2<ThA_2 ・・・(5)
SB_2>ThB_2 ・・・(6)
次に、表示制御部230の要求に応じてモニタ120に表示される案内画像の例について説明する。図8は、初期画像の表示例を示す図である。
【0060】
あるプリント基板に対して部品を実装する作業が開始される際には、表示制御部230は、例えば図8に示すような初期画像P1をモニタ120に表示させる。図8に示す初期画像P1は、作業台400に対してプリント基板を置くように、作業者に案内するための画像である。なお、初期画像P1のデータは、案内画像DB260にあらかじめ登録される。また、初期画像P1は、例えば、すべてのプリント基板に対して共通とされる。
【0061】
図9は、部品の実装作業中における案内画像の表示例を示す図である。
プリント基板に対する部品の実装作業が開始されると、表示制御部230は、次に実装する部品に対応する案内画像をモニタ120に表示させる。図9に示す案内画像P2には、例えば、実装対象のプリント基板431の画像や、プリント基板431における部品の実装位置を示す枠線432、実装する部品の画像433の画像、部品の実装作業手順や注意点などを示す文字情報434などが表示されている。
【0062】
次に、制御装置200の処理について、フローチャートを用いて説明する。まず、図10は、制御装置における作業支援処理全体の手順の例を示すフローチャートである。この図10の処理は、例えば、作業者の入力操作などにより、作業管理部220に対して部品実装対象のプリント基板が選択されたときに開始される。
【0063】
[ステップS11]作業管理部220は、変数Nを1に設定する。
[ステップS12]作業管理部220は、表示制御部230に対して、図8に示したような初期画像の表示を要求する。要求を受け付けた表示制御部230は、案内画像DB260から初期画像のデータを読み込み、読み込んだ初期画像のデータをグラフィックI/F204に出力することで、モニタ120に初期画像を表示させる。
【0064】
[ステップS13]実装判定部210は、作業管理部220による制御の下で、実装作業前における特徴量取得処理を実行する。この処理では、カメラ110から取り込んだ撮像画像データを基に、実装作業前における実装領域の特徴量A1_2および周囲領域の特徴量B1_2が部品ごとに算出される。算出された部品ごとの特徴量A1_2,B1_2は、例えばRAM202に一時的に格納される。
【0065】
なお、特徴量A1_2,B1_2がHDD203にあらかじめ記憶されている場合には、このステップS13の処理は省略される。
[ステップS14]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリに登録されたN番目の部品についての部品IDを読み込む。また、作業管理部220は、選択したエントリにおいてN番目の部品に対応付けられた案内画像IDを読み込む。
【0066】
[ステップS15]作業管理部220は、表示制御部230に対して、ステップS14で読み込んだ案内画像IDを出力して、案内画像の表示を要求する。表示制御部230は、案内画像DB260から、作業管理部220から出力された案内画像IDに対応付けられた画像データを読み込み、読み込んだ案内画像のデータをグラフィックI/F204に出力することで、モニタ120に案内画像を表示させる。
【0067】
[ステップS16]実装判定部210は、作業管理部220による制御の下で、実装領域に対する部品の実装作業が完了したかを判定する。実装判定部210の判定処理部217は、部品の実装作業が完了したと判定すると、作業管理部220に対して完了信号を出力する。
【0068】
[ステップS17]作業管理部220は、変数Nに1を加算する。
[ステップS18]作業管理部220は、変数Nの値が最大値を超えたかを判定する。この最大値とは、ステップS14で選択したエントリに登録された部品IDの数であり、この数は、プリント基板に対して実装する部品の数に相当する。
【0069】
変数Nの値が最大値以下である場合、作業管理部220は、ステップS14の処理を実行する。一方、変数Nの値が最大値を超えた場合、作業管理部220は、作業支援処理を終了する。
【0070】
図11は、部品の実装作業前における特徴量取得処理の手順の例を示すフローチャートである。この図11の処理は、図10のステップS13の処理に対応する。
[ステップS21]作業管理部220は、画像取り込み部211に対して、撮像画像データの取り込みを要求する。要求を受けた画像取り込み部211は、カメラ110から出力された撮像画像データを取り込み、例えばRAM202に格納する。
【0071】
[ステップS22]作業管理部220は、部品の実装対象のプリント基板の基板IDを基板位置判定部212に通知して、基板位置の判定処理を要求する。基板位置判定部212は、作業管理部220から通知された基板IDに対応する基板画像のデータを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、ステップS21でRAM202に格納された撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。
【0072】
[ステップS23]ステップS22の処理によって基板領域が検出された場合、基板位置判定部212は、作業管理部220に対して基板領域が検出されたことを通知するとともに、撮像画像における基板領域の位置情報を算出する。このとき算出される位置情報は、例えば、撮像画像における基板領域の外縁部の4つの頂点の座標である。
【0073】
一方、ステップS22の処理によって基板領域が検出されなかった場合、基板位置判定部212は、基板領域が検出されなかったことを作業管理部220に通知する。この場合、ステップS21の処理が再度実行され、通知を受けた作業管理部220は、画像取り込み部211に対して、新たな撮像画像データの取り込みを要求する。
【0074】
[ステップS24]作業管理部220は、変数Mを1に設定する。
[ステップS25]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリにおいてM番目に登録された部品IDを読み込む。
【0075】
[ステップS26]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS25で部品DB250から読み込んだ部品IDとを、実装領域算出部213に通知する。実装領域算出部213は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた実装領域の位置情報を、部品DB250から読み込む。実装領域算出部213は、部品DB250から読み込んだ実装領域の位置情報と、ステップS23において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出する。このとき算出される位置情報は、例えば、矩形である実装領域の4つの頂点についての撮像画像における座標である。
【0076】
[ステップS27]特徴量算出部215は、ステップS21で画像取り込み部211によって取り込まれた撮像画像データから、ステップS26で算出された位置情報に基づく実装領域の画像データを算出する。特徴量算出部215は、算出した実装領域の画像データを、特徴量A1_2としてRAM202に格納する。
【0077】
[ステップS28]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS25で部品DB250から読み込んだ部品IDとを、周囲領域算出部214に通知する。周囲領域算出部214は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた周囲領域の位置情報を、部品DB250から読み込む。周囲領域算出部214は、部品DB250から読み込んだ周囲領域の位置情報と、ステップS23において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出する。
【0078】
このとき算出される位置情報は、例えば、矩形である周囲領域の外縁部の4つの頂点についての撮像画像における座標と、周囲領域が備える矩形状の内空領域の4つの頂点についての撮像画像における座標である。なお、周囲領域算出部214は、撮像画像における内空領域の座標として、ステップS26で実装領域算出部213によって算出された、撮像画像における実装領域の座標を出力してもよい。
【0079】
[ステップS29]特徴量算出部216は、ステップS21で画像取り込み部211によって取り込まれた撮像画像データから、ステップS28で算出された位置情報に基づく周囲領域の画像データを算出する。特徴量算出部216は、算出した周囲領域の画像データを、特徴量B1_2としてRAM202に格納する。
【0080】
[ステップS30]作業管理部220は、変数Mに1を加算する。
[ステップS31]作業管理部220は、変数Mの値が最大値を超えたかを判定する。この最大値とは、ステップS25で選択したエントリに登録された部品IDの数であり、この数は、プリント基板に対して実装する部品の数に相当する。
【0081】
変数Mの値が最大値以下である場合、作業管理部220は、ステップS25の処理を実行して、部品DB250のエントリに次に登録された部品IDを読み込む。一方、変数Mの値が最大値を超えた場合、作業管理部220は、図10のステップS14の処理を実行する。
【0082】
以上の図11の処理では、ステップS25〜S29の処理が、プリント基板に実装する部品の数だけ繰り返されることで、プリント基板に実装する部品のそれぞれに対応する特徴量A1_2,B1_2が、RAM202に格納される。
【0083】
なお、上記の図11の処理において、ステップS26,S27の処理と、ステップS28,S29の処理については、処理順が逆であってもよいし、あるいは、これらの処理が並列に実行されてもよい。
【0084】
図12は、部品の実装判定処理の手順の例を示すフローチャートである。この図12の処理は、図10のステップS16の処理に対応する。
[ステップS41]作業管理部220は、画像取り込み部211に対して、撮像画像データの取り込みを要求する。要求を受けた画像取り込み部211は、カメラ110から出力された撮像画像データを取り込み、例えばRAM202に格納する。
【0085】
[ステップS42]作業管理部220は、部品の実装対象のプリント基板の基板IDを基板位置判定部212に通知して、基板位置の判定処理を要求する。基板位置判定部212は、作業管理部220から通知された基板IDに対応する基板画像のデータを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、ステップS41でRAM202に格納された撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。
【0086】
なお、テンプレートとして使用する基板画像データとしては、例えば、図11のステップS22で読み込み済みの基板画像データを使用してもよい。
[ステップS43]ステップS42の処理によって基板領域が検出された場合、基板位置判定部212は、作業管理部220に対して基板領域が検出されたことを通知するとともに、撮像画像における基板領域の位置情報を算出する。このとき算出される位置情報は、例えば、撮像画像における基板領域の外縁部の4つの頂点の座標である。
【0087】
一方、ステップS42の処理によって基板領域が検出されなかった場合、基板位置判定部212は、基板領域が検出されなかったことを作業管理部220に通知する。この場合、ステップS41の処理が再度実行され、通知を受けた作業管理部220は、画像取り込み部211に対して、新たな撮像画像データの取り込みを要求する。
【0088】
なお、例えば、部品実装対象のプリント基板が作業台400に固定されている場合には、ステップS42,S43の処理を省略することができる。この場合、以下の処理では、ステップS43で基板領域が検出された場合に算出される位置情報として、図11のステップS23で基板領域が検出された場合に算出された位置情報が使用される。
【0089】
[ステップS44]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリにおいてN番目に登録された部品IDを読み込む。
【0090】
[ステップS45]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、実装領域算出部213に通知する。実装領域算出部213は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた実装領域の位置情報を、部品DB250から読み込む。実装領域算出部213は、部品DB250から読み込んだ実装領域の位置情報と、ステップS43において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出する。このとき算出される位置情報は、例えば、矩形である実装領域の4つの頂点についての撮像画像における座標である。
【0091】
[ステップS46]特徴量算出部215は、ステップS41で画像取り込み部211によって取り込まれた撮像画像データから、ステップS45で算出された位置情報に基づく実装領域の画像データを算出する。特徴量算出部215は、算出した実装領域の画像データを、特徴量A2_2としてRAM202に格納する。
【0092】
[ステップS47]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、周囲領域算出部214に通知する。周囲領域算出部214は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた周囲領域の位置情報を、部品DB250から読み込む。周囲領域算出部214は、部品DB250から読み込んだ周囲領域の位置情報と、ステップS43において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出する。
【0093】
このとき算出される位置情報は、例えば、矩形である周囲領域の外縁部の4つの頂点についての撮像画像における座標と、周囲領域が備える矩形状の内空領域の4つの頂点についての撮像画像における座標である。なお、周囲領域算出部214は、撮像画像における内空領域の座標として、図11のステップS26で実装領域算出部213によって算出された、撮像画像における実装領域の座標を出力してもよい。
【0094】
[ステップS48]特徴量算出部216は、ステップS41で画像取り込み部211によって取り込まれた撮像画像データから、ステップS47で算出された位置情報に基づく周囲領域の画像データを算出する。特徴量算出部216は、算出した周囲領域の画像データを、特徴量B2_2としてRAM202に格納する。
【0095】
[ステップS49]判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、図10のステップS13で算出された実装領域の特徴量A1_2のうちN番目の部品に対応する特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、ステップS48で算出された周囲領域の特徴量B2_2と、図10のステップS13で算出された周囲領域の特徴量B1_2のうちN番目の部品に対応する特徴量B1_2との類似度SB_2を算出する。
【0096】
[ステップS50]判定処理部217は、ステップS49で算出した類似度SA_2,SB_2が、上記の式(5)および式(6)の両方を満たすかを判定する。式(5)および式(6)の各条件が満たされている場合、判定処理部217は、作業管理部220に対して完了信号を出力する。完了信号を受信した作業管理部220は、部品の実装判定処理を終了して、図10のステップS17の処理を実行する。
【0097】
一方、式(5)および式(6)の各条件のうち1つでも満たされていない場合、判定処理部217は、例えば、完了信号を出力しない。作業管理部220は、ステップS41で画像取り込み部211に対して撮像画像データの取り込みを要求してから、一定時間(例えば1/30秒)だけ、判定処理部217から完了信号が出力されるかを監視する。そして、作業管理部220は、一定時間内に完了信号を受信しない場合に、ステップS41に進んで、画像取り込み部211に対して新たな撮像画像データの取り込みを要求する。
【0098】
以上説明した第2の実施の形態では、式(5)の条件だけでなく式(6)の条件も加味して、部品の実装作業が完了したかが判定されるので、実装作業が完了したことを高精度に判定することができる。それぞれの部品の実装作業が完了したことが高精度に判定されて、次に実装する部品についての案内画像がモニタ120に表示されるようになるので、作業者による実装作業の正確性が向上し、実装作業を効率化することができる。
【0099】
なお、上記の第2の実施の形態では、矩形状の実装領域を囲む所定幅の領域を周囲領域に設定したが、部品によっては、例えば、可動部を有するものがある。ここで、図13を用いて、可動部を有する部品についての周囲領域の設定方法について補足説明する。
【0100】
図13は、可動部を有する部品に対応する周囲領域の一例を示す図である。
図13に示す部品440は、非可動部441と可動部442とを有する。例えば、可動部442はフラットケーブルであり、非可動部441はフラットケーブルのコネクタである。この部品440をプリント基板410に実装したとき、可動部442は、図13中において斜線で示した可動領域451の範囲で移動し得るものとする。
【0101】
このように可動部442を有する部品440については、例えば、前述の特徴量A1_2,A2_2の算出対象となる実装領域として、非可動部441が配置される領域を設定する。この場合、特徴量B1_2,B2_2の算出対象となる周囲領域としては、実装領域の周囲における一定幅の領域452(図13において網掛けで示した領域)から、可動領域451を除いた領域を設定すればよい。これにより、制御装置200は、上記の式(5)および式(6)の条件をそのまま使用して、実装作業が完了したかを判定することができる。
【0102】
領域452から除外する可動領域451としては、例えば、可動部442が実際に移動し得る領域を包含するような矩形領域を設定することができる。この場合、部品DB250に登録される、部品440に対応する周囲領域の位置情報としては、領域452の外縁部における4つの頂点の座標と、領域452の内側の内空領域(すなわち、部品440についての実装領域)における4つの頂点の座標と、矩形状に設定した可動領域451における4つの頂点の座標とが登録されればよい。
【0103】
〔第3の実施の形態〕
上記の第2の実施の形態では、式(5)の条件により、実装領域における特徴量が大きく変化したかを判定した。これに対して、別の方法として、実装領域に実装される部品の特徴量を制御装置200にあらかじめ登録しておき、実装領域を撮像した画像の特徴量が部品の特徴量に近づいたかを判定してもよい。
【0104】
実装領域に実装された部品をカメラ110から撮像した画像に基づく特徴量をCとし、特徴量Cと、実装作業中における実装領域の特徴量A2_2との類似度をSCとすると、第3の実施の形態における制御装置は、前述の式(5)および式(6)に加えて、次の式(7)の条件を満たした場合に、実装領域に対する部品の実装作業が完了したと判定する。なお、ThCは、所定の判定しきい値である。
SC>ThC ・・・(7)
以下、第3の実施の形態に係る作業支援システムについて、第2の実施の形態と異なる部分についてのみ説明する。まず、図14は、第3の実施の形態における制御装置の処理機能を示すブロック図である。なお、この図14では、図5に対応する要素には同じ符号を付して示している。
【0105】
図14に示す制御装置200のHDD203には、部品実装作業の完了判定時に使用するしきい値として、しきい値Th_A,Th_Bに加えて式(7)に示したしきい値ThCも、あらかじめ登録される。また、制御装置200のHDD203に登録される部品DB250には、次の図15に示す情報が登録される。
【0106】
図15は、第3の実施の形態において部品DBに登録される情報の例を示す図である。
部品DB250には、第2の実施の形態と同様に、プリント基板の基板IDごとにレコード251が設けられる。また、第2の実施の形態と同様に、各レコード251には、部品IDが部品の実装順に従って登録され、部品IDのそれぞれに対応付けて、実装領域の位置情報、周囲領域の位置情報、および案内画像IDが登録される。
【0107】
さらに、本実施の形態では、各レコード251には、部品IDのそれぞれに対応付けて、部品の実装作業前における実装領域の特徴量A1_2と、部品の実装作業前における周囲領域の特徴量B1_2と、実装領域に実装した部品についての特徴量Cとが登録される。
【0108】
図14に戻り、判定処理部217は、特徴量算出部215から出力された部品実装作業中における実装領域の特徴量A2_2と、部品DB250から読み出した部品実装作業前における実装領域の特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、特徴量算出部216から出力された部品実装作業中における周囲領域の特徴量B2_2と、部品DB250から読み出した部品実装作業前における周囲領域の特徴量B1_2との類似度SB_2を算出する。さらに、判定処理部217は、特徴量算出部215から出力された部品実装作業中における実装領域の特徴量A2_2と、部品DB250から読み出した部品についての特徴量Cとの類似度SCを算出する。そして、判定処理部217は、式(5)、式(6)および式(7)がすべて成立したときに、実装領域に対する部品の実装作業が完了したと判定し、部品実装作業が完了したことを示す完了信号を作業管理部220に出力する。
【0109】
次に、第3の実施の形態における制御装置200の処理について説明する。第3の実施の形態における制御装置200による作業支援処理全体の処理手順は、図10に示した処理手順のうち、ステップS13を除いたものとなる。また、ステップS16での詳細な処理手順は、次の図16のようになる。
【0110】
図16は、第3の実施の形態における部品の実装判定処理の手順の例を示すフローチャートである。この図16では、図12と同じ処理については同じステップ番号を付して示している。図16の処理は、図12におけるステップS49,S50の処理に代わって、次のS49a,S50aの処理を実行するようにしたものである。
【0111】
[ステップS49a]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、判定処理部217に通知する。判定処理部217は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた特徴量A1_2,B1_2,Cを、部品DB250から読み込む。
【0112】
判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、部品DB250から読み込んだ特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、ステップS48で算出された周囲領域の特徴量B2_2と、部品DB250から読み込んだ特徴量B1_2との類似度SB_2を算出する。さらに、判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、部品DB250から読み込んだ特徴量Cとの類似度SCを算出する。
【0113】
[ステップS50a]判定処理部217は、ステップS49aで算出した類似度SA_1,SA_2,SCが、上記の式(5)、式(6)および式(7)の各条件をすべて満たすかを判定する。式(5)、式(6)および式(7)の各条件が満たされている場合、判定処理部217は、作業管理部220に対して完了信号を出力する。完了信号を受信した作業管理部220は、部品の実装判定処理を終了して、図10のステップS17の処理を実行する。
【0114】
一方、式(5)、式(6)および式(7)の各条件のうち1つでも満たされていない場合、判定処理部217は、例えば、完了信号を出力しない。作業管理部220は、ステップS41で画像取り込み部211に対して撮像画像データの取り込みを要求してから、一定時間(例えば1/30秒)だけ、判定処理部217から完了信号が出力されるかを監視する。そして、作業管理部220は、一定時間内に完了信号を受信しない場合に、ステップS41に進んで、画像取り込み部211に対して新たな撮像画像データの取り込みを要求する。
【0115】
以上の第3の実施の形態では、式(5)および式(6)に加えて式(7)の条件を満たす場合に部品の実装作業が完了したと判定することで、その判定精度を向上させることができる。
【0116】
なお、上記の第3の実施の形態では、部品の実装作業前における実装領域の特徴量A1_2および周囲領域の特徴量B1_2を、部品DB250にあらかじめ用意した。しかしながら、これらの特徴量A1_2,B1_2を、第2の実施の形態と同様に、全部品の実装作業前における撮像画像を基に算出してもよい。
【0117】
また、上記の第3の実施の形態では、式(5)、式(6)および式(7)の各条件をすべて満たしたときに部品の実装作業が完了したと判定した。しかしながら、他の例として、類似度SA_2の算出を行わないようにし、式(6)および式(7)の各条件を両方満たした場合に部品の実装作業が完了したと判定するようにしてもよい。
【0118】
〔第4の実施の形態〕
部品の実装作業においては、ある部品についての実装領域または周囲領域の少なくとも一部の上に、さらに別の部品を実装するという場合があり得る。例えば、プリント基板上にLSI(Large Scale Integration)チップを実装した後、そのLSIチップの上に冷却ファンを取り付ける場合などが考えられる。
【0119】
新たな部品を、それ以前に実装した部品に対応する実装領域または周囲領域の少なくとも一部の上にさらに実装する作業が完了したかを判定する際に、全部品の実装作業前に撮像した画像を基に算出した特徴量A1_2,B1_2を用いてしまうと、実装作業が完了したかを正しく判定できない。なぜなら、新たな部品に対応する実装領域または周囲領域の特徴量は、それ以前に実装した部品の少なくとも一部の領域が配設されたことで、全部品の実装作業前とは異なる値になっているからである。
【0120】
そこで、以下の第4の実施の形態では、制御装置は、新たな部品を実装する直前に、その部品の実装領域または周囲領域が、それ以前に実装した部品の実装領域と重複するかを判定し、重複すると判定した場合に、新たな部品に対応する実装領域および周囲領域を撮像し直して、特徴量A1_2,B1_2をあらためて算出する。
【0121】
以下、第4の実施の形態における制御装置の構成について、図5を用いて説明する。第2の実施の形態における制御装置200と異なる点は、部品DB250に登録される情報と、この登録情報に基づく、作業管理部220による実装判定部210に対する制御処理手順である。
【0122】
図17は、第4の実施の形態において部品DBに登録される情報の例を示す図である。
部品DB250には、第2の実施の形態と同様に、プリント基板の基板IDごとにレコード251が設けられる。また、第2の実施の形態と同様に、各レコード251には、部品IDが部品の実装順に従って登録され、部品IDのそれぞれに対応付けて、実装領域の位置情報、周囲領域の位置情報、および案内画像IDが登録される。
【0123】
さらに、本実施の形態では、各レコード251には、部品IDのそれぞれに対応付けて、領域重複フラグが登録される。領域重複フラグは、このフラグに対応付けられた部品の実装領域または周囲領域の少なくとも一方が、それ以前に実装されるいずれかの部品についての実装領域の少なくとも一部と重複するかを示すものである。領域重複フラグは、領域が重複する場合には「1」とされ、領域が重複しない場合には「0」とされる。
【0124】
図18は、第4の実施の形態の制御装置における作業支援処理全体の手順の例を示すフローチャートである。なお、この図18では、図10と同じ処理については同じステップ番号を付して示している。図18の処理は、図10のステップS14とステップS15との間に、ステップS61,S62の処理が追加されたものである。
【0125】
[ステップS61]作業管理部220は、部品DB250における、部品実装対象のプリント基板の基板IDに対応するエントリから、ステップS14で読み込んだ部品IDに対応付けられた領域重複フラグを読み込む。読み込んだ領域重複フラグが「1」である場合、作業管理部220は、ステップS62の処理を実行する。一方、読み込んだ領域重複フラグが「0」である場合、作業管理部220は、ステップS15の処理を実行する。
【0126】
[ステップS62]作業管理部220は、画像取り込み部211に新たな撮像画像データの取り込みを要求し、実装判定部210に、N番目の部品に対応する特徴量A1_2,B1_2を算出させる。特徴量A1_2,B1_2の算出手順は、図11のステップS26〜S29で変数Mを変数Nに置き換えた場合と同様である。また、特徴量算出部215,216は、新たに算出した特徴量A1_2,B1_2によって、図18のステップS13の処理においてRAM202に格納した、N番目の部品に対応する特徴量A1_2,B1_2を更新する。
【0127】
なお、ステップS61では、領域重複フラグを参照する代わりに、N番目の部品に対応する実装領域または周囲領域の少なくとも一部が、それ以前に実装された部品に対応する実装領域に重複するかが、計算によって判定されてもよい。この場合、作業管理部220は、部品DB250に登録された実装領域および周囲領域の各位置情報に基づき、N番目の部品に対応する実装領域または周囲領域と、1番目から(N−1)番目までの各部品に対応する実装領域とを比較する。そして、作業管理部220は、比較した少なくとも1つの領域の組合せにおいて領域同士が重複していた場合に、ステップS62の処理を実行する。なお、このように計算によって領域の重複を判定する場合には、N=1のときにはステップS61,S62を実行しないようにしてもよい。
【0128】
以上の処理により、新たに実装する部品に対応する実装領域または周囲領域の少なくとも一部が、それ以前に実装された部品に対応する実装領域と重複する場合でも、新たな部品の実装作業が完了したかを正確に判定できるようになる。
【0129】
なお、図18の処理において、ステップS13の処理を実行せずに、特徴量A1_2、B1_2として部品DB250に登録された値を使用する場合であっても、ステップS61,S62を追加することが可能である。例えば、図18の処理を、ステップS13を除去するとともに、ステップS16の処理を図16のように変形することができる。この場合、図16のステップS49aでは、処理対象の部品に対応付けられた領域重複フラグが「1」である場合には、直前のステップS62で算出した特徴量A1_2,B1_2が使用されればよい。
【0130】
なお、上記の各実施の形態における作業支援装置および制御装置の処理機能は、コンピュータによって実現することができる。その場合、作業支援装置および制御装置が有すべき機能の処理内容を記述したプログラムが提供され、そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記憶装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記憶装置には、ハードディスク装置(HDD)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、DVD、DVD−RAM、CD−ROM/RWなどがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
【0131】
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【0132】
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、ネットワークを介して接続されたサーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【0133】
以上の各実施の形態に関し、さらに以下の付記を開示する。
(付記1) 部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得する画像取得部と、
前記画像取得部が取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記画像取得部が取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する判定部と、
を有することを特徴とする作業支援装置。
【0134】
(付記2) 1つの実装対象物に対して複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とを記憶する部品情報記憶部をさらに有し、
前記判定部は、前記複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記部品情報記憶部に記憶された情報に基づいて、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、前記画像取得部が取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記画像取得部が取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定する、
ことを特徴とする付記1記載の作業支援装置。
【0135】
(付記3) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記作業支援装置は、さらに、前記判定部が前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる表示制御部を有する、
ことを特徴とする付記2記載の作業支援装置。
【0136】
(付記4) 前記判定部は、前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記画像取得部が前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記2または3記載の作業支援装置。
【0137】
(付記5) 前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする付記1〜4のいずれか1つに記載の作業支援装置。
【0138】
(付記6) 前記判定部は、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記1記載の作業支援装置。
【0139】
(付記7) 前記判定部は、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記1記載の作業支援装置。
【0140】
(付記8) コンピュータに、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
処理を実行させることを特徴とする作業支援プログラム。
【0141】
(付記9) 1つの実装対象物に対して実装する複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とが記憶された部品情報記憶部を参照し、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から取得し、前記撮像装置から取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記撮像装置から取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定することを特徴とする付記8記載の作業支援プログラム。
【0142】
(付記10) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる、
ことを特徴とする付記9記載の作業支援プログラム。
【0143】
(付記11) 前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から新たに取得し、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記9または10記載の作業支援プログラム。
【0144】
(付記12) 前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする付記8〜11のいずれか1つに記載の作業支援プログラム。
【0145】
(付記13) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記8記載の作業支援プログラム。
【0146】
(付記14) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記8記載の作業支援プログラム。
【0147】
(付記15) 作業支援装置が、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
ことを特徴とする作業支援方法。
【0148】
(付記16) 1つの実装対象物に対して実装する複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とが記憶された部品情報記憶部を参照し、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から取得し、前記撮像装置から取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記撮像装置から取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定することを特徴とする付記15記載の作業支援方法。
【0149】
(付記17) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる、
ことを特徴とする付記16記載の作業支援方法。
【0150】
(付記18) 前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から新たに取得し、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記16または17記載の作業支援方法。
【0151】
(付記19) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記15記載の作業支援方法。
【0152】
(付記20) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記15記載の作業支援方法。
【符号の説明】
【0153】
1 作業支援システム
2 実装対象物
2a 実装領域
2b 周囲領域
3 部品
10 カメラ
20 作業支援装置
21 画像取得部
22 判定部
【技術分野】
【0001】
本発明は、作業支援装置、作業支援プログラムおよび作業支援方法に関する。
【背景技術】
【0002】
人による物の生産方式として、セル生産方式が知られている。セル生産方式では、1人の作業者が複数の作業工程が受け持つことから、作業者は、これら複数の作業工程を作業手順書などを基に理解して作業を進める必要がある。作業手順書を参照しながら作業を進めることは、作業効率を低下させる要因になり、また、作業工程を暗記することは作業者にとって大きな負担になる。
【0003】
このような問題に対して、製品の組立工程や作業手順情報などを、作業者が視認するモニタに表示することで、作業を支援するという方法がある。また、他の作業支援方法として、部品箱に指示ランプとセンサとを設けておき、部品箱から部品が取り出されたことをセンサが検出すると、次の作業で使用する部品箱を指示ランプを用いて作業者に指示するという方法もある。
【0004】
さらに、製造工程に関連する技術の例として、部品の実装領域を撮像した画像をモデル値と照合することで、実装領域に正しい部品が実装されたかを判定するものがある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平6−83840号公報
【特許文献2】特開2006−167829号公報
【特許文献3】特開2004−260034号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述した組立作業の支援方法により、作業者は、作業中に作業手順書を参照する必要がなくなり、また、作業手順を暗記する必要もなくなる。しかしながら、作業者に作業の手順を知らせるだけでは、部品の取り付け作業が完了したかを判断できない。また、部品の実装領域を撮像した画像をモデル値と照合する方法では、部品の実装領域とカメラとの間に部品が存在することは検出できるものの、その部品の実装作業が本当に完了したのかを正確に検出できないという問題がある。
【0007】
また、このように部品の取り付け作業が完了したかを正確に検出できないという問題は、上記のセル生産方式に限らず、ライン生産方式などの人手による他の生産方式においても発生する。
【0008】
本発明はこのような課題に鑑みてなされたものであり、部品の実装作業が完了したかを正確に判定できるようにした作業支援装置、作業支援プログラムおよび作業支援方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、画像取得部と、判定部とを有する作業支援装置が提供される。この作業支援装置において、画像取得部は、部品を実装する実装領域と、実装領域の周囲領域とをそれぞれ撮像した撮像画像を、撮像装置から取得する。判定部は、画像取得部が取得した実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、画像取得部が取得した周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、実装領域に対する部品の実装作業が完了したと判定する。
【0010】
また、上記課題を解決するために、上記の作業支援装置と同様の処理をコンピュータに実行させる作業支援プログラムが提供される。
さらに、上記課題を解決するために、上記の作業支援装置と同様の処理を実行する作業支援方法が提供される。
【発明の効果】
【0011】
上記の作業支援装置、作業支援プログラムおよび作業支援方法によれば、実装領域に対する部品の実装作業が完了したかを正確に判定できるようになる。
【図面の簡単な説明】
【0012】
【図1】第1の実施の形態に係る作業支援システムの構成例を示す図である。
【図2】部品実装作業の例を示す図である。
【図3】第2の実施の形態に係る作業支援システムのシステム構成例を示す図である。
【図4】制御装置のハードウェア構成例を示す図である。
【図5】制御装置が備える処理機能の例を示すブロック図である。
【図6】プリント基板における部品の実装領域とその周辺領域の各例を示す図である。
【図7】部品DBに登録される情報の例を示す図である。
【図8】初期画像の表示例を示す図である。
【図9】部品の実装作業中における案内画像の表示例を示す図である。
【図10】制御装置における作業支援処理全体の手順の例を示すフローチャートである。
【図11】部品の実装作業前における特徴量取得処理の手順の例を示すフローチャートである。
【図12】部品の実装判定処理の手順の例を示すフローチャートである。
【図13】可動部を有する部品に対応する周囲領域の一例を示す図である。
【図14】第3の実施の形態における制御装置の処理機能を示すブロック図である。
【図15】第3の実施の形態において部品DBに登録される情報の例を示す図である。
【図16】第3の実施の形態における部品の実装判定処理の手順の例を示すフローチャートである。
【図17】第4の実施の形態において部品DBに登録される情報の例を示す図である。
【図18】第4の実施の形態の制御装置における作業支援処理全体の手順の例を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、実施の形態について図面を参照して説明する。
〔第1の実施の形態〕
図1は、第1の実施の形態に係る作業支援システムの構成例を示す図である。図1に示す作業支援システム1は、カメラ(撮像装置)10と、作業支援装置20とを含む。
【0014】
カメラ10は、実装対象物2において部品3が実装される部品実装面を撮像し、撮像画像を作業支援装置20に供給する。作業支援装置20は、カメラ10によって撮像された画像を基に、実装対象物2に対する部品3の実装作業が完了したかを判定することで、実装対象物2に対する部品3の実装作業を支援する。作業支援装置20は、画像取得部21と、判定部22とを備える。なお、画像取得部21および判定部22の処理は、例えば、作業支援装置20が備えるCPU(Central Processing Unit)が所定のプログラムを実行することで実現される。
【0015】
画像取得部21は、カメラ10から、少なくとも、部品3が実装される実装領域2aの撮像画像と、実装領域2aの周囲領域2bの撮像画像とを取得する。ここで、実装領域2aは、例えば、部品3が実装対象物2に実装された状態において、カメラ10から見て部品3が配置された領域を包含するように設定される。一例として、実装領域2aは、部品3が実装対象物2に実装された状態において、カメラ10から見た部品3の外縁部に接するように設定される。一方、周囲領域2bは、例えば、実装領域2aを一定幅だけ拡大した領域のうち、実装領域2aを除く領域として設定される。
【0016】
判定部22は、画像取得部21によって取得された実装領域2aおよび周囲領域2bの各撮像画像の変化を観察することにより、実装領域2aに対する部品3の実装作業が完了したかを判定する。より具体的には、判定部22は、部品3の実装作業前における実装領域2aおよび周囲領域2bの各撮像画像を画像取得部21から取得し、実装領域2aの撮像画像についての特徴量A1と、周囲領域2bの撮像画像についての特徴量B1とを求める。さらに、判定部22は、部品3の実装作業中における実装領域2aおよび周囲領域2bの各撮像画像と画像取得部21から取得し、実装領域2aの撮像画像についての特徴量A2と、周囲領域2bの撮像画像についての特徴量B2とを求める。
【0017】
そして、判定部22は、特徴量A1と特徴量A2との類似度SAと、特徴量B1と特徴量B2との類似度SBとを求めて、次の式(1)および式(2)の両方が成立したときに、実装領域2aに対する部品3の実装作業が完了したと判定する。なお、式(1)、式(2)において、ThA,ThBは、ともにあらかじめ決められた判定しきい値である。
SA<ThA ・・・(1)
SB>ThB ・・・(2)
なお、判定部22は、カメラ10から取得した撮像画像を基に特徴量A1,B1を求めるのではなく、記憶部(図示せず)にあらかじめ記憶された特徴量A1,B1を用いて、部品実装作業が完了したかを判定してもよい。
【0018】
ここで、図2は、部品実装作業の例を示す図である。
図2における「状態1」は、作業者が実装対象物2に対して部品3を実装する作業の途中の状態を示す。また、図2における「状態2」は、実装対象物2に対する部品3の実装作業が完了した状態を示す。
【0019】
上記の式(1)の条件は、カメラ10から見た実装領域2aの方向に部品3が配置されたことを検出する条件である。ただし、例えば図2の状態1のように、部品3が実装領域2aの近くに配置されているものの、実装領域2aに対する部品3の実装作業が完了していない状態であっても、式(1)の条件を満たす可能性がある。
【0020】
一方、図2の状態1のように、部品3の実装作業が未完了の状態では、部品3は作業者の手によって保持されている場合が多い。あるいは、部品3が実装対象物2に接触しているものの、部品3の実装作業が未完了の状態では、位置合わせなどを行う作業者の手が部品3に触れている場合が多い。これらのケースのように、部品3に作業者の手が触れている場合には、実装領域2aに対応する周囲領域2bを撮像した画像には、作業者の手が映り込む可能性が高い。
【0021】
逆に、部品3の実装作業が完了すると、図2の状態2のように、作業者の手は実装領域2aから遠ざかり、周囲領域2bの外側に離れる。このとき、カメラ10が周囲領域2bを撮像した画像には、作業者の手が映らなくなる。上記の式(2)は、周囲領域2bに、作業者の手などの物体が写り込んでいないことを検出する条件である。このような式(2)の条件と上記の式(1)の条件の両方を満たした場合に部品の実装作業が完了したと判定することで、作業の完了を正確に判定できるようになる。
【0022】
ところで、上記の式(1)、式(2)における判定しきい値ThA,ThBは、例えば、実装対象物2への部品実装作業前において、次のように求められる。部品3が実装されていない実装領域2aの画像についての特徴量A1_0と、部品実装完了後における実装領域2aの画像についての特徴量A2_0とから、特徴量A1_0と特徴量A2_0との類似度を求める。そして、求めた類似度に1以上の所定の係数を乗算した値を、判定しきい値ThAとする。また、部品3の実装前における周囲領域2bの画像についての特徴量B1_0と、周囲領域2bの一部を手などで隠した状態で周囲領域2bを撮像した画像についての特徴量B2_0とから、特徴量B1_0と特徴量B2_0との類似度を求める。そして、求めた類似度に1未満の所定の係数を乗算した値を、判定しきい値ThBとする。ここで、上記の各係数は、例えば、被写体に対する照明の状態、あるいは、カメラ110やプリント基板410の位置ズレなどによって生じる類似度のブレを吸収するものである。
【0023】
また、実装領域2aおよび周囲領域2bの各画像についての特徴量としては、例えば、各領域の画像データを用いることができる。この場合、2つの画像の類似度を計算する方法としては、各種の相関演算の方法を用いることができる。相関演算の一例としては、比較する2つの画像データにおけるそれぞれ同一座標の画素値の差の二乗和を求め、求めた二乗和の平方根X1を求めるともに、全画素についての画素値の最大値の二乗和を求め、求めた二乗和の平方根X2を求めて、平方根X1を平方根X2で除算する方法などがある。
【0024】
また、実装領域2aおよび周囲領域2bの各画像についての特徴量としては、例えば、各画像内の全画素の画素値の平均値を用いることもできる。例えば、各領域の画像において、全画素についての画素値のR(Red)成分の平均値と、全画素についての画素値のG(Green)成分の平均値と、全画素についての画素値のB(Blue)成分の平均値とを加算し、その加算値を3で除算したものを特徴量とする。
【0025】
この場合、特徴量同士の類似度は、特徴量の差分を基に求めることもできる。例えば、部品実装前における実装領域2aおよび周囲領域2bの特徴量をそれぞれA1_1,B1_1、部品実装作業の完了後における実装領域2aおよび周囲領域2bの特徴量をそれぞれA2_1,B2_2とすると、判定部22は、次の式(3)および式(4)の両方が成立したときに、実装領域に対する部品の実装作業が完了したと判定する。なお、式(3)、式(4)において、ThA_1,ThB_1は、ともにあらかじめ決められた判定しきい値である。
|A2_1−A1_1|>ThA_1 ・・・(3)
|B2_1−B1_1|<ThB_1 ・・・(4)
〔第2の実施の形態〕
次に、第2の実施の形態として、プリント基板に対して部品を実装する作業を支援する作業支援システムについて説明する。
【0026】
図3は、第2の実施の形態に係る作業支援システムのシステム構成例を示す図である。図3に示す作業支援システム100は、カメラ110、モニタ120および制御装置200を含む。
【0027】
カメラ110は、作業台400に載置されたプリント基板410における部品411の実装面を撮像する。なお、図3では1つの部品411を示しているが、実際にはプリント基板410には複数の部品が実装される。作業台400では、1人または複数の作業者によって、プリント基板410に対して複数の部品が順番に実装される。なお、プリント基板410は、例えば、作業台400に設けられた固定機構によって作業台400に固定されてもよい。
【0028】
モニタ120には、作業者に対して部品実装作業を案内する各種の案内画像が表示される。モニタ120としては、例えば、LCD(Liquid Crystal Display)、CRT(cathode-ray tube)などを使用することができる。また、案内画像を表示する他の表示デバイスとして、例えば、プロジェクタ、ヘッドマウントディスプレイなどを使用することもできる。
【0029】
制御装置200は、カメラ110が撮像した画像を基に、モニタ120に表示する案内画像を制御する。ここで、モニタ120に表示される案内画像は、少なくとも、プリント基板410に実装される部品ごとに用意される。そして、制御装置200は、カメラ110によって撮像された画像を基に、プリント基板410に対して部品が実装されたか否かを部品ごとに判定し、1つの部品の実装が完了したと判定すると、モニタ120に表示させる案内画像を、次に実装すべき部品に対応する案内画像に切り替える。
【0030】
図4は、制御装置のハードウェア構成例を示す図である。
制御装置200は、例えば、図4に示すようなコンピュータとして実現される。制御装置200は、CPU201によって装置全体が制御されている。CPU201には、バス209を介して、RAM(Random Access Memory)202および複数の周辺機器が接続されている。
【0031】
RAM202は、制御装置200の主記憶装置として使用される。RAM202には、CPU201に実行させるOS(Operating System)プログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM202には、CPU201による処理に必要な各種データが格納される。
【0032】
バス209に接続されている周辺機器としては、HDD(Hard Disk Drive)203、グラフィックI/F(インタフェース)204、入力I/F205、光学ドライブ装置206、ネットワークI/F207および通信I/F208がある。
【0033】
HDD203は、内蔵した磁気ディスクに対して、磁気的にデータの書き込みおよび読み出しを行う。HDD203は、制御装置200の二次記憶装置として使用される。HDD203には、OSプログラム、アプリケーションプログラム、および各種データが格納される。なお、二次記憶装置としては、フラッシュメモリなどの半導体記憶装置を使用することもできる。
【0034】
グラフィックI/F204には、モニタ120が接続されている。グラフィックI/F204は、CPU201からの命令に従って、前述した案内画像などの各種の画像をモニタ120に表示させる。
【0035】
入力I/F205には、例えば、キーボード205aおよびマウス205bが接続されている。入力I/F205は、キーボード205aやマウス205bからの出力信号をCPU201に送信する。なお、マウス205bは、ポインティングデバイスの一例であり、他のポインティングデバイスを使用することもできる。他のポインティングデバイスとしては、タッチパネル、タブレット、タッチパッド、トラックボールなどがある。
【0036】
光学ドライブ装置206は、レーザ光などを利用して、光ディスク206aに記録されたデータの読み取りを行う。光ディスク206aは、光の反射によって読み取り可能なようにデータが記録された可搬型の記録媒体である。光ディスク206aには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM(Compact Disc Read Only Memory)、CD−R(Recordable)/RW(Rewritable)などがある。
【0037】
ネットワークI/F207は、ネットワーク207aに接続された他の装置との間でデータを送受信する。
通信I/F207は、カメラ110から出力された撮像画像信号を受信して、CPU201に出力する。なお、カメラ110は、撮像画像信号をデジタル信号に変換して出力するものとするが、撮像画像信号のデジタル変換機能を通信I/F208が備えていてもよい。
【0038】
図5は、制御装置が備える処理機能の例を示すブロック図である。
制御装置200は、実装判定部210、作業管理部220および表示制御部230を備える。実装判定部210、作業管理部220および表示制御部230の処理は、例えば、制御装置200が備えるCPUが所定のプログラムを実行することで実現される。また、制御装置200のHDD203には、基板画像DB(データベース)240、部品DB250、および案内画像DB260が記憶される。
【0039】
実装判定部210は、作業管理部220による制御の下で、カメラ110による撮像画像を基に、プリント基板410に対する部品の実装が完了したかを部品ごとに判定する。実装判定部210は、部品の実装完了を判定する際に、基板画像DB240と部品DB250を参照する。実装判定部210は、部品の実装が完了したと判定すると、部品の実装完了を通知する完了信号を作業管理部220に出力する。
【0040】
作業管理部220は、部品DB250に登録された情報を基に、プリント基板410に対する部品の実装順序を認識し、認識した実装順序に従って、実装判定部210および表示制御部230の処理を制御する。作業管理部220は、実装判定部210から完了信号を受信すると、次に実装する部品に対応する案内画像をモニタ120に表示させるように表示制御部230に要求するとともに、実装判定部210に対して、次に実装する部品についての実装作業が完了したかを判定させる。
【0041】
表示制御部230は、作業管理部220からの要求に応じて、次に実装する部品に対応する案内画像のデータを案内画像DB260から読み込み、読み込んだデータに基づく案内画像をモニタ120に表示させる。
【0042】
基板画像DB240には、プリント基板の部品実装面についての画像データが、プリント基板ごとに登録される。この基板画像DB240に登録される画像データは、すべての部品が実装される前におけるプリント基板の部品実装面を撮像することで得られたものである。基板画像DB240に登録された画像データは、実装判定部210が、作業台400に載置されたプリント基板の位置をテンプレートマッチングによって判定する際に、テンプレートとして利用される。また、基板画像DB240では、プリント基板ごとに基板IDが付与され、プリント基板の部品実装面についての画像データが、基板IDに対応付けて登録される。
【0043】
部品DB250には、プリント基板に実装される部品に関する情報が、プリント基板ごとに登録される。後述するように、部品に関する情報としては、例えば、プリント基板における実装領域の位置を示す情報、部品に対応する案内画像のデータを識別する情報などが登録される。なお、部品DB250に登録される情報については、図6において詳しく説明する。
【0044】
案内画像DB260には、部品ごとの案内画像のデータが登録される。案内画像のデータは、プリント基板を識別する基板IDと、部品を識別する部品IDとの組合せごとに付与された案内画像IDに対応付けて登録される。
【0045】
ここで、図6は、プリント基板における部品の実装領域とその周辺領域の各例を示す図である。
この図6は、プリント基板410における部品実装面を、プリント基板410に垂直な方向から見た場合を示す。このような視線方向は、カメラ110がプリント基板410を撮像する方向と同じである。また、図6において、「状態11」は、プリント基板410に対して部品411を実装する前の状態を示し、「状態12」は、プリント基板410に対して部品411を実装した後の状態を示す。
【0046】
制御装置200では、プリント基板410において部品が実装される領域を示す位置情報が、部品ごとに部品DB250にあらかじめ登録される。図6では、部品411が実装される実装領域421が、部品411が配置される領域の外縁部に接する矩形領域として示されている。この図6の例のように、本実施の形態では、実装領域として、部品が配置される領域の外縁部に接する矩形領域が設定されるものとする。また、本実施の形態では、実装領域を示す位置情報の例として、実装領域に対応する矩形領域における4つの頂点の座標情報が、部品DB250に登録される。ただし、これら4つの頂点の各座標情報は、プリント基板410上の所定位置を基準とした相対座標とされる。
【0047】
さらに、図6では、実装領域421に対応する周囲領域422を、網掛けを付与して示している。図6の周囲領域422は、対応する実装領域421を一定幅だけ拡大した領域のうち、実装領域421を除いた領域である。この図6の例のように、本実施の形態では、対応する実装領域を一定幅だけ拡大した領域のうち実装領域を除く領域を、周囲領域とする。
【0048】
また、本実施の形態では、周囲領域についての位置情報として、周囲領域の外縁部における4つの頂点の座標情報と、これら4つの頂点を持つ矩形領域内に存在する矩形状の内空領域(すなわち、実装領域)の4つの頂点の座標情報とが、部品DB250に登録されるものとする。ただし、これら8つの頂点の各座標情報は、プリント基板410上の所定位置を基準とした相対座標とされる。なお、周囲領域における内空領域の座標情報は、部品DB250への登録が省略されて、実装領域の座標情報で兼用されてもよい。
【0049】
図7は、部品DBに登録される情報の例を示す図である。
部品DB250には、プリント基板を識別する基板IDごとに、レコード251が設けられる。1つのレコード251には、そのレコード251に登録された基板IDに対応するプリント基板に実装される部品の部品IDが、実装順に登録されている。さらに、各部品IDには、その部品IDに対応する部品の実装領域および周囲領域についての位置情報と、その部品の実装作業を案内する案内画像を識別する案内画像IDとが対応付けて登録されている。
【0050】
実装領域の位置情報は、図6で説明したように、矩形である実装領域における4つの頂点の座標である。また、周囲領域の位置情報は、図6で説明したように、周囲領域の外縁部における4つの頂点の座標である。ここで、実際の周囲領域は、周囲領域の位置情報として登録された4点の座標に基づく矩形領域から、実装領域の位置情報として登録された4点の座標に基づく矩形領域を除いた領域となる。なお、実装領域および周囲領域の各位置情報として登録される座標は、対応するプリント基板上の所定位置を基準とした相対座標である。案内画像IDは、案内画像DB260に登録された画像データのうちの1つを示すものである。
【0051】
以下、図5に戻り、実装判定部210の内部構成について説明する。実装判定部210は、画像取り込み部211、基板位置判定部212、実装領域算出部213、周囲領域算出部214、特徴量算出部215,216および判定処理部217を備える。
【0052】
画像取り込み部211は、カメラ110によって撮像された画像のデータを取り込む。画像取り込み部211は、1つのプリント基板に対する部品の実装作業前に撮像画像データを取り込み、その後に部品の実装作業が開始されると、撮像画像データを例えば1/30秒などの一定時間ごとに取り込む。画像取り込み部211は、取り込んだ撮像画像データを、例えばRAM202に対して、一時的に格納する。
【0053】
基板位置判定部212は、画像取り込み部211によって取り込まれた撮像画像データに基づく撮像画像から、プリント基板が映った領域(以下、基板領域と呼ぶ)を判定する。基板位置判定部212は、実装作業対象のプリント基板の基板画像データを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、画像取り込み部211によって取り込まれた撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。なお、プリント基板の領域判定方法の他の例としては、SIFT(Scale-Invariant Feature Transform)を用いたマッチング方法などを使用することもできる。
【0054】
実装領域算出部213は、基板位置判定部212によって判定された基板領域の位置情報と、部品DB250から読み込んだ部品の実装領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出し、特徴量算出部215,216に出力する。
【0055】
周囲領域算出部214は、基板位置判定部212によって判定された基板領域の位置情報と、部品DB250から読み込んだ周囲領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出し、特徴量算出部216に出力する。なお、周囲領域算出部214は、周囲領域に対応する実装領域の位置情報を基に、周囲領域の位置情報を演算によって求めてもよい。
【0056】
特徴量算出部215は、画像取り込み部211によって取り込まれた撮像画像データのうち、実装領域算出部213からの位置情報に基づく実装領域の画像データを、実装領域の特徴量として判定処理部217に出力する。特徴量算出部215は、部品の実装作業前に画像取り込み部211によって取り込まれた撮像画像データに基づく実装領域の特徴量A1_2を、判定処理部217に出力する。その後、特徴量算出部215は、部品の実装作業中に画像取り込み部211によって一定時間ごとに取り込まれた撮像画像データに基づく実装領域の特徴量A2_2を、判定処理部217に順次出力する。
【0057】
特徴量算出部216は、画像取り込み部211によって取り込まれた撮像画像データのうち、周囲領域算出部214からの位置情報に基づく周囲領域の画像データを、周囲領域の特徴量として判定処理部217に出力する。特徴量算出部216は、部品の実装作業前に画像取り込み部211によって取り込まれた撮像画像データに基づく周囲領域の特徴量B1_2を、判定処理部217に出力する。その後、特徴量算出部216は、部品の実装作業中に画像取り込み部211によって一定時間ごとに取り込まれた撮像画像データに基づく周囲領域の特徴量B2_2を、判定処理部217に順次出力する。
【0058】
判定処理部217は、特徴量算出部215からそれぞれ出力された、部品実装作業前における実装領域の特徴量A1_2と部品実装作業中における実装領域の特徴量A2_2との類似度SA_2を算出する。さらに、判定処理部217は、特徴量算出部216からそれぞれ出力された、部品実装作業前における周囲領域の特徴量B1_2と部品実装作業中における周囲領域の特徴量B2_2との類似度SB_2を算出する。
【0059】
そして、判定処理部217は、次の式(5)および式(6)の両方が成立したときに、実装領域に対する部品の実装作業が完了したと判定し、部品実装作業が完了したことを示す完了信号を作業管理部220に出力する。なお、式(5)、式(6)に記載した判定しきい値ThA_2,ThB_2は、ともに制御装置200のHDD203にあらかじめ登録される。
SA_2<ThA_2 ・・・(5)
SB_2>ThB_2 ・・・(6)
次に、表示制御部230の要求に応じてモニタ120に表示される案内画像の例について説明する。図8は、初期画像の表示例を示す図である。
【0060】
あるプリント基板に対して部品を実装する作業が開始される際には、表示制御部230は、例えば図8に示すような初期画像P1をモニタ120に表示させる。図8に示す初期画像P1は、作業台400に対してプリント基板を置くように、作業者に案内するための画像である。なお、初期画像P1のデータは、案内画像DB260にあらかじめ登録される。また、初期画像P1は、例えば、すべてのプリント基板に対して共通とされる。
【0061】
図9は、部品の実装作業中における案内画像の表示例を示す図である。
プリント基板に対する部品の実装作業が開始されると、表示制御部230は、次に実装する部品に対応する案内画像をモニタ120に表示させる。図9に示す案内画像P2には、例えば、実装対象のプリント基板431の画像や、プリント基板431における部品の実装位置を示す枠線432、実装する部品の画像433の画像、部品の実装作業手順や注意点などを示す文字情報434などが表示されている。
【0062】
次に、制御装置200の処理について、フローチャートを用いて説明する。まず、図10は、制御装置における作業支援処理全体の手順の例を示すフローチャートである。この図10の処理は、例えば、作業者の入力操作などにより、作業管理部220に対して部品実装対象のプリント基板が選択されたときに開始される。
【0063】
[ステップS11]作業管理部220は、変数Nを1に設定する。
[ステップS12]作業管理部220は、表示制御部230に対して、図8に示したような初期画像の表示を要求する。要求を受け付けた表示制御部230は、案内画像DB260から初期画像のデータを読み込み、読み込んだ初期画像のデータをグラフィックI/F204に出力することで、モニタ120に初期画像を表示させる。
【0064】
[ステップS13]実装判定部210は、作業管理部220による制御の下で、実装作業前における特徴量取得処理を実行する。この処理では、カメラ110から取り込んだ撮像画像データを基に、実装作業前における実装領域の特徴量A1_2および周囲領域の特徴量B1_2が部品ごとに算出される。算出された部品ごとの特徴量A1_2,B1_2は、例えばRAM202に一時的に格納される。
【0065】
なお、特徴量A1_2,B1_2がHDD203にあらかじめ記憶されている場合には、このステップS13の処理は省略される。
[ステップS14]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリに登録されたN番目の部品についての部品IDを読み込む。また、作業管理部220は、選択したエントリにおいてN番目の部品に対応付けられた案内画像IDを読み込む。
【0066】
[ステップS15]作業管理部220は、表示制御部230に対して、ステップS14で読み込んだ案内画像IDを出力して、案内画像の表示を要求する。表示制御部230は、案内画像DB260から、作業管理部220から出力された案内画像IDに対応付けられた画像データを読み込み、読み込んだ案内画像のデータをグラフィックI/F204に出力することで、モニタ120に案内画像を表示させる。
【0067】
[ステップS16]実装判定部210は、作業管理部220による制御の下で、実装領域に対する部品の実装作業が完了したかを判定する。実装判定部210の判定処理部217は、部品の実装作業が完了したと判定すると、作業管理部220に対して完了信号を出力する。
【0068】
[ステップS17]作業管理部220は、変数Nに1を加算する。
[ステップS18]作業管理部220は、変数Nの値が最大値を超えたかを判定する。この最大値とは、ステップS14で選択したエントリに登録された部品IDの数であり、この数は、プリント基板に対して実装する部品の数に相当する。
【0069】
変数Nの値が最大値以下である場合、作業管理部220は、ステップS14の処理を実行する。一方、変数Nの値が最大値を超えた場合、作業管理部220は、作業支援処理を終了する。
【0070】
図11は、部品の実装作業前における特徴量取得処理の手順の例を示すフローチャートである。この図11の処理は、図10のステップS13の処理に対応する。
[ステップS21]作業管理部220は、画像取り込み部211に対して、撮像画像データの取り込みを要求する。要求を受けた画像取り込み部211は、カメラ110から出力された撮像画像データを取り込み、例えばRAM202に格納する。
【0071】
[ステップS22]作業管理部220は、部品の実装対象のプリント基板の基板IDを基板位置判定部212に通知して、基板位置の判定処理を要求する。基板位置判定部212は、作業管理部220から通知された基板IDに対応する基板画像のデータを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、ステップS21でRAM202に格納された撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。
【0072】
[ステップS23]ステップS22の処理によって基板領域が検出された場合、基板位置判定部212は、作業管理部220に対して基板領域が検出されたことを通知するとともに、撮像画像における基板領域の位置情報を算出する。このとき算出される位置情報は、例えば、撮像画像における基板領域の外縁部の4つの頂点の座標である。
【0073】
一方、ステップS22の処理によって基板領域が検出されなかった場合、基板位置判定部212は、基板領域が検出されなかったことを作業管理部220に通知する。この場合、ステップS21の処理が再度実行され、通知を受けた作業管理部220は、画像取り込み部211に対して、新たな撮像画像データの取り込みを要求する。
【0074】
[ステップS24]作業管理部220は、変数Mを1に設定する。
[ステップS25]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリにおいてM番目に登録された部品IDを読み込む。
【0075】
[ステップS26]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS25で部品DB250から読み込んだ部品IDとを、実装領域算出部213に通知する。実装領域算出部213は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた実装領域の位置情報を、部品DB250から読み込む。実装領域算出部213は、部品DB250から読み込んだ実装領域の位置情報と、ステップS23において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出する。このとき算出される位置情報は、例えば、矩形である実装領域の4つの頂点についての撮像画像における座標である。
【0076】
[ステップS27]特徴量算出部215は、ステップS21で画像取り込み部211によって取り込まれた撮像画像データから、ステップS26で算出された位置情報に基づく実装領域の画像データを算出する。特徴量算出部215は、算出した実装領域の画像データを、特徴量A1_2としてRAM202に格納する。
【0077】
[ステップS28]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS25で部品DB250から読み込んだ部品IDとを、周囲領域算出部214に通知する。周囲領域算出部214は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた周囲領域の位置情報を、部品DB250から読み込む。周囲領域算出部214は、部品DB250から読み込んだ周囲領域の位置情報と、ステップS23において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出する。
【0078】
このとき算出される位置情報は、例えば、矩形である周囲領域の外縁部の4つの頂点についての撮像画像における座標と、周囲領域が備える矩形状の内空領域の4つの頂点についての撮像画像における座標である。なお、周囲領域算出部214は、撮像画像における内空領域の座標として、ステップS26で実装領域算出部213によって算出された、撮像画像における実装領域の座標を出力してもよい。
【0079】
[ステップS29]特徴量算出部216は、ステップS21で画像取り込み部211によって取り込まれた撮像画像データから、ステップS28で算出された位置情報に基づく周囲領域の画像データを算出する。特徴量算出部216は、算出した周囲領域の画像データを、特徴量B1_2としてRAM202に格納する。
【0080】
[ステップS30]作業管理部220は、変数Mに1を加算する。
[ステップS31]作業管理部220は、変数Mの値が最大値を超えたかを判定する。この最大値とは、ステップS25で選択したエントリに登録された部品IDの数であり、この数は、プリント基板に対して実装する部品の数に相当する。
【0081】
変数Mの値が最大値以下である場合、作業管理部220は、ステップS25の処理を実行して、部品DB250のエントリに次に登録された部品IDを読み込む。一方、変数Mの値が最大値を超えた場合、作業管理部220は、図10のステップS14の処理を実行する。
【0082】
以上の図11の処理では、ステップS25〜S29の処理が、プリント基板に実装する部品の数だけ繰り返されることで、プリント基板に実装する部品のそれぞれに対応する特徴量A1_2,B1_2が、RAM202に格納される。
【0083】
なお、上記の図11の処理において、ステップS26,S27の処理と、ステップS28,S29の処理については、処理順が逆であってもよいし、あるいは、これらの処理が並列に実行されてもよい。
【0084】
図12は、部品の実装判定処理の手順の例を示すフローチャートである。この図12の処理は、図10のステップS16の処理に対応する。
[ステップS41]作業管理部220は、画像取り込み部211に対して、撮像画像データの取り込みを要求する。要求を受けた画像取り込み部211は、カメラ110から出力された撮像画像データを取り込み、例えばRAM202に格納する。
【0085】
[ステップS42]作業管理部220は、部品の実装対象のプリント基板の基板IDを基板位置判定部212に通知して、基板位置の判定処理を要求する。基板位置判定部212は、作業管理部220から通知された基板IDに対応する基板画像のデータを基板画像DB240から読み込む。そして、基板位置判定部212は、読み込んだ基板画像データをテンプレートとして用い、ステップS41でRAM202に格納された撮像画像データとのテンプレートマッチングを行うことで、基板領域を判定する。
【0086】
なお、テンプレートとして使用する基板画像データとしては、例えば、図11のステップS22で読み込み済みの基板画像データを使用してもよい。
[ステップS43]ステップS42の処理によって基板領域が検出された場合、基板位置判定部212は、作業管理部220に対して基板領域が検出されたことを通知するとともに、撮像画像における基板領域の位置情報を算出する。このとき算出される位置情報は、例えば、撮像画像における基板領域の外縁部の4つの頂点の座標である。
【0087】
一方、ステップS42の処理によって基板領域が検出されなかった場合、基板位置判定部212は、基板領域が検出されなかったことを作業管理部220に通知する。この場合、ステップS41の処理が再度実行され、通知を受けた作業管理部220は、画像取り込み部211に対して、新たな撮像画像データの取り込みを要求する。
【0088】
なお、例えば、部品実装対象のプリント基板が作業台400に固定されている場合には、ステップS42,S43の処理を省略することができる。この場合、以下の処理では、ステップS43で基板領域が検出された場合に算出される位置情報として、図11のステップS23で基板領域が検出された場合に算出された位置情報が使用される。
【0089】
[ステップS44]作業管理部220は、部品DB250から、部品実装対象のプリント基板の基板IDに対応するエントリを選択し、選択したエントリにおいてN番目に登録された部品IDを読み込む。
【0090】
[ステップS45]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、実装領域算出部213に通知する。実装領域算出部213は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた実装領域の位置情報を、部品DB250から読み込む。実装領域算出部213は、部品DB250から読み込んだ実装領域の位置情報と、ステップS43において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における実装領域の位置情報を算出する。このとき算出される位置情報は、例えば、矩形である実装領域の4つの頂点についての撮像画像における座標である。
【0091】
[ステップS46]特徴量算出部215は、ステップS41で画像取り込み部211によって取り込まれた撮像画像データから、ステップS45で算出された位置情報に基づく実装領域の画像データを算出する。特徴量算出部215は、算出した実装領域の画像データを、特徴量A2_2としてRAM202に格納する。
【0092】
[ステップS47]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、周囲領域算出部214に通知する。周囲領域算出部214は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた周囲領域の位置情報を、部品DB250から読み込む。周囲領域算出部214は、部品DB250から読み込んだ周囲領域の位置情報と、ステップS43において基板位置判定部212が算出した基板領域の位置情報とを基に、撮像画像における周囲領域の位置情報を算出する。
【0093】
このとき算出される位置情報は、例えば、矩形である周囲領域の外縁部の4つの頂点についての撮像画像における座標と、周囲領域が備える矩形状の内空領域の4つの頂点についての撮像画像における座標である。なお、周囲領域算出部214は、撮像画像における内空領域の座標として、図11のステップS26で実装領域算出部213によって算出された、撮像画像における実装領域の座標を出力してもよい。
【0094】
[ステップS48]特徴量算出部216は、ステップS41で画像取り込み部211によって取り込まれた撮像画像データから、ステップS47で算出された位置情報に基づく周囲領域の画像データを算出する。特徴量算出部216は、算出した周囲領域の画像データを、特徴量B2_2としてRAM202に格納する。
【0095】
[ステップS49]判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、図10のステップS13で算出された実装領域の特徴量A1_2のうちN番目の部品に対応する特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、ステップS48で算出された周囲領域の特徴量B2_2と、図10のステップS13で算出された周囲領域の特徴量B1_2のうちN番目の部品に対応する特徴量B1_2との類似度SB_2を算出する。
【0096】
[ステップS50]判定処理部217は、ステップS49で算出した類似度SA_2,SB_2が、上記の式(5)および式(6)の両方を満たすかを判定する。式(5)および式(6)の各条件が満たされている場合、判定処理部217は、作業管理部220に対して完了信号を出力する。完了信号を受信した作業管理部220は、部品の実装判定処理を終了して、図10のステップS17の処理を実行する。
【0097】
一方、式(5)および式(6)の各条件のうち1つでも満たされていない場合、判定処理部217は、例えば、完了信号を出力しない。作業管理部220は、ステップS41で画像取り込み部211に対して撮像画像データの取り込みを要求してから、一定時間(例えば1/30秒)だけ、判定処理部217から完了信号が出力されるかを監視する。そして、作業管理部220は、一定時間内に完了信号を受信しない場合に、ステップS41に進んで、画像取り込み部211に対して新たな撮像画像データの取り込みを要求する。
【0098】
以上説明した第2の実施の形態では、式(5)の条件だけでなく式(6)の条件も加味して、部品の実装作業が完了したかが判定されるので、実装作業が完了したことを高精度に判定することができる。それぞれの部品の実装作業が完了したことが高精度に判定されて、次に実装する部品についての案内画像がモニタ120に表示されるようになるので、作業者による実装作業の正確性が向上し、実装作業を効率化することができる。
【0099】
なお、上記の第2の実施の形態では、矩形状の実装領域を囲む所定幅の領域を周囲領域に設定したが、部品によっては、例えば、可動部を有するものがある。ここで、図13を用いて、可動部を有する部品についての周囲領域の設定方法について補足説明する。
【0100】
図13は、可動部を有する部品に対応する周囲領域の一例を示す図である。
図13に示す部品440は、非可動部441と可動部442とを有する。例えば、可動部442はフラットケーブルであり、非可動部441はフラットケーブルのコネクタである。この部品440をプリント基板410に実装したとき、可動部442は、図13中において斜線で示した可動領域451の範囲で移動し得るものとする。
【0101】
このように可動部442を有する部品440については、例えば、前述の特徴量A1_2,A2_2の算出対象となる実装領域として、非可動部441が配置される領域を設定する。この場合、特徴量B1_2,B2_2の算出対象となる周囲領域としては、実装領域の周囲における一定幅の領域452(図13において網掛けで示した領域)から、可動領域451を除いた領域を設定すればよい。これにより、制御装置200は、上記の式(5)および式(6)の条件をそのまま使用して、実装作業が完了したかを判定することができる。
【0102】
領域452から除外する可動領域451としては、例えば、可動部442が実際に移動し得る領域を包含するような矩形領域を設定することができる。この場合、部品DB250に登録される、部品440に対応する周囲領域の位置情報としては、領域452の外縁部における4つの頂点の座標と、領域452の内側の内空領域(すなわち、部品440についての実装領域)における4つの頂点の座標と、矩形状に設定した可動領域451における4つの頂点の座標とが登録されればよい。
【0103】
〔第3の実施の形態〕
上記の第2の実施の形態では、式(5)の条件により、実装領域における特徴量が大きく変化したかを判定した。これに対して、別の方法として、実装領域に実装される部品の特徴量を制御装置200にあらかじめ登録しておき、実装領域を撮像した画像の特徴量が部品の特徴量に近づいたかを判定してもよい。
【0104】
実装領域に実装された部品をカメラ110から撮像した画像に基づく特徴量をCとし、特徴量Cと、実装作業中における実装領域の特徴量A2_2との類似度をSCとすると、第3の実施の形態における制御装置は、前述の式(5)および式(6)に加えて、次の式(7)の条件を満たした場合に、実装領域に対する部品の実装作業が完了したと判定する。なお、ThCは、所定の判定しきい値である。
SC>ThC ・・・(7)
以下、第3の実施の形態に係る作業支援システムについて、第2の実施の形態と異なる部分についてのみ説明する。まず、図14は、第3の実施の形態における制御装置の処理機能を示すブロック図である。なお、この図14では、図5に対応する要素には同じ符号を付して示している。
【0105】
図14に示す制御装置200のHDD203には、部品実装作業の完了判定時に使用するしきい値として、しきい値Th_A,Th_Bに加えて式(7)に示したしきい値ThCも、あらかじめ登録される。また、制御装置200のHDD203に登録される部品DB250には、次の図15に示す情報が登録される。
【0106】
図15は、第3の実施の形態において部品DBに登録される情報の例を示す図である。
部品DB250には、第2の実施の形態と同様に、プリント基板の基板IDごとにレコード251が設けられる。また、第2の実施の形態と同様に、各レコード251には、部品IDが部品の実装順に従って登録され、部品IDのそれぞれに対応付けて、実装領域の位置情報、周囲領域の位置情報、および案内画像IDが登録される。
【0107】
さらに、本実施の形態では、各レコード251には、部品IDのそれぞれに対応付けて、部品の実装作業前における実装領域の特徴量A1_2と、部品の実装作業前における周囲領域の特徴量B1_2と、実装領域に実装した部品についての特徴量Cとが登録される。
【0108】
図14に戻り、判定処理部217は、特徴量算出部215から出力された部品実装作業中における実装領域の特徴量A2_2と、部品DB250から読み出した部品実装作業前における実装領域の特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、特徴量算出部216から出力された部品実装作業中における周囲領域の特徴量B2_2と、部品DB250から読み出した部品実装作業前における周囲領域の特徴量B1_2との類似度SB_2を算出する。さらに、判定処理部217は、特徴量算出部215から出力された部品実装作業中における実装領域の特徴量A2_2と、部品DB250から読み出した部品についての特徴量Cとの類似度SCを算出する。そして、判定処理部217は、式(5)、式(6)および式(7)がすべて成立したときに、実装領域に対する部品の実装作業が完了したと判定し、部品実装作業が完了したことを示す完了信号を作業管理部220に出力する。
【0109】
次に、第3の実施の形態における制御装置200の処理について説明する。第3の実施の形態における制御装置200による作業支援処理全体の処理手順は、図10に示した処理手順のうち、ステップS13を除いたものとなる。また、ステップS16での詳細な処理手順は、次の図16のようになる。
【0110】
図16は、第3の実施の形態における部品の実装判定処理の手順の例を示すフローチャートである。この図16では、図12と同じ処理については同じステップ番号を付して示している。図16の処理は、図12におけるステップS49,S50の処理に代わって、次のS49a,S50aの処理を実行するようにしたものである。
【0111】
[ステップS49a]作業管理部220は、部品実装対象のプリント基板の基板IDと、ステップS44で部品DB250から読み込んだ部品IDとを、判定処理部217に通知する。判定処理部217は、作業管理部220から通知された基板IDおよび部品IDに対応付けられた特徴量A1_2,B1_2,Cを、部品DB250から読み込む。
【0112】
判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、部品DB250から読み込んだ特徴量A1_2との類似度SA_2を算出する。また、判定処理部217は、ステップS48で算出された周囲領域の特徴量B2_2と、部品DB250から読み込んだ特徴量B1_2との類似度SB_2を算出する。さらに、判定処理部217は、ステップS46で算出された実装領域の特徴量A2_2と、部品DB250から読み込んだ特徴量Cとの類似度SCを算出する。
【0113】
[ステップS50a]判定処理部217は、ステップS49aで算出した類似度SA_1,SA_2,SCが、上記の式(5)、式(6)および式(7)の各条件をすべて満たすかを判定する。式(5)、式(6)および式(7)の各条件が満たされている場合、判定処理部217は、作業管理部220に対して完了信号を出力する。完了信号を受信した作業管理部220は、部品の実装判定処理を終了して、図10のステップS17の処理を実行する。
【0114】
一方、式(5)、式(6)および式(7)の各条件のうち1つでも満たされていない場合、判定処理部217は、例えば、完了信号を出力しない。作業管理部220は、ステップS41で画像取り込み部211に対して撮像画像データの取り込みを要求してから、一定時間(例えば1/30秒)だけ、判定処理部217から完了信号が出力されるかを監視する。そして、作業管理部220は、一定時間内に完了信号を受信しない場合に、ステップS41に進んで、画像取り込み部211に対して新たな撮像画像データの取り込みを要求する。
【0115】
以上の第3の実施の形態では、式(5)および式(6)に加えて式(7)の条件を満たす場合に部品の実装作業が完了したと判定することで、その判定精度を向上させることができる。
【0116】
なお、上記の第3の実施の形態では、部品の実装作業前における実装領域の特徴量A1_2および周囲領域の特徴量B1_2を、部品DB250にあらかじめ用意した。しかしながら、これらの特徴量A1_2,B1_2を、第2の実施の形態と同様に、全部品の実装作業前における撮像画像を基に算出してもよい。
【0117】
また、上記の第3の実施の形態では、式(5)、式(6)および式(7)の各条件をすべて満たしたときに部品の実装作業が完了したと判定した。しかしながら、他の例として、類似度SA_2の算出を行わないようにし、式(6)および式(7)の各条件を両方満たした場合に部品の実装作業が完了したと判定するようにしてもよい。
【0118】
〔第4の実施の形態〕
部品の実装作業においては、ある部品についての実装領域または周囲領域の少なくとも一部の上に、さらに別の部品を実装するという場合があり得る。例えば、プリント基板上にLSI(Large Scale Integration)チップを実装した後、そのLSIチップの上に冷却ファンを取り付ける場合などが考えられる。
【0119】
新たな部品を、それ以前に実装した部品に対応する実装領域または周囲領域の少なくとも一部の上にさらに実装する作業が完了したかを判定する際に、全部品の実装作業前に撮像した画像を基に算出した特徴量A1_2,B1_2を用いてしまうと、実装作業が完了したかを正しく判定できない。なぜなら、新たな部品に対応する実装領域または周囲領域の特徴量は、それ以前に実装した部品の少なくとも一部の領域が配設されたことで、全部品の実装作業前とは異なる値になっているからである。
【0120】
そこで、以下の第4の実施の形態では、制御装置は、新たな部品を実装する直前に、その部品の実装領域または周囲領域が、それ以前に実装した部品の実装領域と重複するかを判定し、重複すると判定した場合に、新たな部品に対応する実装領域および周囲領域を撮像し直して、特徴量A1_2,B1_2をあらためて算出する。
【0121】
以下、第4の実施の形態における制御装置の構成について、図5を用いて説明する。第2の実施の形態における制御装置200と異なる点は、部品DB250に登録される情報と、この登録情報に基づく、作業管理部220による実装判定部210に対する制御処理手順である。
【0122】
図17は、第4の実施の形態において部品DBに登録される情報の例を示す図である。
部品DB250には、第2の実施の形態と同様に、プリント基板の基板IDごとにレコード251が設けられる。また、第2の実施の形態と同様に、各レコード251には、部品IDが部品の実装順に従って登録され、部品IDのそれぞれに対応付けて、実装領域の位置情報、周囲領域の位置情報、および案内画像IDが登録される。
【0123】
さらに、本実施の形態では、各レコード251には、部品IDのそれぞれに対応付けて、領域重複フラグが登録される。領域重複フラグは、このフラグに対応付けられた部品の実装領域または周囲領域の少なくとも一方が、それ以前に実装されるいずれかの部品についての実装領域の少なくとも一部と重複するかを示すものである。領域重複フラグは、領域が重複する場合には「1」とされ、領域が重複しない場合には「0」とされる。
【0124】
図18は、第4の実施の形態の制御装置における作業支援処理全体の手順の例を示すフローチャートである。なお、この図18では、図10と同じ処理については同じステップ番号を付して示している。図18の処理は、図10のステップS14とステップS15との間に、ステップS61,S62の処理が追加されたものである。
【0125】
[ステップS61]作業管理部220は、部品DB250における、部品実装対象のプリント基板の基板IDに対応するエントリから、ステップS14で読み込んだ部品IDに対応付けられた領域重複フラグを読み込む。読み込んだ領域重複フラグが「1」である場合、作業管理部220は、ステップS62の処理を実行する。一方、読み込んだ領域重複フラグが「0」である場合、作業管理部220は、ステップS15の処理を実行する。
【0126】
[ステップS62]作業管理部220は、画像取り込み部211に新たな撮像画像データの取り込みを要求し、実装判定部210に、N番目の部品に対応する特徴量A1_2,B1_2を算出させる。特徴量A1_2,B1_2の算出手順は、図11のステップS26〜S29で変数Mを変数Nに置き換えた場合と同様である。また、特徴量算出部215,216は、新たに算出した特徴量A1_2,B1_2によって、図18のステップS13の処理においてRAM202に格納した、N番目の部品に対応する特徴量A1_2,B1_2を更新する。
【0127】
なお、ステップS61では、領域重複フラグを参照する代わりに、N番目の部品に対応する実装領域または周囲領域の少なくとも一部が、それ以前に実装された部品に対応する実装領域に重複するかが、計算によって判定されてもよい。この場合、作業管理部220は、部品DB250に登録された実装領域および周囲領域の各位置情報に基づき、N番目の部品に対応する実装領域または周囲領域と、1番目から(N−1)番目までの各部品に対応する実装領域とを比較する。そして、作業管理部220は、比較した少なくとも1つの領域の組合せにおいて領域同士が重複していた場合に、ステップS62の処理を実行する。なお、このように計算によって領域の重複を判定する場合には、N=1のときにはステップS61,S62を実行しないようにしてもよい。
【0128】
以上の処理により、新たに実装する部品に対応する実装領域または周囲領域の少なくとも一部が、それ以前に実装された部品に対応する実装領域と重複する場合でも、新たな部品の実装作業が完了したかを正確に判定できるようになる。
【0129】
なお、図18の処理において、ステップS13の処理を実行せずに、特徴量A1_2、B1_2として部品DB250に登録された値を使用する場合であっても、ステップS61,S62を追加することが可能である。例えば、図18の処理を、ステップS13を除去するとともに、ステップS16の処理を図16のように変形することができる。この場合、図16のステップS49aでは、処理対象の部品に対応付けられた領域重複フラグが「1」である場合には、直前のステップS62で算出した特徴量A1_2,B1_2が使用されればよい。
【0130】
なお、上記の各実施の形態における作業支援装置および制御装置の処理機能は、コンピュータによって実現することができる。その場合、作業支援装置および制御装置が有すべき機能の処理内容を記述したプログラムが提供され、そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記憶装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記憶装置には、ハードディスク装置(HDD)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、DVD、DVD−RAM、CD−ROM/RWなどがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
【0131】
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【0132】
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、ネットワークを介して接続されたサーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【0133】
以上の各実施の形態に関し、さらに以下の付記を開示する。
(付記1) 部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得する画像取得部と、
前記画像取得部が取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記画像取得部が取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する判定部と、
を有することを特徴とする作業支援装置。
【0134】
(付記2) 1つの実装対象物に対して複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とを記憶する部品情報記憶部をさらに有し、
前記判定部は、前記複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記部品情報記憶部に記憶された情報に基づいて、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、前記画像取得部が取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記画像取得部が取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定する、
ことを特徴とする付記1記載の作業支援装置。
【0135】
(付記3) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記作業支援装置は、さらに、前記判定部が前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる表示制御部を有する、
ことを特徴とする付記2記載の作業支援装置。
【0136】
(付記4) 前記判定部は、前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記画像取得部が前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記2または3記載の作業支援装置。
【0137】
(付記5) 前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする付記1〜4のいずれか1つに記載の作業支援装置。
【0138】
(付記6) 前記判定部は、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記1記載の作業支援装置。
【0139】
(付記7) 前記判定部は、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記1記載の作業支援装置。
【0140】
(付記8) コンピュータに、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
処理を実行させることを特徴とする作業支援プログラム。
【0141】
(付記9) 1つの実装対象物に対して実装する複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とが記憶された部品情報記憶部を参照し、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から取得し、前記撮像装置から取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記撮像装置から取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定することを特徴とする付記8記載の作業支援プログラム。
【0142】
(付記10) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる、
ことを特徴とする付記9記載の作業支援プログラム。
【0143】
(付記11) 前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から新たに取得し、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記9または10記載の作業支援プログラム。
【0144】
(付記12) 前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする付記8〜11のいずれか1つに記載の作業支援プログラム。
【0145】
(付記13) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記8記載の作業支援プログラム。
【0146】
(付記14) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記8記載の作業支援プログラム。
【0147】
(付記15) 作業支援装置が、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
ことを特徴とする作業支援方法。
【0148】
(付記16) 1つの実装対象物に対して実装する複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とが記憶された部品情報記憶部を参照し、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から取得し、前記撮像装置から取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記撮像装置から取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定することを特徴とする付記15記載の作業支援方法。
【0149】
(付記17) 前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる、
ことを特徴とする付記16記載の作業支援方法。
【0150】
(付記18) 前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記撮像装置から新たに取得し、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする付記16または17記載の作業支援方法。
【0151】
(付記19) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする付記15記載の作業支援方法。
【0152】
(付記20) 前記実装領域に対する部品の実装作業が完了したかを判定する処理では、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする付記15記載の作業支援方法。
【符号の説明】
【0153】
1 作業支援システム
2 実装対象物
2a 実装領域
2b 周囲領域
3 部品
10 カメラ
20 作業支援装置
21 画像取得部
22 判定部
【特許請求の範囲】
【請求項1】
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得する画像取得部と、
前記画像取得部が取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記画像取得部が取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する判定部と、
を有することを特徴とする作業支援装置。
【請求項2】
1つの実装対象物に対して複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とを記憶する部品情報記憶部をさらに有し、
前記判定部は、前記複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記部品情報記憶部に記憶された情報に基づいて、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、前記画像取得部が取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記画像取得部が取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定する、
ことを特徴とする請求項1記載の作業支援装置。
【請求項3】
前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記作業支援装置は、さらに、前記判定部が前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる表示制御部を有する、
ことを特徴とする請求項2記載の作業支援装置。
【請求項4】
前記判定部は、前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記画像取得部が前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする請求項2または3記載の作業支援装置。
【請求項5】
前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする請求項1〜4のいずれか1項に記載の作業支援装置。
【請求項6】
前記判定部は、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする請求項1記載の作業支援装置。
【請求項7】
前記判定部は、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする請求項1記載の作業支援装置。
【請求項8】
コンピュータに、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
処理を実行させることを特徴とする作業支援プログラム。
【請求項9】
作業支援装置が、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
ことを特徴とする作業支援方法。
【請求項1】
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得する画像取得部と、
前記画像取得部が取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記画像取得部が取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する判定部と、
を有することを特徴とする作業支援装置。
【請求項2】
1つの実装対象物に対して複数の部品を実装する実装作業の順序と、前記複数の部品のそれぞれに対応する前記実装領域の位置とを記憶する部品情報記憶部をさらに有し、
前記判定部は、前記複数の部品のうち第1の部品を当該第1の部品に対応する前記実装領域に実装する作業が完了したと判定すると、前記部品情報記憶部に記憶された情報に基づいて、次に実装すべき第2の部品に対応する前記実装領域を判別して、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、前記画像取得部が取得した前記第2の部品に対応する前記実装領域の撮像画像についての前記第1の特徴量と、前記第2の部品に対応する前記実装領域の画像についての前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記画像取得部が取得した前記第2の部品に対応する前記周囲領域の撮像画像についての前記第3の特徴量と、前記第2の部品に対応する前記周囲領域の画像についての前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記第2の部品を当該第2の部品に対応する前記実装領域に実装する作業が完了したと判定する、
ことを特徴とする請求項1記載の作業支援装置。
【請求項3】
前記部品情報記憶部には、前記複数の部品のそれぞれについての実装作業手順を案内する案内画像の情報が記憶され、
前記作業支援装置は、さらに、前記判定部が前記第1の部品の実装作業が完了したと判定すると、前記部品情報記憶部に記憶された前記第2の部品に対応する前記案内画像の情報に基づいて当該案内画像を表示部に表示させる表示制御部を有する、
ことを特徴とする請求項2記載の作業支援装置。
【請求項4】
前記判定部は、前記部品情報記憶部に記憶された情報に基づいて前記第2の部品に対応する前記実装領域を判別したとき、当該第2の部品に対応する前記実装領域または前記周囲領域の少なくとも一部が、当該第2の部品の実装作業開始前に前記実装対象物に実装される他のいずれかの部品に対応する前記実装領域と重複する場合には、前記第2の部品に対応する前記実装領域および前記周囲領域の各撮像画像を前記画像取得部に取得させ、新たに取得された前記実装領域および前記周囲領域の撮像画像のそれぞれについての特徴量を、前記第2の部品に対応する前記第2の特徴量および前記第4の特徴量として一時記憶部に格納し、その後に前記画像取得部が前記撮像装置から取得した撮像画像から得られた前記第1の特徴量および前記第3の特徴量と、前記一時記憶部に格納された前記第2の特徴量および前記第4の特徴量とを基に、前記第2の部品の実装作業が完了したかを判定することを特徴とする請求項2または3記載の作業支援装置。
【請求項5】
前記実装領域として、実装される部品における非可動部の領域が設定され、前記周囲領域として、前記非可動部の領域の周囲のうち、実装される部品の可動部が可動する領域を除く領域が設定されることを特徴とする請求項1〜4のいずれか1項に記載の作業支援装置。
【請求項6】
前記判定部は、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さいことを判定することで、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きいことを判定することを特徴とする請求項1記載の作業支援装置。
【請求項7】
前記判定部は、前記第1の特徴量と前記第2の特徴量との類似度が前記第1のしきい値より大きく、かつ、前記第1の特徴量と、記憶部にあらかじめ記憶された、部品の実装作業完了後における前記実装領域の画像についての第5の特徴量との類似度が第3のしきい値より小さく、かつ、前記第3の特徴量と前記第4の特徴量との類似度が前記第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定することを特徴とする請求項1記載の作業支援装置。
【請求項8】
コンピュータに、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
処理を実行させることを特徴とする作業支援プログラム。
【請求項9】
作業支援装置が、
部品を実装する実装領域と、前記実装領域の周囲領域とをそれぞれ撮像した撮像画像を撮像装置から取得し、
前記撮像装置から取得した前記実装領域の撮像画像についての第1の特徴量と、部品の実装作業前における前記実装領域の画像についての第2の特徴量との類似度が第1のしきい値より大きく、かつ、前記撮像装置から取得した前記周囲領域の撮像画像についての第3の特徴量と、部品の実装作業前における前記周囲領域の画像についての第4の特徴量との類似度が第2のしきい値より小さい場合に、前記実装領域に対する部品の実装作業が完了したと判定する、
ことを特徴とする作業支援方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2012−160076(P2012−160076A)
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願番号】特願2011−20004(P2011−20004)
【出願日】平成23年2月1日(2011.2.1)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願日】平成23年2月1日(2011.2.1)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
[ Back to top ]