欠陥検出方法
【課題】検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる欠陥検出方法を提供すること。
【解決手段】熟練作業者による動作・視線の動きを計測する工程(S10)と、熟練作業者の知見に基づいて作成される重要度マップを準備する工程(S20)と、計測された動作・視線の動きを検査システムに模擬させながら連続的な複数の撮像画像(動画像)を取得する工程(S30)と、取得された動画像に基づいて特徴量を算出する工程(S40)と、重要度マップおよび算出された特徴量に基づいて欠陥候補部位が存在するか否かを検査する工程(S50)と、欠陥候補部位についての動画像の再取得を行う工程(S60)と、取得された動画像に基づいて特徴量を算出する工程(S70)と、算出された特徴量に基づいて欠陥の定量値化を行う工程(S80)とを含む方法。
【解決手段】熟練作業者による動作・視線の動きを計測する工程(S10)と、熟練作業者の知見に基づいて作成される重要度マップを準備する工程(S20)と、計測された動作・視線の動きを検査システムに模擬させながら連続的な複数の撮像画像(動画像)を取得する工程(S30)と、取得された動画像に基づいて特徴量を算出する工程(S40)と、重要度マップおよび算出された特徴量に基づいて欠陥候補部位が存在するか否かを検査する工程(S50)と、欠陥候補部位についての動画像の再取得を行う工程(S60)と、取得された動画像に基づいて特徴量を算出する工程(S70)と、算出された特徴量に基づいて欠陥の定量値化を行う工程(S80)とを含む方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば鋳造部品等の品質検査に用いられる欠陥検出方法に関する。
【背景技術】
【0002】
従来、例えば鋳造部品や鍛造部品等の表面欠陥を検出するための技術として、検査対象となる部品(ワーク)の表面について取得した撮像画像に所定の画像処理等を施すことで欠陥を検出する等、撮像画像に基づいて欠陥を検出する方法がある(例えば、特許文献1参照。)。特許文献1には、ワークの撮像画像に対して、ガウス平均化処理等の前処理を行った後、サンプル部品を撮像することにより得られる参照用画像を用いる統計的な処理や比較処理等の欠陥検出処理を行う方法が開示されている。
【0003】
特許文献1に開示されている方法は、ワークの形状が単純で、ある特定の種類に欠陥が限定される場合においては有効であると考えられる。しかし、ワークが複雑形状物であり、複数種類の欠陥を有する場合においては、特許文献1を含む従来の技術では、次のような理由から対応が困難であると考えられる。
【0004】
即ち、従来の技術においては、欠陥の検査に用いられる撮像画像が、単一方向(所定の方向)から撮像された静止画像である。このため、従来の技術によれば、撮像画像から得られる情報量が少なく、例えば微小な欠陥等の、欠陥部分以外の部分との判別が難しい欠陥の検出が困難である。このように欠陥の検出が困難な場合としては、例えば、鋳造部品の鋳肌面等といった粗材面において、表面の粗さ(凹凸度合い)の範囲内にある微細なキズが欠陥として存在する場合がある。かかる場合、粗材面の凹凸と欠陥とが混同され、欠陥の検出が困難となる。
【0005】
また、従来の技術においては、ワークの表面における欠陥が存在する部位および良品部位(欠陥が存在する部位以外の部位)に対して一律的な検査が行われることから、処理に膨大な時間がかかるという問題がある。即ち、従来の技術によれば、ワークの全面について一律的な検査が行われることから、欠陥の分類に必要な情報について、本来は余分な情報である良品部位に関する情報までも取得されることになる。このため、従来の技術では、所定の検査工程における限られた作業時間内でのワークの全面についての検査(欠陥の分類)の実現は困難である。
【0006】
以上のような理由から、複雑な形状を有する鋳造部品等については、人による目視検査によって品質が保証されているのが現状である。しかし、人による目視検査では、作業者の熟練度等によって信頼性にバラツキが生じることや人員の確保等の問題がある。そこで、例えば特許文献2に開示されているように、熟練作業者の動作をロボットに教示する技術がある。かかる技術を、鋳造部品等の品質検査のための欠陥の検出に応用することが考えられる。
【0007】
しかし、鋳造部品等の品質検査の検査員としての熟練作業者の所作には、ワークを動かすための腕等の動作に加え、ワークに存在する欠陥を検出するための視線の動きも含まれる。さらに、検査員としての熟練作業者の動作や視線の動きには、熟練作業者の経験等に基づく意図が反映される。このため、検査員としての熟練作業者の作業を、従来から存在する熟練作業者の動作をロボットに教示する技術によって実現することは困難である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2004−170374号公報
【特許文献2】特開平6−250730号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
本発明は、上記のような問題点に鑑みてなされたものであり、その解決しようとする課題は、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる欠陥検出方法を提供することにある。
【課題を解決するための手段】
【0010】
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。
【0011】
即ち、請求項1においては、検査対象部品の表面の欠陥を検出するための欠陥検出方法であって、熟練作業者による検査対象部品の表面の欠陥の目視検査にともなう検査対象部品を動かすための検査動作および検査対象部品に対する視線の動きを計測する作業計測工程と、熟練作業者が知見として有する検査対象部品における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程と、前記作業計測工程にて計測された前記検査動作および前記視線の動きを、検査対象部品の表面を撮像するための撮像手段および検査対象部品と前記撮像手段との相対的な位置関係を変化させる移動手段を含む構成に模擬させながら、前記撮像手段によって検査対象部品の表面についての前記視線の動きに沿う複数の視点から撮像される連続的な複数の撮像画像を取得する第一の画像取得工程と、該第一の画像取得工程にて取得された前記連続的な複数の撮像画像に基づいて、検査対象部品の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程と、前記重要度マップおよび前記第一の特徴量算出工程にて算出された前記特徴量に基づいて、検査対象部品の表面における前記連続的な複数の撮像画像に対応する領域に欠陥に該当する可能性を有する部位である欠陥候補部位が存在するか否かを検査する第一の検査工程と、該第一の検査工程により前記欠陥候補部位が存在するとの検査結果が得られた場合、前記移動手段によって前記撮像手段を前記連続的な複数の撮像画像に対応する領域に移動させ、前記撮像手段によって前記連続的な複数の撮像画像に対応する領域について前記重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像を取得する第二の画像取得工程と、該第二の画像取得工程にて取得された前記複数の撮像画像に基づいて、前記特徴量を算出する第二の特徴量算出工程と、前記第二の特徴量算出工程にて算出された前記特徴量に基づいて、前記欠陥候補部位についての欠陥の定量値化を行う第二の検査工程と、を含むものである。
【0012】
請求項2においては、前記第一の画像取得工程は、前記複数の視点のそれぞれにおいて、角度が異なる三方向から前記連続的な複数の撮像画像を撮像し、かつ、前記第二の画像取得工程は、前記複数の視点のそれぞれにおいて、角度が異なる三方向から前記連続的な複数の撮像画像を撮像するものである。
【0013】
請求項3においては、前記第一の画像取得工程は、前記重要度マップによって規定される前記連続的な複数の撮像画像に対応する領域の重要度に応じて、該領域において角度が異なる三方向から撮像する前記連続的な複数の撮像画像の解像度を変更するものである。
【0014】
請求項4においては、前記第一の特徴量算出工程および前記第二の特徴量算出工程は、良品の表面について、前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、該撮像画像の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする前記良品についての特徴量であるh次元の良品ベクトルを算出する工程と、検査対象部品の表面について、前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、該撮像画像の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする前記検査対象部品についての特徴量であるh次元の入力ベクトルを算出する工程と、を備え、前記第一の検査工程は、前記良品ベクトルと前記入力ベクトルを比較して、前記検査対象部品の欠陥の有無を判断する工程、を備えるものである。
【0015】
請求項5においては、前記良品ベクトルを算出する工程は、主成分分析の手法によって、前記h次元の良品ベクトルを、三次元の良品ベクトルとして次元数を削減して算出し、前記入力ベクトルを算出する工程は、主成分分析の手法によって、前記h次元の入力ベクトルを、三次元の入力ベクトルとして次元数を削減して算出するものである。
【発明の効果】
【0016】
本発明の効果として、以下に示すような効果を奏する。
即ち、請求項1に記載の発明によれば、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる。
【0017】
請求項2に記載の発明によれば、欠陥部位の形状に左右されることなく、精度良く欠陥を検出することができる。
【0018】
請求項3に記載の発明によれば、欠陥部位の形状に左右されることなく、短時間で精度良く欠陥を検出することができる。
【0019】
請求項4に記載の発明によれば、欠陥部位の形状に左右されることなく、より精度良く欠陥を検出することができる。
【0020】
請求項5に記載の発明によれば、欠陥部位の形状に左右されることなく、より短時間で、かつ、より精度良く欠陥を検出することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の一実施形態に係る欠陥検出方法を示すフロー図。
【図2】検査員による検査作業の計測風景を示す図。
【図3】検査員による検査作業における視野映像の一例を示す図。
【図4】本発明の一実施形態に係る検査システムの構成を示す図。
【図5】ワークの被検査面における視点経路を示す図。
【図6】検査員による検査作業における指差点と注視点との関係性についての説明図。
【図7】本発明の一実施形態に係る検査処理の一例を示すフロー図。
【図8】同じく良品の特徴量を算出するための処理の一例を示すフロー図。
【図9】本発明の一実施形態に係る改良した検査システムの構成を示す図。
【図10】欠陥の形状の差異による欠陥部位の輝度の差異を説明する模式図、(a)急峻な凹形状を有する欠陥の場合、(b)緩やかな凹形状を有する欠陥(角度α1)の場合。
【図11】緩やかな凹形状を有する欠陥の姿勢の差異による欠陥部位の輝度の変化を説明する模式図、(a)角度α2の場合、(b)角度α3の場合。
【図12】本発明の一実施形態に係る改良した欠陥検出方法を示すフロー図。
【図13】取得した画像の態様を説明する模式図、(a)三方向から取得した動画像を示す模式図、(b)ブロック分割した検査画像を示す模式図、(c)単位ブロックの検査画像を示す模式図。
【図14】良品ベクトルの算出方法を示すフロー図。
【図15】良品ベクトル(入力ベクトル)を示す模式図、(a)h次元の場合、(b)三次元の場合。
【図16】入力ベクトルの算出方法を示すフロー図。
【図17】入力ベクトルの再算出方法を示すフロー図。
【図18】本発明の一実施形態に係る改良した欠陥検出方法における特徴量(角度θ)を示す模式図。
【発明を実施するための形態】
【0022】
本発明に係る欠陥検出方法は、検査対象部品においてどこの部位にどのような特徴の欠陥が発生するか等の、日々の生産活動の中で培われた熟練作業者(熟練検査員)の知識を利用するとともに、熟練作業者の認知に基づく検査メカニズムを機械化する(機械に模擬させる)ことで、機械による動作の過程で得られる複数視点の画像(動画像)に基づいて欠陥の検査を行うものである。ここで、熟練作業者とは、検査対象部品の検査ライン等において検査対象部品について検出すべき欠陥を十分な速さ・確からしさをもって漏れなく検出することができる技術・知見を有する者である。
そして、本発明に係る欠陥検出方法は、複数視点の画像(動画像)に基づく欠陥の検査として、欠陥候補の部位を検出するための検査と、検出した欠陥候補の部位についての詳細な検査とによる二段階の検査(2step検査)を行うことで、欠陥の検出精度の向上や検査時間の短縮化を図ろうとするものである。以下、本発明の実施の形態を説明する。
【0023】
本実施形態に係る欠陥検出方法は、例えば自動車エンジンを構成するシリンダヘッド等の鋳造部品を検査対象部品(以下「ワーク」という。)とし、ワークの表面の欠陥(以下単に「欠陥」という。)を検出するためのものである。
【0024】
本実施形態に係る欠陥検出方法では、まず、ワークの欠陥の検査において、熟練作業者は検査作業としてどのようにワークを動かしながら(どのような動作で)、ワークに対してどのような視線(視点)の軌跡をえがきながら(どのような視線(視点)の動きで)検査をしているかが計測される。つまり、ワークの検査における熟練作業者の検査作業の定量値化が行われる。
【0025】
したがって、図1に示すように、本実施形態に係る欠陥検出方法においては、まず、熟練作業者の動作(検査動作)および視線の動きの計測が行われる(S10)。つまり、図2に示すように、熟練作業者である検査員1によるワーク2の欠陥の検査において、検査員1の動作および視線の動きが計測される。
【0026】
検査員1の動作の計測は、例えば公知のモーションキャプチャを行うための三次元位置計測装置が用いられて行われる。モーションキャプチャ技術においては、例えば人の身体における所定の箇所にデータ取得のための複数のマーカが取り付けられる。そして、マーカが取り付けられた人の動作がカメラによって撮影されることで、人の動作にともなうマーカの三次元座標における位置(動き)が計測される。これにより、人の動作が三次元座標におけるマーカの位置データとして取得される。
【0027】
ワーク2の欠陥の検査における検査員1の動作としては、ワーク2を動かすための腕および手首の動きと、動かすワーク2の目視にともなう頭の動きとが主要な動きとなる。また、ここで計測される検査員1の動作には、検査員1により動かされるワーク2の動きが含まれる。
【0028】
そこで、本実施形態では、モーションキャプチャにより、検査員1の動作として、検査員1の頭、両肘、両手首、およびワーク2の位置が計測される。つまり、図2に示すように、検査員1の頭、両肘、および両手首の各部位、ならびにワーク2における所定の部位に、データ取得のためのマーカ3が取り付けられ、モーションキャプチャが行われる。これにより、検査員1の動作が、三次元座標における各マーカ3の位置データとして取得される。なお、検査員1の動作を計測するための技術は、検査員1およびワーク2の各部位の三次元座標における位置を計測することができるものであれば特に限定されない。
【0029】
また、検査員1の視線の動きの計測は、例えば公知のアイマークレコーダ(視線計測装置)が用いられて行われる。アイマークレコーダは、人の視野に相当する映像を撮影し、その視野映像上に、人の眼球画像から解析された視線の位置(アイマーク)を合成して表示・記録する装置である。つまり、アイマークレコーダにより、人の視線の動きが視野映像上のアイマークの位置データとして取得される。
【0030】
そこで、本実施形態では、図2に示すように、検査員1の視野画像を取得するためのカメラ(視野カメラ)と検査員1の眼球画像を取得するためのカメラ(アイカメラ)とを有するカメラユニット4が、検査員1の眼の位置に合わせて装着される。そして、図3に示すように、カメラユニット4の視野カメラにより取得される視野映像5上における検査員1のアイマーク6が、検査員1のワーク2に対する注視点として、カメラユニット4のアイカメラにより取得される眼球画像に基づいて計測される。これにより、検査員1の視線の動きが、検査員1の視野画像上におけるアイマーク6の位置データとして取得される。なお、検査員1の視線の動きを計測するための技術としては、検査員1のワーク2に対する注視点の位置を計測することができるものであれば特に限定されない。
【0031】
このように、本実施形態においては、検査員1の動作および視線の動きの計測が行われる本ステップS10が、検査員1によるワーク2の欠陥の目視検査にともなうワーク2を動かすための検査動作およびワーク2に対する視線の動きを計測する作業計測工程に相当する。
【0032】
本工程で計測された検査員1の動作および視線の動きは、本実施形態に係る欠陥検出方法を行うための検査システム(以下「本検査システム」という。)において、各部の動きに反映される。つまり、本工程により、本検査システムの動かし方のベースが取得される。また、本工程における検査員1の動作および視線の動きの計測は、複数人の検査員1について行われてもよい。この場合、例えば複数人分の計測データが平均化されることで、検査員1による一連の動作および視線の動きとして計測される。
【0033】
図1に示すように、本実施形態に係る欠陥検出方法においては、次に、重要度マップの作成が行われる(S20)。ここで、重要度マップとは、欠陥がどこの部位に発生するか(欠陥の発生部位)、どのような形状(特徴)の欠陥が発生するか(欠陥の種類)、欠陥のランク(優先順位)、欠陥の補修の可否等の、ワーク2で生じる欠陥についての内容が、所定のマップ(表)としてまとめられた情報群である。重要度マップを構成する欠陥についての内容は、熟練作業者としての検査員1が有する知見(事前知識)に基づく。
【0034】
即ち、ワーク2においては、様々な部位で様々な種類の欠陥が発生し、欠陥の種類等に応じたランク等も存在する。こうしたワーク2で生じる欠陥についての内容は、熟練作業者である検査員1が知見として有する。したがって、重要度マップの作成に際しては、検査員1へのヒヤリング(インタビュー)により、検査員1が知見として有する、欠陥の発生部位等のワーク2で生じる欠陥についての内容が取得される。つまり、重要度マップは、検査員1が日々の生産活動の中で培った知見に基づく検査員1の検査意図が形式化されたものである。
【0035】
このように、本実施形態においては、重要度マップの作成が行われる本ステップS20が、検査員1が知見として有するワーク2における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程に相当する。
【0036】
本工程で準備される重要度マップは、ワーク2の製造環境や製造条件等により逐次更新される。また、本工程における重要度マップの作成は、複数人の検査員1の知見に基づいて行われてもよい。この場合、例えば複数人分の知見が集約されることで、代表的な一つの重要度マップが作成される。
【0037】
ここで、本検査システムについて説明する。図4に示すように、本検査システムは、ワーク2を移動させるためのロボット7と、ワーク2の表面を撮像するためのカメラ8とを備える。また、本検査システムにおいては、カメラ8によるワーク2の表面の撮像に際してワーク2の表面を照らす照明9が備えられる。
【0038】
ロボット7は、ベース部7aと、ベース部7a上に設けられるアーム部7bとを有し、様々な位置および角度に姿勢制御されるフレキシブルなロボットアーム(多関節ロボット)として構成される。ロボット7は、アーム部7bの先端部に設けられる支持台7c上にワーク2を支持する。支持台7cの支持面には、ワーク2を位置決めするための位置決めピン7dが設けられている。つまり、ワーク2は、ロボット7において支持台7c上に位置決めピン7dによって位置決めされた状態で支持され、ロボット7の動作によってロボット7の可動範囲において三次元方向に移動および姿勢変更可能とされる。
【0039】
カメラ8は、ワーク2の表面を撮像するための撮像手段であり、例えばCCDイメージセンサやCMOSイメージセンサ等の撮像素子により構成される。カメラ8は、本検査システムが備える支持体10により支持される。カメラ8は、ロボット7に支持されるワーク2の表面を撮像することができる所定の姿勢で支持される。なお、カメラ8とともに本検査システムの光学系(撮像系)を構成する照明9は、カメラ8と同様に支持体10により、ロボット7に支持されるワーク2の表面を照らすことができる所定の姿勢で支持される。このように、本検査システムにおいては、光学系を構成するカメラ8および照明9は固定された状態で設けられる。
【0040】
以上のようにロボット7およびカメラ8を含む構成としての本検査システムにおいて、前述したように計測されたワーク2の欠陥の検査における検査員1の動作および視線の動きが模擬させられる。即ち、本検査システムにおいては、ロボット7の動作により移動するワーク2と撮像視点が定位置となるカメラ8との相対的な位置関係の変化において、あらかじめ計測された検査員1の動作および視線の動きが模擬される。
【0041】
本検査システムによるワーク2の検査は、ワーク2に対する所定の方向ごとに行われる。つまり、ワーク2がその外形形状において検出対象である欠陥が存在する複数の面を有する場合、ワーク2が有する面ごとに欠陥の検査が行われる。そこで、本検査システムにより、ワーク2において検査対象となるある所定の面(以下「被検査面2a」とする。)の検査が行われる場合について説明する。
【0042】
図5に示すように、ワーク2の被検査面2aにおいては、ワーク2の形状等に基づく複数の検査ポイント11(破線で囲まれる部分参照)が存在する。検査ポイント11は、被検査面2aにおいて所定の種類の欠陥が生じやすい部分(領域)であり、検査員1が被検査面2aの検査において注視するポイントである。したがって、被検査面2aに存在する検査ポイント11は、重要度マップの内容に含まれる。
【0043】
検査員1は、被検査面2aの検査において、被検査面2aに存在する全ての検査ポイント11を検査するため、少なくとも全ての検査ポイント11を網羅するように視線を動かす。そして、検査員1の視線の動向としては、被検査面2aにおいて効率的に全ての検査ポイント11を通過する所定の経路に沿うものとなる。つまり、図5に示すように、検査員1は、被検査面2aの検査において、全ての検査ポイント11を通過する所定の視線経路12に沿って視線を動かす。
【0044】
そこで、本検査システムにおいては、被検査面2aに対するカメラ8の撮像視点が検査員1による視線経路12に沿うように、ロボット7によってワーク2が動かされる。つまり、ロボット7の動作によって移動するカメラ8の撮像視点により、視線経路12に沿う軌跡がえがかれる。視線経路12に沿うカメラ8の撮像視点の移動経路の設定に際しては、重要度マップの情報が適宜参照される。
【0045】
本実施形態では、カメラ8のピント面の変動が少なくなるように、ワーク2(被検査面2a)とカメラ8との距離(相対的な位置)が略一定とされる。これは、熟練作業者である検査員1による被検査面2aの検査にともなう動作においては、検査員1の頭と被検査面2aとの距離(相対的な位置)がほぼ変動しないという測定結果が得られていることに基づく。
【0046】
そして、本検査システムにおいては、被検査面2aの検査において、視線経路12の一部に、例えば、図5に示すように、被検査面2aの横方向(長手方向、図5における左右方向)に沿う経路が含まれる場合、ロボット7の動作による被検査面2aの横方向についてのワーク2の平行移動の範囲(撮像視点の移動範囲)は、計測された検査員1の動作のうち、検査員1の頭の動き(左右の首振り角度)から算出される。また、被検査面2aにおける視線経路12に沿う撮像視点の動きは、あらかじめ計測された検査員1の視線の動きに基づいて生成される。
【0047】
検査員1の検査作業の定量値化を図るためにあらかじめ計測された検査員1の動作および視線の動きは、次のような手順で本検査システムにおける機械検査フローに変換され、検査員1の認知に基づく検査メカニズムの機械化が図られる。即ち、まず、あらかじめ計測された検査員1の動作および視線の動きに基づいて、検査員1の検査作業および意図(検査意図)を反映した検査フローが生成される。
【0048】
検査員1の検査フローの生成においては、はじめに、あらかじめ計測された検査員1の動作および視線の動きについてのデータが解析されることで、検査員1の動作および視線の動きの特徴が、所定の量(数値)として抽出される。これにより、検査員1の動作および視線の動きの傾向が定量値化される。次に、検査員1の動作および視線の動きのフローである検査作業フローが生成される。そして、重要度マップに基づいて検査員1の意図のフローである判断フローが生成される。ここで生成される判断フローは、検査員1の認知に基づく検査メカニズムに基づくフローとなる。
【0049】
そして、検査員1の検査フローとして生成された検査作業フローおよび判断フローが、本検査システムにおける機械検査フローに変換される。つまり、検査作業フローに基づき、本検査システムの各部の動きについてのフローである動作フローが生成される。また、判断フローに基づき、本検査システムの画像処理についてのフローである画像処理フローが生成される。このように本検査システムにおける動作フローおよび画像処理フローが生成されることで、あらかじめ計測された検査員1の動作および視線の動きの、本検査システムにおける機械検査フローへの変換(検査メカニズムの機械化)が完了する。
【0050】
なお、本検査システムにおいては、ロボット7の動作によってワーク2とカメラ8との相対的な位置関係を変化させる構成が採用されているが、このワーク2とカメラ8との位置関係を変化させるための構成は特に限定されない。つまり、本検査システムは、ワーク2とカメラ8との相対的な位置関係を変化させる移動手段としてロボット7を備えるが、かかる移動手段としてカメラ8側を移動させる構成を備えるものであってもよい。
【0051】
以上のような本検査システムにおいて、あらかじめ準備された重要度マップが用いられ、ワーク2の欠陥を検出するための検査(以下単に「ワーク2の検査」という。)が行われる。ワーク2の検査は、ワーク2を移動させるロボット7とカメラ8とを含む構成により取得される複数の視点からの撮像画像(動画像)に基づき、かかる動画像が処理されることにより算出される特徴量が用いられて行われる。
【0052】
そして、ワーク2の検査としては、ワーク2(被検査面2a)の任意の部位について動画像の取得および特徴量の算出を行うことで、欠陥に該当する可能性を有する欠陥候補の部位(欠陥として疑わしい部位、以下「欠陥候補部位」という。)を検出する一段階目の検査と、欠陥候補部位についての動画像の取得および特徴量の算出を行うことによる詳細な検査である二段階目の検査とが行われる。
【0053】
したがって、ワーク2の検査においては、図1に示すように、一段階目の検査として、任意の部位についての動画像の取得(S30)、取得した動画像の処理による特徴量の算出(S40)、および算出した特徴量に基づく欠陥候補部位の有無の検査(S50)が行われる。そして、二段階目の検査として、欠陥候補部位についての動画像の取得(S60)、取得した動画像の処理による特徴量の算出(S70)、および算出した特徴量に基づく欠陥の定量値化(S80)が行われる。これらステップS30〜S80を含むワーク2の検査の方法の一例である具体的な一連の処理(以下「本検査処理例」という。)について、図7に示すフロー図に従って説明する。
【0054】
図7に示すように、本検査処理例においては、まず、検査動画像の取込みが行われる(S110)。つまり、本検査システムにおいて検査動画像が取得され、取得された検査動画像が処理対象としてシステム内に取り込まれる。検査動画像は、ワーク2の被検査面2aにおいて検査員1による視線経路12に沿って撮像視点を移動させるカメラ8により、視線経路12の任意の部位(区間)において所定の時間間隔で撮像される複数の視点からの連続的な複数の撮像画像(動画像)である。
【0055】
即ち、前述したように、本検査システムにおいては、被検査面2aに対するカメラ8の撮像視点は、ロボット7の動作によって移動する。ここで、カメラ8は、その撮像視点を視線経路12に沿って移動させながら、所定の時間間隔で撮像画像を連続的に撮像する。そこで、このようなカメラ8によって撮像される連続的な複数の撮像画像のうちの一部、つまり視線経路12の任意の部位(区間)で取得される複数の撮像画像が、本検査処理例において検査動画像とされる。
【0056】
本検査処理例では、検査動画像として数十フレームの検査画像(撮像画像)が取得される。本検査処理例において検査動画像として取得される検査画像のフレーム数は、検査員1による次のような検査作業の内容に基づく。
【0057】
図3に示すように、検査員1によるワーク2の被検査面2aの検査においては、検査員1は、視線経路12に沿って注視点16(アイマーク6参照)を動かすとともに、指差しを行う。つまり、検査員1は、被検査面2aの検査において、検査員1の指差しによって指される位置である指差点13を視線経路12に沿って移動させながら、注視点16を視線経路12に沿って移動させる。
【0058】
そして、検査員1による検査作業の傾向としては、視線経路12において、指差点13よりも前(進行方向の前)に、注視点16が位置する。つまり、検査員1による検査作業においては、視線経路12に沿って移動する注視点16に対して、指差点13が視線経路12に沿って後を追う態様となる。言い換えると、検査員1は、視線経路12に沿って指差点13を移動させるとともに、指差点13よりも視線経路12に沿う前側を見ながら検査を行う。このような検査員1の動作態様において、検査員1が欠陥候補部位を見つけた場合、その欠陥候補部位に注視点16が滞留し、指差点13が注視点16に追い付く。
【0059】
したがって、検査員1による検査作業における指差点13と注視点16との関係性から、検査員1は、視線経路12における指差点13と注視点16との間の部分である間隔部分12a(破線部分参照)を参照しながら検査を行っているといえる。つまり、検査員1は、検査作業において、視線経路12の間隔部分12aを、欠陥候補部位を検出する際の参照部分としている。
【0060】
図6(a)に、検査員1による指差点13と注視点16との関係の一計測例を示す。図6(a)に示すグラフにおいて、横軸は時間(撮像画像のフレーム数)を表し、縦軸は指差点13および注視点16の変位を表す。また、図6(a)において、グラフG1が指差点13についてのグラフであり、グラフG2が注視点16についてのグラフである。
【0061】
図6(a)のグラフからわかるように、指差点13の位置は、注視点16の位置に対して全般的に視線経路12における進行方向の後側(図6(a)のグラフにおいて下側)に位置する。そして、本計測例においては、図6(a)に示すように、所定の変位d1における指差点13と注視点16とのフレーム数の差ΔTが数十フレームである。この数十フレームという値は、図6(b)に示すように、本検査システムにおいてカメラ8による連続的な検査画像14の撮像が数十回/秒で行われる場合において数百ミリ秒の時間に相当する。
【0062】
そこで、本検査処理例においては、任意の部位について連続的に取得される数十フレーム分の検査画像14が、検査員1による欠陥候補部位の検出に際しての参照部分に対応する動画像である検査動画像として取得される。つまり、本検査処理例においては、数十フレーム分の検査画像14が、指差点13と注視点16との位置関係に基づき、検査員1が欠陥候補部位があるか否かを判断している情報量に相当する動画像として取得される。ただし、検査動画像として取得される連続的な撮像画像のフレーム数(時間間隔)は、被検査面2aにおけるカメラ8の撮像視点の移動速度や、カメラ8による撮像画像の取得速度(回/秒)等に応じて適宜設定される。
【0063】
このように、本検査処理例において、検査動画像の取込みが行われる本ステップS110が、ワーク2の検査において複数の視点からの撮像画像(動画像)の取得が行われるステップS30に対応する(図1参照)。
【0064】
そして、本実施形態においては、複数の視点からの撮像画像(動画像)の取得が行われる本ステップS30が、上記ステップS10にて計測された検査動作および視線の動きを、カメラ8およびロボット7を含む構成に模擬させながら、カメラ8によってワーク2の表面(被検査面2a)についての視線の動き(視線経路12)に沿う複数の視点から撮像される連続的な複数の撮像画像(検査動画像)を取得する第一の画像取得工程に相当する。
【0065】
本検査処理例において取得された検査動画像は、動画像処理による特徴量の算出に用いられる。つまり、本検査処理例においては、本検査システムに取り込まれた検査動画像の動画像処理が行われることにより、検査動画像についての特徴量が算出される。
【0066】
ここで、動画像についての特徴量とは、動画像に対応する部位の面積、円形度、周囲長、直径、扁平度等の幾何学的な特徴(どのような形状か)を示す量であり、動画像データから所定の画像処理により抽出される。ワーク2の検査においては、動画像についての特徴量が、ワーク2の表面に存在する欠陥の特徴を示す量として用いられる。
【0067】
本検査処理例においては、動画像についての特徴量は、画像処理として一般化ハフ変換(GHT;Generalized Hough Transform)およびCHLAC特徴(CHLAC;Cubic Higher−order Local Auto Correlation、立体高次局所自己相関特徴)が用いられて算出される。
【0068】
一般化ハフ変換とは、直線や円等のパラメータで表現できる図形の検出等に用いられるハフ変換(Hough Transform)においてパラメータの取り方を変えることで、ハフ変換が任意の図形に適用できるように拡張されたアルゴリズムである。一般化ハフ変換によれば、所定の画像中に存在する任意の検出したい形状部分の位置・大きさ・角度等が検出される。
【0069】
また、CHLAC特徴とは、高次局所自己相関特徴が時間軸方向へ拡張されたものであり、時空間中の近傍点の相関を抽出する特徴量である。CHLAC特徴は、その好ましい性質として、積分特徴であることからデータ内の対象における位置によらないという位置不変性と、対象における全体の値が個別の値の和になるという対象に対する加法性とを有する。CHLAC特徴は、連続的な複数の撮像画像(動画像)について画像間の関係性(つながり)を示す特徴量であることから、動画像における三次元形状の認識に用いられる。
【0070】
したがって、図7に示すように、本検査処理例においては、検査動画像として取り込まれた数十フレームの各検査画像14について一般化ハフ変換(GHT)が行われることで(S120)、各検査画像14の基準特徴量の算出が行われる(S130)。ここで、検査画像についての基準特徴量とは、検査動画像についての特徴量を生成するための各検査画像14について算出される値であり、一般化ハフ変換において設定されるパラメータによって検出されるべき欠陥の種類(形状等)に応じて算出される。
【0071】
そして、各検査画像14について算出された基準特徴量から、CHLAC特徴として、数十フレームの検査画像14としての検査動画像についての特徴量が算出される(S140)。つまり、本検査システムにおいて取り込まれた数十フレーム分のフレームデータ(動画像データ)に基づき、CHLAC特徴が用いられ、検査動画像の特徴量が抽出される。ここでは、検査動画像の特徴量として複数の特徴量が算出される。複数の特徴量によれば、例えば時間軸が用いられることで三次元における所定の空間が定義される。
【0072】
このように、本検査処理例において、一般化ハフ変換およびCHLAC特徴によって検査動画像についての特徴量の算出が行われるステップS120〜S140が、ワーク2の検査において動画像処理による特徴量の算出が行われるステップS40に対応する(図1参照)。
【0073】
そして、本実施形態においては、動画像処理による特徴量の算出が行われるステップS40が、上記ステップS30にて取得された検査動画像(数十フレーム)に基づいて、ワーク2の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程に相当する。
【0074】
本検査処理例において算出された検査動画像の特徴量は、検査動画像において欠陥候補部位が存在するか否かの判断に用いられる。かかる判断においては、良品(ワーク2と同様の部品であって欠陥が存在しないことが既知の部品)について得られる動画像(以下「良品動画像」という。)の特徴量が、検査動画像の特徴量に対する比較対象(判断基準)として用いられる。つまり、良品動画像の特徴量に基づいて欠陥候補部位についての所定の閾値が設定され、検査動画像の特徴量または特徴量に基づく値(閾値に対応する値)が閾値以上であるか否かにより、欠陥候補部位があるか否かの判断が行われる。本検査処理例において、良品動画像の特徴量は、次のようにして求められる。
【0075】
本検査処理例における良品動画像の特徴量を求めるための一連の処理(以下「良品処理」という。)について、図8に示すフロー図を用いて説明する。良品動画像の特徴量は、検査動画像の特徴量と同様の手法により用いられる。つまり、検査動画像の特徴量を求めるための処理において、検査動画像の代わりに良品動画像(ワーク2の代わりに良品)が処理対象となることで、良品動画像の特徴量が求められる。また、良品処理においては、精度向上等の観点から、複数(N個)の良品についてのデータが取得され、それらの平均が求められる。
【0076】
即ち、図8に示すように、良品処理においては、良品動画像として数十フレームの良品画像(撮像画像)が取得される(S310)。ここで取得される良品動画像は、良品において、検査動画像が取得されるワーク2の被検査面2aにおける視線経路12に沿う部位に対応する部位について取得される、視線経路12に沿って撮像視点を移動させるカメラ8により所定の時間間隔で撮像される複数の視点からの連続的な複数の撮像画像(動画像)である。
【0077】
次に、取得された良品動画像の動画像処理が行われることにより、良品動画像についての特徴量が算出される。つまり、良品処理においては、良品動画像として取り込まれた数十フレームの各良品画像について一般化ハフ変換(GHT)が行われることで(S320)、各良品画像の基準特徴量の算出が行われる(S330)。そして、各良品画像について算出された基準特徴量から、CHLAC特徴を用いた基準空間の生成が行われる(S340)。ここで、基準空間とは、前述したようにCHLAC特徴として算出される良品動画像についての複数の特徴量によって定義される三次元における所定の空間である。このような基準空間を生成するための処理(S310〜S340)が、N個の良品(良品動画像)について行われる(S350)。
【0078】
そして、N個の良品動画像について取得されたデータに基づき、N個の良品動画像についての平均特徴量が算出され(S360)、N個の良品動画像についての平均基準空間の生成が行われる(S370)。ここで行われる特徴量および基準空間についての平均処理としては、例えば特徴量の種類等に応じて、単純平均(相加平均)のほか適宜の平均処理が用いられる。
【0079】
このように良品動画像の特徴量として生成された平均基準空間に基づいて、欠陥候補部位についての所定の閾値が設定される。ここで設定される欠陥候補部位についての閾値は、前述したように算出された検査動画像の特徴量に対する比較対象(判断基準)である。
【0080】
即ち、前記のとおり検査動画像の特徴量として算出される複数の特徴量が、同じく複数の特徴量によって定義される平均基準空間と比較されることで、欠陥候補部位があるか否かの判断が行われる。したがって、欠陥候補部位についての閾値としては、検査動画像の特徴量として算出される各特徴量等に対応する値が設定される。そして、検査動画像の特徴量について、少なくともある特徴量(または特徴量に基づく値)が、対応する閾値以上である場合、欠陥候補部位があると判断される。
【0081】
概念的には、複数の特徴量が用いられて定義される三次元における所定の空間において、欠陥候補部位に該当しないOKの領域として平均基準空間が規定される。そして、検査動画像の特徴量として算出される複数の特徴量が所定の空間にプロットされることで、平均基準空間内であればOK(欠陥候補部位なし)、平均基準空間外であればNG(欠陥候補部位あり)という判断が行われる。
【0082】
一方、検査動画像の特徴量が閾値以上でない場合、検査動画像の取込み(S110)、特徴量の算出(S120〜S140)、および欠陥候補部位についての判断(S150)が行われる。つまり、これら欠陥候補部位を検出するための一連の処理(S110〜S150)が、欠陥候補部位が検出されるまで行われる。
【0083】
ここで、ステップS110においては、視線経路12に沿って連続的に取得された前回の数十フレーム分の検査画像14に対して、視線経路12に沿う次の数十フレーム分の検査画像14、あるいは前回に取得された数十フレームと一部が重複する数十フレーム(同じフレーム数)分の検査画像14が順次取り込まれる。このような特徴量に基づく欠陥候補部位の判断においては、例えば欠陥候補部位についての閾値の設定等に際して、重要度マップの情報が適宜参照される。
【0084】
このように、本検査処理例において、検査動画像の特徴量が閾値以上であるか否かの判断、つまり欠陥候補部位があるか否かの判断が行われるステップS150が、ワーク2の検査において欠陥候補部位の有無の検査が行われるステップS50に対応する(図1参照)。
【0085】
そして、本実施形態においては、欠陥候補部位の有無の検査が行われるステップS50が、重要度マップおよび上記ステップS40にて算出された特徴量に基づいて、検査動画像に対応する領域に欠陥候補部位が存在するか否かを検査する第一の検査工程に相当する。
【0086】
以上のように、一段階目の検査として欠陥候補部位の検出が行われた後、二段階目の検査として、欠陥候補部位についての詳細な検査が行われる。即ち、本検査処理例における上記ステップS150にて、欠陥候補部位があると判断された場合、欠陥候補部位についての詳細検査のため、カメラ8の撮像視点が欠陥候補部位に移動する(S210)。
【0087】
したがって、本検査システムでは、欠陥候補部位についての詳細検査に際し、ロボット7の動作により視線経路12に沿って移動するカメラ8の撮像視点が、欠陥候補部位があると判断された検査動画像(数十フレーム)に対応する領域に戻るように移動する。つまり、欠陥候補部位についての詳細検査に際しては、欠陥候補部位があるとの判断が前述した本検査システムにおける動作フローにフィードバックされ、カメラ8の撮像視点が欠陥候補部位の位置まで戻る。
【0088】
そして、カメラ8の撮像視点が欠陥候補部位まで戻った状態で、再び検査動画像の取込みが行われる(S220)。ここで取得される検査動画像は、欠陥候補部位についての詳細検査のためのものであるため、例えば欠陥候補部位を検出するために取得される検査動画像(上記ステップS110参照)よりも多くの検査画像(フレーム数)による検査動画像が取得される。
【0089】
また、再度の検査動画像(数十フレーム)の取得においては、本検査システムにおいて、カメラ8による撮像角度やズーム(焦点距離)等の変更によって撮像視点が適宜変更され、欠陥候補部位を検出するための検査動画像の取得との比較において多様な撮像画像が取得される。そして、このようなカメラ8の撮像視点の変更には、重要度マップの情報が参照される。つまり、重要度マップに含まれる欠陥の種類に応じて、カメラ8の撮像視点が変更される。
【0090】
このように、本検査処理例において、撮像視点の欠陥候補部位への移動、および再度の検査動画像の取得が行われるステップS210およびS220が、ワーク2の検査において欠陥候補部位についての複数の視点からの撮像画像の再取得が行われるステップS60に対応する(図1参照)。
【0091】
そして、本実施形態においては、欠陥候補部位についての複数の視点からの撮像画像の再取得が行われるステップS60が、上記ステップS50により欠陥候補部位が存在するとの検査結果が得られた場合、ロボット7によってカメラ8(の撮像視点)を検査動画像に対応する領域に移動させ、カメラ8によって検査動画像に対応する領域について重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像(検査動画像)を取得する第二の画像取得工程に相当する。
【0092】
本検査処理例において再度取得された検査動画像は、欠陥候補部位の検出のための検査動画像と同様にして、動画像処理による特徴量の算出に用いられる。即ち、本検査処理例においては、検査動画像として取り込まれた数十フレームの各検査画像について一般化ハフ変換(GHT)が行われることで(S230)、各検査画像の基準特徴量の算出が行われる(S240)。そして、各検査画像について算出された基準特徴量から、CHLAC特徴を用いた特徴量の算出が行われる(S250)。
【0093】
このように、本検査処理例において、一般化ハフ変換およびCHLAC特徴によって再度取得された検査動画像についての特徴量の算出が行われるステップS230〜S250が、ワーク2の検査において動画像処理による特徴量の算出が行われるステップS70に対応する(図1参照)。
【0094】
そして、本実施形態においては、動画像処理による特徴量の算出が行われるステップS70が、上記ステップS60にて取得された検査動画像に基づいて、特徴量を算出する第二の特徴量算出工程に相当する。
【0095】
図7に示すように、本検査処理例においては、検査動画像について算出された特徴量に基づいて、欠陥領域の表示(欠陥識別)が行われる(S260)。欠陥領域の表示としては、検査動画像の特徴量に基づいて、欠陥候補部位として検出された欠陥について、その領域指定や大きさや種類等の欠陥の内容が所定の数値として表される。つまり、検査動画像の特徴量が用いられ、数値の大きさ等により欠陥の識別(検出)を行うための欠陥の定量値化が図られる。このような欠陥領域の表示においては、重要度マップの情報が適宜参照される。
【0096】
このように、本検査処理例において、欠陥領域の表示(欠陥識別)が行われるステップS260が、ワーク2の検査において欠陥の定量化が行われるステップS80に対応する(図1参照)。
【0097】
そして、本実施形態においては、欠陥の定量化が行われるステップS80が、上記ステップS70にて算出された検査動画像の特徴量に基づいて、欠陥候補部位についての欠陥の定量値化を行う第二の検査工程に相当する。
【0098】
以上のような一連の流れによる欠陥の検査が、ワーク2が有する複数の被検査面2aごとに、検査動画像を取得するカメラ8の撮像視点が少なくとも視線経路12に沿って一通り移動するまで行われる。そして、ロボット7によってワーク2が動かされることで、ワーク2の全面についての検査が実施される。
【0099】
以上のように、本検査処理例を用いて説明した本実施形態に係るワーク2の検査は、検査員1により実際に行われる二段階の検査(2step検査)を本検査システムによって模擬したものとなる。即ち、本検査処理例において、撮像視点の欠陥候補部位への移動(戻り動作)(S210)は、検査員1による検査作業における注視点16の戻り(欠陥候補部位への戻り)を再現したものである。また、本検査処理例において、撮像視点が欠陥候補部位に戻って行われる詳細な検査(S220〜S260)は、検査員1による検査作業において検査員1が欠陥候補部位に注視点を滞留させ、かかる部位についての詳細な検査を行う動作を再現したものである。
【0100】
本実施形態の欠陥検出方法によれば、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる。
【0101】
即ち、本実施形態の欠陥検出方法においては、欠陥を検出するための情報を得るための画像処理が、従来のように単一方向の静止画像ではなく複数視点の画像(動画像)について行われる。このため、例えば微小な欠陥等の、欠陥部分以外の部分との判別が難しい欠陥であっても精度良く検出することができる。
【0102】
また、本実施形態の欠陥検出方法によれば、欠陥候補部位を検出するための検査と欠陥候補部位についての詳細な検査とによる二段階の検査が行われることから、ワーク2が有する欠陥に応じて、欠陥候補部位の検査に重点的に時間をかけることができる。これにより、欠陥の検出に際して効率的な検査を行うことができ、時間の短縮化を図ることができる。
【0103】
そして、本実施形態の欠陥検出方法は、本検査システムにおいて、熟練作業者である検査員1の検査のメカニズム(どのような情報を、どのように取得し、どのように判断しているか)に基づいて検査員1の作業中の意図と動作を同期させることで、検査員1の作業を実現させたものである。これにより、複雑形状部品が有する欠陥や複数種類の欠陥の検出が可能となる。
【0104】
以上のような本実施形態に係る欠陥検出方法が用いられることにより、部品の品質向上およびコストの低減を図ることができる。具体的には、本実施形態に係る欠陥検出方法においては、欠陥の定量値化が行われるため、定量値によって部品の製造条件と欠陥不良との紐付けを行うことができ、良品条件の適正化を図ることができる。これにより、部品の不良率を低減させることができ、部品の外観品質の向上を図ることができる。また、本実施形態の欠陥検出方法によれば、鋳造部品等の目視検査工程の省人化を図ることができるので、労務費の観点からコストの低減を図ることができる。
【0105】
以上の実施形態により説明した本発明に係る欠陥検出方法は、例えば自動車エンジンを構成するシリンダヘッド、シリンダブロック、クランクシャフト、ギア等の各種の鋳造部品や鍛造部品等を対象として、キズ、欠肉、湯じわ、割れ等の、目視検査が行われる欠陥の検出に適用することができる。
【0106】
次に、本発明に係る前述の欠陥検出方法をさらに改良した実施態様について説明する。
これまでに説明した本発明に係る欠陥検出方法では、欠陥部位の形状によっては欠陥を検出することができない場合があった。
【0107】
図10(a)に示す如く、欠陥部位の形状が急峻な凹形状である場合には、被検査面2aに対してどの方向から照明光を照射しても、欠陥部位の底部には照明光が到達しにくいため、欠陥部位の輝度が周囲の輝度に比して低くなる。このため、欠陥部位の輝度の差異によって欠陥を検出することが可能である。
【0108】
一方、図10(b)に示す如く、欠陥部位の形状が緩やかな凹形状である場合には、被検査面2aに対して例えば垂直方向の照明光を照射すると、欠陥部位の輝度は周囲の輝度に対してほとんど差異が生じないため、輝度の差異によって欠陥を検出することが困難である。
【0109】
そこで、欠陥部位の形状が緩やかな凹形状である場合には、図11(a)(b)に示す如く、被検査面2aに対して垂直でない角度を有する方向から照明光を照射すれば、欠陥部位の外周縁部に影を生じさせることができ、これにより周囲の輝度に対して輝度が低くなる部位を形成できる。このため、複数の方向から照明光を照射しつつ、その照明光の照射方向と同じ視野方向から検査動画像を取得すれば、緩やかな凹形状を有する欠陥であっても、輝度の差異によって欠陥部位の有無や欠陥部位の範囲を検出することが可能になる。
【0110】
そこで、本発明の改良した実施態様では、被検査面2aに対して角度の異なる三方向から照明光を照射しつつ、その照明光の照射方向と同じ視野方向から検査動画像を取得することによって、欠陥部位の形状に左右されることなく、確実に欠陥を検出することができるように改良がなされている。
以下、本発明の欠陥検出方法を改良した実施態様について、具体的に説明する。
【0111】
まず、本発明に係る欠陥検出方法を改良した実施態様における検査システムについて説明する。
図9に示すように、本実施態様における検査システムは、改良前の実施態様と同様に、ワーク2を移動させるためのロボット7と、ワーク2の表面を撮像するためのカメラ18と、カメラ18によるワーク2の表面の撮像に際してワーク2の表面を照らす照明19を備えている。またカメラ18は、本検査システムが備える支持体10により支持されている。
そして、本発明に係る欠陥検出方法を改良した実施態様では、カメラ18と照明19の位置関係や照明19の種類が、改良前の実施態様に比して異なっている点に特徴を有している。
【0112】
本実施態様における照明19の発光部位はリング状の態様を有しており、カメラ18は、リング状の照明19に形成された中空部を通してワーク2の被検査面2aを視野に捉えることができる。そして、このような構成により、ワーク2に対して、照明19によって、常にカメラ18の視野方向に照明光を照射することができる構成としている。
【0113】
また、ワーク2の姿勢は、ロボット7によって自在に変化させることができるため、ワーク2に対して、カメラ18の視野方向に照明光を照射しつつ、ワーク2の姿勢(即ち、カメラ18の視野方向に対する角度)を様々に変化させながら、カメラ18によって検査動画像を撮像することができる構成としている。
【0114】
尚、本実施態様では、カメラ18が支持体10に固定される態様の検査システムを例示しているが、本発明に係る欠陥検出方法に適用する検査システムの構成をこれに限定するものではなく、例えば、カメラ18が支持体10に対して、自在に姿勢を変更できるように支持される態様とし、ワーク2とカメラ18の両方の姿勢を自在に変更できる検査システムの構成とすることも可能である。
【0115】
次に、改良した欠陥検出方法について、図12〜図17を用いて説明する。
図12に示す如く、本実施態様に係る改良した欠陥検出方法では、改良前の欠陥検出方法と同様に、まず、熟練作業員の動作・視線の動きの計測を行って(S410)、その計測結果に基づいて、重要度マップを予め作成しておく(S420)。
【0116】
次に、前述した本実施態様の検査システムにより、角度を変更した三方向の視点(視野方向)からの検査動画像を取得する(S430)。
本実施態様では、ロボット7によって、被検査面2aが水平方向と成す角度が、角度α1(=0°、図10(b)参照)、α2(図11(a)参照)、α3(図11(b)参照)となるように、ワーク2の姿勢を変化させることによって、カメラ18および照明19によって、三方向の異なる角度(視野方向)の検査動画像を取得する構成としている。
【0117】
図13(a)に示す如く、本実施態様のように、三方向の異なる角度の検査動画像を取得すると、改良前の欠陥検出方法において取得する検査動画像(図6(b)参照)に比して約3倍のデータ量の検査動画像を取得することになる。このため、改良した欠陥検出方法では、改良前の欠陥検出方法に比して、データ処理に要する時間が長期化してしまうという問題が生じる。
【0118】
そこで、本実施態様では、データ処理量の増加を抑制する手法を採用している。
具体的には、重要度マップにおいて設定される撮像エリア(即ち、検査ポイント11・11・・・(図5参照))の重要度に応じて、当該検査ポイント11における検査動画像を取得する際の解像度を変更するようにしている。
つまり、重要度が高い検査ポイント11に対しては、高解像度の検査動画像を取得し、重要度が低い検査ポイント11に対しては、低解像度の検査動画像を取得するようにしている。
これにより、三方向の異なる角度の検査動画像を取得した場合のデータ量を大幅に縮小することが可能になり、改良前の欠陥検出方法に比して、データ処理に要する時間が長期化してしまうという問題を解消することができる。
【0119】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、第一の画像取得工程たる(S430)においては、重要度マップによって規定される連続的な複数の撮像画像である検査画像14・14・・・に対応する領域たる検査ポイント11の重要度に応じて、該検査ポイント11において角度が異なる三方向から撮像する検査画像14・14・・・の解像度を変更するものである。
これにより、欠陥部位の形状に左右されることなく、短時間で精度良く欠陥を検出することができる。
【0120】
次に、図12に示す如く、三方向の視点(視野方向)から取得した検査動画像を画像処理して、特徴点を算出する(S440)。そして、算出した特徴点に基づいて、欠陥候補部位の有無を検査(判断)する(S450)。
本実施態様では、検査動画像から入力ベクトルINを特徴点として算出している。そして、良品の動画像から良品ベクトルOKを算出し、良品ベクトルOKに対してなす入力ベクトルINの空間角度が、予め定めた閾値以内であるか否かを検出することによって、欠陥候補部位の有無を検査(判断)している。
【0121】
ここで、三方向の視点(視野方向)から取得した検査動画像の画像処理方法((即ち、入力ベクトルIN、良品ベクトルOKの算出方法)以下、複数視点画像処理方法と記載する)について説明する。複数視点画像処理方法(S440)は、図14および図16に示すように、良品ベクトルOKを算出する工程(S441)と、入力ベクトルINを算出する工程(S442)から構成される。
【0122】
まず、良品ベクトルOKの算出する工程(S441)について、図13〜図15を用いて説明する。
図14に示す如く、本検査システムが備えるデータ処理装置(図示せず)に、三方向の視点(視野方向)から取得した良品動画像を取り込み(S441−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割する(S441−2)。図13(b)に示す如く、ある検査ポイント11における検査画像14を、その検査ポイント11の重要度に応じて、例えば、格子状に9個(3×3)のブロックに分割する。あるいは、これよりも重要度が高い検査画像14に対しては、さらに多くの数のブロック(例えば、25個(5×5)のブロック)に分割する。
【0123】
尚、本実施態様では、ブロックを格子状に9個(3×3)や25個(5×5)に分割する態様を例示しているが、本発明に係る欠陥検出方法における、ブロック分割の態様をこれに限定するものではなく、格子状以外の分割態様としたり、9個や25個以外の分割数としたりすることが可能である。
【0124】
そして、図13(c)に示すように、この単位ブロック(例えば、i=1のブロック)が、M行N列(即ち、M×N個)の画素からなる良品画像となるように画像の解像度やブロックの分割数を設定する。尚ここで、M×N=hと規定する。そして、図15(a)に示すように、h個の画素のそれぞれの輝度値(濃度値)をスカラーとして、h次元の良品ベクトルOKを生成する。
【0125】
ここで、h次元の良品ベクトルOKをそのままデータ処理して算出しようとすると、データ処理量が膨大となってしまい、良品ベクトルOKの算出に多大な時間を要してしまうという問題が生じる。
そこで、本実施態様では、h次元の良品ベクトルOKに対して主成分分析の手法を適用することにより、良品ベクトルOKの次元数を削減して、その後、データ処理を行うようにしている。
【0126】
具体的には、図15(a)に示すようなh次元の良品ベクトルOKに対して主成分分析の手法を適用し、良品ベクトルOKを、図15(b)で示すような第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S441−3)。
ここでいう主成分分析の手法とは、多くの量的変数が存在する場合に、それらの間の相関構造を考慮して、低い次元の合成変数(主成分)に変換し、データが有している情報をより解釈しやすくするための手法である。
【0127】
そして、図14に示す如く、このブロック分割(S441−2)〜主成分分析(S441−3)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S441−4)。また、算出した良品ベクトルOKの個数が予め定めておいた個数Nに達するまで、(S441−1)〜(S441−4)のデータ処理を継続して行う(S441−5)。
【0128】
そして、最終的に、良品ベクトルOKがN個算出されると、このN個の良品ベクトルOKの平均ベクトルを算出し(S441−6)、この平均ベクトルを基準とするベクトル空間を形成する(S441−7)。
以上により、良品ベクトルOKに係る特徴量の算出(即ち、良品ベクトルOKの算出する工程(S441))を完了する。
【0129】
次に、入力ベクトルINを算出する工程(S442)について、図13〜図18を用いて説明する。
図16に示す如く、本検査システムが備えるデータ処理装置(図示せず)に、三方向の視点(視野方向)から取得した検査動画像を取り込み(S442−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割(図13(b)参照)する(S442−2)。
【0130】
これにより、良品ベクトルOKと同様、図13(c)に示すように、この単位ブロック(例えば、i=1のブロック)が、M行N列(即ち、M×N個)の画素からなる検査画像となるように画像の解像度やブロックの分割数を設定する。尚ここで、M×N=hと規定する。そして、h個の画素のそれぞれの輝度値(濃度値)をスカラーとして、図15(a)に示すようなh次元の入力ベクトルINを生成する。
【0131】
ここで、h次元の入力ベクトルINに対しても主成分分析の手法を適用し(図15(a)(b)参照)、入力ベクトルINを、第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S442−3)。
【0132】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、良品についての特徴量である良品ベクトルOKを算出する工程(S441)は、主成分分析の手法によって、h次元の良品ベクトルOKを、三次元の良品ベクトルOKとして次元数を削減して算出し(S441−3)、検査対象部品たるワーク2についての特徴量である入力ベクトルINを算出する工程(S442)は、主成分分析の手法によって、h次元の入力ベクトルINを、三次元の入力ベクトルINとして次元数を削減して算出するものである(S442−3)。
これにより、欠陥部位の形状に左右されることなく、より短時間で、かつ、より精度良く欠陥を検出することができる。
【0133】
次に、図18に示す如く、予め算出しておいた良品ベクトルOKの良品範囲における平均ベクトルに対する入力ベクトルINがなす角度θを算出する(S442−4)。
この角度は、以下に示す数式1によって算出される。ここで、Kは分割ブロック数、iはブロック番号(1〜(K−1)の整数)を示している。
【0134】
【数1】
【0135】
そして、このブロック分割(S442−2)〜平均ベクトルとの角度θの算出(S442−4)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S442−5)。そして、三方向のデータ全てについて、角度θの算出が完了した後に、算出した三方向の角度θの和を算出する(S442−6)。
以上により、入力ベクトルINに係る特徴量の算出(即ち、入力ベクトルINの算出する工程(S442))を完了する。
【0136】
そして、図12および図16に示す如く、三方向の角度θの和が予め定めておいた閾値の範囲内にあるか否かによって、欠陥候補部位の有無を検査(判断)する(S450)。
【0137】
ここで、三方向の角度θの和が予め定めておいた閾値の範囲外である(即ち、欠陥候補部位が存在する)場合には、その欠陥候補部位に対して、複数の視点からの検査動画像の再取得を行う(S460)。尚、第二の画像取得工程たる(S460)においても、重要度マップによって規定される欠陥候補部位に対応する検査ポイント11の重要度に応じて、該検査ポイント11において角度が異なる三方向から撮像する検査画像14・14・・・の解像度を変更しつつ、検査動画像を取得している。
そして、入力ベクトルINを再度算出する工程(S470)に移行する。
【0138】
次に、図17に示す如く、入力ベクトルINを再度算出する工程(S470)では、本検査システムが備えるデータ処理装置(図示せず)に、(S460)において三方向の視点(視野方向)から再度取得した検査動画像を取り込み(S470−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割(図13(b)参照)する(S470−2)。
【0139】
これにより、図15(a)に示すようなh次元の入力ベクトルINを再度生成し、このh次元の入力ベクトルINに対して、再度主成分分析の手法を適用し(図15(a)(b)参照)、入力ベクトルINを、第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S470−3)。
【0140】
次に、図18に示す如く、予め算出しておいた良品ベクトルOKの良品範囲における平均ベクトルに対する入力ベクトルINがなす角度θを再度算出する(S470−4)。
【0141】
そして、このブロック分割(S470−2)〜平均ベクトルとの角度θの算出(S470−4)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S470−5)。そして、三方向のデータ全てについて、角度θの算出が完了した後に、算出した三方向の角度θの和を再度算出する(S470−6)。
以上により、入力ベクトルINに係る特徴量の再算出(即ち、入力ベクトルINを再度算出する工程(S470))を完了する。
【0142】
そして、図12および図17に示す如く、再度算出した三方向の角度θの和によって、検出した欠陥を定量値化する(S480)。
以上により、改良した本発明に係る欠陥検出方法による一連の処理を完了する。
【0143】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、第一の画像取得工程たる(S430)においては、複数の視点たる各検査ポイント11・11・・・のそれぞれにおいて、角度が異なる三方向から(即ち、ワーク2の姿勢が角度α1〜α3である状態で)連続的な複数の撮像画像たる検査画像14・14・・・を撮像し、かつ、第二の画像取得工程たる(S460)においては、複数の視点たる各検査ポイント11・11・・・のそれぞれにおいて、角度が異なる三方向から(即ち、ワーク2の姿勢が角度α1〜α3である状態で)連続的な複数の撮像画像たる検査画像14・14・・・を撮像するものである。
これにより、欠陥部位の形状に左右されることなく、精度良く欠陥を検出することができる。
【0144】
また、本発明に係る欠陥検出方法を改良した本実施態様は、第一の特徴量算出工程である(S440)および第二の特徴量算出工程である(S470)においては、良品の表面について、検査ポイント11の重要度に応じて解像度を変更して撮像した検査画像14を、該検査画像14の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの検査画像14を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする良品についての特徴量であるh次元の良品ベクトルOKを算出する工程(S441−2)と、検査対象部品たるワーク2の被検査面2aについて、検査ポイント11の重要度に応じて解像度を変更して撮像した検査画像14を、該検査画像14の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの検査画像14を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとするワーク2についての特徴量であるh次元の入力ベクトルINを算出する工程(S442−2)と、を備え、第一の検査工程である(S450)は、良品ベクトルOKと入力ベクトルINを比較して、ワーク2の欠陥の有無を判断する工程、を備えるものである。
これにより、欠陥部位の形状に左右されることなく、より精度良く欠陥を検出することができる。
【符号の説明】
【0145】
1 検査員(熟練作業者)
2 ワーク(検査対象部品)
7 ロボット(移動手段)
8 カメラ(撮像手段)
18 カメラ(改良した実施態様)
19 照明(改良した実施態様)
【技術分野】
【0001】
本発明は、例えば鋳造部品等の品質検査に用いられる欠陥検出方法に関する。
【背景技術】
【0002】
従来、例えば鋳造部品や鍛造部品等の表面欠陥を検出するための技術として、検査対象となる部品(ワーク)の表面について取得した撮像画像に所定の画像処理等を施すことで欠陥を検出する等、撮像画像に基づいて欠陥を検出する方法がある(例えば、特許文献1参照。)。特許文献1には、ワークの撮像画像に対して、ガウス平均化処理等の前処理を行った後、サンプル部品を撮像することにより得られる参照用画像を用いる統計的な処理や比較処理等の欠陥検出処理を行う方法が開示されている。
【0003】
特許文献1に開示されている方法は、ワークの形状が単純で、ある特定の種類に欠陥が限定される場合においては有効であると考えられる。しかし、ワークが複雑形状物であり、複数種類の欠陥を有する場合においては、特許文献1を含む従来の技術では、次のような理由から対応が困難であると考えられる。
【0004】
即ち、従来の技術においては、欠陥の検査に用いられる撮像画像が、単一方向(所定の方向)から撮像された静止画像である。このため、従来の技術によれば、撮像画像から得られる情報量が少なく、例えば微小な欠陥等の、欠陥部分以外の部分との判別が難しい欠陥の検出が困難である。このように欠陥の検出が困難な場合としては、例えば、鋳造部品の鋳肌面等といった粗材面において、表面の粗さ(凹凸度合い)の範囲内にある微細なキズが欠陥として存在する場合がある。かかる場合、粗材面の凹凸と欠陥とが混同され、欠陥の検出が困難となる。
【0005】
また、従来の技術においては、ワークの表面における欠陥が存在する部位および良品部位(欠陥が存在する部位以外の部位)に対して一律的な検査が行われることから、処理に膨大な時間がかかるという問題がある。即ち、従来の技術によれば、ワークの全面について一律的な検査が行われることから、欠陥の分類に必要な情報について、本来は余分な情報である良品部位に関する情報までも取得されることになる。このため、従来の技術では、所定の検査工程における限られた作業時間内でのワークの全面についての検査(欠陥の分類)の実現は困難である。
【0006】
以上のような理由から、複雑な形状を有する鋳造部品等については、人による目視検査によって品質が保証されているのが現状である。しかし、人による目視検査では、作業者の熟練度等によって信頼性にバラツキが生じることや人員の確保等の問題がある。そこで、例えば特許文献2に開示されているように、熟練作業者の動作をロボットに教示する技術がある。かかる技術を、鋳造部品等の品質検査のための欠陥の検出に応用することが考えられる。
【0007】
しかし、鋳造部品等の品質検査の検査員としての熟練作業者の所作には、ワークを動かすための腕等の動作に加え、ワークに存在する欠陥を検出するための視線の動きも含まれる。さらに、検査員としての熟練作業者の動作や視線の動きには、熟練作業者の経験等に基づく意図が反映される。このため、検査員としての熟練作業者の作業を、従来から存在する熟練作業者の動作をロボットに教示する技術によって実現することは困難である。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2004−170374号公報
【特許文献2】特開平6−250730号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
本発明は、上記のような問題点に鑑みてなされたものであり、その解決しようとする課題は、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる欠陥検出方法を提供することにある。
【課題を解決するための手段】
【0010】
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。
【0011】
即ち、請求項1においては、検査対象部品の表面の欠陥を検出するための欠陥検出方法であって、熟練作業者による検査対象部品の表面の欠陥の目視検査にともなう検査対象部品を動かすための検査動作および検査対象部品に対する視線の動きを計測する作業計測工程と、熟練作業者が知見として有する検査対象部品における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程と、前記作業計測工程にて計測された前記検査動作および前記視線の動きを、検査対象部品の表面を撮像するための撮像手段および検査対象部品と前記撮像手段との相対的な位置関係を変化させる移動手段を含む構成に模擬させながら、前記撮像手段によって検査対象部品の表面についての前記視線の動きに沿う複数の視点から撮像される連続的な複数の撮像画像を取得する第一の画像取得工程と、該第一の画像取得工程にて取得された前記連続的な複数の撮像画像に基づいて、検査対象部品の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程と、前記重要度マップおよび前記第一の特徴量算出工程にて算出された前記特徴量に基づいて、検査対象部品の表面における前記連続的な複数の撮像画像に対応する領域に欠陥に該当する可能性を有する部位である欠陥候補部位が存在するか否かを検査する第一の検査工程と、該第一の検査工程により前記欠陥候補部位が存在するとの検査結果が得られた場合、前記移動手段によって前記撮像手段を前記連続的な複数の撮像画像に対応する領域に移動させ、前記撮像手段によって前記連続的な複数の撮像画像に対応する領域について前記重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像を取得する第二の画像取得工程と、該第二の画像取得工程にて取得された前記複数の撮像画像に基づいて、前記特徴量を算出する第二の特徴量算出工程と、前記第二の特徴量算出工程にて算出された前記特徴量に基づいて、前記欠陥候補部位についての欠陥の定量値化を行う第二の検査工程と、を含むものである。
【0012】
請求項2においては、前記第一の画像取得工程は、前記複数の視点のそれぞれにおいて、角度が異なる三方向から前記連続的な複数の撮像画像を撮像し、かつ、前記第二の画像取得工程は、前記複数の視点のそれぞれにおいて、角度が異なる三方向から前記連続的な複数の撮像画像を撮像するものである。
【0013】
請求項3においては、前記第一の画像取得工程は、前記重要度マップによって規定される前記連続的な複数の撮像画像に対応する領域の重要度に応じて、該領域において角度が異なる三方向から撮像する前記連続的な複数の撮像画像の解像度を変更するものである。
【0014】
請求項4においては、前記第一の特徴量算出工程および前記第二の特徴量算出工程は、良品の表面について、前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、該撮像画像の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする前記良品についての特徴量であるh次元の良品ベクトルを算出する工程と、検査対象部品の表面について、前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、該撮像画像の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする前記検査対象部品についての特徴量であるh次元の入力ベクトルを算出する工程と、を備え、前記第一の検査工程は、前記良品ベクトルと前記入力ベクトルを比較して、前記検査対象部品の欠陥の有無を判断する工程、を備えるものである。
【0015】
請求項5においては、前記良品ベクトルを算出する工程は、主成分分析の手法によって、前記h次元の良品ベクトルを、三次元の良品ベクトルとして次元数を削減して算出し、前記入力ベクトルを算出する工程は、主成分分析の手法によって、前記h次元の入力ベクトルを、三次元の入力ベクトルとして次元数を削減して算出するものである。
【発明の効果】
【0016】
本発明の効果として、以下に示すような効果を奏する。
即ち、請求項1に記載の発明によれば、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる。
【0017】
請求項2に記載の発明によれば、欠陥部位の形状に左右されることなく、精度良く欠陥を検出することができる。
【0018】
請求項3に記載の発明によれば、欠陥部位の形状に左右されることなく、短時間で精度良く欠陥を検出することができる。
【0019】
請求項4に記載の発明によれば、欠陥部位の形状に左右されることなく、より精度良く欠陥を検出することができる。
【0020】
請求項5に記載の発明によれば、欠陥部位の形状に左右されることなく、より短時間で、かつ、より精度良く欠陥を検出することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の一実施形態に係る欠陥検出方法を示すフロー図。
【図2】検査員による検査作業の計測風景を示す図。
【図3】検査員による検査作業における視野映像の一例を示す図。
【図4】本発明の一実施形態に係る検査システムの構成を示す図。
【図5】ワークの被検査面における視点経路を示す図。
【図6】検査員による検査作業における指差点と注視点との関係性についての説明図。
【図7】本発明の一実施形態に係る検査処理の一例を示すフロー図。
【図8】同じく良品の特徴量を算出するための処理の一例を示すフロー図。
【図9】本発明の一実施形態に係る改良した検査システムの構成を示す図。
【図10】欠陥の形状の差異による欠陥部位の輝度の差異を説明する模式図、(a)急峻な凹形状を有する欠陥の場合、(b)緩やかな凹形状を有する欠陥(角度α1)の場合。
【図11】緩やかな凹形状を有する欠陥の姿勢の差異による欠陥部位の輝度の変化を説明する模式図、(a)角度α2の場合、(b)角度α3の場合。
【図12】本発明の一実施形態に係る改良した欠陥検出方法を示すフロー図。
【図13】取得した画像の態様を説明する模式図、(a)三方向から取得した動画像を示す模式図、(b)ブロック分割した検査画像を示す模式図、(c)単位ブロックの検査画像を示す模式図。
【図14】良品ベクトルの算出方法を示すフロー図。
【図15】良品ベクトル(入力ベクトル)を示す模式図、(a)h次元の場合、(b)三次元の場合。
【図16】入力ベクトルの算出方法を示すフロー図。
【図17】入力ベクトルの再算出方法を示すフロー図。
【図18】本発明の一実施形態に係る改良した欠陥検出方法における特徴量(角度θ)を示す模式図。
【発明を実施するための形態】
【0022】
本発明に係る欠陥検出方法は、検査対象部品においてどこの部位にどのような特徴の欠陥が発生するか等の、日々の生産活動の中で培われた熟練作業者(熟練検査員)の知識を利用するとともに、熟練作業者の認知に基づく検査メカニズムを機械化する(機械に模擬させる)ことで、機械による動作の過程で得られる複数視点の画像(動画像)に基づいて欠陥の検査を行うものである。ここで、熟練作業者とは、検査対象部品の検査ライン等において検査対象部品について検出すべき欠陥を十分な速さ・確からしさをもって漏れなく検出することができる技術・知見を有する者である。
そして、本発明に係る欠陥検出方法は、複数視点の画像(動画像)に基づく欠陥の検査として、欠陥候補の部位を検出するための検査と、検出した欠陥候補の部位についての詳細な検査とによる二段階の検査(2step検査)を行うことで、欠陥の検出精度の向上や検査時間の短縮化を図ろうとするものである。以下、本発明の実施の形態を説明する。
【0023】
本実施形態に係る欠陥検出方法は、例えば自動車エンジンを構成するシリンダヘッド等の鋳造部品を検査対象部品(以下「ワーク」という。)とし、ワークの表面の欠陥(以下単に「欠陥」という。)を検出するためのものである。
【0024】
本実施形態に係る欠陥検出方法では、まず、ワークの欠陥の検査において、熟練作業者は検査作業としてどのようにワークを動かしながら(どのような動作で)、ワークに対してどのような視線(視点)の軌跡をえがきながら(どのような視線(視点)の動きで)検査をしているかが計測される。つまり、ワークの検査における熟練作業者の検査作業の定量値化が行われる。
【0025】
したがって、図1に示すように、本実施形態に係る欠陥検出方法においては、まず、熟練作業者の動作(検査動作)および視線の動きの計測が行われる(S10)。つまり、図2に示すように、熟練作業者である検査員1によるワーク2の欠陥の検査において、検査員1の動作および視線の動きが計測される。
【0026】
検査員1の動作の計測は、例えば公知のモーションキャプチャを行うための三次元位置計測装置が用いられて行われる。モーションキャプチャ技術においては、例えば人の身体における所定の箇所にデータ取得のための複数のマーカが取り付けられる。そして、マーカが取り付けられた人の動作がカメラによって撮影されることで、人の動作にともなうマーカの三次元座標における位置(動き)が計測される。これにより、人の動作が三次元座標におけるマーカの位置データとして取得される。
【0027】
ワーク2の欠陥の検査における検査員1の動作としては、ワーク2を動かすための腕および手首の動きと、動かすワーク2の目視にともなう頭の動きとが主要な動きとなる。また、ここで計測される検査員1の動作には、検査員1により動かされるワーク2の動きが含まれる。
【0028】
そこで、本実施形態では、モーションキャプチャにより、検査員1の動作として、検査員1の頭、両肘、両手首、およびワーク2の位置が計測される。つまり、図2に示すように、検査員1の頭、両肘、および両手首の各部位、ならびにワーク2における所定の部位に、データ取得のためのマーカ3が取り付けられ、モーションキャプチャが行われる。これにより、検査員1の動作が、三次元座標における各マーカ3の位置データとして取得される。なお、検査員1の動作を計測するための技術は、検査員1およびワーク2の各部位の三次元座標における位置を計測することができるものであれば特に限定されない。
【0029】
また、検査員1の視線の動きの計測は、例えば公知のアイマークレコーダ(視線計測装置)が用いられて行われる。アイマークレコーダは、人の視野に相当する映像を撮影し、その視野映像上に、人の眼球画像から解析された視線の位置(アイマーク)を合成して表示・記録する装置である。つまり、アイマークレコーダにより、人の視線の動きが視野映像上のアイマークの位置データとして取得される。
【0030】
そこで、本実施形態では、図2に示すように、検査員1の視野画像を取得するためのカメラ(視野カメラ)と検査員1の眼球画像を取得するためのカメラ(アイカメラ)とを有するカメラユニット4が、検査員1の眼の位置に合わせて装着される。そして、図3に示すように、カメラユニット4の視野カメラにより取得される視野映像5上における検査員1のアイマーク6が、検査員1のワーク2に対する注視点として、カメラユニット4のアイカメラにより取得される眼球画像に基づいて計測される。これにより、検査員1の視線の動きが、検査員1の視野画像上におけるアイマーク6の位置データとして取得される。なお、検査員1の視線の動きを計測するための技術としては、検査員1のワーク2に対する注視点の位置を計測することができるものであれば特に限定されない。
【0031】
このように、本実施形態においては、検査員1の動作および視線の動きの計測が行われる本ステップS10が、検査員1によるワーク2の欠陥の目視検査にともなうワーク2を動かすための検査動作およびワーク2に対する視線の動きを計測する作業計測工程に相当する。
【0032】
本工程で計測された検査員1の動作および視線の動きは、本実施形態に係る欠陥検出方法を行うための検査システム(以下「本検査システム」という。)において、各部の動きに反映される。つまり、本工程により、本検査システムの動かし方のベースが取得される。また、本工程における検査員1の動作および視線の動きの計測は、複数人の検査員1について行われてもよい。この場合、例えば複数人分の計測データが平均化されることで、検査員1による一連の動作および視線の動きとして計測される。
【0033】
図1に示すように、本実施形態に係る欠陥検出方法においては、次に、重要度マップの作成が行われる(S20)。ここで、重要度マップとは、欠陥がどこの部位に発生するか(欠陥の発生部位)、どのような形状(特徴)の欠陥が発生するか(欠陥の種類)、欠陥のランク(優先順位)、欠陥の補修の可否等の、ワーク2で生じる欠陥についての内容が、所定のマップ(表)としてまとめられた情報群である。重要度マップを構成する欠陥についての内容は、熟練作業者としての検査員1が有する知見(事前知識)に基づく。
【0034】
即ち、ワーク2においては、様々な部位で様々な種類の欠陥が発生し、欠陥の種類等に応じたランク等も存在する。こうしたワーク2で生じる欠陥についての内容は、熟練作業者である検査員1が知見として有する。したがって、重要度マップの作成に際しては、検査員1へのヒヤリング(インタビュー)により、検査員1が知見として有する、欠陥の発生部位等のワーク2で生じる欠陥についての内容が取得される。つまり、重要度マップは、検査員1が日々の生産活動の中で培った知見に基づく検査員1の検査意図が形式化されたものである。
【0035】
このように、本実施形態においては、重要度マップの作成が行われる本ステップS20が、検査員1が知見として有するワーク2における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程に相当する。
【0036】
本工程で準備される重要度マップは、ワーク2の製造環境や製造条件等により逐次更新される。また、本工程における重要度マップの作成は、複数人の検査員1の知見に基づいて行われてもよい。この場合、例えば複数人分の知見が集約されることで、代表的な一つの重要度マップが作成される。
【0037】
ここで、本検査システムについて説明する。図4に示すように、本検査システムは、ワーク2を移動させるためのロボット7と、ワーク2の表面を撮像するためのカメラ8とを備える。また、本検査システムにおいては、カメラ8によるワーク2の表面の撮像に際してワーク2の表面を照らす照明9が備えられる。
【0038】
ロボット7は、ベース部7aと、ベース部7a上に設けられるアーム部7bとを有し、様々な位置および角度に姿勢制御されるフレキシブルなロボットアーム(多関節ロボット)として構成される。ロボット7は、アーム部7bの先端部に設けられる支持台7c上にワーク2を支持する。支持台7cの支持面には、ワーク2を位置決めするための位置決めピン7dが設けられている。つまり、ワーク2は、ロボット7において支持台7c上に位置決めピン7dによって位置決めされた状態で支持され、ロボット7の動作によってロボット7の可動範囲において三次元方向に移動および姿勢変更可能とされる。
【0039】
カメラ8は、ワーク2の表面を撮像するための撮像手段であり、例えばCCDイメージセンサやCMOSイメージセンサ等の撮像素子により構成される。カメラ8は、本検査システムが備える支持体10により支持される。カメラ8は、ロボット7に支持されるワーク2の表面を撮像することができる所定の姿勢で支持される。なお、カメラ8とともに本検査システムの光学系(撮像系)を構成する照明9は、カメラ8と同様に支持体10により、ロボット7に支持されるワーク2の表面を照らすことができる所定の姿勢で支持される。このように、本検査システムにおいては、光学系を構成するカメラ8および照明9は固定された状態で設けられる。
【0040】
以上のようにロボット7およびカメラ8を含む構成としての本検査システムにおいて、前述したように計測されたワーク2の欠陥の検査における検査員1の動作および視線の動きが模擬させられる。即ち、本検査システムにおいては、ロボット7の動作により移動するワーク2と撮像視点が定位置となるカメラ8との相対的な位置関係の変化において、あらかじめ計測された検査員1の動作および視線の動きが模擬される。
【0041】
本検査システムによるワーク2の検査は、ワーク2に対する所定の方向ごとに行われる。つまり、ワーク2がその外形形状において検出対象である欠陥が存在する複数の面を有する場合、ワーク2が有する面ごとに欠陥の検査が行われる。そこで、本検査システムにより、ワーク2において検査対象となるある所定の面(以下「被検査面2a」とする。)の検査が行われる場合について説明する。
【0042】
図5に示すように、ワーク2の被検査面2aにおいては、ワーク2の形状等に基づく複数の検査ポイント11(破線で囲まれる部分参照)が存在する。検査ポイント11は、被検査面2aにおいて所定の種類の欠陥が生じやすい部分(領域)であり、検査員1が被検査面2aの検査において注視するポイントである。したがって、被検査面2aに存在する検査ポイント11は、重要度マップの内容に含まれる。
【0043】
検査員1は、被検査面2aの検査において、被検査面2aに存在する全ての検査ポイント11を検査するため、少なくとも全ての検査ポイント11を網羅するように視線を動かす。そして、検査員1の視線の動向としては、被検査面2aにおいて効率的に全ての検査ポイント11を通過する所定の経路に沿うものとなる。つまり、図5に示すように、検査員1は、被検査面2aの検査において、全ての検査ポイント11を通過する所定の視線経路12に沿って視線を動かす。
【0044】
そこで、本検査システムにおいては、被検査面2aに対するカメラ8の撮像視点が検査員1による視線経路12に沿うように、ロボット7によってワーク2が動かされる。つまり、ロボット7の動作によって移動するカメラ8の撮像視点により、視線経路12に沿う軌跡がえがかれる。視線経路12に沿うカメラ8の撮像視点の移動経路の設定に際しては、重要度マップの情報が適宜参照される。
【0045】
本実施形態では、カメラ8のピント面の変動が少なくなるように、ワーク2(被検査面2a)とカメラ8との距離(相対的な位置)が略一定とされる。これは、熟練作業者である検査員1による被検査面2aの検査にともなう動作においては、検査員1の頭と被検査面2aとの距離(相対的な位置)がほぼ変動しないという測定結果が得られていることに基づく。
【0046】
そして、本検査システムにおいては、被検査面2aの検査において、視線経路12の一部に、例えば、図5に示すように、被検査面2aの横方向(長手方向、図5における左右方向)に沿う経路が含まれる場合、ロボット7の動作による被検査面2aの横方向についてのワーク2の平行移動の範囲(撮像視点の移動範囲)は、計測された検査員1の動作のうち、検査員1の頭の動き(左右の首振り角度)から算出される。また、被検査面2aにおける視線経路12に沿う撮像視点の動きは、あらかじめ計測された検査員1の視線の動きに基づいて生成される。
【0047】
検査員1の検査作業の定量値化を図るためにあらかじめ計測された検査員1の動作および視線の動きは、次のような手順で本検査システムにおける機械検査フローに変換され、検査員1の認知に基づく検査メカニズムの機械化が図られる。即ち、まず、あらかじめ計測された検査員1の動作および視線の動きに基づいて、検査員1の検査作業および意図(検査意図)を反映した検査フローが生成される。
【0048】
検査員1の検査フローの生成においては、はじめに、あらかじめ計測された検査員1の動作および視線の動きについてのデータが解析されることで、検査員1の動作および視線の動きの特徴が、所定の量(数値)として抽出される。これにより、検査員1の動作および視線の動きの傾向が定量値化される。次に、検査員1の動作および視線の動きのフローである検査作業フローが生成される。そして、重要度マップに基づいて検査員1の意図のフローである判断フローが生成される。ここで生成される判断フローは、検査員1の認知に基づく検査メカニズムに基づくフローとなる。
【0049】
そして、検査員1の検査フローとして生成された検査作業フローおよび判断フローが、本検査システムにおける機械検査フローに変換される。つまり、検査作業フローに基づき、本検査システムの各部の動きについてのフローである動作フローが生成される。また、判断フローに基づき、本検査システムの画像処理についてのフローである画像処理フローが生成される。このように本検査システムにおける動作フローおよび画像処理フローが生成されることで、あらかじめ計測された検査員1の動作および視線の動きの、本検査システムにおける機械検査フローへの変換(検査メカニズムの機械化)が完了する。
【0050】
なお、本検査システムにおいては、ロボット7の動作によってワーク2とカメラ8との相対的な位置関係を変化させる構成が採用されているが、このワーク2とカメラ8との位置関係を変化させるための構成は特に限定されない。つまり、本検査システムは、ワーク2とカメラ8との相対的な位置関係を変化させる移動手段としてロボット7を備えるが、かかる移動手段としてカメラ8側を移動させる構成を備えるものであってもよい。
【0051】
以上のような本検査システムにおいて、あらかじめ準備された重要度マップが用いられ、ワーク2の欠陥を検出するための検査(以下単に「ワーク2の検査」という。)が行われる。ワーク2の検査は、ワーク2を移動させるロボット7とカメラ8とを含む構成により取得される複数の視点からの撮像画像(動画像)に基づき、かかる動画像が処理されることにより算出される特徴量が用いられて行われる。
【0052】
そして、ワーク2の検査としては、ワーク2(被検査面2a)の任意の部位について動画像の取得および特徴量の算出を行うことで、欠陥に該当する可能性を有する欠陥候補の部位(欠陥として疑わしい部位、以下「欠陥候補部位」という。)を検出する一段階目の検査と、欠陥候補部位についての動画像の取得および特徴量の算出を行うことによる詳細な検査である二段階目の検査とが行われる。
【0053】
したがって、ワーク2の検査においては、図1に示すように、一段階目の検査として、任意の部位についての動画像の取得(S30)、取得した動画像の処理による特徴量の算出(S40)、および算出した特徴量に基づく欠陥候補部位の有無の検査(S50)が行われる。そして、二段階目の検査として、欠陥候補部位についての動画像の取得(S60)、取得した動画像の処理による特徴量の算出(S70)、および算出した特徴量に基づく欠陥の定量値化(S80)が行われる。これらステップS30〜S80を含むワーク2の検査の方法の一例である具体的な一連の処理(以下「本検査処理例」という。)について、図7に示すフロー図に従って説明する。
【0054】
図7に示すように、本検査処理例においては、まず、検査動画像の取込みが行われる(S110)。つまり、本検査システムにおいて検査動画像が取得され、取得された検査動画像が処理対象としてシステム内に取り込まれる。検査動画像は、ワーク2の被検査面2aにおいて検査員1による視線経路12に沿って撮像視点を移動させるカメラ8により、視線経路12の任意の部位(区間)において所定の時間間隔で撮像される複数の視点からの連続的な複数の撮像画像(動画像)である。
【0055】
即ち、前述したように、本検査システムにおいては、被検査面2aに対するカメラ8の撮像視点は、ロボット7の動作によって移動する。ここで、カメラ8は、その撮像視点を視線経路12に沿って移動させながら、所定の時間間隔で撮像画像を連続的に撮像する。そこで、このようなカメラ8によって撮像される連続的な複数の撮像画像のうちの一部、つまり視線経路12の任意の部位(区間)で取得される複数の撮像画像が、本検査処理例において検査動画像とされる。
【0056】
本検査処理例では、検査動画像として数十フレームの検査画像(撮像画像)が取得される。本検査処理例において検査動画像として取得される検査画像のフレーム数は、検査員1による次のような検査作業の内容に基づく。
【0057】
図3に示すように、検査員1によるワーク2の被検査面2aの検査においては、検査員1は、視線経路12に沿って注視点16(アイマーク6参照)を動かすとともに、指差しを行う。つまり、検査員1は、被検査面2aの検査において、検査員1の指差しによって指される位置である指差点13を視線経路12に沿って移動させながら、注視点16を視線経路12に沿って移動させる。
【0058】
そして、検査員1による検査作業の傾向としては、視線経路12において、指差点13よりも前(進行方向の前)に、注視点16が位置する。つまり、検査員1による検査作業においては、視線経路12に沿って移動する注視点16に対して、指差点13が視線経路12に沿って後を追う態様となる。言い換えると、検査員1は、視線経路12に沿って指差点13を移動させるとともに、指差点13よりも視線経路12に沿う前側を見ながら検査を行う。このような検査員1の動作態様において、検査員1が欠陥候補部位を見つけた場合、その欠陥候補部位に注視点16が滞留し、指差点13が注視点16に追い付く。
【0059】
したがって、検査員1による検査作業における指差点13と注視点16との関係性から、検査員1は、視線経路12における指差点13と注視点16との間の部分である間隔部分12a(破線部分参照)を参照しながら検査を行っているといえる。つまり、検査員1は、検査作業において、視線経路12の間隔部分12aを、欠陥候補部位を検出する際の参照部分としている。
【0060】
図6(a)に、検査員1による指差点13と注視点16との関係の一計測例を示す。図6(a)に示すグラフにおいて、横軸は時間(撮像画像のフレーム数)を表し、縦軸は指差点13および注視点16の変位を表す。また、図6(a)において、グラフG1が指差点13についてのグラフであり、グラフG2が注視点16についてのグラフである。
【0061】
図6(a)のグラフからわかるように、指差点13の位置は、注視点16の位置に対して全般的に視線経路12における進行方向の後側(図6(a)のグラフにおいて下側)に位置する。そして、本計測例においては、図6(a)に示すように、所定の変位d1における指差点13と注視点16とのフレーム数の差ΔTが数十フレームである。この数十フレームという値は、図6(b)に示すように、本検査システムにおいてカメラ8による連続的な検査画像14の撮像が数十回/秒で行われる場合において数百ミリ秒の時間に相当する。
【0062】
そこで、本検査処理例においては、任意の部位について連続的に取得される数十フレーム分の検査画像14が、検査員1による欠陥候補部位の検出に際しての参照部分に対応する動画像である検査動画像として取得される。つまり、本検査処理例においては、数十フレーム分の検査画像14が、指差点13と注視点16との位置関係に基づき、検査員1が欠陥候補部位があるか否かを判断している情報量に相当する動画像として取得される。ただし、検査動画像として取得される連続的な撮像画像のフレーム数(時間間隔)は、被検査面2aにおけるカメラ8の撮像視点の移動速度や、カメラ8による撮像画像の取得速度(回/秒)等に応じて適宜設定される。
【0063】
このように、本検査処理例において、検査動画像の取込みが行われる本ステップS110が、ワーク2の検査において複数の視点からの撮像画像(動画像)の取得が行われるステップS30に対応する(図1参照)。
【0064】
そして、本実施形態においては、複数の視点からの撮像画像(動画像)の取得が行われる本ステップS30が、上記ステップS10にて計測された検査動作および視線の動きを、カメラ8およびロボット7を含む構成に模擬させながら、カメラ8によってワーク2の表面(被検査面2a)についての視線の動き(視線経路12)に沿う複数の視点から撮像される連続的な複数の撮像画像(検査動画像)を取得する第一の画像取得工程に相当する。
【0065】
本検査処理例において取得された検査動画像は、動画像処理による特徴量の算出に用いられる。つまり、本検査処理例においては、本検査システムに取り込まれた検査動画像の動画像処理が行われることにより、検査動画像についての特徴量が算出される。
【0066】
ここで、動画像についての特徴量とは、動画像に対応する部位の面積、円形度、周囲長、直径、扁平度等の幾何学的な特徴(どのような形状か)を示す量であり、動画像データから所定の画像処理により抽出される。ワーク2の検査においては、動画像についての特徴量が、ワーク2の表面に存在する欠陥の特徴を示す量として用いられる。
【0067】
本検査処理例においては、動画像についての特徴量は、画像処理として一般化ハフ変換(GHT;Generalized Hough Transform)およびCHLAC特徴(CHLAC;Cubic Higher−order Local Auto Correlation、立体高次局所自己相関特徴)が用いられて算出される。
【0068】
一般化ハフ変換とは、直線や円等のパラメータで表現できる図形の検出等に用いられるハフ変換(Hough Transform)においてパラメータの取り方を変えることで、ハフ変換が任意の図形に適用できるように拡張されたアルゴリズムである。一般化ハフ変換によれば、所定の画像中に存在する任意の検出したい形状部分の位置・大きさ・角度等が検出される。
【0069】
また、CHLAC特徴とは、高次局所自己相関特徴が時間軸方向へ拡張されたものであり、時空間中の近傍点の相関を抽出する特徴量である。CHLAC特徴は、その好ましい性質として、積分特徴であることからデータ内の対象における位置によらないという位置不変性と、対象における全体の値が個別の値の和になるという対象に対する加法性とを有する。CHLAC特徴は、連続的な複数の撮像画像(動画像)について画像間の関係性(つながり)を示す特徴量であることから、動画像における三次元形状の認識に用いられる。
【0070】
したがって、図7に示すように、本検査処理例においては、検査動画像として取り込まれた数十フレームの各検査画像14について一般化ハフ変換(GHT)が行われることで(S120)、各検査画像14の基準特徴量の算出が行われる(S130)。ここで、検査画像についての基準特徴量とは、検査動画像についての特徴量を生成するための各検査画像14について算出される値であり、一般化ハフ変換において設定されるパラメータによって検出されるべき欠陥の種類(形状等)に応じて算出される。
【0071】
そして、各検査画像14について算出された基準特徴量から、CHLAC特徴として、数十フレームの検査画像14としての検査動画像についての特徴量が算出される(S140)。つまり、本検査システムにおいて取り込まれた数十フレーム分のフレームデータ(動画像データ)に基づき、CHLAC特徴が用いられ、検査動画像の特徴量が抽出される。ここでは、検査動画像の特徴量として複数の特徴量が算出される。複数の特徴量によれば、例えば時間軸が用いられることで三次元における所定の空間が定義される。
【0072】
このように、本検査処理例において、一般化ハフ変換およびCHLAC特徴によって検査動画像についての特徴量の算出が行われるステップS120〜S140が、ワーク2の検査において動画像処理による特徴量の算出が行われるステップS40に対応する(図1参照)。
【0073】
そして、本実施形態においては、動画像処理による特徴量の算出が行われるステップS40が、上記ステップS30にて取得された検査動画像(数十フレーム)に基づいて、ワーク2の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程に相当する。
【0074】
本検査処理例において算出された検査動画像の特徴量は、検査動画像において欠陥候補部位が存在するか否かの判断に用いられる。かかる判断においては、良品(ワーク2と同様の部品であって欠陥が存在しないことが既知の部品)について得られる動画像(以下「良品動画像」という。)の特徴量が、検査動画像の特徴量に対する比較対象(判断基準)として用いられる。つまり、良品動画像の特徴量に基づいて欠陥候補部位についての所定の閾値が設定され、検査動画像の特徴量または特徴量に基づく値(閾値に対応する値)が閾値以上であるか否かにより、欠陥候補部位があるか否かの判断が行われる。本検査処理例において、良品動画像の特徴量は、次のようにして求められる。
【0075】
本検査処理例における良品動画像の特徴量を求めるための一連の処理(以下「良品処理」という。)について、図8に示すフロー図を用いて説明する。良品動画像の特徴量は、検査動画像の特徴量と同様の手法により用いられる。つまり、検査動画像の特徴量を求めるための処理において、検査動画像の代わりに良品動画像(ワーク2の代わりに良品)が処理対象となることで、良品動画像の特徴量が求められる。また、良品処理においては、精度向上等の観点から、複数(N個)の良品についてのデータが取得され、それらの平均が求められる。
【0076】
即ち、図8に示すように、良品処理においては、良品動画像として数十フレームの良品画像(撮像画像)が取得される(S310)。ここで取得される良品動画像は、良品において、検査動画像が取得されるワーク2の被検査面2aにおける視線経路12に沿う部位に対応する部位について取得される、視線経路12に沿って撮像視点を移動させるカメラ8により所定の時間間隔で撮像される複数の視点からの連続的な複数の撮像画像(動画像)である。
【0077】
次に、取得された良品動画像の動画像処理が行われることにより、良品動画像についての特徴量が算出される。つまり、良品処理においては、良品動画像として取り込まれた数十フレームの各良品画像について一般化ハフ変換(GHT)が行われることで(S320)、各良品画像の基準特徴量の算出が行われる(S330)。そして、各良品画像について算出された基準特徴量から、CHLAC特徴を用いた基準空間の生成が行われる(S340)。ここで、基準空間とは、前述したようにCHLAC特徴として算出される良品動画像についての複数の特徴量によって定義される三次元における所定の空間である。このような基準空間を生成するための処理(S310〜S340)が、N個の良品(良品動画像)について行われる(S350)。
【0078】
そして、N個の良品動画像について取得されたデータに基づき、N個の良品動画像についての平均特徴量が算出され(S360)、N個の良品動画像についての平均基準空間の生成が行われる(S370)。ここで行われる特徴量および基準空間についての平均処理としては、例えば特徴量の種類等に応じて、単純平均(相加平均)のほか適宜の平均処理が用いられる。
【0079】
このように良品動画像の特徴量として生成された平均基準空間に基づいて、欠陥候補部位についての所定の閾値が設定される。ここで設定される欠陥候補部位についての閾値は、前述したように算出された検査動画像の特徴量に対する比較対象(判断基準)である。
【0080】
即ち、前記のとおり検査動画像の特徴量として算出される複数の特徴量が、同じく複数の特徴量によって定義される平均基準空間と比較されることで、欠陥候補部位があるか否かの判断が行われる。したがって、欠陥候補部位についての閾値としては、検査動画像の特徴量として算出される各特徴量等に対応する値が設定される。そして、検査動画像の特徴量について、少なくともある特徴量(または特徴量に基づく値)が、対応する閾値以上である場合、欠陥候補部位があると判断される。
【0081】
概念的には、複数の特徴量が用いられて定義される三次元における所定の空間において、欠陥候補部位に該当しないOKの領域として平均基準空間が規定される。そして、検査動画像の特徴量として算出される複数の特徴量が所定の空間にプロットされることで、平均基準空間内であればOK(欠陥候補部位なし)、平均基準空間外であればNG(欠陥候補部位あり)という判断が行われる。
【0082】
一方、検査動画像の特徴量が閾値以上でない場合、検査動画像の取込み(S110)、特徴量の算出(S120〜S140)、および欠陥候補部位についての判断(S150)が行われる。つまり、これら欠陥候補部位を検出するための一連の処理(S110〜S150)が、欠陥候補部位が検出されるまで行われる。
【0083】
ここで、ステップS110においては、視線経路12に沿って連続的に取得された前回の数十フレーム分の検査画像14に対して、視線経路12に沿う次の数十フレーム分の検査画像14、あるいは前回に取得された数十フレームと一部が重複する数十フレーム(同じフレーム数)分の検査画像14が順次取り込まれる。このような特徴量に基づく欠陥候補部位の判断においては、例えば欠陥候補部位についての閾値の設定等に際して、重要度マップの情報が適宜参照される。
【0084】
このように、本検査処理例において、検査動画像の特徴量が閾値以上であるか否かの判断、つまり欠陥候補部位があるか否かの判断が行われるステップS150が、ワーク2の検査において欠陥候補部位の有無の検査が行われるステップS50に対応する(図1参照)。
【0085】
そして、本実施形態においては、欠陥候補部位の有無の検査が行われるステップS50が、重要度マップおよび上記ステップS40にて算出された特徴量に基づいて、検査動画像に対応する領域に欠陥候補部位が存在するか否かを検査する第一の検査工程に相当する。
【0086】
以上のように、一段階目の検査として欠陥候補部位の検出が行われた後、二段階目の検査として、欠陥候補部位についての詳細な検査が行われる。即ち、本検査処理例における上記ステップS150にて、欠陥候補部位があると判断された場合、欠陥候補部位についての詳細検査のため、カメラ8の撮像視点が欠陥候補部位に移動する(S210)。
【0087】
したがって、本検査システムでは、欠陥候補部位についての詳細検査に際し、ロボット7の動作により視線経路12に沿って移動するカメラ8の撮像視点が、欠陥候補部位があると判断された検査動画像(数十フレーム)に対応する領域に戻るように移動する。つまり、欠陥候補部位についての詳細検査に際しては、欠陥候補部位があるとの判断が前述した本検査システムにおける動作フローにフィードバックされ、カメラ8の撮像視点が欠陥候補部位の位置まで戻る。
【0088】
そして、カメラ8の撮像視点が欠陥候補部位まで戻った状態で、再び検査動画像の取込みが行われる(S220)。ここで取得される検査動画像は、欠陥候補部位についての詳細検査のためのものであるため、例えば欠陥候補部位を検出するために取得される検査動画像(上記ステップS110参照)よりも多くの検査画像(フレーム数)による検査動画像が取得される。
【0089】
また、再度の検査動画像(数十フレーム)の取得においては、本検査システムにおいて、カメラ8による撮像角度やズーム(焦点距離)等の変更によって撮像視点が適宜変更され、欠陥候補部位を検出するための検査動画像の取得との比較において多様な撮像画像が取得される。そして、このようなカメラ8の撮像視点の変更には、重要度マップの情報が参照される。つまり、重要度マップに含まれる欠陥の種類に応じて、カメラ8の撮像視点が変更される。
【0090】
このように、本検査処理例において、撮像視点の欠陥候補部位への移動、および再度の検査動画像の取得が行われるステップS210およびS220が、ワーク2の検査において欠陥候補部位についての複数の視点からの撮像画像の再取得が行われるステップS60に対応する(図1参照)。
【0091】
そして、本実施形態においては、欠陥候補部位についての複数の視点からの撮像画像の再取得が行われるステップS60が、上記ステップS50により欠陥候補部位が存在するとの検査結果が得られた場合、ロボット7によってカメラ8(の撮像視点)を検査動画像に対応する領域に移動させ、カメラ8によって検査動画像に対応する領域について重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像(検査動画像)を取得する第二の画像取得工程に相当する。
【0092】
本検査処理例において再度取得された検査動画像は、欠陥候補部位の検出のための検査動画像と同様にして、動画像処理による特徴量の算出に用いられる。即ち、本検査処理例においては、検査動画像として取り込まれた数十フレームの各検査画像について一般化ハフ変換(GHT)が行われることで(S230)、各検査画像の基準特徴量の算出が行われる(S240)。そして、各検査画像について算出された基準特徴量から、CHLAC特徴を用いた特徴量の算出が行われる(S250)。
【0093】
このように、本検査処理例において、一般化ハフ変換およびCHLAC特徴によって再度取得された検査動画像についての特徴量の算出が行われるステップS230〜S250が、ワーク2の検査において動画像処理による特徴量の算出が行われるステップS70に対応する(図1参照)。
【0094】
そして、本実施形態においては、動画像処理による特徴量の算出が行われるステップS70が、上記ステップS60にて取得された検査動画像に基づいて、特徴量を算出する第二の特徴量算出工程に相当する。
【0095】
図7に示すように、本検査処理例においては、検査動画像について算出された特徴量に基づいて、欠陥領域の表示(欠陥識別)が行われる(S260)。欠陥領域の表示としては、検査動画像の特徴量に基づいて、欠陥候補部位として検出された欠陥について、その領域指定や大きさや種類等の欠陥の内容が所定の数値として表される。つまり、検査動画像の特徴量が用いられ、数値の大きさ等により欠陥の識別(検出)を行うための欠陥の定量値化が図られる。このような欠陥領域の表示においては、重要度マップの情報が適宜参照される。
【0096】
このように、本検査処理例において、欠陥領域の表示(欠陥識別)が行われるステップS260が、ワーク2の検査において欠陥の定量化が行われるステップS80に対応する(図1参照)。
【0097】
そして、本実施形態においては、欠陥の定量化が行われるステップS80が、上記ステップS70にて算出された検査動画像の特徴量に基づいて、欠陥候補部位についての欠陥の定量値化を行う第二の検査工程に相当する。
【0098】
以上のような一連の流れによる欠陥の検査が、ワーク2が有する複数の被検査面2aごとに、検査動画像を取得するカメラ8の撮像視点が少なくとも視線経路12に沿って一通り移動するまで行われる。そして、ロボット7によってワーク2が動かされることで、ワーク2の全面についての検査が実施される。
【0099】
以上のように、本検査処理例を用いて説明した本実施形態に係るワーク2の検査は、検査員1により実際に行われる二段階の検査(2step検査)を本検査システムによって模擬したものとなる。即ち、本検査処理例において、撮像視点の欠陥候補部位への移動(戻り動作)(S210)は、検査員1による検査作業における注視点16の戻り(欠陥候補部位への戻り)を再現したものである。また、本検査処理例において、撮像視点が欠陥候補部位に戻って行われる詳細な検査(S220〜S260)は、検査員1による検査作業において検査員1が欠陥候補部位に注視点を滞留させ、かかる部位についての詳細な検査を行う動作を再現したものである。
【0100】
本実施形態の欠陥検出方法によれば、検査対象となる部品が複雑な形状を有する部品であったり複数種類の欠陥を有する部品であったりしても、短時間で精度良く欠陥を検出することができる。
【0101】
即ち、本実施形態の欠陥検出方法においては、欠陥を検出するための情報を得るための画像処理が、従来のように単一方向の静止画像ではなく複数視点の画像(動画像)について行われる。このため、例えば微小な欠陥等の、欠陥部分以外の部分との判別が難しい欠陥であっても精度良く検出することができる。
【0102】
また、本実施形態の欠陥検出方法によれば、欠陥候補部位を検出するための検査と欠陥候補部位についての詳細な検査とによる二段階の検査が行われることから、ワーク2が有する欠陥に応じて、欠陥候補部位の検査に重点的に時間をかけることができる。これにより、欠陥の検出に際して効率的な検査を行うことができ、時間の短縮化を図ることができる。
【0103】
そして、本実施形態の欠陥検出方法は、本検査システムにおいて、熟練作業者である検査員1の検査のメカニズム(どのような情報を、どのように取得し、どのように判断しているか)に基づいて検査員1の作業中の意図と動作を同期させることで、検査員1の作業を実現させたものである。これにより、複雑形状部品が有する欠陥や複数種類の欠陥の検出が可能となる。
【0104】
以上のような本実施形態に係る欠陥検出方法が用いられることにより、部品の品質向上およびコストの低減を図ることができる。具体的には、本実施形態に係る欠陥検出方法においては、欠陥の定量値化が行われるため、定量値によって部品の製造条件と欠陥不良との紐付けを行うことができ、良品条件の適正化を図ることができる。これにより、部品の不良率を低減させることができ、部品の外観品質の向上を図ることができる。また、本実施形態の欠陥検出方法によれば、鋳造部品等の目視検査工程の省人化を図ることができるので、労務費の観点からコストの低減を図ることができる。
【0105】
以上の実施形態により説明した本発明に係る欠陥検出方法は、例えば自動車エンジンを構成するシリンダヘッド、シリンダブロック、クランクシャフト、ギア等の各種の鋳造部品や鍛造部品等を対象として、キズ、欠肉、湯じわ、割れ等の、目視検査が行われる欠陥の検出に適用することができる。
【0106】
次に、本発明に係る前述の欠陥検出方法をさらに改良した実施態様について説明する。
これまでに説明した本発明に係る欠陥検出方法では、欠陥部位の形状によっては欠陥を検出することができない場合があった。
【0107】
図10(a)に示す如く、欠陥部位の形状が急峻な凹形状である場合には、被検査面2aに対してどの方向から照明光を照射しても、欠陥部位の底部には照明光が到達しにくいため、欠陥部位の輝度が周囲の輝度に比して低くなる。このため、欠陥部位の輝度の差異によって欠陥を検出することが可能である。
【0108】
一方、図10(b)に示す如く、欠陥部位の形状が緩やかな凹形状である場合には、被検査面2aに対して例えば垂直方向の照明光を照射すると、欠陥部位の輝度は周囲の輝度に対してほとんど差異が生じないため、輝度の差異によって欠陥を検出することが困難である。
【0109】
そこで、欠陥部位の形状が緩やかな凹形状である場合には、図11(a)(b)に示す如く、被検査面2aに対して垂直でない角度を有する方向から照明光を照射すれば、欠陥部位の外周縁部に影を生じさせることができ、これにより周囲の輝度に対して輝度が低くなる部位を形成できる。このため、複数の方向から照明光を照射しつつ、その照明光の照射方向と同じ視野方向から検査動画像を取得すれば、緩やかな凹形状を有する欠陥であっても、輝度の差異によって欠陥部位の有無や欠陥部位の範囲を検出することが可能になる。
【0110】
そこで、本発明の改良した実施態様では、被検査面2aに対して角度の異なる三方向から照明光を照射しつつ、その照明光の照射方向と同じ視野方向から検査動画像を取得することによって、欠陥部位の形状に左右されることなく、確実に欠陥を検出することができるように改良がなされている。
以下、本発明の欠陥検出方法を改良した実施態様について、具体的に説明する。
【0111】
まず、本発明に係る欠陥検出方法を改良した実施態様における検査システムについて説明する。
図9に示すように、本実施態様における検査システムは、改良前の実施態様と同様に、ワーク2を移動させるためのロボット7と、ワーク2の表面を撮像するためのカメラ18と、カメラ18によるワーク2の表面の撮像に際してワーク2の表面を照らす照明19を備えている。またカメラ18は、本検査システムが備える支持体10により支持されている。
そして、本発明に係る欠陥検出方法を改良した実施態様では、カメラ18と照明19の位置関係や照明19の種類が、改良前の実施態様に比して異なっている点に特徴を有している。
【0112】
本実施態様における照明19の発光部位はリング状の態様を有しており、カメラ18は、リング状の照明19に形成された中空部を通してワーク2の被検査面2aを視野に捉えることができる。そして、このような構成により、ワーク2に対して、照明19によって、常にカメラ18の視野方向に照明光を照射することができる構成としている。
【0113】
また、ワーク2の姿勢は、ロボット7によって自在に変化させることができるため、ワーク2に対して、カメラ18の視野方向に照明光を照射しつつ、ワーク2の姿勢(即ち、カメラ18の視野方向に対する角度)を様々に変化させながら、カメラ18によって検査動画像を撮像することができる構成としている。
【0114】
尚、本実施態様では、カメラ18が支持体10に固定される態様の検査システムを例示しているが、本発明に係る欠陥検出方法に適用する検査システムの構成をこれに限定するものではなく、例えば、カメラ18が支持体10に対して、自在に姿勢を変更できるように支持される態様とし、ワーク2とカメラ18の両方の姿勢を自在に変更できる検査システムの構成とすることも可能である。
【0115】
次に、改良した欠陥検出方法について、図12〜図17を用いて説明する。
図12に示す如く、本実施態様に係る改良した欠陥検出方法では、改良前の欠陥検出方法と同様に、まず、熟練作業員の動作・視線の動きの計測を行って(S410)、その計測結果に基づいて、重要度マップを予め作成しておく(S420)。
【0116】
次に、前述した本実施態様の検査システムにより、角度を変更した三方向の視点(視野方向)からの検査動画像を取得する(S430)。
本実施態様では、ロボット7によって、被検査面2aが水平方向と成す角度が、角度α1(=0°、図10(b)参照)、α2(図11(a)参照)、α3(図11(b)参照)となるように、ワーク2の姿勢を変化させることによって、カメラ18および照明19によって、三方向の異なる角度(視野方向)の検査動画像を取得する構成としている。
【0117】
図13(a)に示す如く、本実施態様のように、三方向の異なる角度の検査動画像を取得すると、改良前の欠陥検出方法において取得する検査動画像(図6(b)参照)に比して約3倍のデータ量の検査動画像を取得することになる。このため、改良した欠陥検出方法では、改良前の欠陥検出方法に比して、データ処理に要する時間が長期化してしまうという問題が生じる。
【0118】
そこで、本実施態様では、データ処理量の増加を抑制する手法を採用している。
具体的には、重要度マップにおいて設定される撮像エリア(即ち、検査ポイント11・11・・・(図5参照))の重要度に応じて、当該検査ポイント11における検査動画像を取得する際の解像度を変更するようにしている。
つまり、重要度が高い検査ポイント11に対しては、高解像度の検査動画像を取得し、重要度が低い検査ポイント11に対しては、低解像度の検査動画像を取得するようにしている。
これにより、三方向の異なる角度の検査動画像を取得した場合のデータ量を大幅に縮小することが可能になり、改良前の欠陥検出方法に比して、データ処理に要する時間が長期化してしまうという問題を解消することができる。
【0119】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、第一の画像取得工程たる(S430)においては、重要度マップによって規定される連続的な複数の撮像画像である検査画像14・14・・・に対応する領域たる検査ポイント11の重要度に応じて、該検査ポイント11において角度が異なる三方向から撮像する検査画像14・14・・・の解像度を変更するものである。
これにより、欠陥部位の形状に左右されることなく、短時間で精度良く欠陥を検出することができる。
【0120】
次に、図12に示す如く、三方向の視点(視野方向)から取得した検査動画像を画像処理して、特徴点を算出する(S440)。そして、算出した特徴点に基づいて、欠陥候補部位の有無を検査(判断)する(S450)。
本実施態様では、検査動画像から入力ベクトルINを特徴点として算出している。そして、良品の動画像から良品ベクトルOKを算出し、良品ベクトルOKに対してなす入力ベクトルINの空間角度が、予め定めた閾値以内であるか否かを検出することによって、欠陥候補部位の有無を検査(判断)している。
【0121】
ここで、三方向の視点(視野方向)から取得した検査動画像の画像処理方法((即ち、入力ベクトルIN、良品ベクトルOKの算出方法)以下、複数視点画像処理方法と記載する)について説明する。複数視点画像処理方法(S440)は、図14および図16に示すように、良品ベクトルOKを算出する工程(S441)と、入力ベクトルINを算出する工程(S442)から構成される。
【0122】
まず、良品ベクトルOKの算出する工程(S441)について、図13〜図15を用いて説明する。
図14に示す如く、本検査システムが備えるデータ処理装置(図示せず)に、三方向の視点(視野方向)から取得した良品動画像を取り込み(S441−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割する(S441−2)。図13(b)に示す如く、ある検査ポイント11における検査画像14を、その検査ポイント11の重要度に応じて、例えば、格子状に9個(3×3)のブロックに分割する。あるいは、これよりも重要度が高い検査画像14に対しては、さらに多くの数のブロック(例えば、25個(5×5)のブロック)に分割する。
【0123】
尚、本実施態様では、ブロックを格子状に9個(3×3)や25個(5×5)に分割する態様を例示しているが、本発明に係る欠陥検出方法における、ブロック分割の態様をこれに限定するものではなく、格子状以外の分割態様としたり、9個や25個以外の分割数としたりすることが可能である。
【0124】
そして、図13(c)に示すように、この単位ブロック(例えば、i=1のブロック)が、M行N列(即ち、M×N個)の画素からなる良品画像となるように画像の解像度やブロックの分割数を設定する。尚ここで、M×N=hと規定する。そして、図15(a)に示すように、h個の画素のそれぞれの輝度値(濃度値)をスカラーとして、h次元の良品ベクトルOKを生成する。
【0125】
ここで、h次元の良品ベクトルOKをそのままデータ処理して算出しようとすると、データ処理量が膨大となってしまい、良品ベクトルOKの算出に多大な時間を要してしまうという問題が生じる。
そこで、本実施態様では、h次元の良品ベクトルOKに対して主成分分析の手法を適用することにより、良品ベクトルOKの次元数を削減して、その後、データ処理を行うようにしている。
【0126】
具体的には、図15(a)に示すようなh次元の良品ベクトルOKに対して主成分分析の手法を適用し、良品ベクトルOKを、図15(b)で示すような第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S441−3)。
ここでいう主成分分析の手法とは、多くの量的変数が存在する場合に、それらの間の相関構造を考慮して、低い次元の合成変数(主成分)に変換し、データが有している情報をより解釈しやすくするための手法である。
【0127】
そして、図14に示す如く、このブロック分割(S441−2)〜主成分分析(S441−3)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S441−4)。また、算出した良品ベクトルOKの個数が予め定めておいた個数Nに達するまで、(S441−1)〜(S441−4)のデータ処理を継続して行う(S441−5)。
【0128】
そして、最終的に、良品ベクトルOKがN個算出されると、このN個の良品ベクトルOKの平均ベクトルを算出し(S441−6)、この平均ベクトルを基準とするベクトル空間を形成する(S441−7)。
以上により、良品ベクトルOKに係る特徴量の算出(即ち、良品ベクトルOKの算出する工程(S441))を完了する。
【0129】
次に、入力ベクトルINを算出する工程(S442)について、図13〜図18を用いて説明する。
図16に示す如く、本検査システムが備えるデータ処理装置(図示せず)に、三方向の視点(視野方向)から取得した検査動画像を取り込み(S442−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割(図13(b)参照)する(S442−2)。
【0130】
これにより、良品ベクトルOKと同様、図13(c)に示すように、この単位ブロック(例えば、i=1のブロック)が、M行N列(即ち、M×N個)の画素からなる検査画像となるように画像の解像度やブロックの分割数を設定する。尚ここで、M×N=hと規定する。そして、h個の画素のそれぞれの輝度値(濃度値)をスカラーとして、図15(a)に示すようなh次元の入力ベクトルINを生成する。
【0131】
ここで、h次元の入力ベクトルINに対しても主成分分析の手法を適用し(図15(a)(b)参照)、入力ベクトルINを、第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S442−3)。
【0132】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、良品についての特徴量である良品ベクトルOKを算出する工程(S441)は、主成分分析の手法によって、h次元の良品ベクトルOKを、三次元の良品ベクトルOKとして次元数を削減して算出し(S441−3)、検査対象部品たるワーク2についての特徴量である入力ベクトルINを算出する工程(S442)は、主成分分析の手法によって、h次元の入力ベクトルINを、三次元の入力ベクトルINとして次元数を削減して算出するものである(S442−3)。
これにより、欠陥部位の形状に左右されることなく、より短時間で、かつ、より精度良く欠陥を検出することができる。
【0133】
次に、図18に示す如く、予め算出しておいた良品ベクトルOKの良品範囲における平均ベクトルに対する入力ベクトルINがなす角度θを算出する(S442−4)。
この角度は、以下に示す数式1によって算出される。ここで、Kは分割ブロック数、iはブロック番号(1〜(K−1)の整数)を示している。
【0134】
【数1】
【0135】
そして、このブロック分割(S442−2)〜平均ベクトルとの角度θの算出(S442−4)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S442−5)。そして、三方向のデータ全てについて、角度θの算出が完了した後に、算出した三方向の角度θの和を算出する(S442−6)。
以上により、入力ベクトルINに係る特徴量の算出(即ち、入力ベクトルINの算出する工程(S442))を完了する。
【0136】
そして、図12および図16に示す如く、三方向の角度θの和が予め定めておいた閾値の範囲内にあるか否かによって、欠陥候補部位の有無を検査(判断)する(S450)。
【0137】
ここで、三方向の角度θの和が予め定めておいた閾値の範囲外である(即ち、欠陥候補部位が存在する)場合には、その欠陥候補部位に対して、複数の視点からの検査動画像の再取得を行う(S460)。尚、第二の画像取得工程たる(S460)においても、重要度マップによって規定される欠陥候補部位に対応する検査ポイント11の重要度に応じて、該検査ポイント11において角度が異なる三方向から撮像する検査画像14・14・・・の解像度を変更しつつ、検査動画像を取得している。
そして、入力ベクトルINを再度算出する工程(S470)に移行する。
【0138】
次に、図17に示す如く、入力ベクトルINを再度算出する工程(S470)では、本検査システムが備えるデータ処理装置(図示せず)に、(S460)において三方向の視点(視野方向)から再度取得した検査動画像を取り込み(S470−1)、検査ポイント11の重要度(即ち、解像度)に応じた分割数で、良品動画像をブロックに分割(図13(b)参照)する(S470−2)。
【0139】
これにより、図15(a)に示すようなh次元の入力ベクトルINを再度生成し、このh次元の入力ベクトルINに対して、再度主成分分析の手法を適用し(図15(a)(b)参照)、入力ベクトルINを、第一主成分、第二主成分、第三主成分の各固有ベクトルの和として三次元で表すように変換し、データ処理量の削減を図っている(S470−3)。
【0140】
次に、図18に示す如く、予め算出しておいた良品ベクトルOKの良品範囲における平均ベクトルに対する入力ベクトルINがなす角度θを再度算出する(S470−4)。
【0141】
そして、このブロック分割(S470−2)〜平均ベクトルとの角度θの算出(S470−4)までの処理を、三方向のデータ(即ち、角度α1〜α3で取得した各検査画像14・14・・・)全てについて行うまで、継続してデータ処理を行う(S470−5)。そして、三方向のデータ全てについて、角度θの算出が完了した後に、算出した三方向の角度θの和を再度算出する(S470−6)。
以上により、入力ベクトルINに係る特徴量の再算出(即ち、入力ベクトルINを再度算出する工程(S470))を完了する。
【0142】
そして、図12および図17に示す如く、再度算出した三方向の角度θの和によって、検出した欠陥を定量値化する(S480)。
以上により、改良した本発明に係る欠陥検出方法による一連の処理を完了する。
【0143】
即ち、本発明に係る欠陥検出方法を改良した本実施態様は、第一の画像取得工程たる(S430)においては、複数の視点たる各検査ポイント11・11・・・のそれぞれにおいて、角度が異なる三方向から(即ち、ワーク2の姿勢が角度α1〜α3である状態で)連続的な複数の撮像画像たる検査画像14・14・・・を撮像し、かつ、第二の画像取得工程たる(S460)においては、複数の視点たる各検査ポイント11・11・・・のそれぞれにおいて、角度が異なる三方向から(即ち、ワーク2の姿勢が角度α1〜α3である状態で)連続的な複数の撮像画像たる検査画像14・14・・・を撮像するものである。
これにより、欠陥部位の形状に左右されることなく、精度良く欠陥を検出することができる。
【0144】
また、本発明に係る欠陥検出方法を改良した本実施態様は、第一の特徴量算出工程である(S440)および第二の特徴量算出工程である(S470)においては、良品の表面について、検査ポイント11の重要度に応じて解像度を変更して撮像した検査画像14を、該検査画像14の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの検査画像14を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとする良品についての特徴量であるh次元の良品ベクトルOKを算出する工程(S441−2)と、検査対象部品たるワーク2の被検査面2aについて、検査ポイント11の重要度に応じて解像度を変更して撮像した検査画像14を、該検査画像14の解像度に応じた複数の単位ブロックに分割し、該単位ブロックの検査画像14を形成する画素の数量である次元数hの次元を有し、かつ、各画素の輝度値をスカラーとするワーク2についての特徴量であるh次元の入力ベクトルINを算出する工程(S442−2)と、を備え、第一の検査工程である(S450)は、良品ベクトルOKと入力ベクトルINを比較して、ワーク2の欠陥の有無を判断する工程、を備えるものである。
これにより、欠陥部位の形状に左右されることなく、より精度良く欠陥を検出することができる。
【符号の説明】
【0145】
1 検査員(熟練作業者)
2 ワーク(検査対象部品)
7 ロボット(移動手段)
8 カメラ(撮像手段)
18 カメラ(改良した実施態様)
19 照明(改良した実施態様)
【特許請求の範囲】
【請求項1】
検査対象部品の表面の欠陥を検出するための欠陥検出方法であって、
熟練作業者による検査対象部品の表面の欠陥の目視検査にともなう検査対象部品を動かすための検査動作および検査対象部品に対する視線の動きを計測する作業計測工程と、
熟練作業者が知見として有する検査対象部品における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程と、
前記作業計測工程にて計測された前記検査動作および前記視線の動きを、検査対象部品の表面を撮像するための撮像手段および検査対象部品と前記撮像手段との相対的な位置関係を変化させる移動手段を含む構成に模擬させながら、前記撮像手段によって検査対象部品の表面についての前記視線の動きに沿う複数の視点から撮像される連続的な複数の撮像画像を取得する第一の画像取得工程と、
該第一の画像取得工程にて取得された前記連続的な複数の撮像画像に基づいて、検査対象部品の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程と、
前記重要度マップおよび前記第一の特徴量算出工程にて算出された前記特徴量に基づいて、検査対象部品の表面における前記連続的な複数の撮像画像に対応する領域に欠陥に該当する可能性を有する部位である欠陥候補部位が存在するか否かを検査する第一の検査工程と、
該第一の検査工程により前記欠陥候補部位が存在するとの検査結果が得られた場合、前記移動手段によって前記撮像手段を前記連続的な複数の撮像画像に対応する領域に移動させ、前記撮像手段によって前記連続的な複数の撮像画像に対応する領域について前記重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像を取得する第二の画像取得工程と、
該第二の画像取得工程にて取得された前記複数の撮像画像に基づいて、前記特徴量を算出する第二の特徴量算出工程と、
前記第二の特徴量算出工程にて算出された前記特徴量に基づいて、前記欠陥候補部位についての欠陥の定量値化を行う第二の検査工程と、
を含むことを特徴とする欠陥検出方法。
【請求項2】
前記第一の画像取得工程は、
前記複数の視点のそれぞれにおいて、
角度が異なる三方向から前記連続的な複数の撮像画像を撮像し、かつ、
前記第二の画像取得工程は、
前記複数の視点のそれぞれにおいて、
角度が異なる三方向から前記連続的な複数の撮像画像を撮像する、
ことを特徴とする請求項1に記載の欠陥検出方法。
【請求項3】
前記第一の画像取得工程は、
前記重要度マップによって規定される前記連続的な複数の撮像画像に対応する領域の重要度に応じて、
該領域において角度が異なる三方向から撮像する前記連続的な複数の撮像画像の解像度を変更する、
ことを特徴とする請求項2に記載の欠陥検出方法。
【請求項4】
前記第一の特徴量算出工程および前記第二の特徴量算出工程は、
良品の表面について、
前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、
該撮像画像の解像度に応じた複数の単位ブロックに分割し、
該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、
各画素の輝度値をスカラーとする前記良品についての特徴量であるh次元の良品ベクトルを算出する工程と、
検査対象部品の表面について、
前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、
該撮像画像の解像度に応じた複数の単位ブロックに分割し、
該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、
各画素の輝度値をスカラーとする前記検査対象部品についての特徴量であるh次元の入力ベクトルを算出する工程と、
を備え、
前記第一の検査工程は、
前記良品ベクトルと前記入力ベクトルを比較して、前記検査対象部品の欠陥の有無を判断する工程、
を備える、
ことを特徴とする請求項3に記載の欠陥検出方法。
【請求項5】
前記良品ベクトルを算出する工程は、
主成分分析の手法によって、
前記h次元の良品ベクトルを、三次元の良品ベクトルとして次元数を削減して算出し、
前記入力ベクトルを算出する工程は、
主成分分析の手法によって、
前記h次元の入力ベクトルを、三次元の入力ベクトルとして次元数を削減して算出する、
ことを特徴とする請求項4に記載の欠陥検出方法。
【請求項1】
検査対象部品の表面の欠陥を検出するための欠陥検出方法であって、
熟練作業者による検査対象部品の表面の欠陥の目視検査にともなう検査対象部品を動かすための検査動作および検査対象部品に対する視線の動きを計測する作業計測工程と、
熟練作業者が知見として有する検査対象部品における欠陥が発生する部位、発生する欠陥の種類、欠陥の重要度を含む内容に基づいて作成される情報群である重要度マップを準備する工程と、
前記作業計測工程にて計測された前記検査動作および前記視線の動きを、検査対象部品の表面を撮像するための撮像手段および検査対象部品と前記撮像手段との相対的な位置関係を変化させる移動手段を含む構成に模擬させながら、前記撮像手段によって検査対象部品の表面についての前記視線の動きに沿う複数の視点から撮像される連続的な複数の撮像画像を取得する第一の画像取得工程と、
該第一の画像取得工程にて取得された前記連続的な複数の撮像画像に基づいて、検査対象部品の表面に存在する欠陥の特徴を示す量である特徴量を算出する第一の特徴量算出工程と、
前記重要度マップおよび前記第一の特徴量算出工程にて算出された前記特徴量に基づいて、検査対象部品の表面における前記連続的な複数の撮像画像に対応する領域に欠陥に該当する可能性を有する部位である欠陥候補部位が存在するか否かを検査する第一の検査工程と、
該第一の検査工程により前記欠陥候補部位が存在するとの検査結果が得られた場合、前記移動手段によって前記撮像手段を前記連続的な複数の撮像画像に対応する領域に移動させ、前記撮像手段によって前記連続的な複数の撮像画像に対応する領域について前記重要度マップに基づいて欠陥の内容に応じて変化させられる複数の視点から撮像される複数の撮像画像を取得する第二の画像取得工程と、
該第二の画像取得工程にて取得された前記複数の撮像画像に基づいて、前記特徴量を算出する第二の特徴量算出工程と、
前記第二の特徴量算出工程にて算出された前記特徴量に基づいて、前記欠陥候補部位についての欠陥の定量値化を行う第二の検査工程と、
を含むことを特徴とする欠陥検出方法。
【請求項2】
前記第一の画像取得工程は、
前記複数の視点のそれぞれにおいて、
角度が異なる三方向から前記連続的な複数の撮像画像を撮像し、かつ、
前記第二の画像取得工程は、
前記複数の視点のそれぞれにおいて、
角度が異なる三方向から前記連続的な複数の撮像画像を撮像する、
ことを特徴とする請求項1に記載の欠陥検出方法。
【請求項3】
前記第一の画像取得工程は、
前記重要度マップによって規定される前記連続的な複数の撮像画像に対応する領域の重要度に応じて、
該領域において角度が異なる三方向から撮像する前記連続的な複数の撮像画像の解像度を変更する、
ことを特徴とする請求項2に記載の欠陥検出方法。
【請求項4】
前記第一の特徴量算出工程および前記第二の特徴量算出工程は、
良品の表面について、
前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、
該撮像画像の解像度に応じた複数の単位ブロックに分割し、
該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、
各画素の輝度値をスカラーとする前記良品についての特徴量であるh次元の良品ベクトルを算出する工程と、
検査対象部品の表面について、
前記領域の重要度に応じて解像度を変更して撮像した撮像画像を、
該撮像画像の解像度に応じた複数の単位ブロックに分割し、
該単位ブロックの撮像画像を形成する画素の数量である次元数hの次元を有し、かつ、
各画素の輝度値をスカラーとする前記検査対象部品についての特徴量であるh次元の入力ベクトルを算出する工程と、
を備え、
前記第一の検査工程は、
前記良品ベクトルと前記入力ベクトルを比較して、前記検査対象部品の欠陥の有無を判断する工程、
を備える、
ことを特徴とする請求項3に記載の欠陥検出方法。
【請求項5】
前記良品ベクトルを算出する工程は、
主成分分析の手法によって、
前記h次元の良品ベクトルを、三次元の良品ベクトルとして次元数を削減して算出し、
前記入力ベクトルを算出する工程は、
主成分分析の手法によって、
前記h次元の入力ベクトルを、三次元の入力ベクトルとして次元数を削減して算出する、
ことを特徴とする請求項4に記載の欠陥検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2010−223932(P2010−223932A)
【公開日】平成22年10月7日(2010.10.7)
【国際特許分類】
【出願番号】特願2009−191367(P2009−191367)
【出願日】平成21年8月20日(2009.8.20)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
【公開日】平成22年10月7日(2010.10.7)
【国際特許分類】
【出願日】平成21年8月20日(2009.8.20)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
[ Back to top ]