マシンビジョン検出器の設定および試験の方法と装置
連続運転中の製産ラインから演習画像が得られ、物体の実際の製造および検査の際、実質同様の状態を提供することができるビジョン検出器を設定するための、システムおよび方法が開示される。視覚検出器が物体の検査のためにトリガ信号を使用するか、しないかにかかわらず、演習画像はトリガ信号を必要としない。さらに、生産工程からの限られた枚数の画像を選択、保存、表示することによって、視覚検知器の試験を行うためのシステムと方法が開示され、それらの画像は誤った決定を示しがちな物体に対応する。
【発明の詳細な説明】
【技術分野】
【0001】
[発明の属する技術分野]
本発明は、生産ライン上で製造された物体の自動検出および検査に関するものであって、より具体的には、工業用マシンビジョンおよび自動画像解析に関する。
【背景技術】
【0002】
[関連技術の説明]
工業生産は、製造された物体の自動検出に依存している。数十年間にわたり広く用いられてきた自動検出の形式の1つは、通常赤外線もしくは可視光線、光電センサー、ならびになんらかの形式の電子的な判断を行う、電磁エネルギーを用いた光電子技術に基づいている。
【0003】
既知である光電子自動検査の形式の1つは、二次元視野デジタル画像を取得することができる装置を使用して検査される物体を特定し、次にその画像を分析して決定をおこなうものである。かかる装置は通常マシンビジョンシステム、または単純にビジョンシステムと称される。画像は二次元のアレイの感光性要素を、integrationもしくはシャッター時間とよばれる短時間に、レンズによってアレイに集められた光に露光することで取得される。アレイは撮像装置と称し、個々の要素はピクセルと称する。各ピクセルは、シャッター時間内にそこにあたった光の強度を測定する。測定された強度の値は次にデジタル数字に変換され、視覚システム内のメモリに保存されて画像を結び、それはこの技術において既知である、検査中の物体の状態を判断する方法を用いて、コンピュータ等のデジタル処理要素によって分析される。
【0004】
物体が視野内に持ち込まれ静止している場合と、物体が視野内で連続して動いている場合とがある。光検出器からの信号や、PLC、コンピュータ、またはその他の自動装置からの通信といった、ビジョンシステム外の事象は、物体が視野において特定されたことをビジョンシステムに通知するために用いられ、それによって画像が取得され分析が行われる。こういった事象をトリガと称する。
【0005】
マシンビジョンシステムは、視覚内の一ヶ所において特定された各物体に対し一枚の画像から判断することから、限界が生じてきている(各物体は、それぞれ異なる、または予測できない位置において特定されることがあるが、1つの物体に対して判断の土台となるそうした位置は1つだけである)。この唯一の位置は、唯一の視点、唯一の照明に対する方向から得た情報を提供する。視点が1つしかないことは、しばしば不正確な判断をまねく。これに関しては長期間にわたる観察がなされており、例えば、視野内のたった1ピクセルの違いでも、不正確であった判断が正確になるという場合もある。一方、人が物体を検査するときは、より判断の信頼性を高めるために、目や光に対して物体を動かしておこなう。
【0006】
マシンビジョンシステムには、さらにトリガ信号の使用についても限界がある。トリガ信号が必要であるために、適切な信号の送信のため光検出器の取付けと調整が必要となり、PLCもしくはコンピュータ用のソフトウェアが作成されなければならないなど、設定はさらに複雑となる。物体が連続して動いている場合にはほぼ光検出器を使用するのであるが、生産ラインの転換はそれが文字通り動いていることを要求し、これはビジョンシステムの長所を弱めてしまう。さらに、光検出器は物体から反射した、もしくは進路に沿って発信された光の強度の変化だけに反応する。このような状態は、物体が視野に進入したときに信頼のおける判断をおこなうのに十分でない場合がある。
【0007】
連続して動いている物体に対して用いられた従来の技術によるビジョンシステムは、自己トリガと称される方法を用いることにより、トリガを使用しなくても機能することができる。これらのシステムは通常、取得された1つ以上の画像部分の、物体の状態を表す明暗の差もしくは色の違いをモニターすることによって機能する。自己トリガは、下記のようないくつかの制限があるため、実際にはほとんど使用されていない。
・自己トリガへのビジョンシステムの反応は、通常の生産速度で使用するにはあまりに遅く、
・物体が現れたときに検知する方法は、多くの場合において十分でなく、そして
・ビジョンシステムは、通常はトリガの役割をする光検出器が発する、PLCまたは処理装置がビジョンシステムの判断に基づいて機能するために必要とする、特定の、反復可能な生産ライン上の物体の位置と同調した有用な出力信号を提供しない。
【0008】
マシンビジョンの制限の多くは、作動が遅すぎて動いている物体を複数の視野から取得および分析することができず、または視野内で発生している事象に反応できない、ということも原因であるほとんどのビジョンシステムが現在の画像を分析しながら新規画像を取得することができるため、ビジョンシステムの最大作動速度は、取得時間および分析時間がどれだけかかるかによって決定される。概して、この速度の決定要素のうちもっとも重要なものとして、撮像装置を構成するピクセル数があげられる。
【0009】
画像の取得にかかる時間は、主として撮像装置内のピクセル数により決定され、その理由は以下の2つである。第一に、シャッター時間は光の量と各ピクセルの感度によって決定される。一般的に、ピクセル数の増加はピクセルのサイズが小さくなることを意味するので、感度は低くなり、通常ピクセル数が増加すると、シャッター時間も長くなる。第二に、変換時間および保存時間はピクセル数に比例する。従って、ピクセル数が多いほど、取得時間がかかるということになる。
【0010】
最低でも過去25年間において、従来の技術であるビジョンシステムは概して30万ピクセルを使用してきたが、最近では100万ピクセルを使用することができるシステムも登場し、そして長年にわたり7万5千という少ないピクセルを使用してきたシステムは少なくなった。デジタルカメラと同様に、最近の風潮はピクセル数を増やし、よりよい画像解像度を得るということである。コンピュータの速度が驚くほど向上し、撮像装置が真空管から半導体に移行した同じこの年月において、マシンビジョンの画像取得時間は概して30分の1秒から60分の1 秒へ、たったの二倍という向上を見せたにすぎない。速くなったコンピュータによってさらに高度な分析が可能となったが、ビジョンシステムが作動する最大速度はほとんど変化していない。
【0011】
この視覚検出器の方法および装置の発明は、上に記述した従来の技術によるマシンビジョンシステムの制限を克服する最新の方法ならびにシステムを教示するものである。これらの教示はまた、元の教示を超える改善をもたらす格好の革新の基盤をも築く。次のセクションでは、この視覚検出器の方法および装置の発明について簡単に要約し、それに続くセクションでは、この発明によって対応される問題について説明する。
【0012】
[視覚検出器の方法および装置]
この視覚検出器の方法および装置の発明は、二次元のデジタル画像を取得して検知および検査の必要な物体を特定し、画像の分析と判断をおこなう、物体の自動光電子検知および検査について、システムと方法を提供する。これらのシステムと方法は広大なエリアから反射した光の明度のパターン分析をし、物体における多くの目立った特徴を扱い、ソフトウェア手段によって生産ラインの転換に対応し、そして不明確でさまざまな物体の位置を扱う。これらは従来の技術を用いたマシンビジョンシステムに比べて安価で、設定がしやすく、ずっと早く作動する。これらのシステムと方法はさらに、動く物体に対し複数の視点が使え、トリガなしで作動し、正しく同調した出力信号を発信し、当業者にとっては明確な、その他の注目すべき有用な能力を提供する。
【0013】
この視覚検出器の方法および装置の発明における特徴の1つは、ビジョン検出器と称し、連続した画像を従来の技術によるビジョンシステムよりも高速に取得し、分析することのできる装置である。取得して分析されるこうした連続画像を、フレームと称する。フレームを取得して分析する速度をフレーム速度と称するが、これは動いている物体が視野(FOV)を通過する際に、複数の連続したフレームに示すことができるほど高速である。物体は連続したフレーム内のどこかを動いているため、FOV内の複数の位置において特定され、そのために照明に対して複数の視点および位置から確認することができる。
【0014】
この視覚検出器の方法および装置の発明におけるもう1つの特徴は、動的画像解析と称する方法であり、これは物体が視野内において特定される複数のフレームを取得、分析することによって物体を検査し、これらの各フレームから得た証拠を総合して結果を導き出すものである。この方法は、一枚のフレームに基づいて判断をおこなう従来の技術によるマシンビジョンシステムに優る、有意な利益をもたらす。
【0015】
さらに、視覚検出器の方法および装置の発明におけるもう1つの特徴は、視野内で発生する事象を検知する方法であり、これを視覚事象検出と称する。物体が視野内を通り過ぎるといった事象が発生したときに、視覚事象検出を使用すると、トリガ信号と必要とせずに物体の検出ができる。
【0016】
視覚検出器の方法および装置の発明におけるさらなる特徴は、図面および本明細書で詳述される内容を検討すれば明確になるであろう。
【0017】
複数の視点から画像を得るために、視野内の連続フレーム間における検出もしくは検査されるべき物体の動きは、ごくわずか、通常においてほんの数ピクセル以下であることが望ましい。この視覚的検出器の方法および装置の発明によれば、物体の動く速度は各フレームにおけるFOVの約4分の1を超えず、通常の実施例においてはFOVの5%以下であることが概して望ましい。製造過程を減速することによってではなく、十分なフレーム速度を保つことによってこれが守られることが望ましい。システムの実施例では、フレーム速度は最低でも毎秒200フレームであり、他の実施例においてのフレーム速度は、最低でも物体が視覚的検出器の前を通る速度の平均の40倍である。
【0018】
典型的なシステムは、毎秒500フレームを取得、また分析できると教示された。このシステムは、従来の技術によるビジョンシステムよりはるかに小さなピクセルを持つ超高感度撮像装置を用いる。高感度であれば、安価なLED照明を利用してシャッター時間を非常に短くでき、比較的少ないピクセル数とともに画像取得時間が非常に短くなる。撮像装置は、分析作業と同時にピクセルデータの受取りと保存をおこなうことができるデジタル信号プロセッサ(DSP)と連動する。ここに教示される方法を用い、DSPに適切なソフトウェアを使用することにより、各フレームの分析時間を次のフレームを読み込む時間内におさめることができる。取得と分析の方法と装置があいまって、望ましい高速フレーム時間を提供する。撮像装置、DSP、照明の能力と、この発明の目的を慎重に組み合わせることにより、典型的なシステムは従来の技術を用いたマシンビジョンシステムと比べ、かなり安価におさえることができる。
【0019】
視覚事象の検出方法は、連続したフレームの取得と各フレームの分析によって、ある事象が発生しているかいないかの証拠を見つけることを含む。視覚事象の検出がトリガ信号の必要なく物体の検出に用いられたとき、その分析によってある物体が視野内で特定されたという証拠が見つかる。
【0020】
典型的な方法において、その証拠は、物体検出加重と称される値で表され、ある物体が視野内で特定されたという信頼度を示す。その値は単純にはい、いいえの選択で信頼度の高低を示すこともあれば、信頼度の幅を示す数値、または証拠を示す任意の情報項目であることもある。そういった数値の例としては、いわゆるファジー論理値であり、下記および視覚検出器の方法と装置で詳述される。ここで留意すべきは、いかなる機械も一枚の画像から完璧な判断をくだすことは不可能であり、したがって不完全な証拠に基づいて判断を行なうことになるという点である。
【0021】
物体の検出を行う際、各フレームはテストされ、その証拠は物体が視野内で特定されたことを示すのに十分であるか決定される。もしも単純なはい、いいえの値であった場合、値が「はい」であれば、その証拠は十分であるとみなされる。もしも数値であった場合、証拠が十分であるかどうかは、その数値を閾値に照らして判断される。証拠が十分であったフレームを、有効フレームと称する。ここで留意すべきは、なにをもって十分な証拠とするかについては、手近な特定のアプリケーションの理解に基づいて視覚検出器を設定する人間が最終的に定義するものであるという点である。視覚検出器は、判断をくだすのにその定義を自動的に利用する。
【0022】
物体の検出を行う際、視覚検出器の速いフレーム速度により、視野内を通り過ぎる各物体につき複数の有効フレームが作成される。これらのフレームは、厳密に連続していないこともあるが、物体が視野内を通り過ぎるときに物体が視野内において特定されたことを示す証拠が十分でないとする視点もしくはその他の状態が存在する可能性もある。したがって、ある物体の検出は、有効フレームが確認されたときに開始され、何枚もの無効フレームが確認されるまで終了しないというのが望ましい。その枚数は、ユーザーによって適切に選択されることができる。
【0023】
視野内を通り過ぎる物体に反応して有効フレームが確認されたら、さらなる分析をおこなってある物体が確かに検出されたかどうかを判断することが望ましい。この追加分析において、有効フレームの枚数、物体検出加重の合計、物体検出加重の平均その他の、有効フレームの統計を考慮にいれるべきである。
【0024】
動的画像解析の方法には、物体の検査をおこなうための複数のフレームの取得と分析を含み、「検査」とはその物体の状態についてのある情報を確認することを意味する。この方法の実施例の1つにおいて、ある物体の状態とは、ユーザーによって適切に選択された検査基準を満たすかどうかということを含む。
【0025】
この視覚検出器の方法と装置の発明の特徴は、動的画像解析が視覚事象検出と併用されており、したがって視覚事象検出法によって選択された有効フレームは、動的画像解析法で物体の検査をするさいに用いられたものである。その他のこの視覚検出器の方法と装置の発明の特徴は、動的画像解析に用いられるフレームは、トリガ信号に反応して取得することができるという点である。
【0026】
この各フレームは、その物体が検査基準を満たしているという証拠を判断するために分析される。ある実施方法において、その証拠は値の形であり、物体の合格点と称するが、これはその物体が検査基準を満たしているという信頼度のレベルを示すものである。物体検出加重と同様に、値は単純な、はい/いいえの選択で示され、それは信頼度の高低を表し、またはファジー論理値のような数値で示され、それは信頼度のレベルの幅を表し、もしくは証拠を示す任意の情報項目である。
【0027】
物体の状態は、例として平均またはパーセンタイル値などの物体の合格点の統計によって判断される。その状態はまた、例として物体検出加重を用いた加重平均または加重パーセンタイル値などの加重統計により判断される。加重統計は効果的にフレームから物体に負荷をかけ、その点で信頼度が高く、物体はそのフレームの視野内で実際に特定される。
【0028】
物体の検出および検査のための証拠は、1つ以上のその物体の可視特性についての情報を調べることによって得られる。可視特性とは、その物体の一部であり、発せられた光の量、パターン、またはその他の特性が、その物体の存在、個体性、状態を表す情報を示すものである。任意の過程もしくは過程の組み合わせによって光は発せられ、それには反射、伝達、もしくは物体内部ないしは外部ソースから、もしくは物体内部のソースからの直接の屈折を含むが、これに限定されるものではない。
【0029】
この視覚検出の方法および装置の発明における特徴の1つは、証拠を得る方法であり、それには物体検出加重および物体の合格点を含み、各フレーム内の1つ以上の関心領域における画像解析作業のために証拠は必要とされる。この方法に関する実施例において、画像解析作業は関心領域内のピクセル値に基づいて測定値を算出し、その測定値は物体の可視特性における適切な特徴のいくつかに応答する。その測定値は閾値演算によって論理値に変換され、関心領域から得られた論理値も併用してフレームの証拠を示す。論理値はバイナリもしくはファジー論理値であり、閾値および論理結合は適宜バイナリもしくはファジーである。
【0030】
視覚事象検出において、視野内で物体特定された証拠は関心領域、測定値、閾値、論理結合、およびその他のここで詳述されるパラメータによって効果的に定義されるが、それらは集合的に視覚検出器の構成と称され、またそれらは本発明の用途に応じてユーザーによって選択される。同様に、視覚検出器の構成はなにをもって十分な証拠とするかについて定義する。
【0031】
動的画像解析において、ある物体が検査基準を満たすという証拠はまた、視覚検出器の構成によって効果的に定義される。
【0032】
[問題点の検討]
マシンビジョンシステムおよび視覚検出器を含む画像解析装置は、物体を検査するために必ず設定されなければならない。概して、このような装置の設定には、人間ユーザーが、検査される物体を代表する外観を持つ物体を、少なくとも1つ得る必要がある。そのユーザーは一般に演習画像と称するその物体の画像を取得し、画像解析ツールを選択し、それらのツールを演習画像上に配置し、そして操作パラメータを希望する効果を得られるよう設定することによりそれを使用する。実践されているところでは、演習画像は、実際の生産ラインに最も近い条件で得られることが望ましい。しかし、連続して動いている生産ラインにおいて、これは通常のビジョンシステムでは困難である。概して、有用な演習画像を得るためにはトリガ信号が必ず使用されねばならず、付随するトリガの制限については上述のとおりである。さらに、トリガに反応して取得された一枚の画像は、演習画像を得るのに最適の視点であるとは限らない。
【0033】
設定の間、視覚検出器はその性能が用途の要件を満たすかどうかテストされなければならない。もしも性能が要件を満たしていれば、設定は完了したと見なされてよいが、満たしていなければ調整が必要である。どんな視覚検出器であっても完璧な検査判断を出すことはできないため、一般的に性能のテストはある物体の状態(例:合格または不合格)に関して正確な判断が行われるという見込みの査定を含む。さらに、エラーの割合(不正確な判断)は非常に低いため(望ましくは物体10,000に対して1)この査定は非常に困難である。従って、多数の物体をテストし、不正確な判断を示すと思われる物体のみを人間のユーザーが査定することが望ましい。
【発明の開示】
【課題を解決するための手段】
【0034】
[発明の概要]
本発明における特徴として、視覚検出器を設定するためのシステムと方法を提供し、演習画像を連続して動いている生産ラインから得ることができるので、実際の物体の製造および検査の際とおおむね同一の状態を提供することができる。演習画像は、視覚検出器が物体を検査する際にトリガ信号を用いるか否かにかかわらず、いかなるトリガ信号も必要とせずにこれを得ることができる。
【0035】
生産ラインは、視野内の連続した画像を取得する視覚検出器の視野内を通り過ぎる、連続して動く多数の物体を含む。フレーム速度は十分に速いため、各物体に対し、視野内を通り過ぎる際に多数の画像が取得され、その一続きのまとまりは十分な長さがあるため多数の物体の画像を含むことができる。つまり、画像の一続きのまとまりには、さまざまな物体それぞれに対するさまざまな視点が含まれており、また通常は視野内に物体がまったく存在しないかまたは物体の一部分のみが存在するといった画像も含まれる。
【0036】
取得された画像の一続きのまとまりの中にある画像は、人間のユーザーが視覚表示器を設定する際に表示される。通常、取得したすべての画像をユーザーが各画像の有用な詳細を見るに耐えぬほど高解像度の画面に一度に表示することは実用的でないので、連続したまとまりのうち一部分が一度に表示される。
【0037】
ユーザーはスクロール操作をおこなって、その連続したまとまり内の表示部分を順方向または逆方向へ送って選択する。一度に表示される部分は多くの画像を含むことが好ましいが、一枚だけであるかもしれない。ユーザーはスクロール操作をおこなってその連続したまとまり内の表示部分を順方向または逆方向へ送って選択し、視覚検出器によって検査されるべき典型的な物体と十分に外観が類似しているとユーザーが判断する画像を発見する。ユーザーはこの画像を演習画像とする。多くの物体1つ1つに対する多くの画像が取得されているので、ユーザーは物体または視点(例:視野内の位置)の両方を演習画像として用いることを望むこともある。
【0038】
ユーザーはフレーム内の関心領域において的確な画像解析操作をおこなう視覚ツールを少なくとも1つ作成または設定して視覚検出器を設定し、視覚検出器は物体の検出または検査をおこなっている間、取得および分析を行う。視覚ツールは選択された演習画像を使用して作成または設定され、下記の動作を行う。
・作成する視覚ツールのタイプを選択して、その視覚ツールが演習画像と似た外観を持つ物体の検査をおこなうことができることを確実にし、
・視野に関連して関心領域の位置、規模、ならびに方向を選択し、
・その視覚ツールの操作パラメ−タを設定し、
・それによって、希望する結果を得る。
【0039】
典型的な実施例においては、画像はグラフィカル・ユーザー・インターフェース(GU I)を用いて表示される。一度に表示される画像の一部分は、それを連続した低解像度の「サムネイル」画像として映し出すGUIのフィルムストリップウィンドウ内に含まれる。そのサムネイル画像の解像度は、一度に有用な枚数の画像を表示することができ、同時に各画像が実用に耐え得る程度に十分精密であるような高さに設定される。
【0040】
本典型的実施例において、さらにその部分画像のうち一枚の画像を最高の解像度で画像表示ウィンドウに表示する。スクロール操作によってフィルムストリップを順方向または逆方向へ送ると、画像表示ウィンドウに表示された画像も同様に順方向または逆方向へと進む。画像表示ウィンドウはまたユーザーによって作成された任意の視覚ツールのグラフ表示も含む。
【0041】
この典型的実施例をさらに応用すると、取得された連続画像は視覚検出器内のメモリに保存され、GUIは通信用インターフェースとして視覚検出器に接続された別のヒューマン・マシン・インターフェース(HMI)上で動作する。取得した連続画像全体をHMIに送信するのに過度の時間をかけることを避けるため、視覚検出器はフィルムストリップウィンドウに表示する低解像度のサムネイル画像を作成し送信する。HMIが画像表示ウィンドウに表示する新しい最高解像度の画像を必要とする場合に限り、最高解像度の画像の送信が適切である。
【0042】
他の典型的実施例において、取得された連続画像内の追加画像を使用することによって視覚検出器の設定の改善が可能である。ここで留意すべきは、視覚検出器の設定において演習画像がただ一枚だけ使用されるという要件および期待はない。視覚検出器の実際的な操作をさまざまな物体に対するさまざまな視点において確定し、また、それを達成するために必要に応じて設定を調整することが望ましい。
【0043】
さらに、視覚検出器によって検査される典型的な物体と十分に類似した外観を持つ少なくとも一枚の演習画像が選択されるべきであるが、可能な限り実際の生産ラインに近い状況下において得られた他の類似しない演習画像も選択することが多くは望ましい。これらの他の演習画像には視野内に物体が存在しない画像も含まれることがあり、または物体が部分的にしか存在しないこともあるため、物体が誤って検出されることのないよう、視覚検出器の設定はこのようであることが望ましい。
【0044】
上述した本発明に関する特徴が従来技術のマシンビジョンシステムの設定に用いられれば、生産ラインに比例して十分に速いフレーム速度で作動でき、各物体に対し多くの画像を取得することができると明らかに考えられる。
【0045】
本発明のもう1つの側面は、製造工程中に選択された画像を取得および保存し、人間のユーザーがこれを見て視覚検出器のテストをおこなうというシステムおよび方法を提供することである。背景の項でも述べているように、人間のユーザーが検査するには実用的とはいえないほどに大量の画像が作成され、多数の物体がテストされることが望ましい。したがって、本発明は製造工程において不正確な判断を示す物体に反応していると思われる限定された数量の画像を選択、保存、および表示するシステムおよび方法を提供する。
【0046】
生産ラインには連続した画像を取得して分析する視覚検出器の視野内を通り過ぎる、連続して動いている多数の物体が含まれる。視覚検出器は従来物体の検出および検査を目的として設定されてきた。検出には本項もしくは視覚検出器の方法および装置の項で詳述される、トリガ信号または視覚事象検出を用いる。検査は、好ましくは本項もしくは視覚検出器の方法および装置の項で詳述される、動的画像解析を用いるが、物体の状態についての情報を提供する任意の方法を用いてもよい。
【0047】
連続したフレームからの一群のフレームは検出され検査された各物体に対応する。視覚事象検出を用いる際に、その一群のフレーム内に有効フレームを含む可能性があり、また有効フレームの間に無効フレームがはさまっていたり、有効フレームを分断している場合もある。典型的な実施例において、そのフレーム群は有効フレームおよびそれらの間にはさまれたすべての無効フレームを含む。トリガ信号を用いる際、そのフレーム群は好ましくはそのトリガに反応して取得され、分析されたすべてのフレームを含む。
【0048】
各物体は検査され、物体の状態を示すデータに帰結する。この結果データは単純に合格・不合格である場合と、物体の検出および検査中に算出されたフレーム総数、物体検出加重または物体の合格点の統計ならびに本項もしくは視覚検出器の方法および装置の項で詳述された内容を含む場合がある。
【0049】
各物体に対する結果データは、その物体の一群のフレームをその次の人間のユーザーが見る画面に保存するかどうかの判断に用いられる。通常、すべての保存された画像をユーザーが各画像の詳細を見るに耐えるほどの高解像度画面上に一度に表示するのは実用的ではないため、保存された画像のうち一部分が一度に表示される。表示する部分は、ユーザーがスクロール操作を用い、一群中の一枚ずつの画像または一群ごとの画像を順方向または逆方向へ送って選択する。一度に表示される部分は多くの画像を含むことが好ましいが、一枚だけであるかもしれない。
【0050】
どの群を保存するかについては、製造工程に先立って人間のユーザーによって選択されるのが望ましい。ユーザーはすべての群、または検査に合格した物体に対応する群のみ、もしくは検査に不合格であった物体に対応する群のみを選択する。これらの選択は多くの場合有用であるが、不正確な判断を示すと思われる物体に対応する画像を保存するという目的を満たすものではない。
【0051】
その目的を満たすため、本発明は合格・不合格の判断は望ましくは多数の決定閾値を比較することでなされるべきであると認識するが、その数値は例としてある物体が検出された、または検査に合格したなどのいくつかの条件が適用される信頼度のレベルを表す。その数値はその物体の結果データに含まれ、その物体の検出および検査中に算出されたフレーム総数、物体検出加重、または物体の合格点の統計と対応する。
【0052】
もしもその数値が決定閾値を明らかに上回れば、その条件が適用されると信頼でき、もしも決定閾値を明らかに下回れば、その条件が適用されることは信頼できない。しかし、もしもその数値が決定閾値に近接していれば、判断は不明瞭であり結論について信頼することはできない。したがって、数値が閾値に近接している物体は不正確な判断を示すと見られ、対応するフレーム群を保存することが望ましい。
【0053】
典型的な実施例において、画像はGUIを用いて表示される。一度に表示される画像の一部分は連続する低解像度の「サムネイル」画像としてGUIのフィルムストリップウィンドウに表示される。そのサムネイル画像の解像度は、一度に有用な枚数の画像を表示することができ、同時に各画像が実用に耐え得る程度に十分精密であるような高さに設定される。慣用GUI要素によってスクロール操作が可能である。
【0054】
本典型的実施例において、さらにその部分画像のうち一枚の画像を最高の解像度で画像表示ウィンドウに表示する。スクロール操作によってフィルムストリップを順方向または逆方向へ送ると、画像表示ウィンドウに表示された画像も同様に順方向または逆方向へと進む。画像表示ウィンドウは視覚検出器における設定の一部分である任意の視覚ツールのグラフ表示も含む。
【0055】
本典型的実施例をさらに応用すれば、GUIは通信用インターフェースとして視覚検出器に接続された別のHMI上で動作する取得した連続画像全体をHMIに送信するのに過度の時間をかけることを避けるため、視覚検出器はフィルムストリップウィンドウに表示する低解像度のサムネイル画像を作成し送信する。HMIが画像表示ウィンドウに表示する新しい最高解像度の画像を必要とする場合に限り、最高解像度の画像の送信が適切である。
【0056】
本発明は、添付の図と関連して、次の詳細な説明から、さらに十分に理解される。
【発明を実施するための最良の形態】
【0057】
[発明の詳細な説明]
[視覚検出器の方法と装置の基本操作]
図1は、生産ラインで物体を検査するための、視覚検出器の方法と装置による、視覚検出器の具体例を示す。コンベヤー100は、物体と視覚検出器400の視野間で、相対動作を起こす物体を輸送する。物体110、112、114、116と118は、コンベヤー100上で左から右へ移動する。それぞれの物体は、たとえば、レベル120とホール124のように、一定の特徴を含むことが期待される。不正確に製造された物体は、1つまたは、それ以上の特徴を損なっているかもしれないし、たとえば、物体116は、穴がないというように、意図的でない特徴を持つかもしれない。多くの生産ラインでは、コンベヤーの動作は、回転エンコーダ180により、探知される。視覚検出器400は、外観より物体の出現を検出し、適切な検査基準に基づき、検査する。もし、物体が検出された場合、視覚検出器は、コンベヤーストリームから物体を取り除くために、作動装置170を拒否するために信号420を送る。エンコーダ180は、視覚検出器へ信号410を送り、物体は、記録点と呼ばれる、いくつかの固定の架空の基準点430を通り、エンコーダカウントから信号420の正常の遅れを防ぐ手段を取るために使われる。エンコーダが使われない場合、遅れは、そのかわりに時間に基づく。
【0058】
代わりの具体例では、視覚検出器は、拒否作動装置を制御することを含む、様々な目的のために、PLCへの信号を送る。
【0059】
もう1つの具体例では、超高速アプリケーションに似合う、視覚検出器が物体の出現を確実に検出できないところに適し、光検出器は、物体の出現を検出するのに使われ、その目的のために視覚検出器へ信号を送る。
【0060】
さらにほかの具体例では、離散物体がないが、物流は、たとえば、ウェブのように、継続的に視覚検出器を通過する。この場合では、物質は、継続的に検査され、信号は、適時にPLCのような、機器へ視覚検出器により送られる。
【0061】
視覚検出器が、外観により離散物体の出現を検出する場合、視覚事象検出モードで操作すると言われる。視覚検出器が、光検出器のような外部の信号を使い、離散物体の出現を検出する場合、外部トリガモードを操作すると言われる。視覚検出器が、継続的に物質を検査する場合、継続解析モードを操作すると言われる。
【0062】
図2は、視覚事象検出モードで視覚検出器を典型的なオペレーティング・サイクルを説明するスケジュールを示す。箱520のような、「c」とラベル付きの箱は、画像取得を示す。箱530のような、「a」とラベル付きの箱は、画像取得を示す。次の画像のキャプクチャー「c」は、現在の画像の解析「a」と重なることが好ましいので、解析ステップ530は、取得ステップ520で捉えた画像を解析する。このスケジュールでは、解析は取得よりも少ない時間であると示されているが、一般には、解析は、アプリケーションの詳細によるので、取得よりも短くなったり長くなったりするだろう。
【0063】
取得と解析が重なった場合、視覚検出器が画像を捉え解析できる速度は、取得時間と解析時間の長さにより、決定される。これが、「フレームレート」である。
【0064】
視覚検出器の方法と操作は、物体に光検出器より与えられる、トリガ信号なしに確実に検出させる。図1を参照すると、物体の出現を示すトリガ信号がなく、図2では、対応するトリガステップがない。
【0065】
また、図2を参照すると、スケジュールのポーション500は、第一物体の検査に対応し、7つのフレームの取得と解析を含む。第2ポーション510は、第2物体の検査に対応し、5つのフレームを含む。
【0066】
それぞれの解析ステップは、初めに物体が出現しているという証拠を考慮する。証拠が十分であるフレームは、有効であると呼ばれる。有効フレームの解析ステップは、たとえば、解析ステップ540のような、分厚い境界で示されている。具体例では、有効フレームが見つかった場合、物体の検査が始まり、連続の無効フレームが見つかった場合、終了する。図2の例では、第一物体の検査は、解析ステップ540に対応する第一有効フレームで始まり、解析ステップ546と548に対応する2つの連続の無効フレームで、終了する。ここで留意すべきは、第一物体で、解析ステップ542に対応する単一の無効フレームが、検査を終了するのには十分ではないことである。
【0067】
たとえば、解析ステップ548の終わりのような、物体の検査が完了する時に、有効フレームから得た証拠に基づいて、物体の状態を決定する。具体例では、有効フレームの不十分な数が見つかり、物体が実際に出現したという不十分な証拠であると考えられる場合、操作は、有効フレームが見つからなかったように継続される。そうでなければ、物体は、検出されたと判断され、有効フレームからの証拠は、たとえば、合格か不合格のように、その状況を決定するために判断される。様々な方法は、視覚検出器の方法と装置の範囲内で、物体を検出し、状況を決定する、そのいくつかは、下記で説明され、その他の多くは、当業者に起こるであろう。
【0068】
物体の検出と、判断が完了すると、PLCのような、当業者には良く知られているような信号を使い、機器を充当するためにレポートが作成される場合がある。このような場合には、レポートステップは、スケジュールに現れる。図2の例は、視覚検出器が信号420を通してダウンストリーム拒否作動装置170を制御するのに使われることを図1に示された設定の代わりに対応する。有効フレームで物体の位置を考えることにより、それが視野領域を通して通過する場合、視野検出器は、物体が基準点430を通過する記録時間550と552を推測する。ここで留意すべきは、エンコーダ180が使われた場合、記録時間は、実際にエンコーダカウントであり、読み手は、時間とカウントが交互に使われると理解することである。拒否作動装置170への適切な持続時間の1パルスを備える、レポート560は、時間内の厳密な遅れ570または、記録時間550からのエンコーダカウントの後、公表される。
【0069】
ここで留意すべきは、レポート560は、510のようにその後の物体の検査を過ぎて、よく遅れる場合がある。視覚検出器は、適時までレポートを保持するためのよく知られている先入れ先出し(FIFO)バッファ技法を使う。
【0070】
物体の検査が完了すると、視覚検出器は、アイドルステップ580を入力するかもしれない。このようなステップは任意であるが、いくつかの理由で好ましいかもしれない。最大物体率が知られている場合、新しい物体が来るちょうど手前まで、物体を探す必要がない。アイドルステップは、物体が到着できなかった場合、不良物体検出の機会を除去し、アイドルステップ中に信号が近づけさせないため、照明系の寿命を延ばすであろう。
【0071】
図3は、外部のトリガモードで視覚検出器の典型的なオペレーティング・サイクルを説明するスケジュールを示す。トリガステップ620は、第一物体600の検査を始める。連続画像取得ステップ630、632、634と対応解析ステップ640、642、644は、動的画像解析のために使われている。視覚事象検出モードでは、フレームレートの物体は、連続フレーム間で視野のしばしば、各フレームごとに2、3のピクセルしかない、小さい部分を動かすのに高く十分であることが好ましい。フレームの固定数の後、アプリケーションの詳細に基づいて選択された数は、フレームの解析から得られる証拠がその物体の状況の最終決断をするのに使われ、そして、それは、1つの具体例の中では、レポートステップ650の機器に供給されている。レポートステップに続く、アイドルステップ660は、第2物体610の検査を始める次のトリガステップ670まで入力される。
【0072】
もう1つの具体例では、レポートステップは、図2で示されると同様の方法で遅れる。この具体例では、記録時間680は、トリガステップ620に対応する時間(または、エンコーダカウント)である。
【0073】
[実例となる装置]
図4は、生産環境の視覚検出器のためのハイレベル・ブロック図を示す。視覚検出器800は、適切な機器810に接続され、それは、信号820を用いて、PLC拒否作動装置、および/または、光検出器を含むかもしれない。また、視覚検出器は、通信インターフェース840を用いて、PCや携帯端末のようなヒューマン・マシン・インターフェース(HMI)830に接続するかもしれない。通常の生産使用中、HMIは、設定と監視のために使われ、取り除かれるかもしれない。信号は、いかなる条件に合ったフォーマット、および/または、プロトコルで実行され、有線または、無線フォームで転送される。
【0074】
図5は、視覚検出器の実例となる具体例のブロック図を示す。デジタル・シグナル・プロセッサ(DSP)900は、取得、解析、報告、HMI通信、および視覚検出器に要求される、その他の適切な機能を制御するためのソフトウェアを起動する。DSP900は、メモリ910へ接続し、それは、プログラムとデータのための高速ランダム・アクセス・メモリと、電源が取り除かれた時のプログラムと設定情報を保持するための不揮発性メモリを含む。DSPは、また、機器の信号、HMIインターフェース930、照明モジュール940と撮像装置960を供給する、I/Oモジュール920に接続される。レンズ950は、撮像装置960の感光部材に画像する。
【0075】
DSP900は、汎用コンピュータ、PLC、または、マイクロプロセッサに限定されないものを含む、デジタル計算、情報保存、他のデジタル要素への接続の装置である。DSP900は、あまり費用がかからないが、高フレームレートを処理するのに十分速いことが好ましい。画像解析で、同時に撮像装置からピクセルデータを受取り、保存することができることがさらに好ましい。
【0076】
図5の実例となる具体例では、DSP900は、マサチューセッツ州のノーウッドのAnalog Devicesで生産された、ADSP−BF531である。ADSPBF531DSP900の並列周辺インターフェース(PPI)970は、撮像装置960からのピクセルデータを受取り、メモリ910の保存のためのダイレクトメモリアクセス(DMA)チャンネル972を通して、メモリコントローラ974へデータを送る。適切なソフトウェア制御の下で、PPI970とDMA972の使用は、DSP900により実行されたその他の解析で同時に画像取得させる。PPI970とDMA972で制御するためのソフトウェア命令は、ADSP−BF533 Blackfin Processor Hardware Reference(品番82−002005−01)とBlackfin Processor Instructi on Set Reference(品番82−000410−14)に含まれる、プログラム命令に従い、当業者により実行され、ここにある双方を参照することにより組み込まれる。ここで留意すべきは、ADSP−BF531、競合のADSPBF532とADSP−BF533の装置が、同一のプログラム命令を持っていて、適切な価格/実行取引を得るためにこの実例となる具体例で交互に用いられることである。
【0077】
視覚検出器による好ましい高フレームレートは、従来の技術視覚システムで使われている撮像装置でない、撮像装置の使用を勧めている。撮像装置は、高価でない照明を用い、非常に短いシャッター時間で、操作できるように、異常に光に敏感であることが好ましい。従来の技術システムよりも更に速いDSPでのピクセルデータのデキタル化、転送することができることが更に好ましい。それが、高価でなく、グローバルシャッターを持っていることがなお好ましい。
【0078】
これらの物体は、従来の技術システムで使われた撮像装置よりも、さらに高い光感受性で、低い解像度を持つ撮像装置を選ぶことにより、対応するかもしれない。図5の実例となる具体例では、撮像装置960は、カリフォルニア州サンタクララのナショナル・セミコンダクターにより製造されたLM9630である。LM9630は、典型的な従来の技術システムよりも約24倍少ない、128×100個、総計で12800個のピクセルの配列を持っている。ピクセルは、それぞれ、高い光感受性を持つ、20平方ミクロンの広さである。LM9630は、300マイクロ秒のシャッター時間でのセットが、LED照明を用い、300マイクロ秒にさせるために十分(ほとんどの場合)敏感である場合、毎秒500フレームを供給できる。この解像度は、視覚システムにははるかに低すぎると考えられるが、視覚検出器の方法と装置の物体である検出の特徴には十分である。LM9630の電気的インターフェースとソフトウェア制御は、2004年の1月のRev 1.0のLM9630データシートに含まれる命令に従い、当業者により実行され、それは、ここにある双方を参照することにより組み込まれる。
【0079】
照明940は、高価でないが、短くシャッター時間をするのに十分な明るさがあることが好ましい。実例となる具体例では、630のナノメートルで操作されている高輝度の赤いLEDの列は、たとえば、Agilent Technologiesにより製造されたHLMP−ED25を使用している。もう1つの具体例では、高輝度の白いLEDは、好ましい照明を実行するのに使われている。
【0080】
図5の実例となる具体例では、I/Oモジュール920は、出力信号922と924、入力信号926を供給する。このような出力信号は、拒否作動装置170の制御のために信号420(図1)を供給するのに使われる。入力信号926は、外部トリガを供給するのに使われる。
【0081】
次の用語の画像取得装置は、デジタル画像を取得し、保存することを意味する。図5の実例となる具体例では、画像取得装置980は、DSP900、撮像装置960、メモリ910と、関連した電気的インターフェースとソフトウェア命令を備える。
【0082】
次の用語の分析器は、デジタル画像に限定されないものを含む、デジタルデータの分析の手段を供給する。図5の実例となる具体例では、分析器982は、DSP900、メモリ910と、関連した電気的インターフェースとソフトウェア命令を備える。
【0083】
次の用語の出力信号器は、分析器に応対する出力信号を生産するための手段を供給する。図5の実例となる具体例では、出力信号器984は、I/Oモジュール920と出力信号器922を備える。
【0084】
画像取得装置980、分析器982、出力信号器984を実施するために、視覚検出器の方法と装置の範囲内で使われる、多くの交互配列、装置、ソフトウェア命令があることを当業者は、理解するであろう。
【0085】
特定の用途に合わせて本発明による視覚検出方法及び装置を効率的に動作させるために、種々のトレードオフを実施するする場合がある。下記のような定義を考えてみる。
・bは、撮像装置960の利用できる解像度を十分に活かすためにレンズ950の視覚拡大を選択することにより、検査され、決定される可視の特徴を含む物体の一部により使用されるFOVの割合、
・eは、誤差の票差として使われるFOVの割合、
・nは、それぞれの物体が典型的に見られるフレームの好ましい最小数、
・sは、一般に製造条件による、FOVの積としての物体間でのスペース、
・pは、一般に製造条件により決定される、物体の提示率、
・mは、上記の値に基づき選ばれた、連続のフレーム間で物体が移動するであろうFOVの最大比、
・rは、上記の値に基づき選ばれた、最小のフレームレートである。
【0086】
これらの定義から、以下のように示される。
【0087】
【数1】
【0088】
【数2】
【0089】
撮像装置の利用できる解像度を十分に活かすために、bは、少なくとも50%であることが好ましい。動的画像解析として、nは、少なくとも2であるべきである。したがって、物体は、連続フレーム間で視野の約1/4以下を移動することがさらに好ましい。
【0090】
実例となる具体例では、適正価値は、b=75%、e=5%、n=4であるべきである。これは、物体が、フレーム間でFOVが約5%以下移動するので、フレームレートを選ぶには、すなわち、m≦5%であることを暗示する。製造条件が、s=2であった場合、フレームレートrは、物体提示率pを少なくとも約40倍する必要がある。5Hzの物体提示率を処理するためには、それは、公平な典型的の産業製造であり、好ましいフレームレートは、少なくとも約200Hzである。この速度は、画像解析が5ミリ秒フレーム期間内で適応するために配列される限り、最大3.3ミリ秒シャッター時間で、LM9630を使うのに活かすことができる。利用できる技術を使い、約40,000ピクセルまで含む、撮像装置を使いこの速度を達成することは、可能である。
【0091】
同じ実例となる具体例と12.5Hzのより高度な物体提示率で、好ましいフレームレートは、少なくとも約500Hzである。LM9630は、最大300マイクロ秒シャッターを使うことにより、この速度を処理できる。
【0092】
もう1つの実例となる具体例では、m≦2%であるので、適正価値は、b=75%、e =15%、n=5であるべきである。s=2でp=5Hzで、好ましいフレームレートは、少なくともまた、約500Hzである。
【0093】
[ファジー論理意思決定]
図6は、物体が、存在するかどうか、および、検査を通過するかどうかを判断することを含む、証拠を比較検討し、判断するための実例となる具体例で使われるファジー論理要素を示す。
【0094】
ファジー論理値は、ある特定の状態が真であるという信頼度の推定値を示す0〜1の間の数である。1の数値は、状態が真である信頼度が高いことを示し、0は状態が偽であるという高い信頼度を示し、中間値は、信頼の中間レベルを示す。
【0095】
さらに馴染み深いニ値論理は、信頼値は、0から1で制限される、ファジー論理のサブセットである。ゆえに、ファジー論理を使うここに説明された具体例は、同等のニ値論理方法または装置で置換されるこれらの値を使い、ファジー論理方法または装置で、別のニ値論理値として使うことができる。
【0096】
ニ値論理値は、閾値を使うことにより、原測定値から得られるものであるように、ファジー論理値は、ファジー閾値を使うことにより得られる。図6を参照すると、グラフ1 100は、ファジー閾値を示す。X軸1110は、原測定を示し、f軸1114は、ファジー論理値を示し、そのxの範囲は、全ての可能な原測定で、fの値域は、0≦f≦1である機能である。
【0097】
実例となる具体例では、ファジー閾値は、機能1124と1126上の点に対応して、x軸、低閾値t01120、高閾値t11122で示される、2つの数を備える。ファジー閾値は、次の式で、定義することができる。
【0098】
【数3】
【0099】
ここで留意すべきは、この機能が、t1<t0である場合、よく機能することである。
【0100】
【数4】
【0101】
他の機能は、また、シグモイドのような、ファジー閾値として使うことができる。tとσは、閾値パラメータである。簡素であることが目標である具体例では、従来型ニ値閾値は、ニ値論理値を結果として、使うことができる。
【0102】
ファジー意思決定は、AND1140、OR1150、NOT1160のファジーバージョンに基づいている。2つまたはそれ以上のファジー論理値のファジーANDは、最小値であり、ファジーORは、最大値である。fのファジーNOTは、1−fである。ファジー論理値が0か1に制限されている場合、ファジー論理値は二進法に等しい。
【0103】
実例となる具体例では、真偽の決定が必要である時はいつでも、ファジー論理値は、それが少なくとも0.5である場合は、真として見なされ、0.5以下であれば、偽であると考えられる。
【0104】
ここにあるファジー論理に関連して、値0および1について批判がないことは、当業者により、明らかであろう。信頼の中間レベルを示す中間値として用い、いかなる数が、状態が真であることを高信頼を示すのに使い、それとは違う数が状態を偽であることを高信頼を示すのに使うことができる。
【0105】
[動的画像解析]
図7は、具体例において証拠がどのように動的画像解析に値されるのかを示すものである。本実施例においては、基本決定と呼ばれる以下の2つが決定されなければならない。1.物体または物体の目に見える機能は目で見ることができる範囲に位置しているか。2.その場合、該目的物の状態はどのようなものか。
【0106】
物体が目に見える範囲に位置しているという証拠を構成する情報は物体検出重みと呼ばれる。物体の状態に関する証拠を構成する情報は、物体合格点と呼ばれる。様々な実施例において、該物体の状態は、該物体が使用者により適宜決定された検査基準を満たしているか否かを示すものである。以下においては、該検査基準を満たす物体は「検査合格」とされる場合もある。
【0107】
図7は、2つのプロット、物体検出プロット1200および物体合格プロット1202を示している。2つのプロットの横軸はフレーム連番iを表しており、各フレームは模範線1204というような縦のラインで表されている。
【0108】
図7の実施例では、物体検出重はファジー論理値diであり、物体がフレームiのFOVに位置するという証拠であり、また以下に記述のある方法およびビジョン検出器法および装置を用いて、各フレームでビジョン検出器により演算される。物体合格点はファジー論理値piであり、物体がフレームiにおいて適切な検査基準を満たしているという証拠であり、また以下でさらに説明される方法およびビジョン検出器法および装置を用いて、選択されたフレームでビジョンにより検出器演算される。物体検出プロット1200の縦軸はdiを表し、物体合格プロット1202の縦軸はpiを表す。
【0109】
図7の実施例では、di≧0.5であるフレームは有効であると考えられる(有効フレームの説明については上記図2の記述を参照)。参考として、di=0.5であるライン1230が描かれている。有効フレームに対する物体検出重および合格点は、例えばポイント1210および1212ように黒丸で描かれており、無効フレームは、例えばポイント1214および1216のように白丸で描かれている。図7の実施例では「有効」とみなされているか否かに関わらずすべてのフレームに対して物体合格重が演算されているが、物体合格重が有効フレームに対してのみ演算されている実施例もある。
【0110】
図7の例では、すべての有効フレームは1つの物体の検査に対応し、上記図2の記述で説明された通り、隔離非有効フレーム1220は検査を中断するものではない。
【0111】
一実施例においては、物体は有効フレーム数が一定の閾値を超えたか否かで検出されたと判断されている。別の実施例では、物体は有効フレーム全体の物体検出重の合計が特定の閾値を超えたか否かで検出されたと判断されている。これらの閾値は与えられたアプリケーションに対して適宜設定される。
【0112】
図7の実施例では、物体はそれぞれに対応する物体検出重みで重み付けられた、物体合格点の重み付け平均が最低でも0.5であるか否かという検査を合格したと判断されている。さらに正確にいうならば、以下の場合に物体は検査に合格する。
【0113】
【数5】
【0114】
ここで合計がすべての有効フレームを超えている。この式の効果は、物体の合格点を平均化することではなく、物体が本当に対応するフレームに出現したという信頼性に基づいて各スコアに重み付けをすることである。
【0115】
代替実施例においては、物体合格点平均が少なくとも0.5である場合、物体は検査に合格するために判断される。これは、すべての加重が均一である重み付け平均に等しい。
【0116】
図7の例においては、物体合格点の重み付け平均は約0.86であり、それは線1240によって座標上に示されている。有効フレームの数は11、そして物体検出加重の合計は約9.5である。この例においては、物体は検出されて、検査に合格する。
【0117】
図8は、別の具体例において、動的画像証拠がどのように検討されるかを示す。この例においては、検査される物体の特徴は分かりづらく、物体が視野を通って移動する際、表示と照明の遠近感が丁度良い場合に、主に、フレーム1300および1310などの少数の有効フレームの信頼性とともに現れる。これら数フレームにおいて、証拠が十分あってその特徴が存在する限り、物体は検査に合格するはずである。このシナリオでは、どの有効フレームがこの証拠を有することになるのかを事前に知ることは不可能である。ゆえに、合格点の加重平均はこの場合には適合しない。代わりとしては、これら有効フレームのいずれかにおいて合格点が閾値を超える場合に物体を合格させることであるが、この代替案では証拠が少なすぎることに基づいて物体が合格する可能性がある。図8の具体例においては、加重パーセンタイル法が使用されている。
【0118】
加重パーセンタイル法は、合格点が少なくともpである場合、分数Q(p)に基づく。
【0119】
【数6】
【0120】
物体は、Q(p)が少なくともある閾値tである場合、合格するために判断されるこの場合適当な閾値tは10%であろう。
【0121】
有用な挙動は、tの異なる値を用いて得られる。例えば、t=50%である場合、物体は検査に合格するために、加重中央値が少なくともpであるかどうかを判断される。加重中央値は加重平均と似ているが、一部の例においてより適切な特性を有する。例えば、t=90%のように高い値の場合、合格点が少なくともp.Fort=100%である有効フレームに、圧倒的大多数の加重が対応する場合のみ、物体は検査に合格するために判断され、すべての有効フレームの合格点が少なくともpであるなら、物体は検査に合格するために判断されるであろうまた物体は、Q(p)がゼロより大きい場合、検査に合格するために判断されるかもしれない、このことは、合格点を有するいかなる有効フレームもが少なくともpであるということを意味する。
【0122】
他の有用な変動においては、合格点が、加重の合計の分数ではなく、少なくともpである場合、物体は加重の合計に基づいて、合格するために判断される。
【0123】
代替実施例では、合格点が少なくともpである場合、パーセンタイル法がフレーム数に基づいて使われる。これは、すべての加重が等しい場合の加重パーセンタイル法に匹敵する。
【0124】
物体が検出されかどうか、および物体が検査に合格したかどうかを決定するために証拠を検討する上記の方法は、有用な実施礼の例を意図しているが、視覚検出器の方法および装置の領域において使用できる方法を制限するものではない。例えば、上記で使われる典型的定数0.5は、適切ないかなる値によって差し替えられてもよい。当業者は、動的画像解析に関する、さらなる多くの方法を考え付くであろう。
【0125】
[視覚検出器ソフトウェア要素の方法および装置]
図9は、フレーム分析、判断、入力感知、および出力信号調節のために、具体例により使用される一連のソフトウェア要素の編成(例えば、コンピュータ可読媒体のプログラムインストラクション)を示す。各要素がそれぞれクラスに対応するように、C++等従来のオブジェクト指向プログラミング言語のクラス階層を使用して要素が実行されてもよい。しかしながら、ここで記載されるプロセスを実行するには、基準を満たすいかなるプログラミング技術および/または言語をも使用することができる。
【0126】
図示のように、ガジェットクラス1400のように点線の境界線付きのクラスは、独立しては存在せず、ロケータクラス1420のような具体派生クラスを構築するのに使用される抽象基本クラスである。実線で境界されたクラスは、ユーザーがアプリケーションを設定する必要がある時に、HMI830を使用して作成および破壊することができる動的オブジェクトを表す。入力1450などの破線で境界されたクラスは、特定のハードウェアやソフトウェアリソースと関連する静的オブジェクトを表す。静的オブジェクトは常に存在するものであり、ユーザーによって作成または破壊されることは不可能である。
【0127】
すべてのクラスは、ガジェットクラス1400から派生しているため、図9に示すクラスのインスタンスであるすべてのオブジェクトはガジェットの一種である。具体例においては、各ガジェットは、
1.ユーザーが選択することのできる名前を有し、
2.他のガジェットが判断および出力信号を制御するために、論理入力として使用することができる論理出力(ファジー理論値)を有し、
3.ユーザーが操作を特定するために構成することができる一連のパラメータを有し、
4.論理出力(すなわちファジーNOT)を反転するのに使用可能な、そのようなパラメータをひとつ有し、
5.実行可能であり、そのパラメータ、該当する場合は論理入力、ある種のガジェットについては現行フレームのコンテンツに基づいて論理出力が更新され、また出力信号の設定のような副作用を引き起こすことがある。
【0128】
フレーム分析作業には、ガジェット実行前に、ガジェットへのすべての論理入力が更新されたことを保証するために確定された順序で、各ガジェットを一度実行することが含まれる。ある実施例においては、その論理出力が必要ではないフレームの間はガジェットが実行されない。
【0129】
写真クラス1410は、論理出力が現行フレームのコンテンツに依存するすべてのガジェットの基本クラスである。これらのクラスは実際に画像解析を行うクラスである。各写真は現行フレームの関心領域(ROI)のある特徴を測定する。ROIは、検査される物体の可視機能に対応する。この測定は写真のアナログ出力と呼ばれる。写真の論理出力は、感度閾値と呼ばれる、ユーザーによって構成されることができる一連のパラメータ中に存在するファジー閾値を用いて、アナログ出力から計算される。写真の論理出力は、判断を下す際に使われる証拠を提供するのに使用可能である。
【0130】
検出器クラス1430は、ROIにおける測定および判断を下す際の証拠を提供することを主目的とする写真の基本クラスである。具体例においては、すべての検出器ROIは円型である。円形のROIは、回転を処理する必要がないため実行を簡素化し、またROIの形が1つしかないことで、ユーザーが学習すべきことを簡素化する。検出器パラメータにはポジションおよびROIの直径が含まれる。
【0131】
輝度検出器1440はROIにおける加重平均やパーセンタイル輝度を測定する。コントラスト検出器1442はROIにおけるコントラストを測定する。エッジ検出器1444は、特定方向において、ROIがエッジのように見える領域を測定する。スポット検出器1446は、ROIが穴のような丸い特徴に見える領域を測定する。テンプレート検出器1448は、ROIがユーザーが選択した、事前にトレインされたパターンのように見える領域を測定する。検出器の操作については、以下および視覚検出器の方法および装置においてさらに記述する。
【0132】
ロケータクラス1420は、2つの主目的を持つ写真を表す。1つ目は、判断を下す際の証拠を提供することが可能な論理出力を生成することであり、これにより、他のいかなる検出器のようにも使用することができる。2つ目は、視覚検出器の視野にあるオブジェクトの位置を決定することにより、他の写真のROIのポジションを、オブジェクトのポジションを追跡するように移動することができることである。どのロケータも、1つのまたは両方の目的に使用することができる。
【0133】
具体例においては、ロケータは、フレーム内における一次元領域でエッジを検索する。検索方向は、エッジに向かって垂直であり、ユーザーによって設定されるパラメータの中にある。ロケータのアナログ出力はエッジ検出器のアナログ出力と似ている。ロケータについては視覚検出器の方法および装置においてさらに記載される。
【0134】
入力クラス1450は、外部トリガのような、視覚検出器に送られる入力信号を表す。出力クラス1452は、拒否作動装置を制御するために使われる可能性のあるような、視覚検出器からの出力信号を表す。各物理的入力に対して、典型的入力信号926(図5)のような、入力クラスの静的インスタンスが1つ、および、各物理的出力に対して、典型的出力信号922および924のような、出力クラスの静的インスタンスが1つ存在する。
【0135】
ゲートベースクラス1460はファジー論理の意思決定を実行する。各ゲートは、他のガジェットの論理出力に接続可能な論理入力を1つ以上有する。各論理入力は、ユーザーが設定可能なパラメータを用いて、反転(ファジーNOT)することが可能である。ANDゲート1462は、ファジーAND操作を実行し、ORゲート1464は、ファジーOR演算を実行する。
判断クラス1470は、2つの静的オブジェクトである、物体検出判断1472および物体合格判断1474の基本クラスである。判断は、連続フレームに対して証拠を検討することにより主な判断を下して、動的画像解析を実行する。各判断は、ユーザーが写真の論理出力を接続する論理入力、あるいはより典型的には、通常写真および他のゲートであるガジェットの論理的組み合わせを提供するゲートを有する。
【0136】
物体検出判断1472は、物体が検出されたかどうかを決定し、物体合格判断1474は、その物体が検査に合格するかどうかを決定する。物体検出判断への論理入力は、各フレームに対する物体検出の加重を提供し、物体合格判断への論理入力は、各フレームに対する物体合格点を提供する。
【0137】
物体検出判断の論理出力は、いつ判断が下されたのかを示すパルスを提供する。「プロセス中の出力」というある操作モードにおいては、パルス立ち上がりは、例えば図2の分析ステップ540の終了時などの、物体の検査開始時に発生し、立ち下がりは、例えば分析ステップ548の終了時などの、物体の検査完了時に発生する。「終了時の出力」という別のモードにおいては、パルス立ち上がりは、例えば図2の分析ステップ548の終了時のような、物体の検査が完了する時に発生し、立ち下がりは、例えばアイドルステップ580の終了時のように、その少し後に発生する。
【0138】
物体合格判断の論理出力は、最も最近に検査された物体が合格したかどうかを示すレベルを提供する。例えば分析ステップ548の終了時のように、物体の検査が終了した時にレベルの状態が変わる。
【0139】
図10は、物体の検査に写真がどのように使われることができるかという例を示す。図10は物体110(図1より)のイメージを表しており、ラベル機構120およびホール機構124とともに、写真を表す重畳グラフィックスを有し、それはユーザーが見て操作できるようにHMI830に表示される。HMI上での画像および重畳グラフィックスの表示は画像表示と呼ばれる。
【0140】
図10は画像表示を表しており、ラベル1510およびホール1512を含む物体1500を示す。この例における物体は、検査される6つの可視特徴を含み、後に説明するロケータ2つおよび検出器4つに対応している。
【0141】
ロケータ1520は、物体の上端を検出して位置を確認するために使用され、別のロケータ1522は右端を検出して位置を確認するために使用される。
【0142】
輝度検出器1530は、物体の存在を検出する助けとなるように使用される。この例では、背景は物体より明るく、感度閾値が2つの明るさのレベルを区別するように設定されており、より明るい背景ではなく、より暗い物体を検出するために論理出力が反転されている。
【0143】
後にさらに記載されるように、ロケータ1520および1522、そして輝度検出器1 530は、ともに物体が検出されことを判断するのに必要な証拠提供する。
【0144】
コントラスト検出器1540は、ホール1512の存在を検出するために使用される。ホールが存在しない場合コントラストは非常に低く、ホールが存在する場合コントラストは極めて高くなる。スポット検出器もまた使用される。
【0145】
エッジ検出器1560は、ラベル1510の存在および位置を検出するのに使用される。ラベルが存在しなかったり、水平に間違った位置にあったり、著しく回転している場合は、エッジ検出器のアナログ出力は非常に低くなる。
【0146】
輝度検出器1550は、正しいラベルが貼られたかどうかを確認するために使用される。この例では、正しいラベルは白であり、誤ったラベルは暗い色をしている。
【0147】
物体が視覚検出器の視野を通って左から右に移動すると、ロケータ1522が物体の右端を追跡し、物体に対して正しい位置になるよう、輝度検出器1530、コントラスト検出器1540、輝度検出器1550、およびエッジ検出器1560を再配置する。ロケータ1520は、検出器を物体の上端の位置に基づいて再配置し、視野内の物体のいかなる垂直位置の変動をも修正する。一般的に、ロケータはどのような位置にでも配置することができる。
【0148】
ユーザーは、既知のHMI技術を使用して、画像表示内で写真の操作をすることができる。写真はマウスをクリックすることにより選択可能であり、またドラッグすることにより、そのROIは移動、サイズ変更、および回転が可能である。ロケータに関する付加的な操作は、視覚検出器の方法および装置で記載される。
【0149】
図11は、図10の設定例に対応する配線図を含む論理ビューを示す。配線図は、物体および自動装置へのインターフェースを検査するのに使用されるすべてのガジェット、およびガジェットの論理入力・出力間の接続を示す。配線図は、ユーザーが見て操作するようにHMI830に表示される。ガジェットの表示およびそれらのHMIにおける論理的相互接続は論理ビューと呼ばれる。
【0150】
さらに図11の配線図について言及すると、「トップ」という名前のロケータ1620は、図10の画像表示内のロケータ1520に対応して、ワイヤー1624によりANDゲート1610に接続される。同様に、「サイド」ロケータ1622はロケータ1522に対応して、「ボックス」検出器1630は輝度検出器1530に対応して、ANDゲート1610に接続される。小円1632で示されるように、および上記の通り、明るい背景に対してより暗い物体を検出するために、「ボックス」検出器1630は反転されている。
【0151】
ANDゲート1610の論理出力は、物体の上端が検出されたこと、物体の右端が検出されたこと、および背景が検出されていない、ということについて信頼性のレベルを表している。信頼性が高く3つの条件がすべて真である場合、信頼性が高いため物体自体が検出されている。ANDゲート1610の論理出力は、各フレームに対する物体検出の重みとして使用されるため、物体検出判断1600に配線される。
【0152】
この場合の物体検出判断への論理入力は、現行フレームに依存するため、視覚検出器は視覚事象検出モードで作動している。外部トリガモードで作動するためには、入力ガジェットは物体検出に配線される。連続分析モードで作動するためには、物体検出には何も配線されない。
【0153】
物体検出に配線するガジェットの選択は、アプリケーションの知識に基づきユーザーによって行われる。図10および11の例においては、ユーザーは上および右だけを検出するのでは、物体の存在を確認するのに分ではないと決定したかもしれない。ここで留意するべきなのは、ロケータ1522は、物体の右端に反応するのと同じように、ラベルの左端にも反応するかもしれないこと、そしておそらくこの時点で、プロダクションサイクルにおいて、ロケータ1520が背景で他のエッジを発見したかもしれないということである。検出器1530を加えること、またANDゲート1610を用いて3つすべての条件を満たすことで、物体の検出は信頼性の高いものになる。
【0154】
配線図において、コントラスト検出器「ホール」1640はコントラスト検出器1540に対応して、輝度検出器「ラベル」1650は輝度検出器1550に対応して、そしてエッジ検出器「ラベルエッジ」1660はエッジ検出器1560に対応して、ANDゲート1612に配線される。ANDゲート1612の論理出力は、3つの画像特性すべてが検出されたという信頼性のレベルを表し、各フレームに物体合格点を提供するために物体合格判断1602に配線される。
【0155】
物体検出判断1600の論理出力は、ANDゲート1670に配線される。物体合格判断1602の論理出力は反転されており、またANDゲート1670に配線される。物体検出判断は「終了時に出力」モードに設定されているため、物体が検出され検査が完了した後、物体検出判断1600の論理出力にパルスが出現する。物体合格1602の論理出力は反転されているため、物体が検査に合格しない場合のみ、ANDゲート1670の論理出力上に出現する。ANDゲート1670の論理出力は、拒否作動装置170に直接接続可能な視覚検出器からの出力信号を制御する「拒否」という名前の出力ガジェット1680に配線される。出力ガジェット1680は、ダウンストリームの拒否作動装置に必要とされる適切な遅延570を行うために、ユーザーにより設定される。
【0156】
ユーザーは既知のHMI技術を使うことにより、論理ビュー内でガジェットを操作することができる。ガジェットはマウスをクリックすることにより選択可能であり、そのポジションはドラッグによって移動可能、そしてワイヤーはドラッグ・ドロップ操作により作成が可能である。
【0157】
ユーザーが視覚検出器について理解しやすいように、ガジェットおよび/またはワイヤーはファジー論理値を示すために、視覚的外観を変更することができる。例えば、ガジェットおよび/またはワイヤーは、論理値が0.5未満の場合は赤く、それ以外の場合は緑に表示されることが可能である。図11において、ワイヤー1604および1672は、0.5未満の論理値を示すために破線で描かれており、例えばワイヤー1624などの他のワイヤーは、論理値が0.5に等しいかまたはそれ以上であることを示すために実線で描かれている。
【0158】
当業者は、ガジェットの適切な選択、設定、および配線により、様々な物体が検出および検査可能であるということを認識するであろう。当業者はまた、ガジェットクラス階層は、視覚検出器の方法および装置を実施するために使われる、多くのソフトウェア技術のうちの1つに過ぎないということをも認識するであろう。
【0159】
[視覚検出器を設定するための本発明の実施]
ここで説明される本発明は、前記のアート視覚システムを含む、いかなる画像解析装置を設定するためにも使用でき、以下に述べる発明の具体例は、視覚検出器の設定に基づく。
【0160】
図12は、視覚検出器の設定に関わる本発明の側面を実施するために使用されるであろう生産ラインなどの一部を示す。図12は、視覚検出器400が、まだ対照を検査するために設定されておらず、欠陥のある物体116が、拒否メカニズム170によってコンベヤー100から排除されていない点を除き、図1と一致する。生産ラインは、コンベヤーのスピードおよび周囲の照明を含むそのほか全ての点において、通常の製造条件のもとで稼動しており、また、検査される物体を示す、物体110、112、114、116および118を含み、欠陥のある物体116の場合は、検知される欠陥のサンプルを含むことが望ましい。
【0161】
視覚検出器400は、その視野の一連の画像を取得する。図5の装置の例に関しては、照明940が視野を明るくし、撮像装置960が画像を取得し、PPI970、DMA972、メモリコントローラ974を経由しメモリ910に保存される。上記の図5の説明で詳しく述べたように、フレームレートは、視野を通るときに物体それぞれの複数の画像を取得する分である。さらに、メモリ910は、複数の物体それぞれからの複数の画像を保存するのに分なサイズである。
【0162】
図13は、発明の具体例において使用されるメモリ910の構成を詳細に示す。メモリの一部は、環状バッファ5000に使用され、そこで要素例5010、5012、5014および5016を含む環状バッファのそれぞれの要素が、取得した画像全体を保持する。撮像装置960がLM9635の場合の発明の具体例においては、例えば、環状バッファ5000のそれぞれの要素は、128×100個の8ビットピクセルを備える。
【0163】
明確にするために、図では環状バッファ5000は、24個の要素を有するのみだが、実際は、それ以上であることが望ましい。一例では、160個の要素が使用されているが、わずか2メガバイト以下の保存しか必要とせず、また200フレーム/秒の生産工程で約0.8秒、あるいは500フレーム/秒の場合は0.32秒を保存することができる。明らかに、フレームレートが低いと、画像を保存できる時間は長くなる。
【0164】
環状バッファの操作と実施は、技術的によく知られる。図13の発明の具体例においては、要素例5010の網掛けの要素などが使用中で(すでに取得した画像を含む)、網のかかっていない要素例5012などが使用できる。書き込みポインタ5020は、環状バッファ内の次に使用可能な要素5014を指しているが、そこには次に取得した画像が保存される。読み取りポインタ5022は、もっとも長く使用中の要素5016(最も以前に保存された)を指している。図5の発明の具体例では、DMAチャネル972により、取得した画像がメモリ910内のどこにでも位置することができるため、画像は次に使用可能な要素5014内に、コピーの必要もなく、直接取得される。非常に高いフレームレートが必要であることを前提とすると、これは望ましい。
【0165】
ある時点で、いっぱいになった環状バッファ5002の例のように、環状バッファはいっぱいになる。書き込みポインタ5040は、唯一使用可能な要素5034を指している。一例では、環状バッファがいっぱいになると、画像の取得は終了する。別の例では、読み取りポインタ5042が指している最も古い要素5036を次の取得で上書きし、さらに要素の上書きをして、ポインタを進め続け、人間ユーザーからのコマンドなど、画像取得を終了させる何らかの状態まで、画像取得は継続される。画像取得が終了したあとは、環状バッファ5002は、人間ユーザーが表示できる一連の画像5050を備える。
【0166】
図4に戻るが、視覚検知器は、設定の目的で、通信インターフェース840を経由し、ヒューマン・マシン・インターフェース(HMI)830に接続することができる。HMIが、視覚探知機800の一部となることも可能だが、HMIは一般的に生産に使う必要がないためあまり好ましくなく、またそのためHMIは、複数の視覚探知機により共有することができる。HMIは従来の設計のグラフィカル・ユーザー・インターフェース(GUI)を実行することができるが、その例の一部は図4に示される。
【0167】
GUIにより、一連の画像5050の一部を視覚探知機のメモリ910に保存し、人間ユーザーが表示できるようにする。図14の発明の具体例では、映写スライドウィンドウ5102が、8つのサムネイル画像5110、5112、5114、5116、5120、5130、5132および5134を表示するが、それぞれのサムネイル画像は、一連の画像5050における対応する画像の解像度の低いバージョンである。一般的に、例えば表示される部分5052のように、サムネイル画像は、連続した画像に順番に対応するが(図13)、対応するサムネイル間のある数の画像を飛ばすなど、別の配列も有用である。
【0168】
表示された部分5052を、一連の画像5050内で前または後ろに進めるための一組のスクロールコントロール5150が、映写スライドウィンドウ5102内に備えられる。次への画像コントロール5160は、表示された部分5052を1つの画像ごとに前に進め、前への画像コントロール5162は、表示された部分5052を1つの画像ごとに後ろに進める。コントロール5164および5166については下記で説明する。
【0169】
サムネイル5120は、物体5140の解像度の低い画像を表示するが、例えば物体114に該当する(図12)。物体5140はまた、サムネイル5116および5130において、やや違う視点で見ることができ(視野内の位置)、またサムネイル5110、5112、5114、5132および5134においても、部分的に見ることができる。2つ目の物体5142は、例えば欠陥のある物体116に該当するが、部分的にサムネイル5110および5112上に見られる。三番目の物体は、例えば物体112に該当するが、部分的にサムネイル5134上に見られる。スクロールコントロール5150を使用して、スクロールコマンドを出すことで、ユーザーは表示された部分5052を、前あるいは後ろに進め、それまでに取得されたどの物体をどの視点でも、また通常の生産中に視野に存在しうる他のどんな状態も見ることができる。
【0170】
図14の発明の具体例では、太く縁取りしたサムネイル5120に対応する画像は、画像表示ウィンドウ5100において、最大解像度で表示することもできる。スクロールコマンドが表示部分を前後に進めると、違う画像がサムネイル5120内に移動し、画像表示ウィンドウ5100に最大解像度で表示される。
【0171】
視覚検知器を設定するために、ユーザーは、画像表示ウィンドウ5100に、最初の演習画像として使用するのに適した画像が現われるまでスクロールコマンドを出す。普通、代表的な検査される物体に外見が分類似しているとユーザーが判断した場合、1つの画像が適当である。画像表示ウィンドウ5100上の物体1500は、図10でも示すが、サムネイル5120上の物体5140に対応することに注意したい。最初の演習画像が選ばれると、ユーザーは、ロケータ1520および1522、コントラスト検出器1540、明度検出器1550、エッジ検出器1560など、1つ以上の画像ツールを作成して、視覚探知機を設定する。この発明の具体例では、画像ツールは、どの写真1410でもよい(図9)。作成されたそれぞれの画像ツールのタイプ、位置、サイズ、方向および動作は、最初の演習画像で物体1500と外見が類似している物体が間違いなく検出され、検査されるようにユーザーによって選択される。
【0172】
最初の演習画像を用いた設定が完了すると、確認を行い、場合によっては、追加の演習画像も使用して設定を調整することが望ましい。スクロールコマンドを出して二番目の演習画像を選ぶこともでき、サムネイル5120および画像表示ウィンドウ5100の双方に表示される。二番目の演習画像は、単純に以前に作成された画像ツールの動作を判断するため、あるいは追加で画像ツールの作成、または以前に作成された画像ツールの位置、サイズ、方向および/または動作の調整によって設定をアップデートするために使用することができる。
【0173】
例えば、最初の演習画像を使用して行われた最初の設定には、先に説明した、ロケータ1520および1522と併せて物体の存在を検知するために使用される明度検出器1530を含まなかったかもしれない。最初の演習画面を見るだけでは、ユーザーは明度検出器1530が必要になるかもしれないと気付かなかったかもしれない。物体が視野において一部だけ存在する、あるいは物体が存在しない二番目の演習画像を検討することによってのみ、ユーザーは誤検出を避けるために明度検出器1530が必要であると認識できたかもしれない。
【0174】
同様に、代表的な検査物体に外見が類似しない欠陥のある物体116に対応する、二番目の演習画像は、コントラスト検出器1540を正しく調整する必要がある。
【0175】
[視覚検出器をテストするための本発明の実施]
視覚検出器を設定する過程において、画像ツールの動作を値するために、二番目の演習画像を使用して行うことができるよりもさらに徹底した設定のテストを行うことが望ましい。そういったテストが多数の物体を含み、限られた数の画像を取得、保存し、それらの画像が誤判断を示す可能性のある物体に対応することがさらに望ましい。同様のテストが実際の製造過程でも望まれる。コンベヤーのスピードおよび周囲の照明を含む製造環境が、設定時と製造過程において同一であることが望ましい。製造過程を示す図1を、設定を示す図12を比較すると、図12においては拒否作動装置170が視覚検出器400から拒否信号を受け取っていないことが唯一の相違であるとわかる。
【0176】
視覚検出器のテストに使われる実施例において、視覚検出器は離散した物体の検出および検査のために設定される。視覚検出器は、図2に示されるように操作して、視覚事象検出を使用したり、図3に示されるように操作して、外部トリガ信号を使用したりしてもよい。視覚検出器は図10および11に示されるような設定を有することになるであろう。
【0177】
図2については、有効フレーム540から始まり無効フレーム548で終る7つのフレームのグループ(時系列部500)は、物体1の検出および検査に影響を及ぼす。同様に、時系列部510に対応する5つのフレームのグループは、物体2の検出および検査に影響を及ぼす。物体1や物体2のような物体が人間ユーザーの関心事である可能性がある場合、大抵、誤った決定を表すかもしれないので、本発明はグループ内のフレームを保存および表示する方法およびシステムを提供する。ある実施例においては、保存および表示されるこのグループは、フレーム542のような無効フレーム、および終了フレーム546および548を含む。具体例においては、546および548のような終了フレームは、保存および表示されるグループから省略される。
【0178】
外部トリガが使われる図3に関しては、物体1について保存および表示されるフレームのグループは、その物体に対して取得および分析された、すべてのフレームを含む、すなわちフレーム640、642、および644である。
【0179】
上記の通り、物体の状態に関する情報を含む結果を決定するために、物体は分析される。結果は、物体が検査に合格したかどうか、というくらい単純なものであるかもしれない。具体例において、結果は、物体が検出され、検査に合格するという、相対的な信頼性を示す数字を含む。例えば、そのような数字の1つは、有効フレームの数や、物体が検出されたかどうかを決定する決定閾値と比較された、物体検出加重の総和であるかもしれない(これらの数字に関するさらなる詳細については、図7に関する上記記述を参照)。
【0180】
これらの結果は、対応する物体のフレームグループが、人間ユーザーの関心事であるかどうかを決定するのに使用され、そうである場合は、結果は後続の表示のために保存されるであろう。ユーザーは、すべての物体に関心があるかもしれないし、あるいは合格する物体だけに、または不合格の物体だけに関心があるかもしれない。大抵の場合、誤った決定を示しがちな物体に対応する画像を保存および表示することが最も望ましい。なぜなら、それらの画像が発生することは非常にまれであり、注意深く調査することを最も必要とする状況であるからである。誤った決定は、相対的な信頼性を示す数字が決定閾値に近い場合に起こりやすい。
【0181】
保存されたフレームのグループは一連の画像であり、その一部は上記の通り図14に示されたグラフィカルユーザーインターフェースによって表示可能である。スクロール制御5150は、次画像5160および前画像5162に加えて、それぞれのグループごとに表示部を前後に進める、次グループ制御5164および前グループ制御5166を含む。
【0182】
図15は、具体例で使用されるメモリ910(図5)の編成の詳細を表す。フレームバッファプール5200は、フレームバッファ5230、5232、5234および5238のような、多目的に使用される多くの個別フレームバッファを含む。フリープール5210は、リングバッファとして編成され、1つの物体に対してフレームを取得し、分析することに使用される。書き込みポインタ5220は、次に使用可能なフレームバッファ5230を表し、そこで次のフレームが取得される。フレームバッファ5230に取得される画像と同時に、フレームバッファ5232内にある前の画像が分析される。以前に取得および分析された現行グループ内のフレームには、読み込みポインタ5222によって表されるフレームバッファ5134から始まって、影が付けられる。
【0183】
ここで留意すべきなのは、新しい物体の有効フレームがまだ見付かっていない場合には、現行グループが存在しないので、読み込みポインタ5222はフレームバッファ5232を表し、新しい物体が見付かるまで、それぞれの新しいフレームを進めるということである。さらに、フリープール5210が満杯になった場合、グループ内の一部の古いフレームは保存されなくなるということにも留意するべきである。
【0184】
物体の分析が完了し、物体のステータスに関する情報を含む結果が決定されると、グループは完了する。結果が、次表示にグループが保存されないことを示す場合には、読み込みポインタ5222を進めるだけで、画像は廃棄される。グループが保存される場合は、フレームバッファはフリープール5210から除外され、保存グループ5212、5214、および5216を含む、保存グループプール5204に追加される。新しい保存グループを除外した後に、フリープール5210内のフレームバッファ数が少なくなりすぎる場合には、1つ以上の古い保存グループを保存グループプール5204から取って、このフリープールに戻してもよい。これらの古いグループは、もう表示に使用することはできないであろう。
【0185】
具体例においては、フレームバッファは決してコピーされることはない。その代わりに、フレームバッファは、当業者に既知の技術を用いてポインタ操作を行うことにより、フリープール5210と保存グループプール5204の間を移動させられる。
【0186】
リスト要素5240、5242、および5244を含む保存グループ5202のリストは保持される。例えば、リスト要素5240は、次の要素ポインタ5250、フレームバッファカウント5252、結果情報5254および保存グループポインタ5256を含む。結果情報5254は、グループを保存するべきかどうか決定するのに使用される、相対的信頼度数を含む。この場合留意するべきなのは、決定閾値は0.5であり、3つの保存グループは、この閾値に近い信頼度数を有しているということである。さらに、このリストは決定閾値に近い順に保存されるということにも留意すべきである。保存グループを、保存部ループプール5204から移動してフリープール5210に戻す必要がある場合、決定閾値から最も遠い、リストの一番最初にあるグループが動かされる。
【0187】
本発明の具体例の詳細な説明を上述した。発明の精神および領域から外れることなく、様々な改良および追加を行うことが可能である。例えば、代替実施例によると、GUIのレイアウトおよび制御オプションは、非常に可変性が高い。GUIのフィルムストリップウィンドウ内にあるサムネイルの数およびサイズもまた、変動しやすい。従って、この説明は、例証と解釈されることを意図しており、発明の領域を制限するものではない。
【図面の簡単な説明】
【0188】
【図1】生産ライン上で物体を検査するための、視覚検出器の方法と装置にかかる、視覚検出器の具体例を示す。
【図2】視覚事象の検出を使用した、視覚検出器のための典型的なオペレーティング・サイクルを図解する時系列を示す。
【図3】トリガ信号を使用した、視覚検出器のための典型的なオペレーティング・サイクルを説明する時系列を示す。
【図4】生産環境における、視覚検出器のためのハイレベル・ブロック図を示す。
【図5】視覚検出器の具体例のブロック図を示す。
【図6】物体が存在するかどうか、および、検査に合格するかどうかなど、証拠を検討し、判断するために、具体例で使われるファジー論理要素を示す。
【図7】具体例において、動的画像解析のために証拠がどのように検討されるかを示す。
【図8】別の具体例において、動的画像解析のために証拠がどのように検討されるかを示す。
【図9】フレームを解析し、決断を下し、入力を感知し、出力信号を制御するために、具体例によって使用される、一連のソフトウェア要素の編成(例えば、コンピュータ可読媒体のプログラムコマンドなど)を示す。
【図10】典型的な物体を検出するために使うことのできる視覚検出器の典型的な構成の一部を示す。
【図11】図10の典型的な設定に対応する構成の別の部分を示す。
【図12】視覚検出器の設定に使用される物体を含む生産ラインを示す。
【図13】視覚検出器の設定に使用される画像を保存するためのメモリ配置を示す。
【図14】スライドウィンドウおよび画像表示ウィンドウを含む、グラフィカル・ユーザー・インターフェースの一部を示す。
【図15】視覚検出器をテストするための保存画像のためのメモリ配列を示す。
【技術分野】
【0001】
[発明の属する技術分野]
本発明は、生産ライン上で製造された物体の自動検出および検査に関するものであって、より具体的には、工業用マシンビジョンおよび自動画像解析に関する。
【背景技術】
【0002】
[関連技術の説明]
工業生産は、製造された物体の自動検出に依存している。数十年間にわたり広く用いられてきた自動検出の形式の1つは、通常赤外線もしくは可視光線、光電センサー、ならびになんらかの形式の電子的な判断を行う、電磁エネルギーを用いた光電子技術に基づいている。
【0003】
既知である光電子自動検査の形式の1つは、二次元視野デジタル画像を取得することができる装置を使用して検査される物体を特定し、次にその画像を分析して決定をおこなうものである。かかる装置は通常マシンビジョンシステム、または単純にビジョンシステムと称される。画像は二次元のアレイの感光性要素を、integrationもしくはシャッター時間とよばれる短時間に、レンズによってアレイに集められた光に露光することで取得される。アレイは撮像装置と称し、個々の要素はピクセルと称する。各ピクセルは、シャッター時間内にそこにあたった光の強度を測定する。測定された強度の値は次にデジタル数字に変換され、視覚システム内のメモリに保存されて画像を結び、それはこの技術において既知である、検査中の物体の状態を判断する方法を用いて、コンピュータ等のデジタル処理要素によって分析される。
【0004】
物体が視野内に持ち込まれ静止している場合と、物体が視野内で連続して動いている場合とがある。光検出器からの信号や、PLC、コンピュータ、またはその他の自動装置からの通信といった、ビジョンシステム外の事象は、物体が視野において特定されたことをビジョンシステムに通知するために用いられ、それによって画像が取得され分析が行われる。こういった事象をトリガと称する。
【0005】
マシンビジョンシステムは、視覚内の一ヶ所において特定された各物体に対し一枚の画像から判断することから、限界が生じてきている(各物体は、それぞれ異なる、または予測できない位置において特定されることがあるが、1つの物体に対して判断の土台となるそうした位置は1つだけである)。この唯一の位置は、唯一の視点、唯一の照明に対する方向から得た情報を提供する。視点が1つしかないことは、しばしば不正確な判断をまねく。これに関しては長期間にわたる観察がなされており、例えば、視野内のたった1ピクセルの違いでも、不正確であった判断が正確になるという場合もある。一方、人が物体を検査するときは、より判断の信頼性を高めるために、目や光に対して物体を動かしておこなう。
【0006】
マシンビジョンシステムには、さらにトリガ信号の使用についても限界がある。トリガ信号が必要であるために、適切な信号の送信のため光検出器の取付けと調整が必要となり、PLCもしくはコンピュータ用のソフトウェアが作成されなければならないなど、設定はさらに複雑となる。物体が連続して動いている場合にはほぼ光検出器を使用するのであるが、生産ラインの転換はそれが文字通り動いていることを要求し、これはビジョンシステムの長所を弱めてしまう。さらに、光検出器は物体から反射した、もしくは進路に沿って発信された光の強度の変化だけに反応する。このような状態は、物体が視野に進入したときに信頼のおける判断をおこなうのに十分でない場合がある。
【0007】
連続して動いている物体に対して用いられた従来の技術によるビジョンシステムは、自己トリガと称される方法を用いることにより、トリガを使用しなくても機能することができる。これらのシステムは通常、取得された1つ以上の画像部分の、物体の状態を表す明暗の差もしくは色の違いをモニターすることによって機能する。自己トリガは、下記のようないくつかの制限があるため、実際にはほとんど使用されていない。
・自己トリガへのビジョンシステムの反応は、通常の生産速度で使用するにはあまりに遅く、
・物体が現れたときに検知する方法は、多くの場合において十分でなく、そして
・ビジョンシステムは、通常はトリガの役割をする光検出器が発する、PLCまたは処理装置がビジョンシステムの判断に基づいて機能するために必要とする、特定の、反復可能な生産ライン上の物体の位置と同調した有用な出力信号を提供しない。
【0008】
マシンビジョンの制限の多くは、作動が遅すぎて動いている物体を複数の視野から取得および分析することができず、または視野内で発生している事象に反応できない、ということも原因であるほとんどのビジョンシステムが現在の画像を分析しながら新規画像を取得することができるため、ビジョンシステムの最大作動速度は、取得時間および分析時間がどれだけかかるかによって決定される。概して、この速度の決定要素のうちもっとも重要なものとして、撮像装置を構成するピクセル数があげられる。
【0009】
画像の取得にかかる時間は、主として撮像装置内のピクセル数により決定され、その理由は以下の2つである。第一に、シャッター時間は光の量と各ピクセルの感度によって決定される。一般的に、ピクセル数の増加はピクセルのサイズが小さくなることを意味するので、感度は低くなり、通常ピクセル数が増加すると、シャッター時間も長くなる。第二に、変換時間および保存時間はピクセル数に比例する。従って、ピクセル数が多いほど、取得時間がかかるということになる。
【0010】
最低でも過去25年間において、従来の技術であるビジョンシステムは概して30万ピクセルを使用してきたが、最近では100万ピクセルを使用することができるシステムも登場し、そして長年にわたり7万5千という少ないピクセルを使用してきたシステムは少なくなった。デジタルカメラと同様に、最近の風潮はピクセル数を増やし、よりよい画像解像度を得るということである。コンピュータの速度が驚くほど向上し、撮像装置が真空管から半導体に移行した同じこの年月において、マシンビジョンの画像取得時間は概して30分の1秒から60分の1 秒へ、たったの二倍という向上を見せたにすぎない。速くなったコンピュータによってさらに高度な分析が可能となったが、ビジョンシステムが作動する最大速度はほとんど変化していない。
【0011】
この視覚検出器の方法および装置の発明は、上に記述した従来の技術によるマシンビジョンシステムの制限を克服する最新の方法ならびにシステムを教示するものである。これらの教示はまた、元の教示を超える改善をもたらす格好の革新の基盤をも築く。次のセクションでは、この視覚検出器の方法および装置の発明について簡単に要約し、それに続くセクションでは、この発明によって対応される問題について説明する。
【0012】
[視覚検出器の方法および装置]
この視覚検出器の方法および装置の発明は、二次元のデジタル画像を取得して検知および検査の必要な物体を特定し、画像の分析と判断をおこなう、物体の自動光電子検知および検査について、システムと方法を提供する。これらのシステムと方法は広大なエリアから反射した光の明度のパターン分析をし、物体における多くの目立った特徴を扱い、ソフトウェア手段によって生産ラインの転換に対応し、そして不明確でさまざまな物体の位置を扱う。これらは従来の技術を用いたマシンビジョンシステムに比べて安価で、設定がしやすく、ずっと早く作動する。これらのシステムと方法はさらに、動く物体に対し複数の視点が使え、トリガなしで作動し、正しく同調した出力信号を発信し、当業者にとっては明確な、その他の注目すべき有用な能力を提供する。
【0013】
この視覚検出器の方法および装置の発明における特徴の1つは、ビジョン検出器と称し、連続した画像を従来の技術によるビジョンシステムよりも高速に取得し、分析することのできる装置である。取得して分析されるこうした連続画像を、フレームと称する。フレームを取得して分析する速度をフレーム速度と称するが、これは動いている物体が視野(FOV)を通過する際に、複数の連続したフレームに示すことができるほど高速である。物体は連続したフレーム内のどこかを動いているため、FOV内の複数の位置において特定され、そのために照明に対して複数の視点および位置から確認することができる。
【0014】
この視覚検出器の方法および装置の発明におけるもう1つの特徴は、動的画像解析と称する方法であり、これは物体が視野内において特定される複数のフレームを取得、分析することによって物体を検査し、これらの各フレームから得た証拠を総合して結果を導き出すものである。この方法は、一枚のフレームに基づいて判断をおこなう従来の技術によるマシンビジョンシステムに優る、有意な利益をもたらす。
【0015】
さらに、視覚検出器の方法および装置の発明におけるもう1つの特徴は、視野内で発生する事象を検知する方法であり、これを視覚事象検出と称する。物体が視野内を通り過ぎるといった事象が発生したときに、視覚事象検出を使用すると、トリガ信号と必要とせずに物体の検出ができる。
【0016】
視覚検出器の方法および装置の発明におけるさらなる特徴は、図面および本明細書で詳述される内容を検討すれば明確になるであろう。
【0017】
複数の視点から画像を得るために、視野内の連続フレーム間における検出もしくは検査されるべき物体の動きは、ごくわずか、通常においてほんの数ピクセル以下であることが望ましい。この視覚的検出器の方法および装置の発明によれば、物体の動く速度は各フレームにおけるFOVの約4分の1を超えず、通常の実施例においてはFOVの5%以下であることが概して望ましい。製造過程を減速することによってではなく、十分なフレーム速度を保つことによってこれが守られることが望ましい。システムの実施例では、フレーム速度は最低でも毎秒200フレームであり、他の実施例においてのフレーム速度は、最低でも物体が視覚的検出器の前を通る速度の平均の40倍である。
【0018】
典型的なシステムは、毎秒500フレームを取得、また分析できると教示された。このシステムは、従来の技術によるビジョンシステムよりはるかに小さなピクセルを持つ超高感度撮像装置を用いる。高感度であれば、安価なLED照明を利用してシャッター時間を非常に短くでき、比較的少ないピクセル数とともに画像取得時間が非常に短くなる。撮像装置は、分析作業と同時にピクセルデータの受取りと保存をおこなうことができるデジタル信号プロセッサ(DSP)と連動する。ここに教示される方法を用い、DSPに適切なソフトウェアを使用することにより、各フレームの分析時間を次のフレームを読み込む時間内におさめることができる。取得と分析の方法と装置があいまって、望ましい高速フレーム時間を提供する。撮像装置、DSP、照明の能力と、この発明の目的を慎重に組み合わせることにより、典型的なシステムは従来の技術を用いたマシンビジョンシステムと比べ、かなり安価におさえることができる。
【0019】
視覚事象の検出方法は、連続したフレームの取得と各フレームの分析によって、ある事象が発生しているかいないかの証拠を見つけることを含む。視覚事象の検出がトリガ信号の必要なく物体の検出に用いられたとき、その分析によってある物体が視野内で特定されたという証拠が見つかる。
【0020】
典型的な方法において、その証拠は、物体検出加重と称される値で表され、ある物体が視野内で特定されたという信頼度を示す。その値は単純にはい、いいえの選択で信頼度の高低を示すこともあれば、信頼度の幅を示す数値、または証拠を示す任意の情報項目であることもある。そういった数値の例としては、いわゆるファジー論理値であり、下記および視覚検出器の方法と装置で詳述される。ここで留意すべきは、いかなる機械も一枚の画像から完璧な判断をくだすことは不可能であり、したがって不完全な証拠に基づいて判断を行なうことになるという点である。
【0021】
物体の検出を行う際、各フレームはテストされ、その証拠は物体が視野内で特定されたことを示すのに十分であるか決定される。もしも単純なはい、いいえの値であった場合、値が「はい」であれば、その証拠は十分であるとみなされる。もしも数値であった場合、証拠が十分であるかどうかは、その数値を閾値に照らして判断される。証拠が十分であったフレームを、有効フレームと称する。ここで留意すべきは、なにをもって十分な証拠とするかについては、手近な特定のアプリケーションの理解に基づいて視覚検出器を設定する人間が最終的に定義するものであるという点である。視覚検出器は、判断をくだすのにその定義を自動的に利用する。
【0022】
物体の検出を行う際、視覚検出器の速いフレーム速度により、視野内を通り過ぎる各物体につき複数の有効フレームが作成される。これらのフレームは、厳密に連続していないこともあるが、物体が視野内を通り過ぎるときに物体が視野内において特定されたことを示す証拠が十分でないとする視点もしくはその他の状態が存在する可能性もある。したがって、ある物体の検出は、有効フレームが確認されたときに開始され、何枚もの無効フレームが確認されるまで終了しないというのが望ましい。その枚数は、ユーザーによって適切に選択されることができる。
【0023】
視野内を通り過ぎる物体に反応して有効フレームが確認されたら、さらなる分析をおこなってある物体が確かに検出されたかどうかを判断することが望ましい。この追加分析において、有効フレームの枚数、物体検出加重の合計、物体検出加重の平均その他の、有効フレームの統計を考慮にいれるべきである。
【0024】
動的画像解析の方法には、物体の検査をおこなうための複数のフレームの取得と分析を含み、「検査」とはその物体の状態についてのある情報を確認することを意味する。この方法の実施例の1つにおいて、ある物体の状態とは、ユーザーによって適切に選択された検査基準を満たすかどうかということを含む。
【0025】
この視覚検出器の方法と装置の発明の特徴は、動的画像解析が視覚事象検出と併用されており、したがって視覚事象検出法によって選択された有効フレームは、動的画像解析法で物体の検査をするさいに用いられたものである。その他のこの視覚検出器の方法と装置の発明の特徴は、動的画像解析に用いられるフレームは、トリガ信号に反応して取得することができるという点である。
【0026】
この各フレームは、その物体が検査基準を満たしているという証拠を判断するために分析される。ある実施方法において、その証拠は値の形であり、物体の合格点と称するが、これはその物体が検査基準を満たしているという信頼度のレベルを示すものである。物体検出加重と同様に、値は単純な、はい/いいえの選択で示され、それは信頼度の高低を表し、またはファジー論理値のような数値で示され、それは信頼度のレベルの幅を表し、もしくは証拠を示す任意の情報項目である。
【0027】
物体の状態は、例として平均またはパーセンタイル値などの物体の合格点の統計によって判断される。その状態はまた、例として物体検出加重を用いた加重平均または加重パーセンタイル値などの加重統計により判断される。加重統計は効果的にフレームから物体に負荷をかけ、その点で信頼度が高く、物体はそのフレームの視野内で実際に特定される。
【0028】
物体の検出および検査のための証拠は、1つ以上のその物体の可視特性についての情報を調べることによって得られる。可視特性とは、その物体の一部であり、発せられた光の量、パターン、またはその他の特性が、その物体の存在、個体性、状態を表す情報を示すものである。任意の過程もしくは過程の組み合わせによって光は発せられ、それには反射、伝達、もしくは物体内部ないしは外部ソースから、もしくは物体内部のソースからの直接の屈折を含むが、これに限定されるものではない。
【0029】
この視覚検出の方法および装置の発明における特徴の1つは、証拠を得る方法であり、それには物体検出加重および物体の合格点を含み、各フレーム内の1つ以上の関心領域における画像解析作業のために証拠は必要とされる。この方法に関する実施例において、画像解析作業は関心領域内のピクセル値に基づいて測定値を算出し、その測定値は物体の可視特性における適切な特徴のいくつかに応答する。その測定値は閾値演算によって論理値に変換され、関心領域から得られた論理値も併用してフレームの証拠を示す。論理値はバイナリもしくはファジー論理値であり、閾値および論理結合は適宜バイナリもしくはファジーである。
【0030】
視覚事象検出において、視野内で物体特定された証拠は関心領域、測定値、閾値、論理結合、およびその他のここで詳述されるパラメータによって効果的に定義されるが、それらは集合的に視覚検出器の構成と称され、またそれらは本発明の用途に応じてユーザーによって選択される。同様に、視覚検出器の構成はなにをもって十分な証拠とするかについて定義する。
【0031】
動的画像解析において、ある物体が検査基準を満たすという証拠はまた、視覚検出器の構成によって効果的に定義される。
【0032】
[問題点の検討]
マシンビジョンシステムおよび視覚検出器を含む画像解析装置は、物体を検査するために必ず設定されなければならない。概して、このような装置の設定には、人間ユーザーが、検査される物体を代表する外観を持つ物体を、少なくとも1つ得る必要がある。そのユーザーは一般に演習画像と称するその物体の画像を取得し、画像解析ツールを選択し、それらのツールを演習画像上に配置し、そして操作パラメータを希望する効果を得られるよう設定することによりそれを使用する。実践されているところでは、演習画像は、実際の生産ラインに最も近い条件で得られることが望ましい。しかし、連続して動いている生産ラインにおいて、これは通常のビジョンシステムでは困難である。概して、有用な演習画像を得るためにはトリガ信号が必ず使用されねばならず、付随するトリガの制限については上述のとおりである。さらに、トリガに反応して取得された一枚の画像は、演習画像を得るのに最適の視点であるとは限らない。
【0033】
設定の間、視覚検出器はその性能が用途の要件を満たすかどうかテストされなければならない。もしも性能が要件を満たしていれば、設定は完了したと見なされてよいが、満たしていなければ調整が必要である。どんな視覚検出器であっても完璧な検査判断を出すことはできないため、一般的に性能のテストはある物体の状態(例:合格または不合格)に関して正確な判断が行われるという見込みの査定を含む。さらに、エラーの割合(不正確な判断)は非常に低いため(望ましくは物体10,000に対して1)この査定は非常に困難である。従って、多数の物体をテストし、不正確な判断を示すと思われる物体のみを人間のユーザーが査定することが望ましい。
【発明の開示】
【課題を解決するための手段】
【0034】
[発明の概要]
本発明における特徴として、視覚検出器を設定するためのシステムと方法を提供し、演習画像を連続して動いている生産ラインから得ることができるので、実際の物体の製造および検査の際とおおむね同一の状態を提供することができる。演習画像は、視覚検出器が物体を検査する際にトリガ信号を用いるか否かにかかわらず、いかなるトリガ信号も必要とせずにこれを得ることができる。
【0035】
生産ラインは、視野内の連続した画像を取得する視覚検出器の視野内を通り過ぎる、連続して動く多数の物体を含む。フレーム速度は十分に速いため、各物体に対し、視野内を通り過ぎる際に多数の画像が取得され、その一続きのまとまりは十分な長さがあるため多数の物体の画像を含むことができる。つまり、画像の一続きのまとまりには、さまざまな物体それぞれに対するさまざまな視点が含まれており、また通常は視野内に物体がまったく存在しないかまたは物体の一部分のみが存在するといった画像も含まれる。
【0036】
取得された画像の一続きのまとまりの中にある画像は、人間のユーザーが視覚表示器を設定する際に表示される。通常、取得したすべての画像をユーザーが各画像の有用な詳細を見るに耐えぬほど高解像度の画面に一度に表示することは実用的でないので、連続したまとまりのうち一部分が一度に表示される。
【0037】
ユーザーはスクロール操作をおこなって、その連続したまとまり内の表示部分を順方向または逆方向へ送って選択する。一度に表示される部分は多くの画像を含むことが好ましいが、一枚だけであるかもしれない。ユーザーはスクロール操作をおこなってその連続したまとまり内の表示部分を順方向または逆方向へ送って選択し、視覚検出器によって検査されるべき典型的な物体と十分に外観が類似しているとユーザーが判断する画像を発見する。ユーザーはこの画像を演習画像とする。多くの物体1つ1つに対する多くの画像が取得されているので、ユーザーは物体または視点(例:視野内の位置)の両方を演習画像として用いることを望むこともある。
【0038】
ユーザーはフレーム内の関心領域において的確な画像解析操作をおこなう視覚ツールを少なくとも1つ作成または設定して視覚検出器を設定し、視覚検出器は物体の検出または検査をおこなっている間、取得および分析を行う。視覚ツールは選択された演習画像を使用して作成または設定され、下記の動作を行う。
・作成する視覚ツールのタイプを選択して、その視覚ツールが演習画像と似た外観を持つ物体の検査をおこなうことができることを確実にし、
・視野に関連して関心領域の位置、規模、ならびに方向を選択し、
・その視覚ツールの操作パラメ−タを設定し、
・それによって、希望する結果を得る。
【0039】
典型的な実施例においては、画像はグラフィカル・ユーザー・インターフェース(GU I)を用いて表示される。一度に表示される画像の一部分は、それを連続した低解像度の「サムネイル」画像として映し出すGUIのフィルムストリップウィンドウ内に含まれる。そのサムネイル画像の解像度は、一度に有用な枚数の画像を表示することができ、同時に各画像が実用に耐え得る程度に十分精密であるような高さに設定される。
【0040】
本典型的実施例において、さらにその部分画像のうち一枚の画像を最高の解像度で画像表示ウィンドウに表示する。スクロール操作によってフィルムストリップを順方向または逆方向へ送ると、画像表示ウィンドウに表示された画像も同様に順方向または逆方向へと進む。画像表示ウィンドウはまたユーザーによって作成された任意の視覚ツールのグラフ表示も含む。
【0041】
この典型的実施例をさらに応用すると、取得された連続画像は視覚検出器内のメモリに保存され、GUIは通信用インターフェースとして視覚検出器に接続された別のヒューマン・マシン・インターフェース(HMI)上で動作する。取得した連続画像全体をHMIに送信するのに過度の時間をかけることを避けるため、視覚検出器はフィルムストリップウィンドウに表示する低解像度のサムネイル画像を作成し送信する。HMIが画像表示ウィンドウに表示する新しい最高解像度の画像を必要とする場合に限り、最高解像度の画像の送信が適切である。
【0042】
他の典型的実施例において、取得された連続画像内の追加画像を使用することによって視覚検出器の設定の改善が可能である。ここで留意すべきは、視覚検出器の設定において演習画像がただ一枚だけ使用されるという要件および期待はない。視覚検出器の実際的な操作をさまざまな物体に対するさまざまな視点において確定し、また、それを達成するために必要に応じて設定を調整することが望ましい。
【0043】
さらに、視覚検出器によって検査される典型的な物体と十分に類似した外観を持つ少なくとも一枚の演習画像が選択されるべきであるが、可能な限り実際の生産ラインに近い状況下において得られた他の類似しない演習画像も選択することが多くは望ましい。これらの他の演習画像には視野内に物体が存在しない画像も含まれることがあり、または物体が部分的にしか存在しないこともあるため、物体が誤って検出されることのないよう、視覚検出器の設定はこのようであることが望ましい。
【0044】
上述した本発明に関する特徴が従来技術のマシンビジョンシステムの設定に用いられれば、生産ラインに比例して十分に速いフレーム速度で作動でき、各物体に対し多くの画像を取得することができると明らかに考えられる。
【0045】
本発明のもう1つの側面は、製造工程中に選択された画像を取得および保存し、人間のユーザーがこれを見て視覚検出器のテストをおこなうというシステムおよび方法を提供することである。背景の項でも述べているように、人間のユーザーが検査するには実用的とはいえないほどに大量の画像が作成され、多数の物体がテストされることが望ましい。したがって、本発明は製造工程において不正確な判断を示す物体に反応していると思われる限定された数量の画像を選択、保存、および表示するシステムおよび方法を提供する。
【0046】
生産ラインには連続した画像を取得して分析する視覚検出器の視野内を通り過ぎる、連続して動いている多数の物体が含まれる。視覚検出器は従来物体の検出および検査を目的として設定されてきた。検出には本項もしくは視覚検出器の方法および装置の項で詳述される、トリガ信号または視覚事象検出を用いる。検査は、好ましくは本項もしくは視覚検出器の方法および装置の項で詳述される、動的画像解析を用いるが、物体の状態についての情報を提供する任意の方法を用いてもよい。
【0047】
連続したフレームからの一群のフレームは検出され検査された各物体に対応する。視覚事象検出を用いる際に、その一群のフレーム内に有効フレームを含む可能性があり、また有効フレームの間に無効フレームがはさまっていたり、有効フレームを分断している場合もある。典型的な実施例において、そのフレーム群は有効フレームおよびそれらの間にはさまれたすべての無効フレームを含む。トリガ信号を用いる際、そのフレーム群は好ましくはそのトリガに反応して取得され、分析されたすべてのフレームを含む。
【0048】
各物体は検査され、物体の状態を示すデータに帰結する。この結果データは単純に合格・不合格である場合と、物体の検出および検査中に算出されたフレーム総数、物体検出加重または物体の合格点の統計ならびに本項もしくは視覚検出器の方法および装置の項で詳述された内容を含む場合がある。
【0049】
各物体に対する結果データは、その物体の一群のフレームをその次の人間のユーザーが見る画面に保存するかどうかの判断に用いられる。通常、すべての保存された画像をユーザーが各画像の詳細を見るに耐えるほどの高解像度画面上に一度に表示するのは実用的ではないため、保存された画像のうち一部分が一度に表示される。表示する部分は、ユーザーがスクロール操作を用い、一群中の一枚ずつの画像または一群ごとの画像を順方向または逆方向へ送って選択する。一度に表示される部分は多くの画像を含むことが好ましいが、一枚だけであるかもしれない。
【0050】
どの群を保存するかについては、製造工程に先立って人間のユーザーによって選択されるのが望ましい。ユーザーはすべての群、または検査に合格した物体に対応する群のみ、もしくは検査に不合格であった物体に対応する群のみを選択する。これらの選択は多くの場合有用であるが、不正確な判断を示すと思われる物体に対応する画像を保存するという目的を満たすものではない。
【0051】
その目的を満たすため、本発明は合格・不合格の判断は望ましくは多数の決定閾値を比較することでなされるべきであると認識するが、その数値は例としてある物体が検出された、または検査に合格したなどのいくつかの条件が適用される信頼度のレベルを表す。その数値はその物体の結果データに含まれ、その物体の検出および検査中に算出されたフレーム総数、物体検出加重、または物体の合格点の統計と対応する。
【0052】
もしもその数値が決定閾値を明らかに上回れば、その条件が適用されると信頼でき、もしも決定閾値を明らかに下回れば、その条件が適用されることは信頼できない。しかし、もしもその数値が決定閾値に近接していれば、判断は不明瞭であり結論について信頼することはできない。したがって、数値が閾値に近接している物体は不正確な判断を示すと見られ、対応するフレーム群を保存することが望ましい。
【0053】
典型的な実施例において、画像はGUIを用いて表示される。一度に表示される画像の一部分は連続する低解像度の「サムネイル」画像としてGUIのフィルムストリップウィンドウに表示される。そのサムネイル画像の解像度は、一度に有用な枚数の画像を表示することができ、同時に各画像が実用に耐え得る程度に十分精密であるような高さに設定される。慣用GUI要素によってスクロール操作が可能である。
【0054】
本典型的実施例において、さらにその部分画像のうち一枚の画像を最高の解像度で画像表示ウィンドウに表示する。スクロール操作によってフィルムストリップを順方向または逆方向へ送ると、画像表示ウィンドウに表示された画像も同様に順方向または逆方向へと進む。画像表示ウィンドウは視覚検出器における設定の一部分である任意の視覚ツールのグラフ表示も含む。
【0055】
本典型的実施例をさらに応用すれば、GUIは通信用インターフェースとして視覚検出器に接続された別のHMI上で動作する取得した連続画像全体をHMIに送信するのに過度の時間をかけることを避けるため、視覚検出器はフィルムストリップウィンドウに表示する低解像度のサムネイル画像を作成し送信する。HMIが画像表示ウィンドウに表示する新しい最高解像度の画像を必要とする場合に限り、最高解像度の画像の送信が適切である。
【0056】
本発明は、添付の図と関連して、次の詳細な説明から、さらに十分に理解される。
【発明を実施するための最良の形態】
【0057】
[発明の詳細な説明]
[視覚検出器の方法と装置の基本操作]
図1は、生産ラインで物体を検査するための、視覚検出器の方法と装置による、視覚検出器の具体例を示す。コンベヤー100は、物体と視覚検出器400の視野間で、相対動作を起こす物体を輸送する。物体110、112、114、116と118は、コンベヤー100上で左から右へ移動する。それぞれの物体は、たとえば、レベル120とホール124のように、一定の特徴を含むことが期待される。不正確に製造された物体は、1つまたは、それ以上の特徴を損なっているかもしれないし、たとえば、物体116は、穴がないというように、意図的でない特徴を持つかもしれない。多くの生産ラインでは、コンベヤーの動作は、回転エンコーダ180により、探知される。視覚検出器400は、外観より物体の出現を検出し、適切な検査基準に基づき、検査する。もし、物体が検出された場合、視覚検出器は、コンベヤーストリームから物体を取り除くために、作動装置170を拒否するために信号420を送る。エンコーダ180は、視覚検出器へ信号410を送り、物体は、記録点と呼ばれる、いくつかの固定の架空の基準点430を通り、エンコーダカウントから信号420の正常の遅れを防ぐ手段を取るために使われる。エンコーダが使われない場合、遅れは、そのかわりに時間に基づく。
【0058】
代わりの具体例では、視覚検出器は、拒否作動装置を制御することを含む、様々な目的のために、PLCへの信号を送る。
【0059】
もう1つの具体例では、超高速アプリケーションに似合う、視覚検出器が物体の出現を確実に検出できないところに適し、光検出器は、物体の出現を検出するのに使われ、その目的のために視覚検出器へ信号を送る。
【0060】
さらにほかの具体例では、離散物体がないが、物流は、たとえば、ウェブのように、継続的に視覚検出器を通過する。この場合では、物質は、継続的に検査され、信号は、適時にPLCのような、機器へ視覚検出器により送られる。
【0061】
視覚検出器が、外観により離散物体の出現を検出する場合、視覚事象検出モードで操作すると言われる。視覚検出器が、光検出器のような外部の信号を使い、離散物体の出現を検出する場合、外部トリガモードを操作すると言われる。視覚検出器が、継続的に物質を検査する場合、継続解析モードを操作すると言われる。
【0062】
図2は、視覚事象検出モードで視覚検出器を典型的なオペレーティング・サイクルを説明するスケジュールを示す。箱520のような、「c」とラベル付きの箱は、画像取得を示す。箱530のような、「a」とラベル付きの箱は、画像取得を示す。次の画像のキャプクチャー「c」は、現在の画像の解析「a」と重なることが好ましいので、解析ステップ530は、取得ステップ520で捉えた画像を解析する。このスケジュールでは、解析は取得よりも少ない時間であると示されているが、一般には、解析は、アプリケーションの詳細によるので、取得よりも短くなったり長くなったりするだろう。
【0063】
取得と解析が重なった場合、視覚検出器が画像を捉え解析できる速度は、取得時間と解析時間の長さにより、決定される。これが、「フレームレート」である。
【0064】
視覚検出器の方法と操作は、物体に光検出器より与えられる、トリガ信号なしに確実に検出させる。図1を参照すると、物体の出現を示すトリガ信号がなく、図2では、対応するトリガステップがない。
【0065】
また、図2を参照すると、スケジュールのポーション500は、第一物体の検査に対応し、7つのフレームの取得と解析を含む。第2ポーション510は、第2物体の検査に対応し、5つのフレームを含む。
【0066】
それぞれの解析ステップは、初めに物体が出現しているという証拠を考慮する。証拠が十分であるフレームは、有効であると呼ばれる。有効フレームの解析ステップは、たとえば、解析ステップ540のような、分厚い境界で示されている。具体例では、有効フレームが見つかった場合、物体の検査が始まり、連続の無効フレームが見つかった場合、終了する。図2の例では、第一物体の検査は、解析ステップ540に対応する第一有効フレームで始まり、解析ステップ546と548に対応する2つの連続の無効フレームで、終了する。ここで留意すべきは、第一物体で、解析ステップ542に対応する単一の無効フレームが、検査を終了するのには十分ではないことである。
【0067】
たとえば、解析ステップ548の終わりのような、物体の検査が完了する時に、有効フレームから得た証拠に基づいて、物体の状態を決定する。具体例では、有効フレームの不十分な数が見つかり、物体が実際に出現したという不十分な証拠であると考えられる場合、操作は、有効フレームが見つからなかったように継続される。そうでなければ、物体は、検出されたと判断され、有効フレームからの証拠は、たとえば、合格か不合格のように、その状況を決定するために判断される。様々な方法は、視覚検出器の方法と装置の範囲内で、物体を検出し、状況を決定する、そのいくつかは、下記で説明され、その他の多くは、当業者に起こるであろう。
【0068】
物体の検出と、判断が完了すると、PLCのような、当業者には良く知られているような信号を使い、機器を充当するためにレポートが作成される場合がある。このような場合には、レポートステップは、スケジュールに現れる。図2の例は、視覚検出器が信号420を通してダウンストリーム拒否作動装置170を制御するのに使われることを図1に示された設定の代わりに対応する。有効フレームで物体の位置を考えることにより、それが視野領域を通して通過する場合、視野検出器は、物体が基準点430を通過する記録時間550と552を推測する。ここで留意すべきは、エンコーダ180が使われた場合、記録時間は、実際にエンコーダカウントであり、読み手は、時間とカウントが交互に使われると理解することである。拒否作動装置170への適切な持続時間の1パルスを備える、レポート560は、時間内の厳密な遅れ570または、記録時間550からのエンコーダカウントの後、公表される。
【0069】
ここで留意すべきは、レポート560は、510のようにその後の物体の検査を過ぎて、よく遅れる場合がある。視覚検出器は、適時までレポートを保持するためのよく知られている先入れ先出し(FIFO)バッファ技法を使う。
【0070】
物体の検査が完了すると、視覚検出器は、アイドルステップ580を入力するかもしれない。このようなステップは任意であるが、いくつかの理由で好ましいかもしれない。最大物体率が知られている場合、新しい物体が来るちょうど手前まで、物体を探す必要がない。アイドルステップは、物体が到着できなかった場合、不良物体検出の機会を除去し、アイドルステップ中に信号が近づけさせないため、照明系の寿命を延ばすであろう。
【0071】
図3は、外部のトリガモードで視覚検出器の典型的なオペレーティング・サイクルを説明するスケジュールを示す。トリガステップ620は、第一物体600の検査を始める。連続画像取得ステップ630、632、634と対応解析ステップ640、642、644は、動的画像解析のために使われている。視覚事象検出モードでは、フレームレートの物体は、連続フレーム間で視野のしばしば、各フレームごとに2、3のピクセルしかない、小さい部分を動かすのに高く十分であることが好ましい。フレームの固定数の後、アプリケーションの詳細に基づいて選択された数は、フレームの解析から得られる証拠がその物体の状況の最終決断をするのに使われ、そして、それは、1つの具体例の中では、レポートステップ650の機器に供給されている。レポートステップに続く、アイドルステップ660は、第2物体610の検査を始める次のトリガステップ670まで入力される。
【0072】
もう1つの具体例では、レポートステップは、図2で示されると同様の方法で遅れる。この具体例では、記録時間680は、トリガステップ620に対応する時間(または、エンコーダカウント)である。
【0073】
[実例となる装置]
図4は、生産環境の視覚検出器のためのハイレベル・ブロック図を示す。視覚検出器800は、適切な機器810に接続され、それは、信号820を用いて、PLC拒否作動装置、および/または、光検出器を含むかもしれない。また、視覚検出器は、通信インターフェース840を用いて、PCや携帯端末のようなヒューマン・マシン・インターフェース(HMI)830に接続するかもしれない。通常の生産使用中、HMIは、設定と監視のために使われ、取り除かれるかもしれない。信号は、いかなる条件に合ったフォーマット、および/または、プロトコルで実行され、有線または、無線フォームで転送される。
【0074】
図5は、視覚検出器の実例となる具体例のブロック図を示す。デジタル・シグナル・プロセッサ(DSP)900は、取得、解析、報告、HMI通信、および視覚検出器に要求される、その他の適切な機能を制御するためのソフトウェアを起動する。DSP900は、メモリ910へ接続し、それは、プログラムとデータのための高速ランダム・アクセス・メモリと、電源が取り除かれた時のプログラムと設定情報を保持するための不揮発性メモリを含む。DSPは、また、機器の信号、HMIインターフェース930、照明モジュール940と撮像装置960を供給する、I/Oモジュール920に接続される。レンズ950は、撮像装置960の感光部材に画像する。
【0075】
DSP900は、汎用コンピュータ、PLC、または、マイクロプロセッサに限定されないものを含む、デジタル計算、情報保存、他のデジタル要素への接続の装置である。DSP900は、あまり費用がかからないが、高フレームレートを処理するのに十分速いことが好ましい。画像解析で、同時に撮像装置からピクセルデータを受取り、保存することができることがさらに好ましい。
【0076】
図5の実例となる具体例では、DSP900は、マサチューセッツ州のノーウッドのAnalog Devicesで生産された、ADSP−BF531である。ADSPBF531DSP900の並列周辺インターフェース(PPI)970は、撮像装置960からのピクセルデータを受取り、メモリ910の保存のためのダイレクトメモリアクセス(DMA)チャンネル972を通して、メモリコントローラ974へデータを送る。適切なソフトウェア制御の下で、PPI970とDMA972の使用は、DSP900により実行されたその他の解析で同時に画像取得させる。PPI970とDMA972で制御するためのソフトウェア命令は、ADSP−BF533 Blackfin Processor Hardware Reference(品番82−002005−01)とBlackfin Processor Instructi on Set Reference(品番82−000410−14)に含まれる、プログラム命令に従い、当業者により実行され、ここにある双方を参照することにより組み込まれる。ここで留意すべきは、ADSP−BF531、競合のADSPBF532とADSP−BF533の装置が、同一のプログラム命令を持っていて、適切な価格/実行取引を得るためにこの実例となる具体例で交互に用いられることである。
【0077】
視覚検出器による好ましい高フレームレートは、従来の技術視覚システムで使われている撮像装置でない、撮像装置の使用を勧めている。撮像装置は、高価でない照明を用い、非常に短いシャッター時間で、操作できるように、異常に光に敏感であることが好ましい。従来の技術システムよりも更に速いDSPでのピクセルデータのデキタル化、転送することができることが更に好ましい。それが、高価でなく、グローバルシャッターを持っていることがなお好ましい。
【0078】
これらの物体は、従来の技術システムで使われた撮像装置よりも、さらに高い光感受性で、低い解像度を持つ撮像装置を選ぶことにより、対応するかもしれない。図5の実例となる具体例では、撮像装置960は、カリフォルニア州サンタクララのナショナル・セミコンダクターにより製造されたLM9630である。LM9630は、典型的な従来の技術システムよりも約24倍少ない、128×100個、総計で12800個のピクセルの配列を持っている。ピクセルは、それぞれ、高い光感受性を持つ、20平方ミクロンの広さである。LM9630は、300マイクロ秒のシャッター時間でのセットが、LED照明を用い、300マイクロ秒にさせるために十分(ほとんどの場合)敏感である場合、毎秒500フレームを供給できる。この解像度は、視覚システムにははるかに低すぎると考えられるが、視覚検出器の方法と装置の物体である検出の特徴には十分である。LM9630の電気的インターフェースとソフトウェア制御は、2004年の1月のRev 1.0のLM9630データシートに含まれる命令に従い、当業者により実行され、それは、ここにある双方を参照することにより組み込まれる。
【0079】
照明940は、高価でないが、短くシャッター時間をするのに十分な明るさがあることが好ましい。実例となる具体例では、630のナノメートルで操作されている高輝度の赤いLEDの列は、たとえば、Agilent Technologiesにより製造されたHLMP−ED25を使用している。もう1つの具体例では、高輝度の白いLEDは、好ましい照明を実行するのに使われている。
【0080】
図5の実例となる具体例では、I/Oモジュール920は、出力信号922と924、入力信号926を供給する。このような出力信号は、拒否作動装置170の制御のために信号420(図1)を供給するのに使われる。入力信号926は、外部トリガを供給するのに使われる。
【0081】
次の用語の画像取得装置は、デジタル画像を取得し、保存することを意味する。図5の実例となる具体例では、画像取得装置980は、DSP900、撮像装置960、メモリ910と、関連した電気的インターフェースとソフトウェア命令を備える。
【0082】
次の用語の分析器は、デジタル画像に限定されないものを含む、デジタルデータの分析の手段を供給する。図5の実例となる具体例では、分析器982は、DSP900、メモリ910と、関連した電気的インターフェースとソフトウェア命令を備える。
【0083】
次の用語の出力信号器は、分析器に応対する出力信号を生産するための手段を供給する。図5の実例となる具体例では、出力信号器984は、I/Oモジュール920と出力信号器922を備える。
【0084】
画像取得装置980、分析器982、出力信号器984を実施するために、視覚検出器の方法と装置の範囲内で使われる、多くの交互配列、装置、ソフトウェア命令があることを当業者は、理解するであろう。
【0085】
特定の用途に合わせて本発明による視覚検出方法及び装置を効率的に動作させるために、種々のトレードオフを実施するする場合がある。下記のような定義を考えてみる。
・bは、撮像装置960の利用できる解像度を十分に活かすためにレンズ950の視覚拡大を選択することにより、検査され、決定される可視の特徴を含む物体の一部により使用されるFOVの割合、
・eは、誤差の票差として使われるFOVの割合、
・nは、それぞれの物体が典型的に見られるフレームの好ましい最小数、
・sは、一般に製造条件による、FOVの積としての物体間でのスペース、
・pは、一般に製造条件により決定される、物体の提示率、
・mは、上記の値に基づき選ばれた、連続のフレーム間で物体が移動するであろうFOVの最大比、
・rは、上記の値に基づき選ばれた、最小のフレームレートである。
【0086】
これらの定義から、以下のように示される。
【0087】
【数1】
【0088】
【数2】
【0089】
撮像装置の利用できる解像度を十分に活かすために、bは、少なくとも50%であることが好ましい。動的画像解析として、nは、少なくとも2であるべきである。したがって、物体は、連続フレーム間で視野の約1/4以下を移動することがさらに好ましい。
【0090】
実例となる具体例では、適正価値は、b=75%、e=5%、n=4であるべきである。これは、物体が、フレーム間でFOVが約5%以下移動するので、フレームレートを選ぶには、すなわち、m≦5%であることを暗示する。製造条件が、s=2であった場合、フレームレートrは、物体提示率pを少なくとも約40倍する必要がある。5Hzの物体提示率を処理するためには、それは、公平な典型的の産業製造であり、好ましいフレームレートは、少なくとも約200Hzである。この速度は、画像解析が5ミリ秒フレーム期間内で適応するために配列される限り、最大3.3ミリ秒シャッター時間で、LM9630を使うのに活かすことができる。利用できる技術を使い、約40,000ピクセルまで含む、撮像装置を使いこの速度を達成することは、可能である。
【0091】
同じ実例となる具体例と12.5Hzのより高度な物体提示率で、好ましいフレームレートは、少なくとも約500Hzである。LM9630は、最大300マイクロ秒シャッターを使うことにより、この速度を処理できる。
【0092】
もう1つの実例となる具体例では、m≦2%であるので、適正価値は、b=75%、e =15%、n=5であるべきである。s=2でp=5Hzで、好ましいフレームレートは、少なくともまた、約500Hzである。
【0093】
[ファジー論理意思決定]
図6は、物体が、存在するかどうか、および、検査を通過するかどうかを判断することを含む、証拠を比較検討し、判断するための実例となる具体例で使われるファジー論理要素を示す。
【0094】
ファジー論理値は、ある特定の状態が真であるという信頼度の推定値を示す0〜1の間の数である。1の数値は、状態が真である信頼度が高いことを示し、0は状態が偽であるという高い信頼度を示し、中間値は、信頼の中間レベルを示す。
【0095】
さらに馴染み深いニ値論理は、信頼値は、0から1で制限される、ファジー論理のサブセットである。ゆえに、ファジー論理を使うここに説明された具体例は、同等のニ値論理方法または装置で置換されるこれらの値を使い、ファジー論理方法または装置で、別のニ値論理値として使うことができる。
【0096】
ニ値論理値は、閾値を使うことにより、原測定値から得られるものであるように、ファジー論理値は、ファジー閾値を使うことにより得られる。図6を参照すると、グラフ1 100は、ファジー閾値を示す。X軸1110は、原測定を示し、f軸1114は、ファジー論理値を示し、そのxの範囲は、全ての可能な原測定で、fの値域は、0≦f≦1である機能である。
【0097】
実例となる具体例では、ファジー閾値は、機能1124と1126上の点に対応して、x軸、低閾値t01120、高閾値t11122で示される、2つの数を備える。ファジー閾値は、次の式で、定義することができる。
【0098】
【数3】
【0099】
ここで留意すべきは、この機能が、t1<t0である場合、よく機能することである。
【0100】
【数4】
【0101】
他の機能は、また、シグモイドのような、ファジー閾値として使うことができる。tとσは、閾値パラメータである。簡素であることが目標である具体例では、従来型ニ値閾値は、ニ値論理値を結果として、使うことができる。
【0102】
ファジー意思決定は、AND1140、OR1150、NOT1160のファジーバージョンに基づいている。2つまたはそれ以上のファジー論理値のファジーANDは、最小値であり、ファジーORは、最大値である。fのファジーNOTは、1−fである。ファジー論理値が0か1に制限されている場合、ファジー論理値は二進法に等しい。
【0103】
実例となる具体例では、真偽の決定が必要である時はいつでも、ファジー論理値は、それが少なくとも0.5である場合は、真として見なされ、0.5以下であれば、偽であると考えられる。
【0104】
ここにあるファジー論理に関連して、値0および1について批判がないことは、当業者により、明らかであろう。信頼の中間レベルを示す中間値として用い、いかなる数が、状態が真であることを高信頼を示すのに使い、それとは違う数が状態を偽であることを高信頼を示すのに使うことができる。
【0105】
[動的画像解析]
図7は、具体例において証拠がどのように動的画像解析に値されるのかを示すものである。本実施例においては、基本決定と呼ばれる以下の2つが決定されなければならない。1.物体または物体の目に見える機能は目で見ることができる範囲に位置しているか。2.その場合、該目的物の状態はどのようなものか。
【0106】
物体が目に見える範囲に位置しているという証拠を構成する情報は物体検出重みと呼ばれる。物体の状態に関する証拠を構成する情報は、物体合格点と呼ばれる。様々な実施例において、該物体の状態は、該物体が使用者により適宜決定された検査基準を満たしているか否かを示すものである。以下においては、該検査基準を満たす物体は「検査合格」とされる場合もある。
【0107】
図7は、2つのプロット、物体検出プロット1200および物体合格プロット1202を示している。2つのプロットの横軸はフレーム連番iを表しており、各フレームは模範線1204というような縦のラインで表されている。
【0108】
図7の実施例では、物体検出重はファジー論理値diであり、物体がフレームiのFOVに位置するという証拠であり、また以下に記述のある方法およびビジョン検出器法および装置を用いて、各フレームでビジョン検出器により演算される。物体合格点はファジー論理値piであり、物体がフレームiにおいて適切な検査基準を満たしているという証拠であり、また以下でさらに説明される方法およびビジョン検出器法および装置を用いて、選択されたフレームでビジョンにより検出器演算される。物体検出プロット1200の縦軸はdiを表し、物体合格プロット1202の縦軸はpiを表す。
【0109】
図7の実施例では、di≧0.5であるフレームは有効であると考えられる(有効フレームの説明については上記図2の記述を参照)。参考として、di=0.5であるライン1230が描かれている。有効フレームに対する物体検出重および合格点は、例えばポイント1210および1212ように黒丸で描かれており、無効フレームは、例えばポイント1214および1216のように白丸で描かれている。図7の実施例では「有効」とみなされているか否かに関わらずすべてのフレームに対して物体合格重が演算されているが、物体合格重が有効フレームに対してのみ演算されている実施例もある。
【0110】
図7の例では、すべての有効フレームは1つの物体の検査に対応し、上記図2の記述で説明された通り、隔離非有効フレーム1220は検査を中断するものではない。
【0111】
一実施例においては、物体は有効フレーム数が一定の閾値を超えたか否かで検出されたと判断されている。別の実施例では、物体は有効フレーム全体の物体検出重の合計が特定の閾値を超えたか否かで検出されたと判断されている。これらの閾値は与えられたアプリケーションに対して適宜設定される。
【0112】
図7の実施例では、物体はそれぞれに対応する物体検出重みで重み付けられた、物体合格点の重み付け平均が最低でも0.5であるか否かという検査を合格したと判断されている。さらに正確にいうならば、以下の場合に物体は検査に合格する。
【0113】
【数5】
【0114】
ここで合計がすべての有効フレームを超えている。この式の効果は、物体の合格点を平均化することではなく、物体が本当に対応するフレームに出現したという信頼性に基づいて各スコアに重み付けをすることである。
【0115】
代替実施例においては、物体合格点平均が少なくとも0.5である場合、物体は検査に合格するために判断される。これは、すべての加重が均一である重み付け平均に等しい。
【0116】
図7の例においては、物体合格点の重み付け平均は約0.86であり、それは線1240によって座標上に示されている。有効フレームの数は11、そして物体検出加重の合計は約9.5である。この例においては、物体は検出されて、検査に合格する。
【0117】
図8は、別の具体例において、動的画像証拠がどのように検討されるかを示す。この例においては、検査される物体の特徴は分かりづらく、物体が視野を通って移動する際、表示と照明の遠近感が丁度良い場合に、主に、フレーム1300および1310などの少数の有効フレームの信頼性とともに現れる。これら数フレームにおいて、証拠が十分あってその特徴が存在する限り、物体は検査に合格するはずである。このシナリオでは、どの有効フレームがこの証拠を有することになるのかを事前に知ることは不可能である。ゆえに、合格点の加重平均はこの場合には適合しない。代わりとしては、これら有効フレームのいずれかにおいて合格点が閾値を超える場合に物体を合格させることであるが、この代替案では証拠が少なすぎることに基づいて物体が合格する可能性がある。図8の具体例においては、加重パーセンタイル法が使用されている。
【0118】
加重パーセンタイル法は、合格点が少なくともpである場合、分数Q(p)に基づく。
【0119】
【数6】
【0120】
物体は、Q(p)が少なくともある閾値tである場合、合格するために判断されるこの場合適当な閾値tは10%であろう。
【0121】
有用な挙動は、tの異なる値を用いて得られる。例えば、t=50%である場合、物体は検査に合格するために、加重中央値が少なくともpであるかどうかを判断される。加重中央値は加重平均と似ているが、一部の例においてより適切な特性を有する。例えば、t=90%のように高い値の場合、合格点が少なくともp.Fort=100%である有効フレームに、圧倒的大多数の加重が対応する場合のみ、物体は検査に合格するために判断され、すべての有効フレームの合格点が少なくともpであるなら、物体は検査に合格するために判断されるであろうまた物体は、Q(p)がゼロより大きい場合、検査に合格するために判断されるかもしれない、このことは、合格点を有するいかなる有効フレームもが少なくともpであるということを意味する。
【0122】
他の有用な変動においては、合格点が、加重の合計の分数ではなく、少なくともpである場合、物体は加重の合計に基づいて、合格するために判断される。
【0123】
代替実施例では、合格点が少なくともpである場合、パーセンタイル法がフレーム数に基づいて使われる。これは、すべての加重が等しい場合の加重パーセンタイル法に匹敵する。
【0124】
物体が検出されかどうか、および物体が検査に合格したかどうかを決定するために証拠を検討する上記の方法は、有用な実施礼の例を意図しているが、視覚検出器の方法および装置の領域において使用できる方法を制限するものではない。例えば、上記で使われる典型的定数0.5は、適切ないかなる値によって差し替えられてもよい。当業者は、動的画像解析に関する、さらなる多くの方法を考え付くであろう。
【0125】
[視覚検出器ソフトウェア要素の方法および装置]
図9は、フレーム分析、判断、入力感知、および出力信号調節のために、具体例により使用される一連のソフトウェア要素の編成(例えば、コンピュータ可読媒体のプログラムインストラクション)を示す。各要素がそれぞれクラスに対応するように、C++等従来のオブジェクト指向プログラミング言語のクラス階層を使用して要素が実行されてもよい。しかしながら、ここで記載されるプロセスを実行するには、基準を満たすいかなるプログラミング技術および/または言語をも使用することができる。
【0126】
図示のように、ガジェットクラス1400のように点線の境界線付きのクラスは、独立しては存在せず、ロケータクラス1420のような具体派生クラスを構築するのに使用される抽象基本クラスである。実線で境界されたクラスは、ユーザーがアプリケーションを設定する必要がある時に、HMI830を使用して作成および破壊することができる動的オブジェクトを表す。入力1450などの破線で境界されたクラスは、特定のハードウェアやソフトウェアリソースと関連する静的オブジェクトを表す。静的オブジェクトは常に存在するものであり、ユーザーによって作成または破壊されることは不可能である。
【0127】
すべてのクラスは、ガジェットクラス1400から派生しているため、図9に示すクラスのインスタンスであるすべてのオブジェクトはガジェットの一種である。具体例においては、各ガジェットは、
1.ユーザーが選択することのできる名前を有し、
2.他のガジェットが判断および出力信号を制御するために、論理入力として使用することができる論理出力(ファジー理論値)を有し、
3.ユーザーが操作を特定するために構成することができる一連のパラメータを有し、
4.論理出力(すなわちファジーNOT)を反転するのに使用可能な、そのようなパラメータをひとつ有し、
5.実行可能であり、そのパラメータ、該当する場合は論理入力、ある種のガジェットについては現行フレームのコンテンツに基づいて論理出力が更新され、また出力信号の設定のような副作用を引き起こすことがある。
【0128】
フレーム分析作業には、ガジェット実行前に、ガジェットへのすべての論理入力が更新されたことを保証するために確定された順序で、各ガジェットを一度実行することが含まれる。ある実施例においては、その論理出力が必要ではないフレームの間はガジェットが実行されない。
【0129】
写真クラス1410は、論理出力が現行フレームのコンテンツに依存するすべてのガジェットの基本クラスである。これらのクラスは実際に画像解析を行うクラスである。各写真は現行フレームの関心領域(ROI)のある特徴を測定する。ROIは、検査される物体の可視機能に対応する。この測定は写真のアナログ出力と呼ばれる。写真の論理出力は、感度閾値と呼ばれる、ユーザーによって構成されることができる一連のパラメータ中に存在するファジー閾値を用いて、アナログ出力から計算される。写真の論理出力は、判断を下す際に使われる証拠を提供するのに使用可能である。
【0130】
検出器クラス1430は、ROIにおける測定および判断を下す際の証拠を提供することを主目的とする写真の基本クラスである。具体例においては、すべての検出器ROIは円型である。円形のROIは、回転を処理する必要がないため実行を簡素化し、またROIの形が1つしかないことで、ユーザーが学習すべきことを簡素化する。検出器パラメータにはポジションおよびROIの直径が含まれる。
【0131】
輝度検出器1440はROIにおける加重平均やパーセンタイル輝度を測定する。コントラスト検出器1442はROIにおけるコントラストを測定する。エッジ検出器1444は、特定方向において、ROIがエッジのように見える領域を測定する。スポット検出器1446は、ROIが穴のような丸い特徴に見える領域を測定する。テンプレート検出器1448は、ROIがユーザーが選択した、事前にトレインされたパターンのように見える領域を測定する。検出器の操作については、以下および視覚検出器の方法および装置においてさらに記述する。
【0132】
ロケータクラス1420は、2つの主目的を持つ写真を表す。1つ目は、判断を下す際の証拠を提供することが可能な論理出力を生成することであり、これにより、他のいかなる検出器のようにも使用することができる。2つ目は、視覚検出器の視野にあるオブジェクトの位置を決定することにより、他の写真のROIのポジションを、オブジェクトのポジションを追跡するように移動することができることである。どのロケータも、1つのまたは両方の目的に使用することができる。
【0133】
具体例においては、ロケータは、フレーム内における一次元領域でエッジを検索する。検索方向は、エッジに向かって垂直であり、ユーザーによって設定されるパラメータの中にある。ロケータのアナログ出力はエッジ検出器のアナログ出力と似ている。ロケータについては視覚検出器の方法および装置においてさらに記載される。
【0134】
入力クラス1450は、外部トリガのような、視覚検出器に送られる入力信号を表す。出力クラス1452は、拒否作動装置を制御するために使われる可能性のあるような、視覚検出器からの出力信号を表す。各物理的入力に対して、典型的入力信号926(図5)のような、入力クラスの静的インスタンスが1つ、および、各物理的出力に対して、典型的出力信号922および924のような、出力クラスの静的インスタンスが1つ存在する。
【0135】
ゲートベースクラス1460はファジー論理の意思決定を実行する。各ゲートは、他のガジェットの論理出力に接続可能な論理入力を1つ以上有する。各論理入力は、ユーザーが設定可能なパラメータを用いて、反転(ファジーNOT)することが可能である。ANDゲート1462は、ファジーAND操作を実行し、ORゲート1464は、ファジーOR演算を実行する。
判断クラス1470は、2つの静的オブジェクトである、物体検出判断1472および物体合格判断1474の基本クラスである。判断は、連続フレームに対して証拠を検討することにより主な判断を下して、動的画像解析を実行する。各判断は、ユーザーが写真の論理出力を接続する論理入力、あるいはより典型的には、通常写真および他のゲートであるガジェットの論理的組み合わせを提供するゲートを有する。
【0136】
物体検出判断1472は、物体が検出されたかどうかを決定し、物体合格判断1474は、その物体が検査に合格するかどうかを決定する。物体検出判断への論理入力は、各フレームに対する物体検出の加重を提供し、物体合格判断への論理入力は、各フレームに対する物体合格点を提供する。
【0137】
物体検出判断の論理出力は、いつ判断が下されたのかを示すパルスを提供する。「プロセス中の出力」というある操作モードにおいては、パルス立ち上がりは、例えば図2の分析ステップ540の終了時などの、物体の検査開始時に発生し、立ち下がりは、例えば分析ステップ548の終了時などの、物体の検査完了時に発生する。「終了時の出力」という別のモードにおいては、パルス立ち上がりは、例えば図2の分析ステップ548の終了時のような、物体の検査が完了する時に発生し、立ち下がりは、例えばアイドルステップ580の終了時のように、その少し後に発生する。
【0138】
物体合格判断の論理出力は、最も最近に検査された物体が合格したかどうかを示すレベルを提供する。例えば分析ステップ548の終了時のように、物体の検査が終了した時にレベルの状態が変わる。
【0139】
図10は、物体の検査に写真がどのように使われることができるかという例を示す。図10は物体110(図1より)のイメージを表しており、ラベル機構120およびホール機構124とともに、写真を表す重畳グラフィックスを有し、それはユーザーが見て操作できるようにHMI830に表示される。HMI上での画像および重畳グラフィックスの表示は画像表示と呼ばれる。
【0140】
図10は画像表示を表しており、ラベル1510およびホール1512を含む物体1500を示す。この例における物体は、検査される6つの可視特徴を含み、後に説明するロケータ2つおよび検出器4つに対応している。
【0141】
ロケータ1520は、物体の上端を検出して位置を確認するために使用され、別のロケータ1522は右端を検出して位置を確認するために使用される。
【0142】
輝度検出器1530は、物体の存在を検出する助けとなるように使用される。この例では、背景は物体より明るく、感度閾値が2つの明るさのレベルを区別するように設定されており、より明るい背景ではなく、より暗い物体を検出するために論理出力が反転されている。
【0143】
後にさらに記載されるように、ロケータ1520および1522、そして輝度検出器1 530は、ともに物体が検出されことを判断するのに必要な証拠提供する。
【0144】
コントラスト検出器1540は、ホール1512の存在を検出するために使用される。ホールが存在しない場合コントラストは非常に低く、ホールが存在する場合コントラストは極めて高くなる。スポット検出器もまた使用される。
【0145】
エッジ検出器1560は、ラベル1510の存在および位置を検出するのに使用される。ラベルが存在しなかったり、水平に間違った位置にあったり、著しく回転している場合は、エッジ検出器のアナログ出力は非常に低くなる。
【0146】
輝度検出器1550は、正しいラベルが貼られたかどうかを確認するために使用される。この例では、正しいラベルは白であり、誤ったラベルは暗い色をしている。
【0147】
物体が視覚検出器の視野を通って左から右に移動すると、ロケータ1522が物体の右端を追跡し、物体に対して正しい位置になるよう、輝度検出器1530、コントラスト検出器1540、輝度検出器1550、およびエッジ検出器1560を再配置する。ロケータ1520は、検出器を物体の上端の位置に基づいて再配置し、視野内の物体のいかなる垂直位置の変動をも修正する。一般的に、ロケータはどのような位置にでも配置することができる。
【0148】
ユーザーは、既知のHMI技術を使用して、画像表示内で写真の操作をすることができる。写真はマウスをクリックすることにより選択可能であり、またドラッグすることにより、そのROIは移動、サイズ変更、および回転が可能である。ロケータに関する付加的な操作は、視覚検出器の方法および装置で記載される。
【0149】
図11は、図10の設定例に対応する配線図を含む論理ビューを示す。配線図は、物体および自動装置へのインターフェースを検査するのに使用されるすべてのガジェット、およびガジェットの論理入力・出力間の接続を示す。配線図は、ユーザーが見て操作するようにHMI830に表示される。ガジェットの表示およびそれらのHMIにおける論理的相互接続は論理ビューと呼ばれる。
【0150】
さらに図11の配線図について言及すると、「トップ」という名前のロケータ1620は、図10の画像表示内のロケータ1520に対応して、ワイヤー1624によりANDゲート1610に接続される。同様に、「サイド」ロケータ1622はロケータ1522に対応して、「ボックス」検出器1630は輝度検出器1530に対応して、ANDゲート1610に接続される。小円1632で示されるように、および上記の通り、明るい背景に対してより暗い物体を検出するために、「ボックス」検出器1630は反転されている。
【0151】
ANDゲート1610の論理出力は、物体の上端が検出されたこと、物体の右端が検出されたこと、および背景が検出されていない、ということについて信頼性のレベルを表している。信頼性が高く3つの条件がすべて真である場合、信頼性が高いため物体自体が検出されている。ANDゲート1610の論理出力は、各フレームに対する物体検出の重みとして使用されるため、物体検出判断1600に配線される。
【0152】
この場合の物体検出判断への論理入力は、現行フレームに依存するため、視覚検出器は視覚事象検出モードで作動している。外部トリガモードで作動するためには、入力ガジェットは物体検出に配線される。連続分析モードで作動するためには、物体検出には何も配線されない。
【0153】
物体検出に配線するガジェットの選択は、アプリケーションの知識に基づきユーザーによって行われる。図10および11の例においては、ユーザーは上および右だけを検出するのでは、物体の存在を確認するのに分ではないと決定したかもしれない。ここで留意するべきなのは、ロケータ1522は、物体の右端に反応するのと同じように、ラベルの左端にも反応するかもしれないこと、そしておそらくこの時点で、プロダクションサイクルにおいて、ロケータ1520が背景で他のエッジを発見したかもしれないということである。検出器1530を加えること、またANDゲート1610を用いて3つすべての条件を満たすことで、物体の検出は信頼性の高いものになる。
【0154】
配線図において、コントラスト検出器「ホール」1640はコントラスト検出器1540に対応して、輝度検出器「ラベル」1650は輝度検出器1550に対応して、そしてエッジ検出器「ラベルエッジ」1660はエッジ検出器1560に対応して、ANDゲート1612に配線される。ANDゲート1612の論理出力は、3つの画像特性すべてが検出されたという信頼性のレベルを表し、各フレームに物体合格点を提供するために物体合格判断1602に配線される。
【0155】
物体検出判断1600の論理出力は、ANDゲート1670に配線される。物体合格判断1602の論理出力は反転されており、またANDゲート1670に配線される。物体検出判断は「終了時に出力」モードに設定されているため、物体が検出され検査が完了した後、物体検出判断1600の論理出力にパルスが出現する。物体合格1602の論理出力は反転されているため、物体が検査に合格しない場合のみ、ANDゲート1670の論理出力上に出現する。ANDゲート1670の論理出力は、拒否作動装置170に直接接続可能な視覚検出器からの出力信号を制御する「拒否」という名前の出力ガジェット1680に配線される。出力ガジェット1680は、ダウンストリームの拒否作動装置に必要とされる適切な遅延570を行うために、ユーザーにより設定される。
【0156】
ユーザーは既知のHMI技術を使うことにより、論理ビュー内でガジェットを操作することができる。ガジェットはマウスをクリックすることにより選択可能であり、そのポジションはドラッグによって移動可能、そしてワイヤーはドラッグ・ドロップ操作により作成が可能である。
【0157】
ユーザーが視覚検出器について理解しやすいように、ガジェットおよび/またはワイヤーはファジー論理値を示すために、視覚的外観を変更することができる。例えば、ガジェットおよび/またはワイヤーは、論理値が0.5未満の場合は赤く、それ以外の場合は緑に表示されることが可能である。図11において、ワイヤー1604および1672は、0.5未満の論理値を示すために破線で描かれており、例えばワイヤー1624などの他のワイヤーは、論理値が0.5に等しいかまたはそれ以上であることを示すために実線で描かれている。
【0158】
当業者は、ガジェットの適切な選択、設定、および配線により、様々な物体が検出および検査可能であるということを認識するであろう。当業者はまた、ガジェットクラス階層は、視覚検出器の方法および装置を実施するために使われる、多くのソフトウェア技術のうちの1つに過ぎないということをも認識するであろう。
【0159】
[視覚検出器を設定するための本発明の実施]
ここで説明される本発明は、前記のアート視覚システムを含む、いかなる画像解析装置を設定するためにも使用でき、以下に述べる発明の具体例は、視覚検出器の設定に基づく。
【0160】
図12は、視覚検出器の設定に関わる本発明の側面を実施するために使用されるであろう生産ラインなどの一部を示す。図12は、視覚検出器400が、まだ対照を検査するために設定されておらず、欠陥のある物体116が、拒否メカニズム170によってコンベヤー100から排除されていない点を除き、図1と一致する。生産ラインは、コンベヤーのスピードおよび周囲の照明を含むそのほか全ての点において、通常の製造条件のもとで稼動しており、また、検査される物体を示す、物体110、112、114、116および118を含み、欠陥のある物体116の場合は、検知される欠陥のサンプルを含むことが望ましい。
【0161】
視覚検出器400は、その視野の一連の画像を取得する。図5の装置の例に関しては、照明940が視野を明るくし、撮像装置960が画像を取得し、PPI970、DMA972、メモリコントローラ974を経由しメモリ910に保存される。上記の図5の説明で詳しく述べたように、フレームレートは、視野を通るときに物体それぞれの複数の画像を取得する分である。さらに、メモリ910は、複数の物体それぞれからの複数の画像を保存するのに分なサイズである。
【0162】
図13は、発明の具体例において使用されるメモリ910の構成を詳細に示す。メモリの一部は、環状バッファ5000に使用され、そこで要素例5010、5012、5014および5016を含む環状バッファのそれぞれの要素が、取得した画像全体を保持する。撮像装置960がLM9635の場合の発明の具体例においては、例えば、環状バッファ5000のそれぞれの要素は、128×100個の8ビットピクセルを備える。
【0163】
明確にするために、図では環状バッファ5000は、24個の要素を有するのみだが、実際は、それ以上であることが望ましい。一例では、160個の要素が使用されているが、わずか2メガバイト以下の保存しか必要とせず、また200フレーム/秒の生産工程で約0.8秒、あるいは500フレーム/秒の場合は0.32秒を保存することができる。明らかに、フレームレートが低いと、画像を保存できる時間は長くなる。
【0164】
環状バッファの操作と実施は、技術的によく知られる。図13の発明の具体例においては、要素例5010の網掛けの要素などが使用中で(すでに取得した画像を含む)、網のかかっていない要素例5012などが使用できる。書き込みポインタ5020は、環状バッファ内の次に使用可能な要素5014を指しているが、そこには次に取得した画像が保存される。読み取りポインタ5022は、もっとも長く使用中の要素5016(最も以前に保存された)を指している。図5の発明の具体例では、DMAチャネル972により、取得した画像がメモリ910内のどこにでも位置することができるため、画像は次に使用可能な要素5014内に、コピーの必要もなく、直接取得される。非常に高いフレームレートが必要であることを前提とすると、これは望ましい。
【0165】
ある時点で、いっぱいになった環状バッファ5002の例のように、環状バッファはいっぱいになる。書き込みポインタ5040は、唯一使用可能な要素5034を指している。一例では、環状バッファがいっぱいになると、画像の取得は終了する。別の例では、読み取りポインタ5042が指している最も古い要素5036を次の取得で上書きし、さらに要素の上書きをして、ポインタを進め続け、人間ユーザーからのコマンドなど、画像取得を終了させる何らかの状態まで、画像取得は継続される。画像取得が終了したあとは、環状バッファ5002は、人間ユーザーが表示できる一連の画像5050を備える。
【0166】
図4に戻るが、視覚検知器は、設定の目的で、通信インターフェース840を経由し、ヒューマン・マシン・インターフェース(HMI)830に接続することができる。HMIが、視覚探知機800の一部となることも可能だが、HMIは一般的に生産に使う必要がないためあまり好ましくなく、またそのためHMIは、複数の視覚探知機により共有することができる。HMIは従来の設計のグラフィカル・ユーザー・インターフェース(GUI)を実行することができるが、その例の一部は図4に示される。
【0167】
GUIにより、一連の画像5050の一部を視覚探知機のメモリ910に保存し、人間ユーザーが表示できるようにする。図14の発明の具体例では、映写スライドウィンドウ5102が、8つのサムネイル画像5110、5112、5114、5116、5120、5130、5132および5134を表示するが、それぞれのサムネイル画像は、一連の画像5050における対応する画像の解像度の低いバージョンである。一般的に、例えば表示される部分5052のように、サムネイル画像は、連続した画像に順番に対応するが(図13)、対応するサムネイル間のある数の画像を飛ばすなど、別の配列も有用である。
【0168】
表示された部分5052を、一連の画像5050内で前または後ろに進めるための一組のスクロールコントロール5150が、映写スライドウィンドウ5102内に備えられる。次への画像コントロール5160は、表示された部分5052を1つの画像ごとに前に進め、前への画像コントロール5162は、表示された部分5052を1つの画像ごとに後ろに進める。コントロール5164および5166については下記で説明する。
【0169】
サムネイル5120は、物体5140の解像度の低い画像を表示するが、例えば物体114に該当する(図12)。物体5140はまた、サムネイル5116および5130において、やや違う視点で見ることができ(視野内の位置)、またサムネイル5110、5112、5114、5132および5134においても、部分的に見ることができる。2つ目の物体5142は、例えば欠陥のある物体116に該当するが、部分的にサムネイル5110および5112上に見られる。三番目の物体は、例えば物体112に該当するが、部分的にサムネイル5134上に見られる。スクロールコントロール5150を使用して、スクロールコマンドを出すことで、ユーザーは表示された部分5052を、前あるいは後ろに進め、それまでに取得されたどの物体をどの視点でも、また通常の生産中に視野に存在しうる他のどんな状態も見ることができる。
【0170】
図14の発明の具体例では、太く縁取りしたサムネイル5120に対応する画像は、画像表示ウィンドウ5100において、最大解像度で表示することもできる。スクロールコマンドが表示部分を前後に進めると、違う画像がサムネイル5120内に移動し、画像表示ウィンドウ5100に最大解像度で表示される。
【0171】
視覚検知器を設定するために、ユーザーは、画像表示ウィンドウ5100に、最初の演習画像として使用するのに適した画像が現われるまでスクロールコマンドを出す。普通、代表的な検査される物体に外見が分類似しているとユーザーが判断した場合、1つの画像が適当である。画像表示ウィンドウ5100上の物体1500は、図10でも示すが、サムネイル5120上の物体5140に対応することに注意したい。最初の演習画像が選ばれると、ユーザーは、ロケータ1520および1522、コントラスト検出器1540、明度検出器1550、エッジ検出器1560など、1つ以上の画像ツールを作成して、視覚探知機を設定する。この発明の具体例では、画像ツールは、どの写真1410でもよい(図9)。作成されたそれぞれの画像ツールのタイプ、位置、サイズ、方向および動作は、最初の演習画像で物体1500と外見が類似している物体が間違いなく検出され、検査されるようにユーザーによって選択される。
【0172】
最初の演習画像を用いた設定が完了すると、確認を行い、場合によっては、追加の演習画像も使用して設定を調整することが望ましい。スクロールコマンドを出して二番目の演習画像を選ぶこともでき、サムネイル5120および画像表示ウィンドウ5100の双方に表示される。二番目の演習画像は、単純に以前に作成された画像ツールの動作を判断するため、あるいは追加で画像ツールの作成、または以前に作成された画像ツールの位置、サイズ、方向および/または動作の調整によって設定をアップデートするために使用することができる。
【0173】
例えば、最初の演習画像を使用して行われた最初の設定には、先に説明した、ロケータ1520および1522と併せて物体の存在を検知するために使用される明度検出器1530を含まなかったかもしれない。最初の演習画面を見るだけでは、ユーザーは明度検出器1530が必要になるかもしれないと気付かなかったかもしれない。物体が視野において一部だけ存在する、あるいは物体が存在しない二番目の演習画像を検討することによってのみ、ユーザーは誤検出を避けるために明度検出器1530が必要であると認識できたかもしれない。
【0174】
同様に、代表的な検査物体に外見が類似しない欠陥のある物体116に対応する、二番目の演習画像は、コントラスト検出器1540を正しく調整する必要がある。
【0175】
[視覚検出器をテストするための本発明の実施]
視覚検出器を設定する過程において、画像ツールの動作を値するために、二番目の演習画像を使用して行うことができるよりもさらに徹底した設定のテストを行うことが望ましい。そういったテストが多数の物体を含み、限られた数の画像を取得、保存し、それらの画像が誤判断を示す可能性のある物体に対応することがさらに望ましい。同様のテストが実際の製造過程でも望まれる。コンベヤーのスピードおよび周囲の照明を含む製造環境が、設定時と製造過程において同一であることが望ましい。製造過程を示す図1を、設定を示す図12を比較すると、図12においては拒否作動装置170が視覚検出器400から拒否信号を受け取っていないことが唯一の相違であるとわかる。
【0176】
視覚検出器のテストに使われる実施例において、視覚検出器は離散した物体の検出および検査のために設定される。視覚検出器は、図2に示されるように操作して、視覚事象検出を使用したり、図3に示されるように操作して、外部トリガ信号を使用したりしてもよい。視覚検出器は図10および11に示されるような設定を有することになるであろう。
【0177】
図2については、有効フレーム540から始まり無効フレーム548で終る7つのフレームのグループ(時系列部500)は、物体1の検出および検査に影響を及ぼす。同様に、時系列部510に対応する5つのフレームのグループは、物体2の検出および検査に影響を及ぼす。物体1や物体2のような物体が人間ユーザーの関心事である可能性がある場合、大抵、誤った決定を表すかもしれないので、本発明はグループ内のフレームを保存および表示する方法およびシステムを提供する。ある実施例においては、保存および表示されるこのグループは、フレーム542のような無効フレーム、および終了フレーム546および548を含む。具体例においては、546および548のような終了フレームは、保存および表示されるグループから省略される。
【0178】
外部トリガが使われる図3に関しては、物体1について保存および表示されるフレームのグループは、その物体に対して取得および分析された、すべてのフレームを含む、すなわちフレーム640、642、および644である。
【0179】
上記の通り、物体の状態に関する情報を含む結果を決定するために、物体は分析される。結果は、物体が検査に合格したかどうか、というくらい単純なものであるかもしれない。具体例において、結果は、物体が検出され、検査に合格するという、相対的な信頼性を示す数字を含む。例えば、そのような数字の1つは、有効フレームの数や、物体が検出されたかどうかを決定する決定閾値と比較された、物体検出加重の総和であるかもしれない(これらの数字に関するさらなる詳細については、図7に関する上記記述を参照)。
【0180】
これらの結果は、対応する物体のフレームグループが、人間ユーザーの関心事であるかどうかを決定するのに使用され、そうである場合は、結果は後続の表示のために保存されるであろう。ユーザーは、すべての物体に関心があるかもしれないし、あるいは合格する物体だけに、または不合格の物体だけに関心があるかもしれない。大抵の場合、誤った決定を示しがちな物体に対応する画像を保存および表示することが最も望ましい。なぜなら、それらの画像が発生することは非常にまれであり、注意深く調査することを最も必要とする状況であるからである。誤った決定は、相対的な信頼性を示す数字が決定閾値に近い場合に起こりやすい。
【0181】
保存されたフレームのグループは一連の画像であり、その一部は上記の通り図14に示されたグラフィカルユーザーインターフェースによって表示可能である。スクロール制御5150は、次画像5160および前画像5162に加えて、それぞれのグループごとに表示部を前後に進める、次グループ制御5164および前グループ制御5166を含む。
【0182】
図15は、具体例で使用されるメモリ910(図5)の編成の詳細を表す。フレームバッファプール5200は、フレームバッファ5230、5232、5234および5238のような、多目的に使用される多くの個別フレームバッファを含む。フリープール5210は、リングバッファとして編成され、1つの物体に対してフレームを取得し、分析することに使用される。書き込みポインタ5220は、次に使用可能なフレームバッファ5230を表し、そこで次のフレームが取得される。フレームバッファ5230に取得される画像と同時に、フレームバッファ5232内にある前の画像が分析される。以前に取得および分析された現行グループ内のフレームには、読み込みポインタ5222によって表されるフレームバッファ5134から始まって、影が付けられる。
【0183】
ここで留意すべきなのは、新しい物体の有効フレームがまだ見付かっていない場合には、現行グループが存在しないので、読み込みポインタ5222はフレームバッファ5232を表し、新しい物体が見付かるまで、それぞれの新しいフレームを進めるということである。さらに、フリープール5210が満杯になった場合、グループ内の一部の古いフレームは保存されなくなるということにも留意するべきである。
【0184】
物体の分析が完了し、物体のステータスに関する情報を含む結果が決定されると、グループは完了する。結果が、次表示にグループが保存されないことを示す場合には、読み込みポインタ5222を進めるだけで、画像は廃棄される。グループが保存される場合は、フレームバッファはフリープール5210から除外され、保存グループ5212、5214、および5216を含む、保存グループプール5204に追加される。新しい保存グループを除外した後に、フリープール5210内のフレームバッファ数が少なくなりすぎる場合には、1つ以上の古い保存グループを保存グループプール5204から取って、このフリープールに戻してもよい。これらの古いグループは、もう表示に使用することはできないであろう。
【0185】
具体例においては、フレームバッファは決してコピーされることはない。その代わりに、フレームバッファは、当業者に既知の技術を用いてポインタ操作を行うことにより、フリープール5210と保存グループプール5204の間を移動させられる。
【0186】
リスト要素5240、5242、および5244を含む保存グループ5202のリストは保持される。例えば、リスト要素5240は、次の要素ポインタ5250、フレームバッファカウント5252、結果情報5254および保存グループポインタ5256を含む。結果情報5254は、グループを保存するべきかどうか決定するのに使用される、相対的信頼度数を含む。この場合留意するべきなのは、決定閾値は0.5であり、3つの保存グループは、この閾値に近い信頼度数を有しているということである。さらに、このリストは決定閾値に近い順に保存されるということにも留意すべきである。保存グループを、保存部ループプール5204から移動してフリープール5210に戻す必要がある場合、決定閾値から最も遠い、リストの一番最初にあるグループが動かされる。
【0187】
本発明の具体例の詳細な説明を上述した。発明の精神および領域から外れることなく、様々な改良および追加を行うことが可能である。例えば、代替実施例によると、GUIのレイアウトおよび制御オプションは、非常に可変性が高い。GUIのフィルムストリップウィンドウ内にあるサムネイルの数およびサイズもまた、変動しやすい。従って、この説明は、例証と解釈されることを意図しており、発明の領域を制限するものではない。
【図面の簡単な説明】
【0188】
【図1】生産ライン上で物体を検査するための、視覚検出器の方法と装置にかかる、視覚検出器の具体例を示す。
【図2】視覚事象の検出を使用した、視覚検出器のための典型的なオペレーティング・サイクルを図解する時系列を示す。
【図3】トリガ信号を使用した、視覚検出器のための典型的なオペレーティング・サイクルを説明する時系列を示す。
【図4】生産環境における、視覚検出器のためのハイレベル・ブロック図を示す。
【図5】視覚検出器の具体例のブロック図を示す。
【図6】物体が存在するかどうか、および、検査に合格するかどうかなど、証拠を検討し、判断するために、具体例で使われるファジー論理要素を示す。
【図7】具体例において、動的画像解析のために証拠がどのように検討されるかを示す。
【図8】別の具体例において、動的画像解析のために証拠がどのように検討されるかを示す。
【図9】フレームを解析し、決断を下し、入力を感知し、出力信号を制御するために、具体例によって使用される、一連のソフトウェア要素の編成(例えば、コンピュータ可読媒体のプログラムコマンドなど)を示す。
【図10】典型的な物体を検出するために使うことのできる視覚検出器の典型的な構成の一部を示す。
【図11】図10の典型的な設定に対応する構成の別の部分を示す。
【図12】視覚検出器の設定に使用される物体を含む生産ラインを示す。
【図13】視覚検出器の設定に使用される画像を保存するためのメモリ配置を示す。
【図14】スライドウィンドウおよび画像表示ウィンドウを含む、グラフィカル・ユーザー・インターフェースの一部を示す。
【図15】視覚検出器をテストするための保存画像のためのメモリ配列を示す。
【特許請求の範囲】
【請求項1】
物体を検出するための画像解析装置を設定するための方法であって、
前記画像解析装置の視野に対し、連続する物体を継続的に動かすステップと、
連続画像が、前記連続する物体からの複数の物体のそれぞれの複数の画像を含むように、前記視野の連続画像を取得するステップと、
人間のユーザーによる閲覧のために前記連続画像の一部を表示するステップであって、表示選択された前記一部は前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を連続画像で前後に動かすことができる、ステップと、
前記連続画像の表示部分から第一演習画像を選択するステップと、
前記第一演習画像の物体と外見が似ている物体を検査することができる、少なくとも一つの視覚ツールを、前記第一演習画像を使いながら作成することにより、前記画像解析装置を設定するステップと、
を含む方法。
【請求項2】
前記連続画像の表示部分から少なくとも一つの第2演習画像を選択するステップと、
物体を検査するための追加の視覚ツールを作成し、
以前作成された視覚ツールの領域の位置を調整し、
以前作成された視覚ツールの領域の大きさを調整し、
以前作成された視覚ツールの領域の方向を調整し、
以前作成された視覚ツールの操作パラメータを調整し、
以前作成された視覚ツールの方向を評価することのうち少なくとも一つを実行するために、前記少なくとも一つの第2演習画像を使用するステップと、
をさらに含む、請求項1に記載の方法。
【請求項3】
前記少なくとも一つの第2演習画像が、検査される物体に外見が似ていない、少なくとも一つの画像を含む、請求項2に記載の方法。
【請求項4】
前記外見が似ていない少なくとも一つの画像が、視野に物体が存在しない画像を含む、請求項3に記載の方法。
【請求項5】
前記外見が似ていない少なくとも一つの画像が、視野に部分的に物体が存在する画像を含む、請求項3に記載の方法。
【請求項6】
前記画像解析装置は、複数の物体画像を解析することにより、物体を検査できる視覚検出器であり、前記複数の物体画像は、前記視覚検出器の視野における物体の複数の位置を含む、請求項1に記載の方法。
【請求項7】
視覚検出器を試験するための方法であって、
前記視覚検出器の視野に対し、連続する物体を継続的に動かすステップと、
複数のフレームグループを取得するステップであって、前記複数のフレームグループの各フレームグループが、前記連続する物体中の一つの該当する物体の複数の画像を含むように、前記複数のフレームグループの各フレームは前記視野の画像を含む、ステップと、
前記複数のフレームグループに対応する複数の結果を決定するために各物体を分析するステップであって、前記複数の結果のうちの各結果は、前記フレームグループに対応する物体の状態についての情報を含む、ステップと、
前記複数の結果に反応して、前記複数のフレームグループから選択されたフレームグループのセットを保存するステップであって、前記フレームグループのセットは、保存された画像のセットを含む、ステップと、
人間のユーザーによる閲覧のために前記保存された画像の一部を表示するステップであって、表示選択された前記一部は、前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を前記保存された画像で前後に動かすことができる、ステップと、
を含む方法。
【請求項8】
前記複数の結果のうちの各結果は、対応する物体が、検査を合格するかどうかを示し、
物体が検査を合格することを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項7に記載の方法。
【請求項9】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格しないことを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項7に記載の方法。
【請求項10】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するという相対的信頼度を示す数を含み、
その数は、対応する物体が検査を合格するかどうかを決めるための決定閾値と比較され、前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項7に記載の方法。
【請求項11】
前記複数の結果のうちの各結果は、対応する物体が検出されたという相対的信頼度を示す数を含み、
その数は、対応する物体が検出されたかどうかを決めるための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項7に記載の方法。
【請求項12】
連続画像を提供するために、連続する物体の画像を取得するよう設定された画像解析装置であって、前記連続する物体は、前記画像解析装置に対する動きを有し、前記画像解析装置は、前記連続画像が、前記連続する物体からの複数の物体のそれぞれの複数の画像を含むようなフレームレートを持つ、画像解析装置と、前記連続画像の一部を表示するよう設定されたヒューマン・マシン・インターフェースと、前記連続画像からの演習画像を選択するための選択手段と、前記演習画像を使って前記画像解析装置を設定するための設定手段とを備えた装置。
【請求項13】
画像解析装置は、約40,000ピクセル以下の撮像装置を備えた、請求項12に記載の装置。
【請求項14】
連続する物体と、
視野を持つ視覚検出器であって、前記連続する物体は前記視野に対して連続した動きを有し、複数のフレームグループを取得し、前記複数のフレームグループの各フレームグループが、前記連続する物体中の一つの該当する物体の複数の画像を含むように、前記複数のフレームグループの各フレームは前記視野の画像を含み、前記複数のフレームグループに対応する複数の結果を決定するために各物体を分析し、前記複数の結果のうちの各結果は、前記フレームグループに対応する物体の状態についての情報を含むように設定される視覚検出器と、
前記複数の結果に反応して、前記複数のフレームグループから選択されたフレームグループのセットを保存するよう設定されるメモリであって、前記フレームグループのセットは、保存された画像のセットを含む、メモリと、
人間のユーザーによる閲覧のために前記保存された画像の一部を表示するためのヒューマン・マシン・インターフェースであって、表示選択された前記一部は、前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を前記保存された画像で前後に動かすことができる、ヒューマン・マシン・インターフェースと、
を備える装置。
【請求項15】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格することを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項14に記載の装置。
【請求項16】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格しないことを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項14に記載の装置。
【請求項17】
前記複数の結果のうちの各結果は、対応する物体が検査を通過するかどうかの相対的信頼度を示す数を含み、
その数は、対応する物体が検査を合格するかどうかを決定するための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項14に記載の装置。
【請求項18】
前記複数の結果のうちの各結果は、対応する物体を検出したという相対的信頼度を示す数を含み、
その数は、対応する物体を検出したかどうかを決定するための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項14に記載の装置。
【請求項1】
物体を検出するための画像解析装置を設定するための方法であって、
前記画像解析装置の視野に対し、連続する物体を継続的に動かすステップと、
連続画像が、前記連続する物体からの複数の物体のそれぞれの複数の画像を含むように、前記視野の連続画像を取得するステップと、
人間のユーザーによる閲覧のために前記連続画像の一部を表示するステップであって、表示選択された前記一部は前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を連続画像で前後に動かすことができる、ステップと、
前記連続画像の表示部分から第一演習画像を選択するステップと、
前記第一演習画像の物体と外見が似ている物体を検査することができる、少なくとも一つの視覚ツールを、前記第一演習画像を使いながら作成することにより、前記画像解析装置を設定するステップと、
を含む方法。
【請求項2】
前記連続画像の表示部分から少なくとも一つの第2演習画像を選択するステップと、
物体を検査するための追加の視覚ツールを作成し、
以前作成された視覚ツールの領域の位置を調整し、
以前作成された視覚ツールの領域の大きさを調整し、
以前作成された視覚ツールの領域の方向を調整し、
以前作成された視覚ツールの操作パラメータを調整し、
以前作成された視覚ツールの方向を評価することのうち少なくとも一つを実行するために、前記少なくとも一つの第2演習画像を使用するステップと、
をさらに含む、請求項1に記載の方法。
【請求項3】
前記少なくとも一つの第2演習画像が、検査される物体に外見が似ていない、少なくとも一つの画像を含む、請求項2に記載の方法。
【請求項4】
前記外見が似ていない少なくとも一つの画像が、視野に物体が存在しない画像を含む、請求項3に記載の方法。
【請求項5】
前記外見が似ていない少なくとも一つの画像が、視野に部分的に物体が存在する画像を含む、請求項3に記載の方法。
【請求項6】
前記画像解析装置は、複数の物体画像を解析することにより、物体を検査できる視覚検出器であり、前記複数の物体画像は、前記視覚検出器の視野における物体の複数の位置を含む、請求項1に記載の方法。
【請求項7】
視覚検出器を試験するための方法であって、
前記視覚検出器の視野に対し、連続する物体を継続的に動かすステップと、
複数のフレームグループを取得するステップであって、前記複数のフレームグループの各フレームグループが、前記連続する物体中の一つの該当する物体の複数の画像を含むように、前記複数のフレームグループの各フレームは前記視野の画像を含む、ステップと、
前記複数のフレームグループに対応する複数の結果を決定するために各物体を分析するステップであって、前記複数の結果のうちの各結果は、前記フレームグループに対応する物体の状態についての情報を含む、ステップと、
前記複数の結果に反応して、前記複数のフレームグループから選択されたフレームグループのセットを保存するステップであって、前記フレームグループのセットは、保存された画像のセットを含む、ステップと、
人間のユーザーによる閲覧のために前記保存された画像の一部を表示するステップであって、表示選択された前記一部は、前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を前記保存された画像で前後に動かすことができる、ステップと、
を含む方法。
【請求項8】
前記複数の結果のうちの各結果は、対応する物体が、検査を合格するかどうかを示し、
物体が検査を合格することを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項7に記載の方法。
【請求項9】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格しないことを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項7に記載の方法。
【請求項10】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するという相対的信頼度を示す数を含み、
その数は、対応する物体が検査を合格するかどうかを決めるための決定閾値と比較され、前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項7に記載の方法。
【請求項11】
前記複数の結果のうちの各結果は、対応する物体が検出されたという相対的信頼度を示す数を含み、
その数は、対応する物体が検出されたかどうかを決めるための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項7に記載の方法。
【請求項12】
連続画像を提供するために、連続する物体の画像を取得するよう設定された画像解析装置であって、前記連続する物体は、前記画像解析装置に対する動きを有し、前記画像解析装置は、前記連続画像が、前記連続する物体からの複数の物体のそれぞれの複数の画像を含むようなフレームレートを持つ、画像解析装置と、前記連続画像の一部を表示するよう設定されたヒューマン・マシン・インターフェースと、前記連続画像からの演習画像を選択するための選択手段と、前記演習画像を使って前記画像解析装置を設定するための設定手段とを備えた装置。
【請求項13】
画像解析装置は、約40,000ピクセル以下の撮像装置を備えた、請求項12に記載の装置。
【請求項14】
連続する物体と、
視野を持つ視覚検出器であって、前記連続する物体は前記視野に対して連続した動きを有し、複数のフレームグループを取得し、前記複数のフレームグループの各フレームグループが、前記連続する物体中の一つの該当する物体の複数の画像を含むように、前記複数のフレームグループの各フレームは前記視野の画像を含み、前記複数のフレームグループに対応する複数の結果を決定するために各物体を分析し、前記複数の結果のうちの各結果は、前記フレームグループに対応する物体の状態についての情報を含むように設定される視覚検出器と、
前記複数の結果に反応して、前記複数のフレームグループから選択されたフレームグループのセットを保存するよう設定されるメモリであって、前記フレームグループのセットは、保存された画像のセットを含む、メモリと、
人間のユーザーによる閲覧のために前記保存された画像の一部を表示するためのヒューマン・マシン・インターフェースであって、表示選択された前記一部は、前記人間のユーザーからのスクロールコマンドに反応し、前記スクロールコマンドは、前記一部を前記保存された画像で前後に動かすことができる、ヒューマン・マシン・インターフェースと、
を備える装置。
【請求項15】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格することを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項14に記載の装置。
【請求項16】
前記複数の結果のうちの各結果は、対応する物体が検査を合格するかどうかを示し、
物体が検査を合格しないことを対応する結果が示す前記物体に、前記選択されたフレームグループのセットが対応する、請求項14に記載の装置。
【請求項17】
前記複数の結果のうちの各結果は、対応する物体が検査を通過するかどうかの相対的信頼度を示す数を含み、
その数は、対応する物体が検査を合格するかどうかを決定するための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項14に記載の装置。
【請求項18】
前記複数の結果のうちの各結果は、対応する物体を検出したという相対的信頼度を示す数を含み、
その数は、対応する物体を検出したかどうかを決定するための決定閾値と比較され、
前記選択されたフレームグループのセットは、対応する数が前記決定閾値に近い物体に対応する、請求項14に記載の装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公表番号】特表2008−502916(P2008−502916A)
【公表日】平成20年1月31日(2008.1.31)
【国際特許分類】
【出願番号】特願2007−527613(P2007−527613)
【出願日】平成17年6月6日(2005.6.6)
【国際出願番号】PCT/US2005/019764
【国際公開番号】WO2005/124316
【国際公開日】平成17年12月29日(2005.12.29)
【出願人】(500576452)コグネックス・テクノロジー・アンド・インベストメント・コーポレーション (14)
【Fターム(参考)】
【公表日】平成20年1月31日(2008.1.31)
【国際特許分類】
【出願日】平成17年6月6日(2005.6.6)
【国際出願番号】PCT/US2005/019764
【国際公開番号】WO2005/124316
【国際公開日】平成17年12月29日(2005.12.29)
【出願人】(500576452)コグネックス・テクノロジー・アンド・インベストメント・コーポレーション (14)
【Fターム(参考)】
[ Back to top ]