画像認識処理方法、画像認識処理装置及びボタン画像認識処理装置
【課題】撮像対象物の形状によらず撮像対象物を判別可能とする画像認識処理方法を提供する。
【解決手段】規則的な模様(背景2a)が施された平面を有する背景部材2と、背景2aの範囲内にあるボタンBを背景2aごと撮像するカメラ3とを用いてカメラ3によって撮像された画像からボタンBを認識する画像認識処理方法において、撮像画像において背景2aの規則的な模様を有しない範囲をボタンBとして判別する。
【解決手段】規則的な模様(背景2a)が施された平面を有する背景部材2と、背景2aの範囲内にあるボタンBを背景2aごと撮像するカメラ3とを用いてカメラ3によって撮像された画像からボタンBを認識する画像認識処理方法において、撮像画像において背景2aの規則的な模様を有しない範囲をボタンBとして判別する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラで撮像対象物を撮像して当該撮像対象物を認識する画像認識処理方法、画像認識処理装置及びボタン画像認識処理装置に関する。
【背景技術】
【0002】
ボタン付けミシンにより穴付きボタンを布等の被縫製物に縫い付ける場合、針がボタンの穴部を貫通して縫いつけるため、ボタンの位置、とりわけボタンの穴部の位置を被縫製物に対して正確に配置する必要がある。このため、ボタンの穴部の位置及び穴部同士の間隔に対応したピンを有する搬送部材を設け、ボタンの穴部をこのピンに差し込んだ状態でミシン縫合部に搬送することでボタンの穴部の位置を位置決めする方法が行われていた。
しかし、この方法によると、ボタンの表面に文字等の模様を配したボタンを模様が布地に対して所定の方向を向くように供給する場合に、模様の形成方向や位置が判別できないためボタンが所望の方向を向くように供給できないといった問題がある。
【0003】
このため、表面に模様を配したボタンをカメラ等で撮像し、撮像画像からボタンの向きを判別してボタンの位置を補正させる方法が行われるようになった(例えば特許文献1)。
また、撮像対象物を明確に抽出するための技術として、背景を縞模様とするとともに、縞模様を形成する二色のうち少なくとも一色を撮像対象物と大きく異なる色とすることにより好適に撮像対象物を撮像する方法が知られている(例えば特許文献2)。
【特許文献1】特公平2−23197号公報
【特許文献2】特開平9−54892号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載された方法、すなわち撮像画像によるボタンの向きの判別では、ボタンの撮像時にボタンとボタンが置かれた土台部の上面の色とが酷似していると、画像処理におけるボタンと土台部との判別がつきにくく、好適にボタンが検出できないといった問題がある。
また、ボタンの向きの判別はできてもボタンの穴部の位置を正しく検出することはできないといった問題点があった。このため、ボタンの位置決めが正確にできないとともに、ボタンの穴部の形成に不良があった場合に検出できないといった問題点があった。
さらに、模様を有しない一般的なボタンを利用することができず、汎用性に乏しいものとなった。
また、特許文献2の技術を利用したとしても、透過性を有するボタンの場合、背景とボタンとの濃度の急変部分が生じず、ボタンの外周の形状が確実に抽出できないといった問題点があった。
【0005】
本発明は、上述の問題点に鑑み、撮像対象物の形状によらず撮像対象物を判別可能な画像認識処理方法、画像認識処理装置及びミシンのボタン画像認識処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
請求項1記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラと、を用いて前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理方法において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別工程を含むことを特徴とする。
【0007】
請求項2記載の発明は、請求項1に記載の画像認識処理方法において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0008】
請求項3記載の発明は、請求項1又は2に記載の画像認識処理方法において、前記撮像対象物として判別された画像の範囲から前記撮像画像の前記撮像対象物があらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別工程を含むことを特徴とする。
請求項3における「撮像対象物の特徴」とは、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等である。
【0009】
請求項4記載の発明は、請求項3に記載の画像認識処理方法において、前記特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用することを特徴とする。
【0010】
請求項5記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理装置において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別手段を備えることを特徴とする。
【0011】
請求項6記載の発明は、請求項5に記載の画像認識処理装置において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0012】
請求項7記載の発明は、請求項5又は6に記載の画像認識処理装置において、前記撮像対象物として判別された画像の範囲から前記撮像画像の前記撮像対象物があらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする。
請求項7における「撮像対象物の特徴」とは、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等である。
【0013】
請求項8記載の発明は、請求項7に記載の画像認識処理装置において、前回以前の撮像対象物の撮像画像から前記撮像対象物の特徴となる画像を取得する特徴取得手段を備えることを特徴とする。
【0014】
請求項9記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある衣類のボタンを前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記ボタンを認識するボタン画像認識処理装置において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記ボタンとして判別する判別手段を備えることを特徴とする。
【0015】
請求項10記載の発明は、請求項9に記載のボタン画像認識処理装置において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0016】
請求項11記載の発明は、請求項9又は10に記載のボタン画像認識処理装置において、前記ボタンとして判別された画像の範囲からあらかじめ設定された前記ボタンの特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする。
請求項11における「ボタンの特徴」とは、ボタンの色、ボタンに施された文字や模様等の装飾、ボタンの立体形状による撮像時の画像の濃淡パターン等である。
【0017】
請求項12記載の発明は、請求項11に記載のボタン画像認識処理装置において、前回以前のボタンの撮像画像から前記ボタンの特徴となる画像を取得する特徴取得手段を備えることを特徴とする。
【0018】
請求項13記載の発明は、請求項11又は12に記載のボタン画像認識処理装置において、前記特徴判別手段は、あらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別することを特徴とする。
【発明の効果】
【0019】
請求項1記載の発明によれば、判別工程において背景の規則的な模様を有しない範囲を撮像対象物として判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分を撮像対象物として判別する。このとき、撮像対象物の形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えば撮像対象物が縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、撮像対象物の形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみで撮像対象物を判別することが可能となる。よって、より好適に撮像対象物を判別できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景と撮像対象物との境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、撮像対象物が縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのか撮像対象物の一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、撮像対象物の内側に穴部等の背景が覗く貫通部が設けられている場合、当該貫通部の内側は背景の規則的な模様が覗くことにより背景として判別され、撮像対象物とはみなされなくなる。つまり、撮像対象物の内側に貫通部が設けられている場合に、当該貫通部が正しく判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適に撮像対象物の形状を判別することが可能となる。よって、より一層好適に撮像対象物を判別できる。
さらに、撮像対象物が透過性を有する場合であっても、背景が撮像対象物を透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、撮像対象物と判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適に撮像対象物を判別できる。
【0020】
請求項2記載の発明によれば、カメラのピントを背景に合わせるので、撮像対象物の厚さや高さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景と撮像対象物との誤認の可能性を大幅に低減することが可能となる。よって、より一層好適に撮像対象物を判別できる。
【0021】
請求項3記載の発明によれば、特徴判別工程において、撮像対象物として判別された画像の範囲から当該画像の撮像対象物があらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行って撮像対象物の範囲を判別した後に、当該撮像対象物の範囲についてあらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。これによって、あらかじめ設定された撮像対象物の特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外された撮像対象物の範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等といった撮像対象物の特徴について、撮像画像の撮像対象物があらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いの撮像対象物、装飾内容の異なる撮像対象物、文字や模様等の向きが異なる撮像対象物及び立体形状の特徴が異なる撮像対象物等の判別を行うことが可能となる。よって、従来技術において、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、撮像対象物の特徴をより詳細に判別できる。
【0022】
請求項4記載の発明によれば、特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用する。従って、撮像対象物の特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、撮像対象物の特徴の設定の手間を大幅に軽減することが可能となる。
【0023】
請求項5記載の発明によれば、判別手段が背景の規則的な模様を有しない範囲を撮像対象物として判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分を撮像対象物として判別する。このとき、撮像対象物の形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えば撮像対象物が縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、撮像対象物の形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみで撮像対象物を判別することが可能となる。よって、より好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景と撮像対象物との境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、撮像対象物が縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのか撮像対象物の一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、撮像対象物の内側に穴部等の背景が覗く貫通部が設けられている場合、当該貫通部の内側は背景の規則的な模様が覗くことにより背景として判別され、撮像対象物とはみなされなくなる。つまり、撮像対象物の内側に貫通部が設けられている場合に、当該貫通部が正しく判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適に撮像対象物の形状を判別することが可能となる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
さらに、撮像対象物が透過性を有する場合であっても、背景が撮像対象物を透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、撮像対象物と判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
【0024】
請求項6記載の発明によれば、カメラのピントを背景に合わせるので、撮像対象物の厚さや高さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景と撮像対象物との誤認の可能性を大幅に低減することが可能となる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
【0025】
請求項7記載の発明によれば、特徴判別手段が撮像対象物として判別された画像の範囲から当該画像の撮像対象物があらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行って撮像対象物の範囲を判別した後に、当該撮像対象物の範囲についてあらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。これによって、あらかじめ設定された撮像対象物の特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外された撮像対象物の範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等といった撮像対象物の特徴について、撮像画像の撮像対象物があらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いの撮像対象物、装飾内容の異なる撮像対象物、文字や模様等の向きが異なる撮像対象物及び立体形状の特徴が異なる撮像対象物等の判別を行うことが可能となる。よって、従来技術において、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、撮像対象物の特徴をより詳細に判別可能な画像認識処理装置を提供できる。
【0026】
請求項8記載の発明によれば、特徴判別手段が、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用する。従って、撮像対象物の特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、撮像対象物の特徴の設定の手間を大幅に軽減することが可能となる。
【0027】
請求項9記載の発明によれば、判別手段が背景の規則的な模様を有しない範囲をボタンとして判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分をボタンとして判別する。このとき、ボタンの形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えばボタンが縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、ボタンの形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみでボタンを判別することが可能となる。よって、より好適にボタンを判別可能な画像認識処理装置を提供できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景とボタンとの境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、ボタンが縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのかボタンの一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、上述の特徴によりボタンの内側に設けられた穴部が正しく判別される。よって、ボタンの内側に設けられた穴部を抽出できないといった従来技術の問題点を解消でき、より好適にボタンの穴部の形状や位置や穴部同士の間隔を判別することが可能となる。よって、好適にボタンの向きを判別可能なボタン画像認識処理装置を提供できる。
さらに、ボタンが透過性を有する場合であっても、背景がボタンを透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、ボタンと判別される。よって、透過性を有するボタンの場合、背景とボタンとの濃度の急変部分が生じず、ボタンの外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適にボタンを判別可能なボタン画像認識処理装置を提供できる。
【0028】
請求項10記載の発明によれば、カメラのピントを背景に合わせるので、ボタンの厚さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景とボタンとの誤認の可能性を大幅に低減することが可能となる。よって、より一層好適にボタンを判別可能な画像認識処理装置を提供できる。
【0029】
請求項11記載の発明によれば、特徴判別手段がボタンとして判別された画像の範囲から当該画像のボタンがあらかじめ設定されたボタンの特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行ってボタンの範囲を判別した後に、当該ボタンの範囲についてあらかじめ設定されたボタンの特徴を有するかどうかを判別する。これによって、あらかじめ設定されたボタンの特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外されたボタンの範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、ボタンの色、ボタンに施された文字や模様等の装飾、ボタンの立体形状による撮像時の画像の濃淡パターン等といったボタンの特徴について、撮像画像のボタンがあらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いのボタン、装飾内容の異なるボタン、文字や模様等の向きが異なるボタン及び立体形状の特徴が異なるボタン等の判別を行うことが可能となる。よって、従来技術において、ボタンに施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、ボタンの特徴をより詳細に判別可能なミシンのボタン画像認識処理装置を提供できる。
【0030】
請求項12記載の発明によれば、特徴判別手段が前回以前のボタンの撮像画像から取得された前記ボタンの特徴となる画像を利用する。従って、ボタンの特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、ボタンの特徴の設定の手間を大幅に軽減することが可能となる。
【0031】
請求項13記載の発明によれば、特徴取得手段があらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別する。この場合、ボタンの表を撮像した場合の画像の濃淡パターンデータと、ボタンの裏を撮像した場合の画像の濃淡パターンデータとは異なるものであり、特徴判別手段はボタンの表と裏の画像の濃淡パターンデータの違いによりボタンの表裏を判別する。例えばあらかじめ設定された画像の濃淡パターンデータがボタンの表を撮像した場合の画像の濃淡パターンデータの場合は、特徴判別手段は当該濃淡パターンデータと撮像画像のボタンの濃淡パターンデータとが一致すればボタンは表であると判別し、異なれば裏であると判別する。これによって、ボタンが本来意図した置き方に対して裏返しになっていないかどうかを判別することが可能となる。よって、例えば縫い付け前に特徴判別手段によるボタンの表裏判定を行うことで、誤ってボタンを裏返した状態で縫い付けてしまうといった事態をなくすことができ、縫い品質が大幅に向上する。
【発明を実施するための最良の形態】
【0032】
(本発明による画像認識処理方法を用いるボタン画像認識処理装置の概要)
以下、図を参照して本発明の実施の形態を詳細に説明する。
本発明による画像認識処理方法及び画像認識処理装置は、カメラで撮像対象物を背景ごと撮像して当該撮像対象物を認識する画像認識処理方法及びボタン画像認識処理装置である。また、本発明によるボタン画像認識処理装置1は、カメラでボタンを背景ごと撮像してボタンの大きさ、位置、表裏、色及び向きといった各種の特徴を認識するボタン画像認識処理装置である。ボタン画像認識処理装置1は、例えばボタン付けミシンにおいて被縫製物の上方でボタンを保持するボタン把持具(図示略)にボタンを供給する周知のボタン供給装置において、ボタン把持具に供給されるボタンの大きさ、位置、表裏、色及び向きといった各種の特徴をボタンの供給前に認識する処理に用いられる。ボタン画像認識処理装置1はあらかじめ設定されたボタンの特徴がある場合、上述の各種特徴のうちいずれかがあらかじめ設定されたボタンの特徴と異なるボタンを認識した場合にエラーを出力する。これによって、縫製作業に用いるボタンの特徴についてあらかじめ設定をしていれば、あらかじめ設定された特徴にそぐわないボタンが誤って供給されることがなくなり、またボタンの向きが誤って供給されることを防止する。よって、ボタンの縫い付け品質が向上する。特に、ボタン自体正常であるが、ボタンの位置、向き、表裏といったボタンのセットの問題がある場合に、認識した結果をボタン供給装置の位置補正機構などに出力することにより、ミシンの正しい位置にボタンを供給することができる。
【0033】
(ミシンのボタン画像認識処理装置の全体構成)
以下に記載するボタン画像認識処理装置1(図1参照)は、本発明によるミシンのボタン画像認識処理装置の一形態であり、ボタンBを背景2aごと撮像した画像からボタンBを判別する画像認識処理装置である。
図1はボタン画像認識処理装置1の構成を示すブロック図である。
ボタン画像認識処理装置1は、既知の規則的な模様が付された平面を有し、当該平面が背景2aとされる背景部材2と、背景2aが付された平面の範囲内にある撮像対象物(ボタンB)を背景2aごと撮像するカメラ3と、ボタンBを光で照らす照明4と、ボタン画像認識処理装置1の各種情報を表示するモニタ5と、ボタン画像認識処理装置1の各部を制御するとともにカメラ3が撮像した画像からボタンBの認識処理を行う画像処理装置10と、を備えている。
【0034】
図2はボタンBと背景部材2の背景2aとの関係の一例を示す上面図である。なお、図2(a)は整形不良がなく、かつ、所定の大きさのボタンBが正しい向きで背景2aのほぼ中央に置かれた場合、図2(b)はボタンがない場合、図2(c)は所定の大きさよりも大きいボタンBAが置かれた場合、図2(d)はボタンBの位置が背景2aの中央からずれて置かれた場合、図2(e)はボタンBの一部が欠けているボタンBBが置かれた場合、図2(f)は所定の大きさよりも小さいボタンBCが置かれた場合、図2(g)はボタンBの複数の穴部Baの位置関係が図2(a)に示す当該位置関係に対して傾いている場合、図2(h)は穴部の一部が誤った位置に形成されたボタンBDが置かれた場合、図2(i)は穴部の一部が形成されていないボタンBEが置かれた場合の説明図である。
図1及び図2に示すように、背景部材2は、既知の規則的な模様が付された平面を有し、当該平面が背景2aとされる。当該縞模様は等幅の白黒の縞模様であり、カメラ3に撮像された場合それぞれの縞が一定の幅(画素にして5画素分)の幅となるよう設けられている。また、図2に示すように、背景2aの上面にボタンBを乗せた状態で背景2a及びボタンBを上方から見た場合、ボタンBに覆われないボタンBの外周より外側と穴部Ba部分から背景2aが覗いて見える。このとき、背景2aはボタンBを上から見た場合の範囲を十分にカバーでき、かつ、ボタンBを背景2aの中央においた場合にボタンBの周囲に背景2aが所定の幅以上覗いて見える広さを有するよう設けられている。
【0035】
カメラ3は、背景2aの上方に位置するよう設けられて、ボタンBを背景2aごと撮像する。このとき、カメラ3のピントを背景2aに合わせて撮像する。カメラ3によって撮像された画像は画像処理装置10へ入力される。
なお、カメラ3による画像は白黒であってもカラーであってもよいが、本実施の形態では白黒の画像を用いている。また、カメラ3から画像処理装置10へ入力される画像はアナログの画像である。
【0036】
照明4は、背景2a及びボタンBに光を照射する。照明4は光量を調節可能であり、カメラ3によるボタンBの撮像の際にカメラ3が受像する光量を適正に調節することができる。撮像の際には、方向、光量などが予め定められた一定の条件となるように照射が行われる。
モニタ5は、画像処理装置10から各種の情報が出力されて表示される。モニタ5に表示される内容については後述する。但し、周囲の外光による反射光によりカメラ3により撮像画像が背景2とボタンBとを認識可能であれば、必ずしも照明を画像処理装置10に設ける必要はない。また、図1において、照明4が斜光照明となっているが落斜照明でも良い。
【0037】
(画像処理装置)
画像処理装置10は、ボタン画像認識処理装置1の各部を制御するとともにデジタル画像データDからボタンBを認識する処理を行う。画像処理装置10は、カメラ3から入力されたアナログの画像をデジタル画像データDへと変換するA/Dコンバータ11と、画像認識処理装置1の各種の処理及び制御を行うCPU12と、CPU12が行う処理において各種のプログラム及びデータを格納する領域として機能するRAM13と、CPU12が行う処理において呼び出される各種プログラム及びデータを書き換え不能に記憶するROM14と、CPU12が行う処理において呼び出される各種プログラム及びデータを書き換え可能に記憶するEEPROM15と、を備えている。また、図示しないが、画像処理装置10には画像処理装置への各種設定を行う操作パネルが接続されている。
【0038】
A/Dコンバータ11は、カメラ3から入力されたアナログの画像を複数の画素によるデジタル画像データDへと変換してCPU12へ出力する。デジタル画像データDのそれぞれの画素は、一つの濃度値(輝度)を有する(図4参照)。
CPU12は、ROM14又はEEPROM15から各種のプログラム及びデータを呼び出し、処理することでボタン画像認識処理装置1の各種の処理及び制御を行う。また、CPU12は、A/Dコンバータ11から入力されたデジタル画像データDからボタンBを判別する各種の処理を行う。CPU12は、ROM14から各種のプログラムを呼び出して順次実行することにより上述のボタンBの判別処理を行う。このとき、デジタル画像データDはRAM13又はEEPROM15に記憶される。
【0039】
なお、画像処理装置10は背景2aの縞模様を既知のパターンとして保有しており、当該縞模様のパターンデータHはEEPROM15に記憶されている。また、EEPROM15はボタンの外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rを記憶するための領域及び容量を有している。また、EEPROM15はあらかじめ外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rのいずれか又は複数を既知のパターンとして保有していてもよい。ボタンBの外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rの詳細については後述する。
【0040】
図3はROM14に記憶された各種プログラム及びEEPROM15に記憶された各種データを示す説明図である。図3(a)はROM14に記憶された各種プログラムを、図3(b)はEEPROM15に記憶された各種プログラムを示す。
また、ROM14は、後述する撮像プログラム14aと、画質改善プログラム14bと、背景情報判別プログラム14cと、対象物有無チェックプログラム14dと、背景輪郭チェックプログラム14eと、外形情報取得プログラム14fと、対象物エラーチェックプログラム14gと、対象物内情報取得プログラム14hと、対象物内エラーチェックプログラム14iと、表裏判定プログラム14jと、方向判定プログラム14lとを記憶している。CPU12は、処理に応じてこれらのプログラムのいずれかを呼び出して実行することでカメラ3による画像からボタンBの認識処理を行う。以降、CPU12が各プログラムを実行した場合の処理内容について詳説する。
【0041】
まず、撮像プログラム14aについて詳説する。CPU12は、撮像プログラム14aを実行することで、カメラ3を制御してカメラ3にボタンBを背景2aごと撮像させ、当該撮影によって得られたアナログ画像をA/Dコンバータ11を介してデジタル画像データDに変換してRAM13に記憶させる処理を行う。このとき、撮像された画像をモニタ5に表示させてもよい。なお、当該デジタル画像データDは長方形あるいは正方形の白黒の多値画像データ(グレースケール)である。
また、CPU12は、画質改善プログラム14bを実行することで、撮像プログラム14aによってRAM13に記憶されたデジタル画像データDのノイズを除去する処理を行う。なお、デジタル画像データDのノイズ除去の方法については周知の技術であるので詳細は省略する。
【0042】
次に、背景情報判別プログラム14cについて詳説する。CPU12は、背景情報判別プログラム14cを実行することで、デジタル画像データDから背景の部分を認識する処理を行う。以下、当該処理について詳説する。
図4はデジタル画像データDの一部を拡大した説明図である。なお、デジタル画像データDの周囲に付された数値はデジタル画像データDの画素の位置を説明するための指標である。
CPU12は、背景2aの白黒の縞と直交する方向(図4の縦方向)について、背景2aの白黒の縞の幅が所定の画素数ずつ交互に並んでいるかどうかを判別する。即ち、撮像範囲の画素の縦方向に沿って各画素の輝度を読み出して、白黒の横縞を撮像することにより得られるべきパターン通りかを撮像範囲の全ての列について判定する。白黒の横縞の場合、背景2aであれば、所定画素数ごとに白と黒とが切り替わる変化を示すパターンが得られるはずである。このとき、背景2aの白黒の縞の幅がデジタル画像データD上で縦方向に何画素分の幅となるのかはパターンデータHとしてあらかじめ設定されEEPROM15に記憶されており、図4においては当該幅が5画素分である場合を示している。また、「黒」、「白」と判定する輝度の範囲も予め設定されEEPROM15に記憶されている。CPU12は、各列毎に上から5画素ずつ各画素の輝度を取得し、5画素とも背景2aの縞模様に則した輝度であるかどうかを判定する。つまり、図4に示すデジタル画像データDの場合、上から1〜5番目の画素は全部「黒」を示す輝度であるか、6〜10番目の画素は全部「白」を示す輝度であるか、といったように順に5画素ずつ判定する。5画素とも背景に則した輝度である場合、CPU12はその5画素を背景2aとして判別し、そうでなかった場合、その部分は背景でない、即ち撮像対象物であるボタンBが写っている画像の範囲であると判別される。図4には、カメラにより撮像されたボタンBの形状に対応する画素部分で「灰色」(図4の斑点部分)を示す輝度が取得されているようすが示されているが、CPU12による判別処理は縦方向に5画素単位で判別処理が行われるので、背景2aとボタンBとが判別される縦方向の画素の最小単位は5画素となり、実際のカメラの分解能よりも5倍荒い分解能で背景2aとボタンBとが区切られる。例えば、背景2aとボタンBとの境界は、図4における二点鎖線Pのように認識される。なお、誤差を考慮して、5画素に対して±αの許容幅を設けても良い(例えば、α=1の場合、5画素中4画素が背景2aと同じ輝度であれば、中に一つだけ異なる色彩が混じっていても背景と見なす処理が行われる)。
なお、撮像範囲の端縁部分は、単位模様が途中から撮像されている場合もあるので、繰り返しの単位模様が一度認識された位置から判別処理を開始するのが望ましい。
【0043】
図5は、背景2aとボタンBとの境界線を示す説明図である。なお、図5(a)は背景情報判別プログラム14cの判別によるボタンBの上半分の境界線L1を示す図、図5(b)は背景情報判別プログラム14cの判別によるボタンBの下半分の境界線L2を示す図、図5(c)は後述する外形情報取得プログラム14fによって合成されたボタンBの外周データLを示す説明図である。
CPU12は、まず1列目において一番上の画素から下方へ順次5画素単位で背景2aとボタンBとの判別を行い、ボタンBとして判別される範囲が見つかるまで背景2aとボタンBとの判別を行う。ボタンBとして判別される範囲が見つかった場合はそれより下方の範囲はボタンBが存在するものとしてその時点でその列の判定は終了して次の列に移行し、ボタンBとして判別される範囲が見つからなかった場合は当該列の最後の画素まで判別が終わった時点で次の列の1番目から下方へ順次5画素単位で背景とボタンBとの判別を行い、以後繰り返す。その後、最後の列の判別が完了した時点で、図5(a)に示すように、背景2aとボタンBとが判別された境界線L1を境として背景2aとボタンBとの範囲の判別が行われる。その後、1列目において縦方向の一番下の画素から上方へ順次5画素単位で背景とボタンBとの判別を行い、ボタンBとして判別される範囲が見つかるまで背景とボタンBとの判別を行う。ボタンBとして判別される範囲が見つかった場合はそれより上方の範囲はボタンBが存在するものとしてその時点でその列の判定は終了して次の列に移行し、ボタンBとして判別される範囲が見つからなかった場合は当該列の画素における一番上の画素まで判別が終わった時点で次の列の一番下から上方へ順次5画素単位で背景とボタンBとの判別を行い、以後繰り返す。このとき、下方から順次背景とボタンBとの判別を行う処理については、上方から順次背景とボタンBとの判別を行った結果、全て背景であると判別された列については判別処理を省略してもよい。この結果、図5(b)に示すように、境界線L2を境として背景2aとボタンBとの範囲の判別が行われる。
なお、上記判別処理においては、判別時間を短縮するために、下方または上方へ向かう列毎の判別処理において、ボタンBとして判別される範囲が見つかった場合はそれ以降のその列の範囲はボタンBが存在するものとしてその列の画素の判別を省略しているが、この処理では、時間が短縮できる代わりに、ボタンBの形状に一部欠損がある場合に、その欠損を判別できない可能性があるので、時間は短縮できないが、一番上の画素から一番下の画素まで、あるいは、一番下の画素から一番上の画素まで、ボタンBの画素の検出の有無に関わらず省略すること無しに、全画素の判別を行っても良い。
【0044】
なお、ボタンBが透過性を有する場合、背景2aの縞模様はボタンBを透過するが、背景2aがボタンBを透過する過程において屈折が生じるような場合は、当該屈折によって背景2aの規則性が失われるので、その部分は背景2aとして判別されず、ボタンBとして判別される。
【0045】
次に、対象物有無チェックプログラム14dについて詳説する。CPU12は、対象物有無チェックプログラム14dを実行することで、背景情報判別プログラム14cの実行によって背景2aとして判別された範囲がデジタル画像データD全体であるかどうかを判定することで、背景2aにボタンBが乗っているかをチェックする。デジタル画像データD全体が背景として判別された場合、つまりボタンBとして判別された範囲がデジタル画像データD上にまったくない場合、背景2aの上面にボタンBが乗っていないこととなる。よって、CPU12はボタンBがない旨を示すエラーを出力する。一方、デジタル画像データD全体が背景として判別されていなかった場合、背景2aの上面にボタンBが乗っていることで背景2aが遮られる部分ができ、背景2aと判別されなかった範囲がボタンBとして判別されたとみなされる。よってCPU12はボタンBがある旨を示す出力を行う。これによって図2(b)に示すように、ボタンが置かれていない場合のデジタル画像データDを判別できる。
【0046】
次に、背景輪郭チェックプログラム14eについて詳説する。CPU12は、背景輪郭チェックプログラム14eを実行することで、ボタンBが連続する所定範囲の背景2aに囲まれるように配置されていること、すなわち輪郭部分の全方位に渡って所定−画素数分の連続する背景2aがあるかどうかを判定する。即ち、背景輪郭チェックプログラム14eは、ボタンBが背景2aからはみ出すように置かれていないか、あるいはボタンBが背景2aの中央から大幅に外れた位置に置かれていないかをチェックする。CPU12は、図4に示す画像データDにおいてそれぞれ1〜10の数値で示す上端から連続する10画素分の行(画素の横の並び)及び左端から連続する10画素分の列(画素の縦の並び)の範囲及び図示しないデジタル画像データDの下端及び右端から連続する10画素分の範囲が全て背景2aとして判別されているかどうかをチェックする。すなわち、CPU12は、画像データDの上下左右の端縁から連続する10画素分の範囲(所定範囲)が全て背景2aとして判別されるか否かにより、ボタンBが背景2aからはみ出すように置かれていないか、あるいはボタンBが背景2aの中央から大幅に外れた位置に置かれていないかをチェックする。当該範囲が全て背景として判別されていない場合、即ちボタンBとして判別された範囲が当該範囲に含まれていた場合、ボタンBは背景2aからはみ出すように置かれているか、あるいははみ出ないまでも背景2aの中央から大幅にずれた位置に置かれていると判定される。よって、背景輪郭チェックプログラム14eはボタンBが背景2aからはみ出ているか、あるいは背景2aの中央から大幅にずれた位置に置かれている旨を示すエラーを出力する。一方、当該範囲が全て背景として判別されていた場合、ボタンBは背景2aからはみ出たり、背景2aの中央から大幅にずれた位置に置かれたりすることなく、凡そ正しい位置に置かれていると判定される。よって、CPU12はボタンBが正しい位置に置かれている旨を示す出力を行う。これによって図2(c)に示すようにボタンBAの大きさが大きいために背景2aの輪郭の一部を覆っている場合や、図2(d)に示すようにボタンBの置かれている位置が背景2aの中央からずれている場合のデジタル画像データDを判別できる。
なお、上述においては10画素分をデジタル画像データDの輪郭として処理しているが、上述と異なる画素数を輪郭として設定可能であることは言うまでもない。
また、上述においてはデジタル画像データDの上下左右のそれぞれの側縁から連続する10画素分の背景2aを示す画素が判別されない場合に、ボタンBの背景2aからのはみ出しやボタンBの背景2aの中央から大幅のズレをチェックしているが、単に、デジタル画像データDの全体にわたって、縦方向と横方向それぞれについて10画素連続して背景2aとして判別できない部分が存在する場合に、同様の判定を行っても良い。
また、背景情報判別プログラム14cにより取得した境界線の画像データD中の位置によって、同様の判定を行っても良い。
【0047】
次に、外形情報取得プログラム14fについて詳説する。CPU12は、外形情報取得プログラム14fを実行することで、背景情報取得プログラム14cによってボタンBとして判別された範囲の外周を示すデータ(外周データ)を合成する。具体的には、図5(c)に示すように、境界線L1と境界線L2とを合成して境界線L1の内側であって、かつ、境界線L2の内側である範囲をボタンBの範囲としてみなし、その範囲を取り巻く境界線L1、L2の一部分を連結してボタンBの外周データLとする。
また、後述する自動チェックモードがONの場合は、CPU12は外周データをEEPROM15に記憶する。
【0048】
次に、対象物エラーチェックプログラム14gについて詳説する。CPU12は、対象物エラーチェックプログラム14gを実行することで、ボタンBの外周チェックデータがあらかじめ記憶されていた場合に、外形情報取得プログラム14fの実行によって取得されたボタンBの外周データと外周チェックデータ15oとを比較する。
図6は外周チェックデータ15oと外周データLとの関係を示す説明図である。外周チェックデータ15oは、図6に示すボタンBの外周の境界線が位置すべき画素の範囲F1を示すデータであり、上述のようにEEPROM15に記憶されている。CPU12は、外周データLの示すボタンBの外周の位置が全て範囲F1内に含まれるかどうかの判定を行う。これによって、図2(e)に示すようにボタンBの一部が欠けているボタンBBが置かれた場合や、図2(f)に示すように所定の大きさよりも小さいボタンBCが置かれた場合、また背景2aに対してボタンBが大きく位置ズレを生じて配置されている場合のデジタル画像データDを判別できる。
【0049】
上述の比較処理により、CPU12はデジタル画像データDに写ったボタンBの外周の形状及びボタンBの大きさが外周チェックデータ15oに設定されたボタンと合致するかどうか判定する。このとき、ボタンBの外周データが外周チェックデータ15oに合致しないと判定された場合、CPU12はボタンBの形状、配置あるいは大きさが異常である旨を示すエラーを出力する。一方、ボタンBの外周データが外周チェックデータ15oに合致すると判定された場合、CPU12はボタンBの形状、配置及び大きさに問題がない旨を示す出力を行う。これによって、ボタンBの形状があらかじめ設定された外周チェックデータ15oと一致しない場合のデジタル画像データDを判別できる。
【0050】
次に、対象物内情報取得プログラム14hについて詳説する。CPU12は、対象物内情報取得プログラム14hを実行することにより、ボタンBとして判別された範囲内において背景2aとボタンBとの判別を行い、その後ボタンBの穴部の周囲を示すデータ(穴部データ)及び背景情報判別プログラム14cによってボタンBとして判別された範囲から穴部Baを除いた範囲の各画素の輝度を示す濃淡パターンデータを取得する処理を行う。
図7はボタンBの一つの穴部Baの周囲を拡大視したデジタル画像データDの一部を示す説明図である。ボタンBとして判別された範囲内における背景2aとボタンBとの判別処理については、上述の背景情報判別プログラム14cの処理と同様の仕組みで行う。具体的には、ボタンBの外周が位置する最も若い数値(最も左側)の列から順番に各列の一番上の画素から順次5画素単位で背景2aとボタンBとの判別処理を行う。このとき、ボタンBの範囲内で背景2aとして判別された範囲は、ボタンBの穴部Baとして判別される。つまり、図7に示すように、二点鎖線Q1の内側が穴部Baとして判別され、二点鎖線Q1は穴部Baのうちひとつの輪郭を示す。
なお、対象物内情報取得プログラム14hによる背景2aとボタンBとの判別処理範囲はあらかじめ設定した所定の範囲内に限ることも可能である。例えば、図2に示すボタンBの穴部Baが設けられているおおよその位置があらかじめ特定できる場合には、穴部Baが設けられている位置に対応する画素の位置及びその周辺を所定の範囲として設定することで、背景2aとボタンBとの判別処理を行う範囲を少なくして処理時間を短縮することが可能となる。
よって、CPU12は、上述の背景情報判別プログラム14c、外形情報取得プログラム14f及び対象物内情報取得プログラム14hを実行することで、背景2aの規則性(例えば5画素ずつの縞模様)を有する模様から背景2aを判別し、背景2aと判別されなかった部分をボタンBと判定する処理を行う「判別手段」として機能する。
上述の背景2aとボタンBとの判別処理が終わると、CPU12は、全ての穴部Baの輪郭の位置を穴部データとして取得すると共に、前述したボタンの外周データLと穴部データとに基づいて全撮像範囲の撮像データからボタンBの範囲内であって穴部を除いた範囲を抽出し、穴部を除いたボタンBの正面上の濃淡パターンデータを取得する。なお、穴部データには独立した穴部の数も併せて取得される。
なお、以降の対象物内に関わる処理では、穴部データに基づいて、デジタル画像データDまたはデジタル画像データDから取得した情報に対して、必要に応じて対象物の向きが正しくなるように、画像データDまたは対応する情報を変換する方向変換処理を行う。
【0051】
次に、対象物内エラーチェックプログラム14iについて詳説する。CPU12は、対象物内エラーチェックプログラム14iを実行することで、EEPROM15に穴部チェックデータ15pがあらかじめ記憶されていた場合、対象物内情報取得プログラム14hによって取得された穴部データと穴部チェックデータ15pとを比較する処理を行う。
図8は穴部チェックデータ15pと穴部データとの関係を示す説明図である。穴部チェックデータ15pは、図8に示すボタンBの穴部の輪郭が位置すべき範囲F2を示すと共に、独立したF2の範囲の数即ちボタンの穴部の数をチェックするデータであり、上述のようにEEPROM15に記憶されている。CPU12は、穴部データの示すボタンBの穴部Baの輪郭Qが全て範囲F2内に含まれるかどうかの判定を行うと共に、穴部データに含まれる独立した穴部の数と穴部チェックデータの独立したF2の範囲の数とを比較する。これによって、図2(g)に示すようにボタンBの複数の穴部の位置関係が正しい位置関係に対して傾いている場合、図2(h)に示すようにボタンの穴部の一部が誤って形成されたボタンBD及び図2(i)に示すようにボタンの穴部の一部が形成されていないボタンBEのデジタル画像データDを判別できる。
【0052】
上述の比較処理により、CPU12はデジタル画像データDに写ったボタンBの穴部Baの大きさ、位置及び数が穴部チェックデータ15pと合致するかどうか判定する。デジタル画像データD穴部データと穴部チェックデータ15pとが合致しないと判定された場合、CPU12はボタンBの穴部Baに異常がある旨を示すエラーを出力する。一方、デジタル画像データD穴部データと穴部チェックデータ15pとが合致すると判定された場合、CPU12はボタンBの穴部Baに問題がない旨を示す出力を行う。
【0053】
次に、表裏判定プログラム14jについて詳説する。CPU12は、表裏判定プログラム14jを実行することで、EEPROM15に濃淡チェックデータ15qがあらかじめ記憶されていた場合に、対象物内情報取得プログラム14hによって取得されたボタンBとして判別された範囲の画像の濃淡パターンデータからボタンBの表裏を判定する。
図9はボタンBの表裏の一例を示す説明図である。なお、図9(a)はボタンの表を、図9(b)はボタンの裏を示す。
図9(a)に示すように、ボタンBの表に段差Bbが設けられている場合、段差Bbとその外周部Bcとの間で画像の濃淡差が生じる。一方、図9(b)に示すようにボタンBの裏には段差がないので、表の場合のような濃淡差は生じない。また、濃淡チェックデータ15qはボタンの表及び裏をそれぞれ撮像した場合の画像の濃淡を示すデータであり、そのデータ構造は対象物内情報取得プログラム14hによって取得された濃淡パターンデータと同様、穴を除いたボタン画像の各画素の輝度を示す濃淡パターンデータである。つまり、CPU12は対象物内情報取得プログラム14hで得られた濃淡パターンデータとボタンBの表側(裏側)を表すデータ(表パターン)として予め設定されていた濃淡チェックデータ15qとを比較し、デジタル画像データDに写ったボタンBの表裏を判定する。
【0054】
当該判定は、濃淡チェックデータ15qを基準とした近似値判定処理を行う。具体的には、濃淡チェックデータ15qの各画素と濃淡パターンの各画素についてそれぞれ濃度を数値化し、対応する位置の画素の濃度について濃淡チェックデータ15qの濃度の数値に対して濃淡パターンの濃度の数値が所定の近似値の範囲内であるかどうかをチェックする。このとき、一定以上の割合の画素が近似値以内であれば合致したものとみなし、そうでなければ合致しないものとみなす。
よって、CPU12は近似値判定処理において濃淡パターンが濃淡チェックデータ15qの表パターンに合致した場合、即ち表向きであると判定した場合は問題がない旨を示す出力を行う。一方、濃淡パターンと表パターンとが合致しなかった場合、CPU12はさらに濃淡パターンと濃淡チェックデータ15qに含まれる裏を撮像した場合のデータ(裏パターン)とを比較する。このとき、濃淡パターンと裏パターンとが合致した場合、即ちデジタル画像データDに写ったボタンBが裏向きであると判定した場合にボタンが裏向きである旨を示すエラーを出力する。また、濃淡パターンが表パターン及び裏パターンのいずれにも一致しなかった場合は、ボタンBは濃淡チェックデータ15qに設定されたボタンの表でも裏でもない濃淡パターンを示すボタン、即ちボタンの色、文字や模様等の装飾又は立体構造等の特徴が異なることによって撮像時の濃淡パターンが異なる種類のボタンであると考えられる。よって、CPU12はボタンBが異なる種類のボタンであると判別し、ボタンの種類が異なる旨のエラーを出力する。これによって、ボタンの色、文字や模様等の装飾又は立体構造等の特徴が異なるボタンを判別することが可能となる。
よって、CPU12は、表裏判定プログラム14jを実行することによりデジタル画像データDに撮像されたボタンBの濃淡パターンデータがあらかじめ設定された濃淡チェックデータ15q即ちボタンの特徴によって撮像時に生じる濃淡パターンを有するかを判別する「特徴判別手段」として機能する。なお、表裏判定において用いる画像は、表裏判定が可能であれば、ボタンの表面または裏面の一部の画像でも良いことは勿論である。
【0055】
なお、ボタンが段差Bbのように回転しても一定の形状ではないような表面上の特徴を有する場合には、表裏判定プログラム14jによる表裏判定に替えて以下の方向判定プログラム14lによる方向判定を行っても良い。
次に、方向判定プログラム14lについて詳説する。CPU12は、方向判定プログラム14lを実行することで、EEPROM15に方向チェックデータ15rがあらかじめ設定されていた場合に、対象物内情報取得プログラム14hの実行によって取得されたボタンBとして判別された範囲の画像の濃淡パターンデータからボタンBがあらかじめ設定されたボタンBの向きであるかどうかを判定する。
【0056】
図10は方向判定プログラム14lによるボタンBの判定領域の一例を示す説明図である。図10(a)はボタンBに文字Aがプリントされている場合の方向判定を行う際の判定領域B1の一例を示す説明図、図10(b)は方向チェックデータ15rであるb1の一例を示す説明図である。
例えば、図10(a)に示すように、ボタンBに文字Aがプリントされている場合、CPU12は、文字Aの向きを判定するための判定領域B1を設定して当該領域内の画像の濃淡パターンデータをそれぞれ取得する。次に、方向判定プログラム14lはあらかじめ設定された文字Aの正しい方向を示す方向チェックデータ15rをEEPROM15から呼び出して、上述のB1から取得した画像の濃淡パターンデータとそれぞれ比較する。なお、方向チェックデータ15rは、図10(b)に示すように、ボタンとして判定される範囲内においてボタンの方向を判定するためのb1に示す一部分のみに限定した濃淡パターンデータである。当該比較は、デジタル画像データDに対し、方向チェックデータ15rを基準として方向チェックデータ15rに対応する位置のボタンBの画像の濃淡パターンの近似値判定処理を行う。このとき、図10(a)と図10(b)の対応関係のように、B1とb1が一致した場合、CPU12はボタンBの方向が正しい方向であると判定し、ボタンBに問題がない旨を示す出力を行う。一方、B1とb1が一致しなかった場合、ボタンBの方向が異なっていると判定し、デジタル画像データDまたは方向チェックデータ15rを回転させ、両者が一致した場合には、その回転方向と回転角度とを外部に出力し、デジタル画像データDまたは方向チェックデータ15rのいずれか一方を360°回転させても一致しない場合には、エラーを出力する。
【0057】
なお、上述の判定領域B1の位置、領域の広さ、形状及びあらかじめ設定される濃淡パターンb1はあくまで一例であり、ボタンBの方向判定の基準となる模様その他の特徴によって個別に設定可能である。また、方向チェックデータ15rはボタンBに施された文字Aの濃淡パターンに限らず、濃淡パターンの比較処理によってボタンBの方向を判別できる特徴であれば何でもよい。
よって、CPU12は、方向判定プログラム14lを実行することによりデジタル画像データDに撮像されたボタンBの濃淡パターンがあらかじめ設定されたボタンの特徴によって撮像時に生じる濃淡パターンを有するかを判別する「特徴判別手段」として機能する。
【0058】
(自動チェックモード)
次に、自動チェックモードについて説明する。自動チェックモードは、外形情報取得プログラム15fによって取得されたボタンBの外周データを外周チェックデータ15oとしてEEPROM15に記憶し、対象物内情報取得プログラム14hによって取得された穴部データを穴部チェックデータ15pとして、濃淡パターンデータを濃淡チェックデータ15qとして記憶する画像処理装置10の設定である。つまり、自動チェックモードを用いることで、カメラ3によって撮像されたボタンBの画像を元に外周チェックデータ15o、穴部チェックデータ15p及び濃淡パターンデータを設定可能となる。なお、外周データLから外周チェックデータ15oを設定する場合、外周データLが示す外周の位置を基準とした閾値の範囲を別途設定しておく必要がある。つまり、CPU12は外周データLが示すボタンの外周の形状を中心線として、設定された閾値の範囲の誤差を持った範囲データを外周チェックデータ15oとしてEEPROM15に記憶する。また、穴部データから穴部チェックデータ15pを設定する場合も同様に穴部データが示す穴部の輪郭を基準とした閾値の範囲を別途設定しておく必要がある。つまり、CPU12は穴部データが示すボタンの穴部の形状を中心線として、設定された閾値の範囲の誤差を持った範囲データを穴部チェックデータ15pとしてEEPROM15に記憶する。このとき、穴部チェックデータ15pには独立した穴部の数も併せて記憶される。また、濃淡パターン設定時は、取得された濃淡パターンが表の画像の濃淡(表パターン)であるか、裏の画像の濃淡(裏パターン)であるかを別途設定する必要がある。自動チェックモードの設定は図示しない操作パネルによってON/OFFの切替が可能である。
よって、CPU12は、対象物内情報取得プログラム14hを実行することで以前に撮像されたボタンの撮像画像であるデジタル画像データDからボタンBの特徴を示すボタンBの画像の濃淡パターンを取得して設定する「特徴取得手段」として機能する。
【0059】
なお、自動チェックモードは、最近のボタンBのデジタル画像データDを逐次記憶するようにしてもよいし、最初に記憶されたボタンBのデジタル画像データDを以後継続して用いるようにしてもよい。また、ひとつのデジタル画像データDに限らず、数回分の撮像によって得られたボタンBのデジタル画像データDに基づく平均値(画素の位置又は画素の濃度値)を算出して記憶し、当該平均値を用いるようにしてもよい。
また、自動チェックモードの実行時でも、背景輪郭チェックプログラム14e、対象物エラーチェックプログラム14g、対象物内エラーチェックプログラム14iの実行時にエラー判定がなされた場合には、その時の撮像によるデジタル画像データDに基づく外周チェックデータ15o、穴部チェックデータ15p及び濃淡パターンの設定は行わないように処理することが望ましい。表裏判定プログラム14jにより表面以外の判定がされた場合も同様である。
また、自動チェックモードにおいて取得された濃淡パターンの一部を用いて方向チェックデータ15rとするよう設定可能にしてもよい。
【0060】
(ミシンのボタン画像認識処理装置の動作)
次に、ミシンのボタン画像認識処理装置1の動作について詳説する。図11及び図12はミシンのボタン画像認識処理装置1の動作を示すフロー図である。なお、図11はステップS1からステップS10までを、図12はステップS11からステップS21までを示す。
まず、CPU12が撮像プログラム14aを実行することにより、カメラ3によってボタンBが背景2aごと撮像され、そのデジタル画像データDがRAM12に記憶される(ステップ1)。次に、CPU12は画質改善プログラム14bを実行してデジタル画像データDのノイズ除去処理を行う(ステップS2)。
【0061】
次に、CPU12は背景情報判別プログラム14cを実行してデジタル画像データDの背景2aとボタンBとの判別を行う(ステップS3(判別工程))。次に、CPU12は対象物有無チェックプログラム14dを実行してステップS3において背景2aと判別された範囲がデジタル画像データD全体であるかどうかの判定を行う(ステップS4)。デジタル画像データDが全て背景2aであった場合(ステップS4:YES)、エラーを出力する(ステップS20)。デジタル画像データDが全て背景2aではなかった場合(ステップS4:NO)、CPU12は背景輪郭チェックプログラム14eを実行して輪郭に所定の画素数分の連続する背景2aがあるか否かにより、ボタンBが連続する所定範囲の背景2aに囲まれて配置されているかを判定する(ステップS5)。輪郭に所定の画素数分の連続する背景2aとして判別されなかった部分が含まれていた場合(ステップS5:NO)、エラーを出力する(ステップS20)。輪郭が全て所定の画素数分の連続する背景2aとして判別されていた場合(ステップS5:YES)、CPU12は外形情報取得プログラム14fを実行してボタンBの外周データを取得する(ステップS6)。
【0062】
次に、CPU12は外周チェックデータ15oがEEPROM15に記憶されているかどうか判定する(ステップS7)。外周チェックデータ15oがあらかじめ記憶されている場合(ステップS7:YES)、CPU12は対象物エラーチェックプログラム14gを実行してステップS6で得られたボタンBの外周データが外周チェックデータ15oに合致するかどうか判定する(ステップS8)。合致しない場合(ステップS8:NO)、エラーを出力する(ステップS20)。合致する場合(ステップS8:YES)、CPU12は自動チェックモードがONであるかどうか判定する(ステップS9)。自動チェックモードがOFFの場合(ステップS9:NO)、CPU12は対象物内情報取得プログラム14hを実行して範囲内において背景2aとボタンBとの判別を行い(判別工程)、ボタンBの穴部データ及び濃淡パターンを取得する(ステップS11)。自動チェックモードがONの場合(ステップS9:YES)、ステップS6において取得されたボタンBの外周データを次のボタンBの撮像以降で使用される外周チェックデータ15oとしてEEPROM15に記憶し(ステップS10)、その後上述のステップS11の処理を行う。なお、ステップS7において外周チェックデータ15oが記憶されていない場合(ステップS7:NO)、ステップS9の処理に移行する。
【0063】
次に、CPU12はEEPROM15に穴部チェックデータ15pが記憶されているかどうか判定する(ステップS12)。穴部チェックデータ15pが記憶されている場合(ステップS12:YES)、CPU12は対象物内エラーチェックプログラム14iを実行してステップS11で得られたボタンBの穴部データが穴部チェックデータ15pに合致するかどうか判定する(ステップS13)。合致しない場合(ステップS13:NO)、エラーを出力する(ステップS20)。合致する場合(ステップS13:YES)、CPU12は自動チェックモードがONであるかどうか判定する(ステップS14)。自動チェックモードがOFFの場合(ステップS14:NO)、CPU12はEEPROM15に濃淡チェックデータ15qが記憶されているかどうか判定する(ステップS16)。自動チェックモードがONの場合(ステップS14:YES)、ステップS11において取得されたボタンBの穴部データを次のボタンBの撮像以降で使用される穴部チェックデータ15pとして記憶し、濃淡パターンデータを次のボタンBの撮像以降で使用される濃淡チェックデータ15qとしてEEPROM15に記憶し(ステップS15(特徴取得工程))、その後上述のステップS16の処理を行う。なお、ステップS12において穴部チェックデータ15pが記憶されていない場合(ステップS12:NO)、ステップS14の処理に移行する。
【0064】
ステップS16において濃淡チェックデータ15qが記憶されている場合(ステップS16:YES)、CPU12は表裏判定プログラム14jを実行してステップS11で得られた濃淡パターンとEEPROM15の濃淡チェックデータ15qの表パターンとからボタンBが表向きであるかどうか判別する(ステップS17(特徴判別工程))。ステップS17においてボタンBが表ではないと判定された場合(ステップS17:NO)、CPU12は濃淡パターンとEEPROM15の濃淡チェックデータ15qの裏パターンとからボタンBが裏向きであるかどうか判別する(ステップS18(特徴判別工程))。ステップ18においてボタンが裏と判定された場合(ステップS18:YES)、ボタンが裏である旨のエラーを出力する(ステップS20)。ステップS18においてボタンが裏でない、即ち表パターンとも裏パターンとも合致しない場合(ステップS18:NO)、ボタンが異なる種類であると判別され(ステップS19)、ボタンの種類が異なる旨のエラーを出力する(ステップS20)。
【0065】
ステップS4〜18において何らかのエラー出力が行われるか(ステップS20)、あるいはステップS17においてボタンBが表向きと判定された場合、モニタ5にボタンBの判定結果が表示される(ステップS21)。なお、モニタ5に表示されるボタンBの判定結果は、エラーの有無を示す情報でもよいし、エラーの種別を示す情報でもよい。また、撮像されたデジタル画像データDを表示してもよい。
また、ボタン画像認識処理装置がボタン供給装置に搭載されている場合には、ステップS17でボタンが表向きと判定された場合に、ミシンへの供給が行われることとなる。
【0066】
(本実施の形態によるボタン画像認識処理装置の作用効果)
上述の実施の形態によれば、CPU12が背景情報判別プログラム14c及び対象物内情報取得プログラム14hを実行することで実施される判別工程において背景2aの規則的な白黒の縞模様を有しない範囲をボタンBとして判別する。このとき、背景2aのパターン(例えば縦方向に5画素ずつ白黒の縞模様があるパターン)に従っているかにより識別を行うので、例えボタンBに背景2aと濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。また、ボタンの模様や凹凸とボタンの穴との識別も正確に行うことが可能である。よって、ボタンBの形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみでボタンBを判別することが可能となる。よって、より好適にボタンBを判別できる。
また、ボタンBの穴部Baは、背景2aの規則的な模様が覗くことにより背景2aとして判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適にボタンBの形状を判別することが可能となる。よって、より一層好適にボタンBを判別できる。
さらに、ボタンBが透過性を有する場合であっても、背景2aがボタンBを透過することで屈折を生じる場合であれば、屈折を生じた部分は背景2aの規則性を失うので背景2aとして判別されず、ボタンBとして判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適にボタンBを判別できる。
【0067】
さらに、カメラ3のピントを背景2aに合わせるので、ボタンの厚みや立体構造に関らず背景2aを常に好適に撮像可能となる。よって、より好適に背景2aの規則的な模様を判別可能となり、背景2aとボタンBとの誤認の可能性を大幅に低減することが可能となる。よって、より一層好適にボタンBを判別できる。
【0068】
さらに、CPU12が表裏判定プログラム14j及び方向判定プログラム14lを実行することで実施される特徴判別工程において、ボタンBとして判別された画像の範囲の濃淡パターンからあらかじめ設定された濃淡チェックデータ15qあるいは方向チェックデータ15rと合致するかどうかを判別する。つまり、まずデジタル画像データDから背景2aとして判別される範囲を除外してボタンBとして判別される範囲を特定した後、ボタンBの範囲の濃淡パターンに対して濃淡チェックデータ15qと合致するかどうかを判別する。これによって、濃淡チェックデータ15qと合致するする範囲をデジタル画像データDの全体から探す場合に比べ、比較処理の範囲をボタンBとして判別された範囲に限定することができる。よって、比較処理の負荷を軽減し、処理時間を短縮することができる。
【0069】
また、CPU12が表裏判定プログラム14jを実行することで、ボタンの表を撮像した場合の画像の濃淡チェックデータ15qとデジタル画像データDのボタンBの濃淡パターンとから、ボタンBの表裏を判別する。これによって、ボタンBが裏向きになっていないかどうかを判別することが可能となる。従って、例えば縫い付け前にボタンBの表裏判定を行うことで、誤ってボタンBを裏返した状態で縫い付けてしまうといった事態をなくすことができ、縫い品質が大幅に向上する。
さらに、CPU12が方向判定プログラム14lを実行することで、ボタンBの向きを判別する。これによって、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった従来技術の問題点を解消でき、撮像対象物の特徴をより詳細に判別できる。
【0070】
さらに、自動チェックモードがONの場合、CPU12が背景情報判別プログラム12c及び対象物内情報取得プログラム14hを実行することにより実施される特徴取得工程において、デジタル画像データDのボタンBの範囲からボタンBの外周データ、穴部データ及び濃淡パターンを取得して、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qとして設定する。よって、ボタンBを正しく撮像した場合のデジタル画像データDを以後の外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qとして利用することが可能となる。従って、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qを設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qの設定の手間を大幅に軽減することが可能となる。
【0071】
(その他)
なお、上述の実施の形態ではミシンのボタン画像認識処理装置について記載しているが、ボタン画像認識処理装置1と同様の特徴を有する構成及びその動作の工程によってミシンのボタン以外の画像認識処理を行うことも可能である。
【0072】
また、上述の実施の形態における背景部材2の背景2aは縞模様に限定されない。
図13は、実施の形態における背景2aとは異なる規則性を有する背景の一例を示す説明図である。なお、図13(a)は規則的なチェック模様の背景2b、図13(b)は規則的な斜めの縞模様の背景2cの説明図である。
例えば、図13(a),(b)に示すように、規則性を有する背景であれば背景として判別されない範囲を撮像対象物(例えばボタン)として判別可能である。この場合、パターンデータHにも図13(a),(b)に対応するデータを記憶させておく必要がある。なお、規則性を有する模様であれば他の模様でもよいことは言うまでもない。
また、背景2aを判別する際の方向に関しては、上述の実施の形態では、縦方向であるが、使用する模様の形状によっては、横方向や斜め方向でも良い。
【0073】
また、上述の実施の形態ではカメラ3の撮像画像を白黒の多値画像(グレースケール)としているが、カラー画像でもよい。その場合、濃淡パターンはカラーパターン、濃淡チェックデータ15qはあらかじめ設定されたカラーパターンデータとして比較処理を行う。
また、上述の実施の形態ではカメラ3によって撮像されたアナログ画像をA/Dコンバータ11でデジタル画像データDに変換しているが、カメラ3をCCDイメージセンサやCMOSイメージセンサ等を用いたデジタルカメラとして直接デジタル画像データDをCPU12に出力し、A/Dコンバータ11を省略してもよい。
また、上述の実施の形態における背景2aの縞模様の規則性の基準となる画素数(5画素)や、背景の輪郭の画素数(10画素)といった各数値設定はあくまで一例であり、他の数値設定を用いてもよいことは言うまでもない。また、背景2aの縞模様の規則性の閾値を一意の値(5画素)ではなく、一定の数値範囲内(例えば4〜6画素)としてもよい。
また、背景に用いる模様の濃淡の度合いや形状及び濃淡部分の割合等は、規則的であれば、種々利用可能である。
また、本発明においては、撮像対象物の判別において撮像画像の背景の規則性を有する範囲とそうでない範囲の区別ができればよく、背景の規則性を有する範囲の判別処理方法は上述の実施の形態に限定されない。例えば、デジタル画像データDをフーリエ変換して、背景模様の周波数成分を特定の値として他の部分の周波数成分と区別した上で、フーリエ逆変換した画像から背景模様と対称物の画像のそれぞれを2値画像として抽出し、エッジ検出やラベリングなどの既存の画像認識方法で位置情報を取得しても良い。
【図面の簡単な説明】
【0074】
【図1】ボタン画像認識処理装置の構成を示すブロック図である。
【図2】ボタンと背景部材の背景2aとの関係の一例を示す上面図である。なお、図2(a)は整形不良がなく、かつ、所定の大きさのボタンが正しい向きで背景のほぼ中央に置かれた場合、図2(b)はボタンがない場合、図2(c)は所定の大きさよりも大きいボタンが置かれた場合、図2(d)はボタンの位置が背景の中央からずれて置かれた場合、図2(e)はボタンの一部が欠けている場合、図2(f)は所定の大きさよりも小さいボタンが置かれた場合、図2(g)はボタンの複数の穴部の位置関係が図2(a)に示す当該位置関係に対して傾いている場合、図2(h)は穴部の一部が誤った位置に形成されたボタンが置かれた場合、図2(i)は穴部の一部が形成されていないボタンが置かれた場合の説明図である。
【図3】ROMに記憶された各種プログラム及びEEPROMに記憶された各種データを示す説明図である。図3(a)はROM14に記憶された各種プログラムを、図3(b)はEEPROM15に記憶された各種プログラムを示す。
【図4】デジタル画像データの一部を拡大した説明図である。なお、デジタル画像データの周囲に付された数値はデジタル画像データの画素の位置を説明するための指標である。
【図5】背景とボタンとの境界線を示す説明図である。なお、図5(a)は背景情報判別プログラムの判別によるボタンの上半分の境界線を示す図、図5(b)は背景情報判別プログラムの判別によるボタンの下半分の境界線を示す図、図5(c)は外形情報取得プログラムによって合成されたボタンの外周データを示す説明図である。
【図6】外周チェックデータと外周データとの関係を示す説明図である。
【図7】ボタンの穴部のうちひとつが含まれるデジタル画像データの一部を示す説明図である。
【図8】穴部チェックデータと穴部データとの関係を示す説明図である。
【図9】ボタンの表裏の一例を示す説明図である。なお、図9(a)はボタンの表を、図9(b)はボタンの裏を示す。
【図10】方向判定プログラム14lによるボタンBの判定領域の一例を示す説明図である。図10(a)はボタンBに文字Aがプリントされている場合の方向判定を行う際の判定領域B1の一例を示す説明図、図10(b)は方向チェックデータ15rであるb1の一例を示す説明図である。
【図11】ミシンのボタン画像認識処理装置の動作を示すフロー図のうち、ステップS1からステップS11までを示すフロー図である。
【図12】ミシンのボタン画像認識処理装置の動作を示すフロー図のうち、ステップS12からステップS21までを示すフロー図である。
【図13】実施の形態における背景とは異なる規則性を有する背景の一例を示す説明図である。なお、図13(a)は規則的なチェック模様の背景、図13(b)は規則的な斜めの縞模様の背景の説明図である。
【符号の説明】
【0075】
2 背景部材
2a 背景
3 カメラ
10 画像処理装置
11 A/Dコンバータ
12 CPU
14 ROM
15 EEPROM
B ボタン
【技術分野】
【0001】
本発明は、カメラで撮像対象物を撮像して当該撮像対象物を認識する画像認識処理方法、画像認識処理装置及びボタン画像認識処理装置に関する。
【背景技術】
【0002】
ボタン付けミシンにより穴付きボタンを布等の被縫製物に縫い付ける場合、針がボタンの穴部を貫通して縫いつけるため、ボタンの位置、とりわけボタンの穴部の位置を被縫製物に対して正確に配置する必要がある。このため、ボタンの穴部の位置及び穴部同士の間隔に対応したピンを有する搬送部材を設け、ボタンの穴部をこのピンに差し込んだ状態でミシン縫合部に搬送することでボタンの穴部の位置を位置決めする方法が行われていた。
しかし、この方法によると、ボタンの表面に文字等の模様を配したボタンを模様が布地に対して所定の方向を向くように供給する場合に、模様の形成方向や位置が判別できないためボタンが所望の方向を向くように供給できないといった問題がある。
【0003】
このため、表面に模様を配したボタンをカメラ等で撮像し、撮像画像からボタンの向きを判別してボタンの位置を補正させる方法が行われるようになった(例えば特許文献1)。
また、撮像対象物を明確に抽出するための技術として、背景を縞模様とするとともに、縞模様を形成する二色のうち少なくとも一色を撮像対象物と大きく異なる色とすることにより好適に撮像対象物を撮像する方法が知られている(例えば特許文献2)。
【特許文献1】特公平2−23197号公報
【特許文献2】特開平9−54892号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に記載された方法、すなわち撮像画像によるボタンの向きの判別では、ボタンの撮像時にボタンとボタンが置かれた土台部の上面の色とが酷似していると、画像処理におけるボタンと土台部との判別がつきにくく、好適にボタンが検出できないといった問題がある。
また、ボタンの向きの判別はできてもボタンの穴部の位置を正しく検出することはできないといった問題点があった。このため、ボタンの位置決めが正確にできないとともに、ボタンの穴部の形成に不良があった場合に検出できないといった問題点があった。
さらに、模様を有しない一般的なボタンを利用することができず、汎用性に乏しいものとなった。
また、特許文献2の技術を利用したとしても、透過性を有するボタンの場合、背景とボタンとの濃度の急変部分が生じず、ボタンの外周の形状が確実に抽出できないといった問題点があった。
【0005】
本発明は、上述の問題点に鑑み、撮像対象物の形状によらず撮像対象物を判別可能な画像認識処理方法、画像認識処理装置及びミシンのボタン画像認識処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
請求項1記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラと、を用いて前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理方法において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別工程を含むことを特徴とする。
【0007】
請求項2記載の発明は、請求項1に記載の画像認識処理方法において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0008】
請求項3記載の発明は、請求項1又は2に記載の画像認識処理方法において、前記撮像対象物として判別された画像の範囲から前記撮像画像の前記撮像対象物があらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別工程を含むことを特徴とする。
請求項3における「撮像対象物の特徴」とは、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等である。
【0009】
請求項4記載の発明は、請求項3に記載の画像認識処理方法において、前記特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用することを特徴とする。
【0010】
請求項5記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理装置において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別手段を備えることを特徴とする。
【0011】
請求項6記載の発明は、請求項5に記載の画像認識処理装置において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0012】
請求項7記載の発明は、請求項5又は6に記載の画像認識処理装置において、前記撮像対象物として判別された画像の範囲から前記撮像画像の前記撮像対象物があらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする。
請求項7における「撮像対象物の特徴」とは、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等である。
【0013】
請求項8記載の発明は、請求項7に記載の画像認識処理装置において、前回以前の撮像対象物の撮像画像から前記撮像対象物の特徴となる画像を取得する特徴取得手段を備えることを特徴とする。
【0014】
請求項9記載の発明は、既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある衣類のボタンを前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記ボタンを認識するボタン画像認識処理装置において、前記撮像画像において前記背景の規則的な模様を有しない範囲を前記ボタンとして判別する判別手段を備えることを特徴とする。
【0015】
請求項10記載の発明は、請求項9に記載のボタン画像認識処理装置において、前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする。
【0016】
請求項11記載の発明は、請求項9又は10に記載のボタン画像認識処理装置において、前記ボタンとして判別された画像の範囲からあらかじめ設定された前記ボタンの特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする。
請求項11における「ボタンの特徴」とは、ボタンの色、ボタンに施された文字や模様等の装飾、ボタンの立体形状による撮像時の画像の濃淡パターン等である。
【0017】
請求項12記載の発明は、請求項11に記載のボタン画像認識処理装置において、前回以前のボタンの撮像画像から前記ボタンの特徴となる画像を取得する特徴取得手段を備えることを特徴とする。
【0018】
請求項13記載の発明は、請求項11又は12に記載のボタン画像認識処理装置において、前記特徴判別手段は、あらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別することを特徴とする。
【発明の効果】
【0019】
請求項1記載の発明によれば、判別工程において背景の規則的な模様を有しない範囲を撮像対象物として判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分を撮像対象物として判別する。このとき、撮像対象物の形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えば撮像対象物が縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、撮像対象物の形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみで撮像対象物を判別することが可能となる。よって、より好適に撮像対象物を判別できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景と撮像対象物との境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、撮像対象物が縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのか撮像対象物の一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、撮像対象物の内側に穴部等の背景が覗く貫通部が設けられている場合、当該貫通部の内側は背景の規則的な模様が覗くことにより背景として判別され、撮像対象物とはみなされなくなる。つまり、撮像対象物の内側に貫通部が設けられている場合に、当該貫通部が正しく判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適に撮像対象物の形状を判別することが可能となる。よって、より一層好適に撮像対象物を判別できる。
さらに、撮像対象物が透過性を有する場合であっても、背景が撮像対象物を透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、撮像対象物と判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適に撮像対象物を判別できる。
【0020】
請求項2記載の発明によれば、カメラのピントを背景に合わせるので、撮像対象物の厚さや高さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景と撮像対象物との誤認の可能性を大幅に低減することが可能となる。よって、より一層好適に撮像対象物を判別できる。
【0021】
請求項3記載の発明によれば、特徴判別工程において、撮像対象物として判別された画像の範囲から当該画像の撮像対象物があらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行って撮像対象物の範囲を判別した後に、当該撮像対象物の範囲についてあらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。これによって、あらかじめ設定された撮像対象物の特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外された撮像対象物の範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等といった撮像対象物の特徴について、撮像画像の撮像対象物があらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いの撮像対象物、装飾内容の異なる撮像対象物、文字や模様等の向きが異なる撮像対象物及び立体形状の特徴が異なる撮像対象物等の判別を行うことが可能となる。よって、従来技術において、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、撮像対象物の特徴をより詳細に判別できる。
【0022】
請求項4記載の発明によれば、特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用する。従って、撮像対象物の特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、撮像対象物の特徴の設定の手間を大幅に軽減することが可能となる。
【0023】
請求項5記載の発明によれば、判別手段が背景の規則的な模様を有しない範囲を撮像対象物として判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分を撮像対象物として判別する。このとき、撮像対象物の形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えば撮像対象物が縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、撮像対象物の形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみで撮像対象物を判別することが可能となる。よって、より好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景と撮像対象物との境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、撮像対象物が縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのか撮像対象物の一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、撮像対象物の内側に穴部等の背景が覗く貫通部が設けられている場合、当該貫通部の内側は背景の規則的な模様が覗くことにより背景として判別され、撮像対象物とはみなされなくなる。つまり、撮像対象物の内側に貫通部が設けられている場合に、当該貫通部が正しく判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適に撮像対象物の形状を判別することが可能となる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
さらに、撮像対象物が透過性を有する場合であっても、背景が撮像対象物を透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、撮像対象物と判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
【0024】
請求項6記載の発明によれば、カメラのピントを背景に合わせるので、撮像対象物の厚さや高さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景と撮像対象物との誤認の可能性を大幅に低減することが可能となる。よって、より一層好適に撮像対象物を判別可能な画像認識処理装置を提供できる。
【0025】
請求項7記載の発明によれば、特徴判別手段が撮像対象物として判別された画像の範囲から当該画像の撮像対象物があらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行って撮像対象物の範囲を判別した後に、当該撮像対象物の範囲についてあらかじめ設定された撮像対象物の特徴を有するかどうかを判別する。これによって、あらかじめ設定された撮像対象物の特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外された撮像対象物の範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、撮像対象物の色、撮像対象物に施された文字や模様等の装飾、撮像対象物の立体形状による撮像時の画像の濃淡パターン等といった撮像対象物の特徴について、撮像画像の撮像対象物があらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いの撮像対象物、装飾内容の異なる撮像対象物、文字や模様等の向きが異なる撮像対象物及び立体形状の特徴が異なる撮像対象物等の判別を行うことが可能となる。よって、従来技術において、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、撮像対象物の特徴をより詳細に判別可能な画像認識処理装置を提供できる。
【0026】
請求項8記載の発明によれば、特徴判別手段が、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用する。従って、撮像対象物の特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、撮像対象物の特徴の設定の手間を大幅に軽減することが可能となる。
【0027】
請求項9記載の発明によれば、判別手段が背景の規則的な模様を有しない範囲をボタンとして判別する。つまり、撮像画像から背景の規則的な模様を有する範囲を除外した部分をボタンとして判別する。このとき、ボタンの形状、色、模様その他の特徴が背景の規則的な模様と混同を生じる恐れがある場合は、背景の模様の規則性を変更することで対応が可能となる。例えばボタンが縞模様である場合は、縞の形成方向が異なる縞模様や、縞の形成間隔や各縞模様の幅が異なる縞模様、或いは市松模様とする等が考えられる。よって、ボタンの形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみでボタンを判別することが可能となる。よって、より好適にボタンを判別可能な画像認識処理装置を提供できる。
従来は、背景の縞に沿って濃度変化を観察し、濃度変化を大きく生じた箇所を背景とボタンとの境界と認識すると共に、二色の縞のそれぞれについて濃度変化を見るので、ボタンが縞のいずれか一方の色彩に濃度が近い場合でも他方の色彩により境界を検出することが可能である。しかしながら、表面の色彩の濃度に変化を生じている場合や表面に凹凸や穴がある場合や透明素材などのように、表面の途中部分で濃度変化を生じているような撮像対象物の場合には、縞の色彩の濃度に近似する箇所ではそれが背景なのかボタンの一部なのかを識別することができない。しかしながら、本願発明では、規則的な背景のパターンに従っているかにより識別を行うので、例え、撮像画像に背景と濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。
例えば、上述の特徴によりボタンの内側に設けられた穴部が正しく判別される。よって、ボタンの内側に設けられた穴部を抽出できないといった従来技術の問題点を解消でき、より好適にボタンの穴部の形状や位置や穴部同士の間隔を判別することが可能となる。よって、好適にボタンの向きを判別可能なボタン画像認識処理装置を提供できる。
さらに、ボタンが透過性を有する場合であっても、背景がボタンを透過することで屈折を生じる場合であれば、屈折を生じた部分は背景の規則性を失うので背景として判別されることがなく、ボタンと判別される。よって、透過性を有するボタンの場合、背景とボタンとの濃度の急変部分が生じず、ボタンの外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適にボタンを判別可能なボタン画像認識処理装置を提供できる。
【0028】
請求項10記載の発明によれば、カメラのピントを背景に合わせるので、ボタンの厚さに関らず背景を常に好適に撮像可能となる。よって、より好適に背景の規則的な模様を判別可能となり、背景とボタンとの誤認の可能性を大幅に低減することが可能となる。よって、より一層好適にボタンを判別可能な画像認識処理装置を提供できる。
【0029】
請求項11記載の発明によれば、特徴判別手段がボタンとして判別された画像の範囲から当該画像のボタンがあらかじめ設定されたボタンの特徴を有するかどうかを判別する。つまり、まず画像に対して背景の規則的な模様を有する範囲を除外する処理を行ってボタンの範囲を判別した後に、当該ボタンの範囲についてあらかじめ設定されたボタンの特徴を有するかどうかを判別する。これによって、あらかじめ設定されたボタンの特徴を有する範囲を画像全体から探す場合に比べ、特徴の有無の判別範囲を画像から背景が除外されたボタンの範囲に限定することができる。よって、特徴の有無の判別処理負荷を軽減し、処理時間を短縮することができる。
また、ボタンの色、ボタンに施された文字や模様等の装飾、ボタンの立体形状による撮像時の画像の濃淡パターン等といったボタンの特徴について、撮像画像のボタンがあらかじめ設定された当該特徴を有するかどうかを判別する。よって、色違いのボタン、装飾内容の異なるボタン、文字や模様等の向きが異なるボタン及び立体形状の特徴が異なるボタン等の判別を行うことが可能となる。よって、従来技術において、ボタンに施された文字や模様等の装飾の向きを判別できないといった問題点を解消でき、ボタンの特徴をより詳細に判別可能なミシンのボタン画像認識処理装置を提供できる。
【0030】
請求項12記載の発明によれば、特徴判別手段が前回以前のボタンの撮像画像から取得された前記ボタンの特徴となる画像を利用する。従って、ボタンの特徴を設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、ボタンの特徴の設定の手間を大幅に軽減することが可能となる。
【0031】
請求項13記載の発明によれば、特徴取得手段があらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別する。この場合、ボタンの表を撮像した場合の画像の濃淡パターンデータと、ボタンの裏を撮像した場合の画像の濃淡パターンデータとは異なるものであり、特徴判別手段はボタンの表と裏の画像の濃淡パターンデータの違いによりボタンの表裏を判別する。例えばあらかじめ設定された画像の濃淡パターンデータがボタンの表を撮像した場合の画像の濃淡パターンデータの場合は、特徴判別手段は当該濃淡パターンデータと撮像画像のボタンの濃淡パターンデータとが一致すればボタンは表であると判別し、異なれば裏であると判別する。これによって、ボタンが本来意図した置き方に対して裏返しになっていないかどうかを判別することが可能となる。よって、例えば縫い付け前に特徴判別手段によるボタンの表裏判定を行うことで、誤ってボタンを裏返した状態で縫い付けてしまうといった事態をなくすことができ、縫い品質が大幅に向上する。
【発明を実施するための最良の形態】
【0032】
(本発明による画像認識処理方法を用いるボタン画像認識処理装置の概要)
以下、図を参照して本発明の実施の形態を詳細に説明する。
本発明による画像認識処理方法及び画像認識処理装置は、カメラで撮像対象物を背景ごと撮像して当該撮像対象物を認識する画像認識処理方法及びボタン画像認識処理装置である。また、本発明によるボタン画像認識処理装置1は、カメラでボタンを背景ごと撮像してボタンの大きさ、位置、表裏、色及び向きといった各種の特徴を認識するボタン画像認識処理装置である。ボタン画像認識処理装置1は、例えばボタン付けミシンにおいて被縫製物の上方でボタンを保持するボタン把持具(図示略)にボタンを供給する周知のボタン供給装置において、ボタン把持具に供給されるボタンの大きさ、位置、表裏、色及び向きといった各種の特徴をボタンの供給前に認識する処理に用いられる。ボタン画像認識処理装置1はあらかじめ設定されたボタンの特徴がある場合、上述の各種特徴のうちいずれかがあらかじめ設定されたボタンの特徴と異なるボタンを認識した場合にエラーを出力する。これによって、縫製作業に用いるボタンの特徴についてあらかじめ設定をしていれば、あらかじめ設定された特徴にそぐわないボタンが誤って供給されることがなくなり、またボタンの向きが誤って供給されることを防止する。よって、ボタンの縫い付け品質が向上する。特に、ボタン自体正常であるが、ボタンの位置、向き、表裏といったボタンのセットの問題がある場合に、認識した結果をボタン供給装置の位置補正機構などに出力することにより、ミシンの正しい位置にボタンを供給することができる。
【0033】
(ミシンのボタン画像認識処理装置の全体構成)
以下に記載するボタン画像認識処理装置1(図1参照)は、本発明によるミシンのボタン画像認識処理装置の一形態であり、ボタンBを背景2aごと撮像した画像からボタンBを判別する画像認識処理装置である。
図1はボタン画像認識処理装置1の構成を示すブロック図である。
ボタン画像認識処理装置1は、既知の規則的な模様が付された平面を有し、当該平面が背景2aとされる背景部材2と、背景2aが付された平面の範囲内にある撮像対象物(ボタンB)を背景2aごと撮像するカメラ3と、ボタンBを光で照らす照明4と、ボタン画像認識処理装置1の各種情報を表示するモニタ5と、ボタン画像認識処理装置1の各部を制御するとともにカメラ3が撮像した画像からボタンBの認識処理を行う画像処理装置10と、を備えている。
【0034】
図2はボタンBと背景部材2の背景2aとの関係の一例を示す上面図である。なお、図2(a)は整形不良がなく、かつ、所定の大きさのボタンBが正しい向きで背景2aのほぼ中央に置かれた場合、図2(b)はボタンがない場合、図2(c)は所定の大きさよりも大きいボタンBAが置かれた場合、図2(d)はボタンBの位置が背景2aの中央からずれて置かれた場合、図2(e)はボタンBの一部が欠けているボタンBBが置かれた場合、図2(f)は所定の大きさよりも小さいボタンBCが置かれた場合、図2(g)はボタンBの複数の穴部Baの位置関係が図2(a)に示す当該位置関係に対して傾いている場合、図2(h)は穴部の一部が誤った位置に形成されたボタンBDが置かれた場合、図2(i)は穴部の一部が形成されていないボタンBEが置かれた場合の説明図である。
図1及び図2に示すように、背景部材2は、既知の規則的な模様が付された平面を有し、当該平面が背景2aとされる。当該縞模様は等幅の白黒の縞模様であり、カメラ3に撮像された場合それぞれの縞が一定の幅(画素にして5画素分)の幅となるよう設けられている。また、図2に示すように、背景2aの上面にボタンBを乗せた状態で背景2a及びボタンBを上方から見た場合、ボタンBに覆われないボタンBの外周より外側と穴部Ba部分から背景2aが覗いて見える。このとき、背景2aはボタンBを上から見た場合の範囲を十分にカバーでき、かつ、ボタンBを背景2aの中央においた場合にボタンBの周囲に背景2aが所定の幅以上覗いて見える広さを有するよう設けられている。
【0035】
カメラ3は、背景2aの上方に位置するよう設けられて、ボタンBを背景2aごと撮像する。このとき、カメラ3のピントを背景2aに合わせて撮像する。カメラ3によって撮像された画像は画像処理装置10へ入力される。
なお、カメラ3による画像は白黒であってもカラーであってもよいが、本実施の形態では白黒の画像を用いている。また、カメラ3から画像処理装置10へ入力される画像はアナログの画像である。
【0036】
照明4は、背景2a及びボタンBに光を照射する。照明4は光量を調節可能であり、カメラ3によるボタンBの撮像の際にカメラ3が受像する光量を適正に調節することができる。撮像の際には、方向、光量などが予め定められた一定の条件となるように照射が行われる。
モニタ5は、画像処理装置10から各種の情報が出力されて表示される。モニタ5に表示される内容については後述する。但し、周囲の外光による反射光によりカメラ3により撮像画像が背景2とボタンBとを認識可能であれば、必ずしも照明を画像処理装置10に設ける必要はない。また、図1において、照明4が斜光照明となっているが落斜照明でも良い。
【0037】
(画像処理装置)
画像処理装置10は、ボタン画像認識処理装置1の各部を制御するとともにデジタル画像データDからボタンBを認識する処理を行う。画像処理装置10は、カメラ3から入力されたアナログの画像をデジタル画像データDへと変換するA/Dコンバータ11と、画像認識処理装置1の各種の処理及び制御を行うCPU12と、CPU12が行う処理において各種のプログラム及びデータを格納する領域として機能するRAM13と、CPU12が行う処理において呼び出される各種プログラム及びデータを書き換え不能に記憶するROM14と、CPU12が行う処理において呼び出される各種プログラム及びデータを書き換え可能に記憶するEEPROM15と、を備えている。また、図示しないが、画像処理装置10には画像処理装置への各種設定を行う操作パネルが接続されている。
【0038】
A/Dコンバータ11は、カメラ3から入力されたアナログの画像を複数の画素によるデジタル画像データDへと変換してCPU12へ出力する。デジタル画像データDのそれぞれの画素は、一つの濃度値(輝度)を有する(図4参照)。
CPU12は、ROM14又はEEPROM15から各種のプログラム及びデータを呼び出し、処理することでボタン画像認識処理装置1の各種の処理及び制御を行う。また、CPU12は、A/Dコンバータ11から入力されたデジタル画像データDからボタンBを判別する各種の処理を行う。CPU12は、ROM14から各種のプログラムを呼び出して順次実行することにより上述のボタンBの判別処理を行う。このとき、デジタル画像データDはRAM13又はEEPROM15に記憶される。
【0039】
なお、画像処理装置10は背景2aの縞模様を既知のパターンとして保有しており、当該縞模様のパターンデータHはEEPROM15に記憶されている。また、EEPROM15はボタンの外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rを記憶するための領域及び容量を有している。また、EEPROM15はあらかじめ外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rのいずれか又は複数を既知のパターンとして保有していてもよい。ボタンBの外周チェックデータ15o、穴部チェックデータ15p、濃淡チェックデータ15q及び方向チェックデータ15rの詳細については後述する。
【0040】
図3はROM14に記憶された各種プログラム及びEEPROM15に記憶された各種データを示す説明図である。図3(a)はROM14に記憶された各種プログラムを、図3(b)はEEPROM15に記憶された各種プログラムを示す。
また、ROM14は、後述する撮像プログラム14aと、画質改善プログラム14bと、背景情報判別プログラム14cと、対象物有無チェックプログラム14dと、背景輪郭チェックプログラム14eと、外形情報取得プログラム14fと、対象物エラーチェックプログラム14gと、対象物内情報取得プログラム14hと、対象物内エラーチェックプログラム14iと、表裏判定プログラム14jと、方向判定プログラム14lとを記憶している。CPU12は、処理に応じてこれらのプログラムのいずれかを呼び出して実行することでカメラ3による画像からボタンBの認識処理を行う。以降、CPU12が各プログラムを実行した場合の処理内容について詳説する。
【0041】
まず、撮像プログラム14aについて詳説する。CPU12は、撮像プログラム14aを実行することで、カメラ3を制御してカメラ3にボタンBを背景2aごと撮像させ、当該撮影によって得られたアナログ画像をA/Dコンバータ11を介してデジタル画像データDに変換してRAM13に記憶させる処理を行う。このとき、撮像された画像をモニタ5に表示させてもよい。なお、当該デジタル画像データDは長方形あるいは正方形の白黒の多値画像データ(グレースケール)である。
また、CPU12は、画質改善プログラム14bを実行することで、撮像プログラム14aによってRAM13に記憶されたデジタル画像データDのノイズを除去する処理を行う。なお、デジタル画像データDのノイズ除去の方法については周知の技術であるので詳細は省略する。
【0042】
次に、背景情報判別プログラム14cについて詳説する。CPU12は、背景情報判別プログラム14cを実行することで、デジタル画像データDから背景の部分を認識する処理を行う。以下、当該処理について詳説する。
図4はデジタル画像データDの一部を拡大した説明図である。なお、デジタル画像データDの周囲に付された数値はデジタル画像データDの画素の位置を説明するための指標である。
CPU12は、背景2aの白黒の縞と直交する方向(図4の縦方向)について、背景2aの白黒の縞の幅が所定の画素数ずつ交互に並んでいるかどうかを判別する。即ち、撮像範囲の画素の縦方向に沿って各画素の輝度を読み出して、白黒の横縞を撮像することにより得られるべきパターン通りかを撮像範囲の全ての列について判定する。白黒の横縞の場合、背景2aであれば、所定画素数ごとに白と黒とが切り替わる変化を示すパターンが得られるはずである。このとき、背景2aの白黒の縞の幅がデジタル画像データD上で縦方向に何画素分の幅となるのかはパターンデータHとしてあらかじめ設定されEEPROM15に記憶されており、図4においては当該幅が5画素分である場合を示している。また、「黒」、「白」と判定する輝度の範囲も予め設定されEEPROM15に記憶されている。CPU12は、各列毎に上から5画素ずつ各画素の輝度を取得し、5画素とも背景2aの縞模様に則した輝度であるかどうかを判定する。つまり、図4に示すデジタル画像データDの場合、上から1〜5番目の画素は全部「黒」を示す輝度であるか、6〜10番目の画素は全部「白」を示す輝度であるか、といったように順に5画素ずつ判定する。5画素とも背景に則した輝度である場合、CPU12はその5画素を背景2aとして判別し、そうでなかった場合、その部分は背景でない、即ち撮像対象物であるボタンBが写っている画像の範囲であると判別される。図4には、カメラにより撮像されたボタンBの形状に対応する画素部分で「灰色」(図4の斑点部分)を示す輝度が取得されているようすが示されているが、CPU12による判別処理は縦方向に5画素単位で判別処理が行われるので、背景2aとボタンBとが判別される縦方向の画素の最小単位は5画素となり、実際のカメラの分解能よりも5倍荒い分解能で背景2aとボタンBとが区切られる。例えば、背景2aとボタンBとの境界は、図4における二点鎖線Pのように認識される。なお、誤差を考慮して、5画素に対して±αの許容幅を設けても良い(例えば、α=1の場合、5画素中4画素が背景2aと同じ輝度であれば、中に一つだけ異なる色彩が混じっていても背景と見なす処理が行われる)。
なお、撮像範囲の端縁部分は、単位模様が途中から撮像されている場合もあるので、繰り返しの単位模様が一度認識された位置から判別処理を開始するのが望ましい。
【0043】
図5は、背景2aとボタンBとの境界線を示す説明図である。なお、図5(a)は背景情報判別プログラム14cの判別によるボタンBの上半分の境界線L1を示す図、図5(b)は背景情報判別プログラム14cの判別によるボタンBの下半分の境界線L2を示す図、図5(c)は後述する外形情報取得プログラム14fによって合成されたボタンBの外周データLを示す説明図である。
CPU12は、まず1列目において一番上の画素から下方へ順次5画素単位で背景2aとボタンBとの判別を行い、ボタンBとして判別される範囲が見つかるまで背景2aとボタンBとの判別を行う。ボタンBとして判別される範囲が見つかった場合はそれより下方の範囲はボタンBが存在するものとしてその時点でその列の判定は終了して次の列に移行し、ボタンBとして判別される範囲が見つからなかった場合は当該列の最後の画素まで判別が終わった時点で次の列の1番目から下方へ順次5画素単位で背景とボタンBとの判別を行い、以後繰り返す。その後、最後の列の判別が完了した時点で、図5(a)に示すように、背景2aとボタンBとが判別された境界線L1を境として背景2aとボタンBとの範囲の判別が行われる。その後、1列目において縦方向の一番下の画素から上方へ順次5画素単位で背景とボタンBとの判別を行い、ボタンBとして判別される範囲が見つかるまで背景とボタンBとの判別を行う。ボタンBとして判別される範囲が見つかった場合はそれより上方の範囲はボタンBが存在するものとしてその時点でその列の判定は終了して次の列に移行し、ボタンBとして判別される範囲が見つからなかった場合は当該列の画素における一番上の画素まで判別が終わった時点で次の列の一番下から上方へ順次5画素単位で背景とボタンBとの判別を行い、以後繰り返す。このとき、下方から順次背景とボタンBとの判別を行う処理については、上方から順次背景とボタンBとの判別を行った結果、全て背景であると判別された列については判別処理を省略してもよい。この結果、図5(b)に示すように、境界線L2を境として背景2aとボタンBとの範囲の判別が行われる。
なお、上記判別処理においては、判別時間を短縮するために、下方または上方へ向かう列毎の判別処理において、ボタンBとして判別される範囲が見つかった場合はそれ以降のその列の範囲はボタンBが存在するものとしてその列の画素の判別を省略しているが、この処理では、時間が短縮できる代わりに、ボタンBの形状に一部欠損がある場合に、その欠損を判別できない可能性があるので、時間は短縮できないが、一番上の画素から一番下の画素まで、あるいは、一番下の画素から一番上の画素まで、ボタンBの画素の検出の有無に関わらず省略すること無しに、全画素の判別を行っても良い。
【0044】
なお、ボタンBが透過性を有する場合、背景2aの縞模様はボタンBを透過するが、背景2aがボタンBを透過する過程において屈折が生じるような場合は、当該屈折によって背景2aの規則性が失われるので、その部分は背景2aとして判別されず、ボタンBとして判別される。
【0045】
次に、対象物有無チェックプログラム14dについて詳説する。CPU12は、対象物有無チェックプログラム14dを実行することで、背景情報判別プログラム14cの実行によって背景2aとして判別された範囲がデジタル画像データD全体であるかどうかを判定することで、背景2aにボタンBが乗っているかをチェックする。デジタル画像データD全体が背景として判別された場合、つまりボタンBとして判別された範囲がデジタル画像データD上にまったくない場合、背景2aの上面にボタンBが乗っていないこととなる。よって、CPU12はボタンBがない旨を示すエラーを出力する。一方、デジタル画像データD全体が背景として判別されていなかった場合、背景2aの上面にボタンBが乗っていることで背景2aが遮られる部分ができ、背景2aと判別されなかった範囲がボタンBとして判別されたとみなされる。よってCPU12はボタンBがある旨を示す出力を行う。これによって図2(b)に示すように、ボタンが置かれていない場合のデジタル画像データDを判別できる。
【0046】
次に、背景輪郭チェックプログラム14eについて詳説する。CPU12は、背景輪郭チェックプログラム14eを実行することで、ボタンBが連続する所定範囲の背景2aに囲まれるように配置されていること、すなわち輪郭部分の全方位に渡って所定−画素数分の連続する背景2aがあるかどうかを判定する。即ち、背景輪郭チェックプログラム14eは、ボタンBが背景2aからはみ出すように置かれていないか、あるいはボタンBが背景2aの中央から大幅に外れた位置に置かれていないかをチェックする。CPU12は、図4に示す画像データDにおいてそれぞれ1〜10の数値で示す上端から連続する10画素分の行(画素の横の並び)及び左端から連続する10画素分の列(画素の縦の並び)の範囲及び図示しないデジタル画像データDの下端及び右端から連続する10画素分の範囲が全て背景2aとして判別されているかどうかをチェックする。すなわち、CPU12は、画像データDの上下左右の端縁から連続する10画素分の範囲(所定範囲)が全て背景2aとして判別されるか否かにより、ボタンBが背景2aからはみ出すように置かれていないか、あるいはボタンBが背景2aの中央から大幅に外れた位置に置かれていないかをチェックする。当該範囲が全て背景として判別されていない場合、即ちボタンBとして判別された範囲が当該範囲に含まれていた場合、ボタンBは背景2aからはみ出すように置かれているか、あるいははみ出ないまでも背景2aの中央から大幅にずれた位置に置かれていると判定される。よって、背景輪郭チェックプログラム14eはボタンBが背景2aからはみ出ているか、あるいは背景2aの中央から大幅にずれた位置に置かれている旨を示すエラーを出力する。一方、当該範囲が全て背景として判別されていた場合、ボタンBは背景2aからはみ出たり、背景2aの中央から大幅にずれた位置に置かれたりすることなく、凡そ正しい位置に置かれていると判定される。よって、CPU12はボタンBが正しい位置に置かれている旨を示す出力を行う。これによって図2(c)に示すようにボタンBAの大きさが大きいために背景2aの輪郭の一部を覆っている場合や、図2(d)に示すようにボタンBの置かれている位置が背景2aの中央からずれている場合のデジタル画像データDを判別できる。
なお、上述においては10画素分をデジタル画像データDの輪郭として処理しているが、上述と異なる画素数を輪郭として設定可能であることは言うまでもない。
また、上述においてはデジタル画像データDの上下左右のそれぞれの側縁から連続する10画素分の背景2aを示す画素が判別されない場合に、ボタンBの背景2aからのはみ出しやボタンBの背景2aの中央から大幅のズレをチェックしているが、単に、デジタル画像データDの全体にわたって、縦方向と横方向それぞれについて10画素連続して背景2aとして判別できない部分が存在する場合に、同様の判定を行っても良い。
また、背景情報判別プログラム14cにより取得した境界線の画像データD中の位置によって、同様の判定を行っても良い。
【0047】
次に、外形情報取得プログラム14fについて詳説する。CPU12は、外形情報取得プログラム14fを実行することで、背景情報取得プログラム14cによってボタンBとして判別された範囲の外周を示すデータ(外周データ)を合成する。具体的には、図5(c)に示すように、境界線L1と境界線L2とを合成して境界線L1の内側であって、かつ、境界線L2の内側である範囲をボタンBの範囲としてみなし、その範囲を取り巻く境界線L1、L2の一部分を連結してボタンBの外周データLとする。
また、後述する自動チェックモードがONの場合は、CPU12は外周データをEEPROM15に記憶する。
【0048】
次に、対象物エラーチェックプログラム14gについて詳説する。CPU12は、対象物エラーチェックプログラム14gを実行することで、ボタンBの外周チェックデータがあらかじめ記憶されていた場合に、外形情報取得プログラム14fの実行によって取得されたボタンBの外周データと外周チェックデータ15oとを比較する。
図6は外周チェックデータ15oと外周データLとの関係を示す説明図である。外周チェックデータ15oは、図6に示すボタンBの外周の境界線が位置すべき画素の範囲F1を示すデータであり、上述のようにEEPROM15に記憶されている。CPU12は、外周データLの示すボタンBの外周の位置が全て範囲F1内に含まれるかどうかの判定を行う。これによって、図2(e)に示すようにボタンBの一部が欠けているボタンBBが置かれた場合や、図2(f)に示すように所定の大きさよりも小さいボタンBCが置かれた場合、また背景2aに対してボタンBが大きく位置ズレを生じて配置されている場合のデジタル画像データDを判別できる。
【0049】
上述の比較処理により、CPU12はデジタル画像データDに写ったボタンBの外周の形状及びボタンBの大きさが外周チェックデータ15oに設定されたボタンと合致するかどうか判定する。このとき、ボタンBの外周データが外周チェックデータ15oに合致しないと判定された場合、CPU12はボタンBの形状、配置あるいは大きさが異常である旨を示すエラーを出力する。一方、ボタンBの外周データが外周チェックデータ15oに合致すると判定された場合、CPU12はボタンBの形状、配置及び大きさに問題がない旨を示す出力を行う。これによって、ボタンBの形状があらかじめ設定された外周チェックデータ15oと一致しない場合のデジタル画像データDを判別できる。
【0050】
次に、対象物内情報取得プログラム14hについて詳説する。CPU12は、対象物内情報取得プログラム14hを実行することにより、ボタンBとして判別された範囲内において背景2aとボタンBとの判別を行い、その後ボタンBの穴部の周囲を示すデータ(穴部データ)及び背景情報判別プログラム14cによってボタンBとして判別された範囲から穴部Baを除いた範囲の各画素の輝度を示す濃淡パターンデータを取得する処理を行う。
図7はボタンBの一つの穴部Baの周囲を拡大視したデジタル画像データDの一部を示す説明図である。ボタンBとして判別された範囲内における背景2aとボタンBとの判別処理については、上述の背景情報判別プログラム14cの処理と同様の仕組みで行う。具体的には、ボタンBの外周が位置する最も若い数値(最も左側)の列から順番に各列の一番上の画素から順次5画素単位で背景2aとボタンBとの判別処理を行う。このとき、ボタンBの範囲内で背景2aとして判別された範囲は、ボタンBの穴部Baとして判別される。つまり、図7に示すように、二点鎖線Q1の内側が穴部Baとして判別され、二点鎖線Q1は穴部Baのうちひとつの輪郭を示す。
なお、対象物内情報取得プログラム14hによる背景2aとボタンBとの判別処理範囲はあらかじめ設定した所定の範囲内に限ることも可能である。例えば、図2に示すボタンBの穴部Baが設けられているおおよその位置があらかじめ特定できる場合には、穴部Baが設けられている位置に対応する画素の位置及びその周辺を所定の範囲として設定することで、背景2aとボタンBとの判別処理を行う範囲を少なくして処理時間を短縮することが可能となる。
よって、CPU12は、上述の背景情報判別プログラム14c、外形情報取得プログラム14f及び対象物内情報取得プログラム14hを実行することで、背景2aの規則性(例えば5画素ずつの縞模様)を有する模様から背景2aを判別し、背景2aと判別されなかった部分をボタンBと判定する処理を行う「判別手段」として機能する。
上述の背景2aとボタンBとの判別処理が終わると、CPU12は、全ての穴部Baの輪郭の位置を穴部データとして取得すると共に、前述したボタンの外周データLと穴部データとに基づいて全撮像範囲の撮像データからボタンBの範囲内であって穴部を除いた範囲を抽出し、穴部を除いたボタンBの正面上の濃淡パターンデータを取得する。なお、穴部データには独立した穴部の数も併せて取得される。
なお、以降の対象物内に関わる処理では、穴部データに基づいて、デジタル画像データDまたはデジタル画像データDから取得した情報に対して、必要に応じて対象物の向きが正しくなるように、画像データDまたは対応する情報を変換する方向変換処理を行う。
【0051】
次に、対象物内エラーチェックプログラム14iについて詳説する。CPU12は、対象物内エラーチェックプログラム14iを実行することで、EEPROM15に穴部チェックデータ15pがあらかじめ記憶されていた場合、対象物内情報取得プログラム14hによって取得された穴部データと穴部チェックデータ15pとを比較する処理を行う。
図8は穴部チェックデータ15pと穴部データとの関係を示す説明図である。穴部チェックデータ15pは、図8に示すボタンBの穴部の輪郭が位置すべき範囲F2を示すと共に、独立したF2の範囲の数即ちボタンの穴部の数をチェックするデータであり、上述のようにEEPROM15に記憶されている。CPU12は、穴部データの示すボタンBの穴部Baの輪郭Qが全て範囲F2内に含まれるかどうかの判定を行うと共に、穴部データに含まれる独立した穴部の数と穴部チェックデータの独立したF2の範囲の数とを比較する。これによって、図2(g)に示すようにボタンBの複数の穴部の位置関係が正しい位置関係に対して傾いている場合、図2(h)に示すようにボタンの穴部の一部が誤って形成されたボタンBD及び図2(i)に示すようにボタンの穴部の一部が形成されていないボタンBEのデジタル画像データDを判別できる。
【0052】
上述の比較処理により、CPU12はデジタル画像データDに写ったボタンBの穴部Baの大きさ、位置及び数が穴部チェックデータ15pと合致するかどうか判定する。デジタル画像データD穴部データと穴部チェックデータ15pとが合致しないと判定された場合、CPU12はボタンBの穴部Baに異常がある旨を示すエラーを出力する。一方、デジタル画像データD穴部データと穴部チェックデータ15pとが合致すると判定された場合、CPU12はボタンBの穴部Baに問題がない旨を示す出力を行う。
【0053】
次に、表裏判定プログラム14jについて詳説する。CPU12は、表裏判定プログラム14jを実行することで、EEPROM15に濃淡チェックデータ15qがあらかじめ記憶されていた場合に、対象物内情報取得プログラム14hによって取得されたボタンBとして判別された範囲の画像の濃淡パターンデータからボタンBの表裏を判定する。
図9はボタンBの表裏の一例を示す説明図である。なお、図9(a)はボタンの表を、図9(b)はボタンの裏を示す。
図9(a)に示すように、ボタンBの表に段差Bbが設けられている場合、段差Bbとその外周部Bcとの間で画像の濃淡差が生じる。一方、図9(b)に示すようにボタンBの裏には段差がないので、表の場合のような濃淡差は生じない。また、濃淡チェックデータ15qはボタンの表及び裏をそれぞれ撮像した場合の画像の濃淡を示すデータであり、そのデータ構造は対象物内情報取得プログラム14hによって取得された濃淡パターンデータと同様、穴を除いたボタン画像の各画素の輝度を示す濃淡パターンデータである。つまり、CPU12は対象物内情報取得プログラム14hで得られた濃淡パターンデータとボタンBの表側(裏側)を表すデータ(表パターン)として予め設定されていた濃淡チェックデータ15qとを比較し、デジタル画像データDに写ったボタンBの表裏を判定する。
【0054】
当該判定は、濃淡チェックデータ15qを基準とした近似値判定処理を行う。具体的には、濃淡チェックデータ15qの各画素と濃淡パターンの各画素についてそれぞれ濃度を数値化し、対応する位置の画素の濃度について濃淡チェックデータ15qの濃度の数値に対して濃淡パターンの濃度の数値が所定の近似値の範囲内であるかどうかをチェックする。このとき、一定以上の割合の画素が近似値以内であれば合致したものとみなし、そうでなければ合致しないものとみなす。
よって、CPU12は近似値判定処理において濃淡パターンが濃淡チェックデータ15qの表パターンに合致した場合、即ち表向きであると判定した場合は問題がない旨を示す出力を行う。一方、濃淡パターンと表パターンとが合致しなかった場合、CPU12はさらに濃淡パターンと濃淡チェックデータ15qに含まれる裏を撮像した場合のデータ(裏パターン)とを比較する。このとき、濃淡パターンと裏パターンとが合致した場合、即ちデジタル画像データDに写ったボタンBが裏向きであると判定した場合にボタンが裏向きである旨を示すエラーを出力する。また、濃淡パターンが表パターン及び裏パターンのいずれにも一致しなかった場合は、ボタンBは濃淡チェックデータ15qに設定されたボタンの表でも裏でもない濃淡パターンを示すボタン、即ちボタンの色、文字や模様等の装飾又は立体構造等の特徴が異なることによって撮像時の濃淡パターンが異なる種類のボタンであると考えられる。よって、CPU12はボタンBが異なる種類のボタンであると判別し、ボタンの種類が異なる旨のエラーを出力する。これによって、ボタンの色、文字や模様等の装飾又は立体構造等の特徴が異なるボタンを判別することが可能となる。
よって、CPU12は、表裏判定プログラム14jを実行することによりデジタル画像データDに撮像されたボタンBの濃淡パターンデータがあらかじめ設定された濃淡チェックデータ15q即ちボタンの特徴によって撮像時に生じる濃淡パターンを有するかを判別する「特徴判別手段」として機能する。なお、表裏判定において用いる画像は、表裏判定が可能であれば、ボタンの表面または裏面の一部の画像でも良いことは勿論である。
【0055】
なお、ボタンが段差Bbのように回転しても一定の形状ではないような表面上の特徴を有する場合には、表裏判定プログラム14jによる表裏判定に替えて以下の方向判定プログラム14lによる方向判定を行っても良い。
次に、方向判定プログラム14lについて詳説する。CPU12は、方向判定プログラム14lを実行することで、EEPROM15に方向チェックデータ15rがあらかじめ設定されていた場合に、対象物内情報取得プログラム14hの実行によって取得されたボタンBとして判別された範囲の画像の濃淡パターンデータからボタンBがあらかじめ設定されたボタンBの向きであるかどうかを判定する。
【0056】
図10は方向判定プログラム14lによるボタンBの判定領域の一例を示す説明図である。図10(a)はボタンBに文字Aがプリントされている場合の方向判定を行う際の判定領域B1の一例を示す説明図、図10(b)は方向チェックデータ15rであるb1の一例を示す説明図である。
例えば、図10(a)に示すように、ボタンBに文字Aがプリントされている場合、CPU12は、文字Aの向きを判定するための判定領域B1を設定して当該領域内の画像の濃淡パターンデータをそれぞれ取得する。次に、方向判定プログラム14lはあらかじめ設定された文字Aの正しい方向を示す方向チェックデータ15rをEEPROM15から呼び出して、上述のB1から取得した画像の濃淡パターンデータとそれぞれ比較する。なお、方向チェックデータ15rは、図10(b)に示すように、ボタンとして判定される範囲内においてボタンの方向を判定するためのb1に示す一部分のみに限定した濃淡パターンデータである。当該比較は、デジタル画像データDに対し、方向チェックデータ15rを基準として方向チェックデータ15rに対応する位置のボタンBの画像の濃淡パターンの近似値判定処理を行う。このとき、図10(a)と図10(b)の対応関係のように、B1とb1が一致した場合、CPU12はボタンBの方向が正しい方向であると判定し、ボタンBに問題がない旨を示す出力を行う。一方、B1とb1が一致しなかった場合、ボタンBの方向が異なっていると判定し、デジタル画像データDまたは方向チェックデータ15rを回転させ、両者が一致した場合には、その回転方向と回転角度とを外部に出力し、デジタル画像データDまたは方向チェックデータ15rのいずれか一方を360°回転させても一致しない場合には、エラーを出力する。
【0057】
なお、上述の判定領域B1の位置、領域の広さ、形状及びあらかじめ設定される濃淡パターンb1はあくまで一例であり、ボタンBの方向判定の基準となる模様その他の特徴によって個別に設定可能である。また、方向チェックデータ15rはボタンBに施された文字Aの濃淡パターンに限らず、濃淡パターンの比較処理によってボタンBの方向を判別できる特徴であれば何でもよい。
よって、CPU12は、方向判定プログラム14lを実行することによりデジタル画像データDに撮像されたボタンBの濃淡パターンがあらかじめ設定されたボタンの特徴によって撮像時に生じる濃淡パターンを有するかを判別する「特徴判別手段」として機能する。
【0058】
(自動チェックモード)
次に、自動チェックモードについて説明する。自動チェックモードは、外形情報取得プログラム15fによって取得されたボタンBの外周データを外周チェックデータ15oとしてEEPROM15に記憶し、対象物内情報取得プログラム14hによって取得された穴部データを穴部チェックデータ15pとして、濃淡パターンデータを濃淡チェックデータ15qとして記憶する画像処理装置10の設定である。つまり、自動チェックモードを用いることで、カメラ3によって撮像されたボタンBの画像を元に外周チェックデータ15o、穴部チェックデータ15p及び濃淡パターンデータを設定可能となる。なお、外周データLから外周チェックデータ15oを設定する場合、外周データLが示す外周の位置を基準とした閾値の範囲を別途設定しておく必要がある。つまり、CPU12は外周データLが示すボタンの外周の形状を中心線として、設定された閾値の範囲の誤差を持った範囲データを外周チェックデータ15oとしてEEPROM15に記憶する。また、穴部データから穴部チェックデータ15pを設定する場合も同様に穴部データが示す穴部の輪郭を基準とした閾値の範囲を別途設定しておく必要がある。つまり、CPU12は穴部データが示すボタンの穴部の形状を中心線として、設定された閾値の範囲の誤差を持った範囲データを穴部チェックデータ15pとしてEEPROM15に記憶する。このとき、穴部チェックデータ15pには独立した穴部の数も併せて記憶される。また、濃淡パターン設定時は、取得された濃淡パターンが表の画像の濃淡(表パターン)であるか、裏の画像の濃淡(裏パターン)であるかを別途設定する必要がある。自動チェックモードの設定は図示しない操作パネルによってON/OFFの切替が可能である。
よって、CPU12は、対象物内情報取得プログラム14hを実行することで以前に撮像されたボタンの撮像画像であるデジタル画像データDからボタンBの特徴を示すボタンBの画像の濃淡パターンを取得して設定する「特徴取得手段」として機能する。
【0059】
なお、自動チェックモードは、最近のボタンBのデジタル画像データDを逐次記憶するようにしてもよいし、最初に記憶されたボタンBのデジタル画像データDを以後継続して用いるようにしてもよい。また、ひとつのデジタル画像データDに限らず、数回分の撮像によって得られたボタンBのデジタル画像データDに基づく平均値(画素の位置又は画素の濃度値)を算出して記憶し、当該平均値を用いるようにしてもよい。
また、自動チェックモードの実行時でも、背景輪郭チェックプログラム14e、対象物エラーチェックプログラム14g、対象物内エラーチェックプログラム14iの実行時にエラー判定がなされた場合には、その時の撮像によるデジタル画像データDに基づく外周チェックデータ15o、穴部チェックデータ15p及び濃淡パターンの設定は行わないように処理することが望ましい。表裏判定プログラム14jにより表面以外の判定がされた場合も同様である。
また、自動チェックモードにおいて取得された濃淡パターンの一部を用いて方向チェックデータ15rとするよう設定可能にしてもよい。
【0060】
(ミシンのボタン画像認識処理装置の動作)
次に、ミシンのボタン画像認識処理装置1の動作について詳説する。図11及び図12はミシンのボタン画像認識処理装置1の動作を示すフロー図である。なお、図11はステップS1からステップS10までを、図12はステップS11からステップS21までを示す。
まず、CPU12が撮像プログラム14aを実行することにより、カメラ3によってボタンBが背景2aごと撮像され、そのデジタル画像データDがRAM12に記憶される(ステップ1)。次に、CPU12は画質改善プログラム14bを実行してデジタル画像データDのノイズ除去処理を行う(ステップS2)。
【0061】
次に、CPU12は背景情報判別プログラム14cを実行してデジタル画像データDの背景2aとボタンBとの判別を行う(ステップS3(判別工程))。次に、CPU12は対象物有無チェックプログラム14dを実行してステップS3において背景2aと判別された範囲がデジタル画像データD全体であるかどうかの判定を行う(ステップS4)。デジタル画像データDが全て背景2aであった場合(ステップS4:YES)、エラーを出力する(ステップS20)。デジタル画像データDが全て背景2aではなかった場合(ステップS4:NO)、CPU12は背景輪郭チェックプログラム14eを実行して輪郭に所定の画素数分の連続する背景2aがあるか否かにより、ボタンBが連続する所定範囲の背景2aに囲まれて配置されているかを判定する(ステップS5)。輪郭に所定の画素数分の連続する背景2aとして判別されなかった部分が含まれていた場合(ステップS5:NO)、エラーを出力する(ステップS20)。輪郭が全て所定の画素数分の連続する背景2aとして判別されていた場合(ステップS5:YES)、CPU12は外形情報取得プログラム14fを実行してボタンBの外周データを取得する(ステップS6)。
【0062】
次に、CPU12は外周チェックデータ15oがEEPROM15に記憶されているかどうか判定する(ステップS7)。外周チェックデータ15oがあらかじめ記憶されている場合(ステップS7:YES)、CPU12は対象物エラーチェックプログラム14gを実行してステップS6で得られたボタンBの外周データが外周チェックデータ15oに合致するかどうか判定する(ステップS8)。合致しない場合(ステップS8:NO)、エラーを出力する(ステップS20)。合致する場合(ステップS8:YES)、CPU12は自動チェックモードがONであるかどうか判定する(ステップS9)。自動チェックモードがOFFの場合(ステップS9:NO)、CPU12は対象物内情報取得プログラム14hを実行して範囲内において背景2aとボタンBとの判別を行い(判別工程)、ボタンBの穴部データ及び濃淡パターンを取得する(ステップS11)。自動チェックモードがONの場合(ステップS9:YES)、ステップS6において取得されたボタンBの外周データを次のボタンBの撮像以降で使用される外周チェックデータ15oとしてEEPROM15に記憶し(ステップS10)、その後上述のステップS11の処理を行う。なお、ステップS7において外周チェックデータ15oが記憶されていない場合(ステップS7:NO)、ステップS9の処理に移行する。
【0063】
次に、CPU12はEEPROM15に穴部チェックデータ15pが記憶されているかどうか判定する(ステップS12)。穴部チェックデータ15pが記憶されている場合(ステップS12:YES)、CPU12は対象物内エラーチェックプログラム14iを実行してステップS11で得られたボタンBの穴部データが穴部チェックデータ15pに合致するかどうか判定する(ステップS13)。合致しない場合(ステップS13:NO)、エラーを出力する(ステップS20)。合致する場合(ステップS13:YES)、CPU12は自動チェックモードがONであるかどうか判定する(ステップS14)。自動チェックモードがOFFの場合(ステップS14:NO)、CPU12はEEPROM15に濃淡チェックデータ15qが記憶されているかどうか判定する(ステップS16)。自動チェックモードがONの場合(ステップS14:YES)、ステップS11において取得されたボタンBの穴部データを次のボタンBの撮像以降で使用される穴部チェックデータ15pとして記憶し、濃淡パターンデータを次のボタンBの撮像以降で使用される濃淡チェックデータ15qとしてEEPROM15に記憶し(ステップS15(特徴取得工程))、その後上述のステップS16の処理を行う。なお、ステップS12において穴部チェックデータ15pが記憶されていない場合(ステップS12:NO)、ステップS14の処理に移行する。
【0064】
ステップS16において濃淡チェックデータ15qが記憶されている場合(ステップS16:YES)、CPU12は表裏判定プログラム14jを実行してステップS11で得られた濃淡パターンとEEPROM15の濃淡チェックデータ15qの表パターンとからボタンBが表向きであるかどうか判別する(ステップS17(特徴判別工程))。ステップS17においてボタンBが表ではないと判定された場合(ステップS17:NO)、CPU12は濃淡パターンとEEPROM15の濃淡チェックデータ15qの裏パターンとからボタンBが裏向きであるかどうか判別する(ステップS18(特徴判別工程))。ステップ18においてボタンが裏と判定された場合(ステップS18:YES)、ボタンが裏である旨のエラーを出力する(ステップS20)。ステップS18においてボタンが裏でない、即ち表パターンとも裏パターンとも合致しない場合(ステップS18:NO)、ボタンが異なる種類であると判別され(ステップS19)、ボタンの種類が異なる旨のエラーを出力する(ステップS20)。
【0065】
ステップS4〜18において何らかのエラー出力が行われるか(ステップS20)、あるいはステップS17においてボタンBが表向きと判定された場合、モニタ5にボタンBの判定結果が表示される(ステップS21)。なお、モニタ5に表示されるボタンBの判定結果は、エラーの有無を示す情報でもよいし、エラーの種別を示す情報でもよい。また、撮像されたデジタル画像データDを表示してもよい。
また、ボタン画像認識処理装置がボタン供給装置に搭載されている場合には、ステップS17でボタンが表向きと判定された場合に、ミシンへの供給が行われることとなる。
【0066】
(本実施の形態によるボタン画像認識処理装置の作用効果)
上述の実施の形態によれば、CPU12が背景情報判別プログラム14c及び対象物内情報取得プログラム14hを実行することで実施される判別工程において背景2aの規則的な白黒の縞模様を有しない範囲をボタンBとして判別する。このとき、背景2aのパターン(例えば縦方向に5画素ずつ白黒の縞模様があるパターン)に従っているかにより識別を行うので、例えボタンBに背景2aと濃度が近い部分が存在したとしても、その前後の部分を含めて背景のパターンと一致しない限り誤認を生じない。また、ボタンの模様や凹凸とボタンの穴との識別も正確に行うことが可能である。よって、ボタンBの形状、色、模様その他の特徴に関らず背景の規則的な模様を有するか否かのみでボタンBを判別することが可能となる。よって、より好適にボタンBを判別できる。
また、ボタンBの穴部Baは、背景2aの規則的な模様が覗くことにより背景2aとして判別される。よって、従来技術のように撮像対象物の内側に設けられた穴部(例えばボタンの穴部等)を抽出できないといった問題点を解消でき、より好適にボタンBの形状を判別することが可能となる。よって、より一層好適にボタンBを判別できる。
さらに、ボタンBが透過性を有する場合であっても、背景2aがボタンBを透過することで屈折を生じる場合であれば、屈折を生じた部分は背景2aの規則性を失うので背景2aとして判別されず、ボタンBとして判別される。よって、透過性を有する撮像対象物の場合、背景と撮像対象物との濃度の急変部分が生じず、撮像対象物の外周の形状が抽出できないことがあるといった従来技術の問題点を解消できる。よって、より一層好適にボタンBを判別できる。
【0067】
さらに、カメラ3のピントを背景2aに合わせるので、ボタンの厚みや立体構造に関らず背景2aを常に好適に撮像可能となる。よって、より好適に背景2aの規則的な模様を判別可能となり、背景2aとボタンBとの誤認の可能性を大幅に低減することが可能となる。よって、より一層好適にボタンBを判別できる。
【0068】
さらに、CPU12が表裏判定プログラム14j及び方向判定プログラム14lを実行することで実施される特徴判別工程において、ボタンBとして判別された画像の範囲の濃淡パターンからあらかじめ設定された濃淡チェックデータ15qあるいは方向チェックデータ15rと合致するかどうかを判別する。つまり、まずデジタル画像データDから背景2aとして判別される範囲を除外してボタンBとして判別される範囲を特定した後、ボタンBの範囲の濃淡パターンに対して濃淡チェックデータ15qと合致するかどうかを判別する。これによって、濃淡チェックデータ15qと合致するする範囲をデジタル画像データDの全体から探す場合に比べ、比較処理の範囲をボタンBとして判別された範囲に限定することができる。よって、比較処理の負荷を軽減し、処理時間を短縮することができる。
【0069】
また、CPU12が表裏判定プログラム14jを実行することで、ボタンの表を撮像した場合の画像の濃淡チェックデータ15qとデジタル画像データDのボタンBの濃淡パターンとから、ボタンBの表裏を判別する。これによって、ボタンBが裏向きになっていないかどうかを判別することが可能となる。従って、例えば縫い付け前にボタンBの表裏判定を行うことで、誤ってボタンBを裏返した状態で縫い付けてしまうといった事態をなくすことができ、縫い品質が大幅に向上する。
さらに、CPU12が方向判定プログラム14lを実行することで、ボタンBの向きを判別する。これによって、撮像対象物に施された文字や模様等の装飾の向きを判別できないといった従来技術の問題点を解消でき、撮像対象物の特徴をより詳細に判別できる。
【0070】
さらに、自動チェックモードがONの場合、CPU12が背景情報判別プログラム12c及び対象物内情報取得プログラム14hを実行することにより実施される特徴取得工程において、デジタル画像データDのボタンBの範囲からボタンBの外周データ、穴部データ及び濃淡パターンを取得して、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qとして設定する。よって、ボタンBを正しく撮像した場合のデジタル画像データDを以後の外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qとして利用することが可能となる。従って、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qを設定するための専用の情報やデータ等を別途設ける必要がなくなる。よって、外周チェックデータ15o、穴部チェックデータ15p及び濃淡チェックデータ15qの設定の手間を大幅に軽減することが可能となる。
【0071】
(その他)
なお、上述の実施の形態ではミシンのボタン画像認識処理装置について記載しているが、ボタン画像認識処理装置1と同様の特徴を有する構成及びその動作の工程によってミシンのボタン以外の画像認識処理を行うことも可能である。
【0072】
また、上述の実施の形態における背景部材2の背景2aは縞模様に限定されない。
図13は、実施の形態における背景2aとは異なる規則性を有する背景の一例を示す説明図である。なお、図13(a)は規則的なチェック模様の背景2b、図13(b)は規則的な斜めの縞模様の背景2cの説明図である。
例えば、図13(a),(b)に示すように、規則性を有する背景であれば背景として判別されない範囲を撮像対象物(例えばボタン)として判別可能である。この場合、パターンデータHにも図13(a),(b)に対応するデータを記憶させておく必要がある。なお、規則性を有する模様であれば他の模様でもよいことは言うまでもない。
また、背景2aを判別する際の方向に関しては、上述の実施の形態では、縦方向であるが、使用する模様の形状によっては、横方向や斜め方向でも良い。
【0073】
また、上述の実施の形態ではカメラ3の撮像画像を白黒の多値画像(グレースケール)としているが、カラー画像でもよい。その場合、濃淡パターンはカラーパターン、濃淡チェックデータ15qはあらかじめ設定されたカラーパターンデータとして比較処理を行う。
また、上述の実施の形態ではカメラ3によって撮像されたアナログ画像をA/Dコンバータ11でデジタル画像データDに変換しているが、カメラ3をCCDイメージセンサやCMOSイメージセンサ等を用いたデジタルカメラとして直接デジタル画像データDをCPU12に出力し、A/Dコンバータ11を省略してもよい。
また、上述の実施の形態における背景2aの縞模様の規則性の基準となる画素数(5画素)や、背景の輪郭の画素数(10画素)といった各数値設定はあくまで一例であり、他の数値設定を用いてもよいことは言うまでもない。また、背景2aの縞模様の規則性の閾値を一意の値(5画素)ではなく、一定の数値範囲内(例えば4〜6画素)としてもよい。
また、背景に用いる模様の濃淡の度合いや形状及び濃淡部分の割合等は、規則的であれば、種々利用可能である。
また、本発明においては、撮像対象物の判別において撮像画像の背景の規則性を有する範囲とそうでない範囲の区別ができればよく、背景の規則性を有する範囲の判別処理方法は上述の実施の形態に限定されない。例えば、デジタル画像データDをフーリエ変換して、背景模様の周波数成分を特定の値として他の部分の周波数成分と区別した上で、フーリエ逆変換した画像から背景模様と対称物の画像のそれぞれを2値画像として抽出し、エッジ検出やラベリングなどの既存の画像認識方法で位置情報を取得しても良い。
【図面の簡単な説明】
【0074】
【図1】ボタン画像認識処理装置の構成を示すブロック図である。
【図2】ボタンと背景部材の背景2aとの関係の一例を示す上面図である。なお、図2(a)は整形不良がなく、かつ、所定の大きさのボタンが正しい向きで背景のほぼ中央に置かれた場合、図2(b)はボタンがない場合、図2(c)は所定の大きさよりも大きいボタンが置かれた場合、図2(d)はボタンの位置が背景の中央からずれて置かれた場合、図2(e)はボタンの一部が欠けている場合、図2(f)は所定の大きさよりも小さいボタンが置かれた場合、図2(g)はボタンの複数の穴部の位置関係が図2(a)に示す当該位置関係に対して傾いている場合、図2(h)は穴部の一部が誤った位置に形成されたボタンが置かれた場合、図2(i)は穴部の一部が形成されていないボタンが置かれた場合の説明図である。
【図3】ROMに記憶された各種プログラム及びEEPROMに記憶された各種データを示す説明図である。図3(a)はROM14に記憶された各種プログラムを、図3(b)はEEPROM15に記憶された各種プログラムを示す。
【図4】デジタル画像データの一部を拡大した説明図である。なお、デジタル画像データの周囲に付された数値はデジタル画像データの画素の位置を説明するための指標である。
【図5】背景とボタンとの境界線を示す説明図である。なお、図5(a)は背景情報判別プログラムの判別によるボタンの上半分の境界線を示す図、図5(b)は背景情報判別プログラムの判別によるボタンの下半分の境界線を示す図、図5(c)は外形情報取得プログラムによって合成されたボタンの外周データを示す説明図である。
【図6】外周チェックデータと外周データとの関係を示す説明図である。
【図7】ボタンの穴部のうちひとつが含まれるデジタル画像データの一部を示す説明図である。
【図8】穴部チェックデータと穴部データとの関係を示す説明図である。
【図9】ボタンの表裏の一例を示す説明図である。なお、図9(a)はボタンの表を、図9(b)はボタンの裏を示す。
【図10】方向判定プログラム14lによるボタンBの判定領域の一例を示す説明図である。図10(a)はボタンBに文字Aがプリントされている場合の方向判定を行う際の判定領域B1の一例を示す説明図、図10(b)は方向チェックデータ15rであるb1の一例を示す説明図である。
【図11】ミシンのボタン画像認識処理装置の動作を示すフロー図のうち、ステップS1からステップS11までを示すフロー図である。
【図12】ミシンのボタン画像認識処理装置の動作を示すフロー図のうち、ステップS12からステップS21までを示すフロー図である。
【図13】実施の形態における背景とは異なる規則性を有する背景の一例を示す説明図である。なお、図13(a)は規則的なチェック模様の背景、図13(b)は規則的な斜めの縞模様の背景の説明図である。
【符号の説明】
【0075】
2 背景部材
2a 背景
3 カメラ
10 画像処理装置
11 A/Dコンバータ
12 CPU
14 ROM
15 EEPROM
B ボタン
【特許請求の範囲】
【請求項1】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラと、を用いて前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理方法において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別工程を含むことを特徴とする画像認識処理方法。
【請求項2】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項1に記載の画像認識処理方法。
【請求項3】
前記撮像対象物として判別された画像の範囲からあらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別工程を含むことを特徴とする請求項1又は2に記載の画像認識処理方法。
【請求項4】
前記特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用することを特徴とする請求項3に記載の画像認識処理方法。
【請求項5】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理装置において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別手段を備えることを特徴とする画像認識処理装置。
【請求項6】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項5に記載の画像認識処理装置。
【請求項7】
前記撮像対象物として判別された画像の範囲からあらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする請求項5又は6に記載の画像認識処理装置。
【請求項8】
前回以前の撮像対象物の撮像画像から前記撮像対象物の特徴となる画像を取得する特徴取得手段を備えることを特徴とする請求項7に記載の画像認識処理装置。
【請求項9】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある衣類のボタンを前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記ボタンを認識するボタン画像認識処理装置において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記ボタンとして判別する判別手段を備えることを特徴とするボタン画像認識処理装置。
【請求項10】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項9に記載のボタン画像認識処理装置。
【請求項11】
前記ボタンとして判別された画像の範囲からあらかじめ設定された前記ボタンの特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする請求項9又は10に記載のボタン画像認識処理装置。
【請求項12】
前回以前のボタンの撮像画像から前記ボタンの特徴となる画像を取得する特徴取得手段を備えることを特徴とする請求項11に記載のボタン画像認識処理装置。
【請求項13】
前記特徴判別手段は、あらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別することを特徴とする請求項11又は12に記載のボタン画像認識処理装置。
【請求項1】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラと、を用いて前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理方法において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別工程を含むことを特徴とする画像認識処理方法。
【請求項2】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項1に記載の画像認識処理方法。
【請求項3】
前記撮像対象物として判別された画像の範囲からあらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別工程を含むことを特徴とする請求項1又は2に記載の画像認識処理方法。
【請求項4】
前記特徴判別工程では、前回以前の撮像対象物の撮像画像から取得された前記撮像対象物の特徴となる画像を利用することを特徴とする請求項3に記載の画像認識処理方法。
【請求項5】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある撮像対象物を前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記撮像対象物を認識する画像認識処理装置において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記撮像対象物として判別する判別手段を備えることを特徴とする画像認識処理装置。
【請求項6】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項5に記載の画像認識処理装置。
【請求項7】
前記撮像対象物として判別された画像の範囲からあらかじめ設定された前記撮像対象物の特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする請求項5又は6に記載の画像認識処理装置。
【請求項8】
前回以前の撮像対象物の撮像画像から前記撮像対象物の特徴となる画像を取得する特徴取得手段を備えることを特徴とする請求項7に記載の画像認識処理装置。
【請求項9】
既知の規則的な模様が付された平面を有し、当該平面が背景とされる背景部材と、前記模様が付された平面の範囲内にある衣類のボタンを前記背景ごと撮像するカメラとを備え、前記カメラによって撮像された画像から前記ボタンを認識するボタン画像認識処理装置において、
前記撮像画像において前記背景の規則的な模様を有しない範囲を前記ボタンとして判別する判別手段を備えることを特徴とするボタン画像認識処理装置。
【請求項10】
前記カメラは、前記背景にピントを合わせて前記撮像画像を撮像することを特徴とする請求項9に記載のボタン画像認識処理装置。
【請求項11】
前記ボタンとして判別された画像の範囲からあらかじめ設定された前記ボタンの特徴を有するかどうかを判別する特徴判別手段を備えることを特徴とする請求項9又は10に記載のボタン画像認識処理装置。
【請求項12】
前回以前のボタンの撮像画像から前記ボタンの特徴となる画像を取得する特徴取得手段を備えることを特徴とする請求項11に記載のボタン画像認識処理装置。
【請求項13】
前記特徴判別手段は、あらかじめ設定された少なくとも前記ボタンの表あるいは裏のいずれか一方を撮像した場合の画像の濃淡パターンデータから、前記ボタンの表裏を判別することを特徴とする請求項11又は12に記載のボタン画像認識処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−301464(P2009−301464A)
【公開日】平成21年12月24日(2009.12.24)
【国際特許分類】
【出願番号】特願2008−157603(P2008−157603)
【出願日】平成20年6月17日(2008.6.17)
【出願人】(000003399)JUKI株式会社 (1,557)
【Fターム(参考)】
【公開日】平成21年12月24日(2009.12.24)
【国際特許分類】
【出願日】平成20年6月17日(2008.6.17)
【出願人】(000003399)JUKI株式会社 (1,557)
【Fターム(参考)】
[ Back to top ]