虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体
【課題】簡便に且つ迅速に虫の計数や判別が可能なシステムを提供する。
【解決手段】虫を含む可能性のある対象画像を取得するための画像取得手段1と、画像取得手段1で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段11と、画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段12と、情報解析手段12で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段13と、判別手段13で虫と判別された抽出領域の数を計数する計数手段15と、計数手段15で計数された結果を虫の数として出力するための出力手段とを備える。
【解決手段】虫を含む可能性のある対象画像を取得するための画像取得手段1と、画像取得手段1で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段11と、画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段12と、情報解析手段12で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段13と、判別手段13で虫と判別された抽出領域の数を計数する計数手段15と、計数手段15で計数された結果を虫の数として出力するための出力手段とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像された画像中に含まれる虫の計数や種類の判別といった処理を行うための画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体に関する。
【背景技術】
【0002】
従来より、農作物の育成に際して、病害虫を除去するために化学薬品である農薬(化学農薬)が散布されている。また化学農薬以外にも、病害虫に対し天敵昆虫(益虫)を生物農薬として投入し、病害虫を駆除する方法も利用されている。いずれの場合も、これらの農薬や生物農薬の散布時期や量を確認するために、病害虫の種別の確認やその量を計数することが行われていた。従来は、ユーザが目視で病害虫の判別や量を計数しなければならず、この方法では相当の熟練を有する上、極めて手間がかかるという問題があった。例えば、粘着剤を塗布したシート状の粘着トラップをビニールハウス内に懸吊し、各粘着トラップに付着された病害虫を目視により計数する場合、1アール当たり1枚の粘着トラップを配置するため、施設面積が8ヘクタールであれば80枚の粘着トラップを使って微小害虫の発生状況を調査しなければならない。この作業に担当者は毎週、3時間程度を要しているとのことである。また、病害虫の種類によっては大きさが数ミリ程度のこともあり、虫なのかゴミなのか、虫であるとしてその種類を特定することは容易でなかった。このような作業を省力化するために、病害虫であるクワシロカイガラムシの計数を自動で行う画像処理計数装置が提案されている(例えば特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−21074号公報
【特許文献2】特開2008−99598号公報
【特許文献3】特開2003−168181号公報
【特許文献4】特許4469961号公報
【特許文献5】特開2003−169584号公報
【非特許文献】
【0004】
【非特許文献1】寺田賢治,カメラ画像による微小病害虫の検知,画像ラボ,2009.7.
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に開示される装置は、図63に示すような装置を用いて、粘着シートの粘着面に農作物近辺より吸引した空気を吹き付けて、クワシロカイガラムシが吹き付けられた粘着シート部分を撮影し、コンピュータを用いて撮影された画像を解析し、クワシロカイガラムシの捕獲数を数えるものである。
【0006】
しかしながら、該文献によれば、画像処理方法は単に撮像された画像のRGB値から簡単な近似式に代入して輝度、色差信号1、色差信号2、面積、円形度に変換して、図64に示す閾値と比較をし、クワシロカイガラムシか否かの判断を行うとあるだけで、例えば閾値の具体的な設定方法については開示がない。
【0007】
また、クワシロカイガラムシの計数を行っているのみであり、他の虫については「今後、図65の閾値を変更することで、クワシロカイガラムシのみならず他の害虫や益虫等の各種の虫を計数することが可能である。」(特許文献1の0032)とあるとおり、可能性を示唆するのみで、具体的な条件の開示はなされていない。加えて、複数種類の虫の判別は行われていない。
【0008】
本発明者が行った試験によれば、このような簡単な近似式のみに基づいた判定では精度が悪く、実用に適したレベルには達しないことが判明した。またこの方法では、図63に示すような相当大掛かりな機器を要する上、0026にあるとおり、「虫の付着面積は約20cm×約20cmであり、約3mm間隔で撮影すれば、4,300余の画面数となるが、画像処理時間の関係で1日の画面数を約1,000画面とした。」とあり、撮像に要する時間だけでも相当要しており、あくまでも研究段階に止まり、実用化できるレベルには至っていないと思われる。
【0009】
本発明は、このような背景に鑑みてなされたものである。本発明の主な目的は、より簡便に且つ迅速に虫の計数や判別が可能で、簡便なシステムでも実用可能な、虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を提供することにある。
【課題を解決するための手段及び発明の効果】
【0010】
上記目的を達成するため、本発明の第1の側面に係る虫の画像処理装置によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理装置であって、虫を含む可能性のある対象画像を取得するための画像取得手段と、前記画像取得手段で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段と、前記画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段と、前記情報解析手段で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段と、前記判別手段で虫と判別された抽出領域の数を計数する計数手段と、前記計数手段で計数された結果を虫の数として出力するための出力手段とを備えることができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0011】
また、第2の側面に係る虫の画像処理装置によれば、さらに、特徴量データベースを保持したデータベース保持手段を備えており、前記判別手段が、前記データベース保持手段に保持された特徴量データベースを参照して、特徴量を用いて判別を行うことができる。
【0012】
さらに、第3の側面に係る虫の画像処理装置によれば、前記判別手段が、虫の種別の認識を行うことができる。
【0013】
さらにまた、第4の側面に係る虫の画像処理装置によれば、前記情報解析手段が、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行うことができる。
【0014】
さらにまた、第5の側面に係る虫の画像処理装置によれば、前記情報解析手段で抽出される特徴が、虫の全体長、胴体、手足、周囲長のいずれかを特徴量として含むことができる。
【0015】
さらにまた、第6の側面に係る虫の画像処理装置によれば、前記判別手段が、虫の種別を認識するに際して、同一種類の虫に対して、表面の色が部分的に異なるものを複数に分類すると共に、該分類された虫の色に応じて、異なる特徴量を付与し、該異なる特徴量を用いて判別を行うことができる。
【0016】
さらにまた、第7の側面に係る虫の画像処理装置によれば、前記判別手段が、該分類された虫の色に応じて、異なる特徴量を付与する一方で、共通の特徴量を付与し、これら複数の特徴量を用いて判別を行うことができる。
【0017】
さらにまた、第8の側面に係る虫の画像処理装置によれば、認識対象の虫を、アザミウマ、コナジラミ、クワシロカイガラムシのいずれかとできる。
【0018】
さらにまた、第9の側面に係る虫の画像処理装置によれば、前記画像取得手段が、画像を撮像するための撮像素子を含むことができる。
【0019】
さらにまた、第10の側面に係る虫の画像処理装置によれば、前記画像取得手段を、ネットワークカメラとできる。
【0020】
さらにまた、第11の側面に係る虫の画像処理装置によれば、前記画像取得手段を、スキャナとできる。
【0021】
さらにまた、第12の側面に係る虫の画像処理装置によれば、対象画像を、粘着シートに粘着された虫の画像とできる。
【0022】
さらにまた、第13の側面に係る虫の画像処理装置によれば、前記情報解析手段が、対象画像中から、粘着シートの背景部分を除去し、取得される各物体の整形、分離を行い、その大きさ及び形状に基づいて前記判定手段が虫の判定を行うことができる。
【0023】
さらにまた、第14の側面に係る虫の画像処理装置によれば、前記粘着シートとして、黄色又は青色のものを使用できる。これにより、ビニールハウス内で使用されることの少ない色を用いて、画像処理で背景の除去を容易に行える利点が得られる。
【0024】
さらにまた、第15の側面に係る虫の画像処理方法によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理方法であって、虫を含む可能性のある対象画像を取得する工程と、取得された対象画像から、虫に該当する画像を抽出する工程と、抽出された抽出領域から、画像処理によって虫に関する情報を解析する工程と、抽出された虫に関する情報に基づいて、虫かどうかの判別を行う工程と、虫と判別された抽出領域の数を計数する工程と、計数された結果を虫の数として出力する工程とを含むことができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0025】
さらにまた、第16の側面に係る虫の画像処理装置によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理プログラムであって、虫を含む可能性のある対象画像を取得する機能と、取得された対象画像から、虫に該当する画像を抽出する機能と、抽出された抽出領域から、画像処理によって虫に関する情報を解析する機能と、抽出された虫に関する情報に基づいて、虫かどうかの判別を行う機能と、虫と判別された抽出領域の数を計数する機能と、計数された結果を虫の数として出力する機能とをコンピュータに実現させることができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0026】
さらにまた第17の側面に係るコンピュータで読み取り可能な記録媒体は、前記プログラムを格納したものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blu−ray、HD DVD(AOD)等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、前記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録媒体にはプログラムを記録可能な機器、例えば前記プログラムがソフトウエアやファームウエア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウエアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。
【図面の簡単な説明】
【0027】
【図1】本発明の実施の形態に係る虫の画像処理装置を示すブロック図である。
【図2】変形例に係る虫の画像処理装置を示すブロック図である。
【図3】他の変形例に係る虫の画像処理装置を示すブロック図である。
【図4】虫の判別を行う手順を示すフローチャートである。
【図5】80×80画素で撮像されたトマトハモグリバエの画像を示すイメージ図である。
【図6】粘着シートを撮像した対象画像の例を示す。
【図7】抽出した4個の特徴量の抽出結果を画像化した例を示すイメージ図である。
【図8】合成画像を示すイメージ図である。
【図9】図8の合成画像に対して分布を求めた結果を示すイメージ図である。
【図10】図8の合成画像に対して抽出処理を行った位置を示すイメージ図である。
【図11】6mの距離で撮像した合成画像を示すイメージ図である。
【図12】計測結果を数値で示したグラフである。
【図13】コナジラミを識別する手順を示すフローチャートである。
【図14】対象画像中に取得画像の小領域を設定する様子を示す模式図である。
【図15】図14からコナジラミ候補領域を抽出した状態を示す模式図である。
【図16】図15から面積によるノイズ除去を行った状態を示す模式図である。
【図17】画像に対してテンプレートマッチングを行う様子を示す模式図である。
【図18】テンプレート画像の拡大画像を示すイメージ図である。
【図19】テンプレートマッチングによる得点付けを示すグラフである。
【図20】縦横比による得点付けを示すグラフである。
【図21】図21(a)は縦方向のエッジフィルタ、図21(b)に示す横方向のエッジフィルタを示す模式図である。
【図22】図22(a)は埋もれる前のコナジラミの輝度画像、図22(b)はエッジ方向を示す模式図である。
【図23】図23(a)は埋もれた後のコナジラミの輝度画像、図23(b)はエッジ方向を示す模式図である。
【図24】領域画像を示す模式図である。
【図25】図24の領域画像の重心の方向を示す模式図である。
【図26】図26(a)は埋もれる前のコナジラミ、図26(b)は埋もれた後のコナジラミの、方向差の平均値による得点付けを示すグラフである。
【図27】標準偏差による得点付けを示すグラフである。
【図28】クワシロカイガラムシを識別する手順を示すフローチャートである。
【図29】取得画像を示すイメージ図である。
【図30】図29の取得画像に対して得られたクワシロカイガラムシの候補部分の画像を示すイメージ図である。
【図31】図29の取得画像に対して得られた背景部分を示すイメージ図である。
【図32】図29の取得画像に対して小領域を設定する様子を示すイメージ図である。
【図33】図29の取得画像に対してクワシロカイガラムシの候補を抽出した画像を示すイメージ図である。
【図34】図33から面積による除去を行った結果を示すイメージ図である。
【図35】図35(a)は色相値、図35(b)は色相、図35(c)は変更後の色相値を示すイメージ図である。
【図36】画像部分に対して外接四角形を取る様子を示すイメージ図である。
【図37】クワシロカイガラムシの画像部分に対して外接四角形を設定する様子を示すイメージ図である。
【図38】ノイズの画像部分に対して外接四角形を設定する様子を示すイメージ図である。
【図39】画像部分の姿勢を考慮せず外接四角形を設定する様子を示すイメージ図である。
【図40】画像部分の姿勢を考慮して外接四角形を設定する様子を示すイメージ図である。
【図41】図40の画像部分に長軸と短軸を設定する様子を示すイメージ図である。
【図42】図42(a)は円状のノイズ、図42(b)は紐状のノイズを示すイメージ図である。
【図43】回転後の座標を回転前の座標に対応させる状態を示すイメージ図である。
【図44】3次補間法の概念を示す模式図である。
【図45】3次元多項式近似の概念を示すイメージ図である。
【図46】回転前の取得画像を示すイメージ図である。
【図47】図46の取得画像に対して回転、拡大を行った状態を示すイメージ図である。
【図48】回転、拡大画像を並べた状態を示すイメージ図である。
【図49】回転、拡大領域を抽出した画像を示すイメージ図である。
【図50】図50(a)はクワシロカイガラムシが色鮮やかな画像、図50(b)は一部が黒ずんだ状態、図50(c)は全体が黒ずんだ状態を示すイメージ図である。
【図51】図51(a)は図50(a)、図51(b)は図50(b)、図51(c)は図50(c)に対し、候補領域を分類する様子を示すイメージ図である。
【図52】図50のクワシロカイガラムシの各分類の特徴量を示すイメージ図である。
【図53】テンプレートマッチングを説明する模式図である。
【図54】テンプレート画像を示すイメージ図である。
【図55】テンプレートマッチングによる得点付けを示すグラフである。
【図56】モーメント特徴で楕円を描いた状態を示すイメージ図である。
【図57】図56に対し長さの比較を行った状態を示すイメージ図である。
【図58】距離差による得点付けを示すグラフである。
【図59】標準偏差による得点付けを示すグラフである。
【図60】囲み度による得点付けを示すグラフである。
【図61】体度による得点付けを示すグラフである。
【図62】色彩度による得点付けを示すグラフである。
【図63】従来の画像処理計数装置を示す斜視図である。
【図64】図63の画像処理計数装置で使用する閾値を示す表である。
【図65】図63の画像処理計数装置で使用する閾値を示す表である。
【発明を実施するための形態】
【0028】
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を例示するものであって、本発明は虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
【0029】
本発明の実施例において使用される虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS−232xやRS−422、RS−423、RS−485、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.1x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体とは、虫の画像処理装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた画像処理システムも含む意味で使用する。
【0030】
また、本明細書において虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体は、画像処理を行うシステムそのもの、ならびに画像処理に関連する入出力、表示、演算、通信その他の処理をハードウエア的に行う装置や方法に限定するものではない。ソフトウエア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウエアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで画像生成そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末、携帯型電子機器その他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウエア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
(虫の画像処理装置)
【0031】
図1に、虫の画像処理装置100のブロック図を示す。この図に示す虫の画像処理装置100は、画像メモリ2と、演算部10と、記憶部20と、表示部30と、操作部40とを備える。この虫の画像処理装置100は、撮像手段1と接続されており、撮像手段1で撮像された対象画像を画像メモリ2に取り込む。画像メモリ2に取り込まれた対象画像は、演算部10で処理されて虫の計数や種別の認識を行い、その結果を表示部30に表示させる。
(演算部10)
【0032】
また演算部10は、画像抽出手段11と、情報解析手段12と、判別手段13と、計数手段15の機能を実現する。画像抽出手段11は、画像メモリ2に取り込まれた対象画像から、虫に該当する画像を抽出量域として選択し、抽出する。また情報解析手段12は、画像抽出手段11で抽出された抽出領域から、画像処理によって虫に関する情報を解析する。さらに判別手段13は、虫に関する情報に基づいて、虫かどうかの判別を行う。加えて計数手段15は、判別手段13で虫と判別された抽出領域の数を計数して、出力手段に対して出力する。
【0033】
情報解析手段12は、例えば対象画像中から、粘着シートの背景部分を除去し、取得される各物体の整形、分離を行い、その大きさ及び形状に基づいて判定手段が虫の判定を行う。この際、粘着シートは、黄色又は青色とすることが好ましい。このようにビニールハウス内で使用されることの少ない色を用いることで、画像処理で背景の除去を容易に行える。また情報解析手段12は、抽出領域を画像処理して、例えば虫の手足と胴に分離し、分離された手足と胴の比率でもって虫か否かを判別できる。あるいは、虫の全体長、胴体、手足、周囲長のいずれかを特徴量とすることもできる。この場合、情報解析手段12を、対象画像から、画像処理により判定対象の特徴量を抽出する特徴量抽出手段とすることもできる。
【0034】
また判別手段13は、虫の計数を行う他、虫の種別の認識を行う種別認識手段14を備えることもできる。虫の種別認識は、認識対象の虫毎に特徴量を記録した特徴量データベースを参照して行う。なお、虫の種別認識や計数においては、リアルタイム処理でなく、一旦取り込んだ対象画像データを解析するオフライン解析とすることで、必要な処理能力を低減できる。さらに情報解析手段12は、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行う等、対象に応じて解析方法を変更してもよい。
(記憶部20)
【0035】
記憶部20は、必要な情報や設定内容、データベース等を保存する。例えばハードディスクやSSD等の固定記憶装置が利用できる。特に、特徴量データベースを保持したデータベース保持手段として機能させることができる。
(表示部30)
【0036】
表示部30は、演算部10による処理結果を外部に出力するための出力手段の一形態として機能する。ここでは表示部30として、CRTや液晶、有機EL等を用いたモニタやディスプレイが好適に利用できる。特に、虫の画像処理装置100として、コンピュータに虫の画像処理プログラムをインストールした形態を利用する場合は、コンピュータのモニタを表示部30として利用できる。また、出力手段は表示部30に限られず、例えば処理結果をデータとして外部に出力する形態も利用できる。
(操作部40)
【0037】
また操作部40は、虫の画像処理装置100に対する操作を行う部材であり、キーボードやコンソール、マウス等のポインティングデバイス等が好適に利用できる。また、表示部30としてタッチパネルを用いる場合は、表示部と操作部とを共通とできる。
(画像取得手段)
【0038】
画像取得手段は、虫を含む可能性のある対象画像を取得するための手段である。図1の例では、画像取得手段として、画像を撮像するためのCCDやC−MOS等の撮像素子を利用している。具体的には、ネットワークカメラやデジタルカメラ、携帯電話等の撮像手段1、あるいはスキャナ等の走査手段が利用できる。
【0039】
また、撮像済みの対象画像を取得する構成とすることもできる。例えば、図2の変形例に示す虫の画像処理装置200のように、画像取得手段1B側にデータ通信機能を備えることで、遠隔時でネットワークカメラやデジタルカメラ、携帯電話等の撮像手段、あるいはスキャナ等の走査手段で撮像した画像を、端末TMを介してネットワーク接続した画像取得手段で取り込む構成としてもよい。特にネットワーク接続を利用することで、各生産農家からの画像データを一箇所に集中させて判定を行い、その結果を各生産農家にフィードバックすることができ、各生産農家に個別に虫の画像処理装置を設置することなく、対象画像の送受信が可能な環境を整えるのみで導入できる利点が得られる。
【0040】
あるいは、図3の変形例に示す虫の画像処理装置300のように、対象画像の画像データを記録したUSBメモリ等の半導体メモリやCD−ROM等の記録媒体MDを介して、対象画像を取り込む構成とすることもできる。
(スキャナによる画像取得)
【0041】
スキャナを用いて粘着シート画像を取得する場合は、スキャナの解像度を1200dpi等の高解像度に設定する。また標準の明るさでは虫領域を写せない可能性があるため、やや低めの明るさに設定し画像の取得を行う。なお、画像サイズに応じて対象画像を分割することもできる。例えば粘着シートの大きさがおよそ10cm×20cmである場合、画像の大きさが約4800×9600画素となり大きすぎて処理が困難になることから、画像を16分割している。後述するクワシロカイガラムシの認識では、このようなスキャナによる画像の取得を行った。
【0042】
一般に、撮像する対象画像の解像度が高い程、認識が正確に行える反面、データ量が増大する。一方、低解像度とすると、データ処理や通信が軽負荷となる反面、精度が低下する。よって、求められる精度や処理能力、コスト等に応じて適切な解像度が選択される。また、後述の通り解像度に応じて認識に用いる画像処理方法も適宜変更できる。
【0043】
この虫の画像処理装置は、微小病害虫の発生状況をカメラ映像によってモニタリングするシステムに利用できる。これにより、取得された対象画像中に含まれる害虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
(虫の判別方法)
【0044】
以下、この虫の画像処理装置を用いて虫の判別を行う手順について、図4のフローチャートに基づいて説明する。ここでは、実施例1として、トマトの害虫であるトマトハモグリバエを抽出対象とした例について説明する。
(実施例1:トマトハモグリバエ)
【0045】
トマトハモグリバエは体長1〜2mmで、平成11年に日本で確認され、西日本を中心に生息域を拡大しており、現在では全国38都府県に生息している。主にトマトに対する害虫であり、トマトの葉に卵を産み付け、蛹が孵化すると幼虫が葉を食べ荒らす。別名葉食い虫とも呼ばれ、葉を食い荒らし、トマトの木を弱らせてしまう。またトマト以外にも広範囲な農作物に害を及ぼす。また一方で、トマトハモグリバエの生物農薬はイサエアヒメコバチとなる。イサエアヒメコバチはトマトの葉に産み付けられたトマトハモグリバエの卵に寄生行為を行い産卵する。イサエアヒメコバチの卵はトマトハモグリバエの卵を栄養分として成長するため、トマトハモグリバエを駆除することができる。
【0046】
このような生物農薬(益虫)を有効的に活用するためには、病害虫が多く発生しているときに効率よく投入することが必要となるが、その投入タイミングの見極めが難しく、現在は熟練した人間が目で確認、判断していた。また広大でかつ数多くのビニールハウスを所有する大規模農家等ではすべて人手で観察するのは多くの労力を必要とする。また農業従事者の高齢化も大きな問題となっており、ひとつひとつ観察することが非常に困難になってきている。そこで、これを自動化又は支援するために、上記虫の画像処理装置を用いる。
【0047】
ここでは、予め、各生産農家のビニールハウス内に粘着シートを設置し、この粘着シートに付着した体長1mm程度の害虫を撮像するために、ネットワークカメラを設置しておく。粘着テープは、粘着性を持つ黄色のプレートである。トマトハモグリバエは黄色に敏感に反応する性質を持っているため、シート表面に粘着性物質を塗装しておくことで容易に捕獲できる。これを利用し、粘着シートを撮影した対象画像を解析して、粘着シート上に付着したトマトハモグリバエの数を計数することで、生物農薬の投入タイミングを見極めることが可能となる。
(ステップS4001:対象画像の取得)
【0048】
まず図4のステップS4001において、対象画像の取得を行う。ここでは、ネットワーク接続されたネットワークカメラで対象画像を撮像し、画像取得手段がデータ通信によって画像データを受信する。
【0049】
この例では、パン、チルト、ズーム機能を持つ市販のWEBカメラ等のネットワークカメラを用いて対象画像を取得している。各生産農家のビニールハウス内に一以上の粘着シートを設置すると共に、各粘着シートの画像を撮像する。ここでは、ネットワークカメラをパン、チルトさせることで、ビニールハウス内から自動的に粘着シートを探索する。そして粘着シートを発見すると、これにズームインして、粘着シートを分割しながら画像を取得していく。ここでは少しでも解像度の高い画像を取得するために、粘着シートの全体を一枚で撮像するのでなく、ズーム機能を用いて粘着シート画像を分割しながら取得した上で、合成画像を取得する。取得された画像は順次送出され、最終的に取得された画像を合成することで、1枚の対象画像を復元する。なお、画像の合成は、虫の画像処理装置の演算手段で行う他、画像取得手段で取り込む前に、撮像手段1側で合成し、合成後の画像を取得するように構成してもよい。ここでは、撮像手段で画像合成処理を行う方法について説明する。
(粘着シートの探索)
【0050】
具体的な手順を説明すると、まず取得された対象画像中から粘着シートを探索する。図7に粘着シートを撮像した対象画像の例を示す。ここでは、粘着シートが黄色に着色されているため、対象画像中に黄色領域があるかどうかの判定を行う。この処理ではHSV色空間を用い、所定の範囲内の色相と彩度(Hue:44−71、ただしSaturation:0−52を除去)をもつ画素を抽出する。このパラメータは、粘着シートの黄色領域に相当する。
【0051】
黄色領域が無い場合は、ネットワークカメラをパン及びチルトさせて対象画像を再取得する。ここではネットワークカメラを、ひし形を描くように移動させて、対象画像の取得と黄色領域の判定を繰り返す。この処理を繰り返しながら、黄色領域が対象画像中に発見できた場合は、黄色領域のみを抽出する。そして黄色領域の面積をカウントし、ある一定画素数以上だと粘着シートであると判定し、探索を終了する。
【0052】
ここで、対象画像中に黄色く変色した葉や、枯れてしまった葉が存在することも考えられる。このように黄色領域が複数存在する場合も、一旦すべての領域を抽出した後、それぞれの領域にて面積のカウントを行い、最大領域に着目する。そしてその最大領域の画素数が閾値以上である場合に、粘着シートであると判定して探索を終了する。
(粘着シート画像の合成)
【0053】
粘着シートが検出された場合、その領域の重心位置が画像の中心となるように、視野の微調整を行う。さらにズーム機能を用いて、ズームインする。さらに、粘着シートの上端部分が画像の上部ぎりぎりに入るようにネットワークカメラを上方向にチルトさせる。そこから下方向に一定間隔でネットワークカメラをチルトさせながら、画像を取得していく。そして粘着シートの下端が検出されれば、画像取得を終了する。
(ステップS4002:虫の候補領域の抽出)
【0054】
次に図4のステップS4002において、得られた合成画像を入力画像として、虫の候補領域を抽出する。詳細な手順については後述する。
(虫の認識と計数)
【0055】
さらにステップS4003において、虫の認識と計数を行う。ここではまず、認識の前処理としてHSV色空間を用いて黄色領域と背景部分を除去する。ここでは認識処理に際して、解像度に応じて2種類の方法を用いている。まず高解像度の場合には、トマトハモグリバエの画像的特徴に着目した認識を行う。一方で低解像度の場合は、テンプレートマッチングにより認識を行う。そして認識結果を統合して計数結果とする。
(特徴量を用いた認識)
【0056】
ここでは、粘着シートとネットワークカメラの距離が近く、詳細な入力画像が得られた場合の認識方法について述べる。まず特徴量を用いた認識を行う。特徴量としては、トマトハモグリバエが、ずんぐりむっくりで、手足が短いハエという特徴に着目して、以下のように定義する。
(a)虫の面積
(b)虫の胴体部分の面積
(c)虫の足と羽部分の面積
(d)虫の周囲長
(e)テンプレートとの類似度
そして各々の特徴量は、抽出された虫領域に対して、以下のとおり算出する。
(a)虫の面積に関しては、抽出された虫領域全体の画素数に着目する。粘着シートの大きさが一定になるようにズームして、画像を取得するため、虫領域の画素数で比較することで大きさを比較できる。
(b)胴体部分の面積に関しては、HSV色空間で色相に着目することで抽出する。これは、手足が領域として細く、胴体部分は分厚いため、色に違いが生じることに着目したものである。
(c)足と羽部分の面積は、(a)全体の面積から(b)胴体部分の面積の差により求める。
(d)周囲長は、切り出し画像に二値化処理を行った後、収縮処理を加えた後、算出する。
(e)類似度は、トマトハモグリバエのサンプル画像をテンプレートとした相関値により算出する。
【0057】
各々の特徴量は、サンプルのトマトハモグリバエより求められた特徴量の値に近い程、高得点になるように正規化する。そして5個の特徴量の値に重要度に応じて、重み付けした上で合計する。そしてその値がある一定以上の場合、その虫がトマトハモグリバエであると判定する。これを全ての抽出されている虫候補領域に対して行い、トマトハモグリバエと判定された数を最終的な計数結果とする。
【0058】
虫の認識のための画像処理方法は、解像度に応じて適切な手法を変更できる。ここでは、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行った。以下、各手法について説明する。
(高解像度画像による認識)
【0059】
まず、高解像度画像を用いた虫の認識について説明する。図5に、高解像度の例として、80×80画素で撮像されたトマトハモグリバエの画像イメージを示す。このような高解像度画像を用いることで、形状や濃淡等がより明確となる。
(特徴量を用いた認識)
【0060】
図6に、抽出した4個の特徴量の抽出結果を画像化した例を示す。この程度の解像度であれば、特徴量を用いた認識が可能である。ここでは、28匹の虫に対して処理を行った。28匹の内訳は、8匹がトマトハモグリバエ、20匹がその他の虫であった。この例では、27匹に対して正しい認識が行えた。トマトハモグリバエのうちの1匹を検出することができなかったが、トマトハモグリバエ以外の虫をトマトハモグリバエとして認識することはなかった。
(テンプレートマッチングによる認識)
【0061】
次に、低解像度の画像に基づく虫の認識処理について説明する。図8の合成画像に対して、虫領域を抽出した画像の例を図10に示す。この画像から詳細な特徴を抽出する操作は困難である。このような場合は、テンプレート画像を用いた相関により認識を行う。
(テンプレート画像)
【0062】
テンプレート画像には、典型的なトマトハモグリバエ4匹分の画像を用いた。ここでは1個のテンプレート画像の大きさは、ここでは21×21画素とした。さらに必要に応じて、各テンプレート画像に対して回転を加える。例えば、各テンプレート画像を0°、90°、180°、270°に回転させて合計16回テンプレートマッチングの結果画像の論理和をとる。そして最大が1.0となるように正規化し、この値をトマトハモグリバエらしさの値とする。さらにここでは1匹ごとにトマトハモグリバエかどうかの判定を行わず、らしさの値の合計値を最終的な計数結果とする。
(低解像度画像による認識)
【0063】
図8に示す合成画像に対して、処理を行った結果の例を図9の分布表示に示す。この図は、各々の棒グラフがテンプレートの相関値の高い場所とその位置を示している。図10の抽出された位置に対応して相関値が高くなっていることが判る。ここでは、トマトハモグリバエは20.569匹と出力された。四捨五入で21匹となり、トマトハモグリバエに詳しい熟練ユーザが目視した場合、23匹中21匹がトマトハモグリバエだと認定していることと比較して、良好な結果が得られた。
(撮像距離)
【0064】
次に、ネットワークカメラから1mおきに設置し、処理結果の変化を調べた例を示す。図11に、6mの距離を隔てて撮像し合成した合成画像の例を示す。図11では背景部分が混入し、かなり小さい画像しか取得できないことが確認できる。この計測結果の例を数値的に表したグラフを図12に示す。図12のグラフ中、検出精度を折れ線、棒グラフは匹数を表している。検出精度は5m、6mで急激に低下していることが確認できる。これは5m、6mでは粘着シートから対象物を抽出できていないことが原因と考えられる。
【0065】
以上のように、病害虫を自動で判別し、その数を計数する虫の画像処理装置によれば、粘着シートに付着したトマトハモグリバエを画像処理により検出し、その数を計数することができる。
(ステップS4004:結果の出力)
【0066】
以上のようにして得られた認識及び計数の結果を出力する(図4のステップS4004)。ここでは、表示部30上に結果を表示させる。また、外部機器にデータを出力することもできる。
(実施例2:コナジラミ)
【0067】
次に、同じくネットワークカメラを用いてコナジラミを識別する方法について、図13のフローチャートに基づいて説明する。コナジラミは、体長1.0〜2.0mmの微小病害虫である。適温では急激に発生する場合があるため、数匹でも発見すると防除を行う必要がある。コナジラミは一様に白色であり、細長い羽を持つ。コナジラミは草花、野菜、花木等多くの植物に被害をもたらし、主に葉裏に寄生して汁を好む。コナジラミの食害を受けた場所は葉緑素が抜け、白いカスリ状となり生育が悪くなる。この症状以外にも、排泄物の上にすす病が発生して葉や果実が黒くなることもある。また、アブラ虫同様にウイルス病を媒介し、被害を助長する。卵、幼虫、蛹、成虫と完全変態し、成長過程により有効な農薬が異なるため防除が難しい。コナジラミは黄色に誘引されるという特徴があるため、粘着シートは黄色の物を使用する。
(ステップS1301:コナジラミの対象画像の取得)
【0068】
まず、図13のステップS1301で対象画像を取得する。この手順は、上述したトマトハモグリバエの対象画像を取得するステップS4001の手順と同様であり、詳細説明を省略する。
(ステップS1302:コナジラミの候補領域の抽出)
【0069】
次に、ステップS1302で対象画像からコナジラミの候補となる候補領域を抽出する。ネットワークカメラより取得した対象画像から粘着シートに付着したコナジラミを検出するには、まず粘着シートに付着した物体のみを抽出する必要がある。そこで、まず背景部分の除去を行う。背景除去を行うにはHSV等の色情報を用いた手法が一般的であるが、得られる画像毎に色合いが一定でない場合があるため安定した検出を行うことが難しい。そこで、比較的ノイズに強い可変閾値による背景除去手法を用いる。
【0070】
図14に対象画像中に取得画像の小領域を設定する様子を示す。まず、図14に示すように取得した対象画像の1つの画素を中心として周囲に小領域を設定し、小領域内の平均輝度と平均彩度を求める。ここでは21×21画素を小領域と設定する。背景のみが存在する小領域の場合、ほぼ同じ明るさや色となるため、中心部の輝度値や彩度値は平均値とほぼ同じになる。しかし、背景以外の物体が存在する領域の場合、背景以外の明るさが存在するため、中心部の輝度と平均輝度値との間には隔たりが生じると考えられる。
【0071】
コナジラミの体は白色をしているため、輝度値の値は高く彩度値の値は低い。しかしながら、コナジラミが粘着物に埋もれた場合、特徴的な白色ではなくなり、やや黒ずんだ色になってしまう。そこで、平均彩度よりも低い彩度値をもつ画素の中で、平均輝度値よりも高い輝度値を持つ領域は、埋もれる前のコナジラミの可能性がある領域として残しておき、平均輝度値よりも低い輝度値を持つ領域は、埋もれた後のコナジラミの可能性がある領域として残し、あまり差の少ない輝度値の画素は背景であると考えられるので除去を行う。埋もれる前のコナジラミ候補領域を赤色、埋もれた後のコナジラミ候補領域を黒色で表示する。図14に示す取得画像に対して得られたクワシロカイガラムシ候補のみを抽出した画像を図15に示す。
(ステップS1303:コナジラミの候補領域の選択)
【0072】
次に、ステップS1302で得られた領域に対して、ステップS1303で大まかにコナジラミらしい領域を選択する。図15に示した画像の結果では、背景部分の除去は行っているが、コナジラミ以外の虫等の不要な部分が存在している。コナジラミは他の虫と比べて比較的小さいので、一定閾値以上の面積を削除することでコナジラミ候補領域のみを抽出することができる。また、黒ずんだコナジラミ候補領域を抽出した際、誤って影の領域を抽出してしまう場合がある。そこで、白いままのコナジラミ候補領域の下部に黒ずんだコナジラミ候補領域が隣接している場合、影の領域であると判断して除去を行う。図15の抽出画像に対して面積や影の除去を行った画像を図16に示す。
(ステップS1304:コナジラミの特徴量の抽出)
【0073】
次にステップS1304では、得られたコナジラミ候補抽出画像から、コナジラミのみを判定するための特徴量を抽出する。
(コナジラミの特徴量)
【0074】
抽出した候補領域からコナジラミのみを判定するための特徴量として、主に形状に着目した3つの特徴量の抽出を行う。
(コナジラミに対するテンプレートマッチング)
【0075】
粘着シートに付着したコナジラミを見ると、ほぼ全てのコナジラミが似た形状で付着していることが判る。そこでテンプレートマッチングを用いた判定を行う。テンプレートマッチングとは、入力画像とテンプレート画像とを重ね合わせることにより比較照合し、両者が一致しているかどうかを判定する処理である。図17にテンプレートマッチングの手法を示す。入力画像f(x,y)からテンプレートt(x,y)の位置を検出する場合、t(x,y)がf(x,y)中の点(u,v)の位置に重なるようにし、t(x,y)とそれと重なる画像の部分パターンとの類似度を測る。位置検出の場合、通常t(x,y)の画像の大きさはf(x,y)に比べて小さい。t(x,y)の定義されていない範囲ではすべてt(x,y)=0と考えると、点(u,v)における類似度m(u,v)は数1によって表現される。類似度m(u,v)は点(u,v)に対象が存在する確からしさを表しており、値が小さいほど対象らしいことを示す。
【0076】
【数1】
【0077】
ここではコナジラミのみを検出するため、あらかじめコナジラミを基に作成した4つのテンプレート画像を用いてマッチングを行う。テンプレート画像の拡大画像を図18に示す。ここで用いたテンプレート画像の実寸サイズは20×20Pixelで、各コナジラミ候補の最小類似度を求める。そして求めた各最小類似度をそのコナジラミ候補の類似度とする。類似度は数1のようにテンプレート画像と入力画像との差であるため、形状が似ているほど0に近づく。そこでテンプレートマッチングによる得点match_pointを図19のように得点付けを行う。match_pointの最大値は100とし、類似度が下がると0に近づく。
(縦横比)
【0078】
コナジラミの特徴として、大きな羽があるという点が挙げられ、画像には全体的に丸い形状であるという特徴がある。そこで、縦横比を用いた判定を行う。領域の高さをHeight、領域の幅をWidthとし、数2により縦横比Ratioを求める。コナジラミは円形に近い特徴であるため、得点Ratio_pointを図20に示すように得点付けを行う。図20のグラフにおいて横軸は縦横比Ratio、縦軸は縦横比による得点Ratio_pointを示している。Ratio_pointの最大値は100とし、縦横比が正方形に近くなる1〜1.5付近で、最大値をとる。
【0079】
【数2】
(方向度)
【0080】
コナジラミの特徴として、中心部付近が白く外周部に近づくほど粘着シートの色に近くなっている。また、黒ずんで埋もれたコナジラミも、中心付近が黒く外周部に近づくほどシートの色に近くなっている。そこで、候補領域の全ての画素に対してエッジの向きを求め、エッジの向きと重心方向との比較による判定を行う。エッジの向きとは、どの方向にエッジが強く出ているかを表したものである。輝度値に対して図21(a)に示す縦方向のエッジフィルタを掛けることによりエッジの縦方向の強さEdge_Hを求め、図21(b)に示す横方向のエッジフィルタを掛けることによりエッジの横方向の強さEdge_Wを求め、数3により、エッジの向きeを求める。エッジの向きは輝度が高い画素から低い画素の方向に向く。そのため、図22(a)に輝度画像で示す埋もれる前のコナジラミは、エッジ方向が図22(b)に示すように重心方向に向く傾向があり、図23(a)に輝度画像で示す埋もれた後のコナジラミは、エッジ方向が図23(b)に示すように重心方向に向く傾向がある。
【0081】
【数3】
(方向度による判定)
【0082】
以上のようにして各画素のエッジの向きを求めた後、方向度による判定を行う。方向度はエッジの向きと重心方向の比較を行う。重心方向は、図24の領域画像の場合、図25に示すように領域の重心に向かう方向となる。エッジ向きと重心の向きの差を求め、向きの差の平均値Ave_Dirと、標準偏差SD_Dirを求める。ここで図26(a)に埋もれる前のコナジラミ、図26(b)に埋もれた後のコナジラミの、方向差の平均値による得点付けのグラフを、また図27に標準偏差による得点付けのグラフを、それぞれ示す。埋もれる前のコナジラミは、エッジの向きと重心の向きが逆方向となるので、Ave_Dirを用いて得点Dir_point1を図26(a)のように得点付けを行う。Dir_point1の最大値は100とし、平均値Ave_Dirが180度付近で最大値をとる。埋もれた後のコナジラミは、エッジの向きと重心の向きが同じ方向となるので、Ave_Dirを用いて得点Dir_point2を図26(b)のように得点付けを行う。Dir_point2の最大値は100とし、平均値Ave_Dirが0度付近で最大値をとる。標準偏差SD_Dirは、向きの差のばらつきに注目し、向きの差がある程度同じような大きさであると考えられるので、得点Dir_point3を図27のように得点付けを行う。Dir_point3の最大値は100とし、標準偏差SD_Dirが0度付近で最大値をとる。そして方向度Dir_pointは、数4により求められる。Dir_pointの最大値は100とし、埋もれる前は角度が180度、埋もれた後は0度付近で、標準偏差が0付近で最大値をとる。
【0083】
【数4】
(コナジラミ度の抽出)
【0084】
次に、上述した3つの特徴量を用いてコナジラミの判定を行う。3つの特徴量のうち、テンプレートマッチングによる得点match_pointはテンプレートと形状を比較しているため信頼性が高い。また、縦横比による得点Ratio_pointは信頼性が高いが、縦横比がコナジラミと似たような虫の場合は単独では有効とはいえない。方向度Dir_pointは、コナジラミが単純な形状なので信頼性が高い。そこで、各特徴量に重み付けをしてコナジラミ度という1つの特徴量にする。コナジラミ度konaji_pointは、数5により求める。このコナジラミ度を用いてコナジラミの判定を行う。
【0085】
【数5】
(コナジラミ度の視覚化、コナジラミ計数)
【0086】
さらにコナジラミ度の高低に応じて、抽出したコナジラミ候補画像に色づけを行い視覚化する。ここでは視覚化は、コナジラミ度に応じて8段階で行う。例えば、カラーの視覚化バーを用いて、左から右にかけて、赤、ピンク、橙、黄、緑、水色、青、藍の8色に分け、バーの左側にいくほどコナジラミ度が高く、右側にいくほどコナジラミ度が低くなるような色分けを行う。これによって、図16等の画像を着色して表示させ、コナジラミ候補抽出画像を視覚的に他と区別しやすくできる。
(コナジラミの計数)
【0087】
次に、視覚化後の画像からコナジラミの計数を行う。ここでは、どのコナジラミ候補がコナジラミか正確に判定する必要はなく、画像内にコナジラミがおおまかに何匹いるかわかる程度でよい。計数式を数6に表す。コナジラミ度が高い赤色のコナジラミ候補は1匹とカウントし、それ以下の場合は、色に応じて0.9匹〜0匹としてカウントを行った。なお、藍色は計数を0としている。
【0088】
【数6】
(ステップS1305:結果の出力)
【0089】
以上のようにして得られたコナジラミの認識及び計数の結果を出力する。このように、微小な病害虫であるコナジラミの計数を自動化することが可能であることが確認された。
(実施例3:クワシロカイガラムシ候補の抽出)
【0090】
さらに実施例3としてクワシロカイガラムシの認識について、説明する。クワシロカイガラムシは体長が非常に小さいため、対象画像を取得する撮像手段1には、ネットワークカメラでなく、粘着シートの表面を走査して読み取るスキャナを用いた。以下、スキャナより得られた対象画像から背景部分を除去し、物体領域のみを抽出し、抽出した候補領域に対して分類を行う手法を、図28のフローチャートに基づいて説明する。
(クワシロカイガラムシ)
【0091】
クワシロカイガラムシは、体長が雄成虫で0.7〜0.9mm、雌成虫で1.1〜1.3mm、幼虫では約0.3mmの微小病害虫である。クワシロカイガラムシの特徴として、雄成虫は橙赤色で羽を持ち、雌は淡黄色〜橙黄色で円形に近い楕円形で、幼虫は淡橙色に近い色で円形に近い楕円をしている。クワシロカイガラムシは茶枝や幹に定着し、口針を挿入して樹液を吸い、茶樹に被害をもたらす。クワシロカイガラムシの食害の被害を受けた枝幹部は弱り、発育不良となり葉の伸びが悪化し、新梢部が枯れてしまう。また、近年ではサクラ、ウメ、モモ等の樹木等にも被害をもたらす。クワシロカイガラムシの発生時期は、5月7月9月の3回にわたって発生し、高温で乾燥していると大量に発生しやすい。またクワシロカイガラムシは、幼虫ふ化期のわずかな期間以外は殻に覆われており、薬剤にかかりにくく農薬では防除しにくい難防病害虫とされている。天敵昆虫はチビトビコバチ、サルメンツヤコバチである。ここでは幼虫のクワシロカイガラムシについて取り扱う。
(ステップS2801:クワシロカイガラムシの対象画像の取得)
【0092】
まず、図28のステップS2801でクワシロカイガラムシの対象画像を取得する。ここでは、クワシロカイガラムシの幼虫は体長0.3mmと非常に小さいため、トマトハモグリバエやコナジラミで用いたネットワークカメラでなく、スキャナを用いて粘着シート画像の走査を行う。ここではスキャナの解像度を1200dipに設定した。
(ステップS2802:クワシロカイガラムシの候補領域の抽出)
【0093】
次に、図28のステップS2802で対象画像からクワシロカイガラムシの候補となる候補領域を抽出する。ここでは、スキャナより取得した対象画像から粘着シートに付着したクワシロカイガラムシを検出するため、粘着シートに付着した物体のみを抽出する必要がある。そこで、まず背景部分の除去を行う。背景除去を行うには上述の通りHSV等の色情報を用いた手法が一般的であるが、得られる画像毎に色合いが一定でない場合があるため安定した検出を行うことが難しい。また、上述した可変閾値による背景除去手法といった方法もあるが、虫以外の領域も多く抽出してしまう場合がある。そこで、ここではHSVの色情報を用いた方法と可変閾値による背景除去手法を組み合わせた手法を用いた。なお、本実施例においては農業試験場やスキャナでの取得前に予め、クワシロカイガラムシの粘着シート上に、ユーザが目視により虫の位置に青色マーカ等で囲んでいる。
【0094】
まず、取得した対象画像に対して、クワシロカイガラムシの候補部分を取得する。候補部分を選択する方法としてHSVの色情報により取得する。取得する範囲は、クワシロカイガラムシの体の色が、時間が経過すると黒ずんでしまうため、時間が経過した虫を抽出するため、選択する画素は赤黄色にやや近い部分と黒い部分を候補部分として選択する。図29に示す取得画像に対して得られたクワシロカイガラムシの候補部分の画像を図30に示す。また、取得した画像に対して背景部分として使用する部分を取得する。これは、前述した画像中に青丸で虫を囲んでいるため、自然界にあまり無い青色部分を除外して背景部分として用いるためである。背景部分として使用する部分は、青く囲んである部分を除いた領域を背景として選択する。取得画像に対して得られた背景部分を図31に示す。
そして、得られた候補部分の1つの画素を中心として、図32に示すように取得した背景部分の周囲に小領域を設定し、小領域内の平均輝度を求める。ここでは51×51画素を小領域と設定する。背景のみが存在する小領域の場合、ほぼ同じ明るさとなるため、中心部の輝度は平均輝度値とほぼ同じになる。しかし、背景以外の物体が存在する領域の場合、背景以外の明るさが存在するため、中心部の輝度と平均輝度値との間には隔たりが生じると考えられる。そこで、平均輝度値よりも小さな輝度を持つ画素は背景以外の物体であると考え残しておき、あまり差の少ない輝度値の画素は背景であると考えられるので除去を行う。図29に示す取得画像に対して得られたクワシロカイガラムシ候補のみを抽出した画像を図33に示す。
(ステップS2803:クワシロカイガラムシの候補領域の選択)
【0095】
次に、図28のステップS2802で得られた領域に対して、ステップS2803で大まかにクワシロカイガラムシらしい領域を選択する。図32に示した画像の結果では、背景部分の除去は行っているが、クワシロカイガラムシ以外の虫や気泡部分等の不要な部分が存在している。そのため、面積や色情報等を比較してクワシロカイガラムシとは明らかに違うものを除去していく。
(面積での選択)
【0096】
背景除去を行った画像に対してラベリングを行い、各物体の面積値を求める。クワシロカイガラムシの大きさは他の虫に比べて小さいので、面積値が大きな物体は他の虫や気泡でありクワシロカイガラムシではないと考えられるので除去し、小さすぎる物体はノイズが検出したと考えられるので除去する。面積による除去を行った結果を、図34に示す。
(HSV平均値での選択)
【0097】
次に、各物体の色の違いに注目するために、各物体のHSVそれぞれの平均値を求める。このとき、色相の平均値を求める際、図35(a)に示すように色相値は0から360の値で表されるが、図35(b)に示すように実際の色相は環状になっているため、赤色の値を基準値(0)とした場合、色相の平均値が実際とは異なった値が求められ、誤って除去してしまう場合がある。そこで、本実施例では図35(c)に示すように、除去した青部分の色相を基準値(0)とすることで、正しい色相の平均値を求めることができる。クワシロカイガラムシの色は赤色や橙色に近いため、色相の平均値が赤色付近以外の物体を除去する。また、黒ずむ前のクワシロカイガラムシは色が付いており、黒ずんだ後も色が着いた部分が残っているため、平均彩度値が低い場合も除去を行う。
(密度での選択)
【0098】
続いて、各物体の形状からある程度の物体を選択していく。気泡の境界部分等のノイズは、細長く曲線になっている場合が多い。そこで各物体の密度を用いた判定を行う。密度の求め方は、図36に示すように物体の外接四角形を取り、物体の高さをheight、物体の幅をwidth、面積をareaとすると、数7によって物体の密度Densityが求まる。
【0099】
【数7】
【0100】
密度Densityは、密になるほど1に近づき、疎になるほど0に近づく。クワシロカイガラムシは図37に示すように密度が密になっており、気泡の境界部分の場合は、図38に示すように疎になっていることが多いことから、密度Densityが0.45以下の場合はノイズと判定し除去する。
(縦横比での選択)
【0101】
クワシロカイガラムシの形状の特徴として、全体的に丸みを帯びており楕円状になっている点が挙げられる。そこで、縦横比を用いた判定を行う。しかし、図39に示すように外接四角形から縦横比を求める方法では、物体が斜め写っている場合に正しい縦横比が取得できず、誤ってクワシロカイガラムシを除去してしまう場合がある。そこで、ここでは図40に示す物体の向きを考慮して外接四角形を取得し、縦横比を取得する。物体の向きの取得方法として、モーメント特徴を用いて向きを求める。画像におけるモーメントは、周りの2次モーメントが最小になる直線が重心を通る条件を満たす。縦の座標i、横の座標j、縦方向と横方向のモーメントをそれぞれp次、q次モーメントとし、数8及び数9によって重心を通る軸の角度が求まる。
【0102】
【数8】
【0103】
【数9】
【0104】
求めた角度から長軸Long_Axisと、短軸Short_Axisを求める。図41に示すように、軸の長さの取得方法は角度θを基準とした外接四角形の長辺と短辺をそれぞれ長軸Long_Axis、短軸Short_Axisとすると、数10によって縦横比Ratioが求まる。クワシロカイガラムシの形状は全体的に丸みを帯びており楕円状になっているため、図42(a)に示すような円に近い物体や図42(b)に示すような細長くなっている物体は、クワシロカイガラムシではないと考えられるので、Ratioが1.2〜2.5の範囲内に無い物体の除去を行う。
【0105】
【数10】
(ステップS2804:画像の拡大・回転・再抽出)
【0106】
次に、図28のステップS2804でクワシロカイガラムシ候補領域を、同じ向きに合わせ鮮明な画像にするために範囲内を回転、拡大する方法について説明する。ここで拡大は取得画像に対して行うため、再抽出する必要がある。
(画像の拡大・回転)
【0107】
抽出したクワシロカイガラムシ候補領域は様々な姿勢を向いているため、そのままでは特徴量を正確に抽出することが困難である。また、抽出したクワシロカイガラムシ候補領域は数十画素の情報しか存在しないため、特徴量を正確に抽出することが難しい。そこで、クワシロカイガラムシ候補領域の向きを一定にし、また鮮明な画像を得るため、クワシロカイガラムシ候補領域に対して、回転とサブピクセル情報を用いた画像の拡大を行う。まず、上記で求めたモーメントによる領域の軸の角度θを用いて、図43に示すように回転後の座標(x,y)を回転前の座標(x’,y’)に戻し対応点の探索を行う必要がある。数11を用いて重心座標(xg,yg)と回転後の座標(x,y)との距離Distを求め、数12を用いて回転後の座標(x,y)の傾きψを求める。そして数13及び数14を用いて回転前の座標回転前の座標(x’,y’)を求める。
【0108】
【数11】
【0109】
【数12】
【0110】
【数13】
【0111】
【数14】
【0112】
対応点を求めたら、拡大画像を作成するために画素の補間を行う。補間の方法として、最近傍法があるが、この手法では補間を行う画素の最も近い画素の濃度値を与えるため、鮮明な画像の補間に適していない。そこで、ここで用いる補間手法として3次補間法を用いて補間を行う。3次補間法は、図44に示すように濃度値を求める座標(x’,y’)の周囲16個の格子点の濃度値を用いて3次式を用いて補間を行う。3次式は、図45に示すように標本化定理で現れる関数sinπx/(πx)の近似式を用いており、理論上は座標(x’,y’)の濃度がほぼ完全に復元が可能である。
【0113】
ここでは、この3次補間により回転前の座標(x’,y’)の濃度値を数15及び数16を用いて3次式による補間を行う。3次補間により、より鮮明なサブピクセル情報が得られ、正確な特徴量の抽出を行うことが可能である。図46に示す拡大・回転を行う前の取得画像に対して回転・拡大を行った画像を図47に示す。
【0114】
【数15】
【0115】
【数16】
(領域の再抽出)
【0116】
作成した回転・拡大画像は取得画像に対して行ったものなので、回転・拡大画像での領域を抽出する必要がある。再抽出は、上述した手法同様と同様に行い領域を再抽出する。このとき、回転・拡大画像は図48に示すように領域を並べて作成しているが、近くに別の領域が存在する場合、誤って抽出されてしまう場合がある。そこでここでは、ラベリングを行った後に各回転・拡大部分の重心部付近のラベル以外は除外することで、不要な領域の削除が可能である。図48の回転・拡大画像の領域を抽出した画像を図49に示す。
(ステップS2805:クワシロカイガラムシの分類)
【0117】
次に図28のステップS2805でクワシロカイガラムシの分類を行う。クワシロカイガラムシは、粘着シートに付着して時間が経過すると体が黒ずんでしまい、図50(a)〜(c)に示すように黒ずんでしまう前と後では特徴が変わってしまう。そこでここでは、クワシロカイガラムシ候補領域を複数の種類に分類する。粘着シートに付着してしばらくの間は、図50(a)に示す本来の色鮮やかなクワシロカイガラムシの特徴がある。そこで、平均輝度値や平均彩度値が高い候補領域は、色鮮やかなクワシロカイガラムシの可能性があると考えられるので、色鮮やかなクワシロカイガラムシ候補領域として分類する。また、ある程度時間が経過すると、図50(b)に示すようにクワシロカイガラムシの体の一部が黒ずんでくるといった特徴が見られる。そこで、平均輝度値や平均彩度値がそれほど高くなく、低い輝度値のみの平均値である平均低輝度値が低い候補領域は、一部分が黒ずんだクワシロカイガラムシの可能性があると考えられるので、一部分が黒ずんだクワシロカイガラムシ候補領域として分類する。また、さらに時間が経過すると、図50(c)に示すようにクワシロカイガラムシの体全体が黒ずんでしまう特徴が見られる。そこで、平均輝度値や平均彩度値が低い候補領域は、全体が黒ずんだクワシロカイガラムシの可能性があると考えられるので、全体が黒ずんだクワシロカイガラムシ候補領域として分類する。分類したクワシロカイガラムシは、図51に示すように、色鮮やかなクワシロカイガラムシ候補領域を緑色、一部分が黒ずんだクワシロカイガラムシ候補領域を赤色、全体が黒ずんだクワシロカイガラムシ候補領域を青色として表示する。
(ステップS2806:クワシロカイガラムシの特徴量の抽出)
【0118】
さらに図28のステップS2806で、クワシロカイガラムシの特徴量の抽出を行う。以下、上述のステップで得られたクワシロカイガラムシ候補抽出画像から、クワシロカイガラムシのみを判定するための特徴量を抽出する手順について説明する。まず、特徴量としてテンプレートマッチングと楕円度について説明する。次に、各分類で行う特徴量を1つずつ説明する。さらに、各特徴量を統合したクワシロ度について説明する。最後にクワシロカイガラムシの計数方法について説明する。
(クワシロカイガラムシの特徴)
【0119】
抽出した候補領域からクワシロカイガラムシのみを判定するための特徴量について説明する。クワシロカイガラムシは上述の通り図28のステップS2805で分類を行ったので、図52(a)〜(c)に示すように2つの共通の特徴量(ここではマッチ度と楕円度)と各分類で違う特徴量1つ(図52(a)に示す色鮮やかな例では囲み度、図52(b)に示す一部が黒い例では体度、図52(c)に示す全体が黒い例では色彩度)の計5種類の特徴量について説明する。
(テンプレートマッチング)
【0120】
粘着シートに付着したクワシロカイガラムシを見ると、ほぼ全てのクワシロカイガラムシが似た形状で付着していることがわかる。そこでテンプレートマッチングを用いた判定を行う。テンプレートマッチングとは、入力画像とテンプレート画像とを重ね合わせることにより比較照合し、両者が一致しているかどうかを判定する処理のことである。図53にテンプレートマッチングの手法を示す。入力画像f(x,y)からテンプレートt(x,y)の位置を検出する場合、t(x,y)がf(x,y)中の点(u,v)の位置に重なるようにし、t(x,y)とそれと重なる画像の部分パターンとの類似度を測る。位置検出の場合、通常t(x,y)の画像の大きさはf(x,y)に比べて小さい。t(x,y)の定義されていない範囲ではすべてt(x,y)=0と考えると、点(u,v)における類似度m(u,v)は数17によって表現される。類似度m(u,v)は点(u,v)に対象が存在する確からしさを表しており、値が小さいほど対象らしいことを示す。
【0121】
【数17】
【0122】
ここではクワシロカイガラムシのみを検出するため、あらかじめ複数のクワシロカイガラムシを基に作成したテンプレート画像を用いてマッチングを行う。図54にテンプレート画像の拡大画像を示す。テンプレート画像の実寸サイズは36×54Pixelであり、形状の若干異なるテンプレート画像を9種類使用する。このテンプレート画像から各クワシロカイガラムシ候補の最小類似度を求める。そして、求めた各最小類似度をそのクワシロカイガラムシ候補の類似度Mとする。類似度Mは数17のようにテンプレート画像と入力画像との濃度値の差であるため形状が似ているほど0に近づく。そこでテンプレートマッチングによる得点match_pointを図55のように得点付けを行う。図55において横軸は類似度M、縦軸はテンプレートマッチングによる得点match_pointを示す。match_pointの最大値は100とし、最大マッチである類似度0で最大値をとる。
(楕円度)
【0123】
クワシロカイガラムシの外形的特徴として、楕円に近い形状であるという点が挙げられる。そこで楕円を用いて外周部の楕円らしさを比較する。楕円度とは、領域がどのぐらい楕円に近い形状なのかを測る特徴量である。まず、領域の外周部と比較を行う楕円を取得するために、モーメント特徴により候補領域の向きや軸を取得する。候補領域は上述の通り同じ向きに合わせているが、画素の細かいズレがあるため再度モーメント特徴により領域の傾き、長軸及び短軸を求める。傾きと軸の長さから、図56に示すように楕円を取得して外周との比較を行う。外周との比較は、図57に示すように重心を基準とした角度が同じ方向の外周と楕円の距離差Diff_distを求める。距離差Diff_distにより、楕円と領域のズレがあるかを求めている。Diff_distを5度の間隔で360度まで求め、各角度の合計距離差Total_dist及び数18より平均距離差Ave_distを求める。また、距離差の標準偏差SD_distを求める。距離差の標準偏差SD_distにより、楕円と外周の急激なズレがあるかを求めている。
【0124】
【数18】
【0125】
求めた平均距離差Ave_dist及び距離差の標準偏差SD_distにより、得点付けを行う。クワシロカイガラムシは楕円に近い形状であるため、平均距離Ave_distによる得点Ave_pointを図58に示すように得点付けを行う。また、クワシロカイガラムシの形状は単純な楕円の形状に近いため、距離差の標準偏差SD_distによる得点SD_pointを図59に示すように得点付けを行う。そしてAve_pointとSD_pointを用いて、数19により楕円度oval_pointを求める。楕円度oval_pointの最高点を100点とし、単純な楕円の形状をしている領域ほど高得点となる。
【0126】
【数19】
(囲み度)
【0127】
色鮮やかなクワシロカイガラムシは、体の中心が外側に比べ色が濃く彩度が高くなっている点が挙げられる。そこで、囲み度を用いた判定を行う。囲み度とは、高彩度値の画素を囲む様に低彩度値が分布しているかを測る特徴量である。候補領域中の高彩度値から得られる重心点を(X,Y)、それ以外の画素から得られる重心点を(x,y)とすると、重心点同士の距離dは数20で表される。クワシロカイガラムシは体の中心に高彩度値の画素があるため、高彩度値の重心点とそれ以外の画素の重心点は一致すると考えられる。距離dを用いて囲み度surround_pointは図60のように得点付けを行う。surround_pointの最大値は100とし、距離dが離れるほど0に近づく。
【0128】
【数20】
(体度)
【0129】
一部分が黒ずんだクワシロカイガラムシ候補領域は、一部分が黒くなっている場合がある。そのため体度を用いた判定を行う。ここで体度とは、低輝度値の画素が1箇所に固まっており体のようになっているかを測る特徴量である。候補領域中の低輝度値のみでの密度B_Densityから体度body_pointを図61に示すように得点付けを行う。body_pointの最大値を100とし、密度B_Densityが低くなるほど0に近づく。
(色彩度)
【0130】
全体が黒ずんだクワシロカイガラムシ候補領域は、本来は色が付いたものが時間の経過で黒ずんだものである。そこで、色情報を用いた色彩度を用いた判定を行う。ここで色彩度とは、色が付いていた部分を用いて図る特徴量である。領域中の高彩度値の平均高彩度値High_Satを求め、色彩度color_pointを図62に示すように得点付けを行う。color_pointの最大値を100とし、色が付いていない領域ほど0に近づく。
(ステップS2807:クワシロ度の抽出)
【0131】
さらに図28のステップS2807で、クワシロ度の抽出を行う。ここでは上述した5つの特徴量を用いてクワシロカイガラムシの判定を行う。3つの特徴量のうち、テンプレートマッチングによる得点match_pointはテンプレートと形状を比較しているため信頼性が高い。また、楕円度による得点oval_pointはクワシロカイガラムシが単純な形状をしているため信頼性が高い。囲み度によるsurround_pointや体度body_pointは、小さなノイズには得られる画素が少ないため単独での信頼性は低い。色彩度color_pointは、ノイズに色が付いている場合があるので単独での信頼性は低い。そこで、各特徴量に重みづけをしてクワシロ度という1つの特徴量にする。クワシロ度kuwashiro_pointは数21により表される。このクワシロ度を用いてクワシロカイガラムシの判定を行う。このとき、楕円度が極端に低い領域は、クワシロカイガラムシではない可能性が非常に高いため、0匹とする。
【0132】
【数21】
(ステップS2808:クワシロ度の視覚化及びクワシロカイガラムシの計数)
【0133】
さらに図28のステップS2808で、クワシロ度の視覚化及びクワシロカイガラムシの計数を行う。ここではクワシロ度の高低に応じて、抽出したクワシロカイガラムシ候補画像に色付けを行い視覚化する。視覚化はクワシロ度に応じて8段階に色分けされた視覚化バーを用いて行う。視覚化バーにおいてバーの左側にいくほどクワシロ度が高く、右側にいくほどクワシロ度が低くなる。
【0134】
次に、視覚化後の画像からクワシロカイガラムシの計数を行う。ここでは、どのクワシロカイガラムシ候補がクワシロカイガラムシかを正確に判定する必要はなく、画像内にクワシロカイガラムシが大まかに何匹いるか判る程度でよい。ここでは計数式を数22に表す。クワシロ度が高い赤色のクワシロカイガラムシ候補は1匹とカウントし、それ以下の場合は、色に応じて0.9匹〜0匹としてカウントを行う。
【0135】
【数22】
(ステップS2809:出力)
【0136】
最後に、得られた結果を出力する。
【0137】
以上の評価方法を用いて、コナジラミとクワシロカイガラムシについて認識を行った結果を、以下説明する。
(実験環境)
【0138】
コナジラミについては、カメラから2メートルの位置に粘着シート(商品名:ホリバー)を設置し、ネットワークカメラから画像取得を行った。白色蛍光灯の下で実験を行い、ネットワークカメラの明るさ、ホワイトバランスは固定した。これは、ズームを繰り返すと画像全体が暗くなり、カメラが自動で明るさやホワイトバランスを変化させるのを防ぐためである。
【0139】
クワシロカイガラムシについては、スキャナを使用しての画像取得を行った。解像度は1200dpiで固定し、画像の明度を−20に固定した。解像度を固定するのは、テンプレートマッチングを行う際に抽出したクワシロカイガラムシの大きさが不安定になるのを防ぐためである。また明度を−20で固定するのは、スキャナの初期の明度ではクワシロカイガラムシが小さすぎるため、取得画像に写らない可能性を防ぐためである。
(実験結果)
【0140】
コナジラミでの実験は、1枚の粘着シートを14枚に分割して撮影した。また、クワシロカイガラムシの実験は、1枚の粘着シートを16枚の画像に分割して撮影した。表1に各粘着シートにおけるコナジラミ計数結果を、表2に各粘着シートにおけるクワシロカイガラムシ計数結果を、それぞれ示す。
【0141】
【表1】
【0142】
【表2】
【0143】
各粘着シートにおいて、目視でコナジラミをカウントしたところ58匹のコナジラミが存在した。上記手法でコナジラミ候補として抽出された総数は145匹で、コナジラミ計数を行った結果は73匹と判定され、良好な結果が得られた。
【0144】
一方、粘着シートにおいて目視でクワシロカイガラムシをカウントしたところ915匹のクワシロカイガラムシが存在した。本手法でクワシロカイガラムシ候補として抽出された総数は861匹であり、クワシロ計数を行った結果クワシロカイガラムシは889匹と判定された。全体の評価としては、抽出率が約95%弱でクワシロ計数がほぼ全体のクワシロカイガラムシ数と同じになっており、優れた結果を示した。
【0145】
以上の通り、取得された対象画像からコナジラミやクワシロカイガラムシを計数することが可能となる。すなわち、取得される画像から粘着シートの背景部分を除去した背景除去画像を作成し、さらに特徴量からコナジラミ度やクワシロ度を抽出することで、画像内に存在するコナジラミやクワシロカイガラムシの匹数計数を自動で行うことができる。このように、虫の画像処理装置を用いることで、害虫を検知し、その発生具合を計数できるので、この情報を利用して、天敵昆虫や農薬等の最適な投入のタイミングを把握することが可能となる。これによって栽培主が従来のように一々目視で粘着シートに付着した害虫を確認する作業が不要となり、負担を大きく軽減できる。この結果、化学農薬に替わる生物農薬の効果的な活用が期待できる。
【産業上の利用可能性】
【0146】
本発明の虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体は、ビニールハウス内でサンプル捕捉した虫の計数や種別の判定、あるいは食品工場や製薬工場における虫の種別判定等の用途に好適に利用できる。
【符号の説明】
【0147】
100、200、300…虫の画像処理装置
1…撮像手段
1B…画像取得手段
2…画像メモリ
10…演算部
11…画像抽出手段
12…情報解析手段
13…判別手段
14…種別認識手段
15…計数手段
20…記憶部
30…表示部
40…操作部
TM…端末
MD…記録媒体
【技術分野】
【0001】
本発明は、撮像された画像中に含まれる虫の計数や種類の判別といった処理を行うための画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体に関する。
【背景技術】
【0002】
従来より、農作物の育成に際して、病害虫を除去するために化学薬品である農薬(化学農薬)が散布されている。また化学農薬以外にも、病害虫に対し天敵昆虫(益虫)を生物農薬として投入し、病害虫を駆除する方法も利用されている。いずれの場合も、これらの農薬や生物農薬の散布時期や量を確認するために、病害虫の種別の確認やその量を計数することが行われていた。従来は、ユーザが目視で病害虫の判別や量を計数しなければならず、この方法では相当の熟練を有する上、極めて手間がかかるという問題があった。例えば、粘着剤を塗布したシート状の粘着トラップをビニールハウス内に懸吊し、各粘着トラップに付着された病害虫を目視により計数する場合、1アール当たり1枚の粘着トラップを配置するため、施設面積が8ヘクタールであれば80枚の粘着トラップを使って微小害虫の発生状況を調査しなければならない。この作業に担当者は毎週、3時間程度を要しているとのことである。また、病害虫の種類によっては大きさが数ミリ程度のこともあり、虫なのかゴミなのか、虫であるとしてその種類を特定することは容易でなかった。このような作業を省力化するために、病害虫であるクワシロカイガラムシの計数を自動で行う画像処理計数装置が提案されている(例えば特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−21074号公報
【特許文献2】特開2008−99598号公報
【特許文献3】特開2003−168181号公報
【特許文献4】特許4469961号公報
【特許文献5】特開2003−169584号公報
【非特許文献】
【0004】
【非特許文献1】寺田賢治,カメラ画像による微小病害虫の検知,画像ラボ,2009.7.
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に開示される装置は、図63に示すような装置を用いて、粘着シートの粘着面に農作物近辺より吸引した空気を吹き付けて、クワシロカイガラムシが吹き付けられた粘着シート部分を撮影し、コンピュータを用いて撮影された画像を解析し、クワシロカイガラムシの捕獲数を数えるものである。
【0006】
しかしながら、該文献によれば、画像処理方法は単に撮像された画像のRGB値から簡単な近似式に代入して輝度、色差信号1、色差信号2、面積、円形度に変換して、図64に示す閾値と比較をし、クワシロカイガラムシか否かの判断を行うとあるだけで、例えば閾値の具体的な設定方法については開示がない。
【0007】
また、クワシロカイガラムシの計数を行っているのみであり、他の虫については「今後、図65の閾値を変更することで、クワシロカイガラムシのみならず他の害虫や益虫等の各種の虫を計数することが可能である。」(特許文献1の0032)とあるとおり、可能性を示唆するのみで、具体的な条件の開示はなされていない。加えて、複数種類の虫の判別は行われていない。
【0008】
本発明者が行った試験によれば、このような簡単な近似式のみに基づいた判定では精度が悪く、実用に適したレベルには達しないことが判明した。またこの方法では、図63に示すような相当大掛かりな機器を要する上、0026にあるとおり、「虫の付着面積は約20cm×約20cmであり、約3mm間隔で撮影すれば、4,300余の画面数となるが、画像処理時間の関係で1日の画面数を約1,000画面とした。」とあり、撮像に要する時間だけでも相当要しており、あくまでも研究段階に止まり、実用化できるレベルには至っていないと思われる。
【0009】
本発明は、このような背景に鑑みてなされたものである。本発明の主な目的は、より簡便に且つ迅速に虫の計数や判別が可能で、簡便なシステムでも実用可能な、虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を提供することにある。
【課題を解決するための手段及び発明の効果】
【0010】
上記目的を達成するため、本発明の第1の側面に係る虫の画像処理装置によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理装置であって、虫を含む可能性のある対象画像を取得するための画像取得手段と、前記画像取得手段で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段と、前記画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段と、前記情報解析手段で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段と、前記判別手段で虫と判別された抽出領域の数を計数する計数手段と、前記計数手段で計数された結果を虫の数として出力するための出力手段とを備えることができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0011】
また、第2の側面に係る虫の画像処理装置によれば、さらに、特徴量データベースを保持したデータベース保持手段を備えており、前記判別手段が、前記データベース保持手段に保持された特徴量データベースを参照して、特徴量を用いて判別を行うことができる。
【0012】
さらに、第3の側面に係る虫の画像処理装置によれば、前記判別手段が、虫の種別の認識を行うことができる。
【0013】
さらにまた、第4の側面に係る虫の画像処理装置によれば、前記情報解析手段が、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行うことができる。
【0014】
さらにまた、第5の側面に係る虫の画像処理装置によれば、前記情報解析手段で抽出される特徴が、虫の全体長、胴体、手足、周囲長のいずれかを特徴量として含むことができる。
【0015】
さらにまた、第6の側面に係る虫の画像処理装置によれば、前記判別手段が、虫の種別を認識するに際して、同一種類の虫に対して、表面の色が部分的に異なるものを複数に分類すると共に、該分類された虫の色に応じて、異なる特徴量を付与し、該異なる特徴量を用いて判別を行うことができる。
【0016】
さらにまた、第7の側面に係る虫の画像処理装置によれば、前記判別手段が、該分類された虫の色に応じて、異なる特徴量を付与する一方で、共通の特徴量を付与し、これら複数の特徴量を用いて判別を行うことができる。
【0017】
さらにまた、第8の側面に係る虫の画像処理装置によれば、認識対象の虫を、アザミウマ、コナジラミ、クワシロカイガラムシのいずれかとできる。
【0018】
さらにまた、第9の側面に係る虫の画像処理装置によれば、前記画像取得手段が、画像を撮像するための撮像素子を含むことができる。
【0019】
さらにまた、第10の側面に係る虫の画像処理装置によれば、前記画像取得手段を、ネットワークカメラとできる。
【0020】
さらにまた、第11の側面に係る虫の画像処理装置によれば、前記画像取得手段を、スキャナとできる。
【0021】
さらにまた、第12の側面に係る虫の画像処理装置によれば、対象画像を、粘着シートに粘着された虫の画像とできる。
【0022】
さらにまた、第13の側面に係る虫の画像処理装置によれば、前記情報解析手段が、対象画像中から、粘着シートの背景部分を除去し、取得される各物体の整形、分離を行い、その大きさ及び形状に基づいて前記判定手段が虫の判定を行うことができる。
【0023】
さらにまた、第14の側面に係る虫の画像処理装置によれば、前記粘着シートとして、黄色又は青色のものを使用できる。これにより、ビニールハウス内で使用されることの少ない色を用いて、画像処理で背景の除去を容易に行える利点が得られる。
【0024】
さらにまた、第15の側面に係る虫の画像処理方法によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理方法であって、虫を含む可能性のある対象画像を取得する工程と、取得された対象画像から、虫に該当する画像を抽出する工程と、抽出された抽出領域から、画像処理によって虫に関する情報を解析する工程と、抽出された虫に関する情報に基づいて、虫かどうかの判別を行う工程と、虫と判別された抽出領域の数を計数する工程と、計数された結果を虫の数として出力する工程とを含むことができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0025】
さらにまた、第16の側面に係る虫の画像処理装置によれば、撮像された画像中に含まれる虫に関する情報を特定するための画像処理プログラムであって、虫を含む可能性のある対象画像を取得する機能と、取得された対象画像から、虫に該当する画像を抽出する機能と、抽出された抽出領域から、画像処理によって虫に関する情報を解析する機能と、抽出された虫に関する情報に基づいて、虫かどうかの判別を行う機能と、虫と判別された抽出領域の数を計数する機能と、計数された結果を虫の数として出力する機能とをコンピュータに実現させることができる。これにより、取得された対象画像中に含まれる虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
【0026】
さらにまた第17の側面に係るコンピュータで読み取り可能な記録媒体は、前記プログラムを格納したものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blu−ray、HD DVD(AOD)等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、前記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録媒体にはプログラムを記録可能な機器、例えば前記プログラムがソフトウエアやファームウエア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウエアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。
【図面の簡単な説明】
【0027】
【図1】本発明の実施の形態に係る虫の画像処理装置を示すブロック図である。
【図2】変形例に係る虫の画像処理装置を示すブロック図である。
【図3】他の変形例に係る虫の画像処理装置を示すブロック図である。
【図4】虫の判別を行う手順を示すフローチャートである。
【図5】80×80画素で撮像されたトマトハモグリバエの画像を示すイメージ図である。
【図6】粘着シートを撮像した対象画像の例を示す。
【図7】抽出した4個の特徴量の抽出結果を画像化した例を示すイメージ図である。
【図8】合成画像を示すイメージ図である。
【図9】図8の合成画像に対して分布を求めた結果を示すイメージ図である。
【図10】図8の合成画像に対して抽出処理を行った位置を示すイメージ図である。
【図11】6mの距離で撮像した合成画像を示すイメージ図である。
【図12】計測結果を数値で示したグラフである。
【図13】コナジラミを識別する手順を示すフローチャートである。
【図14】対象画像中に取得画像の小領域を設定する様子を示す模式図である。
【図15】図14からコナジラミ候補領域を抽出した状態を示す模式図である。
【図16】図15から面積によるノイズ除去を行った状態を示す模式図である。
【図17】画像に対してテンプレートマッチングを行う様子を示す模式図である。
【図18】テンプレート画像の拡大画像を示すイメージ図である。
【図19】テンプレートマッチングによる得点付けを示すグラフである。
【図20】縦横比による得点付けを示すグラフである。
【図21】図21(a)は縦方向のエッジフィルタ、図21(b)に示す横方向のエッジフィルタを示す模式図である。
【図22】図22(a)は埋もれる前のコナジラミの輝度画像、図22(b)はエッジ方向を示す模式図である。
【図23】図23(a)は埋もれた後のコナジラミの輝度画像、図23(b)はエッジ方向を示す模式図である。
【図24】領域画像を示す模式図である。
【図25】図24の領域画像の重心の方向を示す模式図である。
【図26】図26(a)は埋もれる前のコナジラミ、図26(b)は埋もれた後のコナジラミの、方向差の平均値による得点付けを示すグラフである。
【図27】標準偏差による得点付けを示すグラフである。
【図28】クワシロカイガラムシを識別する手順を示すフローチャートである。
【図29】取得画像を示すイメージ図である。
【図30】図29の取得画像に対して得られたクワシロカイガラムシの候補部分の画像を示すイメージ図である。
【図31】図29の取得画像に対して得られた背景部分を示すイメージ図である。
【図32】図29の取得画像に対して小領域を設定する様子を示すイメージ図である。
【図33】図29の取得画像に対してクワシロカイガラムシの候補を抽出した画像を示すイメージ図である。
【図34】図33から面積による除去を行った結果を示すイメージ図である。
【図35】図35(a)は色相値、図35(b)は色相、図35(c)は変更後の色相値を示すイメージ図である。
【図36】画像部分に対して外接四角形を取る様子を示すイメージ図である。
【図37】クワシロカイガラムシの画像部分に対して外接四角形を設定する様子を示すイメージ図である。
【図38】ノイズの画像部分に対して外接四角形を設定する様子を示すイメージ図である。
【図39】画像部分の姿勢を考慮せず外接四角形を設定する様子を示すイメージ図である。
【図40】画像部分の姿勢を考慮して外接四角形を設定する様子を示すイメージ図である。
【図41】図40の画像部分に長軸と短軸を設定する様子を示すイメージ図である。
【図42】図42(a)は円状のノイズ、図42(b)は紐状のノイズを示すイメージ図である。
【図43】回転後の座標を回転前の座標に対応させる状態を示すイメージ図である。
【図44】3次補間法の概念を示す模式図である。
【図45】3次元多項式近似の概念を示すイメージ図である。
【図46】回転前の取得画像を示すイメージ図である。
【図47】図46の取得画像に対して回転、拡大を行った状態を示すイメージ図である。
【図48】回転、拡大画像を並べた状態を示すイメージ図である。
【図49】回転、拡大領域を抽出した画像を示すイメージ図である。
【図50】図50(a)はクワシロカイガラムシが色鮮やかな画像、図50(b)は一部が黒ずんだ状態、図50(c)は全体が黒ずんだ状態を示すイメージ図である。
【図51】図51(a)は図50(a)、図51(b)は図50(b)、図51(c)は図50(c)に対し、候補領域を分類する様子を示すイメージ図である。
【図52】図50のクワシロカイガラムシの各分類の特徴量を示すイメージ図である。
【図53】テンプレートマッチングを説明する模式図である。
【図54】テンプレート画像を示すイメージ図である。
【図55】テンプレートマッチングによる得点付けを示すグラフである。
【図56】モーメント特徴で楕円を描いた状態を示すイメージ図である。
【図57】図56に対し長さの比較を行った状態を示すイメージ図である。
【図58】距離差による得点付けを示すグラフである。
【図59】標準偏差による得点付けを示すグラフである。
【図60】囲み度による得点付けを示すグラフである。
【図61】体度による得点付けを示すグラフである。
【図62】色彩度による得点付けを示すグラフである。
【図63】従来の画像処理計数装置を示す斜視図である。
【図64】図63の画像処理計数装置で使用する閾値を示す表である。
【図65】図63の画像処理計数装置で使用する閾値を示す表である。
【発明を実施するための形態】
【0028】
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を例示するものであって、本発明は虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体を以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
【0029】
本発明の実施例において使用される虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS−232xやRS−422、RS−423、RS−485、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.1x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体とは、虫の画像処理装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた画像処理システムも含む意味で使用する。
【0030】
また、本明細書において虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体は、画像処理を行うシステムそのもの、ならびに画像処理に関連する入出力、表示、演算、通信その他の処理をハードウエア的に行う装置や方法に限定するものではない。ソフトウエア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウエアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで画像生成そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末、携帯型電子機器その他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウエア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。
(虫の画像処理装置)
【0031】
図1に、虫の画像処理装置100のブロック図を示す。この図に示す虫の画像処理装置100は、画像メモリ2と、演算部10と、記憶部20と、表示部30と、操作部40とを備える。この虫の画像処理装置100は、撮像手段1と接続されており、撮像手段1で撮像された対象画像を画像メモリ2に取り込む。画像メモリ2に取り込まれた対象画像は、演算部10で処理されて虫の計数や種別の認識を行い、その結果を表示部30に表示させる。
(演算部10)
【0032】
また演算部10は、画像抽出手段11と、情報解析手段12と、判別手段13と、計数手段15の機能を実現する。画像抽出手段11は、画像メモリ2に取り込まれた対象画像から、虫に該当する画像を抽出量域として選択し、抽出する。また情報解析手段12は、画像抽出手段11で抽出された抽出領域から、画像処理によって虫に関する情報を解析する。さらに判別手段13は、虫に関する情報に基づいて、虫かどうかの判別を行う。加えて計数手段15は、判別手段13で虫と判別された抽出領域の数を計数して、出力手段に対して出力する。
【0033】
情報解析手段12は、例えば対象画像中から、粘着シートの背景部分を除去し、取得される各物体の整形、分離を行い、その大きさ及び形状に基づいて判定手段が虫の判定を行う。この際、粘着シートは、黄色又は青色とすることが好ましい。このようにビニールハウス内で使用されることの少ない色を用いることで、画像処理で背景の除去を容易に行える。また情報解析手段12は、抽出領域を画像処理して、例えば虫の手足と胴に分離し、分離された手足と胴の比率でもって虫か否かを判別できる。あるいは、虫の全体長、胴体、手足、周囲長のいずれかを特徴量とすることもできる。この場合、情報解析手段12を、対象画像から、画像処理により判定対象の特徴量を抽出する特徴量抽出手段とすることもできる。
【0034】
また判別手段13は、虫の計数を行う他、虫の種別の認識を行う種別認識手段14を備えることもできる。虫の種別認識は、認識対象の虫毎に特徴量を記録した特徴量データベースを参照して行う。なお、虫の種別認識や計数においては、リアルタイム処理でなく、一旦取り込んだ対象画像データを解析するオフライン解析とすることで、必要な処理能力を低減できる。さらに情報解析手段12は、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行う等、対象に応じて解析方法を変更してもよい。
(記憶部20)
【0035】
記憶部20は、必要な情報や設定内容、データベース等を保存する。例えばハードディスクやSSD等の固定記憶装置が利用できる。特に、特徴量データベースを保持したデータベース保持手段として機能させることができる。
(表示部30)
【0036】
表示部30は、演算部10による処理結果を外部に出力するための出力手段の一形態として機能する。ここでは表示部30として、CRTや液晶、有機EL等を用いたモニタやディスプレイが好適に利用できる。特に、虫の画像処理装置100として、コンピュータに虫の画像処理プログラムをインストールした形態を利用する場合は、コンピュータのモニタを表示部30として利用できる。また、出力手段は表示部30に限られず、例えば処理結果をデータとして外部に出力する形態も利用できる。
(操作部40)
【0037】
また操作部40は、虫の画像処理装置100に対する操作を行う部材であり、キーボードやコンソール、マウス等のポインティングデバイス等が好適に利用できる。また、表示部30としてタッチパネルを用いる場合は、表示部と操作部とを共通とできる。
(画像取得手段)
【0038】
画像取得手段は、虫を含む可能性のある対象画像を取得するための手段である。図1の例では、画像取得手段として、画像を撮像するためのCCDやC−MOS等の撮像素子を利用している。具体的には、ネットワークカメラやデジタルカメラ、携帯電話等の撮像手段1、あるいはスキャナ等の走査手段が利用できる。
【0039】
また、撮像済みの対象画像を取得する構成とすることもできる。例えば、図2の変形例に示す虫の画像処理装置200のように、画像取得手段1B側にデータ通信機能を備えることで、遠隔時でネットワークカメラやデジタルカメラ、携帯電話等の撮像手段、あるいはスキャナ等の走査手段で撮像した画像を、端末TMを介してネットワーク接続した画像取得手段で取り込む構成としてもよい。特にネットワーク接続を利用することで、各生産農家からの画像データを一箇所に集中させて判定を行い、その結果を各生産農家にフィードバックすることができ、各生産農家に個別に虫の画像処理装置を設置することなく、対象画像の送受信が可能な環境を整えるのみで導入できる利点が得られる。
【0040】
あるいは、図3の変形例に示す虫の画像処理装置300のように、対象画像の画像データを記録したUSBメモリ等の半導体メモリやCD−ROM等の記録媒体MDを介して、対象画像を取り込む構成とすることもできる。
(スキャナによる画像取得)
【0041】
スキャナを用いて粘着シート画像を取得する場合は、スキャナの解像度を1200dpi等の高解像度に設定する。また標準の明るさでは虫領域を写せない可能性があるため、やや低めの明るさに設定し画像の取得を行う。なお、画像サイズに応じて対象画像を分割することもできる。例えば粘着シートの大きさがおよそ10cm×20cmである場合、画像の大きさが約4800×9600画素となり大きすぎて処理が困難になることから、画像を16分割している。後述するクワシロカイガラムシの認識では、このようなスキャナによる画像の取得を行った。
【0042】
一般に、撮像する対象画像の解像度が高い程、認識が正確に行える反面、データ量が増大する。一方、低解像度とすると、データ処理や通信が軽負荷となる反面、精度が低下する。よって、求められる精度や処理能力、コスト等に応じて適切な解像度が選択される。また、後述の通り解像度に応じて認識に用いる画像処理方法も適宜変更できる。
【0043】
この虫の画像処理装置は、微小病害虫の発生状況をカメラ映像によってモニタリングするシステムに利用できる。これにより、取得された対象画像中に含まれる害虫の種別や数等の情報を自動的に取得でき、従来熟練ユーザが目視で行っていた作業を自動化でき、また判定の基準を一定化できるといった利点が得られる。
(虫の判別方法)
【0044】
以下、この虫の画像処理装置を用いて虫の判別を行う手順について、図4のフローチャートに基づいて説明する。ここでは、実施例1として、トマトの害虫であるトマトハモグリバエを抽出対象とした例について説明する。
(実施例1:トマトハモグリバエ)
【0045】
トマトハモグリバエは体長1〜2mmで、平成11年に日本で確認され、西日本を中心に生息域を拡大しており、現在では全国38都府県に生息している。主にトマトに対する害虫であり、トマトの葉に卵を産み付け、蛹が孵化すると幼虫が葉を食べ荒らす。別名葉食い虫とも呼ばれ、葉を食い荒らし、トマトの木を弱らせてしまう。またトマト以外にも広範囲な農作物に害を及ぼす。また一方で、トマトハモグリバエの生物農薬はイサエアヒメコバチとなる。イサエアヒメコバチはトマトの葉に産み付けられたトマトハモグリバエの卵に寄生行為を行い産卵する。イサエアヒメコバチの卵はトマトハモグリバエの卵を栄養分として成長するため、トマトハモグリバエを駆除することができる。
【0046】
このような生物農薬(益虫)を有効的に活用するためには、病害虫が多く発生しているときに効率よく投入することが必要となるが、その投入タイミングの見極めが難しく、現在は熟練した人間が目で確認、判断していた。また広大でかつ数多くのビニールハウスを所有する大規模農家等ではすべて人手で観察するのは多くの労力を必要とする。また農業従事者の高齢化も大きな問題となっており、ひとつひとつ観察することが非常に困難になってきている。そこで、これを自動化又は支援するために、上記虫の画像処理装置を用いる。
【0047】
ここでは、予め、各生産農家のビニールハウス内に粘着シートを設置し、この粘着シートに付着した体長1mm程度の害虫を撮像するために、ネットワークカメラを設置しておく。粘着テープは、粘着性を持つ黄色のプレートである。トマトハモグリバエは黄色に敏感に反応する性質を持っているため、シート表面に粘着性物質を塗装しておくことで容易に捕獲できる。これを利用し、粘着シートを撮影した対象画像を解析して、粘着シート上に付着したトマトハモグリバエの数を計数することで、生物農薬の投入タイミングを見極めることが可能となる。
(ステップS4001:対象画像の取得)
【0048】
まず図4のステップS4001において、対象画像の取得を行う。ここでは、ネットワーク接続されたネットワークカメラで対象画像を撮像し、画像取得手段がデータ通信によって画像データを受信する。
【0049】
この例では、パン、チルト、ズーム機能を持つ市販のWEBカメラ等のネットワークカメラを用いて対象画像を取得している。各生産農家のビニールハウス内に一以上の粘着シートを設置すると共に、各粘着シートの画像を撮像する。ここでは、ネットワークカメラをパン、チルトさせることで、ビニールハウス内から自動的に粘着シートを探索する。そして粘着シートを発見すると、これにズームインして、粘着シートを分割しながら画像を取得していく。ここでは少しでも解像度の高い画像を取得するために、粘着シートの全体を一枚で撮像するのでなく、ズーム機能を用いて粘着シート画像を分割しながら取得した上で、合成画像を取得する。取得された画像は順次送出され、最終的に取得された画像を合成することで、1枚の対象画像を復元する。なお、画像の合成は、虫の画像処理装置の演算手段で行う他、画像取得手段で取り込む前に、撮像手段1側で合成し、合成後の画像を取得するように構成してもよい。ここでは、撮像手段で画像合成処理を行う方法について説明する。
(粘着シートの探索)
【0050】
具体的な手順を説明すると、まず取得された対象画像中から粘着シートを探索する。図7に粘着シートを撮像した対象画像の例を示す。ここでは、粘着シートが黄色に着色されているため、対象画像中に黄色領域があるかどうかの判定を行う。この処理ではHSV色空間を用い、所定の範囲内の色相と彩度(Hue:44−71、ただしSaturation:0−52を除去)をもつ画素を抽出する。このパラメータは、粘着シートの黄色領域に相当する。
【0051】
黄色領域が無い場合は、ネットワークカメラをパン及びチルトさせて対象画像を再取得する。ここではネットワークカメラを、ひし形を描くように移動させて、対象画像の取得と黄色領域の判定を繰り返す。この処理を繰り返しながら、黄色領域が対象画像中に発見できた場合は、黄色領域のみを抽出する。そして黄色領域の面積をカウントし、ある一定画素数以上だと粘着シートであると判定し、探索を終了する。
【0052】
ここで、対象画像中に黄色く変色した葉や、枯れてしまった葉が存在することも考えられる。このように黄色領域が複数存在する場合も、一旦すべての領域を抽出した後、それぞれの領域にて面積のカウントを行い、最大領域に着目する。そしてその最大領域の画素数が閾値以上である場合に、粘着シートであると判定して探索を終了する。
(粘着シート画像の合成)
【0053】
粘着シートが検出された場合、その領域の重心位置が画像の中心となるように、視野の微調整を行う。さらにズーム機能を用いて、ズームインする。さらに、粘着シートの上端部分が画像の上部ぎりぎりに入るようにネットワークカメラを上方向にチルトさせる。そこから下方向に一定間隔でネットワークカメラをチルトさせながら、画像を取得していく。そして粘着シートの下端が検出されれば、画像取得を終了する。
(ステップS4002:虫の候補領域の抽出)
【0054】
次に図4のステップS4002において、得られた合成画像を入力画像として、虫の候補領域を抽出する。詳細な手順については後述する。
(虫の認識と計数)
【0055】
さらにステップS4003において、虫の認識と計数を行う。ここではまず、認識の前処理としてHSV色空間を用いて黄色領域と背景部分を除去する。ここでは認識処理に際して、解像度に応じて2種類の方法を用いている。まず高解像度の場合には、トマトハモグリバエの画像的特徴に着目した認識を行う。一方で低解像度の場合は、テンプレートマッチングにより認識を行う。そして認識結果を統合して計数結果とする。
(特徴量を用いた認識)
【0056】
ここでは、粘着シートとネットワークカメラの距離が近く、詳細な入力画像が得られた場合の認識方法について述べる。まず特徴量を用いた認識を行う。特徴量としては、トマトハモグリバエが、ずんぐりむっくりで、手足が短いハエという特徴に着目して、以下のように定義する。
(a)虫の面積
(b)虫の胴体部分の面積
(c)虫の足と羽部分の面積
(d)虫の周囲長
(e)テンプレートとの類似度
そして各々の特徴量は、抽出された虫領域に対して、以下のとおり算出する。
(a)虫の面積に関しては、抽出された虫領域全体の画素数に着目する。粘着シートの大きさが一定になるようにズームして、画像を取得するため、虫領域の画素数で比較することで大きさを比較できる。
(b)胴体部分の面積に関しては、HSV色空間で色相に着目することで抽出する。これは、手足が領域として細く、胴体部分は分厚いため、色に違いが生じることに着目したものである。
(c)足と羽部分の面積は、(a)全体の面積から(b)胴体部分の面積の差により求める。
(d)周囲長は、切り出し画像に二値化処理を行った後、収縮処理を加えた後、算出する。
(e)類似度は、トマトハモグリバエのサンプル画像をテンプレートとした相関値により算出する。
【0057】
各々の特徴量は、サンプルのトマトハモグリバエより求められた特徴量の値に近い程、高得点になるように正規化する。そして5個の特徴量の値に重要度に応じて、重み付けした上で合計する。そしてその値がある一定以上の場合、その虫がトマトハモグリバエであると判定する。これを全ての抽出されている虫候補領域に対して行い、トマトハモグリバエと判定された数を最終的な計数結果とする。
【0058】
虫の認識のための画像処理方法は、解像度に応じて適切な手法を変更できる。ここでは、対象画像の解像度が高い場合は、特徴量を用いた処理を行い、対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行った。以下、各手法について説明する。
(高解像度画像による認識)
【0059】
まず、高解像度画像を用いた虫の認識について説明する。図5に、高解像度の例として、80×80画素で撮像されたトマトハモグリバエの画像イメージを示す。このような高解像度画像を用いることで、形状や濃淡等がより明確となる。
(特徴量を用いた認識)
【0060】
図6に、抽出した4個の特徴量の抽出結果を画像化した例を示す。この程度の解像度であれば、特徴量を用いた認識が可能である。ここでは、28匹の虫に対して処理を行った。28匹の内訳は、8匹がトマトハモグリバエ、20匹がその他の虫であった。この例では、27匹に対して正しい認識が行えた。トマトハモグリバエのうちの1匹を検出することができなかったが、トマトハモグリバエ以外の虫をトマトハモグリバエとして認識することはなかった。
(テンプレートマッチングによる認識)
【0061】
次に、低解像度の画像に基づく虫の認識処理について説明する。図8の合成画像に対して、虫領域を抽出した画像の例を図10に示す。この画像から詳細な特徴を抽出する操作は困難である。このような場合は、テンプレート画像を用いた相関により認識を行う。
(テンプレート画像)
【0062】
テンプレート画像には、典型的なトマトハモグリバエ4匹分の画像を用いた。ここでは1個のテンプレート画像の大きさは、ここでは21×21画素とした。さらに必要に応じて、各テンプレート画像に対して回転を加える。例えば、各テンプレート画像を0°、90°、180°、270°に回転させて合計16回テンプレートマッチングの結果画像の論理和をとる。そして最大が1.0となるように正規化し、この値をトマトハモグリバエらしさの値とする。さらにここでは1匹ごとにトマトハモグリバエかどうかの判定を行わず、らしさの値の合計値を最終的な計数結果とする。
(低解像度画像による認識)
【0063】
図8に示す合成画像に対して、処理を行った結果の例を図9の分布表示に示す。この図は、各々の棒グラフがテンプレートの相関値の高い場所とその位置を示している。図10の抽出された位置に対応して相関値が高くなっていることが判る。ここでは、トマトハモグリバエは20.569匹と出力された。四捨五入で21匹となり、トマトハモグリバエに詳しい熟練ユーザが目視した場合、23匹中21匹がトマトハモグリバエだと認定していることと比較して、良好な結果が得られた。
(撮像距離)
【0064】
次に、ネットワークカメラから1mおきに設置し、処理結果の変化を調べた例を示す。図11に、6mの距離を隔てて撮像し合成した合成画像の例を示す。図11では背景部分が混入し、かなり小さい画像しか取得できないことが確認できる。この計測結果の例を数値的に表したグラフを図12に示す。図12のグラフ中、検出精度を折れ線、棒グラフは匹数を表している。検出精度は5m、6mで急激に低下していることが確認できる。これは5m、6mでは粘着シートから対象物を抽出できていないことが原因と考えられる。
【0065】
以上のように、病害虫を自動で判別し、その数を計数する虫の画像処理装置によれば、粘着シートに付着したトマトハモグリバエを画像処理により検出し、その数を計数することができる。
(ステップS4004:結果の出力)
【0066】
以上のようにして得られた認識及び計数の結果を出力する(図4のステップS4004)。ここでは、表示部30上に結果を表示させる。また、外部機器にデータを出力することもできる。
(実施例2:コナジラミ)
【0067】
次に、同じくネットワークカメラを用いてコナジラミを識別する方法について、図13のフローチャートに基づいて説明する。コナジラミは、体長1.0〜2.0mmの微小病害虫である。適温では急激に発生する場合があるため、数匹でも発見すると防除を行う必要がある。コナジラミは一様に白色であり、細長い羽を持つ。コナジラミは草花、野菜、花木等多くの植物に被害をもたらし、主に葉裏に寄生して汁を好む。コナジラミの食害を受けた場所は葉緑素が抜け、白いカスリ状となり生育が悪くなる。この症状以外にも、排泄物の上にすす病が発生して葉や果実が黒くなることもある。また、アブラ虫同様にウイルス病を媒介し、被害を助長する。卵、幼虫、蛹、成虫と完全変態し、成長過程により有効な農薬が異なるため防除が難しい。コナジラミは黄色に誘引されるという特徴があるため、粘着シートは黄色の物を使用する。
(ステップS1301:コナジラミの対象画像の取得)
【0068】
まず、図13のステップS1301で対象画像を取得する。この手順は、上述したトマトハモグリバエの対象画像を取得するステップS4001の手順と同様であり、詳細説明を省略する。
(ステップS1302:コナジラミの候補領域の抽出)
【0069】
次に、ステップS1302で対象画像からコナジラミの候補となる候補領域を抽出する。ネットワークカメラより取得した対象画像から粘着シートに付着したコナジラミを検出するには、まず粘着シートに付着した物体のみを抽出する必要がある。そこで、まず背景部分の除去を行う。背景除去を行うにはHSV等の色情報を用いた手法が一般的であるが、得られる画像毎に色合いが一定でない場合があるため安定した検出を行うことが難しい。そこで、比較的ノイズに強い可変閾値による背景除去手法を用いる。
【0070】
図14に対象画像中に取得画像の小領域を設定する様子を示す。まず、図14に示すように取得した対象画像の1つの画素を中心として周囲に小領域を設定し、小領域内の平均輝度と平均彩度を求める。ここでは21×21画素を小領域と設定する。背景のみが存在する小領域の場合、ほぼ同じ明るさや色となるため、中心部の輝度値や彩度値は平均値とほぼ同じになる。しかし、背景以外の物体が存在する領域の場合、背景以外の明るさが存在するため、中心部の輝度と平均輝度値との間には隔たりが生じると考えられる。
【0071】
コナジラミの体は白色をしているため、輝度値の値は高く彩度値の値は低い。しかしながら、コナジラミが粘着物に埋もれた場合、特徴的な白色ではなくなり、やや黒ずんだ色になってしまう。そこで、平均彩度よりも低い彩度値をもつ画素の中で、平均輝度値よりも高い輝度値を持つ領域は、埋もれる前のコナジラミの可能性がある領域として残しておき、平均輝度値よりも低い輝度値を持つ領域は、埋もれた後のコナジラミの可能性がある領域として残し、あまり差の少ない輝度値の画素は背景であると考えられるので除去を行う。埋もれる前のコナジラミ候補領域を赤色、埋もれた後のコナジラミ候補領域を黒色で表示する。図14に示す取得画像に対して得られたクワシロカイガラムシ候補のみを抽出した画像を図15に示す。
(ステップS1303:コナジラミの候補領域の選択)
【0072】
次に、ステップS1302で得られた領域に対して、ステップS1303で大まかにコナジラミらしい領域を選択する。図15に示した画像の結果では、背景部分の除去は行っているが、コナジラミ以外の虫等の不要な部分が存在している。コナジラミは他の虫と比べて比較的小さいので、一定閾値以上の面積を削除することでコナジラミ候補領域のみを抽出することができる。また、黒ずんだコナジラミ候補領域を抽出した際、誤って影の領域を抽出してしまう場合がある。そこで、白いままのコナジラミ候補領域の下部に黒ずんだコナジラミ候補領域が隣接している場合、影の領域であると判断して除去を行う。図15の抽出画像に対して面積や影の除去を行った画像を図16に示す。
(ステップS1304:コナジラミの特徴量の抽出)
【0073】
次にステップS1304では、得られたコナジラミ候補抽出画像から、コナジラミのみを判定するための特徴量を抽出する。
(コナジラミの特徴量)
【0074】
抽出した候補領域からコナジラミのみを判定するための特徴量として、主に形状に着目した3つの特徴量の抽出を行う。
(コナジラミに対するテンプレートマッチング)
【0075】
粘着シートに付着したコナジラミを見ると、ほぼ全てのコナジラミが似た形状で付着していることが判る。そこでテンプレートマッチングを用いた判定を行う。テンプレートマッチングとは、入力画像とテンプレート画像とを重ね合わせることにより比較照合し、両者が一致しているかどうかを判定する処理である。図17にテンプレートマッチングの手法を示す。入力画像f(x,y)からテンプレートt(x,y)の位置を検出する場合、t(x,y)がf(x,y)中の点(u,v)の位置に重なるようにし、t(x,y)とそれと重なる画像の部分パターンとの類似度を測る。位置検出の場合、通常t(x,y)の画像の大きさはf(x,y)に比べて小さい。t(x,y)の定義されていない範囲ではすべてt(x,y)=0と考えると、点(u,v)における類似度m(u,v)は数1によって表現される。類似度m(u,v)は点(u,v)に対象が存在する確からしさを表しており、値が小さいほど対象らしいことを示す。
【0076】
【数1】
【0077】
ここではコナジラミのみを検出するため、あらかじめコナジラミを基に作成した4つのテンプレート画像を用いてマッチングを行う。テンプレート画像の拡大画像を図18に示す。ここで用いたテンプレート画像の実寸サイズは20×20Pixelで、各コナジラミ候補の最小類似度を求める。そして求めた各最小類似度をそのコナジラミ候補の類似度とする。類似度は数1のようにテンプレート画像と入力画像との差であるため、形状が似ているほど0に近づく。そこでテンプレートマッチングによる得点match_pointを図19のように得点付けを行う。match_pointの最大値は100とし、類似度が下がると0に近づく。
(縦横比)
【0078】
コナジラミの特徴として、大きな羽があるという点が挙げられ、画像には全体的に丸い形状であるという特徴がある。そこで、縦横比を用いた判定を行う。領域の高さをHeight、領域の幅をWidthとし、数2により縦横比Ratioを求める。コナジラミは円形に近い特徴であるため、得点Ratio_pointを図20に示すように得点付けを行う。図20のグラフにおいて横軸は縦横比Ratio、縦軸は縦横比による得点Ratio_pointを示している。Ratio_pointの最大値は100とし、縦横比が正方形に近くなる1〜1.5付近で、最大値をとる。
【0079】
【数2】
(方向度)
【0080】
コナジラミの特徴として、中心部付近が白く外周部に近づくほど粘着シートの色に近くなっている。また、黒ずんで埋もれたコナジラミも、中心付近が黒く外周部に近づくほどシートの色に近くなっている。そこで、候補領域の全ての画素に対してエッジの向きを求め、エッジの向きと重心方向との比較による判定を行う。エッジの向きとは、どの方向にエッジが強く出ているかを表したものである。輝度値に対して図21(a)に示す縦方向のエッジフィルタを掛けることによりエッジの縦方向の強さEdge_Hを求め、図21(b)に示す横方向のエッジフィルタを掛けることによりエッジの横方向の強さEdge_Wを求め、数3により、エッジの向きeを求める。エッジの向きは輝度が高い画素から低い画素の方向に向く。そのため、図22(a)に輝度画像で示す埋もれる前のコナジラミは、エッジ方向が図22(b)に示すように重心方向に向く傾向があり、図23(a)に輝度画像で示す埋もれた後のコナジラミは、エッジ方向が図23(b)に示すように重心方向に向く傾向がある。
【0081】
【数3】
(方向度による判定)
【0082】
以上のようにして各画素のエッジの向きを求めた後、方向度による判定を行う。方向度はエッジの向きと重心方向の比較を行う。重心方向は、図24の領域画像の場合、図25に示すように領域の重心に向かう方向となる。エッジ向きと重心の向きの差を求め、向きの差の平均値Ave_Dirと、標準偏差SD_Dirを求める。ここで図26(a)に埋もれる前のコナジラミ、図26(b)に埋もれた後のコナジラミの、方向差の平均値による得点付けのグラフを、また図27に標準偏差による得点付けのグラフを、それぞれ示す。埋もれる前のコナジラミは、エッジの向きと重心の向きが逆方向となるので、Ave_Dirを用いて得点Dir_point1を図26(a)のように得点付けを行う。Dir_point1の最大値は100とし、平均値Ave_Dirが180度付近で最大値をとる。埋もれた後のコナジラミは、エッジの向きと重心の向きが同じ方向となるので、Ave_Dirを用いて得点Dir_point2を図26(b)のように得点付けを行う。Dir_point2の最大値は100とし、平均値Ave_Dirが0度付近で最大値をとる。標準偏差SD_Dirは、向きの差のばらつきに注目し、向きの差がある程度同じような大きさであると考えられるので、得点Dir_point3を図27のように得点付けを行う。Dir_point3の最大値は100とし、標準偏差SD_Dirが0度付近で最大値をとる。そして方向度Dir_pointは、数4により求められる。Dir_pointの最大値は100とし、埋もれる前は角度が180度、埋もれた後は0度付近で、標準偏差が0付近で最大値をとる。
【0083】
【数4】
(コナジラミ度の抽出)
【0084】
次に、上述した3つの特徴量を用いてコナジラミの判定を行う。3つの特徴量のうち、テンプレートマッチングによる得点match_pointはテンプレートと形状を比較しているため信頼性が高い。また、縦横比による得点Ratio_pointは信頼性が高いが、縦横比がコナジラミと似たような虫の場合は単独では有効とはいえない。方向度Dir_pointは、コナジラミが単純な形状なので信頼性が高い。そこで、各特徴量に重み付けをしてコナジラミ度という1つの特徴量にする。コナジラミ度konaji_pointは、数5により求める。このコナジラミ度を用いてコナジラミの判定を行う。
【0085】
【数5】
(コナジラミ度の視覚化、コナジラミ計数)
【0086】
さらにコナジラミ度の高低に応じて、抽出したコナジラミ候補画像に色づけを行い視覚化する。ここでは視覚化は、コナジラミ度に応じて8段階で行う。例えば、カラーの視覚化バーを用いて、左から右にかけて、赤、ピンク、橙、黄、緑、水色、青、藍の8色に分け、バーの左側にいくほどコナジラミ度が高く、右側にいくほどコナジラミ度が低くなるような色分けを行う。これによって、図16等の画像を着色して表示させ、コナジラミ候補抽出画像を視覚的に他と区別しやすくできる。
(コナジラミの計数)
【0087】
次に、視覚化後の画像からコナジラミの計数を行う。ここでは、どのコナジラミ候補がコナジラミか正確に判定する必要はなく、画像内にコナジラミがおおまかに何匹いるかわかる程度でよい。計数式を数6に表す。コナジラミ度が高い赤色のコナジラミ候補は1匹とカウントし、それ以下の場合は、色に応じて0.9匹〜0匹としてカウントを行った。なお、藍色は計数を0としている。
【0088】
【数6】
(ステップS1305:結果の出力)
【0089】
以上のようにして得られたコナジラミの認識及び計数の結果を出力する。このように、微小な病害虫であるコナジラミの計数を自動化することが可能であることが確認された。
(実施例3:クワシロカイガラムシ候補の抽出)
【0090】
さらに実施例3としてクワシロカイガラムシの認識について、説明する。クワシロカイガラムシは体長が非常に小さいため、対象画像を取得する撮像手段1には、ネットワークカメラでなく、粘着シートの表面を走査して読み取るスキャナを用いた。以下、スキャナより得られた対象画像から背景部分を除去し、物体領域のみを抽出し、抽出した候補領域に対して分類を行う手法を、図28のフローチャートに基づいて説明する。
(クワシロカイガラムシ)
【0091】
クワシロカイガラムシは、体長が雄成虫で0.7〜0.9mm、雌成虫で1.1〜1.3mm、幼虫では約0.3mmの微小病害虫である。クワシロカイガラムシの特徴として、雄成虫は橙赤色で羽を持ち、雌は淡黄色〜橙黄色で円形に近い楕円形で、幼虫は淡橙色に近い色で円形に近い楕円をしている。クワシロカイガラムシは茶枝や幹に定着し、口針を挿入して樹液を吸い、茶樹に被害をもたらす。クワシロカイガラムシの食害の被害を受けた枝幹部は弱り、発育不良となり葉の伸びが悪化し、新梢部が枯れてしまう。また、近年ではサクラ、ウメ、モモ等の樹木等にも被害をもたらす。クワシロカイガラムシの発生時期は、5月7月9月の3回にわたって発生し、高温で乾燥していると大量に発生しやすい。またクワシロカイガラムシは、幼虫ふ化期のわずかな期間以外は殻に覆われており、薬剤にかかりにくく農薬では防除しにくい難防病害虫とされている。天敵昆虫はチビトビコバチ、サルメンツヤコバチである。ここでは幼虫のクワシロカイガラムシについて取り扱う。
(ステップS2801:クワシロカイガラムシの対象画像の取得)
【0092】
まず、図28のステップS2801でクワシロカイガラムシの対象画像を取得する。ここでは、クワシロカイガラムシの幼虫は体長0.3mmと非常に小さいため、トマトハモグリバエやコナジラミで用いたネットワークカメラでなく、スキャナを用いて粘着シート画像の走査を行う。ここではスキャナの解像度を1200dipに設定した。
(ステップS2802:クワシロカイガラムシの候補領域の抽出)
【0093】
次に、図28のステップS2802で対象画像からクワシロカイガラムシの候補となる候補領域を抽出する。ここでは、スキャナより取得した対象画像から粘着シートに付着したクワシロカイガラムシを検出するため、粘着シートに付着した物体のみを抽出する必要がある。そこで、まず背景部分の除去を行う。背景除去を行うには上述の通りHSV等の色情報を用いた手法が一般的であるが、得られる画像毎に色合いが一定でない場合があるため安定した検出を行うことが難しい。また、上述した可変閾値による背景除去手法といった方法もあるが、虫以外の領域も多く抽出してしまう場合がある。そこで、ここではHSVの色情報を用いた方法と可変閾値による背景除去手法を組み合わせた手法を用いた。なお、本実施例においては農業試験場やスキャナでの取得前に予め、クワシロカイガラムシの粘着シート上に、ユーザが目視により虫の位置に青色マーカ等で囲んでいる。
【0094】
まず、取得した対象画像に対して、クワシロカイガラムシの候補部分を取得する。候補部分を選択する方法としてHSVの色情報により取得する。取得する範囲は、クワシロカイガラムシの体の色が、時間が経過すると黒ずんでしまうため、時間が経過した虫を抽出するため、選択する画素は赤黄色にやや近い部分と黒い部分を候補部分として選択する。図29に示す取得画像に対して得られたクワシロカイガラムシの候補部分の画像を図30に示す。また、取得した画像に対して背景部分として使用する部分を取得する。これは、前述した画像中に青丸で虫を囲んでいるため、自然界にあまり無い青色部分を除外して背景部分として用いるためである。背景部分として使用する部分は、青く囲んである部分を除いた領域を背景として選択する。取得画像に対して得られた背景部分を図31に示す。
そして、得られた候補部分の1つの画素を中心として、図32に示すように取得した背景部分の周囲に小領域を設定し、小領域内の平均輝度を求める。ここでは51×51画素を小領域と設定する。背景のみが存在する小領域の場合、ほぼ同じ明るさとなるため、中心部の輝度は平均輝度値とほぼ同じになる。しかし、背景以外の物体が存在する領域の場合、背景以外の明るさが存在するため、中心部の輝度と平均輝度値との間には隔たりが生じると考えられる。そこで、平均輝度値よりも小さな輝度を持つ画素は背景以外の物体であると考え残しておき、あまり差の少ない輝度値の画素は背景であると考えられるので除去を行う。図29に示す取得画像に対して得られたクワシロカイガラムシ候補のみを抽出した画像を図33に示す。
(ステップS2803:クワシロカイガラムシの候補領域の選択)
【0095】
次に、図28のステップS2802で得られた領域に対して、ステップS2803で大まかにクワシロカイガラムシらしい領域を選択する。図32に示した画像の結果では、背景部分の除去は行っているが、クワシロカイガラムシ以外の虫や気泡部分等の不要な部分が存在している。そのため、面積や色情報等を比較してクワシロカイガラムシとは明らかに違うものを除去していく。
(面積での選択)
【0096】
背景除去を行った画像に対してラベリングを行い、各物体の面積値を求める。クワシロカイガラムシの大きさは他の虫に比べて小さいので、面積値が大きな物体は他の虫や気泡でありクワシロカイガラムシではないと考えられるので除去し、小さすぎる物体はノイズが検出したと考えられるので除去する。面積による除去を行った結果を、図34に示す。
(HSV平均値での選択)
【0097】
次に、各物体の色の違いに注目するために、各物体のHSVそれぞれの平均値を求める。このとき、色相の平均値を求める際、図35(a)に示すように色相値は0から360の値で表されるが、図35(b)に示すように実際の色相は環状になっているため、赤色の値を基準値(0)とした場合、色相の平均値が実際とは異なった値が求められ、誤って除去してしまう場合がある。そこで、本実施例では図35(c)に示すように、除去した青部分の色相を基準値(0)とすることで、正しい色相の平均値を求めることができる。クワシロカイガラムシの色は赤色や橙色に近いため、色相の平均値が赤色付近以外の物体を除去する。また、黒ずむ前のクワシロカイガラムシは色が付いており、黒ずんだ後も色が着いた部分が残っているため、平均彩度値が低い場合も除去を行う。
(密度での選択)
【0098】
続いて、各物体の形状からある程度の物体を選択していく。気泡の境界部分等のノイズは、細長く曲線になっている場合が多い。そこで各物体の密度を用いた判定を行う。密度の求め方は、図36に示すように物体の外接四角形を取り、物体の高さをheight、物体の幅をwidth、面積をareaとすると、数7によって物体の密度Densityが求まる。
【0099】
【数7】
【0100】
密度Densityは、密になるほど1に近づき、疎になるほど0に近づく。クワシロカイガラムシは図37に示すように密度が密になっており、気泡の境界部分の場合は、図38に示すように疎になっていることが多いことから、密度Densityが0.45以下の場合はノイズと判定し除去する。
(縦横比での選択)
【0101】
クワシロカイガラムシの形状の特徴として、全体的に丸みを帯びており楕円状になっている点が挙げられる。そこで、縦横比を用いた判定を行う。しかし、図39に示すように外接四角形から縦横比を求める方法では、物体が斜め写っている場合に正しい縦横比が取得できず、誤ってクワシロカイガラムシを除去してしまう場合がある。そこで、ここでは図40に示す物体の向きを考慮して外接四角形を取得し、縦横比を取得する。物体の向きの取得方法として、モーメント特徴を用いて向きを求める。画像におけるモーメントは、周りの2次モーメントが最小になる直線が重心を通る条件を満たす。縦の座標i、横の座標j、縦方向と横方向のモーメントをそれぞれp次、q次モーメントとし、数8及び数9によって重心を通る軸の角度が求まる。
【0102】
【数8】
【0103】
【数9】
【0104】
求めた角度から長軸Long_Axisと、短軸Short_Axisを求める。図41に示すように、軸の長さの取得方法は角度θを基準とした外接四角形の長辺と短辺をそれぞれ長軸Long_Axis、短軸Short_Axisとすると、数10によって縦横比Ratioが求まる。クワシロカイガラムシの形状は全体的に丸みを帯びており楕円状になっているため、図42(a)に示すような円に近い物体や図42(b)に示すような細長くなっている物体は、クワシロカイガラムシではないと考えられるので、Ratioが1.2〜2.5の範囲内に無い物体の除去を行う。
【0105】
【数10】
(ステップS2804:画像の拡大・回転・再抽出)
【0106】
次に、図28のステップS2804でクワシロカイガラムシ候補領域を、同じ向きに合わせ鮮明な画像にするために範囲内を回転、拡大する方法について説明する。ここで拡大は取得画像に対して行うため、再抽出する必要がある。
(画像の拡大・回転)
【0107】
抽出したクワシロカイガラムシ候補領域は様々な姿勢を向いているため、そのままでは特徴量を正確に抽出することが困難である。また、抽出したクワシロカイガラムシ候補領域は数十画素の情報しか存在しないため、特徴量を正確に抽出することが難しい。そこで、クワシロカイガラムシ候補領域の向きを一定にし、また鮮明な画像を得るため、クワシロカイガラムシ候補領域に対して、回転とサブピクセル情報を用いた画像の拡大を行う。まず、上記で求めたモーメントによる領域の軸の角度θを用いて、図43に示すように回転後の座標(x,y)を回転前の座標(x’,y’)に戻し対応点の探索を行う必要がある。数11を用いて重心座標(xg,yg)と回転後の座標(x,y)との距離Distを求め、数12を用いて回転後の座標(x,y)の傾きψを求める。そして数13及び数14を用いて回転前の座標回転前の座標(x’,y’)を求める。
【0108】
【数11】
【0109】
【数12】
【0110】
【数13】
【0111】
【数14】
【0112】
対応点を求めたら、拡大画像を作成するために画素の補間を行う。補間の方法として、最近傍法があるが、この手法では補間を行う画素の最も近い画素の濃度値を与えるため、鮮明な画像の補間に適していない。そこで、ここで用いる補間手法として3次補間法を用いて補間を行う。3次補間法は、図44に示すように濃度値を求める座標(x’,y’)の周囲16個の格子点の濃度値を用いて3次式を用いて補間を行う。3次式は、図45に示すように標本化定理で現れる関数sinπx/(πx)の近似式を用いており、理論上は座標(x’,y’)の濃度がほぼ完全に復元が可能である。
【0113】
ここでは、この3次補間により回転前の座標(x’,y’)の濃度値を数15及び数16を用いて3次式による補間を行う。3次補間により、より鮮明なサブピクセル情報が得られ、正確な特徴量の抽出を行うことが可能である。図46に示す拡大・回転を行う前の取得画像に対して回転・拡大を行った画像を図47に示す。
【0114】
【数15】
【0115】
【数16】
(領域の再抽出)
【0116】
作成した回転・拡大画像は取得画像に対して行ったものなので、回転・拡大画像での領域を抽出する必要がある。再抽出は、上述した手法同様と同様に行い領域を再抽出する。このとき、回転・拡大画像は図48に示すように領域を並べて作成しているが、近くに別の領域が存在する場合、誤って抽出されてしまう場合がある。そこでここでは、ラベリングを行った後に各回転・拡大部分の重心部付近のラベル以外は除外することで、不要な領域の削除が可能である。図48の回転・拡大画像の領域を抽出した画像を図49に示す。
(ステップS2805:クワシロカイガラムシの分類)
【0117】
次に図28のステップS2805でクワシロカイガラムシの分類を行う。クワシロカイガラムシは、粘着シートに付着して時間が経過すると体が黒ずんでしまい、図50(a)〜(c)に示すように黒ずんでしまう前と後では特徴が変わってしまう。そこでここでは、クワシロカイガラムシ候補領域を複数の種類に分類する。粘着シートに付着してしばらくの間は、図50(a)に示す本来の色鮮やかなクワシロカイガラムシの特徴がある。そこで、平均輝度値や平均彩度値が高い候補領域は、色鮮やかなクワシロカイガラムシの可能性があると考えられるので、色鮮やかなクワシロカイガラムシ候補領域として分類する。また、ある程度時間が経過すると、図50(b)に示すようにクワシロカイガラムシの体の一部が黒ずんでくるといった特徴が見られる。そこで、平均輝度値や平均彩度値がそれほど高くなく、低い輝度値のみの平均値である平均低輝度値が低い候補領域は、一部分が黒ずんだクワシロカイガラムシの可能性があると考えられるので、一部分が黒ずんだクワシロカイガラムシ候補領域として分類する。また、さらに時間が経過すると、図50(c)に示すようにクワシロカイガラムシの体全体が黒ずんでしまう特徴が見られる。そこで、平均輝度値や平均彩度値が低い候補領域は、全体が黒ずんだクワシロカイガラムシの可能性があると考えられるので、全体が黒ずんだクワシロカイガラムシ候補領域として分類する。分類したクワシロカイガラムシは、図51に示すように、色鮮やかなクワシロカイガラムシ候補領域を緑色、一部分が黒ずんだクワシロカイガラムシ候補領域を赤色、全体が黒ずんだクワシロカイガラムシ候補領域を青色として表示する。
(ステップS2806:クワシロカイガラムシの特徴量の抽出)
【0118】
さらに図28のステップS2806で、クワシロカイガラムシの特徴量の抽出を行う。以下、上述のステップで得られたクワシロカイガラムシ候補抽出画像から、クワシロカイガラムシのみを判定するための特徴量を抽出する手順について説明する。まず、特徴量としてテンプレートマッチングと楕円度について説明する。次に、各分類で行う特徴量を1つずつ説明する。さらに、各特徴量を統合したクワシロ度について説明する。最後にクワシロカイガラムシの計数方法について説明する。
(クワシロカイガラムシの特徴)
【0119】
抽出した候補領域からクワシロカイガラムシのみを判定するための特徴量について説明する。クワシロカイガラムシは上述の通り図28のステップS2805で分類を行ったので、図52(a)〜(c)に示すように2つの共通の特徴量(ここではマッチ度と楕円度)と各分類で違う特徴量1つ(図52(a)に示す色鮮やかな例では囲み度、図52(b)に示す一部が黒い例では体度、図52(c)に示す全体が黒い例では色彩度)の計5種類の特徴量について説明する。
(テンプレートマッチング)
【0120】
粘着シートに付着したクワシロカイガラムシを見ると、ほぼ全てのクワシロカイガラムシが似た形状で付着していることがわかる。そこでテンプレートマッチングを用いた判定を行う。テンプレートマッチングとは、入力画像とテンプレート画像とを重ね合わせることにより比較照合し、両者が一致しているかどうかを判定する処理のことである。図53にテンプレートマッチングの手法を示す。入力画像f(x,y)からテンプレートt(x,y)の位置を検出する場合、t(x,y)がf(x,y)中の点(u,v)の位置に重なるようにし、t(x,y)とそれと重なる画像の部分パターンとの類似度を測る。位置検出の場合、通常t(x,y)の画像の大きさはf(x,y)に比べて小さい。t(x,y)の定義されていない範囲ではすべてt(x,y)=0と考えると、点(u,v)における類似度m(u,v)は数17によって表現される。類似度m(u,v)は点(u,v)に対象が存在する確からしさを表しており、値が小さいほど対象らしいことを示す。
【0121】
【数17】
【0122】
ここではクワシロカイガラムシのみを検出するため、あらかじめ複数のクワシロカイガラムシを基に作成したテンプレート画像を用いてマッチングを行う。図54にテンプレート画像の拡大画像を示す。テンプレート画像の実寸サイズは36×54Pixelであり、形状の若干異なるテンプレート画像を9種類使用する。このテンプレート画像から各クワシロカイガラムシ候補の最小類似度を求める。そして、求めた各最小類似度をそのクワシロカイガラムシ候補の類似度Mとする。類似度Mは数17のようにテンプレート画像と入力画像との濃度値の差であるため形状が似ているほど0に近づく。そこでテンプレートマッチングによる得点match_pointを図55のように得点付けを行う。図55において横軸は類似度M、縦軸はテンプレートマッチングによる得点match_pointを示す。match_pointの最大値は100とし、最大マッチである類似度0で最大値をとる。
(楕円度)
【0123】
クワシロカイガラムシの外形的特徴として、楕円に近い形状であるという点が挙げられる。そこで楕円を用いて外周部の楕円らしさを比較する。楕円度とは、領域がどのぐらい楕円に近い形状なのかを測る特徴量である。まず、領域の外周部と比較を行う楕円を取得するために、モーメント特徴により候補領域の向きや軸を取得する。候補領域は上述の通り同じ向きに合わせているが、画素の細かいズレがあるため再度モーメント特徴により領域の傾き、長軸及び短軸を求める。傾きと軸の長さから、図56に示すように楕円を取得して外周との比較を行う。外周との比較は、図57に示すように重心を基準とした角度が同じ方向の外周と楕円の距離差Diff_distを求める。距離差Diff_distにより、楕円と領域のズレがあるかを求めている。Diff_distを5度の間隔で360度まで求め、各角度の合計距離差Total_dist及び数18より平均距離差Ave_distを求める。また、距離差の標準偏差SD_distを求める。距離差の標準偏差SD_distにより、楕円と外周の急激なズレがあるかを求めている。
【0124】
【数18】
【0125】
求めた平均距離差Ave_dist及び距離差の標準偏差SD_distにより、得点付けを行う。クワシロカイガラムシは楕円に近い形状であるため、平均距離Ave_distによる得点Ave_pointを図58に示すように得点付けを行う。また、クワシロカイガラムシの形状は単純な楕円の形状に近いため、距離差の標準偏差SD_distによる得点SD_pointを図59に示すように得点付けを行う。そしてAve_pointとSD_pointを用いて、数19により楕円度oval_pointを求める。楕円度oval_pointの最高点を100点とし、単純な楕円の形状をしている領域ほど高得点となる。
【0126】
【数19】
(囲み度)
【0127】
色鮮やかなクワシロカイガラムシは、体の中心が外側に比べ色が濃く彩度が高くなっている点が挙げられる。そこで、囲み度を用いた判定を行う。囲み度とは、高彩度値の画素を囲む様に低彩度値が分布しているかを測る特徴量である。候補領域中の高彩度値から得られる重心点を(X,Y)、それ以外の画素から得られる重心点を(x,y)とすると、重心点同士の距離dは数20で表される。クワシロカイガラムシは体の中心に高彩度値の画素があるため、高彩度値の重心点とそれ以外の画素の重心点は一致すると考えられる。距離dを用いて囲み度surround_pointは図60のように得点付けを行う。surround_pointの最大値は100とし、距離dが離れるほど0に近づく。
【0128】
【数20】
(体度)
【0129】
一部分が黒ずんだクワシロカイガラムシ候補領域は、一部分が黒くなっている場合がある。そのため体度を用いた判定を行う。ここで体度とは、低輝度値の画素が1箇所に固まっており体のようになっているかを測る特徴量である。候補領域中の低輝度値のみでの密度B_Densityから体度body_pointを図61に示すように得点付けを行う。body_pointの最大値を100とし、密度B_Densityが低くなるほど0に近づく。
(色彩度)
【0130】
全体が黒ずんだクワシロカイガラムシ候補領域は、本来は色が付いたものが時間の経過で黒ずんだものである。そこで、色情報を用いた色彩度を用いた判定を行う。ここで色彩度とは、色が付いていた部分を用いて図る特徴量である。領域中の高彩度値の平均高彩度値High_Satを求め、色彩度color_pointを図62に示すように得点付けを行う。color_pointの最大値を100とし、色が付いていない領域ほど0に近づく。
(ステップS2807:クワシロ度の抽出)
【0131】
さらに図28のステップS2807で、クワシロ度の抽出を行う。ここでは上述した5つの特徴量を用いてクワシロカイガラムシの判定を行う。3つの特徴量のうち、テンプレートマッチングによる得点match_pointはテンプレートと形状を比較しているため信頼性が高い。また、楕円度による得点oval_pointはクワシロカイガラムシが単純な形状をしているため信頼性が高い。囲み度によるsurround_pointや体度body_pointは、小さなノイズには得られる画素が少ないため単独での信頼性は低い。色彩度color_pointは、ノイズに色が付いている場合があるので単独での信頼性は低い。そこで、各特徴量に重みづけをしてクワシロ度という1つの特徴量にする。クワシロ度kuwashiro_pointは数21により表される。このクワシロ度を用いてクワシロカイガラムシの判定を行う。このとき、楕円度が極端に低い領域は、クワシロカイガラムシではない可能性が非常に高いため、0匹とする。
【0132】
【数21】
(ステップS2808:クワシロ度の視覚化及びクワシロカイガラムシの計数)
【0133】
さらに図28のステップS2808で、クワシロ度の視覚化及びクワシロカイガラムシの計数を行う。ここではクワシロ度の高低に応じて、抽出したクワシロカイガラムシ候補画像に色付けを行い視覚化する。視覚化はクワシロ度に応じて8段階に色分けされた視覚化バーを用いて行う。視覚化バーにおいてバーの左側にいくほどクワシロ度が高く、右側にいくほどクワシロ度が低くなる。
【0134】
次に、視覚化後の画像からクワシロカイガラムシの計数を行う。ここでは、どのクワシロカイガラムシ候補がクワシロカイガラムシかを正確に判定する必要はなく、画像内にクワシロカイガラムシが大まかに何匹いるか判る程度でよい。ここでは計数式を数22に表す。クワシロ度が高い赤色のクワシロカイガラムシ候補は1匹とカウントし、それ以下の場合は、色に応じて0.9匹〜0匹としてカウントを行う。
【0135】
【数22】
(ステップS2809:出力)
【0136】
最後に、得られた結果を出力する。
【0137】
以上の評価方法を用いて、コナジラミとクワシロカイガラムシについて認識を行った結果を、以下説明する。
(実験環境)
【0138】
コナジラミについては、カメラから2メートルの位置に粘着シート(商品名:ホリバー)を設置し、ネットワークカメラから画像取得を行った。白色蛍光灯の下で実験を行い、ネットワークカメラの明るさ、ホワイトバランスは固定した。これは、ズームを繰り返すと画像全体が暗くなり、カメラが自動で明るさやホワイトバランスを変化させるのを防ぐためである。
【0139】
クワシロカイガラムシについては、スキャナを使用しての画像取得を行った。解像度は1200dpiで固定し、画像の明度を−20に固定した。解像度を固定するのは、テンプレートマッチングを行う際に抽出したクワシロカイガラムシの大きさが不安定になるのを防ぐためである。また明度を−20で固定するのは、スキャナの初期の明度ではクワシロカイガラムシが小さすぎるため、取得画像に写らない可能性を防ぐためである。
(実験結果)
【0140】
コナジラミでの実験は、1枚の粘着シートを14枚に分割して撮影した。また、クワシロカイガラムシの実験は、1枚の粘着シートを16枚の画像に分割して撮影した。表1に各粘着シートにおけるコナジラミ計数結果を、表2に各粘着シートにおけるクワシロカイガラムシ計数結果を、それぞれ示す。
【0141】
【表1】
【0142】
【表2】
【0143】
各粘着シートにおいて、目視でコナジラミをカウントしたところ58匹のコナジラミが存在した。上記手法でコナジラミ候補として抽出された総数は145匹で、コナジラミ計数を行った結果は73匹と判定され、良好な結果が得られた。
【0144】
一方、粘着シートにおいて目視でクワシロカイガラムシをカウントしたところ915匹のクワシロカイガラムシが存在した。本手法でクワシロカイガラムシ候補として抽出された総数は861匹であり、クワシロ計数を行った結果クワシロカイガラムシは889匹と判定された。全体の評価としては、抽出率が約95%弱でクワシロ計数がほぼ全体のクワシロカイガラムシ数と同じになっており、優れた結果を示した。
【0145】
以上の通り、取得された対象画像からコナジラミやクワシロカイガラムシを計数することが可能となる。すなわち、取得される画像から粘着シートの背景部分を除去した背景除去画像を作成し、さらに特徴量からコナジラミ度やクワシロ度を抽出することで、画像内に存在するコナジラミやクワシロカイガラムシの匹数計数を自動で行うことができる。このように、虫の画像処理装置を用いることで、害虫を検知し、その発生具合を計数できるので、この情報を利用して、天敵昆虫や農薬等の最適な投入のタイミングを把握することが可能となる。これによって栽培主が従来のように一々目視で粘着シートに付着した害虫を確認する作業が不要となり、負担を大きく軽減できる。この結果、化学農薬に替わる生物農薬の効果的な活用が期待できる。
【産業上の利用可能性】
【0146】
本発明の虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体は、ビニールハウス内でサンプル捕捉した虫の計数や種別の判定、あるいは食品工場や製薬工場における虫の種別判定等の用途に好適に利用できる。
【符号の説明】
【0147】
100、200、300…虫の画像処理装置
1…撮像手段
1B…画像取得手段
2…画像メモリ
10…演算部
11…画像抽出手段
12…情報解析手段
13…判別手段
14…種別認識手段
15…計数手段
20…記憶部
30…表示部
40…操作部
TM…端末
MD…記録媒体
【特許請求の範囲】
【請求項1】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理装置であって、
虫を含む可能性のある対象画像を取得するための画像取得手段と、
前記画像取得手段で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段と、
前記画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段と、
前記情報解析手段で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段と、
前記判別手段で虫と判別された抽出領域の数を計数する計数手段と、
前記計数手段で計数された結果を虫の数として出力するための出力手段と、
を備えることを特徴とする虫の画像処理装置。
【請求項2】
請求項1に記載の虫の画像処理装置であって、さらに、
特徴量データベースを保持したデータベース保持手段を備えており、
前記判別手段が、前記データベース保持手段に保持された特徴量データベースを参照して、特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項3】
請求項1又は2に記載の虫の画像処理装置であって、
前記判別手段が、虫の種別の認識を行うことを特徴とする虫の画像処理装置。
【請求項4】
請求項1から3のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段が、
対象画像の解像度が高い場合は、特徴量を用いた処理を行い、
対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行うことを特徴とする虫の画像処理装置。
【請求項5】
請求項1から4のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段で抽出される特徴が、虫の全体長、胴体、手足、周囲長のいずれかを特徴量として含むことを特徴とする虫の画像処理装置。
【請求項6】
請求項1から5のいずれか一に記載の虫の画像処理装置であって、
前記判別手段が、虫の種別を認識するに際して、同一種類の虫に対して、表面の色が部分的に異なるものを複数に分類すると共に、
該分類された虫の色に応じて、異なる特徴量を付与し、該異なる特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項7】
請求項6に記載の虫の画像処理装置であって、
前記判別手段が、該分類された虫の色に応じて、異なる特徴量を付与する一方で、共通の特徴量を付与し、これら複数の特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項8】
請求項1から7のいずれか一に記載の虫の画像処理装置であって、
認識対象の虫が、アザミウマ、コナジラミ、クワシロカイガラムシのいずれかであることを特徴とする虫の画像処理装置。
【請求項9】
請求項1から8のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、画像を撮像するための撮像素子を含むことを特徴とする虫の画像処理装置。
【請求項10】
請求項1から9のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、ネットワークカメラであることを特徴とする虫の画像処理装置。
【請求項11】
請求項1から9のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、スキャナであることを特徴とする虫の画像処理装置。
【請求項12】
請求項1から11のいずれか一に記載の虫の画像処理装置であって、
対象画像が、粘着シートに粘着された虫の画像であることを特徴とする虫の画像処理装置。
【請求項13】
請求項1から12のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段が、
対象画像中から、粘着シートの背景部分を除去し、
取得される各物体の整形、分離を行い、
その大きさ及び形状に基づいて前記判定手段が虫の判定を行うことを特徴とする虫の画像処理装置。
【請求項14】
請求項1から13のいずれか一に記載の虫の画像処理装置であって、
前記粘着シートが、黄色又は青色であることを特徴とする虫の画像処理装置。
【請求項15】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理方法であって、
虫を含む可能性のある対象画像を取得する工程と、
取得された対象画像から、虫に該当する画像を抽出する工程と、
抽出された抽出領域から、画像処理によって虫に関する情報を解析する工程と、
抽出された虫に関する情報に基づいて、虫かどうかの判別を行う工程と、
虫と判別された抽出領域の数を計数する工程と、
計数された結果を虫の数として出力する工程と、
を含むことを特徴とする虫の画像処理方法。
【請求項16】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理プログラムであって、
虫を含む可能性のある対象画像を取得する機能と、
取得された対象画像から、虫に該当する画像を抽出する機能と、
抽出された抽出領域から、画像処理によって虫に関する情報を解析する機能と、
抽出された虫に関する情報に基づいて、虫かどうかの判別を行う機能と、
虫と判別された抽出領域の数を計数する機能と、
計数された結果を虫の数として出力する機能と、
をコンピュータに実現させることを特徴とする虫の画像処理プログラム。
【請求項17】
請求項16に記載されるプログラムを格納したコンピュータで読み取り可能な記録媒体。
【請求項1】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理装置であって、
虫を含む可能性のある対象画像を取得するための画像取得手段と、
前記画像取得手段で取得された対象画像から、虫に該当する画像を抽出する画像抽出手段と、
前記画像抽出手段で抽出された抽出領域から、画像処理によって虫に関する情報を解析する情報解析手段と、
前記情報解析手段で解析された虫に関する情報に基づいて、虫かどうかの判別を行う判別手段と、
前記判別手段で虫と判別された抽出領域の数を計数する計数手段と、
前記計数手段で計数された結果を虫の数として出力するための出力手段と、
を備えることを特徴とする虫の画像処理装置。
【請求項2】
請求項1に記載の虫の画像処理装置であって、さらに、
特徴量データベースを保持したデータベース保持手段を備えており、
前記判別手段が、前記データベース保持手段に保持された特徴量データベースを参照して、特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項3】
請求項1又は2に記載の虫の画像処理装置であって、
前記判別手段が、虫の種別の認識を行うことを特徴とする虫の画像処理装置。
【請求項4】
請求項1から3のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段が、
対象画像の解像度が高い場合は、特徴量を用いた処理を行い、
対象画像の解像度が低い場合は、テンプレートマッチングを用いた処理を行うことを特徴とする虫の画像処理装置。
【請求項5】
請求項1から4のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段で抽出される特徴が、虫の全体長、胴体、手足、周囲長のいずれかを特徴量として含むことを特徴とする虫の画像処理装置。
【請求項6】
請求項1から5のいずれか一に記載の虫の画像処理装置であって、
前記判別手段が、虫の種別を認識するに際して、同一種類の虫に対して、表面の色が部分的に異なるものを複数に分類すると共に、
該分類された虫の色に応じて、異なる特徴量を付与し、該異なる特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項7】
請求項6に記載の虫の画像処理装置であって、
前記判別手段が、該分類された虫の色に応じて、異なる特徴量を付与する一方で、共通の特徴量を付与し、これら複数の特徴量を用いて判別を行うことを特徴とする虫の画像処理装置。
【請求項8】
請求項1から7のいずれか一に記載の虫の画像処理装置であって、
認識対象の虫が、アザミウマ、コナジラミ、クワシロカイガラムシのいずれかであることを特徴とする虫の画像処理装置。
【請求項9】
請求項1から8のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、画像を撮像するための撮像素子を含むことを特徴とする虫の画像処理装置。
【請求項10】
請求項1から9のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、ネットワークカメラであることを特徴とする虫の画像処理装置。
【請求項11】
請求項1から9のいずれか一に記載の虫の画像処理装置であって、
前記画像取得手段が、スキャナであることを特徴とする虫の画像処理装置。
【請求項12】
請求項1から11のいずれか一に記載の虫の画像処理装置であって、
対象画像が、粘着シートに粘着された虫の画像であることを特徴とする虫の画像処理装置。
【請求項13】
請求項1から12のいずれか一に記載の虫の画像処理装置であって、
前記情報解析手段が、
対象画像中から、粘着シートの背景部分を除去し、
取得される各物体の整形、分離を行い、
その大きさ及び形状に基づいて前記判定手段が虫の判定を行うことを特徴とする虫の画像処理装置。
【請求項14】
請求項1から13のいずれか一に記載の虫の画像処理装置であって、
前記粘着シートが、黄色又は青色であることを特徴とする虫の画像処理装置。
【請求項15】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理方法であって、
虫を含む可能性のある対象画像を取得する工程と、
取得された対象画像から、虫に該当する画像を抽出する工程と、
抽出された抽出領域から、画像処理によって虫に関する情報を解析する工程と、
抽出された虫に関する情報に基づいて、虫かどうかの判別を行う工程と、
虫と判別された抽出領域の数を計数する工程と、
計数された結果を虫の数として出力する工程と、
を含むことを特徴とする虫の画像処理方法。
【請求項16】
撮像された画像中に含まれる虫に関する情報を特定するための画像処理プログラムであって、
虫を含む可能性のある対象画像を取得する機能と、
取得された対象画像から、虫に該当する画像を抽出する機能と、
抽出された抽出領域から、画像処理によって虫に関する情報を解析する機能と、
抽出された虫に関する情報に基づいて、虫かどうかの判別を行う機能と、
虫と判別された抽出領域の数を計数する機能と、
計数された結果を虫の数として出力する機能と、
をコンピュータに実現させることを特徴とする虫の画像処理プログラム。
【請求項17】
請求項16に記載されるプログラムを格納したコンピュータで読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図10】
【図12】
【図13】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図24】
【図25】
【図26】
【図27】
【図28】
【図30】
【図31】
【図33】
【図34】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図53】
【図54】
【図55】
【図58】
【図59】
【図60】
【図61】
【図62】
【図63】
【図64】
【図65】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図14】
【図22】
【図23】
【図29】
【図32】
【図35】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図56】
【図57】
【図2】
【図3】
【図4】
【図10】
【図12】
【図13】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図24】
【図25】
【図26】
【図27】
【図28】
【図30】
【図31】
【図33】
【図34】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図53】
【図54】
【図55】
【図58】
【図59】
【図60】
【図61】
【図62】
【図63】
【図64】
【図65】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図14】
【図22】
【図23】
【図29】
【図32】
【図35】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図56】
【図57】
【公開番号】特開2012−161269(P2012−161269A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−23370(P2011−23370)
【出願日】平成23年2月4日(2011.2.4)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 研究集会名:平成22年度農研機構国際シンポジウム「ここまできた環境保全型害虫防除技術」 主催者名:独立行政法人農業・食品産業技術総合研究機構 近畿中国四国農業研究センター 開催年月日:2010年8月5日〜6日 〔刊行物等〕 発行者:社団法人日本植物防疫協会 刊行物名:「植物防疫」2011 1 VOL.65 発行年月日:平成23年1月1日
【出願人】(304020292)国立大学法人徳島大学 (307)
【出願人】(592197108)徳島県 (30)
【Fターム(参考)】
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願日】平成23年2月4日(2011.2.4)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 研究集会名:平成22年度農研機構国際シンポジウム「ここまできた環境保全型害虫防除技術」 主催者名:独立行政法人農業・食品産業技術総合研究機構 近畿中国四国農業研究センター 開催年月日:2010年8月5日〜6日 〔刊行物等〕 発行者:社団法人日本植物防疫協会 刊行物名:「植物防疫」2011 1 VOL.65 発行年月日:平成23年1月1日
【出願人】(304020292)国立大学法人徳島大学 (307)
【出願人】(592197108)徳島県 (30)
【Fターム(参考)】
[ Back to top ]