質感定量化装置及び質感定量化方法
【課題】 質感の定量化を結合変換相関演算(JTC)で実現する。
【解決手段】 質感定量化装置1は、レーザー光を出力するレーザ・ダイオード2と、対物レンズ3と、レーザー光を点光源とするピンホール部4と、波面位相の揃った平行光線とするコリメートレンズ5と、偏光子6と、ハーフミラー7と、検索ヒストグラム及び参照ヒストグラムとが並置された像を入力しこの像に基づいて空間光変調を行い、光像を生成する光像生成装置である空間光変調器8と、空間光変調器8からの光像をハーフミラー7、偏光子9を介して受け光学的にフーリエ変換して、フーリエ変換光像を形成するフーリエ変換レンズ10と、フーリエ変換レンズ10からのフーリエ変換光像を画像として検出するCMOSカメラ11と、を有する光演算相関部12と、相互相関スポットの強度に基づいて、検索ヒストグラムと参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部13とを備える。
【解決手段】 質感定量化装置1は、レーザー光を出力するレーザ・ダイオード2と、対物レンズ3と、レーザー光を点光源とするピンホール部4と、波面位相の揃った平行光線とするコリメートレンズ5と、偏光子6と、ハーフミラー7と、検索ヒストグラム及び参照ヒストグラムとが並置された像を入力しこの像に基づいて空間光変調を行い、光像を生成する光像生成装置である空間光変調器8と、空間光変調器8からの光像をハーフミラー7、偏光子9を介して受け光学的にフーリエ変換して、フーリエ変換光像を形成するフーリエ変換レンズ10と、フーリエ変換レンズ10からのフーリエ変換光像を画像として検出するCMOSカメラ11と、を有する光演算相関部12と、相互相関スポットの強度に基づいて、検索ヒストグラムと参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部13とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体表面の粗さ、光沢などに着目して、物体表面の質感を定量化する質感定量化装置及び質感定量化方法に関するものである。
【背景技術】
【0002】
物体表面の粗さを測定する装置は種々提案されている。例えば、プローブを用いるフーリエ変換による表面測定方法(特許文献1)、受光装置を用いた鋼材の表面状態表示装置(特許文献2)、センサを用いたフーリエ変換による磁気テープなど面形状計測装置(特許文献3)、反射光を受光するヒストグラムによる帯状鋼板表面検査装置(特許文献4)、カメラを利用するヒストグラムによる塗膜層表面検査装置(特許文献5)、磁気記録媒体の表面粗さ解析装置(特許文献6)などがある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開昭51−149052号公報
【特許文献2】特開昭52−49856号公報
【特許文献3】特開昭59−168305号公報
【特許文献4】特開昭59−180346号公報
【特許文献5】特開昭62−12806号公報
【特許文献6】特開平9−79839号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の発明は、単に物体表面の粗さを測定するだけであり、光沢などの質感を定量化することが不可能であり、多面的な表面の解析が困難であった。
【0005】
本発明は、以上の問題点を解決するためになされたものであり、物体表面の粗さ、光沢などの質感を定量化することを目的とする。
【課題を解決するための手段】
【0006】
最近のロボットマーケットの発展にともない、人間と同様のロボットのための視覚プロセスシステムが研究されてきている。人の視覚認識は、リアルタイム処理と高精度認識からなる。リアルタイム処理は視覚で認識したデータと、参照データとを照合することで、物体の種類等を認識する。従来の方法では視覚的に目的物を識別するのに時間がかかるため、人のようなリアルタイム処理を行うためには、高速の画像識別の手法が必要とされている。高速の画像識別方法として、イメージマッチングによって、高速で、画像を識別することのできる、光学相関装置が多くの注目を集めている。光学相関装置を用いた画像識別は、計算機よりも演算速度が速く高速な画像識別が可能である。
【0007】
光学相関装置を利用した画像識別の研究の多くは、指紋認証システム、顔認証システム、軍事追尾システムのために使用される形状識別に焦点を合わせていた。しかし、識別精度が低いという問題があり、人のように高精度に認識するためには、形状に加えて他の要素を加味する必要がある。画像は形状以外にも色彩、質感のような多くの情報を有しており、このような情報が視覚処理システムには重要である。形状、色彩、質感等によって高精度認識が可能となる。本発明は、そのうちの質感に関する識別技術発明である。ここで、質感とは物体表面の光学的作用である反射、透過、拡散に起因するものである。反射による物体の光沢(例えば、ダイヤモンド)、透過による物体の透明感(例えば、ガラス)、拡散によるざらざら感、やわらかさ(やすり、布)等を高精度認識するものである。
【0008】
そこで、本発明の質感定量化装置は、結合変換相関法(JTC)を使用し、デジタルカメラ等の撮像装置により撮像された表面の画像が輝度ヒストグラムに変換され、このヒストグラムが、JTCの空間光変調器の上に表示され、円滑又は粗い表面などの種々の質感は、輝度ヒストグラムの形状を使用して定量化され、類似した参照の輝度ヒストグラムが選択される。このような結果から、質感の定量化がJTCを利用して実現したものである。
【0009】
すなわち、請求項1に係る発明は、光源からの光を変調する空間光変調器と、前記空間光変調器からの変調光を受けフーリエ変換を行うフーリエ変換レンズと、前記フーリエ変換レンズからの光像を撮像するカメラと、を備え、前記空間光変調器に入力される入力画像の結合変換相関演算を行い、出力画像を生成する光演算相関部と、前記入力画像を、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置したものとして設定し、前記入力画像を前記空間光変調器に出力し、前記結合変換相関演算によって得られた自己相関スポットと相互相関スポットを含む出力画像を前記カメラから取得し、前記相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部と、を備えたことを特徴とする。
【0010】
請求項2に係る発明は、前記入力画像を入力した前記空間光変調器により第1変調光を生成し、前記フーリエ変換レンズにより前記第1変調光のフーリエ変換を行って第1光像を生成し、前記第1光像を前記カメラで撮像して一次変換画像とし、前記空間光変調器に前記一次変換画像を出力し、前記空間光変調器で前記一次変換画像によって変調された第2変調光を生成し、前記フーリエ変換レンズにより前記第2変調光のフーリエ変換を行って第2光像を生成し、前記第2光像を前記カメラで撮像して前記出力画像とすることを特徴とする。
【0011】
請求項3に係る発明は、前記光相関演算部は、第1空間光変調器と、前記第1空間光変調器からの第1変調光を受けフーリエ変換を行い第1光像を生成する第1フーリエ変換レンズと、前記第1フーリエ変換レンズからの第1光像を撮像し一次変換画像を生成する第1カメラと、前記第1カメラからの一次変換画像を入力し第2変調光を生成する第2空間光変調器と、該第2空間光変調器からの第2変調光を受けフーリエ変換を行い第2光像を生成する第2フーリエ変換レンズと、前記第2フーリエ変換レンズからの第2光像を撮像し前記出力画像を生成する第2カメラと、を備えたことを特徴とする。
【0012】
請求項4に係る発明は、輝度ヒストグラムとして設定され質感の定量化の対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され予め作成された参照ヒストグラムとが並置された入力画像を、空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第1光像を形成し、前記第1光像を撮像し一次変換画像を生成する第1相関演算ステップと、前記第1相関演算ステップで撮像された一次変換画像を空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第2光像を形成し、前記第2光像を撮像し、自己相関スポットと相互相関スポットを含む出力画像とする第2相関演算ステップと、前記出力画像の相互相関スポットの光学的な強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化ステップと、を備えたことを特徴とする。
上記した質感定量化装置及び質感定量化方法の具体的態様においては、定量化したい対象物の表層の撮像により画像を得て、輝度に関してヒストグラム化し、検索ヒストグラムを作成する。また一方、照合するためのデータベースとして参照ヒストグラムを予め設定しておく。そして、これらの検索ヒストグラム及び参照ヒストグラムとが並置された検索画像を用い結合変換相関演算器による光学的な相関演算を行い得られた相互相関スポットの強度から質感の類似性を判断している。このような構成によれば、質感に着目した質感検索を、充分な精度で、かつ高速に実行することが可能となる。
【0013】
質感を示す輝度ヒストグラムについては、具体的には、横軸が輝度、縦軸が画素数である質感図上での質感分布を用いることができる。具体的には、画像上での強度分布(濃淡)を閾値で2値化してもよいし、あるいは、強度分布を線画化(輪郭化)したものでもよい。
【発明の効果】
【0014】
請求項1の質感定量化装置、請求項4の質感定量化方法によれば、結合変換相関演算器を用いて、輝度ヒストグラムの形状に基づいて質感を識別するので、十分な精度で、かつ高速に実行することが可能となる。また、表面粗さや光沢などの解析が容易になる。
【0015】
請求項2の質感定量化装置によれば、結合変換相関演算を同じ空間光変調器、同じフーリエ変換器を使用して行うので、光学系を小型化できる。
【0016】
請求項3の質感定量化装置によれば、結合変換相関演算を別々の空間光変調器、フーリエ変換レンズを使用して行うので、相関演算処理時間を一層高速化できる。
【図面の簡単な説明】
【0017】
【図1】本発明実施形態1の構成を概略的に示すブロック図である。
【図2】(a)は輝度ヒストグラム、(b)はその歪み度と光沢との関係を示す説明図である。
【図3】歪み度を示す説明図である。
【図4】(a)は光沢を変化させたときのヒストグラム、(b)は光沢を変化させたときの歪度の変化を示す図である。
【図5】(a)は光沢を変化させたときの輝度ヒストグラムと光沢の撮像画像、(b)は粗さ変化させたときの輝度ヒストグラムと表面粗さの撮像画像である。
【図6】結合変換相関演算器の技術原理を示す説明図である。
【図7】質感識別方法を示す説明図である。
【図8】実験とシミュレーションを示す対比説明図である。
【図9】実験結果とシミュレーション結果(光沢の識別)を示すグラフである。
【図10】図9のフィッテイング直線(光沢の識別)を示すグラフである。
【図11】実験結果とシミュレーション結果(粗さの識別)を示すグラフである。
【図12】図10のフィッテイング曲線(粗さの識別)を示すグラフである。
【図13】結合変換相関演算器とパソコンソフトウェアによる演算時間の比較を示すグラフである。
【図14】実施形態2の構成を概略的に示すブロック図である。
【発明を実施するための形態】
【0018】
以下、本発明による質感定量化装置及び質感定量化方法の好適な実施形態について図面を参照して詳細に説明する。
【0019】
質感定量化装置1は、図1に示す通り、レーザー光を出力するレーザ・ダイオード2(ここでは、波長が532nm)と、倍率40倍の対物レンズ3と、レーザー光を点光源とするピンホール部4と、波面位相の揃った平行光線とするコリメートレンズ5(ここでは焦点距離f=80mm)と、偏光子6と、ハーフミラー7と、後述する質感定量化部13から、検索ヒストグラム、及び、参照ヒストグラムとが並置された入力画像を入力し、これに基づいて空間光変調を行い、光像を生成する光像生成装置である空間光変調器8と、空間光変調器8からの変調光をハーフミラー7、偏光子9を介して受け光学的にフーリエ変換して、フーリエ変換された光像を形成するフーリエ変換レンズ10(ここでは焦点距離f=170mm)と、フーリエ変換レンズ10からの光像を出力画像として撮像するCMOSカメラ11(CCDカメラでもよい)と、を有する光演算相関器として構成された光演算相関部12を備えている。また、質感定量化装置1は、ディジタル処理部として構成され、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置した入力画像を生成し、そして、検索ヒストグラムを複数の参照ヒストグラムと照合し検索する質感定量化部13を有し構成されている。空間光変調器8はここでは液晶型空間光変調器である。質感定量化部13に対しては、空間光変調器8は入力画面として機能し、CMOSカメラ11は出力画面として機能する。
【0020】
質感定量化部13は、具体的には、例えば、画像検索処理等の各種の処理を実行するCPUと、処理動作に必要な各ソフトウェアプログラム等が記憶されるROMと、参照ヒストグラムに用いられる内部メモリまたは外部記憶装置などの記憶装置とを有して構成され、入力装置、表示装置、及び外部I/F等が接続される。入力装置は、質感定量化装置1における画像検索処理等の処理動作に必要な入力に用いられる入力手段である。このような入力装置としては、例えばキーボード、マウス、あるいは各種のボタン、スイッチなどが挙げられる。表示装置は、例えば液晶ディスプレイ等によって構成され、必要に応じて、画像検索処理に必要なデータや質感の表示、及び得られた画像検索結果の表示などに用いられる。
【0021】
光演算相関部12において、図1に示す通り、コヒーレントな光源であるレーザ・ダイオード2から532nm波長の光が出され、これが、対物レンズ3、ピンホール部4を通過し、コリメートレンズ5によりコリメートされる。このコリメートされた光は偏光子6、ハーフミラー7を通過する。空間光変調器8は、空間光変調器8の中心部からX方向に距離±dで参照ヒストグラム(図6では参照像bと記載)と検索ヒストグラム(図6では検索像aと記載)とを入力画像として表示する。ハーフミラー7を通過した光は、空間変調器8で反射される際に、入力画像に応じて変調される。そして、空間光変調器8で変調された変調光は、ハーフミラー7、偏光子9を経て、フーリエ変換レンズ10に至り、ここでフーリエ変換されて、第1光像を生成し、CMOSカメラ11で一次変換画像(干渉縞)として撮像され、この一次変換画像は質感定量化部13へ送信される。
【0022】
つぎに、図1、図6に示す通り、質感定量化部13から一次変換画像が空間光変調器8へ入力され、空間光変調器8上に入力画像として表示され、フーリエ変換レンズ10で2回目のフーリエ変換を行い第2光像を生成し、CMOSカメラ11で出力画像として撮像され、この出力画像は質感定量化部13へ送信される。参照ヒストグラム及び検索ヒストグラムの相関は、CMOSカメラ9の中央部からX方向に距離±2dの点における、光学強度の関数として規定される。このようにして、輝度ヒストグラムとして設定された参照ヒストグラム及び検索ヒストグラムを利用して質感を認識する。ここで、光演算相関部12は、光アナログ演算で画像間の相関(類似度)を求める装置で、光学系の小型化が必要であり、VLC(マッチドフィルタ)とJTC(結合変換相関)とが考えられる。VLCは高速演算が可能であるが、光学調整の精度が必要であり、空間光変調器が2つ必要であり、光学系が大型化する。JTCは光学調整が容易であり、空間光変調器1つでも構成が可能であるので、光学系を小型化できる。このため、本実施形態においては、JTC方式を採用している。光演算相関部12は、1個の空間光変調器8と、1個のフーリエ変換レンズ10と、1個のカメラ11を備えるので、光学系を小型化できる。
【0023】
この質感識別方法は質感情報を形状情報として抽出することに特徴がある。輝度ヒストグラムの形状に光沢情報を含んでいる。図2(a)に示す通り、輝度ヒストグラムは二次元画像であり、y軸が画素数、x軸が輝度(濃度)である。図2(b)に示す通り、黒画面に描かれた山の歪み度が光沢に関係する。この歪み度は画素数の分布の左右対称性を示す尺度である。光沢がない場合、歪み度は0.4、光沢がある場合には歪み度は1.4である。歪み度が正に大きいほど光沢が増加する傾向にある。図3(a)に示す通り、左に裾が長い分布は歪み度が負であり、図3(b)に示す通り、正規分布(左右対称)では歪み度は0であり、図3(c)に示す通り、右に裾が長い分布は歪み度が正である。図4(a)は横軸が諧調(輝度)、縦軸が画素数であり、%は光沢の程度を示すものである(0%は光沢なし、100%は光沢度が高い)。ただし、図4(b)(光沢含有面積の割合(%)と歪み度との関係を示す)し示す通り、光沢の減少とともに、歪み度は単純には減少しないので、歪み度の値だけで光沢の度合いを判断することができない。輝度ヒストグラムの上部突起の形状等、他の形状要素も補足することにより、光沢の度合いを決定できる。
【0024】
図5(a)に示す通り、光沢の変化に応じて、輝度ヒストグラムの形状が変化する。0%が光沢なしで、100%が光沢の大きいものであり、その中間である25%、50%、75%は光沢の程度を示すものである。光沢の識別には、表面が凹凸になった黒色の紙に光沢仕上げ塗料を塗ったものの表面画像を使用した。一方、図5(b)に示す通り、粗さ(ざらざら感)の変化に応じても、輝度ヒストグラムの形状(裾の幅など)が変化する。粗さの識別には相違する粗さのサンド布の表面画像を使用した。サンド布の表面には研磨粒子が存在する。
【0025】
図5(b)において、単位面積当たりの研磨粒子の数(粒子個数/cm2)は、それぞれ、40、60、80、150、240、400であり、数値が大きいほど表面状態は滑らかであり、数値が少ないほど表面状態は粗くなる。
【0026】
つぎに光演算相関部12で行われる検索ヒストグラムaと参照ヒストグラムbの相互相関演算を説明する。図6に示す通り、空間光変調器8の入力画面において、検索ヒストグラムa(x,y)と、参照ヒストグラムb(x,y)とが間隔dを置いて併置され、焦点距離fを置いてフーリエ変換レンズ10が配置され、フーリエ変換レンズ10から焦点距離fを置いてCMOSカメラ11の出力画面が配置される。入力画面の検索像と参照像は出力画面では干渉縞(一次変換画像)として出現する。つぎに、この干渉縞が、前記の入力画面に入力され、フーリエ変換レンズ10でフーリエ変換されると、出力画面の中央に自己相関スポット、その左右に間隔2dを置いて相互相関スポットが表われ、これが出力画像となる。
【0027】
図7に示す通り、輝度ヒストグラムの形状の類似度は相互相関スポットの光沢的な強度に依存する。このような理由から相互相関スポットにおける光学強度は質感の類似性と等価である。図8に示すものは、図6に示す干渉縞(一次変換画像)を実験とシミュレーション(FFT計算)で求めてみた結果である。
【0028】
図9に光演算相関部12による実験と計算機によるシミュレーションを行って光沢の識別を行った場合の結果を示す。ここでは検索ヒストグラムとして100%(最も光沢のあるもの)を用い、この検索ヒストグラムと、100%、75%、50%、25%、0%の参照ヒストグラムとを相関演算した。参照ヒストグラムと検索ヒストグラムに同じヒストグラムを使用した場合の相互相関スポットの光学強度を100%として正規化した。実験とシミュレーションのいずれの場合にも、光沢を減少させてゆくと、光沢の類似性は低下することが分かった。実験は光演算相関部12を用い、シミュレーションはソフトウェアで行うことで、相互相関スポットの光学強度を計算した。この結果、実験、シミュレーションのいずれでも、光沢の識別を輝度ヒストグラムの形状により行うことができた。図10に示す通り、横軸を光沢を含む面積の割合(%)、縦軸を類似度とし、線形近似を用いてフィッテイング(光沢の識別)を行った。実験ではy=0.92x+1.49、シミュレーションではy=0.91x+5.82の一次関数となり、実験とシミュレーションの間の一次関数の比例定数割合は、0.91/0.92×100=99%であり、比例定数の差は1%である。
【0029】
図11に、光演算相関部12による実験と計算機によるシミュレーションを行って粗さの識別を行った場合の結果を示す。ここでは検索ヒストグラムとして40個/cm2(最も粗いもの)を用い、この検索ヒストグラムと、40,60、80、150、240、400個/cm2の参照ヒストグラムとを相関演算した。参照ヒストグラムと検索ヒストグラムに同じヒストグラムを使用した場合の相互相関スポットの光学強度を100%として正規化した。実験とシミュレーションのいずれの場合にも、表面が滑らかになると、粗さの類似性は低下することが分かった。シミュレーションはソフトウェアで行うことで、相互相関スポットの光学強度を計算した。この結果、実験、シミュレーションのいずれでも、粗さの識別を輝度ヒストグラムの形状により行うことができた。図12に示す通り、横軸を単位面積あたりの研磨粒子の数(個/cm2)、縦軸を類似度となる累乗近似を用いてフィッテイング(粗さの識別)を行った。実験ではy=3743X-0.98、シミュレーションではy=3115X-0.92の指数関数となった。実験とシミュレーションの指数関数の比例定数割合は、3115/3743×100=83%であり、比例定数の差は約17%であり、実験とシミュレーションの指数関数の指数値割合は、0.92/0.98×100=94%で、指数値の差は約6%である。
【0030】
図13に示す通り、実験の場合、光演算相関部12を用いているので、演算時間は画像サイズにかかわらず一定であるが、シミュレーションの場合、計算機を用いているので、演算時間は画像サイズが大きくなるにつれて増大する。したがって、画像サイズが大きい場合、結合変換相関演算器である光演算相関部12を用いる方が演算時間は短くなる。
【0031】
ところで、図2(a)で説明した輝度ヒストグラムについては、まず、検索対象物の表層を撮像装置(カメラ、スキャナなど)により撮像し輝度ヒストグラムを生成し質感定量化部13に記録する。輝度ヒストグラムの作成には、各種の手法がある。例えば、2値化では、輝度ヒストグラムの下側を白(「0」)にして、上側を黒(「1」)にした2値化処理、あるいは、エッジ化では、曲線を線描画で描き(「1」)、それ以外を「0」とする処理も可能である。また、一方、参照ヒストグラムは、光沢、表面粗さに応じて、予め作成した複数の輝度ヒストグラムをメモリに記憶しデータベース化し、質感定量化部13に記録しておく。
【0032】
また、JTC法により光演算された出力画像では、JTC法により、図7に示す通り、相互相関スポットが両サイドに分かれて出現し、真中には自己相関スポットが出現する。このパターンを検出することによって、相関値の高低を判断している。
【0033】
ここで、自己相関スポットと相互相関スポットを得るためのJTC法を用いた光相関演算と等価な計算式を簡単に説明しておく。参照ヒストグラムと検索ヒストグラムをa(x,y)、b(x,y)とし、これらのヒストグラムをそれぞれ+d、−dだけ離して並置したものを入力画像f(x,y)とする。x,yは座標である。この入力画像f(x,y)は、下記の式(1)
数1: f(x、y)=a(x−d、y)+b(x+d,y)
によって表される。また、入力画像f(x,y)をフーリエ変換した関数をF(Vx,Vy)とすれば、このF(k)は下記の式(2)
【数2】
によって求められる。
【0034】
この関数F(Vx,Vy)に対して、複素共役の関数を利用して|F(Vx,Vy)|2をとり、さらに、これを実空間上のパワースペクトルPに変換すると、以下の式(3)が得られる。
【数3】
ここで、式(3)において、上付き記号★は共役複素数を示す。
【0035】
また、この式(3)の右辺において、第1項、及び第2項は、相関ヒストグラムにおける自己相関スポットに対応している。また、第3項、及び第4項は、自己相関スポットから±2d離れた相互相関スポットにそれぞれ対応している。
式(4)はパワースペクトルPのフーリエ変換を示す。式中*はコンボリューション、上付き★は共役複素数を示す。したがって、式(4)の第3項と第4項はa,bの相関データとなる。自己相関スポットと相互相関スポットを出力画像とする。
【数4】
【0036】
本実施形態で特徴的なことは物体の質感を粗さや光沢等に分けていることである。粗さや光沢等に分けることにより、相関値を取るための分離を行うことができる。光沢は、輝度ヒストグラムの上部の突起、或いは、歪み度など形状のアンバランスの度合い、例えば、明るい方に伸びている程度等の種々の形状要素を識別すると、光沢の程度がわかる。光沢の場合に輝度ヒストグラムの形状を捉えることで、光沢を認識することができる。一方、表面粗さも輝度ヒストグラムの形状(分布の幅等)によって変わる。例えば、分布幅が広がると、表面が粗くなる。こうした輝度ヒストグラムの形状パターンを輝度ヒストグラムの形状に基づいて予め登録しておけば、それとの相関度によって、高速にマッチングさせることができ、光沢量、表面粗さは定量化できる。
【0037】
結合変換相関演算によって、高速に相互相関スポットを演算し、これを質感定量部13で数値化する。数値化をするとデータベース側の方でそれに合っている輝度ヒストグラムが検索できる。
【0038】
質感の類似性は、相互相関スポットの光学的な強度の大小と等価である。値が大きくなっていることは相関性が高いことを示す。例えば、複数の参照ヒストグラムを検索ヒストグラムとの類似度が高い順に並べるなど、画像検索を利用した様々な質感の取得が可能となる。データベースで定量化した参照ヒストグラムのパターンを複数用意しておき、その中で相互相関スポットの光学強度の一番大きなものを検索すればよい。図9〜図12で示すシミュレーションは計算機で同じ演算をソフトウェアによって行い相関値を出したものである。ある意味では、それが真に近いものであり、実験値と近い結果がでている。
【0039】
このように、元画像をそのまま用いるのではなく、それに対応する輝度ヒストグラムを参照するとともに、JTC法による光相関演算を利用して質感の相関度を計測して画像検索を行う構成によれば、質感に着目した画像検索を、充分な精度で、かつ光演算によって高速に実行することが可能となる。
【0040】
また、JTCを用いているので、光学系を小型化できる。例えば、光検出器の画素ピッチは細かいので(1.5μ程度)、レンズのf値を抑えられる。ただし、レーザ・ダイオード2の出力をある程度上げる必要がある。マッチドフィルタではレンズのf値が高く大型化され、光学調整に精度が必要である。
【0041】
つぎに図14を参照して実施形態2の質感定量化装置101を説明する。これは高速で、結合変換相関演算を行うためのパイプライン処理を行う実施形態である。実施形態1と共通する構成については100番台として説明は援用する。偏光子は図示を略する。質感定量化装置101は光演算相関部112と、質感定量化部113とから構成される。図14に示す通り、コヒーレントな光源であるレーザーダイオート102から532nm波長の光が出され、これが、対物レンズ103、ピンホール部104を通過し、コリメートレンズ105によりコリメートされる。このコリメートされた光は、ハーフミラー107a、107bを通過し、空間光変調器108aの中心部からX方向に距離±dで表示された参照ヒストグラムと検索ヒストグラムとを照射する。この表示は質感定量化部113からの電気信号に基づいて行われる。そして、空間光変調器108aで反射された光は、ハーフミラー107bを経て、フーリエ変換レンズ110aに至り、フーリエ変換されて、CMOSカメラ111aで撮像される。光学信号が入力パワースペクトルとしてCMOSカメラ111aで記録され、記録データは、次段の空間光変調器108bへ出力される。また一方、ハーフミラー107aで反射された光はハーフミラー107c、107dを経て空間光変調器108bに送られる。そして、空間光変調器108bからの光はハーフミラー107dを経て、フーリエ変換レンズ110bに至り、2回目のフーリエ変換がされて、CMOSカメラ111bで撮像される。入力パワースペクトルとしてCMOSカメラ111bで撮像され、画像は、質感定量部113へ送信される。参照ヒストグラム及び検索ヒストグラムの相関性は、CMOSカメラ111bの中央部からX方向に距離±2dの点における、光学強度の関数として規定される。このようなパイプライン処理により実施形態1よりも装置は大型化するものの、実施形態1よりも高速な結合変換相関演算が可能となる。
【0042】
なお、本発明は、上記の実施形態に何ら限定されるものではなく、本発明の技術的思想を逸脱しない範囲において、種々の改変等の実施形態を採り得る。たとえば、本実施形態では、光の反射による物体の光沢(例えば、ダイヤモンド)、光の拡散によるざらざら感、やわらかさ(やすり、布)等を高精度で認識するものであるが、これに限られずに、光の透過による物体の透明感(例えば、ガラス)等の各種の質感も対象とすることができる。
【産業上の利用可能性】
【0043】
本発明は、結合変換相関演算を用いて表面粗さ、光沢などを高速で高精度に定量化するので、ロボットなどに利用可能である。
【符号の説明】
【0044】
1,101…質感定量化装置
2,102…レーザ・ダイオード
3,103…対物レンズ
4,104…ピンホール部
5,105…コリメートレンズ
6…偏光子
7,107a、107b,107c,107d…ハーフミラー
8,108a…空間光変調器
9…偏光子
10,110a,110b…フーリエ変換レンズ
11,111a,111b…CMOSカメラ
12,112…光演算相関部
13,113…質感定量化部
【技術分野】
【0001】
本発明は、物体表面の粗さ、光沢などに着目して、物体表面の質感を定量化する質感定量化装置及び質感定量化方法に関するものである。
【背景技術】
【0002】
物体表面の粗さを測定する装置は種々提案されている。例えば、プローブを用いるフーリエ変換による表面測定方法(特許文献1)、受光装置を用いた鋼材の表面状態表示装置(特許文献2)、センサを用いたフーリエ変換による磁気テープなど面形状計測装置(特許文献3)、反射光を受光するヒストグラムによる帯状鋼板表面検査装置(特許文献4)、カメラを利用するヒストグラムによる塗膜層表面検査装置(特許文献5)、磁気記録媒体の表面粗さ解析装置(特許文献6)などがある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開昭51−149052号公報
【特許文献2】特開昭52−49856号公報
【特許文献3】特開昭59−168305号公報
【特許文献4】特開昭59−180346号公報
【特許文献5】特開昭62−12806号公報
【特許文献6】特開平9−79839号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の発明は、単に物体表面の粗さを測定するだけであり、光沢などの質感を定量化することが不可能であり、多面的な表面の解析が困難であった。
【0005】
本発明は、以上の問題点を解決するためになされたものであり、物体表面の粗さ、光沢などの質感を定量化することを目的とする。
【課題を解決するための手段】
【0006】
最近のロボットマーケットの発展にともない、人間と同様のロボットのための視覚プロセスシステムが研究されてきている。人の視覚認識は、リアルタイム処理と高精度認識からなる。リアルタイム処理は視覚で認識したデータと、参照データとを照合することで、物体の種類等を認識する。従来の方法では視覚的に目的物を識別するのに時間がかかるため、人のようなリアルタイム処理を行うためには、高速の画像識別の手法が必要とされている。高速の画像識別方法として、イメージマッチングによって、高速で、画像を識別することのできる、光学相関装置が多くの注目を集めている。光学相関装置を用いた画像識別は、計算機よりも演算速度が速く高速な画像識別が可能である。
【0007】
光学相関装置を利用した画像識別の研究の多くは、指紋認証システム、顔認証システム、軍事追尾システムのために使用される形状識別に焦点を合わせていた。しかし、識別精度が低いという問題があり、人のように高精度に認識するためには、形状に加えて他の要素を加味する必要がある。画像は形状以外にも色彩、質感のような多くの情報を有しており、このような情報が視覚処理システムには重要である。形状、色彩、質感等によって高精度認識が可能となる。本発明は、そのうちの質感に関する識別技術発明である。ここで、質感とは物体表面の光学的作用である反射、透過、拡散に起因するものである。反射による物体の光沢(例えば、ダイヤモンド)、透過による物体の透明感(例えば、ガラス)、拡散によるざらざら感、やわらかさ(やすり、布)等を高精度認識するものである。
【0008】
そこで、本発明の質感定量化装置は、結合変換相関法(JTC)を使用し、デジタルカメラ等の撮像装置により撮像された表面の画像が輝度ヒストグラムに変換され、このヒストグラムが、JTCの空間光変調器の上に表示され、円滑又は粗い表面などの種々の質感は、輝度ヒストグラムの形状を使用して定量化され、類似した参照の輝度ヒストグラムが選択される。このような結果から、質感の定量化がJTCを利用して実現したものである。
【0009】
すなわち、請求項1に係る発明は、光源からの光を変調する空間光変調器と、前記空間光変調器からの変調光を受けフーリエ変換を行うフーリエ変換レンズと、前記フーリエ変換レンズからの光像を撮像するカメラと、を備え、前記空間光変調器に入力される入力画像の結合変換相関演算を行い、出力画像を生成する光演算相関部と、前記入力画像を、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置したものとして設定し、前記入力画像を前記空間光変調器に出力し、前記結合変換相関演算によって得られた自己相関スポットと相互相関スポットを含む出力画像を前記カメラから取得し、前記相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部と、を備えたことを特徴とする。
【0010】
請求項2に係る発明は、前記入力画像を入力した前記空間光変調器により第1変調光を生成し、前記フーリエ変換レンズにより前記第1変調光のフーリエ変換を行って第1光像を生成し、前記第1光像を前記カメラで撮像して一次変換画像とし、前記空間光変調器に前記一次変換画像を出力し、前記空間光変調器で前記一次変換画像によって変調された第2変調光を生成し、前記フーリエ変換レンズにより前記第2変調光のフーリエ変換を行って第2光像を生成し、前記第2光像を前記カメラで撮像して前記出力画像とすることを特徴とする。
【0011】
請求項3に係る発明は、前記光相関演算部は、第1空間光変調器と、前記第1空間光変調器からの第1変調光を受けフーリエ変換を行い第1光像を生成する第1フーリエ変換レンズと、前記第1フーリエ変換レンズからの第1光像を撮像し一次変換画像を生成する第1カメラと、前記第1カメラからの一次変換画像を入力し第2変調光を生成する第2空間光変調器と、該第2空間光変調器からの第2変調光を受けフーリエ変換を行い第2光像を生成する第2フーリエ変換レンズと、前記第2フーリエ変換レンズからの第2光像を撮像し前記出力画像を生成する第2カメラと、を備えたことを特徴とする。
【0012】
請求項4に係る発明は、輝度ヒストグラムとして設定され質感の定量化の対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され予め作成された参照ヒストグラムとが並置された入力画像を、空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第1光像を形成し、前記第1光像を撮像し一次変換画像を生成する第1相関演算ステップと、前記第1相関演算ステップで撮像された一次変換画像を空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第2光像を形成し、前記第2光像を撮像し、自己相関スポットと相互相関スポットを含む出力画像とする第2相関演算ステップと、前記出力画像の相互相関スポットの光学的な強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化ステップと、を備えたことを特徴とする。
上記した質感定量化装置及び質感定量化方法の具体的態様においては、定量化したい対象物の表層の撮像により画像を得て、輝度に関してヒストグラム化し、検索ヒストグラムを作成する。また一方、照合するためのデータベースとして参照ヒストグラムを予め設定しておく。そして、これらの検索ヒストグラム及び参照ヒストグラムとが並置された検索画像を用い結合変換相関演算器による光学的な相関演算を行い得られた相互相関スポットの強度から質感の類似性を判断している。このような構成によれば、質感に着目した質感検索を、充分な精度で、かつ高速に実行することが可能となる。
【0013】
質感を示す輝度ヒストグラムについては、具体的には、横軸が輝度、縦軸が画素数である質感図上での質感分布を用いることができる。具体的には、画像上での強度分布(濃淡)を閾値で2値化してもよいし、あるいは、強度分布を線画化(輪郭化)したものでもよい。
【発明の効果】
【0014】
請求項1の質感定量化装置、請求項4の質感定量化方法によれば、結合変換相関演算器を用いて、輝度ヒストグラムの形状に基づいて質感を識別するので、十分な精度で、かつ高速に実行することが可能となる。また、表面粗さや光沢などの解析が容易になる。
【0015】
請求項2の質感定量化装置によれば、結合変換相関演算を同じ空間光変調器、同じフーリエ変換器を使用して行うので、光学系を小型化できる。
【0016】
請求項3の質感定量化装置によれば、結合変換相関演算を別々の空間光変調器、フーリエ変換レンズを使用して行うので、相関演算処理時間を一層高速化できる。
【図面の簡単な説明】
【0017】
【図1】本発明実施形態1の構成を概略的に示すブロック図である。
【図2】(a)は輝度ヒストグラム、(b)はその歪み度と光沢との関係を示す説明図である。
【図3】歪み度を示す説明図である。
【図4】(a)は光沢を変化させたときのヒストグラム、(b)は光沢を変化させたときの歪度の変化を示す図である。
【図5】(a)は光沢を変化させたときの輝度ヒストグラムと光沢の撮像画像、(b)は粗さ変化させたときの輝度ヒストグラムと表面粗さの撮像画像である。
【図6】結合変換相関演算器の技術原理を示す説明図である。
【図7】質感識別方法を示す説明図である。
【図8】実験とシミュレーションを示す対比説明図である。
【図9】実験結果とシミュレーション結果(光沢の識別)を示すグラフである。
【図10】図9のフィッテイング直線(光沢の識別)を示すグラフである。
【図11】実験結果とシミュレーション結果(粗さの識別)を示すグラフである。
【図12】図10のフィッテイング曲線(粗さの識別)を示すグラフである。
【図13】結合変換相関演算器とパソコンソフトウェアによる演算時間の比較を示すグラフである。
【図14】実施形態2の構成を概略的に示すブロック図である。
【発明を実施するための形態】
【0018】
以下、本発明による質感定量化装置及び質感定量化方法の好適な実施形態について図面を参照して詳細に説明する。
【0019】
質感定量化装置1は、図1に示す通り、レーザー光を出力するレーザ・ダイオード2(ここでは、波長が532nm)と、倍率40倍の対物レンズ3と、レーザー光を点光源とするピンホール部4と、波面位相の揃った平行光線とするコリメートレンズ5(ここでは焦点距離f=80mm)と、偏光子6と、ハーフミラー7と、後述する質感定量化部13から、検索ヒストグラム、及び、参照ヒストグラムとが並置された入力画像を入力し、これに基づいて空間光変調を行い、光像を生成する光像生成装置である空間光変調器8と、空間光変調器8からの変調光をハーフミラー7、偏光子9を介して受け光学的にフーリエ変換して、フーリエ変換された光像を形成するフーリエ変換レンズ10(ここでは焦点距離f=170mm)と、フーリエ変換レンズ10からの光像を出力画像として撮像するCMOSカメラ11(CCDカメラでもよい)と、を有する光演算相関器として構成された光演算相関部12を備えている。また、質感定量化装置1は、ディジタル処理部として構成され、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置した入力画像を生成し、そして、検索ヒストグラムを複数の参照ヒストグラムと照合し検索する質感定量化部13を有し構成されている。空間光変調器8はここでは液晶型空間光変調器である。質感定量化部13に対しては、空間光変調器8は入力画面として機能し、CMOSカメラ11は出力画面として機能する。
【0020】
質感定量化部13は、具体的には、例えば、画像検索処理等の各種の処理を実行するCPUと、処理動作に必要な各ソフトウェアプログラム等が記憶されるROMと、参照ヒストグラムに用いられる内部メモリまたは外部記憶装置などの記憶装置とを有して構成され、入力装置、表示装置、及び外部I/F等が接続される。入力装置は、質感定量化装置1における画像検索処理等の処理動作に必要な入力に用いられる入力手段である。このような入力装置としては、例えばキーボード、マウス、あるいは各種のボタン、スイッチなどが挙げられる。表示装置は、例えば液晶ディスプレイ等によって構成され、必要に応じて、画像検索処理に必要なデータや質感の表示、及び得られた画像検索結果の表示などに用いられる。
【0021】
光演算相関部12において、図1に示す通り、コヒーレントな光源であるレーザ・ダイオード2から532nm波長の光が出され、これが、対物レンズ3、ピンホール部4を通過し、コリメートレンズ5によりコリメートされる。このコリメートされた光は偏光子6、ハーフミラー7を通過する。空間光変調器8は、空間光変調器8の中心部からX方向に距離±dで参照ヒストグラム(図6では参照像bと記載)と検索ヒストグラム(図6では検索像aと記載)とを入力画像として表示する。ハーフミラー7を通過した光は、空間変調器8で反射される際に、入力画像に応じて変調される。そして、空間光変調器8で変調された変調光は、ハーフミラー7、偏光子9を経て、フーリエ変換レンズ10に至り、ここでフーリエ変換されて、第1光像を生成し、CMOSカメラ11で一次変換画像(干渉縞)として撮像され、この一次変換画像は質感定量化部13へ送信される。
【0022】
つぎに、図1、図6に示す通り、質感定量化部13から一次変換画像が空間光変調器8へ入力され、空間光変調器8上に入力画像として表示され、フーリエ変換レンズ10で2回目のフーリエ変換を行い第2光像を生成し、CMOSカメラ11で出力画像として撮像され、この出力画像は質感定量化部13へ送信される。参照ヒストグラム及び検索ヒストグラムの相関は、CMOSカメラ9の中央部からX方向に距離±2dの点における、光学強度の関数として規定される。このようにして、輝度ヒストグラムとして設定された参照ヒストグラム及び検索ヒストグラムを利用して質感を認識する。ここで、光演算相関部12は、光アナログ演算で画像間の相関(類似度)を求める装置で、光学系の小型化が必要であり、VLC(マッチドフィルタ)とJTC(結合変換相関)とが考えられる。VLCは高速演算が可能であるが、光学調整の精度が必要であり、空間光変調器が2つ必要であり、光学系が大型化する。JTCは光学調整が容易であり、空間光変調器1つでも構成が可能であるので、光学系を小型化できる。このため、本実施形態においては、JTC方式を採用している。光演算相関部12は、1個の空間光変調器8と、1個のフーリエ変換レンズ10と、1個のカメラ11を備えるので、光学系を小型化できる。
【0023】
この質感識別方法は質感情報を形状情報として抽出することに特徴がある。輝度ヒストグラムの形状に光沢情報を含んでいる。図2(a)に示す通り、輝度ヒストグラムは二次元画像であり、y軸が画素数、x軸が輝度(濃度)である。図2(b)に示す通り、黒画面に描かれた山の歪み度が光沢に関係する。この歪み度は画素数の分布の左右対称性を示す尺度である。光沢がない場合、歪み度は0.4、光沢がある場合には歪み度は1.4である。歪み度が正に大きいほど光沢が増加する傾向にある。図3(a)に示す通り、左に裾が長い分布は歪み度が負であり、図3(b)に示す通り、正規分布(左右対称)では歪み度は0であり、図3(c)に示す通り、右に裾が長い分布は歪み度が正である。図4(a)は横軸が諧調(輝度)、縦軸が画素数であり、%は光沢の程度を示すものである(0%は光沢なし、100%は光沢度が高い)。ただし、図4(b)(光沢含有面積の割合(%)と歪み度との関係を示す)し示す通り、光沢の減少とともに、歪み度は単純には減少しないので、歪み度の値だけで光沢の度合いを判断することができない。輝度ヒストグラムの上部突起の形状等、他の形状要素も補足することにより、光沢の度合いを決定できる。
【0024】
図5(a)に示す通り、光沢の変化に応じて、輝度ヒストグラムの形状が変化する。0%が光沢なしで、100%が光沢の大きいものであり、その中間である25%、50%、75%は光沢の程度を示すものである。光沢の識別には、表面が凹凸になった黒色の紙に光沢仕上げ塗料を塗ったものの表面画像を使用した。一方、図5(b)に示す通り、粗さ(ざらざら感)の変化に応じても、輝度ヒストグラムの形状(裾の幅など)が変化する。粗さの識別には相違する粗さのサンド布の表面画像を使用した。サンド布の表面には研磨粒子が存在する。
【0025】
図5(b)において、単位面積当たりの研磨粒子の数(粒子個数/cm2)は、それぞれ、40、60、80、150、240、400であり、数値が大きいほど表面状態は滑らかであり、数値が少ないほど表面状態は粗くなる。
【0026】
つぎに光演算相関部12で行われる検索ヒストグラムaと参照ヒストグラムbの相互相関演算を説明する。図6に示す通り、空間光変調器8の入力画面において、検索ヒストグラムa(x,y)と、参照ヒストグラムb(x,y)とが間隔dを置いて併置され、焦点距離fを置いてフーリエ変換レンズ10が配置され、フーリエ変換レンズ10から焦点距離fを置いてCMOSカメラ11の出力画面が配置される。入力画面の検索像と参照像は出力画面では干渉縞(一次変換画像)として出現する。つぎに、この干渉縞が、前記の入力画面に入力され、フーリエ変換レンズ10でフーリエ変換されると、出力画面の中央に自己相関スポット、その左右に間隔2dを置いて相互相関スポットが表われ、これが出力画像となる。
【0027】
図7に示す通り、輝度ヒストグラムの形状の類似度は相互相関スポットの光沢的な強度に依存する。このような理由から相互相関スポットにおける光学強度は質感の類似性と等価である。図8に示すものは、図6に示す干渉縞(一次変換画像)を実験とシミュレーション(FFT計算)で求めてみた結果である。
【0028】
図9に光演算相関部12による実験と計算機によるシミュレーションを行って光沢の識別を行った場合の結果を示す。ここでは検索ヒストグラムとして100%(最も光沢のあるもの)を用い、この検索ヒストグラムと、100%、75%、50%、25%、0%の参照ヒストグラムとを相関演算した。参照ヒストグラムと検索ヒストグラムに同じヒストグラムを使用した場合の相互相関スポットの光学強度を100%として正規化した。実験とシミュレーションのいずれの場合にも、光沢を減少させてゆくと、光沢の類似性は低下することが分かった。実験は光演算相関部12を用い、シミュレーションはソフトウェアで行うことで、相互相関スポットの光学強度を計算した。この結果、実験、シミュレーションのいずれでも、光沢の識別を輝度ヒストグラムの形状により行うことができた。図10に示す通り、横軸を光沢を含む面積の割合(%)、縦軸を類似度とし、線形近似を用いてフィッテイング(光沢の識別)を行った。実験ではy=0.92x+1.49、シミュレーションではy=0.91x+5.82の一次関数となり、実験とシミュレーションの間の一次関数の比例定数割合は、0.91/0.92×100=99%であり、比例定数の差は1%である。
【0029】
図11に、光演算相関部12による実験と計算機によるシミュレーションを行って粗さの識別を行った場合の結果を示す。ここでは検索ヒストグラムとして40個/cm2(最も粗いもの)を用い、この検索ヒストグラムと、40,60、80、150、240、400個/cm2の参照ヒストグラムとを相関演算した。参照ヒストグラムと検索ヒストグラムに同じヒストグラムを使用した場合の相互相関スポットの光学強度を100%として正規化した。実験とシミュレーションのいずれの場合にも、表面が滑らかになると、粗さの類似性は低下することが分かった。シミュレーションはソフトウェアで行うことで、相互相関スポットの光学強度を計算した。この結果、実験、シミュレーションのいずれでも、粗さの識別を輝度ヒストグラムの形状により行うことができた。図12に示す通り、横軸を単位面積あたりの研磨粒子の数(個/cm2)、縦軸を類似度となる累乗近似を用いてフィッテイング(粗さの識別)を行った。実験ではy=3743X-0.98、シミュレーションではy=3115X-0.92の指数関数となった。実験とシミュレーションの指数関数の比例定数割合は、3115/3743×100=83%であり、比例定数の差は約17%であり、実験とシミュレーションの指数関数の指数値割合は、0.92/0.98×100=94%で、指数値の差は約6%である。
【0030】
図13に示す通り、実験の場合、光演算相関部12を用いているので、演算時間は画像サイズにかかわらず一定であるが、シミュレーションの場合、計算機を用いているので、演算時間は画像サイズが大きくなるにつれて増大する。したがって、画像サイズが大きい場合、結合変換相関演算器である光演算相関部12を用いる方が演算時間は短くなる。
【0031】
ところで、図2(a)で説明した輝度ヒストグラムについては、まず、検索対象物の表層を撮像装置(カメラ、スキャナなど)により撮像し輝度ヒストグラムを生成し質感定量化部13に記録する。輝度ヒストグラムの作成には、各種の手法がある。例えば、2値化では、輝度ヒストグラムの下側を白(「0」)にして、上側を黒(「1」)にした2値化処理、あるいは、エッジ化では、曲線を線描画で描き(「1」)、それ以外を「0」とする処理も可能である。また、一方、参照ヒストグラムは、光沢、表面粗さに応じて、予め作成した複数の輝度ヒストグラムをメモリに記憶しデータベース化し、質感定量化部13に記録しておく。
【0032】
また、JTC法により光演算された出力画像では、JTC法により、図7に示す通り、相互相関スポットが両サイドに分かれて出現し、真中には自己相関スポットが出現する。このパターンを検出することによって、相関値の高低を判断している。
【0033】
ここで、自己相関スポットと相互相関スポットを得るためのJTC法を用いた光相関演算と等価な計算式を簡単に説明しておく。参照ヒストグラムと検索ヒストグラムをa(x,y)、b(x,y)とし、これらのヒストグラムをそれぞれ+d、−dだけ離して並置したものを入力画像f(x,y)とする。x,yは座標である。この入力画像f(x,y)は、下記の式(1)
数1: f(x、y)=a(x−d、y)+b(x+d,y)
によって表される。また、入力画像f(x,y)をフーリエ変換した関数をF(Vx,Vy)とすれば、このF(k)は下記の式(2)
【数2】
によって求められる。
【0034】
この関数F(Vx,Vy)に対して、複素共役の関数を利用して|F(Vx,Vy)|2をとり、さらに、これを実空間上のパワースペクトルPに変換すると、以下の式(3)が得られる。
【数3】
ここで、式(3)において、上付き記号★は共役複素数を示す。
【0035】
また、この式(3)の右辺において、第1項、及び第2項は、相関ヒストグラムにおける自己相関スポットに対応している。また、第3項、及び第4項は、自己相関スポットから±2d離れた相互相関スポットにそれぞれ対応している。
式(4)はパワースペクトルPのフーリエ変換を示す。式中*はコンボリューション、上付き★は共役複素数を示す。したがって、式(4)の第3項と第4項はa,bの相関データとなる。自己相関スポットと相互相関スポットを出力画像とする。
【数4】
【0036】
本実施形態で特徴的なことは物体の質感を粗さや光沢等に分けていることである。粗さや光沢等に分けることにより、相関値を取るための分離を行うことができる。光沢は、輝度ヒストグラムの上部の突起、或いは、歪み度など形状のアンバランスの度合い、例えば、明るい方に伸びている程度等の種々の形状要素を識別すると、光沢の程度がわかる。光沢の場合に輝度ヒストグラムの形状を捉えることで、光沢を認識することができる。一方、表面粗さも輝度ヒストグラムの形状(分布の幅等)によって変わる。例えば、分布幅が広がると、表面が粗くなる。こうした輝度ヒストグラムの形状パターンを輝度ヒストグラムの形状に基づいて予め登録しておけば、それとの相関度によって、高速にマッチングさせることができ、光沢量、表面粗さは定量化できる。
【0037】
結合変換相関演算によって、高速に相互相関スポットを演算し、これを質感定量部13で数値化する。数値化をするとデータベース側の方でそれに合っている輝度ヒストグラムが検索できる。
【0038】
質感の類似性は、相互相関スポットの光学的な強度の大小と等価である。値が大きくなっていることは相関性が高いことを示す。例えば、複数の参照ヒストグラムを検索ヒストグラムとの類似度が高い順に並べるなど、画像検索を利用した様々な質感の取得が可能となる。データベースで定量化した参照ヒストグラムのパターンを複数用意しておき、その中で相互相関スポットの光学強度の一番大きなものを検索すればよい。図9〜図12で示すシミュレーションは計算機で同じ演算をソフトウェアによって行い相関値を出したものである。ある意味では、それが真に近いものであり、実験値と近い結果がでている。
【0039】
このように、元画像をそのまま用いるのではなく、それに対応する輝度ヒストグラムを参照するとともに、JTC法による光相関演算を利用して質感の相関度を計測して画像検索を行う構成によれば、質感に着目した画像検索を、充分な精度で、かつ光演算によって高速に実行することが可能となる。
【0040】
また、JTCを用いているので、光学系を小型化できる。例えば、光検出器の画素ピッチは細かいので(1.5μ程度)、レンズのf値を抑えられる。ただし、レーザ・ダイオード2の出力をある程度上げる必要がある。マッチドフィルタではレンズのf値が高く大型化され、光学調整に精度が必要である。
【0041】
つぎに図14を参照して実施形態2の質感定量化装置101を説明する。これは高速で、結合変換相関演算を行うためのパイプライン処理を行う実施形態である。実施形態1と共通する構成については100番台として説明は援用する。偏光子は図示を略する。質感定量化装置101は光演算相関部112と、質感定量化部113とから構成される。図14に示す通り、コヒーレントな光源であるレーザーダイオート102から532nm波長の光が出され、これが、対物レンズ103、ピンホール部104を通過し、コリメートレンズ105によりコリメートされる。このコリメートされた光は、ハーフミラー107a、107bを通過し、空間光変調器108aの中心部からX方向に距離±dで表示された参照ヒストグラムと検索ヒストグラムとを照射する。この表示は質感定量化部113からの電気信号に基づいて行われる。そして、空間光変調器108aで反射された光は、ハーフミラー107bを経て、フーリエ変換レンズ110aに至り、フーリエ変換されて、CMOSカメラ111aで撮像される。光学信号が入力パワースペクトルとしてCMOSカメラ111aで記録され、記録データは、次段の空間光変調器108bへ出力される。また一方、ハーフミラー107aで反射された光はハーフミラー107c、107dを経て空間光変調器108bに送られる。そして、空間光変調器108bからの光はハーフミラー107dを経て、フーリエ変換レンズ110bに至り、2回目のフーリエ変換がされて、CMOSカメラ111bで撮像される。入力パワースペクトルとしてCMOSカメラ111bで撮像され、画像は、質感定量部113へ送信される。参照ヒストグラム及び検索ヒストグラムの相関性は、CMOSカメラ111bの中央部からX方向に距離±2dの点における、光学強度の関数として規定される。このようなパイプライン処理により実施形態1よりも装置は大型化するものの、実施形態1よりも高速な結合変換相関演算が可能となる。
【0042】
なお、本発明は、上記の実施形態に何ら限定されるものではなく、本発明の技術的思想を逸脱しない範囲において、種々の改変等の実施形態を採り得る。たとえば、本実施形態では、光の反射による物体の光沢(例えば、ダイヤモンド)、光の拡散によるざらざら感、やわらかさ(やすり、布)等を高精度で認識するものであるが、これに限られずに、光の透過による物体の透明感(例えば、ガラス)等の各種の質感も対象とすることができる。
【産業上の利用可能性】
【0043】
本発明は、結合変換相関演算を用いて表面粗さ、光沢などを高速で高精度に定量化するので、ロボットなどに利用可能である。
【符号の説明】
【0044】
1,101…質感定量化装置
2,102…レーザ・ダイオード
3,103…対物レンズ
4,104…ピンホール部
5,105…コリメートレンズ
6…偏光子
7,107a、107b,107c,107d…ハーフミラー
8,108a…空間光変調器
9…偏光子
10,110a,110b…フーリエ変換レンズ
11,111a,111b…CMOSカメラ
12,112…光演算相関部
13,113…質感定量化部
【特許請求の範囲】
【請求項1】
光源からの光を変調する空間光変調器と、前記空間光変調器からの変調光を受けフーリエ変換を行うフーリエ変換レンズと、前記フーリエ変換レンズからの光像を撮像するカメラと、を備え、前記空間光変調器に入力される入力画像の結合変換相関演算を行い、出力画像を生成する光演算相関部と、
前記入力画像を、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置したものとして設定し、前記入力画像を前記空間光変調器に出力し、前記結合変換相関演算によって得られた自己相関スポットと相互相関スポットを含む出力画像を前記カメラから取得し、前記相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部と、
を備えたことを特徴とする質感定量化装置。
【請求項2】
前記入力画像を入力した前記空間光変調器により第1変調光を生成し、前記フーリエ変換レンズにより前記第1変調光のフーリエ変換を行って第1光像を生成し、前記第1光像を前記カメラで撮像して一次変換画像とし、前記空間光変調器に前記一次変換画像を出力し、前記空間光変調器で前記一次変換画像によって変調された第2変調光を生成し、前記フーリエ変換レンズにより前記第2変調光のフーリエ変換を行って第2光像を生成し、前記第2光像を前記カメラで撮像して前記出力画像とすることを特徴とする請求項1記載の質感定量化装置。
【請求項3】
前記光相関演算部は、第1空間光変調器と、前記第1空間光変調器からの第1変調光を受けフーリエ変換を行い第1光像を生成する第1フーリエ変換レンズと、前記第1フーリエ変換レンズからの第1光像を撮像し一次変換画像を生成する第1カメラと、前記第1カメラからの一次変換画像を入力し第2変調光を生成する第2空間光変調器と、該第2空間光変調器からの第2変調光を受けフーリエ変換を行い第2光像を生成する第2フーリエ変換レンズと、前記第2フーリエ変換レンズからの第2光像を撮像し前記出力画像を生成する第2カメラと、を備えたことを特徴とする請求項1記載の質感定量化装置。
【請求項4】
輝度ヒストグラムとして設定され質感の定量化の対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され予め作成された参照ヒストグラムとが並置された入力画像を、空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第1光像を形成し、前記第1光像を撮像し一次変換画像を生成する第1相関演算ステップと、
前記第1相関演算ステップで撮像された一次変換画像を空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第2光像を形成し、前記第2光像を撮像し、自己相関スポットと相互相関スポットを含む出力画像とする第2相関演算ステップと、
前記出力画像の相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化ステップと、
を備えたことを特徴とする質感定量化方法。
【請求項1】
光源からの光を変調する空間光変調器と、前記空間光変調器からの変調光を受けフーリエ変換を行うフーリエ変換レンズと、前記フーリエ変換レンズからの光像を撮像するカメラと、を備え、前記空間光変調器に入力される入力画像の結合変換相関演算を行い、出力画像を生成する光演算相関部と、
前記入力画像を、輝度ヒストグラムとして設定され検索対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され照合のために予め作成される参照ヒストグラムとを並置したものとして設定し、前記入力画像を前記空間光変調器に出力し、前記結合変換相関演算によって得られた自己相関スポットと相互相関スポットを含む出力画像を前記カメラから取得し、前記相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化部と、
を備えたことを特徴とする質感定量化装置。
【請求項2】
前記入力画像を入力した前記空間光変調器により第1変調光を生成し、前記フーリエ変換レンズにより前記第1変調光のフーリエ変換を行って第1光像を生成し、前記第1光像を前記カメラで撮像して一次変換画像とし、前記空間光変調器に前記一次変換画像を出力し、前記空間光変調器で前記一次変換画像によって変調された第2変調光を生成し、前記フーリエ変換レンズにより前記第2変調光のフーリエ変換を行って第2光像を生成し、前記第2光像を前記カメラで撮像して前記出力画像とすることを特徴とする請求項1記載の質感定量化装置。
【請求項3】
前記光相関演算部は、第1空間光変調器と、前記第1空間光変調器からの第1変調光を受けフーリエ変換を行い第1光像を生成する第1フーリエ変換レンズと、前記第1フーリエ変換レンズからの第1光像を撮像し一次変換画像を生成する第1カメラと、前記第1カメラからの一次変換画像を入力し第2変調光を生成する第2空間光変調器と、該第2空間光変調器からの第2変調光を受けフーリエ変換を行い第2光像を生成する第2フーリエ変換レンズと、前記第2フーリエ変換レンズからの第2光像を撮像し前記出力画像を生成する第2カメラと、を備えたことを特徴とする請求項1記載の質感定量化装置。
【請求項4】
輝度ヒストグラムとして設定され質感の定量化の対象となる検索ヒストグラムと、輝度ヒストグラムとして設定され予め作成された参照ヒストグラムとが並置された入力画像を、空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第1光像を形成し、前記第1光像を撮像し一次変換画像を生成する第1相関演算ステップと、
前記第1相関演算ステップで撮像された一次変換画像を空間光変調器に入力し、前記空間光変調器からの光をフーリエ変換レンズでフーリエ変換し第2光像を形成し、前記第2光像を撮像し、自己相関スポットと相互相関スポットを含む出力画像とする第2相関演算ステップと、
前記出力画像の相互相関スポットの強度に基づいて、前記検索ヒストグラムと前記参照ヒストグラムを照合し、質感の類似性を判断する質感定量化ステップと、
を備えたことを特徴とする質感定量化方法。
【図1】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−127871(P2012−127871A)
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願番号】特願2010−281004(P2010−281004)
【出願日】平成22年12月16日(2010.12.16)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2010年8月30日 2010年秋季第71回応用物理学会学術講演予稿集に発表、2010年9月17日 2010年秋季第71回応用物理学会学術講演会において発表
【出願人】(304027349)国立大学法人豊橋技術科学大学 (391)
【出願人】(302047880)有限会社パパラボ (11)
【Fターム(参考)】
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願日】平成22年12月16日(2010.12.16)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2010年8月30日 2010年秋季第71回応用物理学会学術講演予稿集に発表、2010年9月17日 2010年秋季第71回応用物理学会学術講演会において発表
【出願人】(304027349)国立大学法人豊橋技術科学大学 (391)
【出願人】(302047880)有限会社パパラボ (11)
【Fターム(参考)】
[ Back to top ]