説明

欠損画像の補間方法及びこれを用いたタイヤ表面の検査方法

【課題】撮像画像の欠損部分を高速に補間する補間方法と、この補間方法により補間された撮像画像に基づいてタイヤ表面の検査を行う検査方法を提供する。
【解決手段】撮像画像に含まれる欠損画像をインペインティング処理して補間する欠損画像の補間方法であって、撮像画像から欠損画像を検出する欠損画像検出ステップと、欠損画像を構成する画素が閾値以下の画素数となるまで画素を間引きして縮小画像を生成する縮小画像生成ステップと、縮小画像をインペインティング処理して縮小画像の画素の輝度を補間する画像補間ステップと、画像補間ステップにより補間された縮小画像の画素の輝度を一つ前の大きさの画像に置換する画像更新ステップとを含み、縮小画像生成ステップにより生成される縮小画像が元の欠損画像の大きさとなるまで画像補間ステップ及び画像更新ステップを繰り返すようにした。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像画像の欠損部分を高速に補間する補間方法と、この補間方法により補間された撮像画像に基づいてタイヤ表面の検査を行うタイヤ表面の検査方法に関する。
【背景技術】
【0002】
従来、カメラやビデオ等により撮像された撮像画像における失われた領域又は損傷した領域を判読可能に再現したいときに、その領域の欠損部分の画像を回復する補間技術が知られている。
補間技術として、例えば、非特許文献1に示すようなインペインティング法と呼ばれる方法により補間する方法がある。
インペインティング法は、もともと経年劣化によって生じた絵画等の美術品の傷やひび割れを修復するための技術を指すが、画像処理においては画像の欠落部分を周囲の画素の情報からそれとはわからないように復元する技術のことで、傷や欠損がある写真や絵画をスキャナやカメラによりディジタル形式で取得し、得られたディジタル画像を用いて写真や絵画の傷もしくは欠損部分を補間するようにしている。具体的には、写真や絵画をディジタル画像として取得して、欠損部分もしくは修復部分を教示することで、この領域がインペインティング法により補間され、修復後のディジタル画像が得られる。
インペインティング法による処理の流れとしては、
(1)欠損画像検出部により、撮像画像を構成する画素すべてについて画素毎に隣接する画素との輝度の変化を判定し、この輝度の変化があらかじめ設定された閾値よりも大きいときに欠損部分を構成する画素として検出する(欠損画像検出処理)。
(2)欠損部分を構成する画素として検出された画素をフラグ付けして記憶し、仮補間部により欠損画像を包囲する画素の輝度の平均値で補間する(仮補間処理)。
(3)仮補間された欠損部分を、インペインティング法に基づいて輝度を計算する補間輝度計算部により、欠損部分を包囲する画素と仮の輝度が補間された画素とに基づいて仮補間された欠損部分の輝度を計算し、この計算された輝度を輝度補正部によりフィルター処理して新たな輝度に補正して、欠損部分の輝度を更新する。
そして、輝度の計算、補正、更新を繰り返し行い、欠損部分の画素が最適値となったときに上記計算を終了し、欠損部分を構成する画素の輝度の補間が完了する。
【0003】
しかしながら、従来のインペインティング法によれば補間完了後の画像は比較的自然な画像として看取できるものの、補間する欠損部分の画素の輝度を計算するときに、最適と思われる画像となるまで欠損部分の画素の輝度を繰り返し計算する必要があるため、欠損部分の補間にかかる時間が不明であり、欠損部分の大きさが大きい場合には、補間に要する時間が膨大となる。そして、この時間効率の悪さが、例えばタイヤ表面を検査する検査装置等の時間効率性が重視される機器への応用についての障壁となるため、正確性のみならず時間効率をも重視する機器へのインペインティング法の導入は困難であった。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特表2008−541904号公報
【非特許文献】
【0005】
【非特許文献1】Tony F.Chan等 IEEE TRANSACTIONS ON IMAGE PROCESSING,VOL.10,NO2,p231−p241,FEBRUARY2001
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、上記課題を解決するため、撮像画像の欠損部分を高速に補間する補間方法と、この補間方法により補間された撮像画像に基づいてタイヤ表面の検査を行う検査方法を提供する。
【課題を解決するための手段】
【0007】
本発明の第1の形態として、撮像画像に含まれる欠損画像をインペインティング処理して補間する欠損画像の補間方法であって、撮像画像から欠損画像を検出する欠損画像検出ステップと、欠損画像を構成する画素が閾値以下の画素数となるまで画素を間引きして縮小画像を生成する縮小画像生成ステップと、縮小画像をインペインティング処理して縮小画像の画素の輝度を補間する画像補間ステップと、画像補間ステップにより補間された縮小画像の画素の輝度を一つ前の大きさの画像に置換する画像更新ステップとを含むようにした。
本発明によれば、少ない画素によって構成される縮小画像にインペインティング処理して縮小画像を補間し、補間された画素の輝度を一つ前の大きさの画像に置換し、この画像の置換された画素以外の画素をインペインティング処理で補間すれば良いので、画像の補間に要する時間が短縮されるようになる。
【0008】
本発明の第2の形態として、縮小画像生成ステップにより生成される縮小画像が元の欠損画像の大きさとなるまで画像補間ステップ及び画像更新ステップを繰り返すようにした。
本発明によれば、元の欠損画像の大きさまで補間するようにしたことで、各縮小画像のインペインティング処理において補間する画素数が少なくて済むので、一度に欠損画像をインペインティング処理する場合よりも補間に要する時間を大幅に短縮することができる。
【0009】
本発明の第3の形態として、縮小画像生成ステップは欠損画像を構成する画素を一つ置きに間引くようにした。
本発明によれば、欠損画像を構成する画素が平均的に間引かれることで、欠損画像が効率よく縮小され、縮小された画素をインペインティング法で補間するときに、短時間で補間することができる。
【0010】
本発明の第4の形態として、縮小画像生成ステップは欠損画像をチェッカーボード状に間引くようにした。
本発明によれば、欠損画像を構成する画素がチェッカーボード状に間引かれることで、インペンティング法で補間された画素を間引きされる一つ前の間引き画像の元の位置に補間したときに、これからインペンティング法で補間される画素が、既知の画素で包囲されるので、精度の良い補間をすることができる。
【0011】
本発明の第5の形態として、縮小画像生成ステップは欠損画像を構成する画素のうち、輝度が閾値よりも大きな画素を間引くようにした。
本発明によれば、欠損画像に含まれる著しく輝度が異なる画素を間引くことで、補間される欠損画像が平均化されるので、インペインティング法で画素の輝度を補間するときに要する時間を短縮することができる。
【0012】
本発明の第6の形態として、タイヤ表面を撮像して得られた検査画像を画像処理してタイヤ表面のキズの有無を判定するタイヤ表面の検査方法であって、検査画像に含まれる欠損画像を検出する欠損画像検出ステップと、欠損画像を構成する画素が閾値以下の画素数となるまで画素を間引きして縮小画像を生成する縮小画像生成ステップと、縮小画像をインペインティング処理して縮小画像の画素の輝度を補間する画像補間ステップと、画像補間ステップにより補間された縮小画像の画素の輝度を一つ前の大きさの画像に補間する画像更新ステップとを含み、縮小画像生成ステップにより生成される縮小画像が元の欠損画像の大きさとなるまで画像補間ステップ及び画像更新ステップを繰り返し行い、元の欠損画像の大きさまで戻された検査画像を構成する画素の輝度に基づいてタイヤ表面を検査するようにした。
本発明によれば、タイヤ表面の検査画像の欠損画像を構成する画素を間引いて縮小画像を生成し、この縮小画像を構成する画素の輝度をインペインティング法で補間し、この補間された画素の輝度を一つ前の大きさの縮小画像に補間することを繰り返して欠損画像を補間しているため、欠損画像の補間において少ない画素数の画像がインペインティング法で補間されるので、欠損画像を補間するのに要する時間を短縮できるため、タイヤ表面の検査効率を向上させることができる。
【0013】
なお、上記発明の概要は、本発明の必要な特徴のすべてを列挙したものではなく、これらの特徴群のサブコンビネーションもまた発明となり得る。また、以下、発明の実施形態を通じて本発明を詳説するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではなく、また実施形態の中で説明される特徴の組み合わせの全てが発明の解決手段に必須であるとは限らず、選択的に採用される構成又は工程をも含むものである。
【図面の簡単な説明】
【0014】
【図1】本発明に係る画像処理装置のブロック図。
【図2】本発明に係る欠損画像を縮小画像に変換する間引き及び置換の概念図。
【図3】本発明に係るTVインペインティング法における係数を求める画素の関係図。
【図4】本発明に係る補間処理手段のフローチャート。
【図5】本発明に係る欠損画像を含む撮像画像及びこれを補間した補間画像。
【図6】本発明に係る欠損画像の処理にかかる時間を調べた比較表。
【図7】本発明に係る画像処理装置をタイヤ表面の検査装置に組み込んだ場合のブロック図。
【図8】本発明に係る間引きの他の形態図。
【発明を実施するための形態】
【0015】
実施形態
図1は、本発明に係る欠損画像を補間する画像処理装置1のブロック図を示す。画像処理装置1は、カメラ2によって撮像された撮像画像P0を処理する前処理手段3と補間処理手段4とを備える。
前処理手段3は、カメラ2によって撮像された撮像画像P0が入力される画像入力部5と、入力された撮像画像P0における画像のキズや汚れ等の欠損部分を検出して欠損画像P1を生成する欠損画像検出部6と、欠損画像P1を構成する画素の画素数や欠損画像P1の幅や高さの画素数等をあらかじめ設定された閾値αと比較し、閾値αよりも小さいときには後述の補間処理手段4の画像補間部10に欠損画像P1を出力し、閾値αよりも大きいときには縮小画像生成部8に欠損画像P1を出力する欠損画像サイズ判定部7とを有する。
【0016】
補間処理手段4は、縮小画像生成部8と、縮小画像サイズ判定部9と、画像補間部10と、画像レベル判定部11と、画像更新部11とを備える。
縮小画像生成部8は、欠損画像P1を構成する画素を間引き処理することにより欠損画像P1を縮小画像P2として縮小する。以下、間引き処理の概要について説明する。
【0017】
図2(a),(b)は、欠損画像P1の画素に対する間引き処理の概念図である。同図において、Eは欠損画素、Fは欠損画素の周囲を包囲する正常な画素を示す。
欠損画像P1の縮小は、欠損画像P1を構成する画素を一つ置きに省くことにより実行される。具体的には、図2(a)に示すように、欠損画像P1が6×6の複数の正方形の欠損画素Eにより構成されていると仮定した場合、複数存在する欠損画素Eの位置をE1(i,j)のように表すと(但し、i,jはそれぞれ0,1,2・・・7の範囲である。)、欠損画素P1の間引き処理は、欠損画素Eの位置E1(1,1)を基準として高さ方向Hに一つ置きに省き、図2(a)中のiが2,4,6の行、即ち位置E1(2,j)と位置E1(4,j)と位置E1(6,j)の行を全て省き、次に、欠損画素Eの位置E1(1,1)を基準として幅方向Wに一つ置きに省き、図2(a)中のjが2,4,6の列、即ち位置E1(i,2)と位置E1(i,4)と位置E1(i,6)の列を全て省くことにより行われる。
この間引き処理によって残る欠損画素Eは、位置E1(1,1),位置E1(1,3),位置E1(1,5),位置E1(3,1),位置E1(3,3),位置E1(3,5),位置E1(5,1),位置E1(5,3),位置E1(5,5)となり、これら欠損画素Eにより、縮小された縮小画像P2を構成する。
具体的には、図2(b)に示すように、位置E1(1,1)→位置E2(1,1),位置E1(1,3)→位置E2(1,2),位置E1(1,5)→位置E2(1,3),位置E1(3,1)→位置E2(2,1),位置E1(3,3)→位置E2(2,2),位置E1(3,5)→位置E2(2,3),位置E1(5,1)→位置E2(3,1),位置E1(5,3)→位置E2(3,2),位置E1(5,5)→位置E2(3,3)となるように、間引き処理によって省かれた欠損画素Eを埋めるように欠損画像P1が縮小画像P2に縮小される。
なお、上記例では、欠損画素EのE1(1,1)を基準にして高さ方向、幅方向に順に省くとして説明したが、省く順序、基準位置については適宜設定すれば良い。
【0018】
縮小画像サイズ判定部9は、縮小画像生成部8により縮小された縮小画像P2が、所定の大きさ以下であるかを判定する。
具体的には、縮小画像P2を構成する総画素数(3×3)が、あらかじめ設定された閾値βよりも小さいときには、画像補間部10に縮小画像P2を出力し、閾値βよりも大きいときには、縮小画像生成部8に対して縮小画像P2をさらに縮小させるべく出力する。つまり、縮小画像生成部8による間引き処理は複数回実行されることがある。
なお、縮小画像サイズ判定部9による判定は、総画素数を用いた判定のみならず、例えば幅方向の画素数(3)又は高さ方向の画素数(3)のみによって閾値βと比較判定する構成としてもよい。
【0019】
画像補間部10は、縮小画像P2を構成する欠損画素Eを包囲する正常画素Fの輝度に基づいて縮小画像P2の補間処理を行う。補間処理には、TVインペインティング法と呼ばれる画像処理手法が採用される。以下、TVインペインティング法について概説する。
TVインペインティング法は、以下の式1に基づいて縮小画像P2の補間処理を行う。

上記式1は、輝度落ちした欠損画素Eと輝度落ちした欠損画素Eを包囲する正常画素Fが持つ輝度のエネルギーを計算する式で、式1のJを最小化する輝度uは、次の式2に示すオイラー−ラグランジェ方程式を満たす必要がある。

さらに、欠損画素Eの輝度uを求めるにあたり、式2は、以下の式3に示す時間発展方程式に置き換えられ、その定常状態として最適な輝度uを決定する。

なお、式1,式2,式3において各変数は以下に示す意味を持つ。
u:補完すべき欠損画素Eの最適な輝度の値を示す。
λ:バランス係数。
Ω:補間する欠損画素Eを中心に隣接する正常画素Fを含む画像領域、又は、輝度落ちした欠損画像P*全体を示す画像領域。
0:式3の計算にあたり欠損画素Eに付与される輝度の初期値。
|∇u|:エッジの傾き、即ち、補間する欠損画素Eを中心とした隣接する欠損画素E又は正常画素Fとの輝度の勾配の最大値。
上記式1において、右辺第1項目は、欠損画像P1及び縮小画像P*の欠損画素Eを補間するときに不自然な画像を排除するための項であり、右辺第2項目は、補間する輝度uの最適値が元の撮像画像P0から逸脱し過ぎないようにするために制約を与える項である。
また、上記式3を解いて欠損画素Eの補間すべき輝度uを計算するために、欠損画素Eの輝度に初期条件及び境界条件を設定する必要があり、具体的には以下のように設定される。
初期条件は、一般的に元の画像の輝度を推定した値が輝度落ちした画素に挿入されるか、若しくは、タイヤ表面を撮像した場合には黒を示す値の0又は白を示す値の255が挿入される。本例では、推定した値として、輝度落ち画素を包囲する外側2画素の輝度の平均値を輝度落ちした画素に初期値として仮補間する。ここで、輝度落ちした欠損画素Eを包囲する外側2画素とは、図2(a),(b)に示すように、輝度落ちした欠損画素Eを包囲する正常画素Fと、正常画素Fをさらに包囲する図示しない正常画素Gとである。
このTVインペインティング法により、輝度落ちした画素に最適な輝度を計算するときに、輝度落ちした画素において、計算により補間される輝度の標準偏差値σが、単調増加した後に平衡状態とすることができる。
また、境界条件には、例えば、輝度落ち画素を包囲する正常画素Fの輝度が与えられる。
【0020】
TVインペインティング法では、上記式3を数値的に解くために、これを以下の式4〜式7に示す離散式に変形する。離散化された式4は、輝度落ちした領域に仮補間された輝度uをディジタルフィルターによって輝度vに更新する式と考えることができる。式4を繰り返し適用することにより、補間される輝度を最適な値に近づけることができる。

上記式5〜式7により式4の係数を計算した後に、すべての画素についての輝度vαを求め、輝度落ちとして検出された全ての画素に挿入されるvαの標準偏差値σが平衡状態となり、この平衡状態が所定回数、例えば、5回以上繰り返されたときに計算を終了させて、このときに計算された輝度vαが縮小画像P2を構成する欠損画素E毎に補間される。
【0021】
上記式3を離散式に変形した式4〜式7をプログラムすることにより、欠損画像P1及び縮小画像P*の欠損画素Eに最適な輝度を挿入することができる。
なお、TVインペインティング法において、補間すべき解を提供する方程式がエネルギー最小の原理に基づいて解かれることを考えると、例えば、有限体積法等により積分型の離散方程式を構成し、かつ、求める解がビット表記された輝度を表していることから、繰り返し計算前に解をビットシフトさせて整数型にして、共役勾配法により繰り返し計算を行うことで解を得るようにしても良く、上記式3〜式7の微分方程式から補間する画素を計算する方法については適宜決めれば良い。
上記インペインティング処理により欠損画素Eの輝度が補間された縮小画像P*は、画像レベル判定部11に出力される。
【0022】
画像レベル判定部11では、画像補間部10で補間された縮小画像P*が縮小画像P2以下の大きさの画像であるかの判定を行い、縮小画像P*が縮小画像P2以下の大きさであるときは後述の画像更新部12に縮小画像P*を出力する。縮小画像P*が縮小画像P2よりも大きい、即ち、欠損画像P1であるときは、欠損画像P1を画像表示装置13に出力するとともに補間された欠損画像P1がモニタ14に表示される。
【0023】
画像更新部12は、画像レベル判定部11の判定に基づき画像補間部10により補間された縮小画像P*を構成する欠損画素Eを間引き処理前の縮小画像P*−1に置換し、置換した縮小画像P*−1を画像補間部10に出力する。
具体的には、図2(b),(c)に示すように、補間された縮小画像P*の欠損画素Eを間引き前の縮小画像P*−1の元の位置に置換して、縮小画像P*−1を更新する。つまり、縮小画像生成部8で実行される間引き処理の逆の処理が行われ、E2(1,1)→E1(1,1),E2(1,2)→E1(1,3),E2(1,3)→E1(1,5),E2(2,1)→E1(3,1),E2(2,2)→E1(3,3),E2(2,3)→E1(3,5),E2(3,1)→E1(5,1),E2(3,2)→E1(5,3),E2(3,3)→E1(5,5)のように縮小画像P*の画素の輝度を縮小画像P*−1の画素の輝度として置換し、得られた縮小画像P*−1を画像補間部10に出力する。
これにより、縮小画像P*−1を構成する欠損画素Eの一部が既知の輝度に置換されるため、画像補間部10では、縮小画像P*−1の置換されていない欠損画素Eに対してのみ計算すれば良いので、補間処理にかかる時間を短縮することができる。
【0024】
図4は、画像処理装置1の補間処理手段4のフローチャートを示し、同図を用いて撮像画像P0に含まれる欠損画像P1の補間処理について説明する。
カメラ2によって撮像された撮像画像P0が前処理手段3の画像入力部5に入力されるとともに、画像表示装置13と接続するモニタ14に表示される。画像入力部5に入力された撮像画像P0は、欠損画像検出部6に出力され、欠損画像P1がどの程度の大きさか、即ち、欠損画像P1を構成する総画素数がカウントされる。欠損領域の大きさが検出された欠損画像P1は、欠損画像サイズ判定部7にその画素数が出力され、欠損画像サイズ判定部7が記憶する閾値αと比較される。この場合の閾値αは、欠損領域検出部6が検出した欠損画像P1を構成する画素数に対応するように設定され、例えば、5画素以下等として適当な画素数が設定される。
なお、欠損画像P1を構成する総画素数をカウントするとしたが、欠損画像P1の幅の最大値や高さの最大値を閾値αとして設定しても良い。
欠損画像サイズ判定部7において、欠損画像P1が上記閾値αよりも小さいときには欠損画像P1が補間処理手段4の画像補間部10に出力され、欠損画像P1が上記閾値αよりも大きいときには欠損画像P1は、補間処理手段4の縮小画像生成部8に出力される。
【0025】
図4に示すように、補間処理手段4では、次の処理により欠損画像P1を補間する。
まず縮小画像生成ステップ101により、欠損画像P1の大きさが幅方向W及び高さ方向Hにおいて画素数が1/2となるように縮小される。即ち、欠損画像P1の幅方向W及び高さ方向Hにそれぞれ欠損画素Eを一つおきに間引くことで、欠損画像P1が面積にして1/4の大きさの縮小画像P2に縮小され、欠損画像サイズ判定ステップ102に移行する。
欠損画像サイズ判定ステップ102では、処理画像P1を構成する欠損画素Eの画素数をカウントして、あらかじめ記憶する画素数を示す閾値βと比較して、縮小画像P1を構成する画素数が閾値β以下のときには画像補間ステップS103に移行し、閾値β以上のときには縮小画像生成ステップ101に戻る。
即ち、縮小画像生成ステップ101では、撮像画像P0の欠損画像P1の欠損画素Eを一つおきに間引いて、欠損画像P1を幅,高さともに1/2にした縮小画像P2として生成し、この縮小画像P2を欠損画像サイズ判定ステップ102で、縮小画像P2を構成する画素数と縮小画像P*の大きさ(画素数)を規定する閾値βとを比較し、縮小画像P2の画素数が閾値βよりも大きいときには、縮小画像生成ステップ101に戻り、縮小画像P2をさらに縮小して縮小画像P3を生成し、欠損画像サイズ判定ステップS102で縮小画像P3の画素数と閾値βとを比較し、縮小画像P3が閾値βよりも大きいときには縮小画像生成ステップ102に戻ることを繰り返し実行し、閾値βよりも小さい縮小画像Pminとなるまで実行し、縮小画像Pminが閾値βよりも小さくなったときに画像補間ステップS103に進む。
【0026】
画像補間ステップ103では、まず縮小画像Pminを上述したTVインペインティング法により欠損画素Eの輝度を補間した後に、この縮小画像Pminを画像レベル判定ステップ104に出力する。
画像レベル判定ステップ104では、縮小画像P*が縮小画像P2以下かどうかを判定し、縮小画像P*が縮小画像P2以下のとき、即ち、縮小画像Pmin→Pmin-1→・・・→P*→・・・→P2のときには、画像更新ステップ105に進み、欠損画像P1のときには補間処理を終了する。
この補間された欠損画像P1は撮像画像P0の欠損領域と結合されて、補間後の撮像画像P0′として画像表示装置13に出力され、モニタ14に表示される。
画像更新ステップ105では、縮小画像Pminを構成する欠損画素Eの輝度を一つ前の大きさの縮小画像Pmin-1の元の位置に既知の輝度として置換し、縮小画像Pmin-1の更新を行う。
【0027】
以上説明したように、本発明の補間方法によれば、撮像画像P0に含まれる欠損画像P1を縮小して、最も小さい縮小画像Pminをインペインティング法により補間した後に、次に小さい縮小画像Pmin-1の各画素の元の位置に戻して置換することで縮小画像Pmin-1を更新し、この画素が更新された縮小画像Pmin-1の補間された画素以外の欠損画素Eをインペインティング法により補間することで、各縮小画像Pが未知の欠損画素Eが少ない状態でインペインティング法により補間されるので、従来のように直接欠損画像P1の全体をインペインティング法により補間するときと比べて補間にかかる時間が短縮できるようになった。
【0028】
図5(a)は、カメラ2により320×240画素のサイズで撮像したカラーの撮像画像P0を256階調のグレースケールで図示したもので、撮像画像P0には50×55画素の欠損画像P1を含んでいる。図5(b)は、本発明に係る画像補間方法により補間された画像、図5(c)は、従来のTVインペインティング法により補間された画像を示す。
図6の表は、図5(a)の欠損画像P1を従来のTVインペインティング法により補間したときの処理時間と、本発明に係る画像補間方法により補間したときの処理時間とを比較した表である。
処理時間を比較するための画像の補間は、以下の実験環境により行った。
HPxw6400Workstation
CPU:Intel Xeon 5110(1.6GHz)
メモリ:1.0GB
OS:Windows XP(Professional)SP2(登録商標第3333588号等)
シミュレーションにはMATLAB R2008a(登録商標第2651418号)を使用した。
図5(b),(c)に示すように、補間後の処理画像にはほとんど差異が見られないが、図6の表によれば、補間に必要とする処理時間には約50倍以上の差が生じることが分かった。
本実施例における画像補間方法によれば、まず、50×55画素の欠損画像P1が、幅方向W及び高さ方向Hにそれぞれ一つ置きに画素が間引かれて25×28画素の縮小画像P2に縮小され、次に13×14画素の縮小画像P3に縮小され、次に7×7画素の縮小画像P4に縮小され、次に4×4画素の縮小画像P5に縮小される。
まず、縮小画像P5がTVインペインティング法で補間され、縮小画像P5の補間された欠損画素Eが、縮小画像P4の間引かれる前の元の位置に補間され、この縮小画像P4の補間された画素以外の欠損画素EがTVインペインティング法で補間される。以下縮小画像P2が欠損画像P1になるまで補間を繰り返し行い撮像画像P0の欠損画像P1が補間される。
図6の表において、各縮小画像P5〜P0の処理に要した時間を示し、最も小さい縮小画像P5では0.7秒で補間が終了し、縮小画像P4では1.22秒で補間が終了し、縮小画像P3では1.80秒で補間が終了し、縮小画像P2では3.69秒で補間が終了し、欠損画像P1では18.24秒の処理時間を要し、合計で25.65秒で50×55画素の欠損画素P1全体の補間が終了している。
一方、従来のように欠損画像P1を直接TVインペインティング法で補間処理したものは、1464.29秒を要し、本発明のFastTVインペインティング法の約50倍以上の時間が必要となっている。
このことから、本発明の補間方法であるFastTVインペインティング法は、欠損画像の補間処理速度を向上させる上で有効であることがわかる。
【0029】
上記実施形態では、撮像画像P0において欠損画像P1が1つのときについて説明したが、撮像画像P0に欠損画像P1が複数存在するときには、各欠損画像P1に対して個別に適用するようにすれば良い。
即ち、図1に示す前処理手段3の欠損領域検出部6において検出された複数の欠損画像P1に対して、欠損画像サイズ判定部7で閾値α以上の欠損画像P1に対しては、それぞれ、図4に示すフローチャートに従って補間処理を行い、閾値α以下の欠損画像P1に対しては、画像補間部10にジャンプしてTVインペインティング法により欠損画素Eの補間をすれば良い。
このように補間処理することにより、欠損画像P1全体に対して一度にTVインペインティング法を適用しないので、撮像画像P0における複数の欠損画像P1を短時間で補間処理できるようになる。
【0030】
上記構成の画像処理装置1は、画像処理により外観の検査を行う検査装置、例えば、タイヤ表面の検査装置に組み込むことができる。
図7は、タイヤ表面の検査装置20に本発明の画像処理装置1を組み込んだ場合のブロック図を示す。同図において、検査装置20は、タイヤ表面を撮像する撮像手段21と、検査判定手段22と、本発明にかかる画像処理装置1と画像表示装置13とモニタ14とを備える。なお、検査装置において画像処理装置1と画像表示装置13とモニタ14については上記実施形態と同一構成のため説明は省略する。
撮像手段21は、例えば、タイヤ表面にスリット光を照射する投光器と、タイヤ表面のスリット光を撮像するエリアカメラ等によって構成され、タイヤ表面に対してスリット光を相対的に移動させて撮像することで、検査するタイヤ表面の検査画像が取得される。この検査画像は、画像処理装置1の前処理手段3の画像入力部5に入力され、欠損領域検出部6で検査画像に輝度落ちした欠損領域が検出されたときには、この欠損領域を欠損画像P1として欠損画像サイズ判定部7に出力する。なお、欠損画像P1が検出されないときには、検査画像は後述の検査判定手段22に直接出力される。
欠損画像サイズ判定部7において閾値α以上の画素数により構成される欠損画像P1は、縮小画像生成部8に出力され、欠損画像P1の間引きが行われ、縮小画像P2が生成される。この縮小画像P2は、縮小画像サイズ判定部9に出力され、閾値β以下の画素数であるかの判定がなされ、縮小画像P2を構成する画素数が、閾値β以上のときは縮小画像生成部8で縮小画像P2を縮小し、閾値β以下となるまで、縮小画像P*の生成と縮小画像サイズ判定が繰り返される。閾値β以下の画素数となった縮小画像Pminは、画像補間部10に出力され、TVインペインティング法により欠損画素Eに輝度が補間される。輝度が補間された縮小画像Pminを構成する画素は、縮小画像Pminよりも一つ大きな、つまり間引きされる前の縮小画像Pmin-1の元の画素の位置に輝度が置換される。輝度が置換された縮小画像Pmin-1は、補間されていない欠損画素EのみTVインペインティング法により補間される。この輝度の補間,置換の工程を縮小画像P2が得られるまで実施したのち、縮小画像P2の画素の輝度を欠損画像P1に置換し、欠損画像P1をTVインペインティング法により補間することで検査画像の欠損領域が補間される。
補間された検査画像は、検査判定手段22に出力され、検査判定手段22の検査判定部でタイヤ表面の良否が検出される。例えば、補間された検査画像P0′において凹部や凸部からなるキズを構成する画素の輝度が所定の閾値の範囲外のときに成型不良有りと判定され、閾値の範囲内のときには成型不良無しとしてタイヤ表面の検査の良否が判定される。
検査判定手段22による検査結果は、画像表示装置13に出力され、その結果とともに検査画像P0′がモニタ14に表示される。
このように構成することで、本発明のタイヤ表面の検査装置20によれば、検査装置の物理的な構成を増やすことなく、タイヤ表面の検査をほぼ自動で行うことができるようになり、撮像した検査画像の輝度落ちした欠損画像P1の画素を間引いて欠損画像P1を多段に渡り縮小し、少ない画素数で欠損画素EをTVインペインティング法により補間することで、検査にかかる処理時間を短縮し、検査効率を向上させることができる。
なお、上記実施形態において、本発明の補間方法をタイヤ表面の検査装置に組み込んだ一例を示したがこれに限らず、画像を用いて検査する検査装置であれば本発明の補間方法を組み込むことで飛躍的に画像の補間処理速度を向上させることができるので、検査効率を向上させることができる。
【0031】
上記実施形態の説明において、縮小画像生成部8において幅方向W,高さ方向Hに一つ置きに間引いて欠損画像P1を縮小するとして説明したが、間引き方法についてはこれに限らず、図8に示すように、チェッカーボード状に間引いても良い。
また、欠損画像を構成する画素の輝度が閾値よりも大きな画素を間引くようにしても良い。このように構成することで、補間される欠損画像が平均化されるので、インペインティング法で画素の輝度を補間するときに要する時間を短縮することができる。
【符号の説明】
【0032】
1 画像処理装置、2 カメラ、3 前処理手段、4 補間処理手段、
6 欠損画像検出部、7 欠損画像サイズ判定部、8 縮小画像生成部、
9 縮小画像サイズ判定部、10 画像補間部、11 画像レベル判定部、
12 画像更新部、E 欠損画素、F 正常画素、
P0 撮像画像、P1 欠損画像、P* 縮小画像、α;β 閾値。

【特許請求の範囲】
【請求項1】
撮像画像に含まれる欠損画像をインペインティング処理して補間する欠損画像の補間方法であって、
前記撮像画像から欠損画像を検出する欠損画像検出ステップと、
前記欠損画像を構成する画素が閾値以下の画素数となるまで前記画素を間引きして縮小画像を生成する縮小画像生成ステップと、
前記縮小画像をインペインティング処理して前記縮小画像の画素の輝度を補間する画像補間ステップと、
前記画像補間ステップにより補間された前記縮小画像の画素の輝度を一つ前の大きさの画像に置換する画像更新ステップとを含むことを特徴とする欠損画像の補間方法。
【請求項2】
前記縮小画像生成ステップにより生成される縮小画像が元の欠損画像の大きさとなるまで前記画像補間ステップ及び前記画像更新ステップを繰り返すことを特徴とする請求項1に記載の欠損画像の補間方法。
【請求項3】
前記縮小画像生成ステップは、前記欠損画像を構成する画素を一つ置きに間引くことを特徴とする請求項1又は請求項2に記載の欠損画像の補間方法。
【請求項4】
前記縮小画像生成ステップは、前記欠損画像をチェッカーボード状に間引くことを特徴とする請求項1又は請求項2に記載の欠損画像の補間方法。
【請求項5】
前記縮小画像生成ステップは、前記欠損画像を構成する画素のうち、輝度が閾値よりも大きな画素を間引くことを特徴とする請求項1乃至請求項4いずれかに記載の欠損画像の補間方法。
【請求項6】
タイヤ表面を撮像して得られた検査画像を画像処理してタイヤ表面のキズの有無を判定するタイヤ表面の検査方法であって、
前記検査画像に含まれる欠損画像を検出する欠損画像検出ステップと、
前記欠損画像を構成する画素が閾値以下の画素数となるまで前記画素を間引きして縮小画像を生成する縮小画像生成ステップと、
前記縮小画像をインペインティング処理して前記縮小画像の画素の輝度を補間する画像補間ステップと、
前記画像補間ステップにより補間された前記縮小画像の画素の輝度を一つ前の大きさの画像に置換する画像更新ステップとを含み、
前記縮小画像生成ステップにより生成される縮小画像が元の欠損画像の大きさとなるまで前記画像補間ステップ及び前記画像更新ステップを繰り返し行い、元の欠損画像の大きさまで戻された前記検査画像を構成する画素の輝度に基づいてタイヤ表面を検査することを特徴とするタイヤ表面の検査方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図5】
image rotate


【公開番号】特開2011−81576(P2011−81576A)
【公開日】平成23年4月21日(2011.4.21)
【国際特許分類】
【出願番号】特願2009−232900(P2009−232900)
【出願日】平成21年10月6日(2009.10.6)
【出願人】(000005278)株式会社ブリヂストン (11,469)
【Fターム(参考)】