画像処理装置
【課題】画像の拡大や射影変換のような画素の補間が必要になる画像変換を行なう際に、補間の影響で画像変換後の画像のエッジが太くなったり、ぼやけたりしないようにして低コスト化を図る。
【解決手段】チェインコード部4に画像変換前のエッジ画像の各エッジ画素の繋がりを記憶し、この記憶に基づき、画像変換部5により、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素の繋がりを認識し、変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、元の線幅のまま結ぶように補間画素で埋めて、画像の拡大や射影変換等の画像変換を行なう。
【解決手段】チェインコード部4に画像変換前のエッジ画像の各エッジ画素の繋がりを記憶し、この記憶に基づき、画像変換部5により、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素の繋がりを認識し、変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、元の線幅のまま結ぶように補間画素で埋めて、画像の拡大や射影変換等の画像変換を行なう。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像の拡大や射影変換のような画素の補間が必要になる画像変換を行なう画像処理装置に関し、詳しくは画像変換によるエッジの劣化防止に関する。
【背景技術】
【0002】
従来、種々の運転支援システムを搭載した車両においては、例えばCCDイメージセンサやCMOSイメージセンサで構成された単眼カメラの撮影画像のテンプレートマッチング等で周囲の他の車両や路面の白線等を検出する。
【0003】
この場合、撮影画像はエッジ画像に変換された後、必要に応じて、拡大や射影変換の画像変換が施される。また、用意される各テンプレート画像(エッジ画像)についても、必要に応じて、拡大の画像変換が施される。
【0004】
ところで、上記のエッジ画像の拡大や射影変換等の画像変換においては、画像変換により増加する画素を何らかの手法で補間することが必要になる。
【0005】
そして、画像を拡大する画像変換の画像処理については、バイリニア法により、補間位置の周囲の複数画素の平均輝度(濃度)の画素で補間することが提案されている(例えば、特許文献1(段落[0003]−[0004]、図1等)参照)。
【0006】
また、最近傍法により、補間位置をその周囲の最も近い画素と同じ濃度の画素で補間して画像を拡大することも提案されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2006−78552号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1に記載のバイリニア法の補間を施して撮影画像やテンプレート画像のエッジ画像の拡大や射影変換等の画像変換を行なう場合、補間が複数画素に及び、画像変換後の拡大画像や射影変換画像のエッジが太くなったり、ぼやけたりする。また、最近傍法の補間によって撮影画像やテンプレート画像のエッジ画像の拡大や射影変換等の画像変換を行なう場合にも、同様に補間が複数画素に及び、画像変換後の拡大画像や射影変換画像のエッジが太くなったり、ぼやけたりする。
【0009】
なお、エッジ画像を細線化してからバイリニア法や最近傍法で画像変換を行なったとしても、補間の影響でエッジが太くなったり、ぼやけたりする。
【0010】
その結果、例えば撮影画像やテンプレート画像の拡大などを伴うテンプレートマッチングでは、高解像度の撮影画像やテンプレート画像を用意しなけば正しいマッチング結果が得られなくなり、高解像度の高価なカメラ等が必要になって低コスト化を図ることができない。
【0011】
本発明は、画像の拡大や射影変換のような画素の補間が必要になる画像変換を行なう際に、補間の影響で画像変換後の画像のエッジが太くなったり、ぼやけたりしないようにして低コスト化を図ることを目的とする。
【課題を解決するための手段】
【0012】
上記した目的を達成するために、本発明の画像処理装置は、画素の補間が必要な画像変換を行なう画像処理装置であって、画像変換前の画像の各エッジ画素と隣のエッジ画素との繋がりを記憶する記憶手段と、前記記憶手段に記憶された前記繋がりに基づき、画像変換により不連続になる画像変換後の前記各エッジ画素の間を、画像変換後の前記各エッジ画素と前記隣のエッジ画素とを結ぶ補間画素により補間し、画像変換を行なう画像変換手段とを備えたことを特徴としている(請求項1)。
【発明の効果】
【0013】
請求項1に記載の本発明の画像処理装置によれば、記憶手段に画像変換前の画像の各エッジ画素の繋がり(繋がり方向等)が記憶され、この記憶に基づき、画像変換手段は、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素の繋がりを認識し、変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、元の線幅のまま(すなわち「線幅1」のまま)結ぶように補間画素で埋めて、画像の拡大や射影変換等の画像変換が行なえる。
【0014】
この場合、変換後の画像のエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、「線幅1」のエッジの繋がりを維持して拡大や射影変換の画像変換が行なえる。
【0015】
そして、画像変換後の画像を例えばテンプレートマッチングの撮影画像やテンプレート画像として用いれば、高解像度の撮影画像やテンプレート画像を用意しなくても正しいマッチング結果を得ることができるようになり、低コスト化を図ることができる。
【図面の簡単な説明】
【0016】
【図1】本発明の画像処理装置の一実施形態のブロック図である。
【図2】図1の画像処理装置のチェインコードの説明図である。
【図3】(a)は図2のチェインコードによって繋がりが記憶される画像変換前のエッジ画像例の説明図、(b)は記憶されるチェインコードの一例の説明図である。
【図4】(a)は図3の変換前のエッジ画像を3倍に拡大した画像例、(b)はそのチェインコードの説明図である。
【図5】撮影画像のエッジ画像の一例の説明図である。
【図6】図5のエッジ画像の一部を本実施形態の画像変換で3倍に拡大した画像例の説明図である。
【図7】図5のエッジ画像の一部を比較のためにバイリニア法の補間を施して3倍に拡大した画像例の説明図である。
【図8】図5のエッジ画像の一部を比較のために最近傍法の補間を施して3倍に拡大した画像例の説明図である。
【図9】図5のエッジ画像の他の一部を本実施形態の画像変換により射影変換した画像例の説明図である。
【図10】図5のエッジ画像の他の一部を比較のためにバイリニア法の補間を施して射影変換した画像例の説明図である。
【図11】図1の画像処理装置の動作説明用のフローチャートである。
【発明を実施するための形態】
【0017】
本発明の一実施形態について、図1〜図11を参照して説明する。
【0018】
図1は車両1が備える本実施形態の画像処理装置を示し、この画像処理装置は、マイクロコンピュータのソフトウェア処理によって、路面の白線検出等に用いられる撮影画像の拡大や射影変換を行なう。そのため、CCDイメージセンサやCMOSイメージセンサの単眼カメラ構成のカメラ部2により、車両1の前方または後方を撮影する。カメラ部2の時々刻々のモノクロまたはカラーの撮影画像はエッジ抽出部3に入力され、エッジ抽出部3は、撮影画像の輝度成分を水平・垂直方向に微分して2値化し、撮影画像の水平・垂直のエッジ成分を含むエッジ画像を抽出する。
【0019】
このエッジ画像から画像変換の領域設定等に基づいて切り取られた一部又は全部(以下、対象画像という)が本発明の画像変換前の画像であり、この対象画像が本発明の記憶手段を形成するチェインコード変換部4に入力される。
【0020】
チェインコード変換部4は、対象画像の各エッジ画素を周知のチェインコードに変換し、このチェインコードをRAMやリフレッシュメモリ等で形成された内部のチェインコードテーブルに書き込んで記憶する。
【0021】
チェインコードは、一般に画像の輪郭抽出等に用いられる周知のコードであり、着目画素を輪郭上の起点(開始点)の画素から輪郭に沿って移動しながら、着目画素からみた移動方向の隣のエッジ画素の方向を記憶するコードであり、各エッジ画素と隣のエッジ画素との繋がりの方向(連係方向)を表すことができ、しかも、各エッジ画素の繋がりを座標値で表す場合等より情報量が少ない利点がある。
【0022】
図2はチェインコードの方向コードの一例を示し、図中のXはエッジ上の着目画素(エッジ画素)、その周囲の数字0〜7は着目画素から等角度間隔の8方向それぞれに割り当てられた数字である。そして、チェインコードは、着目画素に隣接するエッジ画素の位置を、図中の矢印線に示す着目画素からの方向(数字0〜7)で記憶する。
【0023】
図3(a)は画像変換前の対象画像Paの一例を示し、p、p(x、y)は画像Paにおける輪郭エッジの各エッジ画素である。座標値(x、y)のエッジ画素p(x、y)を起点の着目画素として、着目画素をエッジ画素p(x、y)から輪郭に沿って反時計回りに各エッジ画素pに移動しながらチェインコードに変換すると、同図(b)の「00233466」のチェインコードCaが得られる。なお、座標値(x、y)は例えば対象画像の所定位置を原点とする座標値である。
【0024】
図1に戻り、チェインコード変換部4の後段の画像変換部5は、本発明の画像変換手段を形成し、エッジ画素pの画像変換後のエッジ画素をqとして、チェインコード変換部4にチェインコードCaで記憶された画像変換前の各エッジ画素p、p(x,y)の繋がり方向に基づき、画像変換により不連続になる画像変換後の各エッジ画素qの間を、画像変換後の各エッジ画素qと隣のエッジ画素qとを結ぶ補間画素rにより補間し、指定された画像変換を行なう。
【0025】
例えば、指定された画像変換が3倍の拡大であれば、画像変換前の各エッジ画素p、p(x,y)は、チェインコードCaを参照して、画素の座標値(画素位置)をx方向、y方向に3倍(x→3x、y→3y)に拡大した画素q、q(3x、3y)に変換される。さらに具体的に説明すると、基点のエッジ画素p(x,y)を3倍の座標値(3x、3y)のエッジ画素q(3x、3y)とすると、以降はチェインコードCaを参照して、x→3x、y→3yの座標変換が行なわれ、基点のエッジ画素p(x,y)の隣の画素pは方向「0」に3画素延ばした座標値のエッジ画素q、つぎの方向「0」の隣の画素pは方向「0」にさらに3画素延ばした座標値のエッジ画素、…に変換される。
【0026】
このとき、図4(a)の変換画像Pbに示すように、変換後の黒色のエッジ画素q(3x、3y)、q間には直線で白色の2画素の不連続(欠落)が生じる。すなわち、拡大の画像変換の場合、変換後の黒色のエッジ画素q(3x、3y)、qと、チェインコードCaに基づいてエッジをたどる方向の隣のエッジ画素q、q(3x、3y)との間には、(倍率−1)の画素が欠落する。
【0027】
そこで、画像変換部5は、画像変換前の対象画像Paにつき、チェインコードCaを参照した座標値の拡大により、画像変換前のエッジ画素p(x、y)、pがエッジ画素q(3x、3y)、qに変換されたとして、画像変換後の各エッジ画素q(3x、3y)、qの画素位置(座標)と、チェインコードCaに基づいてエッジをたどる方向の隣のq、q(3x、3y)の画素位置(座標)とを、例えば直線で結び、その直線が通る空白部分の前記した白色の2画素を、補間画素rとして生成し、エッジ画素q(3x、3y)、q及び各補間画素rによって、座標値を3倍に拡大した画像変換後の変換画像PbのチェインコードCbを形成する。
【0028】
図4(b)は変換画像PbのチェインコードCbを示し、数字間の「−」で示した部分が、2個の補間画素rの部分であり、この部分は、それぞれの左側の数字と同じ数字で埋められて補間される。その結果、画像変換後のチェインコードCbは(0、0、0、0、0、0、2、2、2、3、3、3、3、3、3、4、4、4、6、6、6、6、6、6)となる。
【0029】
そして、画像変換部5は画像変換後のチェインコードCbと、変換画像Pbの各画素q(3x、3y)、q、rの座標値とのいずれか一方または両方を、画像変換後の画像情報として変換画像出力部6に送る。変換画像出力部6は図示省略した白線検出等の処理部に前記画像変換後の画像の情報を与える。
【0030】
この場合、図3(a)の画像変換前の対象画像Paの輪郭エッジは、1個のエッジ画素の「線幅1」であり、エッジ画素q(3x、3y)、q間を補間画素rで埋めて形成される、3倍に拡大された変換画像Pbも、同じように「線幅1」である。
【0031】
すなわち、画像変換前のチェインコードCaに記憶された画像変換前の対象画像Paの各エッジ画素p(x、y)、pの繋がり方向に基づき、画像変換部5は、例えば3倍の拡大の画像変換により不連続になる変換後の各エッジ画素q(3x、3y)、qの繋がりを認識し、変換後の各エッジ画素q(3x、3y)、qとそれらの画素q(3x、3y)、qに繋がる元は隣のエッジ画素q、q(3x、3y)との間を、一または複数の補間画素rにより「線幅1」のまま直線状に結ぶように埋めて、対象画像Paを3倍に拡大した変換画像Pbに変換する。
【0032】
そして、変換画像Pbは、エッジが、「線幅1」の画像変換前と同じ太さであり、ぼやけることもなく、鮮明であり、画素q(3x、3y)、q、rによる「線幅1」の繋がりが維持される。
【0033】
図5はエッジ抽出部3で得られる「線幅1」のエッジ画像Pcの具体例を示す。そして、エッジ画像Pc中の破線の丸印αで囲んだ部分を画像変換前の対象画像Paとして、本実施形態の補間、バイリニア法の補間、最近傍法の補間それぞれに基づく3倍の拡大の画像変換を行なったところ、図6、図7、図8の結果が得られた。
【0034】
図6は本実施形態の補間が施された画像変換後の3倍拡大の変換画像Pb、図7はバイリニア法の補間が施された画像変換後の3倍拡大の変換画像Pd、図8は最近傍法の補間が施された画像変換後の3倍拡大の変換画像Peである。変換画像Pb、Pd、Peの比較からも明らかなように、変換画像Pbは「線幅1」の鮮明な画像であるが、変換画像Pdはぼやける。また、変換画像Peは輪郭の線が太くなる。
【0035】
そして、画像変換後の変換画像Pbを用いることにより、バイリニア法の補間や最近傍法の補間を行なう場合には必要となる、より高解像度の撮影画像を用意してなくても正しいマッチング結果を得て白線検出等が行なえ、低コスト化を図ることができる。
【0036】
ところで、画像変換部5は、指定倍率の拡大の処理に代えて、射影変換の処理等も行なうことができる。拡大の場合、指定倍率をnとすると、座標値(x、y)をn倍にして変換するだけなので、前記したように変換後のチェインコードCbは、変換前のチェインコードCaの各数字間を(n−1)個の同じ方向の数字で埋めて極めて簡単に得られるが、射影変換の場合は、座標値(x、y)が周知の射影変換式にしたがって変換されるので、例えば、画像変換前のチェインコードCaから得られる画像変換前の対象画像Paの各エッジ画素p(x、y)、pの座標値を前記射影変換式に代入して射影変換された変換画像の各エッジ画素の座標値を得、各エッジ画素の座標を変換前のチェインコードCaの繋がりの順に直線で結んだときの各エッジ画素間の直線が通る空きの座標値を補間画素rの座標値として求め、画像変換後の各エッジ画素および各補間画素rの座標値をチェインコードの数値に変換して射影変換後のチェインコードを得ることで、射影変換の画像変換を行なう。この場合も、射影変換により不連続になる画像変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、「線幅1」のまま結ぶように補間画素rで埋めて画像の射影変換が行なえ、射影変換後の画像のエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、「線幅1」のエッジの繋がりが維持され、低コスト化を図ることができる。
【0037】
図9は図5のエッジ画像Pcを上記のように補間画素rを用いた補間を施して射影変換した場合の射影変換後の変換画像Pfであり、図10は比較のために図5のエッジ画像Pcをバイリニア法の補間を施して射影変換した場合の射影変換後の変換画像Pgである。
【0038】
画像Pf、Pgの比較からも明らかなように、補間画素rを用いて射影変換した場合、前記したように、射影変換後の変換画像Pfのエッジは「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であるが、バイリニア法の補間を施して射影変換した場合は、変換画像Pgはぼやけてエッジの線も太くなる。
【0039】
図11はエッジ抽出部3、チェインコード変換部4、画像変換部5のプログラム設定された上記の画像処理の手順を示し、エッジ抽出部3が撮影画像から「線幅1」のエッジ画像Pcを抽出し(ステップS1)、チェインコード変換部4がエッジ画像Pcの一部または全部の画像変換前の対象画像Paのエッジの各エッジ画素p(x、y)、pの座標をチェインコードCaに変換する(ステップS2)。そして、画像変換部5は、画像変換前のチェインコードCaの各数値を、拡大倍率等にしたがって先頭値から順に変換後の座標値に変換し(ステップS3、ステップS4のNO、ステップS5)、変換順の各座標値を直線で結んで各直線が通る空きの画素部分を補間画素rで補間する(ステップS6)。このとき、拡大の画像変換であれば、変換前のチェインコードCaの各数字間が(倍率−1)個の同じ方向の数字で埋められる。そして、チェインコードCaの末尾(最後)の数値まで補間画素rを作成して画像変換が終了すれば、変換後のチェインコードCbが形成されて一連の画像処理が終了する(ステップS4のYES)。
【0040】
以上説明したように、本実施形態の場合、拡大や射影変換の画像変換処理を行なう際に、チェインコードCaで画像変換前の対象画像Paのエッジ画素p(x、y)、pの繋がりを記憶し、この記憶に基づき、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素q(3x、3y)、qの繋がりを認識し、変換後の各エッジ画素q(3x、3y)、qとそれらの画素q(3x、3y)、qに繋がる元は隣のエッジ画素q、q(3x、3y)との間を、元の「線幅1」のまま直線状に結ぶように補間画素rで埋めて、画像の拡大や射影変換等の画像変換を行なうことができる。
【0041】
そして、画像変換後の変換画像Pb、Pfのエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、変換画像Pb、Pfを、例えば白線検出等のテンプレートマッチングの拡大や射影変換が施された撮影画像として用いれば、高解像度の撮影画像やテンプレート画像を用意しなくても正しいマッチング結果を得て正確な白線検出等が行なえるようになり、低コスト化を図ることができる。
【0042】
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、前記実施形態では、撮影画像を拡大や射影変換する場合に適用したが、例えばテンプレートマッチングのテンプレート画像等についても、同様にして拡大や射影変換の画像変換を施すことができるのは勿論である。
【0043】
また、前記実施形態の場合は、変換後のエッジ画素の座標位置間を直線で結んで、その直線が通る画素部分を補間画素rで埋めて補間するようにしたが、画像が円形等の場合には、前記直線に代えて、弧状の線分を用いると、画像変換後のエッジが丸みを帯び、一層自然な輪郭エッジで拡大等される利点がある。
【0044】
さらに、前記実施形態では、画像変換前の画像の各エッジ画素の繋がりをチェインコードCaで記憶するようにしたが、前記繋がりの方向等が記憶できる他のコード等で記憶するようにしてもよいのは勿論である。
【0045】
つぎに、図1の各部2〜6の構成はどのようであってもよく、また、それらの処理手順が図11と異なっていてもよいのは勿論である。
【0046】
そして、本発明は、車両に関連する種々画像変換および、車両以外の他の用途の種々画像変換に適用することができる。
【符号の説明】
【0047】
4 チェインコード変換部
5 画像変換部
Ca、Cb チェインコード
Pa 対象画像
Pb、Pd〜Pg 変換画像
Pc エッジ画像
p、p(x、y) 画像変換前のエッジ画素
q、q(3x、3y) 画像変換後のエッジ画素
r 補間画素
【技術分野】
【0001】
この発明は、画像の拡大や射影変換のような画素の補間が必要になる画像変換を行なう画像処理装置に関し、詳しくは画像変換によるエッジの劣化防止に関する。
【背景技術】
【0002】
従来、種々の運転支援システムを搭載した車両においては、例えばCCDイメージセンサやCMOSイメージセンサで構成された単眼カメラの撮影画像のテンプレートマッチング等で周囲の他の車両や路面の白線等を検出する。
【0003】
この場合、撮影画像はエッジ画像に変換された後、必要に応じて、拡大や射影変換の画像変換が施される。また、用意される各テンプレート画像(エッジ画像)についても、必要に応じて、拡大の画像変換が施される。
【0004】
ところで、上記のエッジ画像の拡大や射影変換等の画像変換においては、画像変換により増加する画素を何らかの手法で補間することが必要になる。
【0005】
そして、画像を拡大する画像変換の画像処理については、バイリニア法により、補間位置の周囲の複数画素の平均輝度(濃度)の画素で補間することが提案されている(例えば、特許文献1(段落[0003]−[0004]、図1等)参照)。
【0006】
また、最近傍法により、補間位置をその周囲の最も近い画素と同じ濃度の画素で補間して画像を拡大することも提案されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2006−78552号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1に記載のバイリニア法の補間を施して撮影画像やテンプレート画像のエッジ画像の拡大や射影変換等の画像変換を行なう場合、補間が複数画素に及び、画像変換後の拡大画像や射影変換画像のエッジが太くなったり、ぼやけたりする。また、最近傍法の補間によって撮影画像やテンプレート画像のエッジ画像の拡大や射影変換等の画像変換を行なう場合にも、同様に補間が複数画素に及び、画像変換後の拡大画像や射影変換画像のエッジが太くなったり、ぼやけたりする。
【0009】
なお、エッジ画像を細線化してからバイリニア法や最近傍法で画像変換を行なったとしても、補間の影響でエッジが太くなったり、ぼやけたりする。
【0010】
その結果、例えば撮影画像やテンプレート画像の拡大などを伴うテンプレートマッチングでは、高解像度の撮影画像やテンプレート画像を用意しなけば正しいマッチング結果が得られなくなり、高解像度の高価なカメラ等が必要になって低コスト化を図ることができない。
【0011】
本発明は、画像の拡大や射影変換のような画素の補間が必要になる画像変換を行なう際に、補間の影響で画像変換後の画像のエッジが太くなったり、ぼやけたりしないようにして低コスト化を図ることを目的とする。
【課題を解決するための手段】
【0012】
上記した目的を達成するために、本発明の画像処理装置は、画素の補間が必要な画像変換を行なう画像処理装置であって、画像変換前の画像の各エッジ画素と隣のエッジ画素との繋がりを記憶する記憶手段と、前記記憶手段に記憶された前記繋がりに基づき、画像変換により不連続になる画像変換後の前記各エッジ画素の間を、画像変換後の前記各エッジ画素と前記隣のエッジ画素とを結ぶ補間画素により補間し、画像変換を行なう画像変換手段とを備えたことを特徴としている(請求項1)。
【発明の効果】
【0013】
請求項1に記載の本発明の画像処理装置によれば、記憶手段に画像変換前の画像の各エッジ画素の繋がり(繋がり方向等)が記憶され、この記憶に基づき、画像変換手段は、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素の繋がりを認識し、変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、元の線幅のまま(すなわち「線幅1」のまま)結ぶように補間画素で埋めて、画像の拡大や射影変換等の画像変換が行なえる。
【0014】
この場合、変換後の画像のエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、「線幅1」のエッジの繋がりを維持して拡大や射影変換の画像変換が行なえる。
【0015】
そして、画像変換後の画像を例えばテンプレートマッチングの撮影画像やテンプレート画像として用いれば、高解像度の撮影画像やテンプレート画像を用意しなくても正しいマッチング結果を得ることができるようになり、低コスト化を図ることができる。
【図面の簡単な説明】
【0016】
【図1】本発明の画像処理装置の一実施形態のブロック図である。
【図2】図1の画像処理装置のチェインコードの説明図である。
【図3】(a)は図2のチェインコードによって繋がりが記憶される画像変換前のエッジ画像例の説明図、(b)は記憶されるチェインコードの一例の説明図である。
【図4】(a)は図3の変換前のエッジ画像を3倍に拡大した画像例、(b)はそのチェインコードの説明図である。
【図5】撮影画像のエッジ画像の一例の説明図である。
【図6】図5のエッジ画像の一部を本実施形態の画像変換で3倍に拡大した画像例の説明図である。
【図7】図5のエッジ画像の一部を比較のためにバイリニア法の補間を施して3倍に拡大した画像例の説明図である。
【図8】図5のエッジ画像の一部を比較のために最近傍法の補間を施して3倍に拡大した画像例の説明図である。
【図9】図5のエッジ画像の他の一部を本実施形態の画像変換により射影変換した画像例の説明図である。
【図10】図5のエッジ画像の他の一部を比較のためにバイリニア法の補間を施して射影変換した画像例の説明図である。
【図11】図1の画像処理装置の動作説明用のフローチャートである。
【発明を実施するための形態】
【0017】
本発明の一実施形態について、図1〜図11を参照して説明する。
【0018】
図1は車両1が備える本実施形態の画像処理装置を示し、この画像処理装置は、マイクロコンピュータのソフトウェア処理によって、路面の白線検出等に用いられる撮影画像の拡大や射影変換を行なう。そのため、CCDイメージセンサやCMOSイメージセンサの単眼カメラ構成のカメラ部2により、車両1の前方または後方を撮影する。カメラ部2の時々刻々のモノクロまたはカラーの撮影画像はエッジ抽出部3に入力され、エッジ抽出部3は、撮影画像の輝度成分を水平・垂直方向に微分して2値化し、撮影画像の水平・垂直のエッジ成分を含むエッジ画像を抽出する。
【0019】
このエッジ画像から画像変換の領域設定等に基づいて切り取られた一部又は全部(以下、対象画像という)が本発明の画像変換前の画像であり、この対象画像が本発明の記憶手段を形成するチェインコード変換部4に入力される。
【0020】
チェインコード変換部4は、対象画像の各エッジ画素を周知のチェインコードに変換し、このチェインコードをRAMやリフレッシュメモリ等で形成された内部のチェインコードテーブルに書き込んで記憶する。
【0021】
チェインコードは、一般に画像の輪郭抽出等に用いられる周知のコードであり、着目画素を輪郭上の起点(開始点)の画素から輪郭に沿って移動しながら、着目画素からみた移動方向の隣のエッジ画素の方向を記憶するコードであり、各エッジ画素と隣のエッジ画素との繋がりの方向(連係方向)を表すことができ、しかも、各エッジ画素の繋がりを座標値で表す場合等より情報量が少ない利点がある。
【0022】
図2はチェインコードの方向コードの一例を示し、図中のXはエッジ上の着目画素(エッジ画素)、その周囲の数字0〜7は着目画素から等角度間隔の8方向それぞれに割り当てられた数字である。そして、チェインコードは、着目画素に隣接するエッジ画素の位置を、図中の矢印線に示す着目画素からの方向(数字0〜7)で記憶する。
【0023】
図3(a)は画像変換前の対象画像Paの一例を示し、p、p(x、y)は画像Paにおける輪郭エッジの各エッジ画素である。座標値(x、y)のエッジ画素p(x、y)を起点の着目画素として、着目画素をエッジ画素p(x、y)から輪郭に沿って反時計回りに各エッジ画素pに移動しながらチェインコードに変換すると、同図(b)の「00233466」のチェインコードCaが得られる。なお、座標値(x、y)は例えば対象画像の所定位置を原点とする座標値である。
【0024】
図1に戻り、チェインコード変換部4の後段の画像変換部5は、本発明の画像変換手段を形成し、エッジ画素pの画像変換後のエッジ画素をqとして、チェインコード変換部4にチェインコードCaで記憶された画像変換前の各エッジ画素p、p(x,y)の繋がり方向に基づき、画像変換により不連続になる画像変換後の各エッジ画素qの間を、画像変換後の各エッジ画素qと隣のエッジ画素qとを結ぶ補間画素rにより補間し、指定された画像変換を行なう。
【0025】
例えば、指定された画像変換が3倍の拡大であれば、画像変換前の各エッジ画素p、p(x,y)は、チェインコードCaを参照して、画素の座標値(画素位置)をx方向、y方向に3倍(x→3x、y→3y)に拡大した画素q、q(3x、3y)に変換される。さらに具体的に説明すると、基点のエッジ画素p(x,y)を3倍の座標値(3x、3y)のエッジ画素q(3x、3y)とすると、以降はチェインコードCaを参照して、x→3x、y→3yの座標変換が行なわれ、基点のエッジ画素p(x,y)の隣の画素pは方向「0」に3画素延ばした座標値のエッジ画素q、つぎの方向「0」の隣の画素pは方向「0」にさらに3画素延ばした座標値のエッジ画素、…に変換される。
【0026】
このとき、図4(a)の変換画像Pbに示すように、変換後の黒色のエッジ画素q(3x、3y)、q間には直線で白色の2画素の不連続(欠落)が生じる。すなわち、拡大の画像変換の場合、変換後の黒色のエッジ画素q(3x、3y)、qと、チェインコードCaに基づいてエッジをたどる方向の隣のエッジ画素q、q(3x、3y)との間には、(倍率−1)の画素が欠落する。
【0027】
そこで、画像変換部5は、画像変換前の対象画像Paにつき、チェインコードCaを参照した座標値の拡大により、画像変換前のエッジ画素p(x、y)、pがエッジ画素q(3x、3y)、qに変換されたとして、画像変換後の各エッジ画素q(3x、3y)、qの画素位置(座標)と、チェインコードCaに基づいてエッジをたどる方向の隣のq、q(3x、3y)の画素位置(座標)とを、例えば直線で結び、その直線が通る空白部分の前記した白色の2画素を、補間画素rとして生成し、エッジ画素q(3x、3y)、q及び各補間画素rによって、座標値を3倍に拡大した画像変換後の変換画像PbのチェインコードCbを形成する。
【0028】
図4(b)は変換画像PbのチェインコードCbを示し、数字間の「−」で示した部分が、2個の補間画素rの部分であり、この部分は、それぞれの左側の数字と同じ数字で埋められて補間される。その結果、画像変換後のチェインコードCbは(0、0、0、0、0、0、2、2、2、3、3、3、3、3、3、4、4、4、6、6、6、6、6、6)となる。
【0029】
そして、画像変換部5は画像変換後のチェインコードCbと、変換画像Pbの各画素q(3x、3y)、q、rの座標値とのいずれか一方または両方を、画像変換後の画像情報として変換画像出力部6に送る。変換画像出力部6は図示省略した白線検出等の処理部に前記画像変換後の画像の情報を与える。
【0030】
この場合、図3(a)の画像変換前の対象画像Paの輪郭エッジは、1個のエッジ画素の「線幅1」であり、エッジ画素q(3x、3y)、q間を補間画素rで埋めて形成される、3倍に拡大された変換画像Pbも、同じように「線幅1」である。
【0031】
すなわち、画像変換前のチェインコードCaに記憶された画像変換前の対象画像Paの各エッジ画素p(x、y)、pの繋がり方向に基づき、画像変換部5は、例えば3倍の拡大の画像変換により不連続になる変換後の各エッジ画素q(3x、3y)、qの繋がりを認識し、変換後の各エッジ画素q(3x、3y)、qとそれらの画素q(3x、3y)、qに繋がる元は隣のエッジ画素q、q(3x、3y)との間を、一または複数の補間画素rにより「線幅1」のまま直線状に結ぶように埋めて、対象画像Paを3倍に拡大した変換画像Pbに変換する。
【0032】
そして、変換画像Pbは、エッジが、「線幅1」の画像変換前と同じ太さであり、ぼやけることもなく、鮮明であり、画素q(3x、3y)、q、rによる「線幅1」の繋がりが維持される。
【0033】
図5はエッジ抽出部3で得られる「線幅1」のエッジ画像Pcの具体例を示す。そして、エッジ画像Pc中の破線の丸印αで囲んだ部分を画像変換前の対象画像Paとして、本実施形態の補間、バイリニア法の補間、最近傍法の補間それぞれに基づく3倍の拡大の画像変換を行なったところ、図6、図7、図8の結果が得られた。
【0034】
図6は本実施形態の補間が施された画像変換後の3倍拡大の変換画像Pb、図7はバイリニア法の補間が施された画像変換後の3倍拡大の変換画像Pd、図8は最近傍法の補間が施された画像変換後の3倍拡大の変換画像Peである。変換画像Pb、Pd、Peの比較からも明らかなように、変換画像Pbは「線幅1」の鮮明な画像であるが、変換画像Pdはぼやける。また、変換画像Peは輪郭の線が太くなる。
【0035】
そして、画像変換後の変換画像Pbを用いることにより、バイリニア法の補間や最近傍法の補間を行なう場合には必要となる、より高解像度の撮影画像を用意してなくても正しいマッチング結果を得て白線検出等が行なえ、低コスト化を図ることができる。
【0036】
ところで、画像変換部5は、指定倍率の拡大の処理に代えて、射影変換の処理等も行なうことができる。拡大の場合、指定倍率をnとすると、座標値(x、y)をn倍にして変換するだけなので、前記したように変換後のチェインコードCbは、変換前のチェインコードCaの各数字間を(n−1)個の同じ方向の数字で埋めて極めて簡単に得られるが、射影変換の場合は、座標値(x、y)が周知の射影変換式にしたがって変換されるので、例えば、画像変換前のチェインコードCaから得られる画像変換前の対象画像Paの各エッジ画素p(x、y)、pの座標値を前記射影変換式に代入して射影変換された変換画像の各エッジ画素の座標値を得、各エッジ画素の座標を変換前のチェインコードCaの繋がりの順に直線で結んだときの各エッジ画素間の直線が通る空きの座標値を補間画素rの座標値として求め、画像変換後の各エッジ画素および各補間画素rの座標値をチェインコードの数値に変換して射影変換後のチェインコードを得ることで、射影変換の画像変換を行なう。この場合も、射影変換により不連続になる画像変換後の各エッジ画素とそれらの画素に繋がる元は隣のエッジ画素との間を、「線幅1」のまま結ぶように補間画素rで埋めて画像の射影変換が行なえ、射影変換後の画像のエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、「線幅1」のエッジの繋がりが維持され、低コスト化を図ることができる。
【0037】
図9は図5のエッジ画像Pcを上記のように補間画素rを用いた補間を施して射影変換した場合の射影変換後の変換画像Pfであり、図10は比較のために図5のエッジ画像Pcをバイリニア法の補間を施して射影変換した場合の射影変換後の変換画像Pgである。
【0038】
画像Pf、Pgの比較からも明らかなように、補間画素rを用いて射影変換した場合、前記したように、射影変換後の変換画像Pfのエッジは「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であるが、バイリニア法の補間を施して射影変換した場合は、変換画像Pgはぼやけてエッジの線も太くなる。
【0039】
図11はエッジ抽出部3、チェインコード変換部4、画像変換部5のプログラム設定された上記の画像処理の手順を示し、エッジ抽出部3が撮影画像から「線幅1」のエッジ画像Pcを抽出し(ステップS1)、チェインコード変換部4がエッジ画像Pcの一部または全部の画像変換前の対象画像Paのエッジの各エッジ画素p(x、y)、pの座標をチェインコードCaに変換する(ステップS2)。そして、画像変換部5は、画像変換前のチェインコードCaの各数値を、拡大倍率等にしたがって先頭値から順に変換後の座標値に変換し(ステップS3、ステップS4のNO、ステップS5)、変換順の各座標値を直線で結んで各直線が通る空きの画素部分を補間画素rで補間する(ステップS6)。このとき、拡大の画像変換であれば、変換前のチェインコードCaの各数字間が(倍率−1)個の同じ方向の数字で埋められる。そして、チェインコードCaの末尾(最後)の数値まで補間画素rを作成して画像変換が終了すれば、変換後のチェインコードCbが形成されて一連の画像処理が終了する(ステップS4のYES)。
【0040】
以上説明したように、本実施形態の場合、拡大や射影変換の画像変換処理を行なう際に、チェインコードCaで画像変換前の対象画像Paのエッジ画素p(x、y)、pの繋がりを記憶し、この記憶に基づき、拡大や射影変換などの画像変換により不連続になる変換後の各エッジ画素q(3x、3y)、qの繋がりを認識し、変換後の各エッジ画素q(3x、3y)、qとそれらの画素q(3x、3y)、qに繋がる元は隣のエッジ画素q、q(3x、3y)との間を、元の「線幅1」のまま直線状に結ぶように補間画素rで埋めて、画像の拡大や射影変換等の画像変換を行なうことができる。
【0041】
そして、画像変換後の変換画像Pb、Pfのエッジは、「線幅1」の変換前と同じ太さであり、ぼやけることもなく、鮮明であり、変換画像Pb、Pfを、例えば白線検出等のテンプレートマッチングの拡大や射影変換が施された撮影画像として用いれば、高解像度の撮影画像やテンプレート画像を用意しなくても正しいマッチング結果を得て正確な白線検出等が行なえるようになり、低コスト化を図ることができる。
【0042】
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、前記実施形態では、撮影画像を拡大や射影変換する場合に適用したが、例えばテンプレートマッチングのテンプレート画像等についても、同様にして拡大や射影変換の画像変換を施すことができるのは勿論である。
【0043】
また、前記実施形態の場合は、変換後のエッジ画素の座標位置間を直線で結んで、その直線が通る画素部分を補間画素rで埋めて補間するようにしたが、画像が円形等の場合には、前記直線に代えて、弧状の線分を用いると、画像変換後のエッジが丸みを帯び、一層自然な輪郭エッジで拡大等される利点がある。
【0044】
さらに、前記実施形態では、画像変換前の画像の各エッジ画素の繋がりをチェインコードCaで記憶するようにしたが、前記繋がりの方向等が記憶できる他のコード等で記憶するようにしてもよいのは勿論である。
【0045】
つぎに、図1の各部2〜6の構成はどのようであってもよく、また、それらの処理手順が図11と異なっていてもよいのは勿論である。
【0046】
そして、本発明は、車両に関連する種々画像変換および、車両以外の他の用途の種々画像変換に適用することができる。
【符号の説明】
【0047】
4 チェインコード変換部
5 画像変換部
Ca、Cb チェインコード
Pa 対象画像
Pb、Pd〜Pg 変換画像
Pc エッジ画像
p、p(x、y) 画像変換前のエッジ画素
q、q(3x、3y) 画像変換後のエッジ画素
r 補間画素
【特許請求の範囲】
【請求項1】
画素の補間が必要な画像変換を行なう画像処理装置であって、
画像変換前の画像の各エッジ画素と隣のエッジ画素との繋がりを記憶する記憶手段と、
前記記憶手段に記憶された前記繋がりに基づき、画像変換により不連続になる画像変換後の前記各エッジ画素の間を、画像変換後の前記各エッジ画素と前記隣のエッジ画素とを結ぶ補間画素により補間し、画像変換を行なう画像変換手段とを備えたことを特徴とする画像処理装置。
【請求項1】
画素の補間が必要な画像変換を行なう画像処理装置であって、
画像変換前の画像の各エッジ画素と隣のエッジ画素との繋がりを記憶する記憶手段と、
前記記憶手段に記憶された前記繋がりに基づき、画像変換により不連続になる画像変換後の前記各エッジ画素の間を、画像変換後の前記各エッジ画素と前記隣のエッジ画素とを結ぶ補間画素により補間し、画像変換を行なう画像変換手段とを備えたことを特徴とする画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−159869(P2012−159869A)
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願番号】特願2011−17015(P2011−17015)
【出願日】平成23年1月28日(2011.1.28)
【出願人】(000002967)ダイハツ工業株式会社 (2,560)
【Fターム(参考)】
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願日】平成23年1月28日(2011.1.28)
【出願人】(000002967)ダイハツ工業株式会社 (2,560)
【Fターム(参考)】
[ Back to top ]