説明

路面標示地図生成方法

【課題】 道路を走行しながら路面を撮影した画像から、路面標示を含む画像を生成し、路面標示の位置座標を得る。
【解決手段】 道路を走行しながら路面をビデオカメラで撮影するとともに、各撮影地点の位置座標をＧＰＳ等で取得する。コンピュータは、この動画の各フレーム画像を変換して真上から見た状態の正射画像を生成し、撮影地点に配置することで、走行したパスにそった連結画像を生成する。また、パスの異なる連結画像を合成して幅広の道路画像を生成する。この道路画像において、連結画像同士が重なっていることにより、下側の連結画像の路面標示Ａ１５３が隠されてしまっている部分等には、自動で透明化ポリゴンＰＯＬ１５を設定する。こうすることによって、各連結画像に含まれる路面標示を有効活用して道路画像を生成することができ、路面標示の位置座標も取得しやすくなる。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、道路面に施された標示を含む路面標示地図を生成する技術に関する。
【背景技術】
【０００２】
カーナビゲーションなどで使用される電子地図データには、多様な機能を実現するため、種々の詳細なデータが要求されている。その一つとして、横断歩道や中央線、車線境界線などの路面に描かれる標示が挙げられる。これらの標示を予め画像として取得しておくことにより、ユーザに対して実際の路面に近い画像を提供することができ、直感的に理解しやすい案内を実現することが可能となる。
【０００３】
標示を含む路面の画像を効率的に生成するための技術として特許文献１、特許文献２などが挙げられる。
特許文献１は、車輌の前後または側方に対してデジタルカメラ等により取得された画像から、路面の標示を含む静止画像を生成する技術を開示している。この技術では、目的の道路を車両で走行しながら、その車両に搭載されたデジタルカメラ等で路面の標示等を撮影する。そして、動画を構成する各フレーム画像を真上から見た状態の正射画像に変換し、撮影位置に応じて配列する。正射画像とは、道路の垂直上方の無限遠点に視点を置いた場合の道路画像を言う。複数のフレーム画像を配列することによって、１回の走行の軌跡（以下、パスと呼ぶこともある）に沿った道路面の合成画像を得ることができる。
【０００４】
特許文献２は、２つのパスで得られた画像を合成して幅広の道路画像を合成する技術を開示している。この技術では、まず一つのパスで得られた画像に対して、道路の車線境界線など、本来、直線的に描かれているものが直線として表示されるようにアフィン変換をかける。そして、２つのパスで共通して撮影されている車線境界線などの座標が一致するように、一方のパスの画像をアフィン変換する。また、同様の方法によって、パスごとに画像をアフィン変換しながら合成することによって３以上のパスを合成する技術も開示している。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００７−２４９１０３号公報
【特許文献２】特許第３８２０４２８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
地図データには、経路探索用に道路をノード、リンクで表した道路ネットワーク、および地図を表示するために道路をポリゴンで表したデータなどがある。道路ネットワークでは、道路を１本または２本のリンクで代表させているため、リンクに付された座標は、道路のいずれの部分を表しているか厳密には分からない。描画データでは、道路を表すポリゴンの外周の位置座標は分かるものの、道路内部の地点についての位置座標は分からない。
例えば、道路内部の各地点の位置座標が詳細に得られている地図データが存在すれば、車両の現在位置に応じて、車両が道路のどの車線を走行しているかを判断して、車線変更の案内を行うことや、車両に横断歩道が接近していることを警告するなどの高機能な案内を実現することが可能となる。
【０００７】
しかし、従来技術は、合成して得られる画像に含まれる路面標示を十分に活用することはできなかった。
例えば、特許文献２は、２つのパスで得られた画像を合成する旨の技術を開示しているが、各パスに対応する画像内の路面標示の画質に優劣があることは考慮されていない。つまり、一方の画像内の路面標示の画質が、他方の路面標示よりも劣る場合でも、低画質の路面標示が合成画像で用いられる可能性がある。
【０００８】
かかる弊害を回避するため、合成する際には、路面標示の画質が高い側を優先的に用いることも考えられる。しかし、２つのパスで得られる画像を比較した場合、ある部分では一方のパスの画質が良いが、他の部分では他方のパスの画質が良いということが生じる。従って、いずれか一方を優先的に用いたとしても、合成画像に含まれる路面標示の画質には更に向上の余地が残ることになる。
これらの課題の他、従来の地図データは、これらの高精度、高機能な案内を実現するためには不十分な精度しか有していなかったという課題もあった。仮に車両の現在位置を精度良く把握したとしても、その位置情報を活かすだけの詳細な地図データが用意されていたとは言えなかったのである。
【０００９】
路面の標示は道路上の位置座標を豊富にするための目的物として適している。例えば、横断歩道や車線境界線の位置座標が得られていれば、上述した高機能な案内の実現に資することができる。
しかし、従来技術は、いずれも道路面の合成画像を得ることを主目的としており、路面の標示の位置座標を得ることを目的としてはいなかった。
例えば、特許文献２の技術は、道路が直線か曲線かにかかわらず車両の進行方向をＸ軸とし、その移動距離をＸ座標として画像を表しているに過ぎず、このＸ軸に直交する方向にのみ画像をアフィン変換するに過ぎない。複数のパスで得られた画像について、このように定められたＸ座標が十分に一致しているという保証はないから、特許文献２の技術では路面の標示の位置座標を精度良く得ることはできない。
また、アフィン変換は、原画像の長方形領域を平行四辺形に歪ませる作用を持つ変換とも言えるから、特許文献２の技術では、アフィン変換によって画像の合成を行うことにより画質の劣化を招き、路面の標示の位置座標を一層低下させるという課題もある。
一方、特許文献１記載の技術は、１回のパスで得られる画像に対する処理を開示しているのみであり、道路全体を十分にカバーすることができない。
【００１０】
本発明は、これらの課題の少なくとも一部を解決し、道路面に含まれる路面標示を十分に活用した合成画像を生成可能とすることを目的とする。また、路面の標示を高い位置精度で含む地図の生成を可能とすることを目的とする。
【課題を解決するための手段】
【００１１】
本発明は、道路面に施された標示を含む路面標示地図をコンピュータによって生成する路面標示地図生成方法として構成することができる。
本発明では、まず、コンピュータは、撮影対象である道路を複数回にわたって移動しながら標示が施された道路面を撮影した連続画像の画像データと、この画像データの撮影位置を表す位置座標データとを入力する。これによって、撮影された道路を移動した際の移動軌跡である複数のパスの位置座標データと、複数のパスに沿う連続画像の画像データとが入力されることになる。
上述の画像データは、例えば、車両などの移動体に搭載した撮影装置によって撮影することができる。撮影装置としては、例えば、ディジタル・ビデオ・カメラなどを用いることができる。また、撮影装置には、撮影時の位置座標データを取得する位置計測装置を搭載しておくことが好ましい。位置計測装置は、例えば、ＧＰＳ（Global Positioning System）や、ジャイロなどの慣性航法装置などを単独または組み合わせて用いることができる。また、処理の便宜上、撮影した画像と位置座標データを入力し、両者を同期させて記録する記録装置を用意しておくことが好ましい。
【００１２】
ここで、複数のパスは、第１に、異なる車線など走行位置が異なるパスとすることができる。もっとも、必ずしも車線が異なる必要はなく、いずれかの車線上を複数回移動して撮影してもよい。車線が異なる場合は、車線とパスとが１対１に対応することになる。後者の場合は、パスと車線とが複数対１に対応することになる。本発明はいずれの場合にも適用可能である。
このようにパスの位置が異なる場合には、後述する通り、これらのパスから得られる画像を合成することによって、１つのパスで得られる範囲よりも幅広の合成画像を得ることが可能となる。
複数のパスは、第２に、異なる時期に取得したパスとしてもよい。例えば、一旦、道路の画像を撮影し、地図データを整備した後、時間が経過してから、再度、同じパスを走行して道路の画像を撮影するのである。この場合には、後述する通り、これらのパスから得られる画像を合成することによって、路面標示の変化を反映した地図を生成することが可能となる。
【００１３】
画像データを入力すると、コンピュータは、画像データを構成する各フレーム画像を変換して、道路面を真上から見た状態の正射画像を得る。正射画像は、各フレーム画像の一部を利用して生成してもよい。
そして、こうして得られた正射画像を位置座標データに基づいて、パス上に配置することにより、各パスの道路面を表す連結画像を生成して表示する。この際、正射画像の一部が重なっても良い。正射画像は、例えば、その中心線がパスの進行方向に沿う状態で配置することが好ましい。こうすることで連結画像がパスの本数分だけ得られる。
【００１４】
次に、コンピュータは、位置座標データに基づき、複数のパスを構成する連結画像を重ねて、複数のパスにまたがる道路面の合成画像を生成する。合成は種々の方法で行うことができる。例えば、位置座標データの誤差を考慮することなく、それぞれの連結画像を配置する方法を採っても良い。また、複数のパス間の位置座標データに相対的な誤差が含まれている場合には、その誤差を修正した上で合成画像を生成するようにしてもよい。修正方法については、特許文献２記載のようにアフィン変換を利用してもよいし、後で例示する方法を採用してもよい。
【００１５】
こうして合成画像を生成すると、コンピュータは、透明化ポリゴンを、連結画像に応じて定まる位置および形状で生成する。透明化ポリゴンとは、連結画像同士が重なっている領域において上側の連結画像を透過させて下側の連結画像を表示させるためのポリゴンを言う。透明化ポリゴンが生成された領域では、上側の連結画像が透過され、下側の連結画像が表示されることになる。「連結画像に応じて定まる」とは、透明化ポリゴンが所定の規則に従って自動的に生成されることを意味している。また、透明化ポリゴンは、連結画像に応じて定まるものであり、予め設定された固定の位置に透明化ポリゴンを生成する訳ではない。
【００１６】
本発明によれば、透明化ポリゴンを生成することにより、合成に用いられた連結画像に含まれる路面標示を有効活用して合成画像を生成することが可能となる。つまり、複数の連結画像のいずれか一つのみを固定的に優先させて合成画像を生成するのではない。透明化ポリゴンを設定した箇所では下側に配置された連結画像を優先し、その他の領域では上側の連結画像を優先するというように、領域ごとに優先させる連結画像を切り換えることが可能となる。この結果、透明化ポリゴンを設定するための規則に応じて、各連結画像に含まれる路面標示を、有効活用することが可能となるのである。
また、これらの透明化ポリゴンを、所定の規則に基づき自動的に設定するため、オペレータの負荷が軽減されるとともに、オペレータのスキルによる品質のばらつきなく、安定した合成画像を得ることができるという利点もある。
【００１７】
透明化ポリゴンは、種々の態様で生成可能であるが、例えば、下側の連結画像が存在する範囲内で生成することが好ましい。連結画像が一部分において重なっている場合には、下側または上側の連結画像のみが存在する領域と、両者が重なっている領域とが生じる。このような場合に、上側の連結画像のみが存在する領域に透明化ポリゴンを設定すると、上側の連結画像が透過されることによって、完全に画像が欠けた状態が生じてしまう。下側の連結画像が存在する範囲内で透明化ポリゴンを設定するようにしておけば、こうした現象を回避することができる。
かかる態様に代えて、例えば、上側または下側の連結画像しか存在しない領域に生成された透明化ポリゴンは、無効扱いとし、画像を透明化させずに合成画像を表示する方法をとってもよい。
【００１８】
透明化ポリゴンの位置および形状は、例えば、連結画像に含まれる標示に基づいて生成することができる。それぞれの連結画像内の標示を抽出し、その位置関係や画質の優劣の評価に基づいて透明化ポリゴンを生成するのである。こうすることにより、それぞれの連結画像内の路面標示を有効活用可能な透明化ポリゴンを生成することができる。
評価方法は、合成画像を生成する目的に応じて、種々の方法を採ることができる。
例えば、標示の再現を重視する場合には、下側の連結画像に含まれる標示が、上側の連結画像に含まれる標示よりも正確さを表す評価値が高いと判断される部分に透明化ポリゴンを設定する方法を採ることができる。こうすることによって、正確に得られている標示を活かした合成画像を生成することができる。
【００１９】
正確さの指標は、位置精度、形状などを考慮して求めることができる。
位置精度を考慮する態様として、例えば、それぞれのパスの撮影時の位置座標データの精度を表す評価データを取得し、パスごとに位置精度の優劣を定めるようにしてもよい。この態様では、下側のパスの方が高い位置精度を有していると評価された場合には、標示が重なり合っている部分または下側の標示のみが存在する部分に対して、透明化ポリゴンを設定すればよい。こうすることにより、位置精度が高い標示を有効活用することが可能となる。
形状を考慮する態様としては、上側と下側で重なり合っている標示を比較し、標示の面積が大きい側を採用するように透明化ポリゴンを設定する方法を採ることができる。面積が大きいということは、標示が欠落なく取得されていると考えられるからである。この場合には、下側の標示の面積が、上側よりも大きい部分に透明化ポリゴンを生成すればよい。面積の比較には標示の種別を考慮してもよく、例えば、同一の種別の標示が重なり合っている場合についてのみ面積を比較するようにしてもよい。
【００２０】
また、位置精度と形状の双方を考慮するようにしてもよい。まず、位置精度が高いパスの標示を基準として、位置精度が低い側の標示の位置のずれを求める。このずれは、標示同士の対応する頂点間のずれ、または標示の重心間のずれなどで評価することができる。一方、形状については、面積の差異で評価する。そして、位置精度の評価と、形状の評価のそれぞれに所定の重み値を乗じた和を求めることで両者を総合比較する。そして、下側の標示に対する総合評価値が、上側の標示よりも高い部分に、透明化ポリゴンを生成するのである。もっとも、正確さの指標は、これらの例に限らず、種々の方法を採ることが可能である。
【００２１】
標示に基づいて透明化ポリゴンを生成する別の態様として、下側の連結画像にのみ標示が含まれている部分に透明化ポリゴンを生成するようにしてもよい。こうすることによって、比較的軽い負荷で、下側の連結画像に含まれる標示を有効活用することが可能となる。標示に基づいて透明化ポリゴンを設定する場合、各連結画像内の標示は、例えば、連結画像の表示画面内でポインティングデバイス等を用いて予めオペレータが抽出しておく方法をとってもよい。
また、コンピュータが、各連結画像に対し、画像処理によって、標示を認識し、この認識の結果に基づき透明化ポリゴンを設定するようにしてもよい。標示を自動認識するようにすれば、オペレータの負荷を軽減することができる利点がある。オペレータによる抽出と自動認識は、併用してもよい。例えば、自動認識を行わせた後、オペレータによる抽出を行って、誤認識を修正したり、認識漏れを補充したりしてもよい。
【００２２】
標示の自動認識は、例えば、次の方法を採ることができる。
まず、コンピュータは次の手順で標示を認識するための連結画像を生成する。
処理の基準として、二次元平面において予め設定された方向に、パス上の基準点からの距離を表す直線状の距離軸を定義する。基準点は、パスの始点としてもよいし、パス上に設けられた任意の点としてもよい。距離軸は、二次元平面の任意の方向に定義できる。もっとも、ｘ軸またはｙ軸と一致させておくことが、後述する各処理が簡易になるという点で好ましい。
コンピュータは、パスに沿った基準点からの距離に基づいて、正射画像を距離軸上に配置することにより、各パスの道路面を表す直前状の連結画像を生成する。この際、正射画像の一部が重なっても良い。正射画像は、例えば、その中心線が距離軸に沿う状態で配置することが好ましい。こうすることで距離軸に沿った直線状の道路を表す連結画像を得ることができる。
【００２３】
コンピュータは、このように直線状となった連結画像に基づいて、道路面に描かれた標示の種別および位置を認識する。パスは道路面を撮影する際の走行軌跡であり、走行しながら、位置座標データが取得されているから、位置精度が十分に確保されており、抽出される標示の位置精度も確保することができる。
また、距離軸上に正射画像を配置することにより、道路がカーブしている場合でも、直線状に伸びた連結画像を得ることができる。このように連結画像を生成した場合、道路上の標示は、距離軸に対して一定の位置関係で存在することになる。例えば、横断歩道や停止線は距離軸に直交するように描かれており、車線境界線は距離軸に平行に描かれることになる。このように連結画像内で抽出すべき標示の描かれ方が、標示ごとに一定となるため、標示を抽出するための条件を明確に設定することが可能となり、安定して標示を抽出することが可能となる。
本発明では、正射画像を配置して連結画像を生成しているため、距離軸上に正射画像を配置することにより、直線状に伸びた連結画像を比較的容易に得ることができる。
【００２４】
本発明では、上述の通り、標示に基づいて透明化ポリゴンを設定する態様に限らず、標示に依存せず透明化ポリゴンを生成する態様を採ることもできる。
例えば、上側の連結画像の側端の所定範囲を覆うように透明化ポリゴンを生成してもよい。連結画像を構成する正射画像を生成するための画像変換では、画像の側端に行くほど歪みの影響を受けやすい。また、正射画像は台形になることが通常であるため、これを配置して生成された連結画像の両側端は、のこぎり刃状のギザギザが生じることがある。この結果、連結画像の側端は、下側の連結画像に比較して、標示の位置精度が低くなるとともに、ギザギザの形状によって標示も分断された状態となることが多い。従って、側端の所定範囲に透明化ポリゴンを生成すれば、こうした領域を比較的容易に除去することができ、下側の連結画像の標示を有効活用することが可能となるのである。
【００２５】
上述の態様において、透明化ポリゴンは、上側の連結画像の両側端に生成するようにしてもよいし、いずれか一方のみに生成するようにしてもよい。
また、側端の所定範囲は、任意に生成可能である。例えば、のこぎり刃状のギザギザとなっている領域を特定し、この範囲を除去するのに足りる最小幅の透明化ポリゴンを設定する方法を採ることができる。こうすれば、上側の連結画像を無用に削除することを回避できる。
【００２６】
道路幅が広い場合には、一つのパスでは、道路全体の標示を撮影できない場合がある。このような場合には、走行位置が異なる複数のパスで撮影した画像を合成して道路全体の画像を得るようにしてもよい。複数のパスで画像を撮影する際、各パスごとに位置精度が同一とは限らない。従って、各パスの連結画像を、それぞれの位置座標データに基づいて配置しても、標示の位置に不整合が生じることがある。かかる場合には、次の方法で、位置を修正してもよい。
まず、複数のパスのうち２本以上のパスの連結画像に共通して撮影されている領域内で、パス間で対応する対応点を特定する。例えば、２本のパスに横断歩道が共通に撮影されている場合には、それぞれの連結画像において横断歩道の縞模様のいずれかの角を対応する対応点とすることができる。
コンピュータが、複数のパス間で、抽出された標示の種別および位置関係を比較し、標示の対応関係を特定することによって、標示上のいずれかの点を対応点として自動的に特定するようにしてもよい。また、連結画像および抽出された標示をコンピュータのディスプレイ上に表示し、オペレータがこの表示を見て、対応点を指示するようにしてもよい。
こうして特定された対応点同士のずれは、位置座標の誤差を表すことになる。
【００２７】
コンピュータは、複数のパスのうち１本を基準パスとして設定する。この設定は、対応点が特定された後に行っても良いし、その前に行っても構わない。そして、対応する対応点の位置が一致するように設定された移動ベクトルに基づいて、基準パス以外のパスの連結画像に対して補正をかけることで、複数のパスにまたがる道路面の合成画像を生成する。
この補正は、移動ベクトルに基づいて、連結画像を構成する領域ごとに平行移動することによって行う。この領域は、一旦、生成された連結画像を元の正射画像に相当するサイズまたは別の任意に設定されたサイズに分割したものでもよい。また、連結画像を生成する際に、正射画像を合成せずに配置するだけに留めておく場合には、各正射画像ごとに位置を修正するようにしてもよい。
【００２８】
こうすれば、撮影時の位置座標データに基づいて各パスの道路面を表す連結画像を生成することができるため、位置精度が確保された状態で連結画像を得ることができる。
そして、複数のパスの中から、一つを基準パスと設定し、この基準パスは固定した状態で、他のパスの位置を修正するため、基準パスの位置精度を確保した状態で、各パス間の位置精度の誤差を解消することができる。
また、各パスの合成は、連結画像を領域ごとに平行移動することによって行うため、各領域の正射画像に歪みを加えることなく位置を修正することができる。従って、この修正時には道路面の標示は、各領域の正射画像内での相対的な位置精度を保持しておくことができる。
以上の作用によって、本発明の路面標示地図生成方法によれば、位置精度を確保した状態で、道路面の標示を含む合成画像を得ることができる。
【００２９】
本発明の路面標示地図生成方法において、基準パスは、オペレータが指定するなど、種々の方法で設定することができる。
コンピュータは各パスについて、位置座標データの精度の評価データを併せて入力し、この評価データに基づいて基準パスを設定するようにしてもよい。例えば、複数のパスのうち、評価データに基づいて位置精度が最も高いと評価されるパスを基準パスと設定する方法が挙げられる。こうして設定された基準パスに他のパスを合わせるようにして合成画像を生成すれば、最も高い位置精度を確保することが可能となる。
評価データは、直接に位置精度を定量的に表すデータとしてもよいし、位置精度の算出に用いることができるデータとしてもよい。
【００３０】
本発明では、透明化ポリゴンは複数生成しても構わない。
かかる場合には、更に、生成された複数の透明化ポリゴンのうち、相互に重なり合うものを結合させてもよい。こうすることによって、透明化ポリゴンの数を減らすことができ、データ構造の簡素化、データ容量の削減を図ることができる。
本発明において複数のパスに対する連結画像を重ねる際に、いずれを上に配置するかは、オペレータが判断して決めてもよいし、自動で設定してもよい。
【００３１】
自動で設定する方法としては、例えば、連結画像またはフレーム画像を用いた画像処理によって、連結画像内の標示の量、および標示以外の異物の量の少なくとも一方を検出し、この検出結果に基づいて、いずれのパスを上側に配置するかを決定する方法を採ることができる。重ね合わせの上下関係を決定するのであるから、この処理は、道路面の合成画像の生成に先立って、行う必要がある。なお、「異物」とは、道路面や標示の撮影を妨げる物体を意味しており、例えば撮影中に前方や側方を通行する車両や、自転車、バイク、路上駐車中の車両、等が該当する。
連結画像内の標示の量、標示以外の異物の量は、いずれか一方のみを検出してもよいし、双方を検出してもよい。ここで、「量」は、標示等の数で評価してもよいし、面積で評価してもよい。
【００３２】
上述の方法では、標示の量を考慮して上下関係を判断することにより、透明化ポリゴンの数を抑制したり形状を簡略化することができる。また、異物の量を考慮して上下関係を判断することにより、透明化ポリゴンを設定した後の道路画像の見栄えを向上させることができる。
例えば、下側の連結画像上の路面標示が隠されているところに透明化ポリゴンを生成する場合を考える。この場合には、標示の量が多い連結画像を上側に配置することにより、透明化ポリゴンを抑制することができる。また、異物の量が少ない連結画像を上側に配置することにより、見栄えを向上させることができる。
逆に、上側の標示を除く部分に透明化ポリゴンを生成する場合には、標示の量が少ない連結画像を上側に配置することにより、透明化ポリゴンが避けるべき標示が減るから、透明化ポリゴンの形状を簡略化することができる。また、下側にできるだけ異物の量が少ない連結画像を配置することにより、見栄えを向上させることができる。
更に、上述の方法では、パスの上下関係を自動的に判断させるため、オペレータの主観が入り込まなくなり、オペレータによって道路画像の見栄えが異なるという不安定さを抑制することができる。
【００３３】
連結画像の配置を自動判定する場合、標示の量および異物の量の双方を考慮してもよい。この場合には、異物の量を標示の量よりも優先的に評価して配置を決定することが好ましい。異物の量を優先するとは、まず、異物の量に従ってパスの上下関係を判断し、上下いずれのパスも異物の量が同等の場合など、上下関係が決まらない場合に、標示の量を考慮することを意味する。
上述の通り、異物の量は、道路画像の見栄えに影響を与える。従って、異物の量を優先的に考慮することにより、道路画像の見栄えを向上することができる。
【００３４】
連結画像内の標示および異物の量は、それぞれのパスの連結画像全体を対象として評価してもよいし、連結画像同士が重なっている領域を対象として評価してもよい。
また双方の評価を併用してもよい。双方の評価を併用する場合には。連結画像全体における量よりも、重なっている領域における量を優先的に評価することが好ましい。優先とは、重なっている領域における評価で上下関係が定まらない場合に、連結画像全体における評価を考慮することを意味する。重なっている領域以外の領域は、上下関係を入れ換えても、道路画像の見栄えには影響を与えないため、重なっている領域での評価を重視した方が、見栄えを向上させる効果が適切に得られるからである。
【００３５】
連結画像内の標示は、先に説明した方法で認識可能である。標示以外の異物の画像（以下、「ゴミ画像」と言うこともある）の写り込みについては、例えば、以下に示す方法で抽出可能である。
ゴミ画像を認識して、路面標示の認識に反映させる第１の方法は、次の通りである。
まず、コンピュータは、連続するフレーム画像間でオプティカルフローを求める。オプティカルフローとは、前のフレーム画像内の複数の特徴点から、次のフレーム画像内の対応する特徴点への移動を表すベクトルである。連続するフレーム画像とは、必ずしも連続して撮影されたフレーム画像である必要はなく、撮影されたフレーム画像を、所定の距離間隔や時間間隔などで間引いた後のフレーム画像群で定義してもよい。
ＣＰＵは、こうして得られたオプティカルフローに基づいて、標示以外の写り込み、つまりゴミ画像をフレーム画像内で抽出する。路面標示とは異なる異物が写り込んでいる場合、そのオプティカルフローも、路面標示の部分のオプティカルフローとは大きさおよび方向が異なるからである。写り込みの抽出は、オプティカルフローの大きさおよび方向の双方に基づいて評価してもよいし、いずれか一方に基づいて評価してもよい。
【００３６】
次に、ＣＰＵは、写り込みの抽出結果を反映した正射画像を生成する。ゴミ画像を考慮せずに生成された正射画像に加えて、ゴミ画像の正射画像を生成してもよい。また、ゴミ画像を考慮せずに生成された正射画像に代えて、フレーム画像からゴミ画像を除去した画像に基づいて正射画像を生成してもよい。いずれの方法によっても、連結画像内でのゴミ画像がある領域を特定することができる。あとは、ゴミ画像の数または面積を計測して評価値を求めればよい。
【００３７】
ゴミ画像を認識して、路面標示の認識に反映させる第２の方法は、次の通りである。
ＣＰＵは、距離軸上に配置された正射画像同士が重なる部分を切り出す。そして、この重複部分の正射画像間の各点の階調差分を求める。階調差分とは各点に記録されている色成分の差分である。カラー画像の場合、ＲＧＢの成分ごとに階調差分を求めても良いが、ＨＳＶの３要素に分解した上で明度（Ｖ）差分を求めることが好ましい。正射画像同士の重複部分では路面標示も重なっているはずなので、路面標示に対する階調差分は所定値以下となる。これに対し、路面標示以外の異物は、撮影時刻や撮影場所が異なれば正射画像への写り込みの形状、大きさが異なるのが通常であるため、大きな階調差分となる。従って、所定の閾値を超える階調差分が得られた点を抽出することにより、ゴミ画像を抽出することが可能となる。こうしてゴミ画像が抽出されると、連結画像内で、ゴミ画像がある領域を特定することができる。
【００３８】
第２の方法を用いる場合には、正射画像に平滑化フィルタを適用した上で、階調差分を求めることが好ましい。画像を構成する画素単位で厳密に階調差分を求めると、正射画像を生成する際の位置誤差などによって、路面標示の部分も大きな階調差分が生じる場合があるからである。平滑化フィルタを適用することにより、画像内の階調変化を鈍化させることができるため、位置誤差などの影響を緩和し、ゴミ画像の抽出精度を向上することができる。
【００３９】
ゴミ画像の抽出は、フレーム画像全体に適用してもよいが、処理速度を向上させるため、一部にのみ適用してもよい。例えば、正射画像の生成対象となる部分を対象とすることができる。
また別の態様として、パスを含む所定範囲を除く所定領域を対象としてもよい。パスに沿って移動しながら撮影を行うため、パス周辺の領域には、路面標示以外の異物が写り込んでいる可能性は低いからである。これは、自車が走行する走行レーンにおいては、前方を走行する車両が画像作成範囲に入ってこないように車間距離を開けて走行することが可能だからである。一方、走行レーン以外のレーンは、異物の写り込みを回避する手段がないのが現状である。
更に、両者を組合せ、正射画像の生成対象となる部分のうち、パスを含む所定範囲を除く所定領域を対象としてもよい。
【００４０】
本発明において、上側の連結画像によって隠されている標示の部分に透明化ポリゴンを生成する例を先に説明したが、透明化ポリゴンの生成方法は、かかる部位に限られるものではない。
例えば、上述の方法などによって、上側の連結画像内において標示以外の異物が写り込んだ部分、つまりゴミ画像を抽出する場合、抽出された異物の少なくとも一部に対応する領域を覆うように透明化ポリゴンを生成してもよい。こうすることにより、道路画像の見栄えを向上させることができる。
ゴミ画像を覆う透明化ポリゴンを生成する場合も、標示の部分に透明化ポリゴンを生成する場合と同様、下側に連結画像が存在する範囲内で生成することが好ましい。連結画像がない部分に透明化ポリゴンを設定すると、その部分だけ穴があいたかのような道路画像となってしまうからである。
【００４１】
また、上側の連結画像の側端の所定範囲を覆うように透明化ポリゴンを生成し、連結画像の両側に生じるのこぎり状のギザギザ部分を隠す場合、異物の少なくとも一部を覆う透明化ポリゴンは、このギザギザ部分を隠すための透明化ポリゴン（以下、側端透明化ポリゴンと呼ぶ）との間隙を埋めるように一体化させてもよい。こうすることにより透明化ポリゴンの数を抑制し、形状を簡素化することができる。また、間隙を埋めるように一体化させることにより、抽出しきれなかったゴミ画像が間隙に存在する場合、そのゴミ画像も透明化ポリゴンによって隠すことができる。
一体化は種々の方法で行うことができる。例えば、側端透明化ポリゴンを投影する垂線を引いて両者を結合してもよい。また、側端透明化ポリゴンから所定の距離内にある異物の透明化ポリゴンのみを結合するようにしてもよい。
【００４２】
透明化ポリゴンは、逆に路面標示のみを残すように生成することもできる。
つまり、上側の連結画像に含まれる路面標示を抽出した後、抽出された路面標示について、その路面標示よりも連結画像の側端側を覆う透明化ポリゴンを生成するのである。ただし、この透明化ポリゴンは、他の路面標示にかぶらない範囲で生成することが好ましい。抽出された路面標示よりも側端側の領域には、路面標示が存在していないため、必ずしも連結画像を残しておく必要はない。上述の方法では、かかる部分に透明化ポリゴンを生成し、上側の連結画像の不要な部分をまとめて削除することにより、ゴミ画像があるか否かを抽出するまでなく、簡易にゴミ画像を削除することができる。
【００４３】
また、パスに対して投影可能な路面標示が存在しない部分では、パスに交差する方向にパスから所定の距離内にある部分を除く範囲で連結画像を覆うように透明化ポリゴンを生成してもよい。こうすることにより、路面標示が存在しない箇所についても、簡易にゴミ画像を削除することが可能となる。
本発明は、必ずしも上述した特徴を全て備えている必要はなく、適宜、その一部を省略してもよいし、いくつかの特徴を適宜、組み合わせて備えるようにしてもよい。
本発明は、上述の路面標示地図生成方法に限らず、この路面標示地図生成方法によって道路面に施された標示を含む路面標示地図を生成する路面標示地図生成装置として構成してもよい。
【００４４】
また、上述の路面標示地図生成方法をコンピュータに実現させるためのコンピュータプログラムとして構成してもよいし、かかるコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体として構成してもよい。記録媒体としては、例えば、フレキシブルディスクやＣＤ−ＲＯＭ、光磁気ディスク、ＩＣカード、ＲＯＭカートリッジ、パンチカード、バーコードなどの符号が印刷された印刷物、コンピュータの内部記憶装置（ＲＡＭやＲＯＭなどのメモリ）および外部記憶装置等、コンピュータが読取り可能な種々の媒体を利用できる。
【発明の効果】
【００４５】
透明化ポリゴンを生成することにより、合成に用いられた連結画像に含まれる路面標示を有効活用して合成画像を生成することが可能となる。また、透明化ポリゴンを設定するための規則に応じて、各連結画像に含まれる路面標示を有効活用することが可能となる。
【図面の簡単な説明】
【００４６】
【図１】実施例としての道路面撮影システムの構成を示す説明図である。
【図２】実施例としての路面標示地図生成装置の構成を示す説明図である。
【図３】路面標示地図の生成過程における中間データを示す説明図である。
【図４】実施例における道路画像の生成例を示す説明図である。
【図５】位置合わせ加工の概要を示す説明図である。
【図６】交差点が存在する場合の位置合わせの手順を示す説明図である。
【図７】連結画像生成処理のフローチャートである。
【図８】位置合わせ加工のフローチャートである。
【図９】基準パス設定処理のフローチャートである。
【図１０】連結画像移動処理のフローチャートである。
【図１１】位置合わせ加工の処理例（１）を示す説明図である。
【図１２】位置合わせ加工の処理例（２）を示す説明図である。
【図１３】位置合わせ加工の処理（２）の加工結果を示す説明図である。
【図１４】路面標示の絶対位置座標の取得方法を示す説明図である。
【図１５】透明化ポリゴン設定処理の概要を示す説明図である。
【図１６】透明化ポリゴン設定処理のフローチャートである。
【図１７】透明化ポリゴンを設定する前の道路画像例を示す説明図である。
【図１８】透明化ポリゴンの設定後の道路画像例を示す説明図である。
【図１９】ペイント認識処理のフローチャートである。
【図２０】縦配置処理の内容を示す説明図である。
【図２１】相対座標変換処理の内容を示す説明図である。
【図２２】自動透明化ポリゴン生成処理のフローチャートである。
【図２３】重なり判定の方法を示す説明図である。
【図２４】ルート領域の設定方法を示す説明図である。
【図２５】ペイント用透明化ポリゴン設定処理のフローチャートである。
【図２６】ペイント用透明化ポリゴンの設定例（１）を示す説明図である。
【図２７】ペイント用透明化ポリゴンの設定例（２）を示す説明図である。
【図２８】ペイント用透明化ポリゴンの設定例（３）を示す説明図である。
【図２９】ギザギザカット処理のフローチャートである。
【図３０】透明化ポリゴン結合処理の内容を示す説明図である。
【図３１】透明化ポリゴンの設定例を示す説明図である。
【図３２】優先パス決定処理のフローチャートである。
【図３３】優先パスの決定例を示す説明図である。
【図３４】異物の写り込みを例示する説明図である。
【図３５】ゴミ画像の認識結果の反映方法を示すフローチャートである。
【図３６】ゴミ画像認識処理（１）のフローチャートである。
【図３７】オプティカルフローの例である。
【図３８】走行車両がある場合のオプティカルフローの例である。
【図３９】停止車両がある場合のオプティカルフローの例である。
【図４０】ゴミ画像認識処理（２）のフローチャートである。
【図４１】ゴミ画像の認識例を示す説明図である。
【図４２】実施例の方法による透明化ポリゴン設定例を示す説明図である。
【図４３】ゴミ画像消去ポリゴン生成処理のフローチャート（１）である。
【図４４】ゴミ画像消去ポリゴン生成処理のフローチャート（２）である。
【図４５】ゴミ画像消去ポリゴン生成処理（２）の処理例を示す説明図である。
【図４６】ゴミ画像消去ポリゴン生成処理（２）のフローチャートである。
【図４７】自動透明化ポリゴン生成処理（２）の適用例を示す説明図である。
【発明を実施するための形態】
【００４７】
本発明の実施例について以下の順序で説明する。
Ａ．システム構成：
Ａ１．道路面撮影システム：
Ａ２．路面標示地図生成装置：
Ｂ．処理概要：
Ｂ１．中間データ構成：
Ｂ２．処理例：
Ｂ３．位置合わせ加工概要：
Ｃ．路面標示地図生成方法：
Ｃ１．連結画像生成処理：
Ｃ２．位置合わせ加工：
Ｃ３．基準パス設定処理：
Ｃ４．連結画像移動処理：
Ｃ５．透明化ポリゴン設定処理：
Ｃ６．ペイント認識処理：
Ｃ７．自動透明化ポリゴン生成処理：
Ｄ．効果：
Ｅ．変形例：
Ｅ１．優先パスの決定：
Ｅ２．自動透明化ポリゴン生成処理（１）：
Ｅ３．自動透明化ポリゴン生成処理（２）：
【００４８】
Ａ．システム構成：
本実施例では、車両に搭載したビデオカメラで撮影した道路面の画像を用いて、路面の標示を含む地図（以下、「路面標示地図」と呼ぶ）を生成する方法を示す。
本実施例のシステムは、道路面撮影システムと路面標示地図生成装置とを備える。道路面撮影システムは、道路を走行しながら道路面の画像をビデオカメラで撮影するシステムである。本実施例では、対象となる道路を、異なる走行軌跡で複数回走行し、それぞれ画像を撮影する。
路面標示地図生成装置は、道路面撮影システムで撮影された道路面の画像に基づいて路面標示地図を生成する装置である。まず、上述の各走行軌跡上に、撮影された画像を正射画像に変換した上で配置することで、道路面の一部の車線についての連結画像を生成する。そして、複数の走行軌跡の画像を、位置座標が整合するように配置することで道路全体の画像を生成する。また、こうして生成された連結画像から道路面の標示を抽出する。
以下、道路面撮影システムと路面標示地図生成装置のシステム構成について説明する。
【００４９】
Ａ１．道路面撮影システム：
図１は実施例としての道路面撮影システムの構成を示す説明図である。
道路面撮影システム１００は、車両に搭載されたシステムである。図の下方のブロック図に基づき、システム構成を説明する。
ビデオカメラ１２０は、走行中の道路面の画像を撮影する。
位置計測部１１０は、撮影中の位置座標を計測する装置である。位置計測部１１０は、ＧＰＳ（Global Positioning System）１１４、ＩＭＵ（Inertial
Measurement Unit）１１６、ＤＭＩ（Distance Measuring Instrument）１１８およびコントローラ１１２を備える。ＧＰＳ１１４は、全地球測位システムである。ＩＭＵ１１６は、内部に３軸のジャイロおよび加速度センサを備えた慣性計測装置である。ＤＭＩ１１８は、車輪の回転を検出して移動距離を計測する装置である。
【００５０】
コントローラ１１２は、ＧＰＳ１１４、ＩＭＵ１１６、ＤＭＩ１１８からの信号を受け、撮影時の位置座標を逐次出力する。位置座標は任意の座標系を採ることができるが、本実施例では、緯度経度および標高を用いた。
また、これらの信号の取得後、位置座標の計測精度の評価値である自己推定位置精度σを併せて出力する。一般にＧＰＳ１１４は、位置座標の検出に使用される人工衛星の配置、電波の受信状況、建造物などに反射した電波を受信することによるマルチパスの有無などによって検出精度が変動することが知られている。またディファレンシャル測位では、基準局の稼働状況によっても検出精度は影響を受ける。
自己推定位置精度σは、任意に定義可能である。例えば、ＧＰＳ１１４の人工衛星の配置によって定まる精度低下率（ＤＯＰ（Dilution of Precision））を用いて自己推定位置精度σを算出するようにしてもよい。自己推定位置精度σは、取得されたデータを後述する路面標示地図生成装置で処理する際に、解析するようにしてもよい。
【００５１】
記録装置１３０は、ビデオカメラ１２０および位置計測部１１０の出力信号を同期して記録する。本実施例では、記録装置１３０は、汎用のパーソナルコンピュータに、記録用のハードディスク１４０を増設した装置によって構成した。ハードディスク１４０内には、図示する通り、画像データ１４２、同期データ１４４、計測データ１４６が記録される。画像データ１４２は、ビデオカメラで撮影された画像の動画ファイルである。計測データ１４６は、位置計測部１１０で得られた位置座標である。同期データ１４４は、画像データ１４２と計測データ１４６との取得時刻を対応づけるデータである。同期データ１４４および計測データ１４６を参照することにより、画像データ１４２のフレームごとに撮影地点の位置座標を得ることができる。
【００５２】
撮影時の記録用のデータ構造は、上述した構造に限られない。例えば、計測データ１４６は、画像データ１４２の各フレームの位置座標を順次、格納するデータとしてもよい。こうすることにより、同期データ１４４を省略することが可能となる。かかるデータを取得するためには、例えば、記録装置１３０がビデオカメラ１２０のフレームごとに同期信号を位置計測部１１０に出力し、その時の位置座標を取得する方法を採ることができる。
図の上方に、車両に搭載した状態を模式的に示した。
ビデオカメラ１２０は、前方画像を撮影できるよう、車両の前方に設置する。画角を広げるために広角レンズを装着してもよい。
ＧＰＳ１１４のアンテナ１１４Ａは、車両のルーフ上部に設置する。本実施例では、ＧＰＳ用の人工衛星からの電波を確実に受信し、十分な位置精度を確保することができるよう、アンテナ１１４Ａを車両の前後に主副の２台設置した。いずれか一台のみを用いるものとしてもよい。
ＩＭＵ１１６、ＤＭＩ１１８、コントローラ１１２は、それぞれ車両の後部に設置した。ＤＭＩ１１８は、後輪の回転を検出可能に装着されている。
記録装置１３０およびハードディスク１４０は車室内の任意の場所に設置可能であるため、図示を省略した。
【００５３】
Ａ２．路面標示地図生成装置：
図２は実施例としての路面標示地図生成装置の構成を示す説明図である。道路面撮影システムで撮影された道路面の画像に基づいて路面標示地図を生成するための装置である。本実施例では、完全に自動で路面標示地図を生成するのではなく、適宜、オペレータからのコマンドによる指示を受けながら対話型または半自動で処理を進める方法を採用した。
図中には、路面標示地図生成装置２００の機能ブロックを示した。本実施例では、路面標示地図生成装置２００は、図示する各機能を実現するためのコンピュータプログラムを汎用のパーソナルコンピュータにインストールすることによってソフトウェア的に構築した。これらの機能ブロックの一部はＯＳ（Operating System）によって提供してもよい。また、これらの機能ブロックは、それぞれハードウェア的に構成することも可能である。また、ここでは説明の便宜上、スタンドアロンで稼働する装置として説明するが、各機能ブロックをネットワークで接続された複数のコンピュータに分散して用意してもよい。
【００５４】
主制御部２０１は、各機能ブロックを統合制御する。データ入力部２０４は、道路面撮影システム１００で取得した各種データを記録したハードディスク１４０から、画像データ１４２、同期データ１４４、計測データ１４６を入力する。本実施例では、ハードディスク１４０を道路面撮影システム１００から路面標示地図生成装置２００に接続し直すことによって、これらのデータを受け渡す方法を採ったが、ネットワーク経由でデータを送信する方法や、ＤＶＤなどの記録媒体を用いてデータを受け渡す方法を採ってもよい。計測データには、位置計測部１１０で得られた位置座標が含まれるから、データ入力部２０４は、本発明における入力部に相当する。
【００５５】
コマンド入力部２０２は、コンピュータに備えられたキーボードやマウスなどの操作を介して、オペレータからのコマンドを入力する。
表示制御部２０３は、コンピュータのディスプレイに、路面標示地図生成装置２００での処理結果を表示したり、オペレータが種々のコマンドを指示するための画面を表示したりする。コマンド入力部２０２、表示制御部２０３の機能は、コンピュータのＯＳによって提供してもよい。
【００５６】
軌跡データ算出部２０５は、計測データ１４６に基づき、画像データ１４２を撮影した時の走行軌跡（以下、「パス」と呼ぶこともある）を表すデータを生成する。本実施例では、軌跡データ算出部２０５は、道路面撮影システム１００によって得られる位置座標を記録した計測データ１４６に対して、位置座標が既知の基準局から提供されている検出情報に基づく補正を施すことによって軌跡データを生成する。基準局の情報を用いて位置座標を補正する技術は周知であるため、説明を省略する。この処理によって位置座標の精度を向上させることが可能となる。
もっとも、基準局からのデータを用いることは必須ではない。計測データ１４６で得られた位置座標をそのまま用いるものとしてもよい。かかる場合には、軌跡データ算出部２０５は省略することも可能である。
【００５７】
画像変換部２０６は、正射投影、即ち画像データ１４２の各フレーム画像を真上から見た状態に変換して正射画像を生成する。
連結画像生成部としての１パス合成部２０７は、画像変換部２０６によって得られた各フレーム画像の正射画像を、その正射画像内の代表点が、撮影時の位置座標に基づいて定まる位置座標に来るように配置することによって、撮影時の走行軌跡（パス）に沿った道路面の画像を合成する。こうして合成された画像を、連結画像と呼ぶものとする。合成された連結画像は、処理データ記憶部２１０に保存される。
本実施例では、それぞれの道路に対して、異なる走行軌跡で、複数回走行して、撮影を行う。１パス画像合成部２０７は、それぞれのパスごとに合成画像を生成する。この結果、連結画像は、パスの本数に応じて、複数生成される。
【００５８】
なお、複数パスの画像は異なる時期に撮影したものでもよい。例えば、ある時期に道路面の画像を撮影し、路面標示を含む地図を整備した後、所定の時期が経過した時点で、再度、同じ道路を走行して画像を撮影し、前回の画像と今回の画像とを合成することによって、地図に路面標示の変化を反映させるようにしてもよい。
また、撮影対象が複数車線の道路である場合、車線ごとに１回ずつ移動して撮影してもよいし、いずれかの車線上を複数回移動して撮影してもよい。前者の場合は、車線とパスが１対１に対応することになる。後者の場合は、パスと車線が複数対１に対応することになる。本実施例では、特に断らない場合には、各車線について１回ずつ走行した場合、つまり車線とパスとが１対１に対応している場合を例にとって説明する。
【００５９】
合成画像生成部としての位置合わせ処理部２２０は、１パス画像合成部２０７で生成された複数の連結画像を、位置合わせ処理、即ち連結画像間の位置座標の誤差を修正して路面の画像が整合するように配置する処理を行うことで、道路全体の正射画像（以下、「道路画像」と呼ぶこともある）を生成する。位置合わせ処理は、オペレータからの指示に応じて行う。処理内容は後述する。
位置合わせで得られた道路画像は、処理データ記憶部２１０に保存される。
【００６０】
透明化ポリゴン生成部としての透明化ポリゴン設定部２２１は、得られた道路画像上に、オペレータの指示によって、透明化ポリゴンを設定する。上述の位置合わせを行う際には、隣接するパスに対応する正射画像の一部が重なり合うことがある。そして重なった部分では、下側に配置された正射画像の方に、路面標示が鮮明に写されている場合もある。透明化ポリゴンは、このような場合に、下側の画像が表示されるように上側の正射画像の一部を透明化する処理を施す領域を指定するためのポリゴンである。透明化ポリゴンを設定することにより、路面標示を正確に把握可能な地図を提供することが可能となる。
【００６１】
自動透明化ポリゴン設定部２２４は、上述の透明化ポリゴンの設定を自動的に行う。こうすることによって、オペレータの負荷を軽減するとともに、オペレータのスキルに依存せず、安定した品質で透明化ポリゴンを設定することが可能となる利点がある。
透明化ポリゴン設定部２２１と、自動透明化ポリゴン設定部２２４とは、オペレータの指示によって、いずれか一方を選択的に使用可能としてもよいし、双方を併用してもよい。併用の態様としては、例えば、自動透明化ポリゴン設定部２２４による処理を行った後、透明化ポリゴン設定部２２１によって、透明化ポリゴンの修正や追加を行う態様が挙げられる。
透明化ポリゴン設定部２２１、自動透明化ポリゴン設定部２２４によって設定された透明化ポリゴンは、所定データ記憶部２１０に保存される。
【００６２】
ペイント認識部２２３は、道路面の標示（以下、「ペイント」と呼ぶこともある）を認識する。本実施例では、１パス画像合成部２０７で生成された連結画像に基づいて標示の認識を行うものとした。ペイント認識結果は、処理データ記憶部２１０に保存される。
路面標示地図生成装置は、以上で生成された道路画像に基づいて路面標示地図を出力することができる。例えば、道路画像を印刷可能なファイルとして出力してもよい。また、路面標示地図を電子地図として生成するように、道路画像を電子データとして出力してもよい。また、これらの出力に先立って、道路画像に基づいて路面標示の位置座標や形状データを取得する処理を行うようにしてもよい。
【００６３】
Ｂ．処理概要：
Ｂ１．中間データ構成：
図３は路面標示地図の生成過程における中間データを示す説明図である。これらのデータは、順次、処理データ記憶部２１０(図２参照）に記憶される。
本実施例では、道路を走行しながらビデオカメラ１２０および位置計測部１１０で取得したデータが記録装置１３０としてのパーソナルコンピュータによってハードディスク１４０内に格納されている。格納されるデータとしては、画像データ１４２、計測データ１４６、および両者の同期をとるための同期データ１４４がある。
本実施例では、異なる時期に取得された複数の画像を処理対象とすることも可能ではあるが、以下では、同時期に異なる走行軌跡で撮影を行った場合を例にとって説明する。
【００６４】
計測データ１４６は、撮影時の位置座標データの記録である。本実施例では、基準局データ１５０を参照して、計測データ１４６を補正することにより、軌跡データ２１０ａを算出する。これは、先に図２で説明した軌跡データ算出部２０５が行う処理である。基準局データ１５０は、位置座標が既知の基準点におけるＧＰＳでの検出結果を表すデータであり、例えば、国土地理院が提供している基準点データなどを用いることができる。ここで得られた軌跡データ２１０ａは、以下、それぞれの処理において、道路面の画像を撮影した際の軌跡（以下、「パス」と呼ぶこともある）を緯度経度、高度からなる絶対座標で表すデータとして利用される。
【００６５】
一方、画像データ１４２、同期データ１４４、軌跡データ２１０ａからは、路面テクスチャ２１０ｃが生成される。また、同期データ１４４と軌跡データ２１０ａから、路面軌跡データが生成される。
本実施例では、各道路を複数回走行して、道路面の画像を撮影する。従って、路面軌跡データ２１０ｂおよび路線軌跡データ２１０ｂは、各道路に対して複数パス分、生成されることになる。
【００６６】
路面テクスチャ２１０ｃおよび路線軌跡データ２１０ｂを用いて、連結画像２１０ｄが生成される。連結画像２１０ｄは、図２中の１パス画像合成部２０７によって生成される画像である。つまり、連結画像２１０ｄとは、路線軌跡データ２１０ｂで表される位置座標に基づき、各路面テクスチャ２１０ｃを配置することによって生成される各パスの路面画像である。連結画像２１０ｄも、各道路に対して複数パス分、生成されることになる。
連結画像２１０ｄは、路面テクスチャ２１０ｃを結合した一つの画像ファイルとして生成することもできる。本実施例では、後に続く処理の便宜上、合成画像として生成するのではなく、路面テクスチャ２１０ｃを配置して連結画像２１０ｄを生成するための情報（以下、「登録データ」と呼ぶこともある）を、路面テクスチャ２１０ｃの各画像と対応づけて格納するものとした。かかる情報には、路面テクスチャ２１０ｃを配置する位置座標、配置する際の姿勢（角度）、および隣接する路面テクスチャ２１０ｃを特定する情報、隣接する路面テクスチャ２１０ｃとの上下関係などを含めることができる。
【００６７】
こうして得られた連結画像２１０ｄを用いて、位置合わせおよび透明化ポリゴン設定などの処理を行う。これらの処理は、図２の位置合わせ処理部２２０、透明化ポリゴン設定部２２１、自動透明化ポリゴン設定部２２４が行う処理である。この処理によって、複数パス分の連結画像２１０ｄを合成して、道路ごとに道路画像２１０ｅを得ることができる。
道路画像２１０ｅについても、合成画像として生成してもよいし、路面テクスチャ２１０ｃを配置して道路画像２１０ｅを生成するための情報を、路面テクスチャ２１０ｃの各画像と対応づけて格納するようにしてもよい。本実施例では、後者の方法を採用した。それぞれの路面テクスチャ２１０ｃを配置する位置座標、配置する際の姿勢（角度）などの情報は、道路画像用登録データ２１０ｆとして保存されている。また、位置合わせの過程で、路線軌跡データ２１０ｂに対して、位置誤差を修正する処理が施されるため、この原データに対する修正過程を表す情報を、軌跡用登録データ２１０ｇとして保存する。
【００６８】
この他、連結画像２１０ｄのデータ（路面テクスチャ２１０ｃ、路線軌跡データ２１０ｂを含む）も併せて保存する。原データである画像データ１４２、軌跡データ２１０ａも保存しておくことが好ましい。仮に、合成画像化された形で連結画像２１０ｄを保存している場合には、道路画像２１０ｅは、連結画像２１０ｄを合成することになるため、合成の繰り返しで原データに比較して画質が劣化するおそれがある。これに対し、本実施例のように、路面テクスチャ２１０ｃも含めて、原データに近いデータを残しておくことにより、これらのデータを利用して道路画像２１０ｅを生成することが可能となる。従って、合成の繰り返しなど、画像データに重畳的に画像処理が施されることを抑制でき、道路画像２１０ｅの画質を向上させることが可能となる。
【００６９】
Ｂ２．処理例：
次に、本実施例における処理の概要理解を容易にするため、処理例を示す。
図４は実施例における道路画像の生成例を示す説明図である。図４（ａ）には、１本のパスに沿って得られた連結画像の生成例を示し、図４（ｂ）には、複数パスの連結画像を配置して得られた道路画像の例を示している。
図４（ａ）中の直線Ｌ４１〜Ｌ４４は、それぞれ道路面撮影システム１００で走行しながら道路画像を撮影した際の走行軌跡（パス）を表している。図４（ａ）のＰＩＣ４１は、パスＬ４３を走行して得られた画像データに基づいて生成された連結画像である。本実施例では、広角レンズを用いて撮影しているため、１回のパスでも複数車線を覆うだけの連結画像を得ることができている。連結画像の両端が、のこぎり刃状にギザギザになっているのは、画像データの各フレームを正射投影した際に生じる形状歪みの影響である。この連結画像ＰＩＣ４１は、ギザギザの山数に応じたフレーム数の正射画像（路面テクスチャ）を配置して生成されているのである。
このような連結画像は、図中のパスＬ４１〜Ｌ４４のそれぞれに対して得られる。
【００７０】
図４（ｂ）は、パスＬ４１〜Ｌ４４に対する連結画像を合成して得られた道路画像ＰＩＣ４２を示している。図４（ａ）よりも幅広く、反対車線まで含めて道路画像が生成されていることが分かる。複数パスの連結画像を合成する際、各パスの位置座標に誤差があると、連結画像間にずれが生じる。これらのずれが存在すると、図４（ｂ）中の横断歩道、車線境界線などの標示も途中でずれた状態で表示されてしまう。本実施例では、各パスの連結画像間の位置座標の誤差を修正しつつ合成を行う。この処理を位置合わせと呼ぶ。このように位置合わせを行って連結画像を合成することにより、図４（ｂ）に示すように、横断歩道、車線境界線などの標示が整合した道路画像を得ることができる。
【００７１】
Ｂ３．位置合わせ加工概要：
図５は位置合わせ加工の概要を示す説明図である。本実施例では、複数の連結画像に共通して撮影されている標示に基づいてオペレータが指定した対応点の位置を合わせるように、連結画像を平行移動することによって位置合わせを行う。
図５（ａ）には対応点が１つだけ指定された場合の処理方法を示した。図中には、２本の連結画像ＰＩＣ５１、ＰＩＣ５２が描かれている。これらには、それぞれ菱形の標示、つまり横断歩道の予告標示が含まれている。ただし、図５（ａ）左側の状態では、連結画像ＰＩＣ５１、ＰＩＣ５２には相対的に位置誤差があるため、標示の位置がずれている。
【００７２】
オペレータは、この表示画面を見ながら、マウス等のポインティングデバイスを用いて対応点を指定する。図の例では、横断歩道の予告表示の頂点に当たるＰ５１、Ｐ５２を指定した状態を示した。これらの対応点Ｐ５１、Ｐ５２は、連結画像ＰＩＣ５１、ＰＩＣ５２に位置誤差がなければ、本来、同じ位置に重なるはずの点である。そこで、本実施例では、対応点Ｐ５１、Ｐ５２が一致するよう、図中に矢印で示すように連結画像ＰＩＣ５１、ＰＩＣ５２を平行移動させる。
この際、連結画像ＰＩＣ５１、ＰＩＣ５２の一方を基準とし、他方を平行移動する方法を採った。図の例では、連結画像ＰＩＣ５１を基準とし、連結画像ＰＩＣ５２を移動させた例を示している。このように移動することにより、予告標示のずれが解消した状態の道路画像ＰＩＣ５３を得ることができる。
【００７３】
図５（ｂ）には対応点が複数指定された場合の処理方法を示した。図中には、２本の連結画像ＰＩＣ５４、ＰＩＣ５５が描かれている。これらには、それぞれ横断歩道の予告標示が含まれている。但し、図５（ｂ）の左側の状態では、連結画像ＰＩＣ５４、ＰＩＣ５５には相対的に位置誤差があるため、標示の位置がずれている。
この状態で、オペレータが、２組の対応点を指定したとする。対応点Ｐ５４、Ｐ５３の組と、対応点Ｐ５６、Ｐ５５の組である。連結画像ＰＩＣ５４では、連結画像ＰＩＣ５５に含まれる予告標示Ｍ５２は全体が描かれており、連結画像ＰＩＣ５４に含まれる予告標示Ｍ５１は一部が消えている。このような状態であっても、対応点Ｐ５５、Ｐ５６が対応することは明らかであるため、対応点として指定することは可能である。
このように複数組の対応点が指定されると、連結画像ＰＩＣ５４を基準として、それぞれの対応点が一致するように、連結画像ＰＩＣ５５を移動させる。ただし、対応点Ｐ５３をＰ５４に一致させるための第１の移動量と、対応点Ｐ５５をＰ５６に一致させるための第２の移動量とが同じであるとは限らない。そこで、対応点Ｐ５３とＰ５５との間の領域では、第１の移動量、第２の移動量を直線補間して、各点の移動量を設定する。こうすることにより、予告標示のずれが解消した状態の道路画像ＰＩＣ５６を得ることができる。
【００７４】
図５（ｂ）中には、透明化ポリゴンの設定例も併せて示した。
この例では、連結画像ＰＩＣ５４中の予告標示Ｍ５１は半分が欠けている。この状態で位置合わせを行うと、この例では、連結画像ＰＩＣ５４をＰＩＣ５５の上側に重ねるように表示しているから、連結画像ＰＩＣ５５の予告標示Ｍ５２は、連結画像ＰＩＣ５４によって覆い隠されてしまう。この結果、連結画像ＰＩＣ５５では完全な状態で描かれている標示Ｍ５２を道路画像ＰＩＣ５６で活かすことができない。
そこで、このような場合に、オペレータの指示によって予告標示Ｍ５２を取り囲むように透明化ポリゴンＴＰ５０を設定する。透明化ポリゴンＴＰ５０が設定された箇所では、上側の連結画像が透明化され、切り取られたように表示される。この結果、透明化ポリゴンＴＰ５０の部分では、連結画像ＰＩＣ５４の下側に配置された連結画像ＰＩＣ５５に描かれている予告標示Ｍ５２が表示される。
本実施例では、このように透明化ポリゴンを設定可能とすることによって、それぞれの連結画像で描かれている標示を、道路画像においても有効活用することができる。
【００７５】
図６は交差点が存在する場合の位置合わせの手順を示す説明図である。図の煩雑化を避けるため、ここでは連結画像のパスの位置関係のみを示した。図中には、２つの交差点周辺の道路が描かれている。縦の道路では、それぞれパスＢＰ６１、ＢＰ６２に沿って連結画像が得られているとする。横の道路については、破線で示したパスＢＰ６３ｂ、ＢＰ６４ｂ、ＮＰ６１ｂに沿って連結画像が得られているとする。
【００７６】
本実施例では、複数のパス間の位置合わせを行う際には、いずれか一つのパスを基準パスに設定し、他のパスを平行移動して基準パスに合わせる。基準パス以外のパスを、以下、標準パスと呼ぶものとする。基準パスおよび標準パスは、任意の方法で設定可能であるが、本実施例では、後述する通り、位置精度が高いものを基準パスとして設定している。
図６の例では、縦の道路については、それぞれ単一のパスしか存在しないため、パスＢＰ６１、ＢＰ６２が基準パスとなる。
横の道路については、区間Ｄ６１ではパスＢＰ６３ｂとＮＰ６１ｂのうち位置精度が高い側を基準パスとし、区間Ｄ６２についてはＢＰ６４ｂとＮＰ６１ｂのうち位置精度が高い側を基準パスとする。ここでは、それぞれパスＢＰ６３ｂ、ＢＰ６４ｂが基準パスとして設定されているものとする。更に、パスＢＰ６３ｂ、ＢＰ６４ｂ間の位置精度を比較して、優劣を決める。パスＢＰ６３ｂ、ＢＰ６４ｂはそれぞれ区間Ｄ６１、Ｄ６２の基準パスではあるが、一本の道路に配置された連続するパスなので、これらのパス間でも位置合わせを行う必要があるからである。図６の例では、パスＢＰ６３ｂの方が、パスＢＰ６４ｂよりも位置精度が高いものとする。
この結果、横のパスについては、基準パスＢＰ６３ｂ＞基準パスＢＰ６４ｂ＞標準パスＮＰ６１ｂの順に位置合わせの優先度が定まる。
【００７７】
次に、上述の優先度に従って、それぞれのパスの位置合わせを行う。縦のパスＢＰ６１、ＢＰ６２は既に位置合わせが完了しているものとする。
まず、基準パスＢＰ６３ｂの位置合わせを行う。オペレータの指示によって、基準パスＢＰ６３ｂ上の対応点Ｐ６３ｂが指定され、その本来の位置として、点Ｐ６３ａが指定されたとする。この結果、基準パスＢＰ６３ｂは、対応点Ｐ６３ｂが、点Ｐ６３ａに一致するように移動され、実線で示した基準パスＢＰ６３ａが得られる。
図示を省略したが、基準パスＢＰ６３ｂに対応した連結画像も基準パスＢＰ６３ａに合わせて移動する。本実施例では、基準パスＢＰ６３ｂに沿って路面テクスチャを配置することによって連結画像を表示しており、これらの路面テクスチャを合成してはいない。従って、基準パスＢＰ６３ａへの移動が行われた場合には、基準パスＢＰ６３ａに沿うように、各路面テクスチャの位置を平行移動することによって、基準パスＢＰ６３ａの連結画像を得ることができる。
【００７８】
次に、基準パスＢＰ６４ｂの位置合わせを行う。オペレータの指示によって、基準パスＢＰ６４ｂ上の対応点Ｐ６５ｂ、Ｐ６４ｂが指定され、その本来の位置として、点Ｐ６５ａ、Ｐ６４ａが指定されたとする。この対応点は、基準パスＢＰ６３ａの連結画像に基づいて指定されている。つまり、基準パスＢＰ６３ｂを基準パスＢＰ６３ａに位置合わせする処理の結果に応じて、基準パスＢＰ６４ｂの位置合わせは影響を受けることになる。
対応点が指定されると、基準パスＢＰ６４ｂは、対応点Ｐ６５ｂ、Ｐ６４ｂが、点Ｐ６５ａ、Ｐ６４ａに一致するように移動され、実線で示した基準パスＢＰ６４ａが得られる。これに合わせて、基準パスＢＰ６４ｂの連結画像を構成していた路面テクスチャも、それぞれ基準パスＢＰ６４ａ上に平行移動される。
【００７９】
最後に、標準パスＮＰ６１ｂの位置合わせを行う。オペレータの指示によって、標準パスＮＰ６１ｂ上の対応点Ｐ６８ｂ、Ｐ６７ｂ、Ｐ６６ｂが指定され、その本来の位置として、点Ｐ６８ａ、Ｐ６７ａ、Ｐ６６ａが指定されたとする。この対応点は、基準パスＢＰ６３ａ、ＢＰ６４ａの連結画像に基づいて指定されている。つまり、基準パスＢＰ６３ｂを基準パスＢＰ６３ａに位置合わせする処理、および基準パスＢＰ６４ｂを基準パスＢＰ６４ａに位置合わせする処理の結果に応じて、標準パスＮＰ６１ｂの位置合わせは影響を受けることになる。
対応点が指定されると、標準パスＮＰ６１ｂは、対応点Ｐ６８ｂ、Ｐ６７ｂが、点Ｐ６８ａ、Ｐ６７ａに一致するように移動されるとともに、対応点Ｐ６７ｂ、Ｐ６６ｂが、点Ｐ６７ａ、Ｐ６６ａに一致するように移動される。これらの３点は一直線上にはないから、結果として、標準パスＮＰ６１ｂは、折れ線状の標準パスＮ６１ａに移動される。これに合わせて、標準パスＮＰ６１ｂの連結画像を構成していた路面テクスチャも、それぞれ標準パスＮＰ６１ａ上に平行移動される。
【００８０】
本実施例では、図６に示すように複数のパスが存在する場合には、以上で説明した手順によって、位置精度が高いパスから優先的に位置合わせが行われる。こうすることによって、全体の位置精度を十分に確保しつつ位置合わせを行うことができる。
例えば、図６の処理において、位置精度が低い順、つまり標準パスＮＰ６１ｂ、基準パスＢＰ６４ｂ、基準パスＢＰ６３ｂの順に位置合わせをしたとする。この場合には、基準パスＢＰ６４ｂの位置合わせは、標準パスＮＰ６１ｂの位置合わせの影響を受け、位置精度が低下する。基準パスＢＰ６３ｂの位置合わせは、標準パスＮＰ６１ｂ、基準パスＢＰ６４ｂの位置合わせの影響を受け、位置精度が低下する。従って、位置精度が低い順に位置合わせを行うと、パス間の相互作用によって全体の位置精度が低下してしまう。
本実施例では、これとは逆に、位置精度が高い順に位置合わせを行う。従って、最も位置精度が高いパスの位置精度を劣化させることなく、全体の位置合わせを行うことが可能となるのである。
【００８１】
Ｃ．路面標示地図生成方法：
以下、図１〜６で説明した路面標示地図生成方法について、オペレータが必要に応じて指示を行う場合を例にとって、詳細に説明する。
まず、連結画像生成処理、つまり図３中の路面テクスチャ２１０ｃ、路面軌跡データ２１０ｂに基づいて各パスの連結画像２１０ｄを得る処理について説明する。
次に、位置合わせ加工、つまり複数パスに対する連結画像２１０ｄの位置合わせを行う処理、および位置合わせ加工の中で行われる基準パス設定処理、連結画像移動処理について説明する。
また、透明化ポリゴンの設定処理について説明する。透明化ポリゴンの設定に関しては、まず、処理概要の理解を容易にするため、オペレータが指定する場合を例にとって説明する。
【００８２】
上述の一連の処理においては、路面標示地図生成装置が連結画像内の標示の位置を表示するようにすれば、オペレータが対応点や透明化ポリゴンの位置を容易に指定可能となる。また、自動的に対応点を特定したり、透明化ポリゴンを設定したりすることも可能となる。こうした処理を可能にするための処理として、ペイント認識処理について説明する。
そして、ペイント認識処理の結果を踏まえて、透明化ポリゴンを自動設定するための自動透明ポリゴン設定処理について説明する。
【００８３】
Ｃ１．連結画像生成処理：
図７は連結画像生成処理のフローチャートである。ハードウェア的には路面標示地図生成装置２００のＣＰＵが実行する処理である。これは、図２に示した画像変換部２０６、１パス合成部２０７の処理に相当する。
処理を開始すると、ＣＰＵは、まずフレームデータを読み込む（ステップＳ１０）。フレームデータとは、道路面撮影システム１００（図１）のビデオカメラ１２０で撮影された画像データ１４２を構成する各フレームの画像である。
【００８４】
図中にフレームデータの例を示した。ビデオカメラ１２０は、道路面撮影システム１００の前方に向けて設置されているため、フレームデータには、車両の前方の道路、前方車両などが写っている。本実施例では、道路面の画像を生成したいため、このフレームデータの一部の領域を切り出して使用する。図中の領域Ａ７１は、道路面のみが含まれるように設定された切り出し領域を現している。本実施例では、車両の前方５〜７ｍの領域の画像を取得するように領域Ａ７１を設定した。領域Ａ７１の各フレーム内での相対的な位置は一定である。
領域Ａ７１は、上述の例に限らず、任意に設定可能である。ビデオカメラ１２０が一定のフレームレートで画像を撮影するため、フレームデータは、道路面を間欠的に撮影した画像群となる。従って、領域Ａ７１は、間欠的に撮影された画像群を並べた時に、道路が連続画像として再現できるように範囲を決定することが好ましい。例えば、領域Ａ７１の縦幅を狭くすれば、車両の速度が速い場合には、あるフレームデータから切り出された領域と、次のフレームデータから切り出された領域との間に隙間が生じやすくなる。一方、領域Ａ７１の縦幅を広くすれば、前方車両や空、建物など、道路画像とは異なる雑多な映像が含まれやすくなる。領域Ａ７１は、これらの影響を考慮した上で、設定すればよい。
【００８５】
次に、ＣＰＵは、取得されたフレームデータを正射画像（路面テクスチャ）に画像変換する（ステップＳ１２）。図中に処理の概要を示した。上側にはフレームデータの例である。ここでは路面の状態のみが撮影され、道路の左右の車線規制線Ｌ７１、Ｌ７２および標示Ｍ７が写されている例を示した。前方を撮影した画像であるため、パース（遠近法）の影響で、本来平行な車線規制線Ｌ７１、Ｌ７２が、ハの字状に写されている。
先に説明した通り、このフレームデータの一部の領域Ａ７１を切り出して使用する。
下段には、領域Ａ７１の画像を正射投影変換した状態を例示した。道路を真上から見た画像に変換するため、左右の車線規制線Ｌ７１、Ｌ７２は図示する通り、平行な線分に変換される。標示Ｍ７も同様に真上から見た状態の形状に変換される。
【００８６】
正射投影変換の方法を説明する。
まず、道路面撮影システム１００を搭載した車両は水平面上を走行しており、被写体である道路も同一水平面上にあるものとする。
この時、道路画像、即ちフレームデータの画面上の２次元座標をｍ＝［ｕ，ｖ］Ｔとする。また、地面に固定された世界座標系の３次元座標をＭ＝［Ｘ，Ｙ，Ｚ］Ｔとする。これらの各座標に１の要素を直積で加えたベクトルを、次式（１）の通り定義する。
【００８７】
【数１】

【００８８】
３次元座標Ｍと、その投影画像の２次元座標ｍとの関係を以下の関係式（２）（３）によりモデル化する。
【数２】

【００８９】
ここで、ｓはスケール・ファクター；
［Ｒｔ］は、外部パラメータ行列；
Ｒは回転行列；
ｔは平行移動行列；
Ａは内部パラメータ行列である。
内部パラメータ行列Ａは、ビデオカメラ１２０の焦点距離等を考慮した内部的なパラメータであり、実画像座標系（ｘｙ座標系）からフレーム座標系（ｕｖ座標系）への写像パラメータを表す。
α、βはそれぞれｕ軸、ｖ軸方向のスケール因子、γは２つの画像軸のスキューにより表されるパラメータ；
［ｕ0，ｖ0］Ｔは、画像の主点の座標（主点座標）である。
【００９０】
画像のピクセルサイズを（ｋｕ、ｋｖ）、ｕ軸とｖ軸とのなす角をθ、焦点距離をｆとすると、α、β、γは次式（４）で表される。
【数３】

【００９１】
外部パラメータ行列［Ｒｔ］は、ビデオカメラ１２０の設置位置、設置姿勢などによる外部的なパラメータであり、世界座標系（ＸＹＺ座標系）から実画像座標系（ｘｙ座標系）への写像パラメータを表す。世界座標系は、ビデオカメラ１２０の真下の路面を原点とし、車両の進行方向に対し垂直な水平軸をＸ軸、鉛直軸をＹ軸、進行方向の水平軸をＺ軸とする。
平行移動ベクトルｔは、世界座標系において原点に対する実画像の画像主点の移動ベクトルである。
ビデオカメラ１２０の高さ（実画像の画像主点の高さ）をｈとすると、平行移動ベクトルｔは次式（５）で表される。
【００９２】
【数４】

【００９３】
また、世界座標系において、実画像のヘディング方向の回転角（ヨー角）をφ、ピッチ角をω、ロール角をκとすると、回転行列Ｒは次式（６）で表される。
【数５】

【００９４】
内部パラメータ行列Ａは、事前の測定によって得られる。
ヨー角φ、ピッチ角ω、ロール角κおよび画像主点の高さｈは、次の手順で得られる。まず、初期状態、即ち車両が水平な地面に設置されている状態において、ヨー角φ0、ピッチ角ω0、ロール角κ0、および高さｈ0の基準値を計測しておく。次に、走行中には逐次、車両の姿勢角の変化および車高の変化をジャイロ、加速度センサ等で記録しておき、上述の基準値にこの変化を反映することで、各地点でのヨー角φ、ピッチ角ω、ロール角κおよび高さを得ることができる。
【００９５】
正射投影変換は、これらのパラメータに基づき、式（２）を用いることにより、行われ、フレーム座標系（ｕｖ座標系）の道路画像を、世界座標系（ＸＹＺ座標系）の投射道路画像に変換することができる。その手順は次の通りである。
まず、被写体である道路面を水平面（Ｙ＝０）の画像であると仮定する。この時、式（２）より、次式（７）の関係が成立する。
【００９６】
【数６】

この結果、ピクセル（ｕ，ｖ）に対する世界座標（Ｘ，Ｚ）およびスケールパラメータｓは次式（８）により求めることができる。
【００９７】
【数７】

次に、路面標示地図生成装置２００のＣＰＵは、被写体である道路面の傾斜を考慮した補正を行う。
まず、フレームデータを取得した各地点の位置座標データ（Ｘ０，Ｙ０，Ｚ０）と、被写体である道路面付近の複数点の位置座標（Ｘｉ，Ｙｉ，Ｚｉ）とから、被写体である道路面の勾配を計算する。本実施例では、勾配は一様であるものと仮定した。
具体的には、撮影地点の世界座標点（Ｘ，Ｙ，Ｚ）付近の位置座標データから、高さの変化Δｈを求める。つまり、Δｈ＝Ｙ−Ｙ０である。この時、一様な勾配を仮定すると、道路面上の世界座標系（Ｘ’，Ｙ’，Ｚ’）の点の奥行きＺ’は次式（９）で求めることができる。
【００９８】
【数８】

補正した道路面上の奥行きＺ’が決まると、式（２）より、フレーム座標点（ｕ，ｖ）と世界座標点（Ｘ’，Ｙ’，Ｚ’）との関係は次式（１０）の通りとなる。
【００９９】
【数９】

【０１００】
これより、世界座標点のＸ’，Ｙ’を次式（１１）によって計算することができる。
【数１０】

【０１０１】
以上の通り、フレームデータ上の点（ｕ，ｖ）を、それぞれ（Ｘ’，Ｚ’）に写像すれば、正射画像（路面テクスチャ）を得ることができる。図７中に示すように、フレームデータを矩形の領域Ａ７１で切り出した上で正射投影すると、上方が広がる台形状の正射画像（路面テクスチャ）Ａ７２が得られる。
本実施例では、後に続く処理の便宜のため、正射画像（路面テクスチャ）を低解像度／高解像度の２通りで生成するものとした。高解像度の正射画像（路面テクスチャ）（以下、「高解像度画像」と呼ぶ）は、もとのフレームデータの切り出し領域Ａ７１をそのまま利用して生成された画像、即ち原画像と同じ解像度で生成された画像である。低解像度の正射画像（路面テクスチャ）（以下、「低解像度画像」と呼ぶ）は、解像度を原データよりも下げた画像である。低解像度画像の解像度は、路面標示地図生成装置２００が軽い負荷で画像を表示することができる程度の値とすることが好ましく、原画像の解像度の半分など、任意に設定可能である。
【０１０２】
次に、路面標示地図生成装置２００のＣＰＵは、得られた正射画像（路面テクスチャ）を配置して１パス画像の合成を行う（ステップＳ１４）。図中に１パス画像合成の例を示した。この例では、正射画像（路面テクスチャ）Ａ７２［０］〜Ａ７２［５］が合成されている。
各正射画像（路面テクスチャ）Ａ７２は、フレーム座標系（ｕｖ座標系）の原点に対応する点を、各フレームデータの撮影時の位置座標に基づいて配置すればよい。フレームデータは車両の位置よりも前方を写したものであるため、正射画像（路面テクスチャ）は、車両位置から一定距離だけ前方に移動させた地点に配置する必要がある。本実施例では、フレームデータ毎に車輌位置とフレーム座標系の位置関係を計算して配置する。また、正射画像（路面テクスチャ）は、時系列的に古い画像から新しい画像に順次、配置するものとした。
【０１０３】
このように正射画像（路面テクスチャ）を配置することによって、道路面の車線境界線Ｌ７１、Ｌ７２および標示Ｍ７が再現される。
本実施例では、連結画像生成処理の段階では、正射画像（路面テクスチャ）を１枚の画像に結合することなく、配置して表示する状態に留めている。従って、１パス画像合成処理（ステップＳ１４）で生成されるのは、合成画像ではなく、各正射画像（路面テクスチャ）の配置を決定する情報となる。もっとも、この処理において、正射画像（路面テクスチャ）を１枚の画像に結合する方法を採ることもできる。
【０１０４】
Ｃ２．位置合わせ加工：
図８は位置合わせ加工のフローチャートである。ハードウェア的には路面標示地図生成装置２００のＣＰＵが実行する処理である。これは、図２に示した位置合わせ処理部２２０の処理に相当する。
処理を開始すると、ＣＰＵは、まず処理の対象となる道路（以下、「対象道路」と言う）についてのオペレータからの指定を入力する（ステップＳ２０）。そして、対象道路に対応する連結画像を入力する（ステップＳ２２）。本実施例では、それぞれの道路について、走行位置を変えながら複数回走行して、路面画像を撮影している。従って、各走行に対応するパスに基づいて、それぞれ連結画像が生成されている。ステップＳ２２では、これらの複数の連結画像を読み込む。
次に、ＣＰＵは基準パスを設定する（ステップＳ３０）。基準パスとは、複数のパスの位置合わせをする際に、基準となるパスである。本実施例では、対象道路に対応するパスのうち、位置精度の評価値、即ち自己推定位置精度が最も高いものを選択する。基準パスの設定方法については、後述する。
【０１０５】
基準パスが設定されると、ＣＰＵはオペレータの操作に従い、各パスについて対応点を設定する処理を行う（ステップＳ４０）。
本実施例では、図中に示すように、基準パスおよび標準パスの連結画像をディスプレイに表示し、オペレータが、マウスなどのポインティングデバイスを操作して、この画面内で対応点を設定するという方法を採った。図の例では、標準パスの画像内で菱形をした横断歩道予告標示の頂点を対応点として指定し、次に、これに対応する頂点を基準パスの画像内で指定する例を示した。対応点は、１点に限らず、複数の点を指定可能である。
後述するペイント認識処理が行われており、各連結画像内の標示が抽出されている場合には、ＣＰＵは、抽出した標示をディスプレイに表示し、オペレータがこの中から対応点として用いるべき標示を選択するようにしてもよい。また、連結画像間で抽出した標示の位置関係に基づいて、対応する標示を特定し、対応点や透明化ポリゴンを自動的に設定可能としてもよい。
【０１０６】
本実施例では、この連結画像の表示には、低解像度画像を用いる。こうすることにより、対応点を指定する際に、表示の移動、拡大・縮小を円滑に行うことができ、作業効率を高めることができる利点がある。
対応点が指定されると、ＣＰＵは、対応点同士が一致するように、標準パスの連結画像を基準パスの連結画像に合わせるよう移動する処理を行って、位置合わせ加工を終了する（ステップＳ５０）。
先に説明した通り、本実施例では、連結画像は一枚の合成画像として生成されている訳ではなく、正射画像（路面テクスチャ）を配置して表示している。従って、ステップＳ５０の処理では、それぞれの正射画像（路面テクスチャ）を移動することで、連結画像の移動処理が行われる。移動処理と併せて、それぞれの正射画像を低解像度画像から高解像度画像に置換する処理が行われる。高解像度画像を用いて、正射画像を再配置する処理を行うものとしてもよい。
連結画像移動処理の内容は、後で詳述する。
【０１０７】
Ｃ３．基準パス設定処理：
図９は基準パス設定処理のフローチャートである。位置合わせ加工（図８）のステップＳ３０に相当する処理であり、複数のパスの位置合わせをする際に、自己推定位置精度が最も高いものを基準パスとして設定するための処理である。
ＣＰＵは、処理を開始すると、対象道路の各パスについて、フレーム画像が取得されている各地点での位置精度を入力する（ステップＳ３１）。撮影時には、図中に示すように、パスにそって点Ｐ９１，Ｐ９２、Ｐ９３等でフレーム画像を撮影するとともに、各点ごとに東西方向の位置精度ＡＣ１、南北方向の位置精度ＡＣ２が記録されている。
【０１０８】
一般にＧＰＳ１１４は、位置座標の検出に使用される人工衛星の配置、電波の受信状況、建造物などに反射した電波を受信することによるマルチパスの有無などによって検出精度が変動することが知られている。またディファレンシャル測位では、基準局の稼働状況によっても検出精度は影響を受ける。位置精度は、これらの影響を定量的に評価したものである。位置精度は、任意に定義可能であり、例えば、精度低下率（ＤＯＰ（Dilution of Precision））等を用いても良い。
ＣＰＵは、各点の位置精度に基づいて、パスごとに自己推定位置精度σを算出する（ステップＳ３２）。
【０１０９】
自己位置推定精度は、ＧＰＳと、ＩＭＵ、ＤＭＩ等とのずれに基づいて定まる値としてもよい。この場合は、例えば、ずれ量の標準偏差を用いても良い。また、東西方向の標準偏差の自乗と、南北方向の標準偏差の自乗の和を求め、この平方根を自己位置推定精度として用いても良い。このように、ＧＰＳと、ＩＭＵ、ＤＭＩ等のずれ量に応じた値とする場合には、自己位置推定精度は、ずれが大きい程、大きい値となる。つまり、自己推定位置精度は値が小さい方が、精度が高いことを示す評価値となる。
各パスの自己推定位置精度σが得られると、ＣＰＵはこの値が最小となるパスを基準パスとして設定する（ステップＳ３３）。対象道路に対して単一のパスしか存在しない場合には、無条件にそのパスが基準パスとして設定されることになる。この基準パスの自己推定位置精度をσＢとする。
【０１１０】
ステップＳ３３で設定された基準パスの自己推定位置精度σＢが、所定の閾値σＴＨよりも低い場合には（ステップＳ３４）、基準パス設定処理を終了する。
これに対し、自己推定位置精度σＢが、所定の閾値σＴＨ以上の場合には、エラー表示を行って（ステップＳ３５）、処理を終了する。この場合には、基準パスの位置精度が十分確保されていないことを意味するため、位置合わせ処理を行っても、位置精度が十分に保証されないからである。
所定の閾値σＴＨは、上述の通り、路面標示地図として確保すべき位置精度に基づいて任意に設定可能である。
【０１１１】
エラー表示（ステップＳ３５）を行うか否かの判断対象となるのは、基準パスの自己推定位置精度σＢのみとした。他の標準パスについては、自己推定位置精度が低い場合でも、基準パスを基準として位置合わせを行うことにより、位置精度を高めることが可能だからである。
もっとも、位置合わせ処理における修正は、いずれのパスに対してもできるだけ小さい方が、より好ましいと言える。従って、ステップＳ３４において、全てのパスの自己推定位置精度を閾値σＴＨと比較し、いずれか一本でも、この閾値を下回る精度のパスが存在する場合にはエラー表示を行うようにしてもよい。
ただし、標準パスにも基準パスと同等の位置精度を要求すると、エラー表示が頻繁になされるおそれがある。かかる弊害を回避するため、標準パスでは基準パスよりも高い閾値σＴＨを用いるようにしてもよい。つまり、標準パスについては位置精度の要求を基準パスよりも緩めるのである。こうすることによって、標準パスについても最低限の位置精度を保証しつつ、エラー表示が頻繁になされるのを回避することができる。
【０１１２】
Ｃ４．連結画像移動処理：
（１）フローチャート：
図１０は連結画像移動処理のフローチャートである。位置合わせ処理（図８）のステップＳ５０の処理に相当する。
処理を開始すると、ＣＰＵは移動対象となる標準パスのデータおよび対応点のデータを入力する（ステップＳ５１）。標準パスのデータとは、フレーム画像が撮影された時の位置座標を順次、記録した点列からなる軌跡データである。対応点のデータは、図８のステップＳ２０において、基準パスおよび標準パスが表示された画面内でオペレータが指定した対応点の座標値である。
【０１１３】
ＣＰＵは、次に、標準パス上で正射画像（路面テクスチャ）が配置されている点ごとに、移動ベクトルを算出する（ステップＳ５２）。
図中に移動ベクトルの算出例を示した。この例では、標準パスＮＰ１０について、対応点Ｐ１０１、Ｐ１０３が指定されているものとする。標準パス上には、図中に台形で示すように正射画像（路面テクスチャ）が配置されている。
対応点Ｐ１０１、Ｐ１０３に対応する点としては、基準パス上では、対応点Ｐ１０２、Ｐ１０４が指定されているものとする。ＣＰＵは、これらの指定結果に基づき、対応点について移動ベクトルを求める。図の例では、標準パスの対応点Ｐ１０１からＰ１０２に向かう移動ベクトルＶ１０と、対応点Ｐ１０３からＰ１０４に向かう移動ベクトルＶ１１が得られる。
【０１１４】
対応点は、標示の頂点など、オペレータが基準パスと標準パスとで対応をとりやすい点を指定するため、必ずしも標準パスＮＰ１０上で指定されるとは限らない。対応点が標準パスＮＰ１０からずれた場所で指定されている場合には、図中に破線で示すように標準パスＮＰ１０からずれた場所に移動ベクトルＶ１０ａが得られる。従って、この移動ベクトルＶ１０ａの始点が標準パスＮＰ１０上に来るように、標準パスＮＰ１０に垂直方向に移動させて移動ベクトルＶ１０を求めればよい。
【０１１５】
対応点での移動ベクトルＶ１０、Ｖ１１が得られると、ＣＰＵは、これらを補間することによって、対応点Ｐ１０１、Ｐ１０３の間に位置する各点での移動ベクトルを求める。例えば、図中に示すように、フレーム画像の撮影地点ＰＰ１０で移動ベクトルを求める場合には、この地点を始点とするように移動ベクトルＶ１０、Ｖ１１を平行移動し、両ベクトルの終点を結ぶ線分を、対応点Ｐ１０１〜ＰＰ１０の距離、Ｐ１０３〜ＰＰ１０の距離の比で内分する点を求める。こうすることによって、点ＰＰ１０を始点とし、この内分点を終点とする移動ベクトルＶＰ１０を求めることができる。
【０１１６】
２つの移動ベクトルＶ１０、Ｖ１１に挟まれた区間に存在しない点については、最も近い位置にある移動ベクトルをそのまま用いる。図中の例では、点Ｐ１０１よりも右側の区間では、移動ベクトルＶ１０をそのまま用い、点Ｐ１０３の左側の区間では、移動ベクトルＶ１１をそのまま用いることになる。
また、対応点が一つしか指定されておらず、移動ベクトルが一つしか与えられない場合は、この移動ベクトルを用いる。
【０１１７】
ＣＰＵは以上の処理で得られた移動ベクトルに従って、正射画像（路面テクスチャ）を平行移動して（ステップＳ５３）、連結画像移動処理を終了する。図の例では、標準パスＮＰ１０の点ＰＰ１０に配置されていた路面テクスチャＴＸ１１が、移動ベクトルＶＰ１０に従って路面テクスチャＴＸ１２の位置に平行移動される例を示している。
この処理と併せて、標準パスＮＰ１０上の点ＰＰ１０の位置も移動ベクトルＶＰ１０によって修正される。従って、ステップＳ５３の処理では、路面テクスチャの移動と共に、標準パスＮＰ１０の軌跡も修正されることになる。
【０１１８】
（２）位置合わせ加工の処理例（１）：
図１１は位置合わせ加工の処理例（１）を示す説明図である。図１１（ａ）〜図１１（ｃ）のそれぞれには、標準パスＮＰ１１および基準パスＢＰ１１に対する連結画像を重ねて表示した表示した状態を示している。図１１（ａ）は標準パスＮＰ１１の連結画像を、基準パスＢＰ１１の連結画像よりも上に配置した状態である。先に説明した通り、連結画像は多数の路面テクスチャを配置することで構成されているが、図中には、説明の便宜上、一つの路面テクスチャＴＸ１１に輪郭を付して示した。
オペレータは、この画面中で、標準パスＮＰ１１における対応点Ｐ１１１を指定する。対応点Ｐ１１１は、任意に設定可能である。本実施例では、分離帯標示Ｍ１１の白線の斜め縞模様の端点の一つを対応点Ｐ１１１として選択している。
【０１１９】
図１１（ｂ）は、基準パスＢＰ１１の連結画像を上側にして配置した状態を示している。この状態では、標準パスＮＰ１１と基準パスＢＰ１１の位置がずれている。従って、基準パスＢＰ１１の連結画像を上側に表示すると、対応点Ｐ１１１の位置は、分離帯標示Ｍ１２の白線の斜め縞模様からずれてしまう。
図１１（ｃ）は、基準パスＢＰ１１の連結画像を上側にした状態で、対応点Ｐ１１２を指定した状態を示している。つまり、基準パスＢＰ１１を上側にした画像内で、分離帯標示Ｍ１１の白線の斜め縞模様の端点を対応点Ｐ１１２として選択すればよい。
対応点Ｐ１１２が指定されると、標準パスＮＰ１１の対応点Ｐ１１１から基準パスＢＰ１１の対応点Ｐ１１２に向かうように移動ベクトルＶ１１が求められる。この移動ベクトルＶ１１に従って、路面テクスチャＴＸ１１を移動すれば、対応点Ｐ１１１は対応点Ｐ１１２に一致し、分離帯標示Ｍ１１、Ｍ１２の位置も一致させることができる。
【０１２０】
路面テクスチャＴＸ１１だけでなく、位置合わせ加工では、標準パスＮＰ１１を構成する他の路面テクスチャも同様に、移動ベクトルＶ１１に従って移動させる。ここでは対応点を一つだけ指定した処理例を示したが、対応点は複数指定してもよい。例えば、図の例では、横断歩道の縞模様、停止線、車線境界線の端点などを対応点として利用することが考えられる。
【０１２１】
（３）位置合わせ加工の処理例（２）：
図１２は位置合わせ加工の処理例（２）を示す説明図である。標準パスＮＰ１２、基準パスＢＰ１２の連結画像を重ねた状態を示した。説明の便宜上、双方の路面標示を視認可能な状態で示している。位置合わせ前は、標準パスＮＰ１２、基準パスＢＰ１２の位置がずれているため、車線境界線などの標示の位置はずれている。
オペレータは、ここでは破線での車線境界線の端点の一つを対応点として選択している。標準パスＮＰ１２については車線境界線Ｌ１２２の端点を対応点Ｐ１２２として選択し、基準パスＢＰ１２については車線境界線Ｌ１２１の端点を対応点Ｐ１２１として選択する。この結果、標準パスＮＰ１２の対応点Ｐ１２２から基準パスＢＰ１２の対応点Ｐ１２１に向かう移動ベクトルＶ１２が定まる。
【０１２２】
図１３は位置合わせ加工の処理（２）の加工結果を示す説明図である。
上述の通り、標準パスＮＰ１２の連結画像を、移動ベクトルＶ１２に従って移動することによって、車線境界線の位置を合わせることができる。位置合わせの結果が車線境界線Ｌ１３である。
また、この位置合わせ加工によって、標準パスも基準パスの位置に合わせられる。本実施例は、本来、異なる位置を走行した複数のパスを位置合わせすることによって、道路面の画像を生成する。この際、図１２、図１３の比較から分かる通り、対応点に基づいて設定される移動ベクトルに従って、標準パスを平行移動することにより、複数のパス間で、路面標示の位置関係およびパスの位置関係を、非常によく一致させることができる。
【０１２３】
（４）絶対座標の取得：
図１４は路面標示の絶対位置座標の取得方法を示す説明図である。図の例では、標準パスＮＰ１４上の路面テクスチャＴＸ１４２、基準パスＢＰ１４上の路面テクスチャＴＸ１４１を例示した。路面テクスチャＴＸ１４１、ＴＸ１４２内には、それぞれ標示Ｍ１４１、Ｍ１４２が含まれている。
路面テクスチャＴＸ１４１、ＴＸ１４２は、それぞれの代表点が、基準パスＢＰ１４上の点Ｐ１４１、および標準パスＮＰ１４上の点Ｐ１４３に一致するように配置される。
【０１２４】
路面テクスチャＴＸ１４１内で、標示Ｍ１４１の頂点Ｐ１４２の位置は、代表点を原点とする相対的な座標（ｘ１４２，ｙ１４２）で特定することができる。従って、代表点の絶対座標、即ち路面テクスチャＴＸ１４１が配置されている位置座標（Ｘ１４１，Ｙ１４１）が分かれば、これに、上述の相対的な座標を加えることによって、標示Ｍ１４１の頂点Ｐ１４２の絶対位置座標を取得することができる。
路面テクスチャＴＸ１４２内も同様に、標示Ｍ１４２の頂点Ｐ１４５の位置は、代表点を原点とする相対的な座標（ｘ１４５，Ｙ１４５）で特定することができる。従って、代表点の絶対座標、即ち路面テクスチャＴＸ１４２が配置されている位置座標（Ｘ１４３，Ｙ１４３）が分かれば、これに、上述の相対的な座標を加えることによって、標示Ｍ１４２の頂点Ｐ１４５の絶対位置座標を取得することができる。
【０１２５】
路面テクスチャＴＸ１４２については、位置合わせ加工によって、移動ベクトルＶ１４に従って、代表点の位置Ｐ１４３が点Ｐ１４４に移動したとする。この時、位置合わせ後の点Ｐ１４４の絶対位置座標は、移動前の点Ｐ１４３の位置座標（Ｘ１４３，Ｙ１４３）に、移動ベクトルＶ１４の成分（ＶＸ１４，ＶＹ１４）を加えることで得ることができる。更に、こうして得られた点Ｐ１４４の絶対位置座標に対して、点Ｐ１４５の相対的な座標（ｘ１４５，Ｙ１４５）を加えれば、位置合わせ加工後の標示Ｍ１４２の頂点Ｐ１４５の絶対位置座標を取得することができる。
ここでは、路面テクスチャ内の標示Ｍ１４１，Ｍ１４２の頂点について絶対位置座標を取得する方法を示したが、路面テクスチャ内の任意の点は、それぞれ路面テクスチャの代表点を基準とする相対的な座標で特定可能であるから、同様の方法によって任意の点の絶対位置座標を取得することが可能である。
【０１２６】
Ｃ５．透明化ポリゴン設定処理：
（１）処理概要：
図１５は透明化ポリゴン設定処理の概要を示す説明図である。透明化ポリゴン設定処理は、重ねられた道路画像上に、オペレータの指示によって、透明化ポリゴンを設定することによって、隣接するパスに対応する正射画像同士が重なり合っている部分で、上側の正射画像の一部を透明化して、下側の正射画像を透視可能とする処理である。ここでは、まずオペレータが手動で設定する場合を例にとって処理内容を説明する。
図の中央に、正射画像Ｐ１５２の上に正射画像Ｐ１５１が重ねられている様子を斜視図的に示した。下側の正射画像Ｐ１５２には、横断歩道Ａ１５４が分断された状態で含まれており、停止線Ａ１５３が完全な状態で含まれている。上側の正射画像Ｐ１５１には、横断歩道Ａ１５２が完全な形で含まれており、停止線Ａ１５１が分断された状態で含まれている。それぞれ分断された部分を、破線で囲んで示した。
【０１２７】
この状態で正射画像Ｐ１５１、Ｐ１５２を重ねると、左側に示したように表示される。つまり、両者が重なった部分では、上側の正射画像Ｐ１５１の画像のみが表示されるため、横断歩道Ａ１５２は完全な状態で表示されるが、停止線Ａ１５１は分断された状態で示されてしまうのである。
仮に、正射画像Ｐ１５１、Ｐ１５２の上下関係を変えたとすれば、今度は、停止線Ａ１５３は完全な状態で表示することができるが、横断歩道Ａ１５４が分断された状態で表示されることになる。このように、正射画像Ｐ１５１、Ｐ１５２の上下関係だけでは、横断歩道、停止線の双方を完全な状態で表示させることはできない。
【０１２８】
そこで、本実施例では、透明化ポリゴンＰＯＬ１５を設定する。この例では、上側の正射画像Ｐ１５１において、分断されている停止線Ａ１５１を覆うように設定した例を示した。透明化ポリゴンＰＯＬ１５内では、上側の正射画像Ｐ１５１は透過した状態で表示される。従って、図の右側に示すように、正射画像Ｐ１５１、Ｐ１５２を重ねた状態では、透明化ポリゴンＰＯＬ１５の内部では、下側の正射画像Ｐ１５２が表示され、その他の部分では、上側の正射画像Ｐ１５１が表示される。この結果、下側の正射画像Ｐ１５１に含まれる停止線Ａ１５３と、上側の正射画像Ｐ１５２に含まれる横断歩道Ａ１５２が表示され、停止線および横断歩道の双方を完全な形で表示することができる。
【０１２９】
（２）フローチャート：
図１６は透明化ポリゴン設定処理のフローチャートである。ハードウェア的には路面標示地図生成装置２００のＣＰＵが実行する処理である。これは、図２に示した透明化ポリゴン設定部２２１の処理に相当する。
処理を開始すると、ＣＰＵは、オペレータからの対象道路の指定を入力し（ステップＳ１００）、対象道路に対応する連結画像を入力する（ステップＳ１０２）。対象道路に対して複数のパスが対応している場合には、これらのパスに対応する複数の連結画像が入力される。
【０１３０】
ＣＰＵは、これらの連結画像を表示し、オペレータの操作に基づいて優先パスの指定を入力する（ステップＳ１０４）。優先パスとは、複数のパスのうち路面画像が最も良好なパスを言い、複数のパスの連結画像を重ねる際に最も上に位置するパスを言う。優先パスは、位置合わせ加工で用いられた基準パスとは異なる。基準パスは位置精度が最も良いものを意味したが、位置精度が良いからといって、路面画像が良好とは限らないからである。複数のパス間の連結画像の重ね合わせの上下関係がどのような状態であっても、位置合わせは支障なく行うことが可能であるから、位置合わせ用の基準パスと優先パスとは相互に独立して設定可能である。
本実施例では、優先パスは、オペレータが各パスの連結画像を比較しながら、任意に設定することができる。仮に、路面画像が最も粗いパスを優先パスに指定しても構わない。このような場合には、後述する透明化ポリゴンの設定数が増えるだけのことである。
【０１３１】
優先パスが設定されると、ＣＰＵは、オペレータの操作に従い透明化ポリゴンを設定する（ステップＳ１０６）。
図中に透明化ポリゴンの設定例を示した。この例では、優先パスに沿った路面テクスチャＴＸ１６１と、その他のパスに沿った路面テクスチャＴＸ１６２を示した。
撮影時には矩形の画像が、正射画像変換により、台形になるため、路面テクスチャＴＸ１６１、ＴＸ１６２を配置すると、図示するようにのこぎり刃状になる。のこぎり刃状の部分からは、路面画像の見栄えを落とすと共に、分断された路面画像しか得られないため、完全な路面画像を得るという目的からは不要な部分となる。そこで、図の例では、路面テクスチャＴＸ１６１、ＴＸ１６２が重なり合った部分では、のこぎり刃状になった路面テクスチャＴＸ１６１の左端の部分に透明化ポリゴンＰＯＬ１６１を設定し、のこぎり刃状の部分が表示されないようにしている。
【０１３２】
一方、路面テクスチャＴＸ１６１、ＴＸ１６２が重なりあっていない部分、図の例では、両端の領域Ａ１６１、Ａ１６２の部分には、透明化ポリゴンは設定しない。この部分では、それぞれ路面テクスチャＴＸ１６１、ＴＸ１６２によって得られる画像が、唯一の画像情報となるからである。両端の領域に透明化ポリゴンを設定すると、この部分に含まれる路面画像の情報は活用し得なくなる。本実施例では、このように他の路面テクスチャと重なり合っていない部分には、透明化ポリゴンを設定しないようにすることで、路面テクスチャに含まれる路面画像の情報を有効活用できるようにした。
かかる設定は、単に路面テクスチャが重なっていない部分を避けて、オペレータが透明化ポリゴンを設定するという運用によって実現してもよいが、透明化ポリゴンの設定処理（ステップＳ１０６）において、透明化ポリゴンの設定位置を制限するようにしてもよい。つまり、路面テクスチャが重なり合っている部分についてのみ、オペレータによる透明化ポリゴンの設定操作を受け付けるようにしても良い。
【０１３３】
路面テクスチャＴＸ１６１によって隠されている標示がある場合には、オペレータはその標示が視認できるように透明化ポリゴンを設定する。図の例では、矢印の標示を覆うように、透明化ポリゴンＰＯＬ１６２が設定されている例を示した。矢印の標示は、テクスチャＴＸ１６１の下側に配置されているテクスチャに含まれている画像である。
このように標示を覆う透明化ポリゴンＰＯＬ１６２を設定するためには、一旦、路面テクスチャＴＸ１６１を他の路面テクスチャよりも下側に位置するように上下関係を変更したり、路面テクスチャＴＸ１６１を非表示としたりすればよい。これらの操作によって、路面テクスチャＴＸ１６１に隠された標示を視認可能な状態にした上で、その標示を覆うように透明化ポリゴンＰＯＬ１６２を設定し、路面テクスチャＴＸ１６１の表示を元に戻せばよい。
【０１３４】
以上の処理によって、透明化ポリゴンの設定が終わると、ＣＰＵは、設定結果を出力して、透明化ポリゴン設定処理を終了する。
（３）処理例：
図１７は透明化ポリゴンを設定する前の道路画像例を示す説明図である。この例では、パスＰ１７１、Ｐ１７２の２本に沿って得られた連結画像の位置合わせを行って生成された道路画像を示した。パスＰ１７２の連結画像と、パスＰ１７１の連結画像とで、のこぎり刃状の両端の形状が逆向きになっているのは、これらのパスＰ１７１，Ｐ１７２を道路面撮影システム１００の車両が走行する方向が逆だからである。
【０１３５】
パスＰ１７２の連結画像が、パスＰ１７１の連結画像と重なっている部分では、パスＰ１７２の連結画像の端部Ｂ１７ののこぎり刃状の境界が現れており、道路画像の画質を劣化させている。ただし、図１７では、図示の都合上、のこぎり刃状の輪郭を付して端部Ｂ１７の形状を強調してある。
また、パスＰ１７２の路面画像が端の方で不鮮明なため、例えば、領域Ａ１７１では横断歩道の縞模様が歪んでいる。領域Ａ１７２では、停止線が分断された状態となっている。領域Ａ１７３では、路線バス等優先通行帯（いわゆるバスレーン）であることを示す「バス専用」の文字が読めない程に崩れている。領域Ａ１７４では、破線状の車線境界線が途中で分断された状態となっている。
【０１３６】
これらの影響を回避するため、図１７では、領域Ａ１７１〜Ａ１７４および端部Ｂ１７を包含する透明化テクスチャＰＯＬ１７を図中の一点鎖線のように設定した。
このように透明化ポリゴンＰＯＬ１７を設定すると、パスＰ１７２側の路面テクスチャは、透明化ポリゴンＰＯＬ１７の内部では透視状態となり、下側に配置されたパスＰ１７１側の路面テクスチャが視認されるようになる。
【０１３７】
図１８は透明化ポリゴンの設定後の道路画像例を示す説明図である。上述の透明化ポリゴンの作用により、領域Ａ１８１では、下側の画像が表示されるため、図１７で示した横断歩道の分断状態が解消される。領域Ａ１８２でも同様に、停止線が完全な状態で表示される。また、領域Ｂ１８に例示するように、路面テクスチャの端部ののこぎり刃状の輪郭は視認されなくなり、道路画像全体の画質が向上する。
領域Ａ１８３では、バス専用の文字が、はっきりと判読可能な状態となる。領域Ａ１８４では、車線境界線が完全な状態で表示される。
このように、本実施例では、透明化ポリゴンを設定することにより、道路画像の画質を向上させることができるとともに、道路面の標示の画質も向上させることができる。
【０１３８】
Ｃ６．ペイント認識処理：
（１）全体処理：
図１９はペイント認識処理のフローチャートである。ハードウェア的には路面標示地図生成装置２００のＣＰＵが実行する処理である。これは、図２に示したペイント認識部２２３の処理に相当する。
処理を開始すると、ＣＰＵは処理データ記憶部２１０から、処理対象となっている道路の画像、即ち路面テクスチャ、パスのデータを読み込む（ステップＳ３００）。
次に、ＣＰＵは縦配置処理を行って（ステップＳ３０２）、縦配置画像を生成し、処理データ記憶部２１０に格納する。
【０１３９】
図２０は縦配置処理の内容を示す説明図である。図２０（ａ）に通常の処理における連結画像を示した。図中の一点鎖線の矢印ＰＡ２０は画像を撮影した際のパスを表している。通常の処理では、パスＰＡ２０に沿って路面テクスチャＴｘ２０を配置する。パスＰＡ２０の位置座標は、緯度経度などの絶対座標系ＸＹで得られている。従って、絶対座標系でパスＰＡ２０および路面テクスチャＴｘ２０を配置すると、図２０（ａ）に示すように連結画像は斜めに表示されることがある。この例では、直線状の道路を例示しているが、道路がカーブしている場合には、連結画像もカーブした状態となる。
【０１４０】
図２０（ｂ）は縦配置した画像例を示した。道路が直線状のため、図２０（ａ）の向きを矢印Ａ２０方向に回転した状態の画像となっている。
縦配置の画像は、次の手順で生成することができる。まず、２次元座標ｘｙの縦（ｙ）方向に距離軸を設定する。距離軸とは、パスＰＡ２０に沿って画像を撮影する際の開始点からの移動距離を表す軸である。パスＰＡ２０が直線状の時は、パスＰＡ２０の進行方向を上向きに表示した状態となる。パスが曲線状のときには、パスを直線状に伸ばした状態となる。
【０１４１】
それぞれの路面テクスチャＴｘ２０については、撮影時の位置座標データおよび撮影開始からの移動距離が得られているから（図１の位置計測部１１０参照）、これらのデータに基づき、距離軸上に路面テクスチャＴｘ２０を配置する。路面テクスチャＴｘ２０は、画像内の代表点を距離軸上に置き、左右対称軸が距離軸に平行になるよう配置する。こうすることによって、パスが曲線状か否かにかかわらず、進行方向が縦方向に直線状に伸ばされた状態の連結画像を表示することができる。この連結画像によれば、図示する通り、横断歩道および停止線は距離軸に直交する方向（図中の左右方向）に描かれ、車線境界線は距離軸に沿う方向（図中の上下方向）に描かれる。縦配置画像には、このように道路の標示が一定の位置関係で描画されるため、これらの認識がしやすくなるという利点がある。ここでは、距離軸を縦に配置する例を示したが、横または斜めなど任意の方向に配置可能である。
【０１４２】
図１９に戻り、ペイント認識処理について説明する。
縦配置処理が完了すると、ＣＰＵは横断関連ペイント抽出処理を行う（ステップＳ３１０）。これは、横断歩道、自転車横断帯、停止線など交差点近辺の標示を抽出する処理である。本実施例では、処理データ記憶部２１０に格納された縦配置画像を用い、そこに描かれた標示を画像処理で抽出するとともに、標示に含まれる線分の位置関係や長さなどに基づく条件判断によって標示の種別を判断するようにした。
【０１４３】
横断関連ペイント処理が終わると、ＣＰＵは各種ペイント抽出処理を行う（ステップＳ３５０）。この処理で抽出対象となる標示を図中に示した。
「境界線」とは、実線および破線などで描かれた車線境界線である。
「矢印」とは、交差点内の進行方向の規制を示すために、交差点付近で各車線に示されている矢印である。
「ゼブラ」とは、横断歩道とは異なり、中央分離帯や右左折用の車線が増える箇所などに標示されている縞模様である。
「Ｕターン」とは、Ｕターン禁止道路に描かれているＵ字形状の矢印である。
「転回禁止」とは、Ｕターンの矢印とともに描かれている×印である。
「規制」とは、通行規制の時刻標示等である。例えば、バスレーンなどの標示と併せて描かれる「１７−１９」の標示（１７時〜１９時であることを意味）のような通行態様の規制等である。
【０１４４】
「数字」とは、速度規制などの数字である。
「横断歩道予告」とは、横断歩道手前に描かれている菱形の記号である。
「減速帯」とは、車速の減速を促すために、路面上にパスに直交する方向の線分をパスの進行方向に沿って平行に複数本配置することで描かれている縞模様である。
「路面塗装」は、急カーブその他の運転者の注意を喚起すべき箇所に対し、通行の安全のために施されている赤色等の舗装領域である。
「バスレーン文字」とは、バスレーンとして使用される車線に付される「バスレーン」という文字である。本実施例では、バスレーンを例示しているが、バスレーンに限らず、路面に標示される文字一般を対象としてもよい。
「終わり記号」とは、バスレーンなどの終了地点を示す「０」形状の記号である。
本実施例では、これらの標示を対象としているが、これらは例示に過ぎず、更に多くの標示を対象としてもよいし、この中の一部を抽出処理の対象外としても構わない。
【０１４５】
各種ペイント抽出処理（ステップＳ３５０）では、予め用意されたモデルを用いて、パターンマッチングを行う。本実施例では、人工モデル画像、ＯＣＲモデル画像の２種類を用いるものとした。これらのモデルは、予め処理データ記憶部２１０に記憶されている。
人工モデル画像とは、コンピュータグラフィックスによって生成されたモデルである。矢印、Ｕターン、転回禁止など、比較的単純な標示のマッチング用のモデルとして適している。
ＯＣＲモデル画像とは、撮影された画像から、オペレータが手作業で切り出した画像に基づいて生成されたモデルである。例えば、数字、バスレーンなどの複雑な形状をした標示のマッチング用のモデルとして適している。これらのモデルをコンピュータグラフィックスによって生成することも不可能ではないが、文字の形状を現実の道路標示に併せてモデルを生成するためには、結局、撮影した画像をトレース等する必要が生じるため、結果としてＯＣＲモデルを利用しているのと大差ない。
【０１４６】
ＣＰＵは、以上の処理を直線状の連結画像単位で実行した後、絶対座標系に変換する相対座標変換処理（ステップＳ３７０）を行い、ペイント認識結果を処理データ記憶部２１０に格納して、ペイント認識処理を終了する。
認識されたペイントは、画像データとして格納してもよいが、併せて、種別と存在領域を格納してもよい。存在領域とは、認識されたペイントを包含する幾何形状を言う。例えば、横断歩道や自転車横断帯、矢印などに外接する矩形を存在領域として用いることができる。存在領域は重心位置および対角線長さで形状を表すようにしてもよいし、対角に位置する２つの頂点の座標値で表すようにしてもよい。存在領域は、矩形に限らず、種々の多角形や円形など任意の形状を利用することができる。
【０１４７】
（２）相対座標変換処理：
図２１は相対座標変換処理の内容を示す説明図である。本実施例では、以上で説明した各種標示の認識結果は、全て距離軸に沿って路面テクスチャを配置した直線状の画像を用いて得られている。従って、認識結果は、この直線状の画像を表示する座標系における相対的な位置が取得されているに過ぎない。相対座標変換処理は、この相対的な位置を、撮影時の位置座標に対応する絶対座標系の位置に変換する処理である。
図の左側には、直線状の連結画像で標示を認識した状態を示している。ここでは、矩形の存在領域Ｍ３９１、Ｍ３９２を示した。これらの存在領域Ｍ３９１、Ｍ３９２の位置は、代表点としての重心Ｇ３９１、Ｇ３９２の位置座標で表される。この座標は、直線状の連結画像を表示するための座標系ｘｎ、ｙｎで与えられる。この座標系ｘｎ、ｙｎは、例えば、距離軸ＮＰ３９をｙｎ軸として定義することが好ましい。
【０１４８】
連結画像では、路面テクスチャＴｘ３９の代表点が、撮影時の位置に応じて、距離軸上に配置されている。各路面テクスチャＴｘ３９内の各点の代表点からの相対的な座標は既知である。従って、各存在領域の重心Ｇ３９１、Ｇ３９２の路面テクスチャＴｘ３９内での相対的な座標が求まるため、重心Ｇ３９１、Ｇ３９２から距離軸におろした垂線の足Ｒ３９１、Ｒ３９２の座標も求めることができる。
図の右側には、絶対座標系ＸＹに変換した状態を示した。道路は直線とは限らないから、絶対座標系では、撮影時に取得された位置座標に従い、パスＲＰ３９は曲線状に描かれることもある。
【０１４９】
各存在領域Ｍ３９１、Ｍ３９２の位置および向きは次の方法で求める。
まず、この曲線状のパスＲＰ３９の基準点からの距離に応じて、存在領域の垂線の足Ｒ３９１、Ｒ３９２のパスＲＰ３９上での位置を求め、点Ｒ３９１、Ｒ３９２から、それぞれ法線ベクトルＶ３９１、Ｖ３９２を描き、その終点を重心Ｇ３９１、Ｇ３９２とする。法線ベクトルＶ３９１、Ｖ３９２の大きさは、直線状の連結画像における点Ｒ３９１、Ｇ３９１間の距離、および点Ｒ３９２、Ｇ３９２間の距離にそれぞれ等しい。存在領域Ｍ３９１、Ｍ３９２の方向は、長手方向が法線ベクトルＶ３９１、Ｖ３９２と直交するように配置する。つまり、存在領域Ｍ３９１、Ｍ３９２と、重心Ｇ３９１、Ｇ３９２、および垂線の足Ｒ３９１、Ｒ３９２の相対的な位置関係が、直線状の連結画像（図の左側）と絶対座標系（図の右側）とで同一となるように、存在領域Ｍ３９１、Ｍ３９２を配置するのである。
この変換処理により、抽出された各標示の位置を絶対座標系の位置座標で表すことが可能となる。
【０１５０】
Ｃ７．自動透明化ポリゴン生成処理：
（１）全体処理：
図２２は自動透明化ポリゴン生成処理のフローチャートである。先に説明した透明化ポリゴン設定処理（図１６参照）に相当する内容をＣＰＵが自動的に実行する処理である。
この処理を開始すると、ＣＰＵは、処理対象となる道路画像、ペイント認識結果を入力する（ステップＳ４００）。これらの結果は、処理データ記憶部２１０に格納されている。そして、ＣＰＵは、道路画像において、連結画像同士の重なりの有無を判定する（ステップＳ４０２）。
【０１５１】
図２３は重なり判定の方法を示す説明図である。図中には、２つのパスＲＴ２３１、ＲＴ２３２に沿って、それぞれ路面テクスチャＴＸ２３１、ＴＸ２３２が配置され、道路画像が生成されている状態を示した。
これらの連結画像の重なりは、路面テクスチャＴＸ２３１、ＴＸ２３２同士の重なりの有無を判定することによって、判定する方法を採ることも可能ではある。ただし、この場合には、パスＲＴ２３１に配置される路面テクスチャＴＸ２３１と、パスＲＴ２３２に配置される路面テクスチャＴＸ２３２の全ての組み合わせについて重なり判定を行うか、それぞれ位置座標が一定範囲内にある路面テクスチャ同士で重なり判定を行う必要がある。図示するようにパスＲＴ２３１、ＲＴ２３２の連結画像同士が重なっている場合でも、全ての路面テクスチャＴＸ２３１、ＴＸ２３２が相互に重なっている訳ではないからである。例えば、一番左側の路面テクスチャＴＸ２３１と、一番右側の路面テクスチャＴＸ２３２とは重なっていないことになる。従って、路面テクスチャ単位で、重なり判定をしようとすれば、上述した多数の組み合わせで重なりの有無を判定する必要があり、そのための処理も、判定結果の管理も非常に複雑となる。
【０１５２】
本実施例では、次の方法により、重なり判定を容易に行えるようにした。
まず、ＣＰＵは、それぞれのパスＲＴ２３１、ＲＴ２３２について、連結画像を包含するポリゴンを設定する。図中の例では、パスＲＴ２３１については、それぞれの路面テクスチャＴＸ２３１の両端の頂点Ｐ２３を求め、これらを線分で結ぶことによって、連結画像を包含するポリゴンＡ２３１を設定する。
同様にして、パスＲＴ２３２については、それぞれの路面テクスチャＴＸ２３２の両端の頂点Ｑ２３を求め、これらを線分で結ぶことによって、連結画像を包含するポリゴンＡ２３２を設定する。
そして、このようにして設定されたポリゴンＡ２３１、Ａ２３２同士の重なりの有無を判定する。ポリゴン同士の重なりの有無は、種々の方法によって判定可能であるため、ここでは詳細な説明は省略する。
【０１５３】
図２２に戻り、自動透明化ポリゴン生成処理について説明する。
ＣＰＵは、図２３で説明した方法によって、ポリゴンＡ２３１、Ａ２３２の重なりの有無に応じて、ステップＳ４０４を判定することができる。連結画像同士が重なっていない場合には（ステップＳ４０４）、透明化ポリゴンを設定する必要はないため、ＣＰＵは自動透明化ポリゴン生成処理を終了する。
連結画像同士が重なっている場合には（ステップＳ４０４）、ＣＰＵは、優先パスを決定する（ステップＳ４０６）。優先パスとは、複数のパスのうち路面画像が最も良好なパスを言い、複数のパスの連結画像を重ねる際に最も上に位置するパスを言う。優先パスは、任意の方法で設定可能である。例えば、道路画像の合成時に基準パスとされたものを、無条件に優先パスと扱うようにしてもよい。また、それぞれの連結画像に含まれているペイント（路面標示）の数または面積が多いものを優先パスとしてもよい。
【０１５４】
こうして優先パスを決定すると、ＣＰＵは、ルート領域を設定する（ステップＳ４０８）。ルート領域とは、連結画像のうち、両端のギザギザ部分を除いた領域、つまり、パスに沿う方向の縁線に鋭角的に折れ曲がる部分が存在しない滑らかな状態となる領域を言う。ステップＳ４０８は、連結画像に対して、ルート領域を定義づける処理であり、両端のギザギザ領域を削除する処理ではない。
図２４はルート領域の設定方法を示す説明図である。パスに沿って、路面テクスチャＴａ２４〜Ｔｆ２４が配置されている状態を示した。路面テクスチャＴａ２４は頂点Ｐａ１〜Ｐａ４からなる台形である。同様にして、路面テクスチャＴｂ２４、Ｔｄ２４、Ｔｅ２４、Ｔｆ２４は、頂点Ｐｂ１〜Ｐｂ４、Ｐｄ１〜Ｐｄ４、Ｐｅ１〜Ｐｅ４、Ｐｆ１〜Ｐｆ４からなる台形である。図示の煩雑化を避けるため、路面テクスチャＴｃ２４の頂点の符号は省略した。
【０１５５】
ＣＰＵは、路面テクスチャＴａ２４の下底Ｐａ１−Ｐａ４と、路面テクスチャＴｂ２４の斜辺Ｐｂ１−Ｐｂ２、Ｐｂ４−Ｐｂ３との交点Ｐ１、Ｑ１を求める。同様に、路面テクスチャＴｂ２４とＴｃ２４の交点Ｐ２，Ｑ２、路面テクスチャＴｄ２４とＴｅ２４の交点Ｐ３、Ｑ３も求めることができる。
路面テクスチャＴｅ２４とＴｆ２４との交点は、Ｐ４、Ｑ４である。しかし、交点Ｐ４は路面テクスチャＴｆ２４の斜辺Ｐｆ１−Ｐｆ２の交点であるが、交点Ｑ４は上底Ｐｆ２−Ｐｆ３との交点である。本実施例では、ルート領域の設定では、路面テクスチャの斜辺との交点を用いるものとするため、交点Ｑ４は採用外とした。
ＣＰＵは、こうして得られた交点Ｐ１、Ｐ２…、Ｐ３、Ｐ４およびＱ１、Ｑ２，…Ｑ３を結ぶことによって、図中に太線で示すルート領域ＲＴＡ２４を設定する。
ルート領域はこの例に限らず、種々の設定が可能であり、斜辺以外の辺との交点（図中の点Ｑ４）を用いてルート領域を設定するようにしてもよい。
【０１５６】
図２２に戻り自動透明化ポリゴン生成処理について説明する。
ルート領域設定が完了すると（ステップＳ４０８）、ＣＰＵはペイント用透明化ポリゴン設定処理を行う（ステップＳ４１０）。これは、連結画像内のペイント（路面標示）の重なり状態に基づいて透明化ポリゴンの設定要否を判断するとともに、その位置および形状を設定する処理である。ペイント用透明化ポリゴン設定処理の内容は後で詳述する。
そして、ＣＰＵは次に、ギザギザカット処理（ステップＳ４３０）を行う。この処理は、連結画像の両端のギザギザ領域を非表示とするように透明化ポリゴンを設定する処理である。処理内容については、後で詳述する。
こうして透明化ポリゴンが設定されると、ＣＰＵは、設定された透明化ポリゴンの結合処理を行う（ステップＳ４５０）。これは、複数の透明化ポリゴンのうち、重なる物同士を結合する処理である。この処理を行うことにより、透明化ポリゴンの数を減らすことができ、その容量を削減することが可能となる。
以下、ペイント用透明化ポリゴン設定処理（ステップＳ４１０）、ギザギザカット処理（ステップＳ４３０）、透明化ポリゴン結合処理（ステップＳ４５０）について順次説明する。
【０１５７】
（２）ペイント用透明化ポリゴン設定処理：
図２５はペイント用透明化ポリゴン設定処理のフローチャートである。自動透明化ポリゴン生成処理（図２２）のステップＳ４１０に相当する処理である。この処理では、ＣＰＵは、各連結画像のペイント認識結果に基づいて、透明化ポリゴンの設定の要否の判断、およびその位置、形状の設定を行う。
まず、ＣＰＵは、道路画像において下側に配置されているパス、即ち優先パス以外のパスから、優先パスとの重なり領域内に存在するペイントを処理対象ペイントとして抽出する（ステップＳ４１１）。また、優先パスの重なり領域に存在するペイントから、重なりペイントを抽出する（ステップＳ４１２）。重なりペイントとは、優先パスに含まれるペイントのうち、処理対象ペイントと同一種別のペイントであって、処理対象ペイントに一部でも重なるペイントを言う。
【０１５８】
本実施例では、処理対象ペイントおよび優先ペイントは、上下のパスの重なり領域から抽出する。重なり領域以外ではペイントが他の連結画像によって覆い隠されることがないため、透明化ポリゴンの設定は不要だからである。また、上側の連結画像しか存在しない領域のペイントを処理対象として抽出し、ここに誤って透明化ポリゴンが設定されることがあると、上側の連結画像が透過されてしまうため、一部が欠落した状態の道路画像が生成されてしまうからである。
本実施例では、重なりペイントの抽出を、処理対象ペイントと同一種別のペイントに限定したが、ペイントの種別を問わず、重なり合うものを抽出するようにしてもよい。
重なりペイントが抽出されている場合には（ステップＳ４１３）、処理対象ペイントと重なりペイントの面積を比較する（ステップＳ４１４）。重なりペイントの方が大きい場合には（ステップＳ４１４）、ＣＰＵは、道路画像には重なりペイントを表示すべきと判断する。重なりペイントは優先パスに存在するから、透明化ポリゴンは不要と判断する。
【０１５９】
これに対し、重なりペイントが存在しない場合（ステップＳ４１３）、または重なりペイントの面積の方が処理対象ペイントよりも小さい場合（ステップＳ４１４）には、ＣＰＵは、下側に存在するペイントを道路画像に表示すべきと判断する。従って、処理対象ペイントを表示できるように、その位置および形状に基づいて透明化ポリゴンを設定する（ステップＳ４１５）。
ＣＰＵは、以上の処理を、全ての処理対象ペイントおよび全パスについて実行し（ステップＳ４１６）、ペイント用透明化ポリゴン設定処理を終了する。
【０１６０】
図２６はペイント用透明化ポリゴンの設定例（１）を示す説明図である。
図２６（ａ）は、下側の路面テクスチャＴＸ２６に、優先パスのルート領域ＯＲ２６を重ねた状態を示している。ルート領域ＯＲ２６には、ペイントとして破線の車線境界線Ｌ２６１、Ｌ２６２が含まれている。下側の路面テクスチャＴＸ２６には、進行方向の規制を示す矢印Ａ２６が含まれている。
下側の路面テクスチャＴＸ２６からは、矢印Ａ２６が処理対象ペイントとして抽出される。これに重なり合うペイントは存在しないため、ルート領域ＯＲ２６からは、重なりペイントは抽出されない。従って、重なりペイントが存在しないため（図２５のステップ４１３）、透明化ポリゴンを設定すべきと判断される。この結果、ＣＰＵは矢印Ａ２６を包含する矩形状の透明化ポリゴンＲ２６を設定する。
【０１６１】
透明化ポリゴンＲ２６は、種々の方法で設定可能である。本実施例では、矢印Ａ２６の存在領域を用いるものとした。本実施例では、ペイントを認識する際に、ペイントを包含する幾何形状である存在領域の形で、サイズおよび位置を出力している。そこで本実施例では、存在領域を数割、拡大した形状を、透明化ポリゴンとして用いている。こうすれば、ペイントに適合した位置およびサイズの透明化ポリゴンを比較的容易に設定することができる。
透明化ポリゴンは、この他、例えば、ペイントの輪郭を抽出し、抽出された形状を、数割、拡大することで、生成してもよい。
【０１６２】
図２６（ｂ）は、存在領域の拡大方法（１）を示す説明図である。図の煩雑化を避けるため、図２６（ａ）の路面テクスチャＴｘ２６に代えて、下側もルート領域ＵＲ２６の形で表した。
本実施例では、透明化ポリゴンは、存在領域を予め設定された拡大率で拡大することによって設定する。ただし、拡大した結果、透明化ポリゴンが、付近に存在する車線境界線Ｌ２６１、Ｌ２６２にかぶさってしまうと、車線境界線Ｌ２６１、Ｌ２６２が透過されてしまうことになる。そこで、拡大した透明化ポリゴンが付近に存在する他のペイントにかぶさる時には、図２６（ｂ）の透明化ポリゴンＲ２６２に示すように、ＣＰＵは、他のペイント（図の例では、車線境界線Ｌ２６１、Ｌ２６２）にかぶさらないように、パスに沿う方向または幅方向の拡大率を抑制する。図２６（ｂ）は、車線境界線Ｌ２６１にかぶらないよう、幅方向の拡大率を抑制した例を示している。
【０１６３】
図２６（ｃ）は、存在領域の拡大方法（２）を示す説明図である。本実施例では、上側および下側のルート領域の重なる範囲内で透明化ポリゴンを設定するものとした。上側のルート領域しか存在しない領域に透明化ポリゴンを設定すると、下側の画像が存在しないおそれがあり、道路画像の一部が欠落した状態になってしまうおそれがあるからである。
そこで、存在領域を拡大した結果、下側のルート領域ＵＲ２６の境界線を超える可能性がある場合には、図２６（ｃ）の透明化ポリゴンＲ２６３に示すように、パスに沿う方向または幅方向の拡大率を抑制する。こうすることによって、ルート領域の重なり領域内で、透明化ポリゴンを設定することができる。
【０１６４】
図２７はペイント用透明化ポリゴンの設定例（２）を示す説明図である。
図２７（ａ）には、下側のパスに沿った路面テクスチャＴｘ２７２と、上側のパスに沿った路面テクスチャＴｘ２７１を示した。下側には車線境界線Ｌ２７２が含まれており、上側には車線境界線Ｌ２７１が含まれている。これらは同種のペイントであり、重なり合っている。従って、ペイント用透明化ポリゴン設定処理（図２５）では、下側の車線境界線Ｌ２７２が処理対象ペイント、上側の車線境界線Ｌ２７１が重なりペイントとして抽出される（図２５のステップＳ４１１、Ｓ４１２）。
重なりペイントがある場合には、下側の面積が大きい時に透明化ポリゴンが設定される（図２５のステップＳ４１５）。図２７の例では、下側の車線境界線Ｌ２７２の方が面積が大きいため、ここに透明化ポリゴンを設定する。上側の車線境界線Ｌ２７１の面積が小さいのは、一部が欠けて認識されていることが原因と考えられるからである。このように透明化ポリゴンを設定することにより、道路画像では、車線境界線Ｌ２７２が表示されるため、より現実に近い形で正確なペイントを表示することが可能となる。
【０１６５】
図２７（ｂ）には、透明化ポリゴンＴＰ２７の設定例を示した。ここでも、下側の車線境界線Ｌ２７２の存在領域を拡大して透明化ポリゴンＴＰ２７を設定する。
まず、上側のルート領域ＯＲ２７に存在する他のペイント（図の例では、矢印Ａ２７）にかぶらないように、存在領域の拡大率を抑制する。図の例では、車線境界線Ｌ２７２よりも上側で幅方向の拡大率を抑制している。下方向には他のペイントが存在しないため、透明化ポリゴンＴＰ２７は、一例として、下側のルート領域ＵＲ２７の境界まで拡大した状態を示したが、下方向の拡大率も、車線境界線Ｌ２７２を確実に表示できる範囲で設定すれば足りる。
パスに沿う方向（図の左右方向）は、上側のルート領域ＯＲ２７と下側のルート領域ＵＲ２７との重なり範囲からはみ出さないように拡大率を決めている。上側のルート領域ＯＲ２７が、図示した範囲で切れているとすると、図示するように、透明化ポリゴンＴＰ２７の左側がルート領域ＯＲ２７の境界からはみ出さないように拡大率が制限されることになる。
【０１６６】
図２８はペイント用透明化ポリゴンの設定例（３）を示す説明図である。
図２８（ａ）には、下側のパスに沿った路面テクスチャＴｘ２８２と、上側のパスに沿った路面テクスチャＴｘ２８１を示した。下側には横断歩道ＣＲ２８２が含まれており、上側には横断歩道ＣＲ２８１が含まれている。これらは同種のペイントであり、重なり合っている。従って、ペイント用透明化ポリゴン設定処理（図２５）では、下側の横断歩道ＣＲ２８２が処理対象ペイント、上側の横断歩道ＣＲ２８１が重なりペイントとして抽出される（図２５のステップＳ４１１、Ｓ４１２）。
重なりペイントがある場合には、下側の面積が大きい時に透明化ポリゴンが設定される（図２５のステップＳ４１５）。図２８の例では、下側の横断歩道ＣＲ２８２の方が面積が大きいため、ここに透明化ポリゴンを設定する。
【０１６７】
図２８（ｂ）には、透明化ポリゴンＴＰ２８の設定例を示した。ここでも、下側の横断歩道ＣＲ２８２の存在領域を拡大して透明化ポリゴンＴＰ２８を設定する。
他の例と同様、透明化ポリゴンＴＰ２８は、下側のルート領域ＵＲ２８からはみ出さない範囲で設定する。透明化ポリゴンＴＰ２８は、上側の横断歩道ＣＲ２８１を透過させることが目的のため、拡大率は、図示するように、横断歩道ＣＲ２８１を包含するように設定することが好ましい。
【０１６８】
（３）ギザギザカット処理：
図２９はギザギザカット処理のフローチャートである。自動透明化ポリゴン生成処理（図２２）のステップＳ４３０に相当する処理である。
ギザギザカット処理とは、連結画像の両端ののこぎり刃状のギザギザ部分に透明化ポリゴンを設定する処理である。但し、本実施例では、上側、下側の連結画像の全てのギザギザ部分に透明化ポリゴンを設定するのではなく、両者が重なっている部分のみに設定するものとした。他の連結画像が存在しない部分（連結画像が重なり合っていない部分）に設定しても、画像の一部を削除するに過ぎず、連結画像に含まれるペイントを有効活用を図ることはできないからである。
【０１６９】
処理を開始すると、ＣＰＵは優先パスのルート領域の側線を読み込む（ステップＳ４３１）。図中に処理例を示した。優先パスの路面テクスチャＴｘ２９１に対し、太線で示す矩形のルート領域が設定されているとする。ルート領域は、先に図２４で説明した方法で設定することができる。
側線とは、ルート領域の境界線のうち、パスに沿う方向の境界線を言う。図の例では、ＣＰＵは側線ＳＬ２９１、ＳＬ２９２を読み込むことになる。
【０１７０】
次に、ＣＰＵは、ステップＳ４３１で抽出した２本の側線のうち、下側のパスのルート領域に含まれる側線を選択する（ステップＳ４３２）。図中に処理例を示した。
図中には、上側の路面テクスチャＴｘ２９１、下側の路面テクスチャＴｘ２９２、および下側のルート領域ＵＲ２９を示した。優先パスから抽出された２本の側線ＳＬ２９１、ＳＬ２９２のうち、下側のルート領域ＵＲ２９に含まれるのは、側線ＳＬ２９２であるため、これが選択される。
【０１７１】
ＣＰＵは、こうして選択した側線を外側へオフセットすることで透明化ポリゴンを設定する（ステップＳ４３３）。
図中に処理例を示した。図は上側の路面テクスチャＴｘ２９１を示している。図の煩雑化を回避するため、下側の路面テクスチャは図示を省略した。ＣＰＵは、選択された側線ＳＬ２９２を、矢印Ａ２９で示すように外側に移動することによって、透明化ポリゴンＴＰ２９を生成することができる。
外側への移動量は、任意に設定可能である。例えば、側線２９２と上側の路面テクスチャＴｘ２９１とが交差しなくなるまで平行移動させてもよい。この場合には、ギザギザ部分を確実に透過させるため、交差しなくなった後、所定幅だけ余分に移動させて、透明化ポリゴンＴＰ２９を設定することが好ましい。
また別の態様として、側線２９２を、他のペイントにかぶさるまで、または下側のルート領域の境界を超えるまで、移動させる方法をとってもよい。
【０１７２】
これらの方法によって、ギザギザ部分に透明化ポリゴンを設定することができる。連結画像を構成する正射画像を生成するための画像変換では、画像の側端に行くほど歪みの影響を受けやすい。また、ギザギザ部分は、その下側の連結画像に含まれるペイントを分断してしまうことがある。本実施例のように、側端のギザギザ部分を設定すれば、こうした領域を比較的容易に除去することができ、下側の連結画像の標示を有効活用することが可能となる。
【０１７３】
（４）透明化ポリゴン結合処理：
図３０は透明化ポリゴン結合処理の内容を示す説明図である。透明化ポリゴン結合処理とは、自動透明化ポリゴン生成処理（図２２）のステップＳ４５０に相当する処理である。
図３０（ａ）には、下側の路面テクスチャＴｘ３０２、上側の路面テクスチャＴｘ３０１、および透明化ポリゴンＴＰ３０１〜ＴＰ３０３を示している。透明化ポリゴンは、このように複数設定されることがある。この例では、透明化ポリゴンＴＰ３０１、ＴＰ３０２は一部で重なりあっている。
【０１７４】
このように設定されている場合、３つの透明化ポリゴンＴＰ３０１〜ＴＰ３０３を、それぞれ設定結果として出力するようにしてもよい。
しかし、一部が重なっている場合には、これらの透明化ポリゴンを一つのポリゴンとして結合することにより、透明化ポリゴンの数を減らすことができ、データ容量を削減することができる。
図３０（ｂ）には、透明化ポリゴン結合処理を施した例を示している。図３０（ａ）における透明化ポリゴンＴＰ３０１、ＴＰ３０２が結合され、一つの透明化ポリゴンＴＰ３０４となっている。ポリゴンの結合は、周知の種々の方法で行うことが可能であるため、説明を省略する。
【０１７５】
（５）処理例：
図３１は透明化ポリゴンの設定例を示す説明図である。
図３１（ａ）は、下側のパスＮＰ３１、上側のパスＢＰ３１の連結画像を示した。図の例では、領域Ｂ３１に示すように、上側のパスＢＰ３１０の路面テクスチャ側端のギザギザ部分が表れており、道路画像の画質を損ねている。また、領域Ａ３１に示すように、破線の車線境界線が、上側のギザギザ部分で分断されている。
【０１７６】
図３１（ｂ）は、透明化ポリゴンの設定例を示している。上側のギザギザ部分を透過するように、ラインＬ３１３、Ｌ３１４で挟まれる間に透明化ポリゴンを設定した。また、下側の連結画像が他の連結画像に重なっている場合には、ラインＬ３１１、Ｌ３１２で挟まれる部分に透明化ポリゴンを設定することもできる。本実施例では、上側と下側の連結画像が重なり合っている範囲で透明化ポリゴンを設定するため、ラインＬ３１１、Ｌ３１２の間には、透明化ポリゴンは設定していない。
図３１（ｃ）は、透明化ポリゴンを設定した結果の表示例である。図３１（ａ）との比較で分かる通り、上側のパスのギザギザ部分の表示が消え、路面画像の見栄えが向上している。また、分断されていた車線境界線では、ギザギザ部分が透過される結果、下側の連結画像の車線境界線のみが分断されることなく、明瞭に表示されることになる。
【０１７７】
Ｄ．効果：
以上で説明した実施例の道路面撮影システム１００および路面標示地図生成装置２００によれば、道路を走行しながら取得したフレーム画像を正射変換して得られた路面テクスチャを配置することにより、走行軌跡（パス）に沿って位置精度のよい連結画像を得ることができる。更に、複数のパスに沿って得られた連結画像同士を、位置合わせして合成することにより、道路全体の路面画像を得ることができる。この際、画像を撮影した際の各パスの位置精度が最も高いものを基準パスとして、他のパスをこの基準パスに合わせる方法を採ることにより、全体の位置精度を確保しつつ路面画像を生成することができる。
本実施例では、各パスの連結画像は、路面テクスチャを配置するまでに留め、これらを一枚の画像として合成していない。従って、路面テクスチャ単位で配置を平行移動することによって、複数パスの連結画像を容易に合成可能である。
【０１７８】
本実施例では、各パスの連結画像の生成、および複数パスの連結画像の合成のいずれの処理も、路面テクスチャに対するアフィン変換を施す必要がなく、単純な平行移動で行う。従って、複雑な画像処理に伴う画質の劣化を回避することができ、路面標示が鮮明な状態で表示された路面画像を得ることが可能である。また、平行移動で行うため、路面テクスチャ内の代表点を基準とする相対的な座標系は、連結画像の生成および合成の前後で維持される。この結果、代表点の絶対位置座標が得られれば、路面テクスチャ内の各点の絶対位置座標を容易に取得することが可能となり、路面標示の絶対位置座標を取得することも可能となる。
【０１７９】
本実施例では、透明化ポリゴンを設定することにより、各パスの連結画像に含まれる路面標示（ペイント）を有効活用して道路画像を生成することができる。また、本実施例では、この透明化ポリゴンを自動設定することができるため、オペレータにかける負荷を軽減することができるとともに、透明化ポリゴンの設定結果を安定的に得ることができる利点がある。
【０１８０】
Ｅ．変形例：
Ｅ１．優先パスの決定：
（１）優先パスの決定方法：
実施例では、優先パス、即ち連結画像を重ね合わせる際に、上側に配置されるパスの指定をオペレータが行う場合を例示した（図２２のステップＳ４０６参照）。変形例では、優先パスを自動的に決定する例を示す。
【０１８１】
図３２は優先パス決定処理のフローチャートである。この処理は、図２２のステップＳ４０６に代わる処理として実行することができる。
この処理では、ＣＰＵは、処理対象パスの連結画像およびペイントの認識結果を入力する（ステップＳ３２１）。ペイントの認識結果は、図１９で示した処理で得られた結果を利用できる。
次に、ＣＰＵは各パスについてゴミ画像を認識する（ステップＳ３２２）。ゴミ画像とは、連結画像内で、停止車両など、路面標示以外の異物が写り込んだ部分の画像を言う。ゴミ画像の認識方法については、後述する。
【０１８２】
ＣＰＵは、ペイントおよびゴミ画像の認識結果に基づいて、優先パスを決定する（ステップＳ３２３）。本実施例では、以下に示す４つの条件に従って優先パスを決定するものとした。
条件１：重なり領域のゴミ画像面積が大きい側のパスを下側に決定（ゴミ画像面積が小さいパスを優先パスとする）；
条件２：重なり領域のペイントが少ないパスを下側に決定（ペイントが多いパスを優先パスとする）；
条件３：全領域のゴミ画像面積が大きい側のパスを下側に決定（ゴミ画像面積が小さいパスを優先パスとする）；
条件４：全領域のペイントが少ないパスを下側に決定（ペイントが多いパスを優先パスとする）；
【０１８３】
上述の条件は、条件１〜条件４の優先度で順に適用する。つまり、条件１で優先パスが決定されない時に、条件２が適用される（ステップＳ３２４）。条件３、条件４も同様である（ステップＳ３２４）。
これらの条件は次の意図で決められている。まず、ゴミ画像については面積を評価値とし、ペイントについては数を評価値として量を評価する。そして、連結画像同士が重なる領域での評価（条件１、条件２）を、連結画像全体の評価（条件３、条件４）よりも優先している。透明化ポリゴンの生成、および道路画像の見栄えに与える影響は、重なり領域の方が大きいからである。また、重なり領域、および連結画像全体の評価内では、ゴミ画像の評価をペイントの評価よりも優先する。道路画像の見栄えに対する影響はゴミ画像の方が大きいからである。
【０１８４】
図３３は優先パスの決定例を示す説明図である。図中のパスＰ３３Ａに対する連結画像Ｔ３３Ａと、パスＰ３３Ｂに対する連結画像Ｔ３３Ｂとを重ねる場合を例示した。左側の図に示す通り、両者は、重なり領域ＯＬで重なっている。連結画像Ｔ３３Ａには、重なり領域からはずれる部分にゴミ画像Ｇ３３Ａが認識されている。連結画像Ｔ３３Ｂでは、重なり領域内のゴミ画像Ｇ３３Ｂと、重なり領域から外れる部分のゴミ画像Ｇ３３Ｃが認識されている。
これらの画像について、まず、上述の「条件１：重なり領域のゴミ画像面積が大きい側のパスを下側に決定（ゴミ画像面積が小さいパスを優先パスとする）」に従って、優先パスを決定する。重なり領域では、ゴミ画像Ｇ３３Ｂが存在する分、パスＰ３３Ｂの方が、ゴミ画像面積が大きいことになる。従って、右上に示すように、連結画像Ｔ３３Ａが優先パスと決定され、その下に連結画像Ｔ３３Ｂを配置する状態となる。このように重ねた場合は、右上の図に示すように、ゴミ画像Ｇ３３Ｂが連結画像Ｔ３３Ａに隠され、道路画像の見栄えがよくなる。
【０１８５】
これに対し、右下の図には、仮に条件１に反してゴミ画像面積が大きい側のパスＰ３３Ｂを優先パスとした例を示した。連結画像Ｔ３３Ｂの下側に連結画像Ｔ３３Ａが配置された状態となる。このように重ねた場合は、右下の図に示すように、ゴミ画像Ｇ３３Ｂが道路画像内に存在することとなり、道路画像の見栄えを損なっている。
仮に、条件１、条件２で優先パスが決定できなかったとすると、「条件３：全領域のゴミ画像面積が大きい側のパスを下側に決定（ゴミ画像面積が小さいパスを優先パスとする）」に従って、優先パスを決定することになる。
【０１８６】
この場合は、連結画像Ｔ３３Ａ内のゴミ画像Ｇ３３Ａの面積と、連結画像Ｔ３３Ｂ内のゴミ画像Ｇ３３Ｂ、Ｇ３３Ｃの面積を比較する。ゴミ画像Ｇ３３Ａの面積の方が大きければ、右下の図のように連結画像Ｔ３３Ａが下側に配置されることになる。ゴミ画像Ｇ３３Ｂ、Ｇ３３Ｃの面積の方が大きければ、右上の図のように連結画像Ｔ３３Ｂが下側に配置されることになる。
連結画像全体での評価を行うのは、次の理由による。連結画像同士の重なり領域を外れる部分のゴミ画像は、実際には道路画像の見栄えには影響を与えない。しかし、実際にはゴミ画像は完全に認識できる訳ではない。従って、連結画像全体で認識されたゴミ画像の面積が大きい連結画像は、認識できていない分のゴミ画像も含めると、実質的には重なり領域のゴミ画像面積も大きくなる可能性が高い。条件３は、かかる観点から、連結画像全体のゴミ画像の量に基づいて、優先パスを決定している。
【０１８７】
（２）ゴミ画像の認識結果の反映：
上述の通り優先パスの決定には、ゴミ画像の認識結果を用いる。また、ゴミ画像とペイントの認識結果の双方を優先パスの決定条件で用いるため、ペイントはゴミ画像の認識結果も踏まえて認識されることが好ましい。
そこで、以下では、まず、ゴミ画像を例示し、ゴミ画像の認識結果をペイントの認識に反映させる方法を示した後、具体的に２通りのゴミ画像の認識方法について説明する。
【０１８８】
図３４は異物の写り込みを例示する説明図である。
図３４（ａ）にはフレーム画像を例示した。図中の中央当たりの枠Ａ３４内が、路面テクスチャの生成に利用される部分である（図７参照）。この例では、矢印Ｐ３４ｃが描かれた車線を走行しているものとする。この枠内には、矢印Ｐ３４ｃや車線境界線Ｐ３４ｂなどのペイントが写されている他、右隣の車線を走行するトラックの後部Ｐ３４ａが異物として写り込んでいる。
図３４（ｂ）は、異物が写り込んだフレーム画像を用いて生成した連結画像を示している。図３４（ａ）のように異物が写り込んだ部分は、連結画像では、図中の領域Ｇ３４に示すように、ペイントとして認識不能な部分として表される。以下、フレーム画像内に写り込んだ異物や、連結画像に表された異物をゴミ画像と呼ぶ。
【０１８９】
次に、ゴミ画像の認識結果をペイントの認識に反映させる方法について説明する。
図３５はゴミ画像の認識結果の反映方法を示すフローチャートである。ゴミ画像の認識結果は、ペイントの抽出に先立って行う前処理による反映方法と、ペイントの抽出後に行う後処理による反映方法とが可能である。
図中のフローチャートでは、左側に前処理、右側に後処理の場合の反映方法を示した。
これらの処理を実行するに当たり、別途、ゴミ認識処理（ステップＳ３５１）によって、フレーム画像または連結画像内のゴミ画像が認識されており、その結果がゴミ画像データに格納されているものとする。ゴミ認識処理（ステップＳ３５１）の内容は、後述する。
ここでは、ゴミ認識処理を独立して行う例を示しているが、前処理または後処理の過程に組み込んでも構わない。
【０１９０】
前処理の場合、ＣＰＵはフレーム画像を読み込み（ステップＳ３００Ａ）、ゴミ画像データを用いて、フレーム画像からゴミ画像を削除する（ステップＳ３０１）。この処理によって、例えば、図３４（ａ）に示した画像では、トラック後部の写り込みＰ３４ａが削除されることになる。
ＣＰＵは、ゴミ画像が除去されたフレーム画像を用いて、実施例（図１９参照）で説明した手順に従って、ペイントを抽出する。つまり、縦配置処理を行い（ステップＳ３０２）、横断関連ペイントを抽出し（ステップＳ３１０）、各種ペイントの抽出を行う（ステップＳ３５０）。そして、相対座標変換処理（図２１参照）を行う（ステップＳ３７０）。
前処理の方法によれば、ゴミ画像が除去されたフレーム画像を用いてペイントを抽出するため、ゴミ画像による誤認識を抑制することができる。
【０１９１】
後処理の場合、ＣＰＵはフレーム画像を読み込み（ステップＳ３００Ａ）、実施例（図１９）で説明した手順に従って、縦配置処理（ステップＳ３０２）、横断関連ペイント抽出（ステップＳ３１０）、各種ペイント抽出（ステップＳ３５０）、および相対座標変換処理（ステップＳ３７０）を行う。ここまでの処理は、ゴミ画像が含まれた連結画像を用いて行われるため、ゴミ画像による誤認識も含まれている。
次に、ＣＰＵはゴミ画像データを用いてゴミ画像の存在位置を読み込む（ステップＳ３５２）。ゴミ画像の存在位置とは、フレーム画像内で認識されたゴミ画像を、実施例と同様の方法で正射投影し（図７参照）、位置合わせ加工（図８参照）を施したものである。ゴミ画像はペイント抽出に使用される訳ではないので、縦配置処理は不要であり、縦配置の結果を絶対座標系の位置に変換するための相対座標変換処理は不要である。
ＣＰＵは、こうしてゴミ画像の存在領域が得られると、ペイントとゴミ画像の存在領域の位置関係を調べ、存在領域に重なるペイントを削除する（ステップＳ３５３）。かかるペイントは、ゴミ画像が誤認識されたものと判断されるからである。
【０１９２】
後処理の方法によれば、認識されたペイントのうち、ゴミ画像と位置的に重複するものを除去するため、ゴミ画像を誤認識したペイントが残存するのを抑制することができる。
図３５では、前処理と後処理とを別個独立の処理として説明した。ゴミ認識結果の反映は、前処理または後処理のいずれか一方の方法で行うものとしてもよいし、前処理を行った上で、更に後処理を適用してもよい。
以下では、ステップＳ３５１のゴミ画像認識処理の内容について具体的に説明する。ゴミ画像の認識方法としては、オプティカルフローによる方法と、階調差分による方法とがある。
【０１９３】
（３）ゴミ画像認識処理（１）〜オプティカルフロー：
図３６はゴミ画像認識処理（１）のフローチャートである。オプティカルフローを利用する処理例を示した。
ＣＰＵは、まず撮影位置約１ｍ間隔で配置された２枚のフレームデータを読み込む（ステップＳ３６１）。走行しながら撮影されたフレーム画像は、１ｍよりも短い距離間隔で得られているが、処理負荷を軽減するため、約１ｍ間隔でフレーム画像を間引き、その中の連続した２枚を読み込むものとした。約１ｍとしたのは、フレーム画像は厳密に１ｍ間隔で撮影されている訳ではないからである。
ＣＰＵは、フレーム画像の読み込みと併せて、その位置座標に基づき、フレーム間の距離を算出する（ステップＳ３６２）。
【０１９４】
次に、ＣＰＵは各フレーム画像から左右の検査領域を抽出する（ステップＳ３６３）。図中に検査領域の概要を示した。検査領域とは、フレーム画像ＦＬ３６のうち、路面テクスチャの生成に使用される矩形領域の中で、更に中央部分Ａ３６Ｃを除いた左右の領域Ａ３６Ｌ、Ａ３６Ｒである。路面テクスチャの生成に使用される領域に限るのは、この他の領域にゴミ画像が存在してもペイントの認識には影響を与えないからである。中央部分Ａ３６Ｃを除いたのは、自車が走行している車線には他の停車車両その他の異物は存在しないためである。これは、自車が走行する走行レーンにおいては、前方を走行する車両が画像作成範囲に入ってこないように車間距離を開けて走行することが可能だからである。
検査領域は、フレーム画像を解析して得るものではなく、フレーム画像内に固定の領域でよい。カメラが車両に固定された状態で撮影が行われているため、フレーム画像ＦＬ３６のうちテクスチャに使用可能な部分は固定されるし、ゴミ画像の認識が不要となる車両正面の領域Ａ３６Ｃも固定されるからである。車両正面の領域Ａ３６Ｃは、任意に設定可能であるが、例えば、自車が走行する車線幅に相当する領域となるよう設定することができる。
【０１９５】
ＣＰＵは、左右の検査領域の画像に基づき、オプティカルフローを生成する（ステップＳ３６４）。オプティカルフローとは、前のフレーム画像の検査領域内に存在する特徴点が、次のフレーム画像内では、どこに移動するかを示す特徴点追跡ベクトルである。
オプティカルフローの大きさは、生成に利用される２つのフレーム画像の間隔にも依存する。ＣＰＵは、フレーム画像の間隔に依存しない値に、オプティカルフローを正規化する。この例では、正規化として１ｍ間隔のフレーム画像から得られる値相当に換算する方法を採った。正規化は、例えば、次の方法で行うことができる。
（Ｖｘ，Ｖｙ）＝（ＯＦｘ／ＤＩＳＴ，ＯＦｙ／ＤＩＳＴ）；
Ｖｘ，Ｖｙ…正規化移動ベクトルのｘ、ｙ成分；
ＯＦｘ，ＯＦｙ…オプティカルフローのｘ、ｙ成分；
ＤＩＳＴ…２つのフレーム画像の間隔；
ＣＰＵは、検査領域内の各オプティカルフローを正規化して得られた正規化移動量ベクトルのそれぞれについて、次の３種類の評価値を求める（ステップＳ３６５）。
｜Ｖ｜…正規化移動量ベクトルの大きさ；
Ｖｘ…正規化移動量ベクトルのｘ成分；
Ｖｙ…正規化移動量ベクトルのｙ成分；
【０１９６】
そして、いずれかの評価値が異常となる点、即ちいずれかの評価値が、予め設定された閾値範囲を超える点を抽出する（ステップＳ３６６）。例えば、正規化移動量ベクトルの大きさ｜Ｖ｜が、予め設定された最小値｜Ｖ｜ｍｉｎより小さくなったり、最大値｜Ｖ｜ｍａｘよりも大きくなった場合には、異常と判断される。同様に、ｘ成分、ｙ成分についても、その最小値Ｖｘｍｉｎ、Ｖｙｍｉｎより小さくなったり、最大値Ｖｘｍａｘ，Ｖｙｍａｘよりも大きくなった場合には、異常と判断される。
閾値範囲は評価値の絶対値の許容範囲として設定してもよい。この場合には、正規化移動量ベクトルの大きさ｜Ｖ｜が、予め設定された閾値｜Ｖ｜ｔｈを超える場合に異常と判断される。同様に、ｘ成分、ｙ成分についても、その絶対値｜Ｖｘ｜、｜Ｖｙ｜が、それぞれの閾値｜Ｖｘ｜ｔｈ、｜Ｖｙ｜ｔｈを超える場合に異常と判断される。
【０１９７】
評価値が異常か否かを判断するための閾値は任意に設定可能である。例えば、異物の写っていない画面の正規化移動量ベクトルを求め、ここから得られる評価値の範囲に基づいて設定する方法を採ることができる。また、ここでは検査領域の全点に対し、統一的な閾値を用いるものとしたが、左右の検査領域で異なる閾値を用いてもよい。検査領域を更に細分化した部分ごとに閾値を変化させてもよい。
ステップＳ３６６では、正規化移動量ベクトルの大きさ、ｘ成分、ｙ成分のいずれか一つでも異常と判断された点を抽出しているが、全ての点が異常となる点を抽出するなど、他の評価方法をとることもできる。ＣＰＵは、次に、異常と判断された点を包含する凸ポリゴンを生成し、これをゴミ画像として格納する（ステップＳ３６７）。
ＣＰＵは以上の処理を、全フレームデータについて繰り返し実行して（ステップＳ３６８）、ゴミ画像認識処理を終了する。
【０１９８】
図３７はオプティカルフローの例である。自車の走行レーン正面の領域Ａ３７Ｃの両側に実線で囲んだ部分が検査領域Ａ３７Ｌ、Ａ３７Ｒである。図中に点状に示したのがオプティカルフローＶ３７である。この例では、検査領域Ａ３７Ｌ、Ａ３７Ｒにかかわらず、画像内全体でオプティカルフローＶ３７を求めた例を示した。検査領域Ａ３７Ｌ、Ａ３７Ｒには異物が存在していないため、オプティカルフローは自車の走行に伴って画面内で路面標示が移動する量および方向を示すベクトルとなる。１ｍ程度の移動では、図示するように点状に表される程度の大きさのベクトルに過ぎない。
このオプティカルフローを正規化した上で、正規化移動量ベクトルの大きさ、ｘ成分、ｙ成分の分布を求めれば、その最大値、最小値に基づいて、ゴミ認識処理（図３６）のステップＳ３６６で用いる閾値を設定することができる。
【０１９９】
図３８は走行車両がある場合のオプティカルフローの例である。自車の左側の車線を車両Ｃ３８が追い越していった場合の例を示した。左側の検査領域について、オプティカルフローＶ３８を示している。自車を追い越す車両の特徴点は、自車の移動よりも速い速度で移動するから、自車に対して前方、即ち画面内の右上方向に移動する。従って、オプティカルフローＶ３８は、右上方向を向くベクトルとなる。
この結果、車両Ａ３８に該当する部分では、オプティカルフローＶ３８の評価値（大きさ、ｘ成分、ｙ成分）は、予め設定された閾値を超え、異常と判断される。
異常と判断された点を包含する凸ポリゴンを生成することにより、ゴミ画像Ａ３８が認識される。車両Ｃ３８の上側および左側がゴミ画像Ａ３８に含まれていないのは、これらの部分が検査領域外だからである。また、ゴミ画像Ａ３８内の曲線Ｌ３８は、正規化移動量ベクトルの大きさ、ｘ成分、ｙ成分のうち、いずれの評価値で閾値を超えたかによる区分を表している。変形例では、いずれかの評価値が閾値を超えていれば全てゴミ画像と判断しているため、曲線Ｌ３８は特に意味を持たない。
【０２００】
図３９は停止車両がある場合のオプティカルフローの例である。自車の左側の車線に車両Ｃ３９が停車している場合の例を示した。左側の検査領域について、オプティカルフローＶ３９を示している。停車車両Ｃ３９は移動速度が０という点では路面標示と何ら変わらないが、路面標示と異なり立体であるため、フレーム画像では路面標示とは異なるオプティカルフローが得られる。追い越し（図３８）が、全体に右斜め上方向のオプティカルフローが得られているのに対し、停止車両では、車両右側面では左斜め下方向のオプティカルフローが得られ、車両後部では、左方向その他の複雑なオプティカルフローとなっている。
これらのオプティカルフローＶ３９を正規化し、閾値範囲を超える異常な点を包含する凸ポリゴンを生成した結果が、ゴミ画像Ａ３９である。この例では、車両Ｃ３９の全体をゴミ画像と認識することはできていないが、閾値範囲を調整することにより、全体をゴミ画像と認識することも可能である。
【０２０１】
（４）ゴミ画像認識処理（２）〜階調差分：
図４０はゴミ画像認識処理（２）のフローチャートである。階調差分を利用する処理例を示した。
ＣＰＵは、まず連結画像において連続するテクスチャ画像の重なり領域を抽出する（ステップＳ５０１）。図中に処理例を示した。左側に示すように連結画像内で隣接するテクスチャＴ４０１、Ｔ４０２に着目する。両者は、ハッチングの部分で重複している。従って、ＣＰＵは、右側に示すように、テクスチャＴ４０１のうち、テクスチャＴ４０２と重なる領域Ａ４０１を切り出す。また、同様に、テクスチャＴ４０２からは領域Ａ４０１を切り出す。
【０２０２】
次に、ＣＰＵは、平滑化フィルタを適用し、重なり領域の画像をぼかす（ステップＳ５０２）。平滑化フィルタは、任意のものを適用可能である。
平滑化を行う理由は次の通りである。このゴミ認識処理では、後述する通り、上述の重なり領域の画素ごとの階調差分に基づいてゴミ画像か否かを判断する。重なり領域では路面標示同士も重なるはずであり、ゴミ画像の部分にのみ階調差分が生じるはずだからである。しかし、実際には撮影時や処理過程で種々の誤差が含まれるため、重なり領域で路面標示の位置が完全に一致するとは限らない。かかる状態で、画素ごとに階調差分を算出すると、路面標示の部分もゴミ画像と誤認識されるおそれがある。そこで、ステップＳ５０２では、重なり領域の画像に平滑化フィルタを施し、重なり領域で路面標示の位置にずれが生じた場合でも、大きな階調差分が生じないようにした。
【０２０３】
こうして平滑化された画像を用いて、ＣＰＵは重なり領域間の階調差分を求め、階調差分が閾値を超える画素を抽出する（ステップＳ５０３）。
図中に処理例を示した。重なり画像Ａ４０１の画素Ｐｘａの色成分がＨ（色相）Ｓ（彩度）Ｖ（明度）系で（Ｈａ、Ｓａ、Ｖａ）と表されるとする。重なり画像Ａ４０２内で、これに対応する画素Ｐｘｂの色成分が（Ｈｂ、Ｓｂ、Ｖｂ）と表されるとする。
そして、両者の階調差分が閾値を超える画素を抽出する。
色相については｜Ｈａ−Ｈｂ｜＞閾値ＴＨＨとなる画素が抽出される。
彩度については｜Ｓａ−Ｓｂ｜＞閾値ＴＨＳとなる画素が抽出される。
明度については｜Ｖａ−Ｖｂ｜＞閾値ＴＨＶとなる画素が抽出される。
ここでは、明度の差分が閾値を超える画素を抽出する方法をとった。路面標示は白または黄色が使われているため、路面標示とその他のゴミ画像とは、明度の階調差分が最も顕著に生じるからである。もっとも、色相、彩度についての階調差分が閾値を超える画素も併せて抽出してもよい。また、明度、彩度、色相の全てで閾値を超える画素のみを抽出する方法をとることもできる。
【０２０４】
ＣＰＵは、抽出された画素を結合して、ゴミ画像領域を特定する（ステップＳ５０４）。
結合は、例えば、次の方法で行うことができる。まず、ゴミ画像として抽出された画素のうち、隣接する部分を結合する。次に、各画素について上下左右に所定画素ずつ太らせ処理を行う。この太らせの結果、結合された画素があれば、その部分も一つのポリゴンとして認識する。こうすることにより、ＣＰＵはゴミ画像領域を生成することができる。画素を結合して得られたポリゴンの凹部を埋め合わせて凸ポリゴン化してもよい。
最後に、ＣＰＵは閾値以下の微小面積の領域を削除する（ステップＳ５０５）。停車車両その他の異物は通常、大きなゴミ画像として認識されるからであり、また、微小面積のゴミ画像は残しておいたとしてもペイントの認識に大きな悪影響を与えないからである。もっとも、この処理は省略しても差し支えない。
【０２０５】
図４１はゴミ画像の認識例を示す説明図である。図４１（ａ）および図４１（ｂ）が、二つのテクスチャから切り出された重なり領域である。両者は、右側にゴミ画像Ｇ４１２、Ｇ４１３が写り込んでいる。また、図４１（ａ）には、別のゴミ画像Ｇ４１１が写り込んでいる。
図４１（ｃ）、図４１（ｄ）は、それぞれ図４１（ａ）、図４１（ｂ）に平滑化フィルタを適用した結果である。原データに比較して、路面標示等の輪郭がぼけていることが分かる。図４１（ｅ）、図４１（ｆ）は、それぞれ図４１（ｃ）と図４１（ｄ）の間の階調差分を求めた結果である。明度の階調差分が閾値ＴＨＶを超える範囲が実線で示したゴミ画像Ｇ４１４〜Ｇ４１７である。ゴミ画像Ｇ４１４，Ｇ４１６、およびＧ４１５，Ｇ４１７は、それぞれ同じものとなる。ここでは、図４１（ｃ）、図４１（ｄ）との対比が分かるよう、それぞれと重ね合わせて示したに過ぎない。
【０２０６】
例えば、図４１（ｆ）だけを見るとゴミ画像Ｇ４１６の部分は適正な路面標示に見える。しかし、ここと重ね合わされる図４１（ｅ）のゴミ画像Ｇ４１４が存在するため、階調差分は閾値を超える異常値となっているのである。
一方、ゴミ画像Ｇ４１５，Ｇ４１７は、異物の写り込みである。この例では、異物の写り込み全体をゴミ画像と認識できてはいないが、閾値の調整次第で全体を認識することが可能である。
図４１（ｇ）は、別のテクスチャについての認識結果である。上述の方法で階調差分を求めた結果、ゴミ画像Ｇ４１８が認識されている。ただし、これらのゴミ画像Ｇ４１８は、微小であるため、ＣＰＵはゴミ画像から除外する（図４０のステップＳ５０５参照）。
【０２０７】
変形例で示した優先パスの決定方法を用いれば、ペイントの量を考慮して上下関係を判断することにより、透明化ポリゴンの数を抑制したり形状を簡略化することができる。また、ゴミの量を考慮して上下関係を判断することにより、透明化ポリゴンを設定した後の道路画像の見栄えを向上させることができる。
また、上述の方法では、パスの上下関係を自動的に判断させるため、オペレータの主観が入り込まなくなり、オペレータによって道路画像の見栄えが異なるという不安定さを抑制することができる。
【０２０８】
Ｅ２．自動透明化ポリゴン生成処理（１）：
実施例では、ペイントが存在する箇所に透明化ポリゴンを生成する例を示した（図２５参照）。
図４２は実施例の方法による透明化ポリゴン設定例を示す説明図である。パスＰ４２Ａに対応する連結画像Ｔ４２Ａの上に、パスＰ４２Ｂに対応する連結画像Ｔ４２Ｂを重ね合わせた例を示している。領域Ａ４２では、透明化ポリゴンＴＰ４２を生成することによって、速度制限（５０ｋｍ／時）を示すペイントＰＴ４２が表れている。このように、ペイントの存在する部位に透明化ポリゴンを生成することによって、下側の連結画像に含まれるペイントを道路画像に活用することが可能となる。
しかし、この方法では、領域Ｂ４２に示すように、道路画像に異物が写り込んだゴミ画像が残ることがある。このようなゴミ画像の存在は、道路画像の見栄えを損ねてしまう。
変形例では、この道路画像の見栄えを向上するため、領域Ｂ４２に示すゴミ画像を透明化ポリゴンによって消去する方法を示す。このようにゴミ画像を消去するための透明化ポリゴンを、ゴミ画像消去ポリゴンと呼ぶものとする。
以下で示す処理は、自動透明化ポリゴン生成処理（図２２）において、ペイント用透明化ポリゴン設定処理（ステップＳ４１０）、ギザギザカット処理（ステップＳ４３０）、および透明化ポリゴン結合処理（ステップＳ４５０）の後に行うことが好ましい。
【０２０９】
図４３はゴミ画像消去ポリゴン生成処理のフローチャート（１）である。ＣＰＵは、ゴミ画像データから、上側のパスのゴミ画像の認識結果を読み込む（ステップＳ６０１）。ゴミ画像データとは、オプティカルフローおよび階調差分（図３６〜図４１）などの方法によって認識されたゴミ画像の存在部分を格納したデータである。
ＣＰＵは、このゴミ画像データに基づいて、各ゴミ画像をポリゴン化する（ステップＳ６０２）。このポリゴンを、以下、ゴミポリゴンと呼ぶものとする。図中にゴミポリゴンＧＰ４３１の例を示した。
【０２１０】
次にＣＰＵは、近くにあるゴミポリゴン同士をグループ化し、同一グループ内のゴミポリゴンを包含するゴミポリゴンを生成する（ステップＳ６０３）。
グループ化は、次の手順で行うことができる。まず処理対象となるゴミポリゴンを抽出し、最も近くに位置するゴミポリゴンを抽出する。このゴミポリゴン間の距離が所定値以下であれば、両者に同一のグループＩＤを付す。いずれかのゴミポリゴンに既にグループＩＤが付されている場合には、このグループＩＤを共通して用いればよい。一方、所定値を超える場合には、対象のゴミポリゴン単独にグループＩＤを付す。以上の処理を、全てのゴミポリゴンにグループＩＤが付されるまで、繰り返し実行すればよい。
図中の例では、破線で示したゴミポリゴンＧＰ４３１は、最も近いゴミポリゴンまでの距離が所定値以下となっている状態を示した。この結果、これらのゴミポリゴンには、順次、同一のグループＩＤが付されることになる。また、ゴミポリゴンＧＰ４３２は、最も近いゴミポリゴンまでの距離ｄ４３が所定値を超えているため、単独でグループとされている。
こうしてグループ化が完了すると、ＣＰＵは同一のグループに存在するゴミポリゴンＧＰ４３１を包含するゴミポリゴンＧＰ４３３を生成する。
【０２１１】
次にＣＰＵは下側のパスのルート領域を読み込む（ステップＳ６０４）。ルート領域とは、図２４で説明した通り、連結画像のうち、両端のギザギザ部分を除いた領域、つまり、パスに沿う方向の縁線に鋭角的に折れ曲がる部分が存在しない滑らかな状態となる領域を言う。
図４４はゴミ画像消去ポリゴン生成処理のフローチャート（２）である。
ＣＰＵは、上述の処理で生成されたゴミポリゴンと、ルート領域との重なり部分を抽出する（ステップＳ６０５）。
【０２１２】
図中に処理例を示した。ゴミポリゴンＧＰ４３２はルート領域Ｒ４３内に全体が含まれているため、そのまま抽出される。ゴミポリゴンＧＰ４３３は、ルート領域ＲＴ４３から一部はみ出しているため、ルート領域ＲＴ４３内の部分（図中のハッチングを付した部分）が抽出される。ゴミポリゴンＧＰ４３４は、ルート領域ＲＴ４３から全体がはみ出しているため、除外される。
こうすることにより、抽出されたゴミポリゴンを利用すれば、下側にルート領域が存在する部分にのみ透明化ポリゴンを生成することができるため、道路画像に穴が空いたかのような状態となることを回避できる。
【０２１３】
次に、ＣＰＵはギザギザカット処理の透明化ポリゴンと、ゴミポリゴンとを結合し、形状を修正する（ステップＳ６０６）。
図中に処理例を示した。連結画像Ｔｘ４３に対して、図２９で示したギザギザカット処理によって、透明化ポリゴンＴＰ２９が設定されているとする。また、この状態で、破線で示したゴミポリゴンＧＰ４３５が得られているとする。ステップＳ６０６の処理では、ゴミポリゴンＧＰ４３５を、透明化ポリゴンＴＰ２９に投影する。ゴミポリゴンＧＰ４３５が、透明化ポリゴンＴＰ２９に沿う方向に最大幅となる点Ｐ４３１、Ｐ４３２を求め、ここから透明化ポリゴンＴＰ２９に垂線をおろせばよい。
ＣＰＵは、このようにしてゴミポリゴンＧＰ４３５と透明化ポリゴンＴＰ２９とを結合するとともに、ゴミポリゴンＧＰ４３５の凹部を形成している構成点Ｐ４３３等を間引くことによって滑らかな形に整形し、ゴミポリゴンＧＰ４３６を得る。
この処理は、ゴミポリゴンＧＰ４３５と透明化ポリゴンＴＰ２９の距離が所定値以下の場合にのみ適用するようにしてもよい。
【０２１４】
以上の処理によって透明化ポリゴンを生成すれば、ゴミ画像を透明化ポリゴンによって消去することができ、道路画像の見栄えを向上することができる。
また、変形例の方法では、近くにあるゴミポリゴンを包含するゴミポリゴンを生成するため、ゴミ画像の認識処理で認識できずに漏れたゴミ画像も、まとめて消去することが可能となる。更に、ゴミ画像に基づいて生成されたゴミポリゴンと、ギザギザカット処理によって生成された透明化ポリゴンとを結合するため、両者の間隙に存在するゴミ画像もまとめて消去することが可能である。
【０２１５】
Ｅ３．自動透明化ポリゴン生成処理（２）： 次に、ゴミ画像を透明化ポリゴンによって消去する他の態様について説明する。
図４３，４４で示した処理では、ゴミ画像を認識し、そこに透明化ポリゴンを生成する方法を採った。これに対し、以下で示す態様では、上側の連結画像のうち、ペイント以外の不要な部分はゴミ画像か否かを判断するまでなく透明化ポリゴンで消去してしまう方法をとる。
図４５はゴミ画像消去ポリゴン生成処理（２）の処理例を示す説明図である。
始点Ｓ４５から終点Ｅ４５に向かうパスＰＳ４５の連結画像の左半分を示した。ただし、図の煩雑化を回避するため、連結画像を構成するテクスチャＴｘ４５は一部のみを示し、他の部分は図示を省略した。図中で、ハッチングを付した部分は、車線境界線等のペイントを表している。また、点Ｇ４５はゴミ画像を表している。
【０２１６】
この処理では、まず、始点Ｓ４５から終点Ｅ４５に至るまで、等間隔でパスＰＳ４５に対する垂線Ｌ４５［１］〜Ｌ４５［１８］を生成する。垂線の間隔ｄ４５は、０．５ｍ間隔など任意の値とすることができる。パスＰＳ４５を所定数で分割することによって与えられる間隔としてもよい。
ＣＰＵはこの垂線Ｌ４５［１］〜Ｌ４５［１８］の順に、透明化ポリゴンの構成点を次の方法で生成していく。まず、垂線Ｌ４５［１］について連結画像の側端側から矢印Ａ４５に示すように、ペイントを探索する。垂線Ｌ４５［１］のようにペイントが存在しない場合には、パスＰＳ４５から所定の距離ＯＳ４５１だけ離れた点に透明化ポリゴンの構成点Ｐ４５［１］を生成する。垂線Ｌ４５［２］についても同様に点Ｐ４５［２］を生成する。
所定の距離ＯＳ４５１も任意に設定可能であり、この例では、道路の車線の半幅に基づき１．５ｍに設定した。パスＰＳ４５を含む車線は連結画像の撮影時に走行した車線であり、異物は存在しないと考えられるからである。
【０２１７】
垂線Ｌ４５［３］にはペイントが存在する。この場合には、ペイントから所定距離ＯＳ４５２だけ離れた位置に構成点Ｐ４５［３］を生成する。距離ＯＳ４５２は、透明化ポリゴンがペイントにかかることを回避するために任意の値に設定される距離であり、この例では、０．２ｍとした。垂線Ｌ４５［４］についても、ペイントが存在するため、同様に点Ｐ４５［４］が生成される。
垂線Ｌ４５［５］上には、ペイントは存在しない。しかし、直前の垂線Ｌ４５［４］上にペイントが存在しておりパスＰＳ４５から比較的離れた位置に構成点Ｐ４５［４］が設定されている。従って、垂線Ｌ４５［１］等と同じようにパスＰＳ４５から距離ＯＳ４５１の位置に構成点を生成すると、透明化ポリゴンがいびつな形状となるおそれがある。そこで、直前の垂線Ｌ４５［４］上にペイントが存在している場合には、その垂線Ｌ４５［４］上の構成点Ｐ４５［４］と同じだけパスＰＳ４５から離れた位置に構成点Ｐ４５［５］と生成するものとした。
【０２１８】
垂線Ｌ４５［６］、Ｌ４５［７］上には２つのペイントが存在するが、矢印Ａ４５の方向に探索を行うため、側端側のペイントを基準として構成点Ｐ４５［６］、Ｐ４５［７］が生成される。以下、同様にして構成点Ｐ４５［８］〜Ｐ４５［１８］が設定される。
こうして得られた構成点Ｐ４５［１］〜Ｐ４５［１８］を結ぶとともに、その両端をギザギザカット処理（図２９）で得られる透明化ポリゴンの外側の線と結ぶことによって、透明化ポリゴンＰＯＬ４５を得る。
この例では、透明化ポリゴンＰＯＬ４５の境界線が、ペイントと交差のを回避するため、境界線はパスＰＳ４５に平行または垂直の線で構成した。斜めの境界線も許容しつつ、境界線とペイントが交差する場合には、ペイントを回避するよう境界線の形状を修正する方法を採っても良い。
【０２１９】
図４６はゴミ画像消去ポリゴン生成処理（２）のフローチャートである。図４５で説明した透明化ポリゴンを生成するための処理である。この処理も、自動透明化ポリゴン生成処理（図２２）において、ペイント用透明化ポリゴン設定処理（ステップＳ４１０）、ギザギザカット処理（ステップＳ４３０）、および透明化ポリゴン結合処理（ステップＳ４５０）の後に行うことが好ましい。
ＣＰＵは、ペイント認識結果（図１９参照）から上側のパスのペイントを読み込む（ステップＳ６６０）。そして、パスを等間隔に分割する垂線列を生成する（図Ｓ６６１）。図４５で示した垂線Ｌ４５を生成する処理である。
【０２２０】
ＣＰＵは、処理対象の垂線について連結画像の側端側からペイントとの交点を探索する（ステップＳ６６２）。交点がある場合には、図４５の垂線Ｌ４５［３］等で示したように、交点を外側に距離ＯＳ４５２だけオフセットした点を構成点として格納する。
交点がない場合には（ステップＳ６６３）、隣接する垂線上にペイントとの交点があるか否かを判断する（ステップＳ６６５）。図４５中の垂線Ｌ４５［５］のように、隣接する垂線Ｌ４５［４］上に交点がある場合には、隣接する垂線上の構成点と同じオフセットの点を構成点として格納する。図４５中の垂線Ｌ４５［１］のように、隣接する垂線上にペイントとの交点がない場合はパスから外側に距離ＯＳ４５１だけオフセットした点を構成点として格納する（ステップＳ６６７）。
【０２２１】
ＣＰＵは以上のステップＳ６６２〜Ｓ６６７の処理を、処理対象となる垂線がなくなるまで（ステップＳ６６８）、繰り返し実行する。そして、得られた構成点よりも外側のテクスチャを包含する透明化ポリゴンを生成する（ステップＳ６６９）。具体的には、図４５で説明したように、構成点を結んだ線の両端と、ギザギザカット処理（図２９）で得られる透明化ポリゴンの外側の線と結べばよい。
図４７は自動透明化ポリゴン生成処理（２）の適用例を示す説明図である。
図４７（ａ）には透明化ポリゴンを生成する前の状態を示した。パスＰ４７１の連結画像の上に、パスＰ４７２の連結画像が配置されているとする。パスＰ４７２の連結画像にはペイントＰＴ４７が認識されている。この状態で、図４５、図４６で説明した方法で透明化ポリゴンを生成すると、ペイントＰＴ４７よりも道路側端側を覆う透明化ポリゴンＰＯＬ４７が生成される。
【０２２２】
図４７（ｂ）には透明化ポリゴンＰＯＬ４７を適用した状態を示した。領域Ａ４７は透明化ポリゴンＰＯＬ４７によってゴミ画像が消去され、パスＰ４７１に対応する連結画像が表れている。パスＰ４７１の連結画像生成時に走行した車線には、異物は存在せず、ゴミ画像は存在しない。従って、パスＰ４７１の連結画像が表れるようにすることで、ゴミ画像を消去でき、道路画像の見栄えを向上させることができる。
以上で説明した処理では、連結画像内のゴミ画像を認識するまでなく非常に軽い負荷で透明化ポリゴンを生成し、ゴミ画像を消去することができる。
なお、この処理を適用する場合には、上側の連結画像については、ペイントを残して不要な部分を一括して消去するように透明化ポリゴンが設定されるから、ゴミ画像が多い連結画像を上側に配置し、透明化ポリゴンによって表される下側にゴミ画像が少ない連結画像を配置することが好ましい。従って、先に説明した優先パス決定処理（図３２）の条件１、３を次の通り変更することが好ましい。
【０２２３】
条件１：重なり領域のゴミ画像面積が小さい側のパスを下側に決定（ゴミ画像面積が大きいパスを優先パスとする）；
条件３：全領域のゴミ画像面積が小さい側のパスを下側に決定（ゴミ画像面積が大きいパスを優先パスとする）；
以上、本発明の種々の実施例について説明したが、本発明はこれらの実施例に限定されず、その趣旨を逸脱しない範囲で種々の構成を採ることができることはいうまでもない。
例えば、連結画像は、路面テクスチャを合成した一枚の画像として生成してもよい。この場合、複数パスの合成を行う際には、連結画像を路面テクスチャに相当する複数の領域に分割した上で、領域ごとに平行移動すればよい。
本実施例では、車両に搭載したビデオカメラで撮影した画像を利用する例を示したが、車両に限らず自転車その他の種々の移動体を利用可能であり、歩行しながら撮影する方法を採っても良い。
【０２２４】
実施例では、同時期に異なる位置を走行して得られた画像を合成する例を示した。本実施例は、異なる時期に得られた画像を比較して、道路に施された変化を反映した道路画像を生成するという態様でも利用可能である。この場合でも、連結画像の生成方法や、これらを合成して道路画像を生成する方法は、実施例と同様である。
透明化ポリゴンを設定する場合も、実施例と同様の方法を適用可能である。ただし、画像を取得した時期を基準に優先パスを決定することが好ましい。新しく取得された側を優先パスとするのである。路面のペイントの変化を道路画像に反映させるという目的を考慮すると、新しく撮影された画像を優先する方が好ましいからである。こうすることによって、従前は存在しなかったペイントが新たに施された場合には、透明化ポリゴンを設定するまでなく、道路画像に反映させることができる。
【０２２５】
実施例では、下側の連結画像にのみペイントが存在する時は、透明化ポリゴンの設定対象としていたが（図２５のステップＳ４１３、Ｓ４１５）、この態様では、透明化ポリゴンの設定対象から外すことが好ましい。つまり、図２５のステップＳ４１３で「Ｎｏ」判定の時には、ステップＳ４１６に処理を移行することが好ましい。従前描かれていたペイントが、削除された場合には、下側（古い側）の連結画像にのみペイントが存在し、上側（新しく取得された側）にはペイントが存在しない状態となるが、このような領域を、透明化ポリゴンの設定対象から外すことにより、こうしたペイントの削除も支障なく反映させることが可能となる。
【符号の説明】
【０２２６】
１００…道路面撮影システム
１１０…位置計測部
１１０…計測データ
１１２…コントローラ
１１４…ＧＰＳ
１１４Ａ…アンテナ
１１６…ＩＭＵ
１１８…ＤＭＩ
１２０…ビデオカメラ
１３０…記録装置
１４０…ハードディスク
１４２…画像データ
１４４…同期データ
１４６…計測データ
１５０…基準局データ
２００…路面標示地図生成装置
２０１…主制御部
２０２…コマンド入力部
２０３…表示制御部
２０４…データ入力部
２０５…軌跡データ算出部
２０６…画像変換部
２０７…１パス画像合成部
２１０ａ…軌跡データ
２１０ｂ…路面軌跡データ
２１０ｃ…路面テクスチャ
２１０ｄ…連結画像
２１０ｅ…道路画像
２１０ｆ…道路画像用登録データ
２１０ｇ…軌跡用登録データ
２１０ｃ…データ（路面テクスチャ
２１０…処理データ記憶部
２２０…位置合わせ処理部
２２１…透明化ポリゴン設定部
【特許請求の範囲】
【請求項１】
道路面に施された標示が含まれる路面標示地図をコンピュータによって生成する路面標示地図生成方法であって、
コンピュータが実行する工程として、
（ａ） 撮影対象である道路を複数回にわたって移動しながら前記標示が施された道路面を撮影した連続画像の画像データ、および該画像データの撮影位置を表す位置座標データを入力する工程と、
（ｂ） 前記入力された画像データを構成する各フレーム画像を変換して、前記道路面を真上から見た状態の正射画像を得る工程と、
（ｃ） 前記正射画像を前記位置座標データに基づいて、撮影された道路を移動した際の移動軌跡であるパス上に配置することにより、前記パスの道路面を表す連結画像を生成する工程と、
（ｄ） 前記位置座標データに基づき、前記複数のパスを構成する連結画像を重ねて、前記複数のパスにまたがる前記道路面の合成画像を生成する工程と、
（ｆ） 前記連結画像同士が重なっている領域において上側の連結画像を透過させて下側の連結画像を表示させるための透明化ポリゴンを、前記連結画像に応じて定まる位置および形状で生成する工程と
を備える路面標示地図生成方法。
【請求項２】
請求項１記載の路面標示地図生成方法であって、
前記工程（ｆ）では、前記下側の連結画像が存在する範囲内で前記透明化ポリゴンを生成する路面標示地図生成方法。
【請求項３】
請求項１または２記載の路面標示地図生成方法であって、
前記工程（ｆ）では、前記連結画像に含まれる標示に基づいて前記透明化ポリゴンの位置および形状を生成する路面標示地図生成方法。
【請求項４】
請求項３記載の路面標示地図生成方法であって、
前記工程（ｆ）では、下側の連結画像に含まれる標示が、上側の連結画像に含まれる標示よりも正確さを表す評価値が高いと判断される部分に前記透明化ポリゴンを生成する路面標示地図生成方法。
【請求項５】
請求項３記載の路面標示地図生成方法であって、
前記工程（ｆ）では、下側の連結画像にのみ前記標示が含まれている部分に前記透明化ポリゴンを生成する路面標示地図生成方法。
【請求項６】
請求項３〜５いずれか記載の路面標示地図生成方法であって、更に、
（ｅ） 前記各連結画像に対し、画像処理によって、前記標示を認識する工程を備え、
前記工程（ｆ）では、前記認識の結果に基づき、前記透明化ポリゴンを生成する路面標示地図生成方法。
【請求項７】
請求項１〜５いずれか記載の路面標示地図生成方法であって、
前記工程（ｆ）では、前記上側の連結画像の側端の所定範囲を覆うように前記透明化ポリゴンを生成する路面標示地図生成方法。
【請求項８】
請求項１〜７いずれか記載の路面標示地図生成方法であって、
前記工程（ｄ）は、
（ｄ１） 複数のパスのうち２本以上のパスの連結画像に共通して撮影されている領域内で、対応する対応点を特定する工程と、
（ｄ２） 前記複数のパスのうち１本を基準パスとして設定する工程と、
（ｄ３） 前記対応する対応点の位置が一致するように設定された移動ベクトルに基づいて、前記基準パス以外のパスを構成する領域ごとに平行移動して、前記複数のパスにまたがる前記道路面の合成画像を生成する工程と
を備える路面標示地図生成方法。
【請求項９】
請求項１〜８いずれか記載の路面標示地図生成方法であって、更に、
（ｇ） 前記工程（ｆ）において生成された複数の透明化ポリゴンのうち、相互に重なり合うものを結合する工程
を備える路面標示地図生成方法。
【請求項１０】
請求項１〜９いずれか記載の路面標示地図生成方法であって、
前記工程（ｄ）は、
（ｄ４） 前記道路面の合成画像の生成に先立って、前記連結画像またはフレーム画像を用いた画像処理によって、前記連結画像内の標示の量、および標示以外の異物の量の少なくとも一方を検出する工程と、
（ｄ５） 該検出結果に基づいて、いずれのパス上の正射画像を上側に配置するかを決定する工程と
を備える路面標示地図生成方法。
【請求項１１】
請求項１０記載の路面標示地図生成方法であって、
前記工程（ｄ４）では、前記標示の量および前記異物の量の双方を検出し、
前記工程（ｄ５）では、前記異物の量に基づいて前記正射画像の配置が決定できない場合に前記標示の量に基づいて前記正射画像の配置を決定する路面標示地図生成方法。
【請求項１２】
請求項１０または１１記載の路面標示地図生成方法であって、
前記工程（ｄ４）では、前記標示および異物の少なくとも一方について、前記連結画像全体における量と、前記連結画像同士が重なっている領域における量とを求め、
前記工程（ｄ５）では、前記連結画像全体における量よりも、前記連結画像同士が重なっている領域における量を優先的に評価することにより、前記正射画像の配置を決定する路面標示地図生成方法。
【請求項１３】
請求項１０〜１２いずれか記載の路面標示地図生成方法であって、
前記工程（ｆ）は、
前記上側の連結画像内において前記異物が写り込んだ部分を抽出する工程と、
前記異物の少なくとも一部に対応する領域を覆う透明化ポリゴンを生成する工程と
を備える路面標示地図生成方法。
【請求項１４】
請求項１３記載の路面標示地図生成方法であって、
前記工程（ｆ）は、
（ｆ１） 前記上側の連結画像の側端の所定範囲を覆うように前記透明化ポリゴンを生成する工程と、
（ｆ２） 前記異物の少なくとも一部を覆う透明化ポリゴンと、前記工程（ｆ１）で生成された透明化ポリゴンとの間隙を埋めるように一体化する工程と
を備える路面標示地図生成方法。
【請求項１５】
請求項１〜１２いずれか記載の路面標示地図生成方法であって、
前記工程（ｆ）は、
（ｆ３） 前記上側の連結画像に含まれる標示を抽出する工程と、
（ｆ４） 抽出された前記上側の標示について、他の標示にかぶらない範囲で、該標示よりも前記連結画像の側端側を覆う透明化ポリゴンを生成する工程と
を備える路面標示地図生成方法。
【請求項１６】
請求項１５記載の路面標示地図生成方法であって、
前記工程（ｆ）は、更に、
（ｆ５） 前記パスに対して投影可能な前記標示が存在しない部分では、該パスに交差する方向に該パスから所定の距離内にある部分を除く範囲で前記連結画像を覆う透明化ポリゴンを生成する工程
を備える路面標示地図生成方法。
【請求項１７】
道路面に施された標示が含まれる路面標示地図を生成する路面標示地図生成装置であって、
撮影対象である道路を複数回にわたって移動しながら前記標示が施された道路面を撮影した連続画像の画像データ、および該画像データの撮影位置を表す位置座標データを入力する入力部と、
前記入力された画像データを構成する各フレーム画像を変換して、前記道路面を真上から見た状態の正射画像を得る画像変換部と、
前記正射画像を前記位置座標データに基づいて、撮影された道路を移動した際の移動軌跡であるパス上に配置することにより、前記パスの道路面を表す連結画像を生成する連結画像生成部と、
前記位置座標データに基づき、複数のパスを構成する連結画像を重ねて、前記複数のパスにまたがる前記道路面の合成画像を生成する合成画像生成部と、
前記連結画像同士が重なっている領域において上側の連結画像を透過させて下側の連結画像を表示させるための透明化ポリゴンを、前記連結画像に応じて定まる位置および形状で生成する透明化ポリゴン生成部と
を備える路面標示地図生成装置。
【請求項１８】
道路面に施された標示が含まれる路面標示地図を生成するためのコンピュータプログラムであって、
撮影対象である道路を複数回にわたって移動しながら前記標示が施された道路面を撮影した連続画像の画像データ、および該画像データの撮影位置を表す位置座標データを入力する入力サブプログラムと、
前記入力された画像データを構成する各フレーム画像を変換して、前記道路面を真上から見た状態の正射画像を得る画像変換サブプログラムと、
前記正射画像を前記位置座標データに基づいて、撮影された道路を移動した際の移動軌跡であるパス上に配置することにより、前記パスの道路面を表す連結画像を生成する連結画像生成サブプログラムと、
前記位置座標データに基づき、複数のパスを構成する連結画像を重ねて、前記複数のパスにまたがる前記道路面の合成画像を生成する合成画像生成サブプログラムと、
前記連結画像同士が重なっている領域において上側の連結画像を透過させて下側の連結画像を表示させるための透明化ポリゴンを、前記連結画像に応じて定まる位置および形状で生成する透明化ポリゴン生成サブプログラムと
を備えるコンピュータプログラム。

【図１】
image rotate

【図２】
image rotate

【図３】
image rotate

【図５】
image rotate

【図６】
image rotate

【図７】
image rotate

【図８】
image rotate

【図９】
image rotate

【図１０】
image rotate

【図１４】
image rotate

【図１５】
image rotate

【図１６】
image rotate

【図１９】
image rotate

【図２０】
image rotate

【図２１】
image rotate

【図２２】
image rotate

【図２３】
image rotate

【図２４】
image rotate

【図２５】
image rotate

【図２６】
image rotate

【図２７】
image rotate

【図２８】
image rotate

【図２９】
image rotate

【図３０】
image rotate

【図３２】
image rotate

【図３５】
image rotate

【図４０】
image rotate

【図４３】
image rotate

【図４４】
image rotate

【図４５】
image rotate

【図４６】
image rotate

【図４】
image rotate

【図１１】
image rotate

【図１２】
image rotate

【図１３】
image rotate

【図１７】
image rotate

【図１８】
image rotate

【図３１】
image rotate

【図３３】
image rotate

【図３４】
image rotate

【図３６】
image rotate

【図３７】
image rotate

【図３８】
image rotate

【図３９】
image rotate

【図４１】
image rotate

【図４２】
image rotate

【図４７】
image rotate

【公開番号】特開２００９−２５８６５１（Ｐ２００９−２５８６５１Ａ）
【公開日】平成２１年１１月５日（２００９．１１．５）
【国際特許分類】
【出願番号】特願２００９−１７５２８（Ｐ２００９−１７５２８）
【出願日】平成２１年１月２９日（２００９．１．２９）
【出願人】（５９７１５１５６３）株式会社ゼンリン (155)
【Ｆターム（参考）】

[ Back to top ]